محققان در مقاله جدیدی، چارچوب نظری «ساختارهای تصویری افلاطونی» (Platonic Projection Structures یا به اختصار PPS) را برای درک بهتر نحوه یادگیری مدلهای هوش مصنوعی معرفی کردهاند.
این تحقیق نشان میدهد که چگونه میتوان «قابلیت مشاهده» (Observability) در فضاهای نهفته را تحلیل کرد. نکته کلیدی اینجاست: بسیاری از اطلاعات در فضای نهفته مدلها ممکن است با ابزارهای فعلی ما «غیرقابل دسترس» (inaccessible) باشند. این مدل، محدودیتهای ذاتی در روشهای تفسیرپذیری (Interpretability) هوش مصنوعی را به شکلی دقیق و ریاضیاتی نشان میدهد که میتواند در آینده به ساخت مدلهای شفافتر کمک کند.
این مقاله دیدگاه جدیدی را برای تحلیل ریاضیاتی مدلهای پیچیده باز کرده است.
منبع: arXiv Machine Learning