محققان در یک پژوهش جذاب، راهکاری جدید برای فهم بهتر مکانیسمهای درونی مدلهای هوش مصنوعیِ مرتبط با فیزیک کوانتوم ارائه دادهاند.
این تیم با استفاده از «خودرمزگذارهای تنک» (Sparse Autoencoders)، توانستند ویژگیهای نهفتهای را در این مدلها کشف کنند که دقیقاً با مفاهیم فیزیکی (مثل مغناطش) همسو هستند. جالبتر اینکه آنها ثابت کردند با تغییرِ هدفمندِ یک ویژگیِ واحد در مدل، میتوان خروجیهای فیزیکی آن را بدون تغییر در انرژی، کنترل کرد!
این دستاورد یک گام بزرگ برای تبدیل مدلهای «جعبهسیاه» به سیستمهای شفاف و قابل تفسیر در علوم محاسباتی است.
منبع: arXiv AI
