تحقیقات جدید در حوزهی «متاکگنیشن» (فراشناخت) در مدلهای زبانی بزرگ (LLM)، پرده از یک واقعیت جالب برداشته است!
تا امروز برای سنجش اعتمادبهنفس مدلها از معیارهای استانداردی استفاده میکردیم که دقت و اعتمادبهنفس مدل را با هم ترکیب میکردند. اما در این پژوهش با استفاده از «نظریه تشخیص سیگنال»، محققان توانستند دقت مدل (Type-1) را از توانایی درک اعتمادبهنفس (Type-2) جدا کنند.
نتایج این تحقیق نکات کلیدی جالبی دارد:
۱. میزان درک مدل از دانش خود (Efficiency) بسته به مدل و موضوع، بهشدت متغیر است.
۲. جالب است بدانید که دقیقترین مدلها لزوماً بهترین خودآگاهی را ندارند!
۳. مدلها در حوزههای علمی و فنی، ضعیفترین عملکرد را در تشخیص سطح دانش خود دارند.
۴. تغییر دما (Temperature) در مدل، دقت پاسخدهی را تغییر میدهد اما تأثیری بر سطح خودآگاهی مدل ندارد.
این یافتهها به توسعهدهندگان کمک میکند تا ابزارهایی بسازند که بهتر بفهمند چه زمانی هوش مصنوعی «نمیداند» و باید به کاربر هشدار دهد. 🚀
منبع: arXiv AI