محققان در یک مطالعه جدید، روشی نوآورانه برای سنجش «فراشناخت» (Metacognition) در مدلهای زبانی بزرگ (LLMs) ارائه دادهاند. این تحقیق به بررسی این موضوع میپردازد که آیا مدلهایی مثل GPT-5 یا DeepSeek میتوانند به درستی حدس بزنند که چه زمانی پاسخشان دقیق است و چه زمانی در حال حدس زدن هستند.
این یعنی هوش مصنوعی در حال یادگیریِ «سنجشِ میزان اطمینان» به خود است؛ قابلیتی حیاتی برای کاهش خطا در فرآیندهای تصمیمگیری حساس. در این مقاله از استانداردهای روانشناسی برای ارزیابی اینکه آیا هوش مصنوعی میتواند بین پاسخهای درست و غلط خود تمایز قائل شود، استفاده شده است.
پیشرفت در این حوزه میتواند به ما کمک کند تا بفهمیم مدلهای هوش مصنوعی چقدر در ارزیابیِ ریسک و مدیریت عدم قطعیت قابل اعتماد هستند. نظر شما چیست؟ آیا هوش مصنوعی روزی به سطحی از خودسنجی میرسد که به جای ما تصمیم بگیرد؟
منبع: arXiv AI