🧠 راز اعتماد به مدل‌های زبانی: هوش مصنوعی واقعاً چه می‌داند؟

محققان به تازگی در مطالعه‌ای جدید به سراغ سوالی بنیادی رفته‌اند: وقتی یک مدل زبانی (LLM) با اطمینان پاسخ می‌دهد، این “اعتماد به نفس” از کجا می‌آید؟

تیم پژوهشی با استفاده از روش‌های علوم اعصاب محاسباتی بررسی کردند که آیا خروجی مدل‌ها (Logits) صرفاً یک حدسِ ساده است یا نتیجه پردازش‌های عمیق و منطقی.

نتایج نشان می‌دهد که در بسیاری از مدل‌های پیشرفته، این خروجی‌ها در واقع بازتابی از یک “متغیر تصمیم‌گیری پنهان” هستند و مدل‌ها به شکلی منطقی بین پاسخ درست و غلط تمایز قائل می‌شوند. این کشف علمی می‌تواند در آینده به ما کمک کند مدل‌هایی بسازیم که نه تنها دقیق‌تر هستند، بلکه بهتر می‌توانند تشخیص دهند که چه زمانی باید به پاسخ‌های خود اعتماد کنند یا هشدار عدم قطعیت بدهند.

این یک قدم رو به جلو برای رسیدن به “هوش مصنوعی قابل‌اعتماد” (Trustworthy AI) است! 🚀

منبع: arXiv AI