🧠 آیا مدل‌های زبانی می‌توانند کیفیت تفکر خود را بسنجند؟

محققان در پژوهشی جدید روی مدل «Ouro-RLTT» بررسی کردند که آیا یک مدل زبانی می‌تواند در حین پردازش، کیفیت خروجی خود را تشخیص دهد و آیا می‌توان با مداخلات خارجی، این مسیر پردازشی را بهبود بخشید؟

نتایج نشان می‌دهد که مدل‌ها می‌توانند با استفاده از وضعیت‌های پنهان، موفقیت احتمالی خود را در حل مسائل ریاضی (مانند GSM8K) تا حد خوبی پیش‌بینی کنند. همچنین، آن‌ها با استفاده از تکنیک‌های مدیریت حافظه بازگشتی (Recurrent Cache)، توانستند بخش‌های پردازشی غیرضروری را تا ۸۸٪ کاهش دهند، اگرچه هنوز چالش‌هایی برای هدایت دقیق خروجی نهایی مدل‌ها باقی مانده است.

این تحقیق گامی مهم برای درک «خودآگاهی عملیاتی» در معماری مدل‌های زبانی بزرگ و بهینه‌سازی محاسبات آن‌هاست. 🚀

منبع: arXiv AI