🔍 کشف نحوه درک حقیقت در مدل‌های زبانی؛ وقتی متن، منطق را تغییر می‌دهد!

محققان در مطالعه‌ای جدید به بررسی این موضوع پرداخته‌اند که مدل‌های زبانی بزرگ (LLM) چطور «حقیقت» را در فضای هندسی خود رمزگذاری می‌کنند. نتایج این تحقیق نشان می‌دهد که وقتی به یک مدل، «زمینه» (Context) می‌دهیم، جهت و قدرتِ «بردار حقیقت» در اعماق مدل تغییر می‌کند.

نکات کلیدی این تحقیق:
✅ مدل‌های بزرگتر، تفاوت بین اطلاعات مرتبط و غیرمرتبط را بیشتر از طریق تغییرات جهت‌گیری (Directional change) درک می‌کنند.
✅ اضافه کردن زمینه (Context)، باعث تقویت جداسازیِ مفاهیمِ درست و غلط در حافظه مدل می‌شود.
✅ اطلاعاتی که با دانش قبلی مدل در تضاد هستند، تغییرات هندسی بزرگتری نسبت به اطلاعات همسو ایجاد می‌کنند.

این اولین پژوهشی است که به صورت دقیق نشان می‌دهد چگونه «زمینه» می‌تواند ساختار داخلی حقیقت را در ذهن هوش مصنوعی دگرگون کند! 🧠✨

منبع: arXiv AI