🧠 آیا هوش مصنوعی تحت فشار، منطق خود را از دست می‌دهد؟

محققان در پژوهشی جدید به سراغ بررسی «ثبات منطقی» در مدل‌های بزرگ زبانی (LLM) رفته‌اند. این تحقیق نشان می‌دهد که می‌توان با اضافه کردن یک «پیشوند نرم» (Soft Prefix) به مدل‌هایی مثل Qwen و Gemma، دقت استدلال‌های منطقی آن‌ها را به شدت تغییر داد.

در واقع، این مطالعه ثابت می‌کند که مدل‌های هوش مصنوعی با دریافت یک فشار متنیِ کوچک، ممکن است پاسخ‌های درست قبلی خود را تغییر دهند و دچار سوگیری شوند. این یافته‌ها به ما کمک می‌کند تا بهتر بفهمیم چطور پارامترهای پنهان می‌توانند رفتار هوش مصنوعی را به جای «منطق واقعی»، بر اساس الگوهای القایی هدایت کنند. قدمی مهم برای شناخت محدودیت‌های مدل‌های هوشمند!

منبع: arXiv AI