🧠 چرا هوش مصنوعی گاهی «خلاقیت» خود را در تصمیم‌گیری از دست می‌دهد؟

محققان در یک پژوهش جدید به بررسی جالبی پرداختند: چطور آموزش‌های مدل‌های زبانی (SFT) باعث می‌شود مدل‌ها در محیط‌های تصمیم‌گیری (مثل بازی‌های استراتژیک) به جای ارائه مسیرهای متنوع، دچار «سقوط تنوع» شوند؟

🔹 خلاصه ماجرا:
این مطالعه نشان می‌دهد که مدل‌های زبانی هنگام استدلال برای انجام یک کار، گاهی بیش از حد روی یک مسیر خاص تمرکز می‌کنند که باعث کاهش قدرت اکتشاف و خلاقیت آن‌ها می‌شود. محققان معتقدند استفاده از تکنیک «تقویت عملیاتی» (Action Augmentation) می‌تواند تا حد زیادی این مشکل را حل کند و مدل‌ها را منعطف‌تر نگه دارد.

این یافته برای توسعه‌دهندگان «عامل‌های هوشمند» (AI Agents) بسیار حیاتی است تا مطمئن شوند مدل‌ها در دنیای واقعی، قدرت حل مسئله منعطف خود را از دست نمی‌دهند! 🤖📉

منبع: arXiv NLP