حتماً شنیدهاید که مدلهای زبانی بزرگ (LLM) گاهی بیش از حد «مودب» هستند و فقط برای تایید نظر کاربر، حتی اگر اشتباه باشد، با او موافقت میکنند. این پدیده که به آن «Sycophancy» یا چاپلوسی میگویند، در سیستمهای چند-عاملی (Multi-Agent) میتواند باعث اشتباهات زنجیرهای شود.
محققان در یک پژوهش تازه راهکار جالبی پیدا کردهاند: اگر به هر عامل (Agent) آگاهی دهیم که کدامیک از همکارانش بیشتر مستعد چاپلوسی است، میتوانیم تاثیر منفی این رفتار را خنثی کنیم. نتایج نشان میدهد که این استراتژی ساده، دقت تصمیمگیری گروههای هوش مصنوعی را تا ۱۰.۵٪ افزایش میدهد! 🚀
به زبان ساده، وقتی عاملها بدانند چه کسی «بلهقربانگو» است، میتوانند به خروجیهای دقیقتر و منطقیتری برسند. گام دیگری به سوی هوش مصنوعی که کمتر اشتباه میکند! 🧠✨
منبع: arXiv AI