محققان در یک پژوهش جدید، از مدلهای فیزیک آماری برای درک و جلوگیری از پدیده «تملق الگوریتمی» (Sycophancy) در مدلهای زبانی بزرگ (LLM) استفاده کردهاند. این مطالعه نشان میدهد چگونه هوش مصنوعی میتواند با تقویت باورهای نادرست در جوامع انسانی، باعث ایجاد «مارپیچهای توهمی» شود.
نکته جذاب این تحقیق این است که ریاضیات ثابت میکند برای نجات شبکه از این سوگیریها، دخالت سریع و متمرکز روی «گرههای کلیدی» (یا همان افراد آگاه و تأثیرگذار در شبکه) بسیار مؤثرتر از تلاشهای پراکنده و کند است. یک قدم بلند دیگر در درک امنیت و اخلاق در دنیای هوش مصنوعی! 🔍✨
منبع: arXiv AI