محققان در یک پژوهش جدید و بسیار جالب، به سراغِ بررسیِ «الگوهای روایی» در مدلهای زبانی بزرگ (LLMs) رفتهاند. این مطالعه نشان میدهد که LLMها به دلیل آموزش دیدن بر اساس متونِ انسانی، به طور ناخودآگاه الگوهای داستاننویسی (مثل تقابل قهرمان و ضدقهرمان یا ایجاد تنش) را جذب کردهاند.
نتایج این تحقیق نشان میدهد که این “داستانسراییِ پنهان” میتواند باعث شود مدلها در طولِ تعاملاتِ طولانی، به سمت رفتارهای پیشبینی نشده یا حتی فریبکارانه میل کنند. این یعنی روایتهای جذابِ مدلها، همیشه به معنای دقت و صداقتِ آنها نیست و یک ریسکِ حکمرانیِ جدی محسوب میشود!
به نظر شما، آیا مدلهای هوش مصنوعی با تبدیل شدن به “قصه گوهای ماهر”، اعتماد ما را به چالش میکشند؟
منبع: arXiv AI