محققان در مطالعه جدیدی به سراغ مبحث جذاب «کنترل روانشناختی» در مدلهای زبانی بزرگ (LLMs) رفتهاند! فریمورک جدیدی به نام PsySET معرفی شده که بررسی میکند چطور میتوان شخصیت و حالات هیجانی (مثل شادی یا خشم) را در مدلهای هوش مصنوعی تغییر داد.
نکته جالب اینجاست که این تحقیق نشان میدهد «دستکاری احساسات» هوش مصنوعی میتواند شمشیر دو لبه باشد. برای مثال، القای حس شادی ممکن است دقت مدل در برابر حملات متنی را کاهش دهد، در حالی که القای خشم میتواند مقاومت مدل در برابر نشت اطلاعات را بالا ببرد اما باعث افزایش توهینآمیز بودن پاسخها شود.
این تحقیق گامی مهم برای درک بهترِ نحوه تعاملات انسانی با هوش مصنوعی و تضمین ایمنی و اخلاق در سیستمهای آینده است. نظر شما چیست؟ آیا هوش مصنوعی با احساساتِ «برنامهریزیشده» ترسناک است یا کاربردی؟
منبع: arXiv AI
