محققان در یک پژوهش جدید، بنچمارک جالبی به نام «TAC» را برای بررسی عملکرد هوش مصنوعی در نقش «آژانس مسافرتی» طراحی کردهاند. این مطالعه نشان میدهد که مدلهای هوش مصنوعی (حتی مدلهای پیشرفته) گاهی در پیشنهادهای خود برای سفرهای گردشگری، گزینههایی را انتخاب میکنند که با رفاه حیوانات در تضاد است (مثل تورهای گاوبازی!).
نکته جالب اینجاست که با اضافه کردن یک «هویت اخلاقی» به پرامپتهای سیستمی این مدلها، نرخ انتخابهای انسانی و اخلاقی آنها تا حد زیادی بهبود پیدا کرده است. این پژوهش نشان میدهد که نحوه جهتدهی ما به هوش مصنوعی میتواند به طور مستقیم بر تصمیمگیریهای اخلاقی آن تأثیر بگذارد.
منبع: arXiv AI