تا حالا فکر کردید که چرا پاسخهای هوش مصنوعی گاهی متناقض به نظر میرسند؟ محققان در بررسی جدیدی متوجه شدند که مدلهای زبانی (LLM) به شدت تحت تاثیر «نحوه بیان سوال» (Framing) هستند.
در این تحقیق مشخص شد که اگر یک سوال اخلاقی را با ساختار مثبت یا منفی بپرسیم، مدلها ممکن است تغییر موضع ۱۸۰ درجهای بدهند! برای مثال، برخی مدلهای کوچک با تغییر جمله از «باید انجام شود» به «نباید انجام نشود»، نظرشان تا ۷۶ درصد تغییر میکند.
این یافتهها نشان میدهد که هوش مصنوعی هنوز در درک مفاهیم اخلاقی ثابتقدم نیست و نباید بهطور کامل به قضاوتهای آن در مسائل حساس اعتماد کرد. این پژوهش زنگ خطری است برای توسعهدهندگانی که قصد دارند از AI به عنوان قاضی یا مشاور اخلاقی استفاده کنند.
منبع: arXiv AI