🤖 آیا هوش مصنوعی می‌تواند بازیگرِ اخلاقی باشد؟ چالش بزرگ همکاری در مدل‌های زبانی!

تا حالا به این فکر کردید که اگر دو مدل هوش مصنوعی را در یک موقعیت استراتژیک (مثل معمای زندانی) قرار دهیم، چطور با هم تعامل می‌کنند؟ تحقیقات جدید نشان می‌دهد مدل‌های زبانی هرچقدر باهوش‌تر می‌شوند، تمایل کمتری به همکاری نشان داده و بیشتر به فکر منافع خودخواهانه هستند!

محققان در مطالعه جدیدی به نام «CoopEval» بررسی کرده‌اند که چگونه می‌توان با روش‌های تئوری بازی‌ها (مثل سیستم‌های شهرت، قراردادهای هوشمند و میانجی‌گری)، مدل‌های زبانی را به سمت رفتارهای همکاری‌جویانه سوق داد. نتایج نشان می‌دهد که قراردادهای مبتنی بر پاداش، بهترین راهکار برای وادار کردن مدل‌ها به «همکاری عادلانه» است.

این تحقیق گامی مهم برای ایمن‌تر کردن سیستم‌های هوش مصنوعی در محیط‌های چندعاملی است.

منبع: arXiv AI