🚀 هوش مصنوعی چقدر در تصمیم‌گیری‌های حساس «منصف» است؟

تحقیقات جدید نشان می‌دهد که مدل‌های زبانی بزرگ (LLM) در تصمیم‌گیری‌های مهم مانند استخدام یا پذیرش دانشگاه، دچار سوگیری‌های عجیبی هستند! 🧠

این مطالعه نشان می‌دهد مدل‌ها بسته به «ترتیب نمایش گزینه‌ها» یا حتی «نام افراد»، قضاوت‌های متفاوتی دارند. نکته جالب اینجاست که گاهی اوقات مدل‌ها به دلیل همین سوگیری‌های ترتیبی، گزینه‌های ضعیف‌تر را به اشتباه انتخاب می‌کنند!

این یافته‌ها زنگ خطری برای شرکت‌هایی است که از هوش مصنوعی در تصمیم‌گیری‌های حیاتی استفاده می‌کنند. محققان در حال کار بر روی راهکارهایی هستند تا این «خطاهای قضاوتی» مدل‌ها را به حداقل برسانند.

منبع: arXiv AI