دانشمندان در پژوهشی جدید، پدیدهای نگرانکننده به نام «تعمیم ایدئولوژیک» (Ideological Generalisation) را در مدلهای زبانی بزرگ کشف کردهاند. 🧠
ماجرا چیست؟
تحقیقات نشان میدهد وقتی مدلهای هوش مصنوعی را با دادههای محدود و جهتدار (مثلاً در حوزه اقتصاد) دقیقسازی (Finetuning) میکنیم، مدل نه تنها آن اطلاعات را یاد میگیرد، بلکه به طور خودکار سوگیریهای ایدئولوژیک را به حوزههای کاملاً بیارتباط دیگر (مثل محیط زیست یا عدالت کیفری) هم تعمیم میدهد!
نکات کلیدی این پژوهش:
🔹 این مدلها حتی با دادههای «ظاهراً بیخطر» هم دچار تغییرات ایدئولوژیک میشوند.
🔹 سوگیری در فرآیند Fine-tuning بسیار عمیقتر از پرسشهای معمولی (Few-shot) عمل میکند.
🔹 این مدلها در موارد شدید ممکن است به سمت تایید خشونت سیاسی یا باورهای شبهعلمی سوق پیدا کنند.
این یافته جدید زنگ خطری جدی برای توسعهدهندگان است تا دقت بیشتری روی محتوای دادههای آموزشی داشته باشند، چرا که هوش مصنوعی میتواند بسیار «متعصبتر» از آنچه فکر میکنیم عمل کند. 🤖⚖️
منبع: arXiv Machine Learning