🧠 آیا مدل‌های زبانی تحت تاثیر اخبار جهت‌دار قرار می‌گیرند؟

پژوهشگران در مطالعه‌ای جدید به سراغ این موضوع رفتند که چطور «سوگیری‌های موجود در منابع خبری» روی مدل‌های هوش مصنوعی تاثیر می‌گذارد. آن‌ها با استفاده از بازارهای پیش‌بینی (Prediction Markets) نشان دادند که LLMها به تنهایی عامل سوگیری نیستند، بلکه اخبار و متونی که به مدل داده می‌شود، خروجی‌ها را به شدت تحت تاثیر قرار می‌دهد.

در این آزمایش، حتی وقتی مدل‌ها به داده‌های واقعی دسترسی داشتند، باز هم تحت تاثیر جهت‌گیری‌های موجود در گزارش‌های خبری درباره مسائل حساس (مثل جنگ اوکراین) قرار می‌گرفتند. این تحقیق نشان می‌دهد که برای داشتن هوش مصنوعیِ بی‌طرف‌تر، باید به کیفیت و تنوع منابع داده‌ای که مدل‌ها با آن‌ها آموزش می‌بینند، توجه بسیار بیشتری کرد. 🔍✨

منبع: arXiv Machine Learning