آیا هوش مصنوعی میتواند بدون اینکه به آن گفته شود، هویت فرهنگی یا وضعیت اجتماعی کاربران را تشخیص دهد؟ یک پژوهش جدید روی مدل Qwen2.5-7B نشان میدهد که این مدلها حتی در لایههای پنهان خود، نشانههایی از مفاهیم فرهنگی (مانند هویت کلمبیایی) را قبل از اینکه در پاسخهای متنی ظاهر شوند، بازنمایی میکنند.
این مطالعه با استفاده از روش «رمزگشایی عصبی»، بررسی کرده که چگونه مدلهای زبانی بزرگ از ظرافتهای زبانی برای درکِ ناخودآگاهِ فرهنگها استفاده میکنند. این یافتهها گام مهمی در مسیر درک سوگیریهای نژادی و فرهنگی در مدلهای هوش مصنوعی است تا در آینده شاهد سیستمهای هوشمند منصفتر و آگاهتر باشیم. 🧠⚖️
منبع: arXiv AI