محققان در پژوهش جدیدی متوجه شدند که مدلهای بینایی-زبانی (VLMs) به شدت تحت تأثیر «هویت بصری» رسانهها هستند. این یعنی مدلها حتی اگر محتوای یک خبر غلط باشد، اگر لوگو یا نام یک برند معتبر را ببینند، به آن اعتماد بیشتری میکنند!
این مطالعه نشان میدهد که این سوگیری در لایههای میانی مدلها بهصورت کاملاً مکانیکی کدگذاری شده و حتی با تغییر چیدمان صفحه هم از بین نمیرود. این یافته هشدار مهمی برای توسعهدهندگان هوش مصنوعی است تا دقت کنند مدلهایشان واقعیت را از «اعتبار ظاهری» برندها تشخیص دهند.
منبع: arXiv AI