دانشمندان در پژوهش جدیدی متوجه شدند مدلهای بزرگ صوتی-زبانی (LALMs) که برای ارزیابی کیفیت صدا استفاده میشوند، گاهی به جای تحلیل واقعی صوت، از «میانبرهای پروتکلی» استفاده میکنند.
به عبارت سادهتر، این مدلها به جای گوش دادن به صدا، صرفاً به متنهای توضیحی یا برچسبهای کمکی تکیه میکنند. این یعنی نتایج ارزیابی آنها میتواند گمراهکننده باشد، بهویژه در تشخیص احساسات یا مقایسههای A/B. این تحقیق زنگ خطری است برای توسعهدهندگانی که به قضاوت هوش مصنوعی در پروژههای حساس اعتماد میکنند. همیشه باید مطمئن شد که مدل واقعاً «میشنود» نه اینکه فقط «تقلب» میکند! 👂🤖
منبع: arXiv NLP