مدلهای بزرگ زبان و صوت (LALMs) روز به روز کاربردیتر میشوند، اما آیا واقعاً منصفانه عمل میکنند؟ محققان بهتازگی چارچوب جدیدی به نام «VIBE» معرفی کردهاند تا پرده از سوگیریهای جنسیتی و لهجه در این مدلها بردارند.
برخلاف روشهای قدیمی که فقط روی سوالات چندگزینهای تمرکز داشتند، VIBE از صوتهای واقعی و وظایف پیچیده (مثل توصیههای شخصیسازی شده) استفاده میکند تا ببیند مدلها در شرایط واقعی چگونه رفتارهای کلیشهای نشان میدهند. نتایج اولیه روی ۱۲ مدل پیشرفته نشان میدهد که سوگیریها در این سیستمها هنوز بسیار جدی هستند.
این تحقیق گامی مهم برای توسعه هوش مصنوعی اخلاقیتر و بدون تبعیض در دنیای آینده است.
منبع: arXiv NLP