⚠️ چالش بزرگ مدل‌های زبانی در حوزه پزشکی: خطر نادیده گرفتن زبان‌های بومی! 🩺🤖

تحقیقات جدید نشان می‌دهد که مدل‌های زبانی هوش مصنوعی وقتی از زبان انگلیسی به زبان‌های کمتر متداول (مثل هائوسا در نیجریه) تغییر می‌کنند، در ارائه توصیه‌های پزشکی دچار «انحراف عملکرد» می‌شوند.

بررسی‌ها روی مدل‌های قابل اجرا به صورت لوکال نشان داد که دقت کلینیکی آن‌ها با تغییر زبان، به شدت افت کرده و حتی به پاسخ‌های «مضر» تبدیل شده است. در حالی که مدل‌های بزرگ و قدرتمند (Frontier models) عملکرد پایدارتری دارند، این تحقیق زنگ خطری جدی برای توسعه‌دهندگان ابزارهای پزشکی مبتنی بر هوش مصنوعی در مناطق محروم و غیرانگلیسی‌زبان است.

این مطالعه اهمیت دقت و مسئولیت‌پذیری در آموزش مدل‌ها برای جوامع محلی را بیش از پیش برجسته می‌کند. 🌍💡

منبع: arXiv NLP