🏥 عدالت در هوش مصنوعی: آیا مدل‌های زبانی در حوزه سلامت نژادپرست هستند؟

⚠️ هشدار به محققان: چرا دقت مدل‌های شناسایی پهپاد گاهی «واقعی» نیست؟

تحقیقات جدید نشان می‌دهد که مدل‌های زبانی بزرگ (LLMs) در پاسخ به پرسش‌های پزشکی، به شدت تحت تأثیر دانشِ ویکی‌پدیای انگلیسی هستند و این موضوع باعث ایجاد شکاف اطلاعاتی برای سایر زبان‌ها (مثل آلمانی، چینی یا ایتالیایی) شده است.

این مطالعه که با بررسی دیتاسِت جدیدی به نام MultiWikiHealthCare انجام شده، ثابت می‌کند که حتی وقتی سوال به زبان دیگری پرسیده می‌شود، مدل تمایل دارد پاسخ را بر اساس منابع انگلیسی تنظیم کند. خبر خوب اینکه محققان با استفاده از تکنیک RAG (بازیابی اطلاعات)، راهکاری برای بهبود دقت و بومی‌سازی پاسخ‌ها پیدا کرده‌اند تا عدالت آموزشی در سلامت دیجیتال رعایت شود.

این یک قدم بزرگ برای ساخت هوش مصنوعی‌های فراگیرتر و قابل‌اطمینان‌تر در سطح جهان است. 🌍✨

منبع: arXiv NLP