تحقیقات جدید در حوزه هوش مصنوعی پزشکی، پرده از یک چالش بزرگ برداشته است! دانشمندان متوجه شدهاند که اگرچه تشخیص «توهم» یا پاسخهای اشتباه در مدلهای زبانی (LLM) پزشکی با استفاده از بررسی نورونها به سادگی امکانپذیر است، اما «کنترل» و اصلاح آنها به همین راحتی نیست.
نتایج این مطالعه نشان میدهد که حتی اگر دقیقا بدانیم کدام نورونها مسئول تولید محتوای اشتباه هستند، فرمان دادن به آنها برای اصلاح پاسخها کار بسیار دشواری است. این یعنی هنوز راه درازی تا رسیدن به مدلهای هوش مصنوعی کاملاً قابل اعتماد برای تشخیصهای پزشکی داریم.
آیا فکر میکنید روزی میرسد که هوش مصنوعی در پزشکی بدون خطا شود؟ نظراتتون رو برامون بنویسید! 👇
منبع: arXiv NLP
