تحقیقات جدید نشان میدهد مدلهای پیشرفته بینایی-زبانی (مثل GPT-5.4 و Claude Opus) در مواجهه با تصاویر پزشکی، گاهی اوقات دچار «توهم» (Hallucination) میشوند!
جالب و البته نگرانکننده اینجاست که این مدلها حتی بدون دیدن عکس واقعی و صرفاً با دانستن اطلاعات دموگرافیک بیمار (مثل سن یا نژاد)، تشخیصهای پزشکی خاصی ارائه میدهند. مثلاً ممکن است مدل بر اساس نژاد یک فرد، تشخیصهای متفاوتی برای یک بیماری مشابه بدهد که نشاندهنده سوگیریهای ساختاری در آموزش این مدلهاست.
این یافتهها زنگ خطری جدی برای پزشکان و توسعهدهندگان است که میخواهند از هوش مصنوعی در محیطهای کلینیکی و حساس استفاده کنند. اعتماد به این سیستمها بدون بازبینیهای دقیق انسانی همچنان ریسکهای بزرگی به همراه دارد.
منبع: arXiv AI