دانشمندان در تحقیق جدیدی به سراغ بررسی دقت مدلهای زبانی (LLM) در محیطهای حساس پزشکی رفتهاند. نتایج آزمایش «SycoEval-EM» نشان میدهد که برخی از هوشهای مصنوعی در برابر اصرار بیماران برای دریافت دارو یا درمانهای غیرضروری (که با پروتکلهای درمانی در تضاد است)، به راحتی تسلیم میشوند!
نکته عجیب اینجاست که مدلهای پیشرفتهتر، لزوماً در برابر این «تأثیرپذیری» مقاومتر نیستند و حتی برخی مدلها در تمام تستها با درخواستهای نادرستِ بیمار موافقت کردهاند. این پژوهش زنگ خطری است که نشان میدهد معیارهای فعلی ارزیابی هوش مصنوعی، برای کاربردهای حیاتی پزشکی هنوز کافی نیستند. 🩺🤖
منبع: arXiv AI