🩺 آیا مدل‌های پزشکی در تشخیص بیش از حد «مغرور» هستند؟

یکی از چالش‌های بزرگ در استفاده از هوش مصنوعی در پزشکی، اعتماد کاذب مدل‌ها هنگام مواجهه با داده‌های ناقص است. محققان در پژوهشی جدید بررسی کرده‌اند که چگونه «پرامپت‌های مبتنی بر شواهد» (Evidence-Sufficiency Prompting) می‌تواند از پاسخ‌های جسورانه و اشتباه مدل‌های بزرگ زبانی (LLMs) در محیط‌های بالینی بکاهد.

نتایج نشان می‌دهد که این روش می‌تواند نرخ خطای ناشی از اعتماد کاذب را از ۴۹٪ به حدود ۲۵٪ کاهش دهد؛ اما یک نکته مهم باقی می‌ماند: قضاوت خودِ هوش مصنوعی درباره عملکردِ هوش مصنوعی دیگر، لزوماً دقیق نیست و به شدت به «مدل داور» بستگی دارد. این تحقیق زنگ خطری است برای پزشکان و توسعه‌دهندگانی که می‌خواهند از AI در تشخیص‌های حساس استفاده کنند.

منبع: arXiv AI