آیا حاضرید سلامت خود را به یک ربات مجهز به هوش مصنوعی بسپارید؟ نتایج یک تحقیق تازه روی ۷۲ مدل زبانی نشان داده که وضعیت ایمنی این هوش مصنوعیها در محیطهای درمانی نگرانکننده است!
🔹 نکات کلیدی این گزارش:
– نرخ تخطی ۵۴ درصدی مدلها از دستورالعملهای اخلاقی پزشکی!
– مدلهای تجاری عملکرد بهتری (۲۳٪ تخطی) نسبت به مدلهای متنباز (۷۲٪ تخطی) داشتند.
– آموزشهای تخصصی پزشکی عملاً تاثیر چشمگیری در ایمنی خروجیها نداشتهاند.
این تحقیق تاکید میکند که تا زمان رسیدن به استانداردهای ایمنی بالا، استفاده از این سیستمها در بخشهای حیاتی پزشکی بسیار پرخطر است. دنیای هوش مصنوعی هنوز تا رسیدن به بلوغ کامل در حوزه سلامت راه درازی در پیش دارد. 🛡️
منبع: arXiv AI