استفاده از واترمارک برای ردیابی خروجیهای مدلهای زبانی (LLM) موضوع داغی است، اما پژوهشی جدید نشان داده که این کار در حوزه حساس «پزشکی» میتواند خطرناک باشد. 🩺
محققان با بررسی ۵ روش واترمارکگذاری روی ۱۱ مدل زبانی و ۷ مدل بینایی-زبانی متوجه شدند که این فرآیند باعث تخریب کیفیت خروجیها میشود؛ از جمله:
❌ ایجاد اصطلاحات پزشکی غلط (توهمات مدل)
❌ خطاهای دستوری و تغییر معنای دقیق کلمات
❌ حذف یا تفسیر اشتباه یافتههای تصاویر پزشکی
نتیجه اخلاقی این تحقیق؟ قبل از استفاده از هرگونه مکانیزم واترمارک در ابزارهای کلینیکی، باید آزمایشهای اختصاصی انجام شود، وگرنه ممکن است دقت تشخیصهای پزشکی به شدت افت کند. ⚠️
منبع: arXiv AI