بسیاری از دولتها (مثل اتحادیه اروپا و کالیفرنیا) برای مقابله با محتوای تولید شده توسط هوش مصنوعی، استفاده از «واترمارک» را الزامی کردهاند. اما یک تحقیق جدید نشان میدهد که این واترمارکها آنقدرها هم که فکر میکنیم «ضد دستکاری» نیستند!
محققان با بررسی سه روش معروف (KGW, Unigram, و SynthID)، متوجه شدند که با یک بازنویسی ساده متن (Paraphrasing)، واترمارکها به راحتی از بین میروند. آمارها نگرانکننده است:
🔸 نرخ حذف واترمارک پس از بازنویسی: بین ۹۸ تا ۱۰۰ درصد!
🔸 نرخ خطای شناسایی (حتی بدون دستکاری): بین ۷۰ تا ۸۳ درصد.
این یعنی تکنولوژی واترمارک فعلاً از نظر استانداردهای قانونی و قضایی، برای اثبات هویت محتوا ضعیف عمل میکند. به نظر میرسد راه درازی تا رسیدن به «واترمارکهای غیرقابل حذف» باقی مانده است.
منبع: arXiv NLP