با توجه به قوانین سختگیرانه جدید مثل EU AI Act که بر شناسایی محتوای تولید شده توسط هوش مصنوعی تأکید دارند، محققان متد جدیدی به نام ChainMark معرفی کردهاند.
نکته هیجانانگیز این روش اینجاست که برای شناسایی متنهای ساخته شده توسط هوش مصنوعی، نیازی به دسترسی به مدل اصلی (LM) ندارد! این روش با استفاده از یک کلید رمزنگاری (SHA-256) و تغییرات آماری در کلمات، یک «واترمارک» نامرئی در متن ایجاد میکند که حتی در برابر حملات تغییر متن هم بسیار مقاوم است.
این نوآوری میتواند گام بزرگی برای افزایش شفافیت و اعتماد در فضای آنلاین و تشخیص محتوای ماشینی از انسانی باشد. نظر شما چیست؟ آیا واترمارکگذاری راه حل نهایی برای مقابله با جعل محتواست؟
منبع: arXiv AI