محققان در رقابتهای اخیر ImageCLEF، تکنیکهای پیشرفتهای را برای تولید و شناسایی «دیپفیک» بررسی کردهاند. این پژوهش که با استفاده از مدل قدرتمند FLUX.1 و ترکیبی از حملات تهاجمی (Adversarial Attacks) انجام شده، نشان میدهد که چطور میتوان سیستمهای تشخیص دیپفیک را دور زد و همزمان مدلهای دقیقتری برای شناسایی تصاویر ساختگی ایجاد کرد.
نکته جالب این تحقیق، بررسی «نقاط ضعف امنیتی» مدلهاست؛ جایی که محققان با استفاده از روشهای پاکسازی (Purification)، توانستند ورودیهای مخرب را با دقت بسیار بالایی از دادههای سالم تفکیک کنند. این دستاوردها گام بزرگی برای افزایش امنیت در برابر محتواهای دستکاریشده توسط هوش مصنوعی است.
فیک
منبع: arXiv Computer Vision