محققان در پژوهشی نوآورانه، روش جدیدی به نام «TIGA» را معرفی کردهاند که میتواند تصاویر تولید شده توسط مدلهای انتشار (Diffusion Models) را به گونهای بسازد که توسط سیستمهای تشخیص محتوای هوش مصنوعی (AIGC Detectors) شناسایی نشوند.
نکته جالب اینجاست که TIGA بدون نیاز به آموزش اضافه یا تغییرات مخرب روی تصاویر نهایی، مستقیماً در حین فرآیند تولید تصویر (Sampling) عمل کرده و ویژگیهای «ضد تشخیص» را به تصویر تزریق میکند. این یعنی خروجی نهایی به شکلی کاملاً طبیعی تولید میشود که ابزارهای امنیتی در تشخیص جعلی بودن آن ناکام میمانند!
این پیشرفت هم فرصتی برای پژوهشهای امنیتی است و هم چالشی تازه برای تشخیص صحت تصاویر در دنیای واقعی. نظر شما چیست؟ آیا هوش مصنوعی در نهایت در تشخیصِ ساختههای خودش شکست میخورد؟
منبع: arXiv Computer Vision