محققان در مطالعهای جدید به بررسی چالش امنیت در مدلهای تولید ویدیو (T2V) پرداختهاند. اگرچه مدلهای هوش مصنوعی پیشرفتهای بزرگی داشتهاند، اما همچنان در برابر حملات «جیلبریک» (Jailbreak) آسیبپذیرند.
روش جدیدی به نام BSB معرفی شده که برخلاف متدهای قدیمی، از «ثبات زمانی» (Temporal Consistency) در ویدیوها استفاده میکند. این متد با ترکیب حالتهای بیخطر در ویدیو، میتواند مدل را به تولید محتوای ناامن وادار کند. این تکنیک روی مدلهای معروفی مثل Sora 2، Veo 3.1 و Kling v1 تست شده و نشان داده که چقدر حفرههای امنیتی در مدلهای چندوجهی مدرن میتواند پیچیده باشد.
این پژوهش زنگ خطری جدی برای شرکتهای سازنده مدلهای هوش مصنوعی است تا پروتکلهای امنیتی خود را تقویت کنند. 🛑
منبع: arXiv AI