حتماً شنیدهاید که «کار از محکمکاری عیب نمیکند»؛ در دنیای هوش مصنوعی، محققان به تازگی روی چالش جالبی به نام «سمی بودن ضمنی در تصاویر ترکیبی» (MIIT) کار کردهاند. 🖼️
ماجرا اینجاست: گاهی اوقات تصاویر به تنهایی کاملاً بیضرر و عادی به نظر میرسند، اما وقتی کنار هم قرار میگیرند، معنای ناخوشایند یا خطرناکی پیدا میکنند! ابزارهای فعلی فیلترینگ هوش مصنوعی اغلب در تشخیص این نوع «سمی بودنِ پنهان» ناتوان هستند.
به تازگی مدل جدیدی به نام «MiShield» معرفی شده که با استفاده از یادگیری پیشرفته، میتواند این مفاهیم پنهان را شناسایی کند. این مدل نه تنها محتوای خطرناک را تشخیص میدهد، بلکه دقیقاً تحلیل میکند که کدام بخشها و ترکیبات باعث ایجاد این تهدید شدهاند. گامی بزرگ برای امنتر کردن فضای مجازی! 🌐✨
منبع: arXiv NLP
