مدلهای تبدیل متن به تصویر (T2I) با وجود قابلیتهای شگفتانگیز، گاهی اوقات محتوای نامناسب تولید میکنند. حالا محققان روش جدیدی به نام «Introspective Attention Modulation» (به اختصار IAM) معرفی کردهاند که به جای فیلترهای ساده، با تحلیل و تنظیم هوشمندِ «توجه» (Attention) مدل در لحظه تولید، از ساخت محتوای غیراخلاقی یا ناامن جلوگیری میکند.
این روش نه تنها امنیت خروجیها را بالا میبرد، بلکه کیفیت و دقت تصاویر را نیز حفظ میکند. گام بزرگی برای تجربه کاربری ایمنتر با مدلهای هوش مصنوعی! 🎨✨
منبع: arXiv Computer Vision