محققان در مطالعه جدیدی زنگ خطر را برای مدلهای تبدیل متن به تصویر (T2I) به صدا درآوردهاند! 🚨 طبق این پژوهش، مدلهای فعلی از یک رویکرد «یکسان برای همه» استفاده میکنند که باعث میشود حدود ۳۵٪ از محتوایی که توسط هوش مصنوعی «ایمن» تشخیص داده شده، در واقع برای جوامع دارای معلولیت، آسیبزا یا توهینآمیز باشد.
این مقاله پیشنهاد میدهد که بهجای رویکردهای کلی، از «تشخیص سمیت مختص هر جامعه» (CTD) استفاده کنیم. نتایج نشان میدهد که با بهکارگیری راهکارهای هوشمندانه مثل Prompt-based Adaptation، میتوان دقت تشخیص آسیب را برای این گروهها تا حد زیادی افزایش داد. این یک گام ضروری برای داشتن هوش مصنوعیِ فراگیرتر و مسئولیتپذیرتر در آینده است. ✨
منبع: arXiv AI