⚠️ خطر نادیده گرفته شده در هوش مصنوعی: داده‌های بدون ناظر هم می‌توانند «سوگیری» داشته باشند!

حتماً شنیده‌اید که اگر ویژگی‌های حساس (مثل سن یا درآمد) را از آموزش مدل حذف کنیم، هوش مصنوعی «بی‌طرف» می‌شود. اما پژوهش جدیدی نشان می‌دهد که این تصور کاملاً اشتباه است! 🧐

محققان با معرفی روشی به نام SOMtime متوجه شدند که مدل‌های هوش مصنوعی حتی بدون آموزش مستقیم، می‌توانند ویژگی‌های حساس را از دل داده‌های پیچیده بیرون بکشند و دسته‌بندی‌های ناعادلانه ایجاد کنند. این یعنی مفهوم «عدالت از طریق بی‌اطلاعی» (Fairness through unawareness) در سیستم‌های یادگیری ماشین عملاً شکست خورده است.

این تحقیق هشدار می‌دهد که نه تنها مدل‌های تحت نظارت، بلکه تمام بخش‌های unsupervised یا بدون ناظرِ هوش مصنوعی هم باید به دقت برای رعایت اخلاق و عدالت بازرسی شوند.

منبع: arXiv AI