تا حالا به این فکر کردید که چطور هوش مصنوعی میتونه در پیشنهادهای خودش، حساسیتهای شخصی ما رو هم در نظر بگیره؟ مثلاً سیستمهای توصیهگر (مثل آمازون یا نتفلیکس) نباید محتوایی رو پیشنهاد بدن که برای فردی با سوابق خاص یا حساسیتهای روانی، آزاردهنده باشه.
محققان بهتازگی فریمورک «SafeCRS» رو معرفی کردن که با ترکیب تکنیکهای جدید آموزش مدل، نه تنها کیفیت توصیهها رو حفظ میکنه، بلکه نرخ نقض امنیتِ شخصی کاربران رو تا ۹۶.۵٪ کاهش میده! این یعنی هوش مصنوعی حالا یاد میگیره که در کنار باهوش بودن، «فهمیده» و «محتاط» هم باشه.
این دستاورد گام بزرگی برای اخلاق در هوش مصنوعی محسوب میشه. 🤖✨
گر
منبع: arXiv NLP