محققان در مقاله جدیدی، متد نوآورانهای به نام «Feedback Manipulation Regularization» (به اختصار FMR) معرفی کردهاند که تحولی در همسوسازی (Alignment) عوامل هوشمند ایجاد میکند.
این روش به مدلها کمک میکند تا با ترکیب بازخوردهای انسانی و الگوهای یادگیری تقلیدی، رفتارهای خود را دقیقتر با ارزشهای انسانی منطبق کنند. نکته هیجانانگیز اینجاست که FMR حتی در شرایطی که دادههای آموزشی کمی داریم یا نویز در دادهها زیاد است، تا ۹۸ درصد از خطاهای ناشی از عدم همسویی (Misalignment) را کاهش میدهد! 🤖✨
این دستاورد گام بزرگی برای ساخت هوش مصنوعیهای ایمنتر و قابلاعتمادتر در محیطهای تصمیمگیری پیچیده است.
منبع: arXiv Machine Learning
