محققان در مقاله جدیدی به چالش مهمی در آموزش ایجنتهای هوش مصنوعی پرداختهاند: چطور به آنها یاد بدهیم در دنیای واقعی، بدون خطاهای هزینهبر و تنها با تمرکز بر نتیجه، عمل کنند؟
مدل جدیدی به نام RLVP معرفی شده که برخلاف روشهای قدیمی، علاوه بر توجه به نتیجه نهایی، «مسیر» رسیدن به آن را هم در نظر میگیرد. یعنی ایجنت یاد میگیرد که برای رسیدن به هدف، نباید هر هزینهای بپردازد یا قوانین را زیر پا بگذارد (مثل تکرار مداوم تماس با یک کاربر پاسخگو). این رویکرد باعث افزایش چشمگیر موفقیت ایجنتها در محیطهای واقعی میشود. 💡
به نظر شما این تغییر پارادایم چقدر میتواند جلوی «توهمات رفتاری» ایجنتهای هوش مصنوعی را بگیرد؟
منبع: arXiv AI