حتما برایتان پیش آمده که هنگام استفاده از ایجنتهای هوش مصنوعی (مثل مدلهای تولید کد یا استدلال)، ایجنت در تلاش برای اصلاحِ خود، دچار اشتباهات بیشتری شود! 🔄
محققان به تازگی فریمورک جدیدی به نام VRR-Stop معرفی کردهاند که مشکل بزرگ «حلقههای تکرارِ معیوب» را حل میکند. این سیستم هوشمند میتواند با یک مدلِ آماری دقیق، تشخیص دهد که چه زمانی باید اصلاحات را ادامه داد و چه زمانی برای جلوگیری از آسیب به نتیجه نهایی، فرایند «Verify-Repair» را متوقف کرد. 🛑
نتایج این تحقیق نشان میدهد که این روش جدید، پایداری و دقت ایجنتها را تا حد چشمگیری (بیش از ۶۰ درصد در تستهای استاندارد) افزایش میدهد، آن هم با هزینهی محاسباتی بسیار کمتر! گامی مهم برای ایجنتهای خودکارِ قابلاعتمادتر. ✨
نویسی
منبع: arXiv AI