یکی از بزرگترین چالشهای هوش مصنوعی امروزی، درک این است که چرا مدلهای “عامل” (Agent) در فراخوانی ابزارها شکست میخورند. آیا مدل ابزار اشتباهی انتخاب کرده یا در مقداردهی به پارامترها دچار توهم (Hallucination) شده است؟
محققان در مقالهای جدید، فریمورک «SAAG» را معرفی کردهاند که فرآیند ارزیابی عاملها را به سه مرحله کلیدی تقسیم میکند: تایید ثبتنام (Registry)، بررسی کامل بودن ساختار، و تحلیل نهایی پارامترها. این روش نه تنها ریشهی خطا را مشخص میکند، بلکه به مدل اجازه میدهد با دریافت بازخوردهای دقیق، بدون نیاز به دسترسی به پاسخهای نهایی، خودش را اصلاح کند! این یعنی قدمی بزرگ به سوی مدلهای هوشمندتر و قابلاعتمادتر.
نویسی
منبع: arXiv AI