آیا داشتن یک سیستم «بررسیکننده» (Reviewer) برای مدلهای هوش مصنوعی کافی است؟ پژوهش جدیدی روی بیش از ۴۰۰۰ مسئله ریاضی نشان میدهد که پاسخ لزوماً مثبت نیست! 🧮
محققان متوجه شدند که در سیستمهای هوش مصنوعیِ چندعامله (Multi-Agent)، فقط «دقیق بودن» منتقد کافی نیست. مشکل اینجاست که حتی اگر منتقد خطایی را شناسایی کند، مدل اصلی همیشه از آن انتقاد استفاده نمیکند! این تحقیق نشان میدهد که:
✅ تکیه بر ساختارهای «برنامهریز-مجری-منتقد» همیشه بهترین راه نیست.
✅ بحث و گفتوگوی مستقیم بین عاملها (Broadcast-style) گاهی عملکرد بسیار بهتری نسبت به سلسلهمراتبهای پیچیده دارد.
✅ شناسایی خطا و «اعمال اصلاحات» بر اساس آن، دو مقوله کاملاً متفاوت هستند که باید در طراحی سیستمهای ایجنتی به دقت مدیریت شوند.
خلاصه اینکه در دنیای ایجنتها، فقط دیدنِ خطا کافی نیست؛ باید سیستم را طوری طراحی کرد که انتقادها واقعاً جدی گرفته شوند!
منبع: arXiv AI