دانشمندان ابزار جدیدی به نام «WIRE» معرفی کردهاند که میتواند «برخورد دستورات» در ایجنتهای مبتنی بر LLM را شناسایی و تحلیل کند. 🤖
مشکل اینجاست که وقتی چندین قانون مختلف به یک مدل داده میشود، ایجنتها گاهی دچار سردرگمی شده و در تصمیمگیریها تداخل ایجاد میکنند. ابزار WIRE با پروفایلسازی دقیق، نشان میدهد که ایجنت در مواجهه با قوانین متناقض، چگونه اولویتبندی میکند. طبق تحقیقات، تنها حدود ۳۵٪ مواقع مدلها موفق میشوند هر دو قانونِ متضاد را بهدرستی اجرا کنند! این پیشرفت مهمی برای بهبود دقت و قابلیت اطمینان ایجنتهای خودمختار است. ⚙️
منبع: arXiv AI