محققان در مطالعهای جدید به یک مشکل اساسی در دستیارهای هوشمندِ متصل به ابزار (Tool-Augmented) اشاره کردهاند: گاهی ایجنتها خروجیهای اشتباه میدهند، اما چون لحن آنها متقاعدکننده است، کاربر تصور میکند پاسخ درست را دریافت کرده است! ✅
برای حل این مشکل، بنچمارک جدیدی به نام «TRACE» معرفی شده که به طور تخصصی خطاهای پنهان در مکالمات چندمرحلهای را شناسایی میکند. این دستاورد نشان میدهد که هنوز راه زیادی تا رسیدن به سیستمهای کاملاً قابل اعتماد داریم. 🧠🤖
منبع: arXiv NLP