یکی از بزرگترین چالشهای مدلهای زبانی (LLMs) و ایجنتهای هوشمند، «توهم» (Hallucination) یا همان ارائه اطلاعات نادرست و غیرواقعی است. حالا محققان فریمورک جدیدی به نام HalMit را معرفی کردهاند که بدون نیاز به دسترسی به ساختار داخلی مدل (بهصورت Black-box)، این توهمات را شناسایی و مهار میکند.
این ابزار هوشمند با استفاده از تکنیکهای نمونهبرداری فرکتالی، رفتار ایجنتها را تحلیل کرده و مرزهای تعمیمدهی آنها را پیدا میکند تا از بروز خطاهای فاجعهبار در دنیای واقعی جلوگیری کند. این یک قدم بزرگ برای افزایش اعتمادپذیری ایجنتهای خودکار است! 🚀
منبع: arXiv AI