آیا ایجنتهای هوش مصنوعی همیشه راست میگویند؟ پروژه جدیدی به نام «Makoto» منتشر شده که با نظارت دقیق بر لاگهای عملکرد ایجنت، جلوی ادعاهای کاذب یا تناقضهای رفتاری آنها را میگیرد.
این ابزار اوپنسورس به توسعهدهندگان کمک میکند تا با شفافسازی اقدامات ایجنت، از «توهم» (Hallucination) یا رفتارهای خارج از چارچوب آنها جلوگیری کنند. اگر روی توسعه ایجنتهای خودمختار کار میکنید، بررسی این پروژه در گیتهاب خالی از لطف نیست!
🔗 لینک پروژه: https://github.com/Clear-Sights/Makoto
منبع: Hacker News AI