آیا تا به حال به این فکر کردهاید که چطور میتوان از صحت ادعاهای مطرح شده توسط هوش مصنوعی در پردازشهای دادهمحور مطمئن شد؟ محققان سیستم جدیدی به نام Evergreen معرفی کردهاند که مشکل «توهم» یا ادعاهای بدون پایه در خروجیهای LLMها را هدف قرار داده است.
این ابزار هوشمند، ادعاهای مدلهای زبانی را به کوئریهای قابلتأیید تبدیل کرده و با استفاده از روشهای بهینهسازی، بدون نیاز به فراخوانیهای پرهزینه هوش مصنوعی، صحت آنها را چک میکند. Evergreen نه تنها دقت خروجیها را بالا میبرد، بلکه منابع اصلی و مستندات هر ادعا را هم مشخص میکند تا کاربر بداند این پاسخ از کجا آمده است. این یعنی گامی بزرگ به سمت هوش مصنوعیِ قابل اعتمادتر! 🔍✨
منبع: arXiv AI