🔍 پایان توهم در مدل‌های هوش مصنوعی؟ معرفی متد جدید GASP برای سیستم‌های RAG

یکی از بزرگترین چالش‌های سیستم‌های RAG (بازیابی-تولید)، «توهم» یا تولید اطلاعات نادرست است. حالا محققان راهکار جدیدی به نام GASP را معرفی کرده‌اند که می‌تواند با بررسی میزان وابستگی پاسخ‌ها به مستندات بازیابی شده، دقیقاً تشخیص دهد کدام بخش از پاسخ مدل «توهم» است.

این روش که بر پایه تحلیل حساسیت به ورودی‌ها عمل می‌کند، به جای ارائه یک نمره کلی، به صورت جمله‌به‌جمله بررسی می‌کند که آیا محتوای تولید شده واقعاً با منبع همخوانی دارد یا خیر. این یعنی قدمی بزرگ به سمت مدل‌های زبانی قابل‌اطمینان‌تر و دقیق‌تر! 🚀

منبع: arXiv AI