🧠 حل چالش «استنادهای کاذب» در مدل‌های زبانی با روش جدید CAGE

🧠 چرا هوش مصنوعی گاهی «خیالات» می‌بیند؟

یکی از مشکلات بزرگ مدل‌های زبانی (LLM) در زمان پاسخ‌دهی به سوالات طولانی، ارائه ارجاعات یا استنادهای نامعتبر است که گاهی با محتوای پاسخ همخوانی ندارند. حالا محققان چارچوب جدیدی به نام CAGE را معرفی کرده‌اند که این مشکل را حل می‌کند.

این روش با ساخت یک «نقشه شناختی» قبل از تولید متن، رابطه دقیق بین هر ادعا و مستندات پشتیبان آن را ترسیم می‌کند. این یعنی مدل دیگر به سادگی مطالب را سرهم‌بندی نمی‌کند، بلکه با دقت و بر اساس مستندات واقعی، پاسخ می‌دهد. نتایج این متد در مدل‌های بزرگ نشان‌دهنده دقت بسیار بالاتر در مستندسازی است.

منبع: arXiv NLP