تا حالا دقت کردید که مدلهای RAG گاهی جواب درست رو میدن اما مسیر رسیدن به اون جواب کاملاً غلط یا غیرمنطقیه؟ 🧐
محققان برای حل این مشکل، فریمورک جدیدی به نام CRAFT رو معرفی کردن که به مدل یاد میده «استدلالهای قابلاعتماد» تولید کنه. این یعنی مدل علاوه بر اینکه جواب نهایی رو درست میده، دلیل پشت اون جواب رو هم با استنادهای دقیق و قابلحسابرسی ارائه میکنه.
این تکنیک به ویژه در مدلهای کوچکتر (از ۱.۵ میلیارد پارامتر به بالا) جهش بزرگی در دقت و صداقت ایجاد کرده و مدل رو در برابر استدلالهای سطحی ایمن میکنه. آینده هوش مصنوعی قطعاً به سمت شفافیت و اعتماد بیشتر در حرکت است! 🚀
منبع: arXiv Machine Learning