یکی از بزرگترین چالشهای مدلهای زبانی بزرگ (LLM)، پدیده «توهم» (Hallucination) یا همان پاسخهای نادرست اما متقاعدکننده است. محققان به تازگی راهکار هوشمندانهای برای حل این مشکل ارائه کردهاند.
در این روش جدید، با استفاده از «تنظیم دقیقِ مبتنی بر تنوع» (Diversity-Oriented Fine-Tuning)، مدلها تشویق میشوند تا پاسخهای متنوعتری تولید کنند. این کار باعث میشود که وقتی مدل دچار توهم میشود، خروجیهای غیردقیق آن به راحتی توسط ابزارهای تشخیصِ آنتروپی معنایی شناسایی شوند. در واقع، این تحقیق با دستکاری رفتار مدل در مرحله آموزش، تشخیص خطاها را بسیار دقیقتر از روشهای فعلی کرده است.
این پیشرفت گام بزرگی برای قابلاعتمادتر کردن هوش مصنوعی در محیطهای حساس است!
منبع: arXiv AI