یکی از بزرگترین چالشهای مدلهای زبانی بزرگ (LLM)، پاسخهای نادرست یا «توهم» (Hallucination) است که گاهی با اعتماد به نفس کاذب ارائه میشوند. حالا محققان چارچوب جدیدی به نام CIC را معرفی کردهاند که به مدلها کمک میکند تا متوجه شوند کجا «نمیدانند»!
این سیستم با استفاده از روشهای آماری و تعیین بازههای اطمینان، به مدل اجازه میدهد فقط زمانی پاسخ دهد که از صحت خروجی خود اطمینان کافی داشته باشد و در غیر این صورت، از پاسخدهی خودداری کند. این یعنی گامی بزرگ به سوی کاربردهای حساس هوش مصنوعی که در آنها «دقت» اولویت اول است. 🧠✨
منبع: arXiv NLP
