حتماً برای شما هم پیش آمده که از یک مدل هوش مصنوعی سوالی بپرسید و با قاطعیت پاسخی کاملاً غلط دریافت کنید! در یک بررسی جالب، یک مدل زبانی محلی (Local LLM) در ۶ تست متوالی، ۶ بار پاسخ اشتباه داده اما همچنان با اعتماد به نفس بالا پاسخهای خود را ارائه کرده است.
این موضوع نشاندهنده چالش بزرگی به نام «توهم» (Hallucination) در مدلهای زبانی است. این تجربه یادآوری میکند که هنوز نمیتوانیم ۱۰۰٪ به خروجیهای مدلها اعتماد کنیم و نظارت انسانی همچنان در استفاده از LLMها ضروری است. آیا شما هم با چنین پاسخهای «مطمئن اما غلطی» مواجه شدید؟
منبع: Hacker News LLM
