تا حالا فکر کردید چقدر طول میکشه تا یک مدل هوش مصنوعی بفهمه داره «توهم» (Hallucination) میزنه؟ 🧠
محققان در مطالعه جدید خود سراغ مفهوم «تأخیر در تشخیص» رفتند. برخلاف روشهای سنتی که فقط دقت کلی مدل رو میسنجن، اینجا هدف اینه که به محض شروع توهم، سیستم اون رو شناسایی کنه.
نتایج نشون میده که با استفاده از تکنیکهای آماری کلاسیک (مانند CUSUM)، میشه سرعت شناسایی توهم رو بهطور چشمگیری نسبت به روشهای معمولی افزایش داد، هرچند که هنوز هم مسیر سختی برای رسیدن به دقت ایدهآل وجود داره.
این تحقیق نشون میده که برای داشتن هوش مصنوعی قابلاطمینانتر، باید به جای تمرکز صرف روی پاسخهای نهایی، به تحلیل زمانبندی و «آستانه تحمل» مدلها در لحظه تولید توکنها دقت بیشتری کرد. 📊✨
منبع: arXiv AI