محققان در یک پژوهش جدید، نگاهی عمیق به پدیده «توهم» در هوش مصنوعی انداختهاند. در مدلهای فعلی، حتی پیشرفتهترین مدلها هم بهطور مداوم دچار توهم میشوند، اما این مطالعه با معرفی مفهومی به نام «تولید در حد مجاز با توهم»، سعی کرده مرزهای جدیدی را برای درک خطاهای سیستمهای هوش مصنوعی ترسیم کند.
این تحقیق نشان میدهد که چگونه میتوان با پذیرش نرخهای خاصی از توهم، قدرت مدلهای زبانی را در حل مسائل پیچیده افزایش داد و سلسلهمراتب جدیدی را برای دقت و وسعت پاسخهای هوش مصنوعی تعریف کرد. این یعنی در آینده شاید بتوانیم به جای حذف کامل توهم، آن را مدیریت و محدود کنیم تا خروجیها قابلاطمینانتر شوند.
منبع: arXiv Machine Learning