یکی از بزرگترین مشکلات مدلهای زبانی چندوجهی (MLLM)، «توهم» یا تولید اطلاعات نادرست و غیرواقعی است. اما حالا محققان با معرفی «HalluScope»، راهکار جدیدی برای تشخیص و اصلاح دقیق این توهمات ارائه دادهاند.
نکات کلیدی این دستاورد:
🔹 این مدل نه تنها توهم را تشخیص میدهد، بلکه آن را دستهبندی کرده و توضیحی قابلفهم درباره دلیل بروز خطا ارائه میدهد.
🔹 مدلهای جدید HalluScope-4B و 8B با استفاده از دیتاسِت عظیم HalluScope-30K آموزش دیدهاند.
🔹 این سیستم به توسعهدهندگان کمک میکند تا با دریافت بازخورد دقیق، هوش مصنوعی خود را برای جلوگیری از خطاهای مشابه در آینده اصلاح کنند.
این پیشرفت گامی بزرگ برای رسیدن به مدلهای قابلاعتمادتر در دنیای هوش مصنوعی است. نظر شما چیست؟ آیا فکر میکنید بالاخره از شر «توهمات» AI خلاص میشویم؟
منبع: arXiv Computer Vision