تا حالا فکر کردید اگر یک تصویر نامرئی یا غیرقابل دیدن به مدلهای هوش مصنوعی نشان دهیم، چه واکنشی نشان میدهند؟ در یک آزمایش جالب، محققی متوجه شد که مدلهای هوش مصنوعی گاهی به جای اعتراف به «ندیدن» یا «ندانستن»، شروع به تخیل و دروغپردازی درباره محتوای تصویر میکنند! 🤥
این پدیده که به عنوان «توهم» (Hallucination) شناخته میشود، نشان میدهد که چقدر باید در پذیرش پاسخهای مدلهای زبانی محتاط باشیم. هوش مصنوعی شاید خیلی باهوش باشد، اما هنوز یاد نگرفته که صادقانه بگوید «نمیدانم»!
نظر شما چیست؟ آیا هوش مصنوعی عامدانه فریب میدهد یا فقط سعی دارد همیشه پاسخگو باشد؟
منبع: Hacker News AI