محققان در مقالهای جدید به چالش مهمی در دنیای هوش مصنوعی پرداختند: آیا میتوانیم به پیشبینیها و شبیهسازیهای «مدلهای دنیای واقعی» (World Models) اعتماد کنیم؟
بسیاری از مدلهای هوش مصنوعی (مثل رباتها یا خودروهای خودران) از این شبیهسازها برای تصمیمگیری استفاده میکنند. اما مشکل اینجاست که یک مدل ممکن است در «زیبایی» و «کیفیت بصری» عالی باشد، ولی در «واقعگرایی عملکردی» ضعیف عمل کند!
محققان یک سیستم درجهبندی جدید پیشنهاد دادهاند تا قبل از اینکه به قضاوتهای یک هوش مصنوعی در محیطهای حساس (مثل رانندگی خودکار) اعتماد کنیم، اعتبار و دقت آن به صورت علمی تایید شود. به زبان ساده: هوش مصنوعی باید قبل از اینکه به او اعتماد کنیم، امتحانات سختگیرانه شبیهسازی را پشت سر بگذارد! 🚗🛡️
سازی
منبع: arXiv AI