آیا میتوانیم به پیشبینیهای مدلهای هوش مصنوعی اعتماد کنیم؟ محققان در مقالهای جدید به سراغ حل یکی از چالشهای اصلی یعنی «اعتبارسنجی خروجی مدلهای جهانی» (World Models) رفتهاند.
در این پژوهش، محققان با استفاده از تقارنهای ریاضی (Equivariance)، روشی برای تعیین «گواهی پیشبینیپذیری» معرفی کردهاند. به زبان ساده، این مدل جدید میتواند مشخص کند که تا چه زمانی و با چه دقتی میتوان به پیشبینیهای یک مدل در شرایط مختلف اعتماد کرد.
این دستاورد در حوزههایی که خطای هوش مصنوعی هزینههای سنگینی دارد (مانند رباتیک و سیستمهای خودران)، یک گام کلیدی برای کاهش عدم قطعیت و افزایش ایمنی محسوب میشود.
منبع: arXiv Machine Learning
