آیا هوش مصنوعی باید هر سوالی را با قاطعیت جواب دهد؟ پژوهش جدیدی با الهام از فلسفه «شهودگرایی» (Intuitionism) مطرح کرده که مدلهای هوش مصنوعی در حوزههای حساس، نباید پاسخهای نامطمئن را بهعنوان حقیقت مطلق ارائه کنند.
در این رویکرد، هوش مصنوعی موظف است فقط در صورتی ادعایی را مطرح کند که «گواهیِ معتبر و قابل استعلام» (Certificate of Entitlement) برای آن داشته باشد. اگر مدل نتواند استدلال شفافی ارائه دهد، باید وضعیت خود را «نامشخص» (Undetermined) اعلام کند. این یعنی پایان دوران پاسخهای توهمآمیز با اعتمادبهنفس کاذب! 🚫🤖
این چارچوب نهتنها اعتماد به سیستمهای هوشمند را بالا میبرد، بلکه استانداردی جدید برای توسعهدهندگان جهت ساخت مدلهای قابلاعتمادتر ایجاد میکند.
منبع: arXiv AI