یکی از بزرگترین چالشهای استفاده از هوش مصنوعی در سیستمهای حساس (مثل رباتهای خودمختار)، تضمین ایمنی عملکرد آنهاست. یادگیری تقویتی (Reinforcement Learning) عالی عمل میکند اما همیشه نمیتوان روی خروجیهای آن حسابِ ۱۰۰٪ باز کرد.
محققان در مقاله جدیدی، الگوریتم «SMC-ES» را معرفی کردهاند که با ترکیب «استراتژیهای تکاملی» و «بررسی آماری مدلها»، به سیاستهای کنترلی، گواهینامه ایمنی میدهد! این یعنی هوش مصنوعی حالا میتواند با ریسکِ خطایِ کنترلشده و آمارهای دقیق، در محیطهای حساس به کار گرفته شود. این دستاورد، شروعی برای سیستمهای خودمختارِ بسیار ایمنتر در آینده است. 🤖✨
منبع: arXiv Machine Learning