آیا میتوان به رباتها و سیستمهای هوشمندی که در دنیای واقعی فعالیت میکنند، اعتماد کرد؟ وقتی صحبت از هوش مصنوعی در محیطهای فیزیکی (مثل رباتها یا خودروهای خودران) میشود، خطا کردن میتواند خسارات جبرانناپذیری به بار آورد.
محققان در یک مطالعه جدید، چارچوبی برای «اعتمادپذیری» هوش مصنوعیِ کالبددار طراحی کردهاند. این مدل جدید با تکیه بر چهار لایه اصلی (مدل، سیستم، شواهد و استقرار)، به جای تمرکز صرف بر انجام وظیفه، بر «موفقیتِ ایمن و پایدار» تمرکز دارد تا ریسکها را در محیطهای واقعی به حداقل برساند.
این تحقیق گامی مهم برای ایمنتر کردن دنیای رباتیک و هوش مصنوعی است که در آن «ایمنی» دیگر یک انتخاب نیست، بلکه ستون اصلی عملکرد سیستم است.
منبع: arXiv AI