محققان در مقالهای جدید به سراغ چالشی رفتند که کمتر به آن توجه شده: چطور میتوانیم اطمینان حاصل کنیم که مدلهای هوش مصنوعی واقعاً امن هستند؟
مشکل اینجاست که روشهای فعلی، بیشتر روی «توانمندی» تمرکز دارند تا «ایمنی». نویسندگان این مقاله معتقدند برای جلوگیری از فاجعههای احتمالی، به معیارهای اپیستمیک (معرفتشناختی) دقیقتری نیاز داریم.
آنها پروتکل جدیدی به نام «ECAISA» را معرفی کردهاند که شامل ۸ اصل کلیدی برای مستندسازی و ارزیابی ادعاهای ایمنی است. این چارچوب تلاش میکند تا ضمن حفظ شفافیت، جلوی خطرات ناشی از انتشار اطلاعات حساس را بگیرد و مسیر را برای توسعه هوش مصنوعیِ مسئولانهتر هموار کند.
به نظر شما، آیا استانداردهای اینچنینی میتوانند سرعت رشد هوش مصنوعی را کنترل کنند یا فقط کاغذبازی اضافه هستند؟
منبع: arXiv AI