امروزه هر شرکت پیشرو در حوزه هوش مصنوعی، معیارهای ایمنی خاص خودش را دارد که باعث سردرگمی و عدم شفافیت در ارزیابی خطرات شده است. در پژوهش جدیدی که منتشر شده، محققان به دنبال ایجاد یک «متدولوژی هماهنگ» برای تعیین استانداردهای ایمنی هستند.
این تحقیق بر سه حوزه اصلی تمرکز دارد:
۱. خطرات سوءاستفاده (در حوزههای سایبری و زیستی)
۲. مدلسازی دقیق ریسک با توجه به شرایط انتشار مدل
۳. پیشرفتهای خودکار در تحقیق و توسعه هوش مصنوعی
هدف این است که به جای رقابت ناسالم، حداقل استانداردهای یکسانی برای جلوگیری از رخدادهای جبرانناپذیر تعریف شود. مسیری که میتواند به حکمرانی بهتر و ایمنتر در عصر هوش مصنوعی کمک کند. ⚖️🤖
منبع: arXiv AI