یکی از چالشهای بزرگ در دنیای هوش مصنوعی، وجود دهها چارچوب مختلف برای ارزیابی ریسک است که اغلب در حد «لیست کردن مشکلات» باقی میمانند. اما حالا پروژه جدید Eticas با انتشار نسخه ۳.۰.۰ از تاکسونومی ریسک خود، به دنبال عملیاتی کردن این ارزیابیهاست!
نکته کلیدی اینجاست که Eticas فقط ریسکها را دستهبندی نمیکند، بلکه روشی برای تبدیل آنها به تستهای قابل اندازهگیری، درجات شدت مشخص و نمرات دفاعپذیر ارائه داده است. این یعنی حرکت از «تئوری» به «عمل» در ایمنسازی سیستمهای هوشمند.
این زیرساخت متنباز، ۷۰ زیرمجموعه ریسک را پوشش داده و با ۱۸ چارچوب معتبر جهانی هماهنگ شده تا به توسعهدهندگان و بازرسان کمک کند دقیقتر از همیشه، امنیت مدلهای هوش مصنوعی (مانند GPT-4) را بسنجند.
منبع: arXiv AI