تا به حال به این فکر کردهاید که چرا تضمینهای امنیتی در هوش مصنوعی گاهی در عمل شکست میخورند؟ پژوهش جدیدی منتشر شده که نشان میدهد تفاوت بین «ریاضیات دقیق» و «محاسبات ممیز شناور» (Floating-Point) در سختافزار، عامل اصلی این خطاهاست.
محققان در این مطالعه، روشی نوآورانه برای ارزیابی استحکام (Robustness) شبکههای عصبی ارائه دادهاند که دقیقاً بر اساس نحوه اجرای کد روی سختافزارهای واقعی طراحی شده است. با این دستاورد، دیگر لازم نیست نگران فاصله بین تئوریهای ریاضی و رفتار واقعی مدلهای هوش مصنوعی باشید!
این تحقیق گامی مهم برای توسعه مدلهای قابلاعتمادتر و ایمنتر در دنیای واقعی است. 🤖💻
نویسی
منبع: arXiv Computer Vision