یکی از چالشهای بزرگ در آموزش مدلهای هوش مصنوعی بین سرور و کلاینت، لو رفتن دادههای حساس از طریق لایههای میانی شبکه است. محققان به تازگی چارچوب جدیدی به نام «BettiSafe» معرفی کردهاند که با استفاده از مفاهیم «توپولوژی دادهها» (Betti complexity)، نقاط حساس شبکه را شناسایی میکند.
این روش هوشمندانه میتواند بدون نیاز به حملات پیچیده، لایههایی که بیشترین خطر نشت اطلاعات (Feature Inversion) را دارند شناسایی کرده و مقاومت مدل را در برابر حملات تا ۵ برابر افزایش دهد؛ آن هم بدون اینکه دقت مدل کاهش پیدا کند! یک گام مهم دیگر برای امنتر کردن دنیای هوش مصنوعی. 🚀💻
منبع: arXiv Machine Learning