محققان به تازگی فریمورک جدیدی به نام «swarm-attack» معرفی کردهاند که نشان میدهد چطور ایجنتهای هوش مصنوعی با همکاری یکدیگر میتوانند کارهای خطرناکی انجام دهند. این تحقیق ثابت میکند که نه تنها مدلهای بزرگ، بلکه نحوه استقرار و سیستمهای پیرامون آنها نیز باید به دقت ارزیابی شوند.
نتایج این پژوهش نشان داد که با استفاده از سختافزارهای معمولی و ایجنتهای کوچک، میتوان حملات جیلبریک موفقی علیه مدلهای پیشرو انجام داد و حتی آسیبپذیریهای نرمافزاری را به سرعت شناسایی کرد. این یعنی امنیت در عصر هوش مصنوعی فقط محدود به “مدل” نیست و کل “سیستم” باید ایمنسازی شود. ⚠️
نظرتون چیه؟ آیا امنیت مدلهای فعلی ما کافیه یا باید استانداردهای امنیتی رو سختگیرانهتر کنیم؟
منبع: arXiv AI