محققان امنیتی به تازگی حفره خطرناکی را در اکثر ایجنتهای هوش مصنوعی (که از تنظیمات BYOK استفاده میکنند) شناسایی کردهاند. این آسیبپذیری اجازه میدهد مهاجم بدون اینکه رمزنگاری را بشکند، خروجیهای ایجنت را قبل از اجرا دستکاری کند.
این یعنی ایجنت میتواند کدهای مخرب را اجرا کند در حالی که تستهای امنیتی همچنان به ظاهر سبز و سالم باقی میمانند! برای حل این مشکل، راهکار جدیدی به نام «sign-c» پیشنهاد شده که با تایید اعتبار فیلدهای اجرایی، امنیت ایجنتها را تضمین میکند.
اگر در حال توسعه ایجنتهای متصل به دنیای واقعی هستید، این پژوهش اهمیت دوچندانی برایتان دارد.
منبع: arXiv AI