محققان در پژوهشی جدید، نوعی آسیبپذیری جدی به نام «تزریق داده ایجنت» (ADI) را کشف کردهاند که امنیت هوش مصنوعی را به چالش میکشد. برخلاف حملات معمول که دستورات مخرب وارد میکنند، در این روش، مهاجمان با فریب دادن ایجنتها از طریق دادههای به ظاهر «مطمئن» (مثل متادیتای امنیتی یا فرمتهای فراخوانی ابزار)، آنها را وادار به اجرای اقدامات ناخواسته میکنند.
این تحقیق نشان داده که بسیاری از مدلهای محبوب، از جمله مدلهای کلوود (Claude)، جمینای (Gemini) و کدکس (Codex)، در برابر این حملات آسیبپذیر هستند و این حفرهها میتوانند منجر به کنترل مرورگر یا اجرای کد از راه دور شوند. این یافتهها زنگ خطری جدی برای توسعهدهندگان است تا دفاعهای خود را فراتر از تزریق پرامپت (Prompt Injection) تقویت کنند. 🛡️
منبع: arXiv AI