یکی از بزرگترین چالشهای هوش مصنوعی، حمله تزریق پرامپت (Prompt Injection) است که امنیت ایجنتها را به خطر میاندازد. محققان به تازگی سیستم جدیدی به نام «LLMbda» معرفی کردهاند که با استفاده از مفاهیم محاسبات لامبدا، امنیت و کنترل جریان اطلاعات را در ایجنتهای هوش مصنوعی متحول میکند.
این مدل جدید به جای روشهای سنتی، با استفاده از مدلسازی دقیقِ «منشأ دادهها»، امکان تفکیک دادههای قابل اعتماد از غیرقابل اعتماد را فراهم میکند تا ایجنتها بدون نگرانی از دستورات مخرب، عملیات خود را انجام دهند. یک گام بزرگ برای توسعه ایجنتهای هوشمندِ امنتر! 🤖✨
منبع: arXiv AI