یکی از بزرگترین چالشهای استفاده از ایجنتهای هوشمند، ریسکهای امنیتی و رفتارهای غیرقابل پیشبینی آنهاست. حالا محققان چارچوب جدیدی به نام «AutoSpec» معرفی کردهاند که امنیت ایجنتها را با استفاده از «برنامهنویسی منطقی استقرایی» (ILP) متحول میکند.
این سیستم بهطور خودکار قوانین ایمنی را بر اساس بازخوردهای کاربران تکامل میدهد. در واقع، AutoSpec با شناسایی دقیق رفتارهای مخرب و تمایز آنها از فعالیتهای ایمن، اجازه نمیدهد ایجنتها از محدودیتهای تعیینشده عبور کنند. این یعنی تعادل میان هوشمندیِ بالا و امنیتِ حداکثری!
منبع: arXiv AI