یکی از چالشهای اصلی در دنیای ایجنتهای هوش مصنوعی، دسترسی بیش از حد آنها به ابزارها و دادههای حساس است. مقاله علمی جدیدی منتشر شده که راهکار نوآورانهای به نام IGAC پیشنهاد میدهد.
در این مدل، هوش مصنوعی فقط بر اساس «مجوزهای سیستمی» عمل نمیکند، بلکه «هدف و نیت» (Intent) کاربر را هم لحاظ میکند. به زبان ساده، حتی اگر ایجنت اجازه دسترسی به یک فایل را داشته باشد، تنها زمانی میتواند از آن استفاده کند که با درخواست لحظهای شما همخوانی داشته باشد.
این یعنی پایانِ دسترسیهای بیرویه! با این رویکرد، سطح امنیت ایجنتها به شدت افزایش یافته و از اجرای دستورات مخرب یا ناخواسته توسط مدلها جلوگیری میشود.
منبع: arXiv AI