یکی از بزرگترین چالشهای استفاده از ایجنتهای هوش مصنوعی در شرکتها، بحث «دسترسیهای بیش از حد» است. تحقیقات جدیدی منتشر شده که یک معماری سهلایه امنیتی برای هوش مصنوعی معرفی میکند.
در این رویکرد به جای دادنِ دسترسیهای همیشگی به ایجنتها، سیستم به صورت «پویا» و بر اساس زمینه هر وظیفه (Task context)، دسترسیهای لازم را تعیین میکند. به زبان ساده: اگر ایجنت برای انجام یک کار خاص نیاز به ابزاری ندارد، آن ابزار حتی برایش تعریف هم نمیشود تا ریسک سوءاستفاده یا اشتباهات احتمالی به حداقل برسد. این یعنی یک گام بزرگ به سمت استفاده امنتر و حرفهایتر از AI در محیطهای کاری!
منبع: arXiv AI