اگر از ایجنتهای هوش مصنوعی برای کدنویسی استفاده میکنید، حتماً میدانید که گاهی اوقات آنها ممکن است دستورات خطرناکی (مثل پاک کردن کل دایرکتوریها) را به اشتباه اجرا کنند. حالا ابزاری متنباز به نام «Fence» منتشر شده که دقیقاً نقش «جیمینی کریکت» را برای ایجنتها بازی میکند!
نکته متمایز این ابزار این است که برخلاف لیستهای سیاه (Denylist) ساده، Fence با تحلیل «نیت» دستور، جلوی اجرای عملیاتهای مخرب را پیش از وقوع میگیرد. این ابزار در حال حاضر برای مدلهایی مثل Claude Code و Codex بهینهسازی شده و میتواند امنیت محیطهای توسعه شما را تا حد زیادی بالا ببرد. 💻✨
برای تست و مشاهده جزئیات فنی میتوانید به مخزن گیتهاب این پروژه سر بزنید:
https://github.com/hoophq/fence
نویسی
منبع: Hacker News AI