آیا تا به حال به این فکر کردید که اگر یک هوش مصنوعی در اجرای یک دستور اشتباه کند چه اتفاقی میافتد؟ محققان ابزار جدیدی به نام NEXUS را معرفی کردهاند که به عنوان یک ناظر هوشمند، عملکرد عوامل (Agents) را زیر نظر میگیرد.
این سیستم با ترکیب قوانین دقیق و تحلیل ریسک، در لحظه تصمیم میگیرد که آیا یک اقدام مجاز است، باید مسدود شود یا نیاز به تایید انسانی دارد. نکته جذاب NEXUS این است که با وجود دقت بسیار بالا، تأثیر منفی روی سرعت پردازش ندارد و تقریباً صفر درصد سربار اضافه ایجاد میکند. این یعنی ایمنی بیشتر بدون کاهش کارایی! 🚀
منبع: arXiv AI