با افزایش قدرت عاملهای هوش مصنوعی، بحث «امنیت و کنترل» اهمیت دوچندانی پیدا کرده است. محققان بهتازگی معماری جدیدی به نام Tenir را معرفی کردهاند که به عنوان یک لایه «فشار متقابل» (Counter-Pressure Architecture) عمل میکند.
هدف اصلی این معماری، تضمین ایمنی و رفتار قابل پیشبینی عاملهای هوش مصنوعی در محیطهای غیرقابل بازگشت است. این دستاورد میتواند گام بزرگی برای جلوگیری از تصمیمات خطرناک مدلهای خودمختار باشد.
منبع: Hacker News AI
