آیا تا به حال به این فکر کردهاید که اگر هوش مصنوعیِ ما فریبِ هوش مصنوعیِ دیگر را بخورد چه میشود؟ محققان بهتازگی راهکار نوآورانهای به نام ANTAP معرفی کردهاند که امنیت در سیستمهای چندعاملی (Multi-Agent Systems) را متحول میکند.
مشکل اصلی این است که مدلها معمولاً بر اساس توضیحات متنیِ سایر مدلها به آنها اعتماد میکنند، که این موضوع راه را برای نفوذهای مخرب باز میگذارد. ANTAP با جایگزین کردن این «اعتماد متنی» با «تستهای عملکردیِ غیرمتنی» و استفاده از هندسه برای مسیریابی، نوعی «دیوار آتش زبانی» ایجاد کرده که عملاً حملاتِ مبتنی بر دادههای متقلبانه را غیرممکن میکند.
این پیشرفت گامی بسیار مهم برای ساخت سیستمهای خودمختار امنتر و قابلاعتمادتر است. نظر شما چیست؟ آیا هوش مصنوعی بالاخره میتواند به هوش مصنوعیِ دیگر اعتمادِ واقعی داشته باشد؟
های_زبانی
منبع: arXiv AI