در دنیای سیستمهای توزیعشده و عاملمحور (Agentic Infrastructure)، یک چالش مهم وجود دارد: اگر هوش مصنوعی طبق پروتکل رفتار کند اما به دلیل «خطای استدلالی»، خروجی اشتباه تولید کند چه؟
محققان در مقاله جدیدی، مفهومی به نام «مسئله حد نصاب صادق» (Honest Quorum Problem) را مطرح کردهاند. در این سناریو، حتی اگر اعضای شبکه «صادق» باشند، به دلیل اشتراک در مدلهای پایه یا دادههای آموزشی مشابه، ممکن است همگی دچار یک خطای استدلالی مشترک شوند و یک خروجی نامعتبر را تایید کنند.
برای حل این مشکل، مدل جدیدی به نام EBFT یا «تحمل خطای بیزانس معرفتی» معرفی شده است که با در نظر گرفتن «اعتبار» (Confidence) در تصمیمگیری مدلها، امنیت سیستمهای مبتنی بر هوش مصنوعی را در محیطهای حساس تضمین میکند. این یک قدم بزرگ برای حرکت به سمت زیرساختهای هوشمندِ قابل اعتمادتر است! 🚀
منبع: arXiv Machine Learning