همانطور که میدانید، اجرای مدلهای زبانی بزرگ (LLM) روی شبکههای توزیعشده (P2P) به دلیل استفاده از سختافزارهای پراکنده بسیار بهصرفه است، اما یک مشکل بزرگ دارد: احتمال دستکاری خروجی توسط نودهای مخرب!
محققان در مقاله جدیدی روش هوشمندانهای برای حل این مشکل پیشنهاد دادهاند. آنها با ترکیب «ورودیهای قناری» (Canary Inputs) در میان دادههای عادی، رفتار نودها را بررسی میکنند. اگر نود مخربی بخواهد خروجی لایهها را تغییر دهد، این ورودیهای خاص که پاسخ درستشان از قبل مشخص است، به سرعت لو میروند و فرد متقلب شناسایی میشود. این روش، راهکاری سبک و کاربردی برای تضمین یکپارچگی محاسبات هوش مصنوعی در محیطهای غیرمتمرکز است. 🧠✨
منبع: arXiv AI