🔐 رازهای پنهان در لایه‌های هوش مصنوعی؛ آیا امنیت واقعاً با کارایی جمع می‌شود؟

محققان در پژوهشی جدید به سراغ چالشی بزرگ در حریم خصوصی مدل‌های هوش مصنوعی رفته‌اند: «دسترسی به وضعیت‌های پنهان» (Hidden-State Privacy).

نتایج این تحقیق نشان می‌دهد که بین امنیت (حفظ حریم خصوصی) و کارایی مدل‌ها، یک شکاف بزرگ وجود دارد؛ به طوری که مدل‌های مورد بررسی معمولاً یا امنیت خوبی ندارند یا کارایی آن‌ها به‌شدت افت می‌کند. این مقاله راهکارهای نوینی مثل استفاده از مکانیزم‌های «معکوس فیشر» را بررسی می‌کند تا بتواند این تعادل حساس را بهبود ببخشد و نشت اطلاعات از حافظه مدل‌های زبانی (مثل GPT-2) را به حداقل برساند.

این تحقیق گامی مهم برای ایمن‌تر کردن مدل‌های هوش مصنوعی در برابر حملات بازیابی اطلاعات است.

منبع: arXiv AI