یکی از بزرگترین دغدغههای امنیتی در استفاده از مدلهای زبانی (LLM) بزرگ، ارسال دادههای حساس و شخصی به سرویسدهندههای خارجی (Black-Box APIs) است. حالا محققان با معرفی AlienLM، روشی خلاقانه برای حل این مشکل ارائه کردهاند.
این سیستم با تبدیل متون به یک «زبان بیگانه» (Alien Language) قبل از ارسال به API، اطلاعات شما را رمزنگاری میکند؛ به طوری که حتی اگر مدل توسط مهاجم بررسی شود، امکان بازسازی دادههای اصلی به کمتر از ۰.۲۲ درصد میرسد! جالب اینکه این فرآیند بدون افت عملکرد محسوس (حدود ۸۱٪ کارایی) انجام میشود.
این یک گام مهم برای شرکتها و توسعهدهندگانی است که میخواهند بدون افشای دادههای حساس، از قدرت مدلهای ابری استفاده کنند.
منبع: arXiv NLP
