🚨 هشدار جدی: خطر امنیت زیستی در مدل‌های زبانی بزرگ!

محققان به تازگی در مطالعه‌ای نگران‌کننده نشان داده‌اند که مدل‌های زبانی پیشرفته (Frontier LLMs) ممکن است حفره‌های امنیتی خطرناکی در حوزه زیست‌فناوری داشته باشند. 🧬🧪

تیم پژوهشی با طراحی مدل «Intern-BioBreaker»، ثابت کردند که مدل‌های قدرتمندی مثل GPT-5.5 می‌توانند برای تولید دستورالعمل‌های حساس یا حتی طراحی توالی‌های ژنتیکی ویروس‌های بیماری‌زا مورد سوءاستفاده قرار بگیرند. متأسفانه این آزمایش‌ها نشان داد که بین حفاظ‌های امنیتی متنی و واقعیتِ توانمندی‌های علمی این مدل‌ها، شکاف عمیقی وجود دارد.

این یافته‌ها زنگ خطری برای توسعه‌دهندگان هوش مصنوعی است تا پروتکل‌های امنیتی خود را در لایه‌های عمیق‌تر و دقیق‌تر بازبینی کنند. امنیت هوش مصنوعی دیگر فقط بحث کد و دیتا نیست؛ گاهی می‌تواند با سلامت عمومی گره بخورد! ⚠️

منبع: arXiv NLP