محققان در پژوهشی جدید به یک چالش مهم در دنیای هوش مصنوعی اشاره کردهاند: «محدودیتهای ایمنی» (Safety Alignment) که گاهی باعث میشود مدلهای زبانی در کارهای تخصصی مانند امنیت سایبری (Cybersecurity) عملکرد درستی نداشته باشند.
نکته جالب اینجاست که این مدلها تفاوت بین یک پرسش خطرناک و یک عملیات قانونی و مجاز امنیتی را متوجه نمیشوند! این مطالعه با بررسی ۲۴ مدل متنباز، روشی را برای حذف این محدودیتهای دستوپاگیر در حوزه امنیت سایبری (بدون کاهش امنیت کلی مدل) پیشنهاد داده است. این یعنی در آینده، هوش مصنوعی میتواند به دستیار هوشمندتر و قابلاعتمادتری برای متخصصان امنیت تبدیل شود. 🧠💻
منبع: arXiv AI