به تازگی تحقیقی منتشر شده که جامعه هوش مصنوعی را تکان داد: یک پژوهشگر موفق شده تنها با صرف کمتر از ۱۰۰ دلار، یک مدل هوش مصنوعی «متنباز» (Open-Weight) را به اصطلاح «مسموم» (Poison) کند. 💉
این یعنی مهاجمان میتوانند با هزینهای بسیار اندک، رفتارهای مخربی را به مدلهای قدرتمند یاد بدهند که عملاً امنیت آنها را زیر سوال میبرد. این چالش، زنگ خطری جدی برای توسعهدهندگان است که نشان میدهد امنیت در زنجیره تامین مدلهای هوش مصنوعی هنوز فاصله زیادی تا سطح مطلوب دارد.
به نظر شما، آیا دنیای متنباز هوش مصنوعی با این دست حملات ناامن میشود یا راهکارهای دفاعی سریعتر رشد میکنند؟ 🤔
منبع: Hacker News AI