شرکت آنتروپیک (Anthropic) در یک پژوهش بسیار مهم، روی چالش «استفاده دوگانه» (Dual-Use) در مدلهای زبانی کار کرده است. این تحقیق بررسی میکند که چگونه میتوان قابلیتهای خطرناک مدلها (مثل کمک به ساخت سلاحهای بیولوژیک یا سایبری) را در صورت لزوم شناسایی و به اصطلاح «خاموش» کرد، بدون اینکه عملکرد مفید کلی مدل آسیب ببیند. این گام بزرگی برای ایمنسازی هوش مصنوعی در برابر سوءاستفادههای احتمالی است.
منبع: Anthropic Research
منبع: Hacker News AI
