شرکت Anthropic در یک پژوهش جدید و بسیار مهم، به سراغ مفهومی به نام «دانش دوگانه» (Dual-use) رفته است. هدف این تحقیق ارائه راهکاری است که بتوان دسترسی مدلهای هوش مصنوعی به اطلاعات حساس (که ممکن است برای ساخت سلاحهای بیولوژیک یا شیمیایی استفاده شود) را بدون آسیب زدن به هوش کلی مدل، محدود یا «خاموش» کرد.
این تحقیق گام بزرگی برای افزایش امنیت و جلوگیری از سوءاستفادههای خطرناک از مدلهای قدرتمند زبانی است. برای کسانی که نگران امنیت در دنیای هوش مصنوعی هستند، خواندن این مقاله فنی بسیار جذاب خواهد بود.
🔗 جزئیات بیشتر در وبسایت Anthropic
منبع: Hacker News AI