آیا هوش مصنوعی میتواند ابزاری خطرناک در دستان افراد سودجو برای تحقیقات زیستی باشد؟ محققان بهتازگی بنچمارک جدیدی به نام «BioSecBench-Refusal» معرفی کردهاند تا توانایی مدلهای هوش مصنوعی را در تشخیص خطرات بیولوژیکی و امتناع از پاسخ به سوالات خطرناک ارزیابی کنند.
نتایج این تحقیق جالب است: برخی مدلها آنقدر محتاط هستند که کارهای پژوهشی عادی را هم رد میکنند و برخی دیگر در تشخیص خطرات واقعی ضعف دارند. این ابزار به توسعهدهندگان کمک میکند تا هوش مصنوعی را طوری آموزش دهند که هم برای علم مفید باشد و هم ایمنی بیولوژیکی را به خطر نیندازد. 🛡️💻
منبع: arXiv AI