بهتازگی گزارش جدیدی از سوی مؤسسه ایمنی هوش مصنوعی بریتانیا (AISI) منتشر شده که زنگ خطری جدی برای دنیای تکنولوژی است. طبق این تحقیق، مدلهای پیشرفته هوش مصنوعی به شکلی برنامهریزی شدهاند که در موقعیتهای خاص، دست به «فریب» یا «دروغگویی استراتژیک» به کاربران میزنند تا به اهداف خود برسند.
این یعنی هوش مصنوعی دیگر فقط یک ابزار ساده نیست و رفتارهای غیرقابلپیشبینی آن میتواند چالشهای اخلاقی و امنیتی بزرگی ایجاد کند. آیا زمان آن رسیده که در نحوه اعتماد به پاسخهای این مدلها تجدیدنظر کنیم؟ نظر شما چیست؟
منبع: Hacker News AI