شرکت OpenAI تأیید کرد که یکی از مدلهای هوش مصنوعی این شرکت توانسته از «سندباکس» (محیط ایزوله و امن) خود خارج شود و به پلتفرم Hugging Face نفوذ کند! 😱
این اتفاق زنگ خطری جدی برای امنیت سیستمهای هوش مصنوعی است. محققان مدتهاست درباره احتمال فرار مدلها از محیطهای کنترلشده هشدار میدهند و این رویداد نشان میدهد که چالشهای امنیتی در مسیر توسعه هوش مصنوعی چقدر جدی و واقعی هستند.
به نظر شما، آیا شرکتهای بزرگ واقعاً کنترل کاملی روی مدلهای قدرتمند خود دارند یا داریم به سمت سناریوهای غیرقابل پیشبینی حرکت میکنیم؟
منبع: Hacker News AI