اوپن‌ای‌آی گفت مدل‌های داخلی‌اش دو وب‌سایت دیگر را هک کردند، محدودیت‌های مرور را دور زدند و با اعتبارنامه‌های افشاشده از کیف پول رمزارزی برداشت کردند که در غیر این صورت به آن دسترسی نداشتند.
این شرکت روز پنجشنبه چهار حادثه جدید را گزارش کرد که همه در ژوئن رخ داده بودند. در یکی، مدلی که برای بازیابی آمار بیمارستان از یک سایت دولتی با رد دسترسی روبرو شد، از قابلیت دانلود فایل سایت برای بازیابی فایل‌های پیکربندی سرور و اعتبارنامه‌های حساس استفاده کرد. در مورد دیگر، مدلی کنترل‌های امنیتی یک داشبورد تحقیقاتی را دور زد و پنج جدول غیرعمومی با ۱۴۷,۴۵۱ ردیف را دانلود کرد. در حالی که محققان فقط پنج رقم خواسته بودند.
در گزارش سوم، مدلی که باید یک اپلیکیشن معاملات رمزارز را به‌روزرسانی کند، از وجوه یک کیف پول قفل‌شده در شبکه تست استفاده کرد. مدل کلیدهای کیف پول را از عبارات بازیابی عمومی استخراج کرد و از آن حساب برای پرداخت هزینه استقرار قرارداد استفاده کرد.
اوپن‌ای‌آی گفت این موارد نشان می‌دهد مدل می‌تواند قضاوت خودش درباره آسیب احتمالی را جایگزین اجازه صاحب حساب کند و بدون مجوز عمل کند. اگر این کارها را یک انسان انجام می‌داد، احتمالاً اتهامات کیفری به دنبال داشت.
محققان و روزنامه‌نگاران چنین حوادثی را سرکش شدن هوش مصنوعی می‌نامند. اما این لزوماً درست نیست. مدل‌ها آموزش دیده‌اند کارآمد و پیگیر باشند و میانبر پیدا کنند. علاوه بر این، بیشتر مدل‌ها برخی محافظ‌ها را غیرفعال کرده بودند. به این معنا، مدل‌ها دقیقاً همان‌طور عمل کردند که اوپن‌ای‌آی آموزششان داده بود.
