شرکت اوپن اِی آی رسماً اعلام کرده است عامل‌های هوش مصنوعی این شرکت در محیط تحقیقاتی، ۵۳ تصویر ارائه‌شده از سوی کاربران چت جی‌پی‌تی را بدون اطلاع این شرکت روی سایت‌های میزبانی تصاویر منتشر کرده‌اند.
این تصاویر بخشی از داده‌های کاربران بوده‌اند که برای آموزش مدل‌ها در دسترس سیستم‌های تحقیقاتی قرار گرفته بودند و عامل‌های اوپن اِی آی در جریان فعالیت خود آن‌ها را به سرویس‌های شخص ثالث منتقل کرده‌اند.
این اتفاق یکی از تازه‌ترین نمونه‌های رفتار غیرمنتظره عامل‌های خودمختار اوپن اِی آی محسوب می‌شود و نگرانی‌هایی درباره توانایی شرکت‌ها برای کنترل دسترسی این سیستم‌ها به داده‌های حساس ایجاد کرده است.
بر اساس توضیحات اوپن اِی آی، تصاویر روی سرویس‌های میزبانی به‌صورت لینک‌هایی قرار گرفته بودند که در فهرست عمومی سایت‌ها نمایش داده نمی‌شدند، اما همچنان امکان کشف و دسترسی به آن‌ها وجود داشت. این شرکت اعلام کرده با همکاری ارائه‌دهندگان این سرویس‌ها توانسته است بیشتر تصاویر را حذف کند، اما تلاش برای حذف موارد باقی‌مانده همچنان ادامه دارد.
اوپن اِی آی همچنین اعلام نکرده است که این تصاویر دقیقاً چه زمانی منتشر شده‌اند یا اینکه آیا تصاویر شامل افراد واقعی بوده‌اند یا توسط هوش مصنوعی تولید شده‌اند.
نکته مهم این است که اوپن اِی آی این تصاویر را مستقیماً از گفت‌وگوهای عادی کاربران دریافت نکرده بود. طبق گزارش‌ها، تصاویر از داده‌های کاربرانی به دست آمده بودند که اجازه استفاده از اطلاعاتشان برای آموزش مدل‌ها را داده بودند.
اوپن اِی آی برای این داده‌ها فرایند ناشناس‌سازی را انجام می‌دهد و اعلام کرده که نام، اطلاعات تماس و برخی فراداده‌ها از داده‌ها حذف می‌شوند. با این حال، کارشناسانی که با رویه‌های این شرکت آشنا هستند هشدار داده‌اند که ناشناس‌سازی لزوماً به معنی حذف کامل امکان شناسایی نیست و داده‌ها همچنان می‌توانند در جریان فعالیت یک عامل هوش مصنوعی به شکل پیش‌بینی‌نشده‌ای مورد استفاده قرار بگیرند.
این حادثه بخشی از بررسی گسترده‌تر اوپن اِی آی درباره مجموعه‌ای از مواردی است که در آن عامل‌های هوش مصنوعی این شرکت از محدوده‌های تعیین‌شده عبور کرده و با سرویس‌های اینترنتی تعاملات پیش‌بینی‌نشده‌ای داشته‌اند.
این بررسی پس از حادثه نفوذ عامل‌های اوپن اِی آی به پلتفرم هاگینگ فیس (Hugging Face) در ماه ژوئیه جدی‌تر شد. اوپن اِی آی می‌گوید از آن زمان مجموعه‌ای از اقدامات امنیتی جدید را برای محدودکردن دسترسی عامل‌ها به سرویس‌های خارجی اجرا کرده و همچنان در حال بررسی گزارش‌های دیگر است.
در یکی از موارد اخیر نیز آنتونی آلبانیزی، نخست‌وزیر استرالیا، اعلام کرد عامل‌های اوپن اِی آی به یک سامانه دولتی مرتبط با داده‌های سلامت این کشور دسترسی پیدا کرده‌اند.
اوپن اِی آی در حال بررسی مجموعه این حوادث است و گفته روند بررسی به‌دلیل حجم بسیار زیاد گزارش‌ها و لاگ‌های فعالیت عامل‌ها ممکن است ماه‌ها طول بکشد. این شرکت همچنین اعلام کرده در مواردی که فعالیت نادرست عامل‌ها روی سازمان‌های دیگر تأثیر گذاشته، اطلاعات مربوط به حادثه را در اختیار آن سازمان‌ها قرار داده است.
حادثه انتشار تصاویر در شرایطی رخ داده که اوپن اِی آی تلاش می‌کند استفاده از عامل‌های خودمختار را در محصولات و محیط‌های تحقیقاتی گسترش دهد. تفاوت عامل‌های جدید با چت‌بات‌های معمولی این است که آن‌ها فقط پاسخ متنی تولید نمی‌کنند و می‌توانند با وب‌سایت‌ها، فایل‌ها و سرویس‌های خارجی تعامل داشته باشند. همین قابلیت، در کنار دسترسی به داده‌های آموزشی و ارزیابی، باعث می‌شود یک رفتار پیش‌بینی‌نشده بتواند پیامدهایی فراتر از یک پاسخ اشتباه داشته باشد.
در حال حاضر مشخص نیست ۵۳ تصویر منتشرشده دقیقاً شامل چه محتوایی بوده‌اند و اوپن اِی آی نیز اعلام نکرده است که صاحبان این تصاویر چه کسانی هستند. این شرکت گفته به‌دلیل ناشناس‌سازی داده‌ها، قادر به شناسایی مستقیم کاربران و اطلاع‌رسانی به آن‌ها نیست.
با این حال، انتشار حتی تعداد محدودی از تصاویر کاربران نشان می‌دهد که کنترل داده‌ها در محیط‌هایی که عامل‌های هوش مصنوعی امکان تعامل مستقل با اینترنت را دارند، به یکی از چالش‌های جدی توسعه این فناوری تبدیل شده است.
از طرف دیگر، کاربران عادی چت جی‌پی‌تی به‌طور پیش‌فرض اجازه استفاده از تعاملاتشان برای آموزش مدل‌ها را دارند، مگر اینکه این گزینه را غیرفعال کنند. داده‌های کاربران سازمانی و تجاری به‌صورت پیش‌فرض برای آموزش مدل‌ها استفاده نمی‌شود. با این حال، اوپن اِی آی اعلام کرده حتی در صورت غیرفعال‌کردن گزینه آموزش، تعاملاتی که کاربر برای آن‌ها بازخورد مثبت یا منفی ثبت می‌کند ممکن است برای بهبود مدل‌های آینده مورد استفاده قرار گیرد.
