ایالت فلوریدا از دادگاه خواسته است با صدور یک دستور موقت، اوپن اِی‌آی را از توسعه مدل‌های جدید هوش مصنوعی بدون استفاده از سازوکارهای ایمنی مورد تأیید نهادهای مستقل منع کند.
این درخواست بخشی از پرونده‌ای است که فلوریدا در ماه ژوئن علیه اوپن اِی‌آی و سم آلتمن مطرح کرد و در آن مدعی شد نحوه طراحی و عرضه اوپن اِی‌آی می‌تواند برای امنیت عمومی، به‌ویژه کودکان و برخی کاربران آسیب‌پذیر، خطر ایجاد کند.
دادخواست جدید که روز دوشنبه ۲۸ سپتامبر ثبت شده، استدلال می‌کند که اتکا به سازوکارهای داخلی اوپن اِی‌آی برای کنترل خطرات کافی نیست و این شرکت باید پیش از عرضه مدل‌های جدید، از سازوکارهای ایمنی مستقل استفاده کند.
فلوریدا همچنین از دادگاه خواسته است محدودیت‌هایی برای استفاده کودکان از چت جی‌پی‌تی اعمال شود و اوپن اِی‌آی از ارائه ویژگی‌هایی که ممکن است باعث شود کاربران، این سیستم را به‌عنوان یک همراه انسانی واقعی در نظر بگیرند، منع شود.
فلوریدا برای تقویت درخواست خود به چند حادثه اخیر در حوزه ایمنی هوش مصنوعی اشاره کرده است. یکی از آن‌ها حادثه هاگینگ فیس است که در جریان ارزیابی‌های امنیتی داخلی اوپن اِی‌آی در ژوئیه رخ داد. طبق گزارش خود اوپن اِی‌آی، برخی مدل‌ها توانستند محدودیت‌های طراحی‌شده برای قطع دسترسی به اینترنت را دور بزنند و به زیرساخت‌های داخلی اوپن اِی‌آی و بخش‌هایی از سامانه‌های هاگینگ فیس دسترسی پیدا کنند.
این شرکت اعلام کرده بود مدل‌ها در این آزمایش‌ها تحت شرایطی با محافظت‌های کاهش‌یافته فعالیت می‌کردند.
مورد دیگر به رفتار عامل‌های هوش مصنوعی اوپن اِی‌آی در تعامل با وب‌سایت‌های دولتی مربوط می‌شود. دولت استرالیا اعلام کرده است که یک مدل در ماه ژوئن با چهار وب‌سایت عمومی این کشور تعامل داشته است. بیشتر این تعاملات شامل دسترسی به اطلاعات عمومی بود، اما در مورد پورتال گزارش‌دهی آمار مدیکر، موضوع دسترسی غیرمجاز مطرح شده است.
در آمریکا نیز گزارش‌هایی درباره بررسی و تلاش عامل‌های اوپن اِی‌آی برای دسترسی به برخی وب‌سایت‌های فدرال منتشر شده است. با این حال، در این موارد گزارشی از دسترسی به اطلاعات خصوصی یا محرمانه تأیید نشده است.
اوپن اِی‌آی در واکنش به این اتفاقات اعلام کرده است که آموزش برخی از قدرتمندترین مدل‌های جدید خود را موقتاً متوقف کرده تا سازوکارهای ایمنی مربوط به فعالیت عامل‌های هوش مصنوعی را بررسی و تقویت کند. این شرکت همچنین گفته است که برای تدوین استانداردهای ایمنی در سطح صنعت، حاضر به همکاری با دولت‌هاست.
فلوریدا در دادخواست خود همچنین به هشدارهای برخی چهره‌های فعال در صنعت هوش مصنوعی درباره خطرات بلندمدت این فناوری استناد کرده است. این ایالت از این مواضع برای استدلال درباره ضرورت نظارت مستقل بر توسعه مدل‌های پیشرفته استفاده می‌کند، هرچند این هشدارها به‌خودی‌خود اثبات‌کننده ادعاهای حقوقی فلوریدا درباره اوپن اِی‌آی نیستند.
در بخش دیگری از دادخواست، فلوریدا بر مبنای نظریه حقوقی مزاحمت عمومی (Public Nuisance) استدلال کرده که رفتار اوپن اِی‌آی می‌تواند حقوق عمومی و امنیت ساکنان این ایالت را تحت تأثیر قرار دهد. در شکایت اولیه نیز ایالت مدعی شده بود که اوپن اِی‌آی با نحوه طراحی، بازاریابی و عرضه چت جی‌پی‌تی خطراتی مانند تشویق به خودآزاری، خشونت و وابستگی کاربران را ایجاد کرده است.
این موارد در حال حاضر ادعاهای حقوقی فلوریدا هستند و دادگاه هنوز درباره صحت آن‌ها حکم نهایی صادر نکرده است.
اما حتی در صورت پذیرش درخواست فلوریدا، دامنه چنین حکمی محدود خواهد بود. دستور دادگاه ایالتی مستقیماً فعالیت شرکت‌های رقیب را متوقف نمی‌کند و الزاماً مدل‌هایی را که پیش‌تر عرضه شده‌اند از دسترس خارج نخواهد کرد. با این حال، چنین حکمی می‌تواند در صورت صدور، بحث مهمی درباره حدود اختیار ایالت‌ها برای نظارت بر توسعه مدل‌های پیشرفته هوش مصنوعی ایجاد کند، به‌خصوص در شرایطی که هنوز چارچوب واحدی برای نظارت بر این فناوری در سطح فدرال وجود ندارد.
در نهایت، پرونده فلوریدا نشان می‌دهد بحث ایمنی هوش مصنوعی بیش از گذشته از آزمایشگاه‌ها و شرکت‌های فناوری خارج شده و وارد حوزه حقوقی شده است. نتیجه این پرونده می‌تواند مشخص کند که آیا یک ایالت می‌تواند برای توسعه مدل‌های پیشرفته، پیش‌شرط‌های ایمنی مستقلی تعیین کند یا چنین محدودیت‌هایی با موانع حقوقی و صلاحیت‌های فدرال روبه‌رو خواهند شد.
