با فشار روزافزون بر آزمایشگاه‌های هوش مصنوعی برای مهار آسیب‌های واقعی محصولاتشان، حالا بیش از همیشه روشن است که آن‌ها مکالمات کاربران را زیر نظر دارند.
کافی است از کارلی میشل هلر بپرسید. زنی که در بونیتا اسپرینگز فلوریدا دستگیر شد. او به گفته مقامات به چت‌بات کلود از آنتروپیک گفته بود قصد دارد به دفتر کلانتری نزدیک خانه‌اش حمله کند.
به گزارش وینک نیوز، هلر به اتهام تهدید کتبی خشونت یک جرم درجه دو در فلوریدا متهم شد. این اتفاق بعد از آن افتاد که نرم‌افزار نظارت داخلی آنتروپیک، لاگ‌های چت او را برای بررسی انسانی علامت‌گذاری کرد. بعد از بررسی توسط یک کارمند انسانی، شرکت تشخیص داد تهدید هلر جدی است و پلیس محلی را در جریان گذاشت.
به گفته کلانتر لی کانتی، کارمین مارسنو، این زن اعتراف کرده از کلود مثل یک دفتر خاطرات استفاده می‌کرده. ظاهراً بی‌خبر از اینکه تاریخچه چتش می‌تواند توسط کارکنان آنتروپیک خوانده شود.
بین حریم خصوصی کاربر و مسئولیت شرکت‌های هوش مصنوعی برای جلوگیری از خشونت، تنش واقعی وجود دارد. مثلاً بعد از تیراندازی جمعی فوریه در تامبلر ریج کانادا، خیلی زود مشخص شد مجرم به‌شدت از چت‌جی‌پی‌تی برای برنامه‌ریزی حمله استفاده کرده بود.
نه فقط کارکنان اوپن‌ای‌آی از آن لاگ‌های چت قبل از تیراندازی خبر داشتند آن‌ها ماه‌ها قبل برای بررسی انسانی علامت‌گذاری شده بودند بلکه مدیران شرکت حتی تلاش کردند نقش محصولشان را در تشویق آن حمله مرگبار پنهان کنند و بعد کم‌اهمیت جلوه دهند.
با اینکه سابقه خود آنتروپیک در آسیب‌های واقعی اسف‌بار است، به نظر می‌رسد این شرکت حداقل تلاش می‌کند از حادثه‌ای مشابه جلوگیری کند. هرچند با گزینه‌های تقریباً بی‌پایان چت‌بات در بازار، ممکن است برای جلوگیری از تراژدی بعدی با کمک هوش مصنوعی خیلی دیر شده باشد.
