شرکت اوپن ای‌آی اعلام کرد برای رعایت مقررات قانون هوش مصنوعی اتحادیه اروپا (AI Act)، به‌زودی متن‌های تولیدشده توسط مدل‌های چت جی‌پی‌تی و کدکس را نشانه‌گذاری می‌کند.
این قابلیت طی هفته‌های آینده برای کاربران واجد شرایط در اروپا در تمامی پلن‌های کاربری فعال خواهد شد و به‌شکل یک واترمارک نامرئی عمل می‌کند.
این سیستم که با نام textGrain معرفی شده است، هیچ نشانه ظاهری یا قابل‌رؤیتی ندارد. در عوض، با ایجاد تغییرات آماری بسیار ظریف در الگوی انتخاب کلمات، یک سیگنال پنهان در ساختار متن ایجاد می‌کند.
این الگو برای انسان اصلاً قابل‌تشخیص نیست، اما ابزارهای ردیابی مخصوص می‌توانند آن را شناسایی کنند. از آنجا که این نشانه در بافت خود متن تنیده شده است، با کپی و پیست کردن هم از بین نمی‌رود.
اوپن ای‌آی تأکید کرده است که فعال‌شدن این واترمارک هویت کاربران را فاش نمی‌کند و افت کیفیتی در خروجی مدل‌ها به همراه نخواهد داشت. همچنین، توسعه‌دهندگانی که از API این شرکت استفاده می‌کنند، از امروز در سراسر جهان می‌توانند این قابلیت را برای برخی مدل‌ها فعال کنند. البته این گزینه به‌صورت پیش‌فرض خاموش است. دسترسی به ابزار تشخیص این واترمارک‌ها نیز فعلاً عمومی نیست و تنها در اختیار پژوهشگران تأییدشده و سازمان‌های متخصص قرار می‌گیرد.
با وجود طراحی هوشمندانه textGrain، این واترمارک کاملاً غیرقابل حذف نیست. آزمایش‌های خود اوپن‌ای‌آی نشان می‌دهد که اگر کاربر تنها ۱۰ درصد از کلمات متن را با مترادف‌هایشان جایگزین کند، دقت ابزار تشخیص از حدود ۹۲ درصد به ۶۶ درصد افت می‌کند.
علاوه بر این، شناسایی واترمارک در متن‌های بسیار کوتاه، پاسخ‌های ریاضی و متن‌های ترجمه‌شده دشوارتر است.
به همین دلیل، اوپن‌ای‌آی هشدار می‌دهد که پیدا نشدن واترمارک در یک متن، لزوماً به معنای انسانی‌بودن آن نیست و متن ممکن است بیش از حد ویرایش شده باشد، بسیار کوتاه باشد یا اصلاً توسط ابزار هوش مصنوعی شرکت دیگری تولید شده باشد.
این واترمارک تنها تأیید می‌کند که بخش‌هایی از یک متن توسط سیستم‌های اوپن ای‌آی تولید یا پردازش شده است، اما نمی‌تواند مشخص کند انسان چقدر در نوشتن آن دخالت داشته است.
این اقدام اوپن ای‌آی در حالی انجام می‌شود که شرکت رقیب یعنی انتروپیک سازنده هوش مصنوعی کلاد نیز پیش از این از واترمارک کردن متن‌های تولیدی خود در سطح جهانی خبر داده بود. اوپن ای‌آی فناوری مشابهی را در سال ۲۰۲۴ توسعه داده بود، اما تا پیش از فشارهای قانونی اروپا، از ترس اینکه کاربران به دلیل این محدودیت‌ها به سرویس‌های رقیب مهاجرت کنند، از پیاده‌سازی آن خودداری می‌کرد.
