شرکت انتروپیک پیش‌نویس لایحه‌ای درباره ایمنی هوش مصنوعی را به قانون‌گذاران آمریکایی ارائه کرده است. بر اساس گزارش پولیتیکو، این پیشنهاد چارچوبی را مشخص می‌کند که بر اساس آن، در شرایط خاص و در صورت وجود خطرهای جدی، امکان جلوگیری از عرضه یا استفاده از یک مدل پیشرفته هوش مصنوعی وجود خواهد داشت.
طبق این پیش‌نویس، دولت آمریکا تنها در صورت وجود «خطر قریب‌الوقوع و قابل پیش‌بینی» می‌تواند برای توقف عرضه یا استفاده از یک مدل اقدام کند. این خطر باید به‌گونه‌ای باشد که جان بیش از ۵۰ نفر را تهدید کند یا خسارت مالی بیش از یک میلیارد دلار به بار آورد. همچنین، خطر موردنظر باید ناشی از یکی از سه وضعیت باشد: ساخت یا انتشار سلاح زیستی، دور زدن سازوکارهای کنترلی توسعه‌دهنده توسط مدل هوش مصنوعی، یا وقوع یک حمله سایبری.
معیارهای تعیین‌شده برای تعداد قربانیان احتمالی و میزان خسارت مالی، به تعاریف «خطر فاجعه‌بار» در قانون شماره ۵۳ سنای کالیفرنیا شباهت دارند؛ قانونی که پیش‌تر به تصویب رسیده است. این موضوع نشان می‌دهد که پیشنهاد انتروپیک بر تعیین آستانه‌های مشخص برای مداخله دولت در عرضه مدل‌های پیشرفته هوش مصنوعی تمرکز دارد.
بر اساس این طرح، ارزیابی احتمال وقوع چنین خطرهایی بر عهده «ارزیابان مستقل» خواهد بود که در وزارت بازرگانی آمریکا ثبت‌نام می‌کنند. آزمایشگاه‌های هوش مصنوعی مجاز خواهند بود هزینه ارزیابی‌های این کارشناسان را پرداخت کنند، مشروط بر اینکه پرداخت دستمزد آن‌ها به نتیجه ارزیابی وابسته نباشد؛ شرطی که با هدف حفظ استقلال ارزیابی‌ها در نظر گرفته شده است.
در صورتی که ارزیابان وجود خطری قریب‌الوقوع را تشخیص دهند، ۷۲ ساعت فرصت خواهند داشت تا موضوع را به وزارت بازرگانی آمریکا گزارش کنند. پس از آن، این وزارتخانه باید از یک قاضی در واشنگتن دی‌سی درخواست کند تا دستور توقف عرضه مدل را صادر کند. بنابراین، بر اساس پیش‌نویس پیشنهادی، توقف عرضه مدل از مسیر قضایی پیگیری خواهد شد.
یکی دیگر از نکات مهم این لایحه، محدود کردن اختیارات سایر نهادهای فدرال است. متن پیشنهادی به‌صراحت اختیار مستقل دیگر سازمان‌ها و نهادهای فدرال برای جلوگیری از عرضه مدل‌های هوش مصنوعی را سلب می‌کند. به این ترتیب، هیچ نهاد دیگری نمی‌تواند به‌تنهایی و بدون طی کردن فرایند پیش‌بینی‌شده، مانع توزیع یک مدل شود.
سخنگوی انتروپیک در گفت‌وگو با پولیتیکو اعلام کرده است که این پیش‌نویس بازتاب پیشنهادهای مطرح‌شده در چارچوب سیاستی این شرکت برای هوش مصنوعی پیشرفته است. به گفته او، انتروپیک از ماه ژوئن رایزنی با قانون‌گذاران فدرال و ایالتی آمریکا درباره این پیشنهادها را آغاز کرده است.
ارائه این طرح در شرایطی صورت می‌گیرد که نگرانی‌ها درباره توانایی عامل‌های هوش مصنوعی در انجام حملات سایبری خودمختار و سوءاستفاده از قابلیت‌های پیشرفته این فناوری افزایش یافته است. انتروپیک با ارائه این پیش‌نویس، رویکردی فراتر از پیشنهادهای کاملاً داوطلبانه برخی دیگر از فعالان صنعت هوش مصنوعی در پیش گرفته و به دنبال تعریف سازوکاری قانونی برای مقابله با خطرهای جدی این فناوری است.
با این حال، هنوز مشخص نیست که کنگره آمریکا این پیشنهاد را بررسی خواهد کرد یا در نهایت به تصویب خواهد رساند. در صورت تبدیل شدن این پیش‌نویس به قانون، می‌تواند بر نحوه ارزیابی خطرها، عرضه مدل‌های پیشرفته و حدود اختیارات دولت در نظارت بر توسعه هوش مصنوعی تأثیر بگذارد.
