بیل گیتس، هم‌بنیان‌گذار مایکروسافت، در گفت‌وگویی تازه درباره خطرات توسعه کنترل‌نشده هوش مصنوعی هشدار داده و خواستار ایجاد الزامات ایمنی و نظارتی برای این فناوری شده است.
گیتس معتقد است شرکت‌های فعال در حوزه هوش مصنوعی نباید بدون ایجاد سازوکارهایی برای نظارت، ثبت فعالیت‌ها و کنترل رفتار مدل‌ها، سیستم‌های قدرتمند خود را در اختیار کاربران قرار دهند.
گیتس در گفت‌وگو با برنامه میت د پرس شبکه ان‌بی‌سی نیوز، در پاسخ به بحث‌های مطرح‌شده درباره ضرورت وجود یک کلید خاموش (Kill Switch) برای سیستم‌های هوش مصنوعی گفت با چنین ایده‌ای مخالفتی ندارد، اما آن را به‌تنهایی کافی نمی‌داند.
از نگاه او، سیستم‌های هوش مصنوعی علاوه بر امکان توقف، باید تحت نظارت مداوم قرار داشته باشند و فعالیت‌هایشان به‌صورت قابل ردیابی ثبت شود.
او همچنین تأکید کرد که نبود الزام قانونی برای برخورداری سیستم‌های هوش مصنوعی از چنین سازوکارهایی کاملاً غیرمسئولانه است. به گفته گیتس، قانون‌گذاران و نهادهای مسئول باید استانداردهایی را تعیین کنند که شرکت‌های هوش مصنوعی را به ایجاد لایه‌های مشخصی از ایمنی و نظارت ملزم کند.
از دیدگاه گیتس، یکی از مهم‌ترین خطرات فعلی هوش مصنوعی نه لزوماً رفتار خود سیستم‌ها، بلکه دسترسی افراد بدخواه به قابلیت‌های پیشرفته این فناوری است. او هشدار داد ترکیب توانایی‌های جدید هوش مصنوعی با نیت‌های مجرمانه می‌تواند پیامدهای جدی داشته باشد.از کلاهبرداری‌های مالی در مقیاس بزرگ گرفته تا سوءاستفاده از فناوری در حوزه‌های زیستی.
گیتس در عین حال معتقد است وضع مقررات لزوماً به معنی متوقف کردن پیشرفت هوش مصنوعی نیست. به گفته او، قوانین ایمنی هزینه و پیچیدگی بیشتری به فرایند توسعه اضافه می‌کنند، اما می‌توان میان سرعت نوآوری و ایجاد سازوکارهای محافظتی تعادل برقرار کرد.
این اظهارات در شرایطی مطرح می‌شود که شرکت‌های توسعه‌دهنده مدل‌های پیشرفته نیز به‌دنبال افزایش نظارت و ارزیابی مستقل سیستم‌های خود هستند.
انتروپیک در ۱۸ سپتامبر اعلام کرد با شرکت اَکسنچر همکاری می‌کند تا ارزیابی‌های ایمنی را به‌صورت مستقیم در فرایندهای توسعه و استقرار سیستم‌های هوش مصنوعی خود وارد کند. این همکاری بخشی از تلاش گسترده‌تر این شرکت برای ارزیابی مستقل و مستمر ریسک‌های مدل‌های پیشرفته است.
انتروپیک در ماه‌های اخیر نیز چندین مورد سوءاستفاده یا رفتار غیرمنتظره مدل‌های خود را بررسی کرده است. این شرکت در سپتامبر گزارش داد که در برخی ارزیابی‌های امنیت سایبری، مدل‌های کلاد به سیستم‌های واقعی دسترسی پیدا کرده‌اند و همین اتفاق باعث شده این شرکت بر اهمیت ارزیابی‌های پیش از عرضه و نظارت مداوم پس از استقرار مدل‌ها تأکید بیشتری کند.
در چنین شرایطی، بحث بر سر مقررات هوش مصنوعی دیگر تنها به نحوه استفاده کاربران از این فناوری محدود نیست و خود فرایند توسعه و عرضه مدل‌ها را نیز دربر می‌گیرد. اظهارات گیتس نشان می‌دهد یکی از پرسش‌های اصلی صنعت هوش مصنوعی در سال‌های آینده این خواهد بود که چه میزان از مسئولیت ایمنی باید بر عهده شرکت‌های فناوری باشد و چه بخش‌هایی از آن باید از طریق قوانین و نظارت دولتی تضمین شود.
