شرکت انویدیا پلتفرم تازه‌ای برای افزایش ایمنی عامل‌های هوش مصنوعی معرفی کرده است. هدف این پلتفرم جلوگیری از خروج این عامل‌ها از محیط‌های آزمایشی و دسترسی‌شان به سامانه‌های خارج از محدوده تعیین‌شده است.
جنسن هوانگ( مدیرعامل انویدیا) روز دوشنبه از مجموعه‌ای از محصولات نرم‌افزاری و سخت‌افزاری با نام پلتفرم ایمنی عامل باز انویدیا رونمایی کرد. این پلتفرم لایه‌های امنیتی مستقلی را دور عامل‌های هوش مصنوعی می‌گذارد. به این ترتیب حتی اگر عامل تلاش کند از محیط آزمایشی فرار کند، می‌توان فعالیتش را کنترل کرد.
معرفی این پلتفرم بعد از چند حادثه امنیتی مرتبط با مدل‌های هوش مصنوعی شرکت‌هایی مثل آنتروپیک، گوگل، اوپن‌ای‌آی و متا انجام شده است. در این حوادث، عامل‌های هوش مصنوعی توانسته بودند برخی کنترل‌های امنیتی را دور بزنند و از محیط آزمایشی خارج شوند.
یکی از مهم‌ترین این حوادث در تابستان رخ داد. زمانی که عامل‌های اوپن‌ای‌آی هنگام انجام یک وظیفه امنیت سایبری به سامانه‌های هاگینگ‌فیس نفوذ کردند. بعد از آن هم گزارش‌های دیگری درباره رفتارهای خارج از کنترل عامل‌های هوش مصنوعی منتشر شد.
هوانگ در گفت‌وگویی با سی‌ان‌بی‌سی گفت پلتفرم جدید انویدیا می‌توانست از وقوع چنین حوادثی جلوگیری کند.
انویدیا برخلاف دیدگاهی که بر کاهش سرعت توسعه هوش مصنوعی یا وضع مقررات جدید به‌عنوان راه‌حل اصلی تأکید دارد، رویکرد متفاوتی را دنبال می‌کند. این شرکت می‌خواهد بخشی از کنترل‌های امنیتی را به خارج از خود عامل هوش مصنوعی منتقل کند. به این ترتیب، یک لایه امنیتی مستقل می‌تواند به‌طور مداوم رفتار عامل را زیر نظر داشته باشد.
هوانگ می‌گوید تحقق ظرفیت‌های هوش مصنوعی برای جامعه به حل مسئله ایمنی آن وابسته است. امنیت هم باید هم‌زمان با توسعه قابلیت‌های هوش مصنوعی پیشرفت کند.
ترکیب نرم‌افزار و سخت‌افزار برای کنترل عامل‌ها
پلتفرم جدید انویدیا از دو بخش اصلی تشکیل شده است. اول اوپن‌شل، نرم‌افزاری متن‌باز که دسترسی عامل‌های هوش مصنوعی را هنگام فعالیت کنترل می‌کند. دوم سنتری، سامانه‌ای مستقل برای نظارت بر فعالیت عامل که روی واحدهای پردازش داده بلوفیلد-۴ اجرا می‌شود.
قرار گرفتن سنتری روی یک پردازنده مستقل، به جای پردازنده مرکزی یا گرافیکی‌ای که عامل هوش مصنوعی روی آن اجرا می‌شود، به این سامانه امکان می‌دهد فعالیت عامل را از یک محیط جداگانه زیر نظر بگیرد.
اوپن‌شل در واقع فناوری جدیدی نیست و انویدیا آن را در ماه مارس معرفی کرده بود. نوآوری اصلی اینجا ترکیب اوپن‌شل با سنتری است. اوپن‌شل مرز نرم‌افزاری فعالیت عامل را تعیین می‌کند و سنتری یک لایه امنیتی مستقل در سطح سخت‌افزار می‌سازد.
انویدیا می‌گوید این سامانه می‌تواند رفتار عامل‌ها را به‌صورت مداوم بررسی کند و عامل‌هایی را که تلاش می‌کنند از محدوده تعیین‌شده خارج شوند، ظرف چند میلی‌ثانیه قرنطینه کند.
شرکت‌هایی مثل آنتروپیک، آرم، مایکروسافت، اوراکل و اسپیس‌ایکس از این طرح پشتیبانی کرده‌اند و از پلتفرم متن‌باز آن استفاده خواهند کرد. نام اوپن‌ای‌آی در فهرست شرکت‌های مشارکت‌کننده دیده نمی‌شود.
هوانگ همچنین گفته است توسعه این راهکار حدود یک سال پیش و بعد از معرفی اوپن‌کلاو، یک سیستم‌عامل برای عامل‌های هوش مصنوعی، آغاز شد. انویدیا در ماه مارس هم نیموکلاو را معرفی کرده بود. پلتفرمی سازمانی برای اجرای عامل‌های هوش مصنوعی که قابلیت‌های امنیتی را در خود جای داده است.
به گفته هوانگ، هنگام استقرار یک عامل هوش مصنوعی، نخستین اقدام باید محدود کردن سطح دسترسی آن باشد. رویکردی که انویدیا معتقد است می‌تواند بدون متوقف کردن روند توسعه هوش مصنوعی، خطر رفتارهای خارج از کنترل را کاهش دهد.
