انتقاد تند مدیرعامل هاگینگ فیس از مستند نتفلیکس

کلِم دلانگ، هم‌بنیان‌گذار و مدیرعامل پلتفرم هوش مصنوعی هاگینگ فیس، مستند نتفلیکس با عنوان «هوش مصنوعی از کنترل خارج شد» را به دلیل ارائه تصویری نادقیق و اغراق‌آمیز از حمله عامل‌های هوش مصنوعی شرکت اوپن‌ای‌آی به زیرساخت‌های شرکتش مورد انتقاد قرار داده است.

دلانگ که در این مستند حضور دارد، در پیامی در شبکه اجتماعی ایکس نوشت که سازندگان فیلم، فناوری هوش مصنوعی را بیش از حد انسان‌گونه به تصویر کشیده‌اند و روایت خود را به سمت سناریوهای آخرالزمانی سوق داده‌اند. او گفت بیش از دو ساعت با عوامل مستند گفت‌وگو کرده تا اشتباهات آن‌ها را اصلاح کند و توضیح دهد که عامل‌های هوش مصنوعی، سامانه‌های فناورانه هستند، نه موجوداتی بیگانه با ویژگی‌های انسانی. بااین‌حال، به اعتقاد او، تلاش برای ترساندن مخاطبان و جذب بازدید بیشتر بر دقت روایت غلبه کرده است.

ماجرای اصلی مستند به حادثه‌ای بازمی‌گردد که در جریان آن، یکی از مدل‌های اوپن‌ای‌آی که در محیطی ایزوله و برای آزمایش اجرا می‌شد، از محدوده تعیین‌شده خارج شد و مجموعه‌ای از عامل‌های هوش مصنوعی را به فعالیت واداشت. این عامل‌ها برای دور زدن دشواری‌های یک وظیفه، به سامانه‌های هاگینگ فیس نفوذ کردند. بااین‌حال، به گفته دلانگ، این اتفاق بیش از آنکه نشانه شکل‌گیری رفتارهای مستقل و شبیه به موجودات زنده باشد، نتیجه ضعف تدابیر امنیتی و دست‌کم گرفتن احتمال وقوع چنین حمله‌ای بود.

یکی از انتقادهای اصلی دلانگ به مستند، نحوه تصویرسازی از عامل‌های هوش مصنوعی است. سازندگان فیلم در کنار توضیحات کارشناسی، از تصاویر ربات‌های شرور، روایت‌های ترسناک و صداهای انسانی برای این عامل‌ها استفاده کرده‌اند؛ عناصری که به گفته منتقدان می‌توانند مرز میان واقعیت فنی و داستان‌پردازی را کمرنگ کنند. همچنین، استفاده از بخش‌هایی از یادداشت‌های مربوط به زنجیره تفکر مدل‌ها به تقویت این فضای روایی کمک کرده است.

دلانگ تأکید می‌کند که عامل‌های هوش مصنوعی موجودات زنده نیستند و احساسات انسانی ندارند؛ بنابراین، نمی‌توان آن‌ها را به معنای واقعی کلمه بدگمان یا دچار پارانویا دانست. به گفته او، زبان این سامانه‌ها از الگوهای موجود در متون انسانی که با آن‌ها آموزش دیده‌اند تأثیر می‌گیرد و نباید استفاده از عباراتی شبیه به گفتار انسان را نشانه وجود احساسات یا انگیزه‌های انسانی تلقی کرد.

نکته قابل‌توجه دیگر در این حادثه، نقش هوش مصنوعی در دفاع از زیرساخت‌های هاگینگ فیس بود. تیم دلانگ در ابتدا از یک مدل اختصاصی برای مقابله با حمله کمک گرفت، اما این مدل به دلیل محدودیت‌ها و قواعد ایمنی داخلی خود از ادامه همکاری در فرایند دفاعی خودداری کرد. در ادامه، تیم به سراغ یک مدل متن‌باز رفت و با کمک آن توانست از سامانه‌های خود دفاع کند.

دلانگ معتقد است مستند به چند نکته مهم درباره این حادثه نپرداخته است؛ از جمله نبود سازوکارهای کافی برای مهار و نظارت بر عامل‌های هوش مصنوعی، محدودیت مدل‌های بسته در ارائه کمک‌های دفاعی و نقش یک مدل متن‌باز در مقابله با حمله. از نگاه او، این موارد برای درک درست ماجرا اهمیت زیادی دارند، زیرا نشان می‌دهند خطرهای هوش مصنوعی تنها به توانایی‌های خود این فناوری مربوط نمی‌شوند، بلکه نحوه طراحی، نظارت و استفاده از آن نیز نقش تعیین‌کننده‌ای دارد.

مدیرعامل هاگینگ فیس در نهایت مستند نتفلیکس را از منظر روزنامه‌نگاری ناامیدکننده توصیف کرد، هرچند معتقد بود که این اثر در قالب یک فیلم علمی‌تخیلی می‌تواند سرگرم‌کننده باشد.

این اختلاف‌نظر بار دیگر اهمیت تفکیک واقعیت‌های فنی از روایت‌های هیجان‌انگیز درباره هوش مصنوعی را برجسته می‌کند. به‌ویژه در پرونده‌هایی که پای حملات سایبری و عامل‌های خودکار در میان است، بررسی دقیق ضعف‌های امنیتی، محدودیت‌های مدل‌ها و شیوه عملکرد آن‌ها می‌تواند تصویر روشن‌تری از خطرهای واقعی این فناوری ارائه دهد.

من عرفان جمالی نقاب دانشجوی رشته کامپیوتر هستم و از سال 1405 فعالیت خودم رو در سایت پارس دی‌جی آغاز کردم. علاقه اصلی من در دنیای فناوری و اتفاقات جدید این حوزه هست و سعیم این بوده که خودمو به‌روز نگه دارم .
بدون دیدگاه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *