یک گزارش اطلاعاتی نادرست که با کمک یک چت‌بات هوش مصنوعی تهیه شده بود، در بهار ۲۰۲۶ نزدیک بود به عملیات نظامی آمریکا علیه یک کشتی چینی و یک بحران جدی میان واشنگتن و پکن منجر شود. طبق گزارش اختصاصی CNN، این گزارش به‌اشتباه مدعی شده بود کشتی چینی در حال حمل قطعات مرتبط با برنامه تسلیحات هسته‌ای است.
ماجرا در جریان جنگ ایران در بهار امسال رخ داد. گزارش اطلاعاتی مذکور در میان بخش‌هایی از ارتش آمریکا منتشر شد و به‌سرعت زنگ خطر را به صدا درآورد. ارتش آمریکا برای رهگیری کشتی آماده شد و طبق گزارش CNN، هواپیماهای نظامی در آسمان بودند و نیروهای مسلح نیز برای سوار شدن و بازرسی کشتی آماده می‌شدند.
اما بررسی دقیق‌تر گزارش، درست پیش از آغاز عملیات، مشخص کرد که اطلاعات اصلی اشتباه بوده است. تحلیلگران باتجربه‌ای که داده‌های پشت گزارش را بررسی کردند، متوجه شدند چت‌بات مورد استفاده تحلیلگر نظامی، محموله واقعی کشتی را اشتباه شناسایی کرده و در واقع دچار توهم یا Hallucination شده است.
یکی از منابع CNN این حادثه را اتفاقی توصیف کرد که «تقریباً یک جنگ را آغاز کرد».
بر اساس اطلاعات منتشرشده، یک تحلیلگر در یکی از فرماندهی‌های عملیات ویژه آمریکا اطلاعات مربوط به محموله کشتی را در اختیار یک چت‌بات قرار داده بود. این داده‌ها ترکیبی از اطلاعات منابع عمومی و اطلاعات سیگنالی محرمانه موجود در سامانه‌های دولتی بودند.
نکته مهم این است که CNN نتوانسته مشخص کند این تحلیلگر از یک چت‌بات تجاری استفاده کرده یا از سامانه هوش مصنوعی داخلی دولت آمریکا.
این حادثه نمونه‌ای جدی از مشکلی است که از مدت‌ها پیش درباره مدل‌های زبانی بزرگ مطرح شده است. این مدل‌ها گاهی در مواجهه با اطلاعات ناقص یا مبهم، پاسخ‌هایی تولید می‌کنند که از نظر ظاهری منطقی و مطمئن به نظر می‌رسند، اما واقعیت ندارند. در کاربردهای عادی، چنین خطایی ممکن است به یک پاسخ اشتباه منجر شود، اما در حوزه اطلاعات نظامی، می‌تواند پیامد بسیار متفاوتی داشته باشد.
اهمیت این اتفاق در شرایطی دوچندان می‌شود که ارتش آمریکا به‌دنبال گسترش نقش هوش مصنوعی در فعالیت‌های نظامی خود است.
وزارت دفاع آمریکا در ژانویه ۲۰۲۶ راهبردی برای تسریع استفاده از هوش مصنوعی در نیروهای مسلح ارائه داد که هدف این برنامه، فراهم کردن دسترسی سامانه‌های هوش مصنوعی به داده‌های مورد نیاز در بخش‌های مختلف ارتش و استفاده گسترده‌تر از این فناوری برای تحلیل و تصمیم‌گیری بود.
پیت هگست، وزیر دفاع آمریکا، هنگام معرفی این برنامه تأکید کرده بود که عملکرد هوش مصنوعی به کیفیت داده‌هایی که دریافت می‌کند وابسته است.
پنتاگون هم توی بخش‌های مختلف ساختار خودش سراغ مدل‌های مختلف هوش مصنوعی رفته؛ از جمله مدل‌هایی که استفاده شده می‌توان به جمنای گوگل برای پلتفرم داخلی GenAI.mil، و همچنین نسخه‌های دولتی Grok و Claude اشاره کرد. طبق آماری که یکی از نمایندگان پنتاگون در ماه ژوئن به کنگره ارائه کرده، حدود ۱.۵ میلیون نیروی فعال وزارت دفاع آمریکا از ابزارهای هوش مصنوعی مولد نظامی استفاده کرده‌اند.
این گسترش در حالی اتفاق می‌افتد که سیاست رسمی آمریکا همچنان بر نقش انسان در تصمیم‌های حساس نظامی تأکید دارد. «بیانیه استفاده مسئولانه نظامی از هوش مصنوعی و خودمختاری» در سال ۲۰۲۳ بر ضرورت بررسی ریسک‌ها و منافع، جلوگیری از حوادث ناخواسته و وجود یک زنجیره فرماندهی انسانی برای استفاده مسئولانه از این فناوری تأکید کرده بود.
حادثه کشتی چینی نشان می‌دهد وجود انسان در زنجیره تصمیم‌گیری به‌تنهایی کافی نیست و نحوه بررسی خروجی هوش مصنوعی نیز اهمیت زیادی دارد.
در این مورد، خطا در مرحله تحلیل داده اتفاق افتاد، اما خروجی سیستم به شکل یک گزارش اطلاعاتی معتبر وارد زنجیره فرماندهی شد و تنها زمانی شناسایی شد که تحلیلگران متخصص دوباره اطلاعات اصلی را بررسی کردند.
در همین حال، نگرانی درباره استفاده نظامی از هوش مصنوعی در سطح بین‌المللی نیز افزایش یافته است. کارشناسان آمریکایی و چینی اخیراً پیشنهاد کرده‌اند برای کاربردهای حساس نظامی، از جمله سامانه‌های مرتبط با تسلیحات هسته‌ای، محدودیت‌ها و سازوکارهای نظارتی مشابه برخی چارچوب‌های کنترل تسلیحات ایجاد شود.
یکی از پیشنهادهای مطرح‌شده، تضمین «کنترل معنادار انسانی» و ایجاد کانال ارتباطی مستقیم میان دو کشور برای جلوگیری از تشدید ناخواسته بحران‌های ناشی از سامانه‌های هوش مصنوعی است.
ماجرای کشتی چینی هنوز به‌عنوان گزارشی مبتنی بر منابع ناشناس مطرح است و جزئیات کامل آن از سوی پنتاگون یا فرماندهی عملیات ویژه آمریکا به‌طور عمومی تأیید نشده است. با این حال، متن گزارش CNN و رونوشت‌های منتشرشده از برنامه‌های این شبکه جزئیات مشابهی درباره خطای هوش مصنوعی، آماده‌سازی نیروها و لغو عملیات در آخرین مرحله ارائه می‌کنند.
