هوش مصنوعی قرار بود سرعت و دقت تصمیم‌گیری را در ساختارهای نظامی افزایش دهد؛ اما یک گزارش اطلاعاتی در آمریکا نشان داد که ورود یک خطای هوش مصنوعی به زنجیره تصمیم‌گیری نظامی می‌تواند پیامدهایی بسیار فراتر از یک اشتباه محاسباتی داشته باشد. بر اساس گزارش اختصاصی CNN، ارتش آمریکا در جریان جنگ با ایران، تا آستانه اجرای عملیاتی علیه یک کشتی چینی پیش رفت؛ عملیاتی که مبنای آن گزارشی بود که یک سامانه هوش مصنوعی در شناسایی محموله کشتی مرتکب خطا شده بود.

ماجرا زمانی متوقف شد که تحلیلگران باتجربه‌تر، اطلاعات اولیه را دوباره بررسی کردند و دریافتند ادعای مطرح‌شده درباره محموله کشتی صحت ندارد. در آن لحظه، هواپیماهای نظامی آمریکا در آسمان بودند و نیروهای مسلح برای سوار شدن به کشتی آماده می‌شدند.

یک گزارش اشتباه، عملیات نظامی آمریکا را فعال کرد

ماجرا در بهار امسال و در جریان جنگ ایران و آمریکا رخ داد. طبق گزارش CNN، یک تحلیلگر مرتبط با فرماندهی عملیات ویژه آمریکا، اطلاعات مختلف مربوط به یک کشتی چینی در حال تردد در خاورمیانه را در یک چت‌بات وارد کرد. این اطلاعات شامل داده‌های اطلاعاتی و منابع باز بود.

خروجی سامانه این ادعا را مطرح کرد که کشتی حامل اجزایی مرتبط با برنامه تسلیحات هسته‌ای است. همین ارزیابی برای مقام‌های نظامی آمریکا هشداردهنده بود و در پی آن، مقدمات رهگیری کشتی فراهم شد.

CNN گزارش داده است که حتی احتمال سوار شدن نیروهای مسلح آمریکا به کشتی مطرح شده بود و هواپیماهای نظامی نیز در آسمان حضور داشتند. اما زمانی که عملیات در آستانه اجرا قرار گرفت، تحلیلگران متخصص اطلاعات پشت گزارش را دوباره بررسی کردند و متوجه شدند چت‌بات، محموله کشتی را به اشتباه شناسایی کرده است. در نهایت، عملیات لغو شد.

نکته مهم این است که در گزارش CNN، مسئله اصلی درباره خطای اطلاعاتی ناشی از شناسایی اشتباه محموله است؛ بنابراین نمی‌توان صرفاً بر اساس این گزارش درباره ماهیت واقعی محموله کشتی قضاوت کرد.

خطای اصلی فقط «توهم» هوش مصنوعی نبود

این حادثه یک سؤال مهم‌تر را مطرح می‌کند: اگر هوش مصنوعی می‌تواند در یک موضوع حساس نظامی اطلاعات نادرست تولید کند، چه اتفاقی می‌افتد وقتی همان اطلاعات وارد فرایند تصمیم‌گیری عملیاتی شود؟

در ماجرای کشتی چینی، در نهایت انسان‌ها بودند که خطا را شناسایی کردند. تحلیلگران متخصص با بازگشت به اطلاعات پایه متوجه شدند نتیجه‌ای که سامانه ارائه کرده با واقعیت تطابق ندارد و همین بررسی انسانی، عملیات را متوقف کرد. CNN این ماجرا را نمونه‌ای از خطرات اتکای گسترده به هوش مصنوعی در ساختارهای نظامی و اطلاعاتی توصیف کرده است.

به بیان دیگر، مسئله فقط این نیست که یک مدل هوش مصنوعی ممکن است پاسخ اشتباه بدهد؛ مسئله زمانی جدی‌تر می‌شود که پاسخ اشتباه، در قالب یک گزارش اطلاعاتی وارد زنجیره تصمیم‌گیری شود و پیش از راستی‌آزمایی انسانی، مبنای یک اقدام عملیاتی قرار گیرد.

پنتاگون در حال گسترش استفاده از هوش مصنوعی است

این حادثه در شرایطی رخ داده که استفاده از هوش مصنوعی در ساختار نظامی آمریکا در حال گسترش است. CNN گزارش داده که دولت دونالد ترامپ و پیت هگست، وزیر دفاع آمریکا، رویکردی گسترده نسبت به استفاده از هوش مصنوعی در ارتش دارند و این فناوری قرار است در حوزه‌هایی از عملیات هدف‌گیری تا امور اداری مورد استفاده قرار گیرد.

در چنین ساختاری، سرعت پردازش داده‌ها یک مزیت مهم محسوب می‌شود؛ اما همان سرعت، در صورت نبود سازوکارهای کافی برای راستی‌آزمایی، می‌تواند به نقطه ضعف تبدیل شود.

ماجرای کشتی چینی نشان داد که فاصله میان یک خطای اطلاعاتی و یک تصمیم نظامی می‌تواند بسیار کوتاه باشد؛ به‌ویژه زمانی که اطلاعات تولیدشده یا پردازش‌شده با کمک هوش مصنوعی، پیش از بررسی دقیق انسانی در اختیار تصمیم‌گیرندگان قرار گیرد.

پرونده میناب؛ وقتی خطای اطلاعاتی به مسئله‌ای مرگبار تبدیل می‌شود

این نگرانی‌ها در پرونده حمله به مدرسه میناب اهمیت بیشتری پیدا می‌کند. بلومبرگ در گزارشی درباره تحقیقات پنتاگون نوشته است که اطلاعات نادرست، تصاویر ماهواره‌ای قدیمی و اتکای بیش از حد به هوش مصنوعی از جمله عواملی بوده‌اند که در بررسی این حمله مورد توجه قرار گرفته‌اند. بلومبرگ همچنین گزارش کرده است که تحقیقات پنتاگون این عوامل را در زنجیره‌ای بررسی کرده‌اند که به حمله‌ای مرگبار در میناب منجر شد.

با این حال، این یافته به‌تنهایی به معنای اثبات این گزاره نیست که «هوش مصنوعی به‌تنهایی باعث حمله به مدرسه شد». آنچه گزارش شده، نقش این عوامل در روند اطلاعاتی و هدف‌گیری است و مسئولیت تصمیم‌گیری نهایی همچنان باید از نقش ابزارهای مورد استفاده در این فرایند تفکیک شود.

در همین زمینه، سازوکارهای سازمان ملل نیز درباره حمله به مدرسه دخترانه میناب در ۲۸ فوریه ۲۰۲۶، نگرانی‌های جدی درباره رعایت حقوق بین‌الملل بشردوستانه و تعهد به تحقیق درباره حملاتی که به تلفات غیرنظامی منجر می‌شوند، مطرح کرده‌اند.

تفاوت کشتی چینی و مدرسه میناب در یک نکته کلیدی است

این دو پرونده از نظر نتیجه و ابعاد قابل مقایسه مستقیم نیستند؛ یکی عملیاتی است که پیش از اجرا متوقف شد و دیگری حمله‌ای بود که به کشته‌شدن شمار زیادی از غیرنظامیان انجامید. اما یک وجه مشترک مهم میان آنها وجود دارد: اهمیت کیفیت اطلاعات پیش از تصمیم نظامی.

در پرونده کشتی چینی، بازبینی انسانی توانست خطای موجود در گزارش را پیش از اجرای عملیات آشکار کند؛ در اینجا، بررسی مجدد اطلاعات عملاً مانع ادامه عملیات شد. اما در پرونده میناب، گزارش‌های تحقیقی درباره اطلاعات نادرست، تصاویر قدیمی و استفاده از هوش مصنوعی این پرسش را مطرح کرده‌اند که سازوکارهای بررسی و راستی‌آزمایی هدف تا چه اندازه توانسته‌اند خطاهای اطلاعاتی را پیش از حمله شناسایی کنند.

همین تفاوت، اهمیت یک اصل را برجسته می‌کند: هوش مصنوعی می‌تواند ابزار تحلیل باشد، اما تبدیل خروجی آن به مبنای تصمیم نظامی بدون راستی‌آزمایی مستقل، ریسک خطا را افزایش می‌دهد.

از سرعت پردازش تا مسئولیت تصمیم

جذابیت هوش مصنوعی برای ارتش‌ها روشن است؛ حجم عظیمی از داده‌ها می‌تواند در زمانی کوتاه پردازش شود. اما یک سامانه هوش مصنوعی مسئولیت تصمیم نهایی را بر عهده نمی‌گیرد.

در ماجرای کشتی چینی، یک خروجی اشتباه تقریباً به عملیاتی علیه یک کشتی متعلق به چین منجر شد؛ اقدامی که به گفته منابع CNN می‌توانست پیامدهای جدی برای روابط آمریکا و چین داشته باشد.

این اتفاق نشان می‌دهد مسئله فقط «باهوش‌تر شدن» ماشین‌ها نیست؛ بلکه نحوه استفاده از خروجی آنها در زنجیره تصمیم‌گیری اهمیت دارد. هرچه فاصله میان تولید اطلاعات و اقدام نظامی کوتاه‌تر شود، اهمیت سازوکارهای انسانیِ بررسی، تردید و کنترل نیز بیشتر خواهد شد.

ماجرای کشتی چینی نشان داد یک خطای اطلاعاتی، اگر در زمان مناسب شناسایی نشود، می‌تواند تا آستانه یک اقدام نظامی پیش برود. پرونده میناب نیز نشان می‌دهد که وقتی خطاهای اطلاعاتی، تصاویر نادرست یا قدیمی و ضعف در فرایند راستی‌آزمایی وارد یک زنجیره هدف‌گیری می‌شوند، پیامدهای انسانی آن می‌تواند بسیار سنگین باشد.

پرسش اصلی آینده شاید این نباشد که آیا هوش مصنوعی اشتباه می‌کند یا نه؛ این مسئله از همین حالا روشن است. پرسش مهم‌تر این است که در ساختارهای نظامی، چه سازوکارهایی باید وجود داشته باشد تا یک خطای ماشینی، پیش از آنکه به یک تصمیم غیرقابل بازگشت تبدیل شود، شناسایی و متوقف شود؟