Ложный отчёт ИИ-чат-бота едва не спровоцировал вооружённую операцию США против китайского судна
CNN сообщил 18 сентября 2026 года, что военная операция США по перехвату китайского судна была отменена в последний момент этой весной после того, как выяснилось, что лежавшие в её основе разведданные были сгенерированы ИИ-чат-ботом.
Военная операция США по перехвату китайского судна на Ближнем Востоке была отменена в последний момент этой весной после того, как чиновники обнаружили, что лежавшие в её основе разведданные были сгенерированы ИИ-чат-ботом, неверно определившим груз судна, сообщил CNN 18 сентября 2026 года со ссылкой на четырёх источников, знакомых с ситуацией. В тот же день эту информацию подтвердило издание TechCrunch.
Что произошло
- Разведывательный отчёт, циркулировавший во время войны с Ираном, утверждал, что китайское судно перевозит компоненты для программы создания ядерного оружия, что побудило военных США подготовиться к его перехвату; по данным источников CNN, вооружённый персонал готовился подняться на борт судна, а военные самолёты уже находились в воздухе.
- Операцию отменили только после того, как выяснилось, что отчёт был подготовлен с помощью ИИ: аналитик запросил у чат-бота сведения о судовом манифесте на основе разведывательных данных, поступивших от Тихоокеанского командования специальных операций США, базирующегося на Гавайях, и бот «объединил разведданные из открытых источников с секретными данными радиоэлектронной разведки», придя к ложному выводу, сообщил CNN.
- Затем аналитик повторно использовал ИИ, чтобы оформить эту находку в виде «стандартного разведывательного отчёта — такого, каким доверяют военные чиновники», который затем был распространён, по данным CNN.
- Один из источников сообщил CNN, что отчёт был «полностью ложным», но «едва не привёл к войне». CNN сообщил, что не смог установить, что на самом деле перевозило судно.
- Тихоокеанское командование специальных операций США и Пентагон не ответили на запрос CNN о комментарии.
- CNN сообщил, что в США не существует единого стандарта проверки разведданных, сгенерированных ИИ, а один из источников заявил, что подобные галлюцинации «не были единичным случаем» в разведывательном сообществе.
Почему это важно
Этот случай — задокументированный пример того, как галлюцинация ИИ едва не привела к реальной вооружённой операции против судна другой крупной державы, причём произошло это в момент, когда Пентагон — в рамках январской 2026 года «Стратегии ускоренного внедрения искусственного интеллекта» министра обороны Пита Хегсета — стремится передать инструменты ИИ напрямую в руки трёх миллионов гражданских и военных сотрудников для ускорения принятия решений, по данным CNN. Для правительств и вооружённых сил других стран, включая страны Каспийского региона, этот случай показывает, что человеческая проверка разведданных, полученных с помощью ИИ, не может оставаться факультативной по мере того, как вооружённые силы внедряют коммерческие инструменты ИИ быстрее, чем стандартизируют порядок их проверки.
