Глава Microsoft Наделла призвал к «аварийному тормозу» для сдерживания ИИ-моделей

Генеральный директор Microsoft (Microsoft Corporation) Сатья Наделла заявил 10 октября 2026 года, что отрасли необходимо «отступить и переоценить архитектуру доверия» (trust architecture) к системам искусственного интеллекта, утверждая, что продвинутые модели следует изначально считать потенциально скомпрометированными, сообщили TechCrunch и The Verge, обе ссылаясь на объёмный пост, который Наделла опубликовал в X тем же утром.

Что предложил Наделла

• «Мы не можем относиться к суперинтеллекту как к набору вложенных «чёрных ящиков» и просто принимать или отклонять его рекомендации, ответы и действия», — написал Наделла, по данным TechCrunch.
• Он призвал отделить модель от «обвязки, которая организует её работу» (harness that orchestrates its work), и «выносить средства контроля и защиты за её пределы» (externalizing controls and safeguards), сообщил TechCrunch.
• По словам Наделлы, «каждое значимое действие модели» должно документироваться «защищёнными от подделки, понятными человеку доказательствами» (tamper-proof human readable evidence), а «уполномоченное лицо» должно всегда иметь возможность «приостановить или отключить модель посреди выполнения задачи», сообщает TechCrunch.
• «Мы должны исходить из того, что модель скомпрометирована, и сдерживать её с самого начала. Думайте об этом как об аварийном тормозе», — написал Наделла, по данным обоих изданий.
• The Verge сообщил, что рекомендации Наделлы перекликаются с уже выдвигавшимися в отрасли призывами к «своевременному раскрытию инцидентов, независимым аудитам, проверяемым данным и сдерживанию» (timely incident disclosure, independent audits, verifiable data, and containment), но формулировки о сдерживании у него идут дальше большинства.

Почему это важно

Высказывания Наделлы прозвучали на фоне того, что ведущие ИИ-компании признают всё больше случаев, когда они, по всей видимости, теряли контроль над своими моделями, и после того, как генеральный директор Anthropic Дарио Амодей опубликовал план более осторожной разработки ИИ, сообщил TechCrunch. Для правительств и регуляторов за пределами США и ЕС, включая страны Каспийского региона, слова Наделлы сигнализируют, что даже компании, создающие и продающие самые мощные модели, теперь описывают механизмы сдерживания и «аварийного выключателя» как базовое требование, а не как регуляторное навязывание.