Если ошибается машина: США и Китай обсуждают «горячую линию» для ИИ - ОБЗОР от Азера Ахмедбейли
Автор: Азер Ахмедбейли
24 сентября в Вашингтоне должны встретиться Дональд Трамп и Си Цзиньпин. Повестка большая - от торговли и Тайваня до Ирана и технологической конкуренции. Отдельное место в ней занимает искусственный интеллект. Накануне встречи Вашингтон вынес на переговоры с Пекином неожиданное предложение - создать отдельный механизм уведомления об опасных инцидентах, связанных с ИИ.
Что именно США считают настолько опасным, что для этого понадобился отдельный канал связи с Китаем?
Инициативу обсуждали министр финансов США Скотт Бессент и вице-премьер Госсовета КНР Хэ Лифэн во время переговоров в Нью-Йорке. По словам Бессента, речь идет о механизме, который позволил бы двум странам экстренно связываться в случае серьезных инцидентов с ИИ. Среди возможных угроз он упомянул вышедшие из-под контроля автономные системы ИИ, кибератаки и использование искусственного интеллекта негосударственными игроками.
Пока такой "горячей линии" нет. Стороны договорились продолжить диалог по безопасности ИИ, а примерно через два месяца провести следующую встречу в Шэньчжэне. Там предполагается обсуждать сами риски и протоколы связи на случай опасного инцидента.
На первый взгляд возникает простой вопрос: зачем для этого создавать еще один механизм?
У США и Китая уже существуют каналы экстренной связи. Между военными двух стран действует Defense Telephone Link, существуют контакты между руководителями оборонных ведомств и механизмы кризисных коммуникаций. Их задача как раз и состоит в том, чтобы во время опасного военного эпизода стороны могли быстро объяснить свои действия и не допустить непреднамеренной эскалации.
Но эти механизмы создавались, прежде всего, для кризисов между вооруженными силами двух государств. Инцидент с ИИ может выглядеть иначе. Сначала может быть непонятно даже то, что произошло: была ли это намеренная операция другой стороны, действие негосударственной группы или ошибка самой автономной системы. Неясно и кому в таком случае следует звонить - военным, дипломатам, спецслужбам или техническим специалистам.
Есть и проблема времени.
За несколько дней до переговоров Бессента американские и китайские эксперты, несколько лет проводившие совместные обсуждения в рамках диалога, организованного Brookings Institution и Университетом Цинхуа, предложили практически то же самое - отдельный двусторонний канал для чрезвычайных ситуаций, связанных с ИИ.
Они рассматривали, в частности, два сценария: вмешательство автономной системы в ядерное командование и военную кибероперацию, которая после запуска начинает развиваться настолько быстро, что люди могут не успеть ее остановить. Один из участников диалога, исследователь Фуданьского университета Цзян Тяньцзяо, объяснял необходимость специального канала именно скоростью возможного кризиса: автоматизированные военные действия могут развиваться быстрее, чем стороны успеют разобраться в происходящем через обычные дипломатические процедуры.
Экспертные предложения показывают, что инициатива, появившаяся затем на официальных американо-китайских переговорах, возникла не из воздуха. Специалисты двух стран уже несколько лет пытаются понять, как предотвратить ситуацию, при которой действие автономной системы может быть принято за сознательный шаг противника.
После Карибского кризиса США и СССР создали прямую линию связи между Москвой и Вашингтоном. В 1971 году две державы заключили соглашение о мерах по уменьшению опасности возникновения ядерной войны. Оно предусматривало срочные консультации в случае случайного, несанкционированного или необъяснимого инцидента, который мог создать угрозу ядерной войны.
Опасность технической ошибки стала особенно наглядной в сентябре 1983 года. Советская система раннего предупреждения сообщила о запуске американских ракет. Дежуривший на командном пункте подполковник Станислав Петров счел сигнал ошибочным. Проверка подтвердила, что ракет не было: спутниковая система приняла отражение солнечного света от облаков за признаки запуска.
Этот случай произошел уже после появления советско-американской горячей линии. Он иллюстрирует, для чего державам понадобились механизмы экстренной связи на случай ошибки техники.
Теперь похожая проблема возникает вокруг гораздо более сложных систем. Если американское правительство считает необходимым выдвигать подобную инициативу и обсуждать со своим главным стратегическим противником отдельный порядок действий при опасных инцидентах с ИИ, значит эти риски воспринимаются достаточно серьезно, раз они выносятся с экспертного на уровень межгосударственных отношений.
Практически одновременно эта тема выходит и на международный уровень. 23 сентября Совет Безопасности ООН проводит специальное заседание об искусственном интеллекте и международной безопасности. Ожидается участие главы OpenAI Сэма Альтмана, представителей Anthropic, а также китайских компаний DeepSeek и Moonshot. Для Совбеза сама тема не нова - она впервые обсуждалась еще в 2023 году. Но теперь наряду с общими рисками обсуждаются и конкретные протоколы действий.
Вашингтон и Пекин остаются главными конкурентами в мировой гонке ИИ. Они конфликтуют в вопросах экспорта передовых чипов, доступа к технологиям и правил развития искусственного интеллекта. Сближения позиций по этим вопросам не видно.
Но конкуренция не отменяет другой задачи: что делать, если одна из сторон однажды столкнется с действиями, похожими на атаку, но не сможет сразу разобраться, кто их инициировал - человек или машина.
Во времена холодной войны США и СССР создавали специальные каналы связи на случай опасной ошибки, случайности или неверно понятого сигнала. Теперь США и Китай обсуждают, нужен ли такой канал на случай, если источником опасного инцидента станет искусственный интеллект.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
