США и Россия добились исключения из проекта международных правил для автономного оружия требования, по которому человек должен проверять выбранные искусственным интеллектом военные цели перед нанесением удара. Об этом пишет The Washington Post со ссылкой на трех знакомых с ходом переговоров собеседников и изученные изданием документы.
Речь идет о переговорах группы правительственных экспертов по летальным автономным системам вооружений, которые проходили в Женеве с 31 августа по 4 сентября в рамках Конвенции ООН о конкретных видах обычного оружия. Участники пытаются выработать международные правила использования таких систем. Пока обсуждаемый документ не имеет обязательной юридической силы, но переговоры могут стать основой для будущего договора.
По данным The Washington Post, в последний день переговоров американская и российская делегации примерно 15 часов добивались изменений в тексте. Помимо обязательной проверки человеком целей, выбранных ИИ, из документа убрали положения о том, что автономные системы должны работать «предсказуемо» и «надежно», а также требование учитывать этические соображения при использовании такого оружия.
Обсуждение проходило за закрытыми дверями после отключения камер ООН и удаления наблюдателей от гражданского общества, утверждают собеседники газеты. США и Россия направили на переговоры примерно по десять юристов — почти вдвое больше, чем другие делегации. Госдепартамент США, МИД России и ООН на запросы The Washington Post о комментарии не ответили.
Издание отмечает, что автономные и основанные на ИИ системы уже используются в реальных войнах. По данным The Washington Post, американские военные применяли чат-бота Anthropic для определения почти тысячи целей в первые сутки войны с Ираном, а Израиль широко использовал алгоритмические системы при операциях в секторе Газа. Представитель Human Rights Watch Верити Койл предупредила, что ослабление ограничений может привести к ситуации, когда решения о жизни и смерти будут принимать машины без человеческого контроля.
Переговоры по автономному оружию продолжатся: в ноябре страны должны обсудить, станет ли нынешний процесс основой для официального мандата на подготовку юридически обязательного договора.
