Бывший глава британских шпионов говорит об этике для дронов с ИИ Поделиться
Будущее оружие с искусственным интеллектом, такое как дроны, должно иметь моральный кодекс, считает бывший глава британской разведки. Программное обеспечение может принимать этически более выгодные решения, чем люди, в критические моменты, утверждает экс-глава GCHQ Дэвид Оманд.
ФОТО: СОЗДАНО С ПОМОЩЬЮ НЕЙРОСЕТИ GIGACHAT
По словам бывшего главы британской разведки, дроны с ИИ должны быть запрограммированы с учетом моральных принципов, поскольку принятие решений на основе искусственного интеллекта снижает участие человека в автономных боевых действиях.
Дэвид Оманд рассказал The Guardian, что он изменил свое мнение о беспилотных системах вооружения более чем через десять лет после того, как пришел к выводу, что автономные беспилотники не могут соответствовать нормам международного гуманитарного права.
Бывший глава GCHQ – британского агентства по прослушиванию – сказал, что теперь он верит в то, что искусственный интеллект якобы может создать “моральную основу” для беспилотного оружия, которая позволит проводить различие между комбатантами и гражданскими лицами.
Оманд сказал, что на него повлияло “ускорение” современной войны, о чем свидетельствует развертывание такого оружия, как беспилотные летательные аппараты и гиперзвуковые ракеты, а также появление искусственного интеллекта, который предоставил государствам “потенциально этичный способ”, позволяющий беспилотникам работать в системах, соответствующих моральным нормам.
“Я призываю действительно поработать над этим, чтобы мы не оказались в ситуации, когда в будущие системы вооружения на базе искусственного интеллекта не будет встроен моральный компонент”, – сказал он.
Его вмешательство последовало после того, как британский министр вооруженных сил Эл Карнс заявил, что могут возникнуть обстоятельства, при которых машины сами принимают решения о выборе цели, заявив, что “у вас должна быть возможность вывести человека из строя, когда это потребуется".
Тем временем США активно используют в военных действиях искусственный интеллект, констатирует The Guardian. В бюджете на 2027 год, опубликованном в апреле, предусмотрено выделение 54 миллиардов долларов на финансирование “автономных и дистанционно управляемых систем в воздухе, на суше, над и под водой”, включая программу “доминирования беспилотников”. Однако бывший директор ЦРУ Дэвид Петреус утверждал, что у США нет военной доктрины для автономных формирований.
Выступая перед The Guardian, Оманд сказал, что технология искусственного интеллекта теперь способна учитывать факторы, которые влияют на выбор цели оператором беспилотника, например, является ли цель законной, будут ли жертвы среди гражданского населения и была ли цель правильно идентифицирована. Это было не изобретение новой этики, добавил Оманд, а приведение существующей, используемой военными, в форму, которая может быть применена машиной.
Искусственный интеллект уже активно используется в недавних военных миссиях США, а технология, разработанная компаниями Palantir и Anthropic, используется для сокращения “цепочки убийств” – процесса от выбора целей до нанесения удара – в ходе конфликта в Иране, отмечает The Guardian.
Оманд, который был директором британского разведывательного агентства GCHQ с 1996 по 1997 год, возглавлял комиссию Бирмингемского университета по вооруженным беспилотникам, которая в 2014 году выразила “сомнения” в том, что автономные системы вооружения могут безопасно отличать гражданских лиц от комбатантов и смогут ли они когда-либо “проявлять пропорциональность, необходимую для соблюдения международного гуманитарного права”.
Оманд, приглашенный профессор кафедры военных исследований Королевского колледжа Лондона, считает, что теперь машина может атаковать законные военные цели, включая людей, таким образом, чтобы это отражало “здравые моральные соображения”, при этом оставаясь в той или иной форме под контролем человека.
Дэвид Оманд сказал, что по мере того, как война становится все более технологически сложной, людям неизбежно нужно будет быть “в курсе событий”. Термин “в курсе событий”, как поясняет The Guardian, обычно используется в дискуссиях о сдерживании мощных систем искусственного интеллекта и относится к человеку, непосредственно вовлеченному в процесс принятия решений.
Оманд сказал, что “в режиме реального времени” означает, что человек будет контролировать систему, но не санкционировать каждое отдельное боевое действие, а прорывы в области искусственного интеллекта позволят машинам действовать в рамках моральных принципов, разработанных человеком. Эти моральные принципы должны изменяться от операции к операции, добавил он.
По словам Оманда, переход к системе “в режиме реального времени” был неизбежен в мире, где военные действия ведутся на высокой скорости.
“Это физическая и оперативная неизбежность, – сказал Оманд. – Термин "в курсе" означает, что за вами по-прежнему наблюдает человек, и именно люди определяют параметры миссии. В этом смысле люди по-прежнему обладают моральным контролем. Но индивидуальные решения в пылу боя или там, где времени очень мало, у человека просто не будет времени их принимать”.
Теперь, по словам Оманда, вопрос заключается в том, как люди могут обеспечить соответствие автономных систем вооружения международному праву. Военная политика Великобритании в отношении использования искусственного интеллекта в обороне гласит, что “в оружии, которое идентифицирует, выбирает и атакует цели, должно быть задействовано соответствующее контексту участие человека”, добавляя, что это может включать “контроль, осуществляемый посредством настройки эксплуатационных параметров системы”.
Оманд утверждает, что действия беспилотника можно разделить на шесть переменных, которым оператор-человек может присвоить уровни важности – тот, кто “в курсе”, – которые затем используются для принятия решения беспилотником о выполнении задания.
Конечным результатом может стать система принятия моральных решений, которая с этической точки зрения превосходит процесс принятия решений человеком, сказал Оманд, который также занимал должности в советах директоров оборонных компаний и является консультантом инвестиционной компании Paladin Capital, инвестирующей в компании, занимающиеся кибербезопасностью.
“Это действительно может сработать, в то время как опора на людей в очень быстро меняющихся условиях ведения войны, вероятно, приведет к гораздо худшим результатам с точки зрения сопутствующего ущерба”, – сказал он.
Мораль будет программироваться с помощью того, что Оманд называет “адаптивным уровнем морального контроля”, где человек устанавливает параметры “моральной” системы перед началом миссии, такие как ожидаемая доля гражданских лиц вокруг цели. Оманд описывает это как “формализацию морального авторитета”.
Один из участников кампании по борьбе с беспилотниками назвал позицию Оманда “столь же бессмысленной, сколь и опасной”, отмечает The Guardian.
Крис Коул, директор Drone Wars UK, сказал: “ИИ просто не способен выносить суждения. Он просто обрабатывает данные, полностью лишенный возможности, например, отличать гражданских лиц от комбатантов или судить о том, пропорциональны ли потери среди людей военному преимуществу”.
