Папа Римский рассказал о рисках искусственного интеллекта Поделиться
Папа Римский Лев в энциклике из 42 300 слов предупреждает об опасностях, связанных с ИИ. Этот документ знаменует собой решительный шаг главы Римско-католической церкви в дискуссии о неправильном использовании искусственного интеллекта.
Фото: Gomez/Vatican Pool/ Spaziani/Spaziani/Global Look Press
Папа Римский Лев XIV в понедельник изложил широкомасштабное видение для руководителей корпораций, политиков и частных лиц, которые будут формировать будущее искусственного интеллекта, и призвал лидеров защитить человечество от наиболее разрушительных последствий ИИ, пишет The New York Times.
Заявление папы Льва было опубликовано в форме папской энциклики — открытого письма “всем людям доброй воли”, которое в английской версии содержит примерно 42 300 слов, указывает The New York Times. В этом послании говорилось о его стремлении защитить человеческое достоинство и свободу воли в век, когда технологии угрожают заменить человека во многих профессиональных и социальных ролях. Он представил его вместе с Кристофером Олахом, соучредителем крупного разработчика искусственного интеллекта Anthropic — в символическом жесте диалога между лидерами духовного и технологического миров.
Подчеркивая, что “технология сама по себе не должна рассматриваться как сила, враждебная человечеству”, понтифик подчеркнул, что “погоня за большей прибылью не может оправдать выбор, который систематически приводит к потере рабочих мест”.
Среди прочего, Лев XIV призвал к: государственному регулированию деятельности частных компаний, которые способствуют развитию системы защиты от искусственного интеллекта, и переподготовке работников, чья работа находится под угрозой; образованию, помогающему студентам критически относиться к технологическим действиям по защите детей от насильственной, гиперсексуальной или фейковой информации в Интернете, которая часто генерируется средствами искусственного интеллекта. А также обеспечить, чтобы люди, а не искусственный интеллект, оставались ответственными за все решения, касающиеся применения оружия.
Прежде всего, папа римский подчеркнул важность сохранения фундаментальной социальной роли всех людей: “Общество, которое гарантирует занятость лишь небольшой части населения, несмотря на высокий уровень технического развития, рискует подвергнуть многих вынужденному бездействию”.
“Это создает парадокс материального прогресса и антропологического регресса, который подрывает основы справедливого и стабильного социального мира”, — добавил он.
Лев, представляя энциклику перед переполненным залом Ватикана, сказал, что его взгляды сформировались в результате бесед с учеными, инженерами и политическими лидерами. Он особо выделил Кристофера Олаха, с которым пообещал работать, “чтобы найти путь для человечества в наше время искусственного интеллекта”.
“Какой прекрасный знак надежды, что, несмотря на наши разногласия, мы можем прислушаться друг к другу”, — сказал Лев Четырнадцатый.
Кристофер Олах, который не является католиком, высоко оценил инициативу папы римского, признав, что компании, подобные его собственной, нуждаются в моральном руководстве, чтобы избежать влияния “набора стимулов и ограничений, которые иногда могут противоречить правильному поступку”.
“Нам нужны моральные устои, которые не смогут поколебать никакие стимулы”, — добавил Олах.
“Сегодня это только начало — начало долгого сотрудничества между теми из нас, кто строит это, и теми, кто может видеть то, чего мы не видим изнутри”, — сказал Олах. Оба они выступали вместе с группой теологов и официальных лиц Ватикана перед аудиторией, состоящей из кардиналов, компьютерщиков, журналистов и дипломатов, включая Брайана Берча, посла Соединенных Штатов при Святом Престоле, пишет The New York Times.
Лев XIV ясно выразил свою озабоченность ИИ уже на второй день своего пребывания на посту папы, чуть более года назад, когда он заявил Коллегии кардиналов, что под его руководством церковь будет устранять риски, которые эволюционирующие технологии представляют для “человеческого достоинства, справедливости и труда”.
С тех пор он неоднократно говорил об искусственном интеллекте, в том числе во время поездки в Турцию и Ливан, в обращении к руководителям католических университетов и даже во время празднования международного дня математики. На прошлой неделе Ватикан объявил о создании комиссии из высокопоставленных католических чиновников для обсуждения проблем, связанных с искусственным интеллектом
Папа Франциск, непосредственный предшественник Льва, также предупреждал об опасностях искусственного интеллекта и призывал к этичному использованию технологий, напоминает The New York Times.
Хотя Лев публично представил свою энциклику в понедельник, официально он подписал ее 15 мая, в 135-ю годовщину публикации “Rerum Novarum” (“О новых вещах”), — крупной энциклики, написанной в 1891 году его тезкой Львом XIII.
Энциклика папы была приурочена к тому, чтобы провести параллели с этим более ранним документом, который определял католическое учение о том, как защитить работников после технологических и промышленных потрясений 19-го века, отмечает The New York Times.
Написанный в разгар промышленной революции, “Rerum Novarum” стремился защитить права и достоинство рабочего класса и стал одним из основополагающих текстов современного католического социального учения. В нем содержался призыв к правительствам “спасти несчастных трудящихся от жестокости жадных людей, которые используют людей как простые инструменты для зарабатывания денег”, а также восхвалялись “научные открытия”.
В новой энциклике, озаглавленной “Magnifica Humanitas”, или “Великолепная человечность”, понтифик высказался в том же духе, предупредив о новой угрозе для работников, которую представляет искусственный интеллект.
Работа, отмечает папа, — это нечто большее, чем способ получения дохода, а “необходимое условие существования человека, нормальный путь к зрелости, развитию и самореализации”. Он призвал “защищать возможности трудоустройства и незаменимую роль личности”.
В энциклике также содержится призыв к введению “самых строгих этических ограничений” в отношении оружия, разработанного с использованием искусственного интеллекта, что продолжает давнюю оппозицию Льва и Ватикана войне.
“Растущая легкость, с которой могут быть развернуты автономные системы вооружения, делает войну более ”осуществимой» и менее подверженной контролю со стороны человека», — написал Лев. Это, добавил он, противоречит “принципу, согласно которому вооруженная сила должна использоваться только в качестве последнего средства в случаях законной самообороны”.
Лев также использовал энциклику, чтобы извиниться за роль Ватикана в распространении рабства. В разделе, посвященном современному рабству, Лев лично извинился за неспособность папства осудить прежние формы рабства и за поддержку правителей, которые занимались этим. Предыдущий папа римский, Иоанн Павел II, извинился в 1985 году за роль христиан в продолжении работорговли, но прямо не обсуждал роль Ватикана.
Хотя энциклика содержит важные ссылки на Священные Писания и религиозные учения, этот документ во многих отношениях читается как политический документ аналитического центра или законодателя.
Лев подробно писал, например, о важности защиты детей, которые особенно подвержены разрушительному воздействию технологий.
“В психологической и психиатрической литературе все чаще встречается информация о том, как раннее и неконтролируемое использование цифровых устройств и социальных сетей может негативно повлиять на сон, концентрацию внимания, контроль эмоций и взаимоотношения, особенно на наиболее уязвимых этапах жизни, иногда с трагическими последствиями”, — написал он.
Ученые разошлись во мнениях о том, какое влияние окажет этот документ на технологическую индустрию, в которой конкурирующие технологические титаны борются с Anthropic за доминирование.
Брайан Патрик Грин, директор по технологической этике Университета Санта-Клары в Северной Калифорнии, сказал, что некоторым технологическим лидерам “в некотором смысле придется отнестись к этому серьезно”, отчасти потому, что это дает им “моральный императив”, хотя и признает их автономию.
Церковь, по его словам, “не претендует на то, чтобы подменять собой ответственность политиков или институтов, но предлагает себя в качестве основы”, призывая другие институты “признавать и продвигать все, что служит достоинству людей, жизнеспособности сообществ и общему благу”.
Другие говорили, что основными целями энциклики являются духовенство и верующие.
“Я не думаю, что ”технические братаны» в Кремниевой долине будут к этому прислушиваться», — сказал профессор. Норин Херцфельд, директор программы по технологиям и этике в Школе богословия и семинарии Святого Иоанна в Колледжвилле, штат Миннесота. “Но я думаю, что внутри церкви это будет служить ориентиром для священников и епископов и особенно для тех из нас, кто обучает семинаристов или молодежь”.
Профессор Херцфельд сказал, что священники могут использовать содержание этого документа для ведения бесед с прихожанами, которые делятся своими опасениями по поводу технологического давления современной жизни.
