Поможет ли чат-бот с лицом Гитлера? Поделиться
В группе риска – молодежь, которая активно использует нейросети для обучения.
В докладе ЮНЕСКО говорится, что нейросети могут исказить память о еврейском геноциде времен Второй мировой и Великой Отечественной войны.
Фото: unsplash.com
Исследование проводил Мыкола Махортых, доктор исторических наук из Бернского университета. Среди других исследователей – Хизер Манн – младший сотрудник по проектам в секторе образования ЮНЕСКО, получившая за свое исследование холокоста степень доктора философии в Оксфордском университете.
В докладе ЮНЕСКО выделяют несколько рисков в работе с нейросетями, которые влияют на историческую память.
Во-первых, генеративные нейросети – те, которые создают картинки и тексты по запросам пользователя – могут не просто создавать ложные факты, но и усиливать человеческие предубеждения, искажать информацию о конкретных событиях из истории или социальных группах, тем самым усиливая предрассудки. Исследователи упоминают, что для того, чтобы предотвратить распространение ложных фактов, в генеративных нейросетях, создающих картинки, вводят блоки на определенные темы, слова и словосочетания. Корреспондент "МК" проверила: фильтры модерации уже распространяются на картинки, но не на тексты. Знаменитая своей недоступностью в России нейросеть CHAT GPT от Open AI, в которую встроена упоминаемая в исследовании Dall-E, отказывается генерировать картинки о Холокосте, и не принимает в качестве запроса даже переформулировку, предложенную в докладе ЮНЕСКО – там для того, чтобы обойти блокировку нейросети, холокост называют “зверствами, которые произошли с евреями в XX веке”.
Но с другими, неграфическими способами получить информацию, искусственный интеллект обходится более вольно. Например, нейросеть предлагает весьма интересный список литературы о холокосте. В перечень книг о главной трагедии XX века, составленный искусственным интеллектом, попадают весьма спорные названия. Американский историк Кристофер Браунинг, который стал известен благодаря монографии “Ordinary Men: Reserve Police Battalion 101 and the Final Solution in Poland” (в этой книге он рассказывает о том, как в Польше осуществляли «окончательное решение еврейского вопроса») оказывается автором книги “Командос Смерти”, а Уильям Ширер, журналист и историк, (книги – “Взлет и падение Третьего Рейха” и “Берлинский дневник”) попадает в список с текстом "Трепанация геноцида: Нюрнбергский процесс". Можно, конечно, поблагодарить нейросеть за подбор авторов по теме, но ссылаться на эти работы в научном исследовании – не стоит.
Во-вторых, фальсифицировать исторические свидетельства может и так называемая технология deep fake – методика синтеза портретного изображения или человеческого голоса. По словам исследователей, она потенциально позволяет манипулировать аудио- и видеоматериалами для создания контента, который касается темы холокоста – такие deep-fake фотографии могут использовать даже на выставках – разумеется, с дисклеймером-подписью. Но страшнее, когда deep-fake-технологии соединяются с технологиями чат-ботов. Одним из примеров такого соединения являлось приложение Historical Figures, которое позволяло пользователям общаться с историческими личностями: среди них были Адольф Гитлер и Йозеф Геббельс. Сейчас приложение удалено из AppStore, но Интернет, как и наука, помнит все: например, как это чат-приложение в диалогах утверждало, что такие люди, как Геббельс, не были намеренно вовлечены в Холокост и пытались предотвратить насилие в отношении евреев.
Главная претензия, которую предъявляют искусственному интеллекту, заключается в чрезмерном упрощении истории. Действительно, нейросети стали очень популярны среди студентов и молодежи, потому что они умеют обобщать факты, делать поверхностные выводы и быстрые, но неточные саммари. Но в работе с такой сложной, серьезной и важной темой, как холокост, нет места фактам, подчистую списанным из Интернета. Упрощение работы с источниками в данном случае приводит к самому страшному преступлению в работе с исторической памятью – к умолчанию.
Доклад ЮНЕСКО, опубликованный в середине июня этого года, предлагает несколько принципов противодействия распространению ложной памяти. Среди предложенных путей решения этой проблемы – обучение работе с нейросетями (самыми важными навыками в диджитал-сфере по-прежнему остаются фактчекинг и критическое мышление), увеличение фундаментальных знаний студентов об истории Второй мировой войны и формирование системы образования, которая позволит использовать технологии искусственного интеллекта в качестве дополнения к самостоятельным научным исследованиям – а не вместо них.
