Автор: 24 января, в день памяти св. Франциска Сальского, покровителя католических медиа, Святой Престол обнародовал Послание Папы Льва XIV на 60-й Всемирный день социальных коммуникаций под названием «Сберечь голоса и лица людей». В центре этого документа — призыв сохранить достоинство и богатство человечности на фоне всё более активной интеграции систем искусственного интеллекта в нашу повседневную жизнь. Приводим ряд опасений Святейшего Отца, нашедших отражение в этом Послании.
1. Потеря способности к критическому мышлению
В начале послания Папа обращает внимание на то, что современный человек легко и зачастую слепо доверяет искусственному интеллекту, «который воспринимается как своего рода всеведущий «друг», раздатчик всякой информации, хранилище всех воспоминаний, «оракул» любого совета». Папа Лев подчеркивает, что «такое отношение может ослабить нашу способность мыслить аналитически и креативно, понимать смысл, различать синтаксис и семантику». Если мы больше не предпринимаем усилия для понимания и размышления, мы оказываемся неспособны ни оценить достоверность источников, ни отследить психологические механизмы, которые запускает полученная нами информация, ни, в конце концов, «выработать практические критерии для более здоровой и ответственной культуры коммуникации» в наших семьях и обществах.
Именно поэтому ближе к концу послания Понтифик указывает на насущную «необходимость внедрения на всех уровнях образования медиаграмотности, информационной грамотности и грамотности в области искусственного интеллекта». Папа настасивает на том, что католики «должны внести свой вклад, чтобы люди – прежде всего молодёжь – приобретали навыки критического мышления и возрастали в свободе духа». Наравне с молодёжью конкретные образовательные инициативы должны охватывать также «пожилых людей и представителей маргинализированных групп, которые нередко чувствуют себя исключёнными и беспомощными перед лицом стремительных технологических перемен».
Всё это, по словам Святейшего Отца, поможет современному человеку относиться к ИИ надлежащим образом — как к инструменту, «всегда прибегать к внешней проверке источников, предоставляемых ИИ-системами, которые могут быть неточными или ошибочными, а также защищать свою частную жизнь (privacy) и свои данные, зная параметры безопасности и возможности оспаривания».
2. Отказ от реализации собственных талантов
Папа Лев отмечает, что «в последние годы системы искусственного интеллекта всё активнее берут на себя производство текстов, музыки и видео. Значительная часть человеческой креативной индустрии рискует быть разрушенной и заменённой ярлыком Powered by AI («Создано при помощи ИИ»), превращая людей в пассивных потребителей неосмысленных мыслей, анонимных продуктов, лишённых авторства и любви. При этом шедевры человеческого гения в области музыки, искусства и литературы сводятся к простому тренировочному материалу для машин».
Папа смещает фокус с дискуссии о том, что может или сможет делать машина, на то, как имеющиеся у нас инструменты помогают нам возрастать в человечности и познании: «С древних времён человек искушаем стремлением присвоить плод знания без труда вовлечённости, поиска и личной ответственности. Но отказ от творческого процесса и передача машинам собственных умственных функций и воображения означает зарыть таланты, дарованные нам для возрастания как личностей в отношении с Богом и ближними». «Это значит скрыть своё лицо и заставить замолчать свой голос», — добавляет Понтифик отсылая к теме Послания этого года.
3. Размытие границ между виртуальным и реальным
Сегодня в потоке информации не всегда понятно, где мы взаимодействуем с реальными людьми, а где — с «ботами» и «виртуальными инфлюенсерами». Папа замечает, что «непрозрачные вмешательства этих автоматизированных агентов влияют на общественные дебаты и на решения людей».
Но Понтифик видит проблему куда глубже, чем просто риск манипуляции общественным мнением в важных социальных и политических вопросах. Он указывает на проблему антроморфизации чат-ботов, основанных на больших языковых моделях (LLM), способных имитировать человеческие чувства и тем самым симулировать отношения. Такие чат-боты «могут стать скрытыми архитекторами наших эмоциональных состояний и таким образом вторгаться в сокровенную сферу человека, захватывая её».
«Технология, эксплуатирующая нашу потребность в отношениях, может не только иметь болезненные последствия для судеб отдельных людей, но и нанести ущерб социальной, культурной и политической ткани общества», — продолжает Папа. — «Это происходит, когда мы подменяем отношения с другими людьми взаимодействием с ИИ, обученными каталогизировать наши мысли и таким образом создавать вокруг нас мир зеркал, где всё устроено «по нашему образу и подобию». Тем самым мы лишаем себя возможности встречи с другим – всегда отличным от нас, – с которым мы можем и должны учиться вступать в диалог. Без принятия инаковости невозможны ни отношения, ни дружба».
4. Навязывание определённых способов мышления
Ещё одним крупным вызовом, по словам Папы, является предвзятость, ведущая «к приобретению и передаче искажённого восприятия реальности» у пользователей ИИ-систем. «Модели ИИ формируются мировоззрением их создателей и, в свою очередь, могут навязывать определённые способы мышления, воспроизводя стереотипы и предубеждения, содержащиеся в данных, на которых они обучаются», — пишет Святейший Отец. — «Непрозрачность в разработке алгоритмов, в сочетании с неадекватной социальной репрезентативностью данных, удерживает нас в сетях, которые манипулируют нашими мыслями, закрепляют и углубляют существующие социальное неравенство и несправедливость».
Ожидаемо первое место по инвестициям, исследованиям и внедрению ИИ среди стран занимают США, за ними следуют государства члены Евросоюза, затем — Китай. Разработчики в каждой из этих стран субъективно выбирают, на каком материале обучать создаваемые ими модели, а какой — обойти. Такой подход создает искаженную картину мира, зачастую исключающую опыт, историю и культуру стран третьего мира и усугубляющую культурный колониализм западных стран.
«За этой огромной невидимой силой, вовлекающей всех нас, стоит лишь горстка компаний, чьи основатели недавно были представлены как создатели «человека 2025 года», то есть архитекторы искусственного интеллекта. Это вызывает серьёзную обеспокоенность из-за олигополистического контроля над алгоритмическими и ИИ-системами, способными тонко направлять поведение людей и даже переписывать человеческую историю, включая историю Церкви, зачастую без нашего ведома», — говорится в Послании.
На этом фоне Папа Лев призывает не остановить цифровые инновации, но «направлять их, осознавая их амбивалентный характер». В качестве трёх столпов этой работы он называет ответственность, сотрудничество и образование: «Все заинтересованные стороны – от технологической индустрии до законодателей, от творческих компаний до академического мира, от деятелей искусства до журналистов и педагогов – должны быть вовлечены в создание и реализацию осознанного и ответственного цифрового гражданства».
Анастасия Бозио
Материалы по теме: