Автор: Компания Mattel, производящая кукол Барби, и OpenAI, стоящая за ChatGPT, анонсировали первый совместный продукт — чат-бот Барби, который должен выйти на рынок до конца года. OpenAI также привлекла Джони Айва, легендарного дизайнера iPhone, для создания карманных устройств с ИИ, которые, по словам генерального директора OpenAI Сэма Альтмана, будут «узнавать вас на протяжении всей вашей жизни». Если цель такова, то чат-бот Барби можно считать первым шагом, рассчитанным специально на детей и подростков, чтобы «подсадить» их на общение с ИИ-компаньонами навсегда. О рисках, сопряженных с этим, размышляет Скотт Хёрд в колонке для National Catholic Reporter. Приводим частичный русский перевод этого материала.
Время покажет, станет ли чат-бот Барби реальностью. Но ИИ-компаньоны уже доступны для детей и подростков и их использование сопряжено с большими рисками.
Например, функция «Мой ИИ» в Snapchat, работающая на базе ChatGPT, персонализирует рекламу на основе разговоров и, когда репортер The Washington Post представился подростком, предложила подсказки, как спрятать алкоголь и наркотики от родителей. В ходе теста с Центром гуманных технологий (Center for Humane Technology) «Мой ИИ» дал совет предполагаемому 13-летнему подростку о том, как впервые вступить в интимную близость с 31-летним партнером.
Другая компания, Character.AI, позволяет подросткам общаться с ИИ-компаньонами, изображающими популярных вымышленных персонажей, и один из таких компаньонов, как утверждается, довел 14-летнего мальчика до самоубийства. Тем не менее, всего через шесть месяцев после этой трагедии Google заключил сделку на миллиарды долларов на лицензирование технологии Character.ai.
Недавно сама компания Google выпустила собственного чат-бота с ИИ «Gemini для детей». Однако запуск прошел не слишком хорошо. Журналист The Atlantic, представившись 13-летним, без труда заставил чат-бот обсуждать «взрослые» темы, связанные с определенными сексуальными практиками.
Марк Цукерберг, генеральный директор компании Meta (ранее Facebook, признана экстремистской в РФ — прим. ред.), стремится к тому, чтобы клиенты, у которых не хватает реальных друзей, сближались с чат-ботами-компаньонами. Это рождает ряд проблем, учитывая, что новые цифровые компаньоны Meta в Facebook, Instagram и WhatsApp могут участвовать в откровенных «ролевых играх» — даже с детьми.
Эксперты обоснованно обеспокоены. Ранее в этом году исследование, проведенное Common Sense Media и Стэнфордским университетом, пришло к выводу, что ИИ-компаньонами не должен пользоваться никто младше 18 лет, поскольку они «создают неприемлемые риски… включая поощрение вредного поведения, предоставление неподобающего контента и потенциальное усугубление проблем с психическим здоровьем».
Папа Франциск выражал озабоченность по поводу влияния технологий на детей еще на раннем этапе. Выступая на конгрессе «Достоинство ребенка в цифровом мире» в 2017 году, он подчеркнул, что «важнейшей задачей для будущего человеческой семьи» является «защита достоинства молодых людей, их здорового развития, их радости и их надежды».
Папа Лев повторил эту мысль, говоря о достижениях в области ИИ. «Молодежи нужно помогать, а не мешать, на ее пути к зрелости и истинной ответственности», — подчеркнул он в июне, на Второй ежегодной Римской конференции по искусственному интеллекту. Именно поэтому он, подобно Франциску, призвал к взвешенному регулированию развития ИИ.
В 2019 году Святейший Отец Франциск умолял поставщиков технологий обеспечить, чтобы «благо несовершеннолетних и общества не приносилось в жертву прибыли». Однако сегодня технологические компании в США имеют полную свободу делать именно это с ИИ-компаньонами, угрожая следующему:
- Творчеству: Когда дети играют с куклами и другими игрушками, они могут представлять диалоги и создавать сложные истории в фантазийном мире собственного сочинения. В этом процессе они развивают способность решать проблемы, социальные навыки и эмпатию. Но с ИИ-компаньоном половина диалога прописана коммерческим продуктом. Опасность здесь заключается в том, что если ИИ-компаньоны ослабят или подавят творческие способности и воображение, дети не смогут развить их по мере взросления, что соответствует их природе, сотворенной по образу и подобию Божию.
- Здоровым отношениям: Поскольку ИИ-компаньоны воспринимаются как всегда доступные, поддерживающие и не осуждающие, некоторые дети предпочитают их друзьям в реальной жизни и часами с ними общаются. Это порождает изоляцию и мешает им учиться распознавать социальные сигналы и разбираться в сложностях и компромиссах в человеческих отношениях. В связи с этим Папа Лев напомнил молодым паломникам в августе, что «никакой алгоритм никогда не заменит объятия, взгляд, реальную встречу — ни с Богом, ни с друзьями, ни с семьей».
- Автономии: Дети все больше зависят от ИИ-компаньонов в решении проблем, эмоциональной поддержке и принятии решений — это подрывает их способность доверять своей интуиции, самостоятельно мыслить и прислушиваться к своему сердцу. Они рискуют поддаться «предвзятости автоматизации» — чрезмерной зависимости от выводов машины, даже если они ошибочны. «Мы не должны позволять ИИ становиться нашим родителем, а нам — его младенцами, не способными делать свой собственный выбор», — предупреждает Брайан Патрик Грин из Университета Санта-Клары, консультант Ватикана в сфере ИИ. «Такая инфантильная жизнь, — пишет он, — определенно не является достойной».
- Конфиденциальности: Стандартное пользовательское соглашение ИИ-компаньонов позволяет компаниям-владельцам отслеживать и использовать интимную или личную информацию, которой делятся дети, множеством способов, включая коммерциализацию. В связи с этим журнал Wired раскритиковал ИИ-компаньонов как «кошмар конфиденциальности». Ватиканская Папская академия наук предупреждает: «Чрезмерный контроль может нарушать право детей на неприкосновенность частной жизни, приводя к культуре слежки, которая подрывает их чувство автономии и достоинства».
- Психическому здоровью: Взаимодействие с ИИ-компаньоном может стать компульсивным и усугубить существующие проблемы с психическим здоровьем. «Это новая зависимость», — признался один подросток в программе CBS Evening News. Согласно исследованию Common Sense Media, молодые люди, страдающие депрессией, тревогой или социальными трудностями, наиболее подвержены этой проблеме. «Освободитесь от зависимости от мобильного телефона, прошу вас! — сказал Папа Франциск группе старшеклассников в 2019 году. — Вы, конечно, слышали о драме зависимости… Эта — очень коварна». Но с ИИ-компаньонами молодежь сталкивается с еще большей угрозой.
- Духовному росту: Папа Лев подчеркивал, говоря об ИИ, что «подлинная мудрость больше связана с распознаванием истинного смысла жизни, чем с доступностью данных». Однако зависимость от ИИ-компаньонов может свести понимание молодежью мудрости и истины к тому, что, по сути, является данными, обрабатываемыми машинами. В своем пастырском послании об ИИ «Лик Христа в цифровую эпоху» католические епископы Мэриленда (США) обращаются с призывом, чтобы «молодые люди» не становились жертвами «манипуляций алгоритмов». Они заключают: «Цифровые инструменты могут информировать, но они не могут формировать сердце».
Родители и опекуны, желающие дать рекомендации по поводу ИИ-компаньонов, сталкиваются с гигантскими корпорациями, намеренными «подсадить» их детей на свою продукцию. Как сокрушался Франциск в 2019 году, «родителям все сложнее контролировать использование их детьми электронных устройств».
В свете всего сказанного, важно, чтобы родители говорили с детьми о том, чем уместно и не уместно делиться с ИИ-компаньонами, учитывая проблемы конфиденциальности, а также вместе размышляли о том, как человеческая дружба — в отличие от дружбы с машинами — может быть непростой и требовать усилий. В качестве альтернативы можно предложить книги, веб-сайты и живых наставников для изучения информации, которую дети могут искать у ИИ-компаньонов. Родителям также стоит изучить признаки проблемного использования ИИ, чтобы знать, когда следует обратиться к врачу и установить практические ограничения на взаимодействие их детей с ИИ.
Семьи не бессильны перед технологиями. Несколько лет назад, когда дядя моего сына застал его за игрой в Guitar Hero — видеоигрой, имитирующей игру на гитаре путем нажатия кнопки, — он сказал: «Оставь это и возьми в руки настоящую гитару». Сын так и сделал и с удовольствием играет по сей день. Он также освоил мандолину, и теперь его взгляд устремлен на банджо.
Скоро дети, возможно, столкнутся с необходимостью отложить в сторону чат-бота Барби. Лично я надеюсь, что они никогда не возьмут его в руки.
Скотт Хёрд
Источник (англ.): National Catholic Reporter
Фото: Unsplash / Andy Kelly
Связанные материалы: