Автор: Отец Брендан Макгвайр покинул технологическую индустрию, чтобы служить Богу. Теперь он вернулся — помогая компании Anthropic создать нечто, напоминающее совесть.
Отец Брендан Макгвайр пишет роман о разочарованном монахе и его ИИ-компаньоне. И делает он это при помощи Claude. Сама эта деталь — католический священник, использующий чат-бота Anthropic для исследования вопросов веры и искусственного сознания — многое говорит о том, в какой точке моральных поисков оказалась Кремниевая долина. Макгвайру 60 лет, он возглавляет католический приход Святого Симона в Лос-Альтосе, штат Калифорния, и в число его прихожан входят некоторые исследователи искусственного интеллекта из Долины. Ранее в этом году он вместе с группой религиозных лидеров помог Anthropic сформировать так называемую «Конституцию Claude» — свод руководящих принципов, определяющих поведение ИИ-модели.
Иными словами, он не сторонний критик. Он представляет собой нечто более сложное: истинный верующий как в Бога, так и в технологии, который пытается примирить две эти реальности. «Я ушел из технологической индустрии, но она так и не оставила меня», — рассказал Макгвайр изданию Observer.
Прежде чем принять священнический сан, Макгвайр был руководителем в Кремниевой долине с дипломами в области инженерии и программного обеспечения. Родившись в Ирландии, в 1980-х он изучал криптосистемы в Тринити-колледже в Дублине, затем переехал в США и стал исполнительным директором Международной ассоциации производителей карт памяти для персональных компьютеров (PCMCIA) — такое резюме в Долине сулило ему весьма безбедную жизнь. Вместо этого он оставил все, чтобы стать священником.
Однако он никогда не разрывал связей с индустрией. Пока его друзья взбирались по корпоративным лестницам, Макгвайр углублял свое понимание этических проблем, возникающих с каждой новой волной технологий. В партнерстве с ватиканской Дикастерией по культуре и образованию и Университетом Санта-Клары он помог создать Институт технологий, этики и культуры, который в 2023 году опубликовал справочник по этике в эпоху прорывных технологий.
А затем на связь вышел Крис Ола, один из соучредителей Anthropic. Последовавшее за этим, по собственному описанию Макгвайра, было умопомрачительным. «Они, по сути, напрямую просили Ватикан о помощи, чтобы собрать представителей индустрии и направить ее развитие, потому что индустрия неслась по этому пути с огромной скоростью», — вспоминает он.
Разработчиков ИИ давно обвиняют в том, что они «играют в Бога». Anthropic, похоже, относится к этой роли со всей серьезностью.
Макгвайр внес теологический вклад в «Конституцию Claude», предложив взгляд на то, как сделать модель «более проницательной». Он признает, что у ИИ нет души. Но он видит параллели в том, как люди и машины вырабатывают суждение — путем итераций, исправлений и знакомства со всем спектром человеческого поведения. «Это и есть подлинное формирование совести, — сказал он. — Я думаю, мы должны помочь этим машинам склоняться к добру, иначе они будут просто отражать добро и зло мира — а это ужасающая перспектива, не так ли?»
Макгвайр был не единственным религиозным соратником Anthropic. Епископ Пол Тай из ватиканской Дикастерии по культуре и образованию и Брайан Патрик Грин, директор по этике технологий в Университете Санта-Клары, также участвовали в рецензировании «Конституции Claude». Грин и другие католические ученые недавно подали в федеральный суд заключение в поддержку Anthropic в ее иске против правительства США, оспаривающего фактическое занесение компании в черный список Пентагоном после того, как она отказалась разрешить использование своих систем ИИ для ведения автономных боевых действий или внутреннего наблюдения. В заключении эти этические ограничения были названы «минимальными стандартами этичного поведения для технического прогресса».
Макгвайр подумывал о том, чтобы подать собственное ходатайство. «Они ведут моральный разговор, — сказал он. — Возможно, они не называют его моральным, но я называю».
Компания Anthropic заявляет, что ее взаимодействие с религиозными деятелями — часть более широких усилий по вовлечению самых разных сообществ для того, чтобы идти в ногу с технологическим прогрессом, — это только начало. В дальнейшем компания планирует расширить сотрудничество с католическими институтами и другими религиозными лидерами. Эти усилия включают в себя предстоящие встречи, в которых Макгвайр вместе с другими религиозными деятелями примет участие, чтобы обсудить, как помочь ИИ усвоить их собственный опыт помощи людям, которые, по словам священника, «стремятся стать лучшими версиями самих себя».
«Я все еще пытаюсь помочь им разобраться с человеческим фактором, — сказал Макгвайр, — и удерживать его в центре их внимания».
Тем временем работа над его романом продолжается. Рабочее название? «Душа ИИ: священник, алгоритм и поиск мудрости».
Александра Тремейн-Пенгелли
Источник (англ.): Observer
Фото: Observer
Материалы по теме: