Папа Лев XIV выпускает энциклику об ИИ. Что это вообще значит?
Новость показалась мне необычной. Я даже не знала, что такое энциклика, и уж тем более не слышала про подобные события. Решила разобраться и найти ответы на вопросы, которые, уверена, возникли у многих: что такое энциклика, почему ИИ вдруг стал ее темой и зачем рядом с Папой оказался Anthropic?
🔥 Еще больше полезной информации о продуктах и технологиях — в моем канале
Что вообще произошло?
25 мая Папа Лев XIV представит свою первую энциклику. И посвящена она будет ИИ.Само по себе это уже необычно. Но есть еще одна деталь: на презентации будет присутствовать представитель Anthropic.
Энциклика – один из самых важных официальных документов, в котором Католическая церковь формулирует свою долгосрочную позицию по крупным моральным, социальным или цивилизационным вопросам.
Anthropic — американская компания, одна из главных разработчиков ИИ-моделей (в том числе Claude). Основана бывшими сотрудниками OpenAI.
На первый взгляд сочетание выглядит диковато: Ватикан и разработчики ИИ-моделей. Но, возможно, все гораздо логичнее, чем кажется.
Часто ли церковь выпускает энциклики?
Энциклики выходят нечасто, и обычно появляются в моменты больших общественных или цивилизационных сдвигов. Их темы исторически были очень «земными»:
– труд и права рабочих
– капитализм и социальное неравенство
– войны и мир
– экология
– человеческое достоинство
– технологии, влияющие на общество
Например, энциклика Rerum Novarum в конце XIX века фактически стала реакцией Церкви на промышленную революцию и трансформацию труда.
Интерес к теме ИИ неслучаен.Лев XIV уже несколько раз говорил, что считает ИИ новой промышленной революцией.
И это важная деталь: Папа даже выбрал имя «Лев» частично как отсылку к Льву XIII – тому самому папе, который пытался осмыслить последствия индустриализации для общества и труда. Логика здесь такая: если индустриальная революция изменила физический труд, то ИИ может изменить интеллектуальный. А значит – снова возникают вопросы не только технологий, но и человеческого достоинства, занятости, власти и неравенства.
В этом смысле ИИ для Ватикана это не просто технологическая тема. Это тема о человеке.
Насколько необычно посвящать энциклику именно ИИ?
И да, и нет.Технологии церковь обсуждала и раньше, особенно когда они меняли общество. Были дискуссии о ядерном оружии, биотехнологиях, медиа, автоматизации, войне, манипуляции сознанием.
ИИ как центральная тема энциклики – это, по сути, прецедент.Особенно потому, что речь идет о технологии, которая затрагивает сразу несколько уровней: труд, образование, информацию, принятие решений, власть, человеческие отношения, понимание того, что остается уникально человеческим.
Именно поэтому документ, вероятно, будет гораздо шире, чем просто разговор о «рисках ИИ».
Чего можно ожидать от этой энциклики? Судя по предыдущим выступлениям Льва XIV, документ вряд ли будет про сценарии «ИИ захватит мир». Скорее всего, акцент будет на:
– как ИИ влияет на достоинство человека
– что происходит с трудом и занятостью
– как меняется agency человека
– где проходит граница ответственности
– как избежать превращения человека в объект оптимизации
Отдельная тема – автономное оружие и военный ИИ. Лев XIV уже говорил о необходимости международных ограничений в этой области.
Еще одна вероятная линия – вопрос человеческих отношений. Если алгоритмы начинают все сильнее участвовать в обучении, терапии, принятии решений и даже дружбе, то возникает более философский вопрос: что именно делает человеческий опыт человеческим?
И это уже не совсем техническая дискуссия.
Особенно интересен состав участников презентации. Участие Anthropic – это отдельная важная история.
Вместе с Ватиканом будет представитель Anthropic – Кристофер Ола, один из ключевых исследователей интерпретируемости и «выравнивания» ИИ возможностям человека.
И это выглядит символично.
Возможно, Ватикан хочет не просто говорить об ИИ, а говорить с теми, кто его строит. И выбор Anthropic неслучаен. Из крупных лабораторий именно Anthropic чаще позиционирует себя вокруг безопасности, выравнивания ИИ, интерпретируемости, обозначения границ ИИ моделей. Иными словами, вокруг тех вопросов, которые ближе к этике и долгосрочным последствиям.
Вот любопытные исследования Anthropic только за последнее время: про эмоции ИИ, как ИИ меняет профессии, чего люди ждут от ИИ, как ИИ влияет на продуктивность, что делать, если ИИ обманывает систему вознаграждения
Получается, что впервые один из самых старых моральных институтов мира начинает публичный разговор с одной из самых молодых индустрий.
Почему это событие важно даже для светских людей?
Влияние Католической церкви – около 1,4 млрд человек, образовательные институты, моральные дискуссии и огромный этический вес в глобальной повестке.
И здесь важно, что разговор про ИИ начинает меняться. Пока tech индустрия спорит о возможностях регуляции и вычислительных мощностях, появляется еще один вопрос: а что ИИ вообще делает с человеком? Как его меняет?
Самое интересное в этой истории, что технологии окончательно перестают быть только технологической темой. И церковь тут – неожиданно – может оказаться сильным голосом именно в этом типе дискуссии.
Похоже, разговор об ИИ выходит на уровень, где спорить придется о вещах куда более сложных: что считать человеческим достоинством, свободой, ответственностью? Какое место человеку вообще останется в мире, где все больше решений принимают машины?
Пока компании спорят о возможностях моделей, а государства — о регулировании, может оказаться, что один из самых важных разговоров про ИИ будет вовсе не техническим. И здесь Церковь может неожиданно оказаться одним из сильных участников дискуссии.