Не разрушить машину, но притормозить и перенаправить её. Размышления об энциклике Льва XIV «Magnifica humanitas»
Состоялось долгожданное событие – Папа Лев XIV опубликовал свою первую энциклику. Вполне ожидаемо, что она оказалась посвящена вопросам социального учительства Церкви в эпоху искусственного интеллекта и алгоритмов. Как в своё время Лев XIII обнародовал энциклику «Rerum novarum» (которая увидела свет 15 мая 1891 года), чтобы осмыслить вызовы индустриальной революции, так ровно через 135 лет уже его преемник на престоле Св. Петра в энциклике в «Magnifica humanitas» обращается к вопросам цифровой революции.
И не зря. Ведь уже несколько лет именно ИИ с алгоритмами определяют, какая именно информация/реклама нам «попадается»: хотим ли мы узнать степень угрозы насилия от мигрантов, либо интересуемся побочными эффектами вакцин, планируем ли купить еду или одежду. А теперь иногда ИИ даже решает, какого абитуриента примет университет или на кого упадет бомба. Поэтому острее, чем когда-либо, Церковь должна критиковать ту опасность, о которой мы знаем давно, но которая в нынешней ситуации превращается в реальную угрозу.
Уже сегодня отдельные миллиардеры или мощные государственные машины контролируют те механизмы, которые работают внутри «цифрового ящика», и пользуются его ресурсами; при этом эксплуатируют окружающую среду (технология ИИ потребляет очень много энергии и воды). Они также делают людей объектами своих махинаций: например, тех же детей и женщин, чьи тела становятся «мясом», с помощью которого обучают ИИ создать порнографические материалы, или тех, кого вопреки их воле делают объектом ненависти, сгенерированной алгоритмами, либо кого включают в фейковый порнографический материал.
Папа Лев подчеркивает, что существует еще особая форма цифрового колониализма: персональные данные малоимущих становятся материалом для новых форм власти и бизнеса. Например, уже в 2016 году союз миллиардеров и властителей мощного соседнего государства сделал такое с жителями Филиппин. Эти властные и богатые люди решили попробовать, можно ли с помощью фейков и алгоритмов, обостряющих злобу и ненависть, манипулировать самими широкими слоями населения таким образом, чтобы они голосовали за крайнего популиста. Оказалось, можно. Был создан образ кандидата Родриго Дутерте – эдакого защитника бедняков от наркотиков и преступности. Удалось создать такой имидж, согласно которому Дутерте, хотя жесток и груб, но справедлив. И тогда всё, даже его хамоватые высказывания, настолько грубые, что тонкий азиатский народ не простил бы их никому другому, могло идти ему лишь на пользу. А его победу оплатили ценой своей жизни тысячи граждан (не только мелких наркоманов, но и совершенно невинных), когда он решил их казнить без суда и следствия. Благодаря этому власть имущие приобрели огромные сокровищницы данных о том, как вести кампании фейков и лжи — не только в политике, но и в торговле. И они могут воспользоваться этим массивом данных для более «эффективного» (читай: жестокого) применения силы против собственного народа или других стран, для исключения из полноценной жизни общества бедных, больных, людей с инвалидностью и т. д.
Конечно, Папа понимает, что процессы цифровизации необратимы. Рабочие, которые крушили машины в Англии начала 19-го века, не смогли остановить технический прогресс. Тем не менее, в некоторых странах удалось осуществить то, к чему призывали и римские понтифики первой половины 20-го века, и лидеры профсоюзов, и многие другие: такие ключевые секторы прогресса, как транспорт (железная дорога), медицинская наука и её применение, коммуникация (телефон) и пр. стали собственностью не сверхмощного государства — «Большого брата», не миллиардеров, а общественности в разных формах.
Правда организовать такую трансформацию нынче еще намного сложнее, чем 100 лет назад. Ведь понять процессы цифровой революции сложнее, да и нельзя повторить одну ошибку тех времен, нельзя реформировать общество в богатых странах за счет стран Азии, Африки и Латинской Америки.
Разумеется, ввести такие общественные реформы — не прямая задача Церкви. Папа снова и снова обращается к конституции Второго Ватиканского собора «Gaudium et spes», в которой в том числе подчеркивается автономия земных реалий, то, что они исходят от Бога и направлены к Нему, но имеют от Него закономерности не только философские, теологические и моральные, но и свои собственные.
Тем не менее, внести вклад в более достойное развитие человечества призваны христиане-политики, христиане-учёные и другие христианские деятели. И сама Церковь тоже должна принять в этом деятельное участие.
Поэтому Папа Римский акцентирует внимание на главном вопросе — как строить? Можно построить из «камней цифрового прогресса» новую Вавилонскую башню власти и гордыни (Быт 11), будь то гиперкапиталистов, будь то властителей государственного коллективизма. Или же можно, как Неемия после Вавилонского плена Израиля (Неем 1-2), разделить раны страдающих жителей Иерусалима, посоветоваться со всеми и позаботиться о благе всех, и тем самым отстроить разрушенные стены Святого Града.
Для этого Папа предлагает осознать, что Слово стало плотью, реальной (не виртуальной!) человеческой жизнью, особенно в бедных и страдающих. Нужно помнить, что мы во Христе – не только отдельные верующие, но «одно тело». И нужно воспитывать себя и других ради ответственного пользования новыми технологиями; заботиться о взаимоотношениях с ближними, о справедливости и мире.
Тогда мы можем уже теперь, вместе с Марией (Лк 1), прославлять Бога, Который «сотворил великое» в нашей жизни и преодолел власть богатых и влиятельных, даже если пока так много в нашем мире фрагментарного, сломанного и израненного.
***
Во второй части этого эссе я хотел бы, приняв вызов Папы Льва XIV (согласно которому социальное учительство Церкви должно быть разнообразным, в зависимости от местных культур, традиций и ситуаций), немножко поразмышлять о том, что же нам теперь делать. Тем самым я, в некотором смысле, поделюсь своими личными установлениями, которые взял на себя, прочитав энциклику; хотя боюсь, что читатели поймут на каждом шагу, что я сегодня такой же грешник, как и вчера, или позавчера.
Мне думается, что когда мы сталкиваемся со властью зла, всегда стоит делать то, что святой Игнатий Лойола называет «agere contra» («действовать от обратного»). Этот принцип можно показать на трех примерах:
1. Машина алгоритмов (вместе с ИИ) хочет нас видеть изолированными перед компьютером, то есть иметь дело с людьми, которые не знают, как быть, если ребенок температурит, вдруг машина сломалась или когда мы чувствуем себя одиноко. Тогда она может нам продать ответы, а эти ответы будут изолировать нас еще больше, так как мы еще меньше будем общаться с врачами или психологами, механиками или священниками, мы будем заказывать то, что нам кажется нужным, в онлайн-магазинах. Но любви-то в них не купишь. И даже чисто биологически и гормонально: нам не хватает чего-то важного, если мы редко чувствуем рукопожатие или редко слышим живой голос с оттенками, которые в интернете теряются, если мы мало двигаемся или занимаемся только дома на беговой дорожке, если мы не чувствуем запаха тех, кто нам симпатичен (и не очень…). Поэтому хотелось бы, чтобы наши верующие нашли в приходских и других общинах совет ли врача или сантехника, помощь того, у кого есть машина, либо, в конце концов, доброе слово брата или сестры, дай Бог, не только для себя, но даже для своих родных и близких.
Но я предлагаю даже тогда, когда мы в интернете, мешать механизму изоляции. Дети и взрослые могут в интернете работать совместно, чтобы информация стала стимулом для дискуссий и совместных творческих процессов.
Помимо того, алгоритмы реагируют на то, что оказывается востребованным, а ИИ опирается на то, чего в интернете много. Поэтому стоит нам писать объявления или отчеты об очных мероприятиях и лайкать таковые, задавать вопросы не-виртуальным способом, например, не: «Какая самая высокая гора Челябинской области?», а: «Как мне добраться до самой высокой горы Челябинской области», и тогда, конечно, это и делать; или вместо: «Что такое глаукома?» — «С каким врачом в Томске могу поговорить о своей глаукоме?». Таким образом, сами цифровые механизмы «научатся» указывать на мир вне себя.
2. Машина алгоритмов обостряет чувства, которые дают нам лёгкое удовлетворение, но при этом заставляют реагировать, дольше взаимодействовать, дольше сидеть в соцсетях. Эти эмоции не такие хорошие, как наслаждение красотой или радость за другого. Если выкладывают пост о том, что у Маши день рождения, то ее друзья комментируют: «Поздравляю», и на этом всё. А если кто-то там напишет злобно о том, что у Маши лицо кривое, потому что у неё был инсульт — это-то и порождает ссору, выгодную олигархам. Яркий пример — война, когда бывает злорадство оттого, что показывают видео об уничтожении танка, но забывается о том, что в нем погибли парни, у которых были свои радости и надежды, у которых есть родители, девушки, дети.
В ответ на это нам стоит, конечно же, не прямо реагировать на злобные комментарии, а на сам пост, спрашивая, что происходит в душе Маши, в душе тех или иных читателей, делясь своими переживаниями, приглашая на очную встречу или хотя бы предлагая телефонный разговор или личную переписку. Таким образом, привычные механизмы алгоритмов теряют власть и бывают снова вынуждены указывать на реальные человеческие чувства.
Можно даже принести такой частный обет: «Я буду в любой информации, через неё и за ней искать контакт с Сыном Божиим, ставшим для меня истинной человеческой плотью, стремясь прикасаться к реальным чувствам людей, особенно бедных и страдающих».
3. Машина ИИ хочет нам «продать» (нередко в буквальном смысле слова; причём, это станет происходить еще чаще, ведь олигархи учатся пользоваться возможностями ИИ быстрее нашего) готовые ответы. Поэтому стоит нам взаимодействовать с ней таким образом, чтобы она «научилась» не занимать пространство готовыми ответами (как сказал бы Папа Франциск), а стать частью процессов во времени. Например, можно спрашивать: «С кем могу поговорить, что почитать, чтобы узнать о моей теме?». Можно, получив ответы, спрашивать, откуда такая информация, на кого это направлено, в чем сильные и слабые стороны данного ответа.
Вот несколько примеров, как можно «деконструировать» (как сказал бы французский философ Жак Деррида) механизмы цифровой революции, «обезоруживать» эти механизмы их же оружием (Папа Лев XIV), заставлять их откладывать ответы (снова Деррида), пока мы не освоим эти техники, не научимся и не сделаем их общедоступными, как в свое время сделали подобное с письмом или колесом.
Главное же условие для того, чтобы мы вовлекались в такие конструктивные процессы — вера в то, что во Христе потеря может стать истинным приобретением; что время, которое мы теряем (потому что думаем сами), рабочее место, которого мы не получаем (потому что не вписываемся в алгоритмы) — на самом деле достижение: «Что пользы человеку, если приобретет весь мир, но душу свою потеряет?».
Сколько времени потерял Бертольд Брехт в изгнании, Нельсон Мандела в заключении, а Александр Солженицын — и в том, и в другом? Но именно это в итоге оказалось приобретением.
Подлинное будущее — всё же за людьми Пасхи, за общиной верующих, готовых делиться, быть бедными, любить и служить…
Епископ Штефан Липке SJ
