
ANTIQUA ET NOVA. Комментарий об отношениях между искусственным интеллектом и интеллектом человеческим
ДИКАСТЕРИЯ ВЕРОУЧЕНИЯ
ДИКАСТЕРИЯ КУЛЬТУРЫ И ОБРАЗОВАНИЯ
ANTIQUA ET NOVA
Комментарий об отношениях между
искусственным интеллектом и интеллектом человеческим
I. Введение
1. С мудростью как старой, так и новой (ср. Мф. 13:52), мы призваны размышлять над современными вызовами и возможностями, возникающими в результате научно-технического прогресса, особенно новейшего развития Искусственного Интеллекта (ИИ). Христианская традиция рассматривает дар разума как неотъемлемую часть человека, сотворённого Богом «по образу Божию» (Быт. 1:27). Исходя из целостного видения человеческой личности и библейского призвания «возделывать» и «хранить» землю (Быт. 2:15), Церковь подчёркивает, что этот дар интеллекта должен выражаться в ответственном использовании разума и технических навыков для присмотра за сотворённым миром.
2. Церковь поощряет развитие науки, техники, искусства и других сфер человеческой деятельности, рассматривая их как часть «сотрудничества мужчины и женщины с Богом в совершенствовании видимого творения». [1] Как утверждает книга Премудрости Иисуса сына Сирахова, Бог «для того и дал людям знание, чтобы прославляли Его» (Сир. 38:6). Человеческие способности и творчество исходят от Бога и, при правильном использовании, прославляют Его, отражая Его мудрость и благость. В этом свете, размышляя о том, что значит «быть человеком», мы не можем исключить из рассмотрения наши научные и технологические способности.
3. В этом контексте настоящее Заявление затрагивает антропологические и этические вызовы, связанные с ИИ — вопросы, имеющие особую важность, поскольку одной из целей этой технологии является подражание человеческому интеллекту, который её создал. В отличие от многих других творений человека, ИИ может обучаться на результатах человеческой творческой деятельности, а затем генерировать новые «артефакты» с такой скоростью и мастерством, что они порой сопоставимы или превосходят человеческие возможности, например, создавая тексты или изображения, неотличимые от произведений человека. Это порождает серьёзные вопросы о роли ИИ в углубляющемся кризисе истины в общественном пространстве. Более того, ИИ создаётся с возможностью обучения и принятия определённых решений автономно, адаптируясь к новым обстоятельствам и предлагая решения, не предусмотренные его разработчиками. Это ставит фундаментальные вопросы об этической ответственности и безопасности, а также имеет широкие последствия для общества в целом. Эта новая ситуация побуждает многих людей задуматься о том, что значит быть человеком и какова роль человечества в мире.
4. Учитывая всё это, существует общее согласие в том, что ИИ знаменует собой новый и важный этап взаимодействия человечества с технологией, ставя его в центр того, что Папа Франциск назвал «эпохальным изменением». [2] Его влияние ощущается во всём мире и в самых разных сферах, включая межличностные отношения, образование, труд, искусство, здравоохранение, право, военные действия и международные отношения. По мере того как ИИ стремительно движется к новым достижениям, крайне важно учитывать его антропологические и этические последствия. Это включает не только предотвращение рисков и возможного вреда, но и обеспечение того, чтобы его применение способствовало развитию человечества и общему благу.
5. Внося свой вклад в осмысление вопросов, связанных с ИИ, и отвечая на призыв Папы Франциска к обновлённой «мудрости сердца» [3], Церковь предлагает свой опыт через антропологические и этические размышления, изложенные в этом Заявлении. Будучи активным участником глобального диалога по этим вопросам, Церковь призывает тех, кому доверена передача веры — родителей, учителей, пастырей и епископов — с особым вниманием отнестись к данной теме. Хотя этот документ предназначен в первую очередь для них, он также рассчитан на более широкую аудиторию, особенно на тех, кто разделяет убеждение, что научно-технический прогресс должен служить человеку и способствовать общему благу. [4]
6. В свете вышесказанного, документ начинается с различения понятий интеллекта искусственного и интеллекта человеческого. Затем он раскрывает христианское понимание разума человека, опираясь на философско-богословскую традицию Церкви. Наконец, документ предлагает ориентиры, направленные на то, чтобы развитие и использование ИИ сохраняло достоинство человека и способствовало всестороннему развитию личности и общества.
II. Что такое Искусственный Интеллект?
7. Концепция «интеллекта» в ИИ развивалась со временем, опираясь на целый спектр идей из различных дисциплин. Хотя её истоки уходят в глубь веков, важной вехой стал 1956 год, когда американский информатик Джон Маккарти организовал летний семинар в Дартмутском университете, чтобы исследовать проблему «искусственного интеллекта», которую он определил как «создание машины, способной вести себя так, что это было бы названо разумным, если бы так вёл себя человек». [5] Этот семинар положил начало исследовательской программе, направленной на разработку машин, способных выполнять задачи, традиционно ассоциируемые с человеческим разумом и разумным поведением.
8. С тех пор исследования в области ИИ значительно продвинулись, что привело к созданию сложных систем, способных выполнять весьма сложные задачи. [6] Так называемые системы «узкого ИИ» обычно разрабатываются для выполнения конкретных и ограниченных функций, таких как перевод языков, прогнозирование траектории штормов, классификация изображений, ответы на вопросы или генерация визуального контента по запросу пользователя. Хотя определение «интеллекта» в исследованиях, посвящённых ИИ, варьируется, большинство современных систем ИИ — особенно использующих машинное обучение — основываются на статистическом анализе, а не на логическом дедуктивном мышлении. Анализируя большие массивы данных для выявления закономерностей, ИИ может «предсказывать» [7] результаты и предлагать новые подходы, имитируя некоторые когнитивные процессы, характерные для человеческого способа решения задач. Эти достижения стали возможны благодаря прогрессу в вычислительных технологиях (включая нейронные сети, машинное самообучение и эволюционные алгоритмы), а также благодаря аппаратным инновациям (например, специализированным процессорам). В совокупности эти технологии позволяют системам ИИ реагировать на различные формы предоставляемых человеком вводных данных, адаптироваться к новым ситуациям и даже предлагать нестандартные решения, не предусмотренные их разработчиками. [8]
9. В результате этих стремительных достижений многие задачи, ранее выполнявшиеся исключительно человеком, теперь передаются ИИ. Эти системы могут дополнять или даже превосходить человеческие возможности во многих сферах, особенно в таких специализированных областях, как анализ данных, распознавание изображений и медицинская диагностика. Хотя каждая «узкая» система ИИ разрабатывается для выполнения конкретной задачи, многие исследователи стремятся создать так называемый «универсальный искусственный интеллект» (AGI) — единую систему, способную функционировать во всех когнитивных сферах и выполнять любую задачу, лежащую в пределах человеческого интеллекта. Некоторые даже утверждают, что AGI однажды сможет достичь состояния «сверхинтеллекта», превосходящего интеллектуальные способности человека, или способствовать «сверх-долголетию» через развитие биотехнологий. Однако другие опасаются, что такие возможности, даже если они пока гипотетичны, могут однажды затмить человеческую личность, в то время как некоторые приветствуют эту потенциальную трансформацию. [9]
10. В основе этих и многих других взглядов на тему ИИ лежит неявное предположение, что термин «интеллект» можно использовать одинаково как в отношении человеческого интеллекта, так и в отношении ИИ. Однако это не охватывает всю полноту понятия. В случае человека интеллект является способностью, присущей всей личности в её целостности, тогда как в контексте ИИ «интеллект» понимается функционально, часто с предположением, что деятельность, характерная для человеческого разума, может быть разложена на цифровые шаги, которые машины способны воспроизводить. [10]
11. Этот функциональный взгляд хорошо иллюстрируется «Тестом Тьюринга», согласно которому машина считается «разумной», если человек не может отличить её поведение от поведения человека. [11] Однако в данном контексте термин «поведение» относится лишь к выполнению конкретных интеллектуальных задач; он не охватывает всю полноту человеческого опыта, включающего абстрактное мышление, эмоции, креативность, эстетическое, моральное и религиозное восприятие. Кроме того, он не учитывает весь спектр выражений, характерных для человеческого разума. Напротив, в случае ИИ «интеллект» системы оценивается методологически и редуктивно, исходя из его способности генерировать соответствующие ответы — в данном случае, те, что ассоциируются с человеческим интеллектом, независимо от того, каким образом эти ответы были созданы.
12. Развитые функции ИИ наделяют его высокими способностями к выполнению задач, но не способностью мыслить. [12] Это принципиально важное различие, поскольку то, как определяется «интеллект», неизбежно влияет на наше понимание соотношения между человеческим мышлением и этим видом технологий. [13] Чтобы понять это, необходимо обратиться к богатству философской традиции и христианского богословия, которые предлагают более глубокое и целостное понимание интеллекта — понимание, лежащее в основе учения Церкви о природе, достоинстве и призвании человеческой личности. [14]
III. Интеллект в философской и богословской традиции
Рациональность
13. С самого зарождения человеческого самосознания разум играл центральную роль в понимании того, что значит быть «человеком». Аристотель отмечал, что «все люди по природе стремятся к знанию». [15] Это знание, с его способностью к абстрагированию, которое постигает природу и смысл вещей, отличает человека от животного мира. [16] Философы, богословы и психологи, исследуя природу этого интеллектуального свойства, также стремились понять, как человек воспринимает мир и своё уникальное место в нём. В ходе этого исследования христианская традиция пришла к пониманию человека как существа, состоящего из тела и души — глубоко связанного с этим миром, но при этом превосходящего его. [17]
14. В классической традиции понятие интеллекта часто раскрывается через два взаимодополняющих термина: «разум» (ratio) и «интеллект» (intellectus). Это не две отдельные способности, а, как объясняет святой Фома Аквинский, два способа функционирования одного и того же интеллекта: «ум [или разумение (intelligere)] называется так потому, что он внутренне постигает истину,тогда как разум называется так потому, что он любознателен и дискурсивен». [18] Это краткое определение подчёркивает две фундаментальные и взаимодополняющие стороны человеческого интеллекта. Intellectus означает интуитивное постижение истины — её восприятие «глазами» разума, которое предшествует и служит основанием для аргументации. Ratio относится к собственно разуму — дискурсивному, аналитическому процессу, ведущему к суждению. Вместе интеллект и разум образуют две грани акта intelligere, который является «операцией, свойственной человеку как таковому». [19]
15. Описание человека как «разумного» существа не сводит его к определённому способу мышления, но скорее подчёркивает, что способность к интеллектуальному познанию пронизывает все аспекты человеческой деятельности. [20] Реализуется она хорошо или плохо, но эта способность является неотъемлемой чертой человеческой природы. В этом смысле «понятие «разумности» охватывает все способности человека», включая не только познание и понимание, но и «волю, любовь, выбор и желание; оно также включает все телесные функции, тесно связанные с этими способностями». [21] Этот целостный взгляд подчёркивает, что в человеке, созданном «по образу Божию», разум интегрирован таким образом, что возвышает, формирует и преображает как его волю, так и его действия. [22]
Телесность
16. Христианская мысль воспринимает интеллектуальные способности человека в рамках целостной антропологии, которая рассматривает человеческое существо как телесное по своей сути. В человеке дух и материя «не являются двумя соединёнными природами, но их союз образует единую природу». [23] Иными словами, душа — это не просто нематериальная «часть» человека, содержащаяся в теле, так же как и тело — не просто внешняя оболочка, вмещающая неосязаемое «ядро». Напротив, весь человек одновременно является и материальным, и духовным существом. Такое понимание соответствует учению Священного Писания, которое рассматривает человека как существо, живущее в отношениях с Богом и другими людьми (и, следовательно, подлинно духовное измерение) в своём телесном существовании и через него. [24] Глубокий смысл этого состояния ещё более раскрывается в тайне Воплощения, через которое сам Бог принял нашу плоть и «возвысил её до великого достоинства». [25]
17. Хотя человек глубоко укоренён в телесном существовании, он превосходит материальный мир благодаря душе, которая «находится почти на горизонте вечности и времени». [26] Способность интеллекта к трансцендентности и свобода воли принадлежат душе, благодаря которой человек «причастен свету Божественного разума». [27] Однако человеческий дух не реализует свой обычный способ познания без тела. [28] Таким образом, интеллектуальные способности человека являются неотъемлемой частью антропологии, признающей, что человек — это «единство души и тела». [29] Дальнейшие аспекты этого понимания будут рассмотрены в последующих разделах.
Разумность
18. Человек «по самой своей природе предназначен для межличностного общения», [30] обладая способностью узнавать других, отдавать себя в любви и вступать в общение с ближними. Соответственно, человеческий интеллект не является изолированной способностью, но реализуется в отношениях, находя своё полное выражение в диалоге, сотрудничестве и солидарности. Мы учимся вместе с другими и учимся через других.
19. Ориентация человека на отношения в конечном итоге укоренена в вечном самодарении Триединого Бога, Чья любовь раскрывается в творении и искуплении. [31] Человек «призван к тому, чтобы через познание и любовь участвовать в самой жизни Бога». [32]
20. Это призвание к общению с Богом неразрывно связано с призванием к общению с другими. Любовь к Богу не может быть отделена от любви к ближнему (см. 1 Ин. 4:20; Мф. 22:37-39). По благодати участия в Божьей жизни христиане также призваны подражать самоотдаче Христа (см. 2 Кор. 9:8-11; Еф. 5:1-2), исполняя Его заповедь: «Любите друг друга, как Я возлюбил вас» (Ин. 13:34)[33]. Любовь и служение, отражая Божественную жизнь самодарения, выходят за пределы эгоистических интересов, чтобы в полной мере раскрыть человеческое призвание (см. 1 Ин. 2:9). Ведь даже превосходящее всё знание меркнет перед призванием заботиться о ближнем, ибо «если имею дар пророчества, и знаю все тайны, и имею всякое познание… а не имею любви, то я ничто» (1 Кор. 13:2).
Связь с Истиной
21. Человеческий разум в конечном итоге является «Божьим даром, предназначенным для восприятия истины». [34] В двойственном смысле intellectus-ratio он позволяет человеку исследовать реальности, которые превосходят простое чувственное восприятие или утилитарное применение, поскольку «стремление к истине является частью самой человеческой природы. Это врождённое свойство человеческого разума — спрашивать, почему вещи существуют такими, какие они есть». [35] Выходя за пределы эмпирических данных, человеческий интеллект способен «с подлинной уверенностью постигать саму реальность как познаваемую». [36] Хотя реальность остаётся лишь частично познанной, стремление к истине «побуждает разум всегда идти дальше; действительно, он словно потрясён осознанием, что он всегда может выйти за пределы уже достигнутого». [37] И хотя Истина сама по себе превосходит границы человеческого разума, она неодолимо его притягивает. [38] Под влиянием этой притягательности человек устремляется к поиску «истин более высокого порядка». [39]
22. Это врождённое стремление к истине особенно проявляется в сугубо человеческих способностях к семантическому пониманию и творчеству, [40] через которые этот поиск осуществляется «способом, соответствующим социальной природе и достоинству человеческой личности». [41] Точно так же постоянная ориентированность на истину является необходимым условием для того, чтобы любовь была одновременно подлинной и всеобщей. [42]
23. Поиск истины находит своё высшее выражение в открытости к реальностям, превосходящим физический и сотворённый мир. В Боге все истины обретают своё окончательное и изначальное значение. [43] Доверие к Богу — это «фундаментальное решение, затрагивающее всего человека». [44] Таким образом, человек становится в полной мере тем, кем он призван быть: «разум и воля проявляют свою духовную природу», позволяя человеку «действовать тем образом, который полностью реализует личную свободу». [45]
Забота о мире
24. Христианская вера понимает сотворение как свободный акт Триединого Бога, который, как объясняет святой Бонавентура из Баньореджо, творит «не для того, чтобы увеличить Свою славу, но чтобы явить её и передать её». [46] Поскольку Бог творит согласно Своей Премудрости (ср. Прем. 9:9; Иер. 10:12), сотворённый мир пронизан внутренним порядком, отражающим Божий замысел (ср. Быт. 1; Дан. 2:21-22; Ис. 45:18; Пс. 74:12-17; 104), [47] в рамках которого Бог призвал человека к особой роли — возделывать и охранять мир. [48]
25. Сформированные Божественным Творцом, люди живут своей идентичностью как существа, сотворённые по образу Божьему (imago Dei), «возделывая» и «охраняя» (ср. Быт. 2:15) творение — используя свой разум и способности для заботы о мире и для его развития в соответствии с Божьим замыслом. [49] В этом человеческий интеллект отражает Божественный Разум, который сотворил всё сущее (ср. Быт. 1-2; Ин. 1), [50] непрестанно его поддерживает и направляет к его высшей цели, лежащей в Нём. [51] Более того, люди призваны развивать свои способности в области науки и техники, ибо через них прославляется Бог (ср. Сир. 38:6). Таким образом, в правильном отношении к творению человек, с одной стороны, использует свой разум и навыки, чтобы соработничать с Богом в направлении мира к той цели, к которой Он его призвал. [52] С другой стороны, само творение, как замечает святой Бонавентура, помогает человеческому разуму «постепенно восходить к высшему Началу, которым является Бог». [53]
Целостное понимание человеческого интеллекта
26. В этом контексте человеческий разум становится более ясно понимаемым как способность, которая составляет неотъемлемую часть того, как весь человек взаимодействует с реальностью. Подлинное взаимодействие требует охвата всей полноты человеческого бытия: духовной, когнитивной, телесной сфер и сферы отношений.
27. Это взаимодействие с реальностью проявляется по-разному, поскольку каждый человек в своей многогранной индивидуальности [54] стремится понять мир, выстраивать отношения с другими, решать проблемы, выражать творческий потенциал и искать целостного благополучия через гармоничное сочетание различных аспектов человеческого интеллекта. [55] Это включает логические и лингвистические способности, но также может охватывать и другие способы взаимодействия с реальностью. Взгляните, например, на работу ремесленника, который «должен уметь распознавать в безжизненном материале особую форму, которую другие не могут увидеть» [56] и явить её благодаря интуиции и практическому мастерству. Коренные народы, живущие в тесной связи с природой, зачастую обладают глубоким чувством её ритмов и циклов. [57] Точно так же друг, который знает, какие слова сказать в нужный момент, или человек, искусно управляющий человеческими отношениями, являет собой интеллект, который является «плодом самопознания, диалога и щедрого взаимодействия между людьми». [58] Как замечает Папа Франциск, «в эту эпоху искусственного интеллекта мы не можем забывать, что поэзия и любовь являются необходимыми для спасения нашей человечности». [59]
28. В сердце христианского понимания интеллекта находится включение истины в моральную и духовную жизнь человека, направляющего его поступки в свете доброты и истины Божьей. Согласно Божьему замыслу, интеллект в его полном смысле включает также способность наслаждаться истинным, благим и прекрасным. Как выразился французский поэт XX века Поль Клодель: «интеллект — ничто без наслаждения». [60] Аналогично Данте, достигнув высшего неба в Рае, свидетельствует, что высшая радость интеллекта есть «Умопостúжный свет, где всё — любовь, любовь к добру, дарящая отраду, отраду слаще всех, пьянящих кровь». [61]
29. Правильное понимание человеческого интеллекта, таким образом, не может быть сведено лишь к приобретению фактических знаний или способности выполнять определённые задачи. Оно предполагает открытость человека к высшим вопросам жизни и отражает устремлённость к Истине и Благу. [62] Как выражение образа Божьего в человеке, интеллект наделён способностью воспринимать целостность бытия, созерцать существование во всей его полноте, выходя за рамки измеримого, и постигать смысл познанного. Для верующих эта способность включает, в особом смысле, возможность углубляться в познание Божьих тайн, используя разум для всё более глубокого осмысления истин Откровения (intellectus fidei). [63] Истинный интеллект формируется Божественной любовью, которая «излилась в сердца наши Духом Святым» (Рим. 5:5). Из этого следует, что человеческий разум обладает неотъемлемой созерцательной стороной — бескорыстной открытостью Истине, Благу и Красоте, за пределами всяких утилитарных целей.
Границы ИИ
30. В свете вышесказанного различия между человеческим интеллектом и современными системами ИИ становятся очевидными. Хотя искусственный интеллект представляет собой выдающееся технологическое достижение, способное имитировать некоторые результаты, связанные с человеческим разумом, он функциониурет, достигая целей или принимая решения на основе количественных данных и вычислительной логики. Например, благодаря своей аналитической мощности ИИ имеет превосходство в интеграции данных из различных областей, моделировании сложных систем и содействии междисциплинарным связям. Таким образом, он может помогать экспертам сотрудничать в решении сложных проблем, которые «не могут быть рассмотрены с одной точки зрения или с позиции одного набора интересов». [64]
31. Однако, даже обрабатывая и имитируя определённые проявления интеллекта, ИИ по своей сути остаётся ограниченным логико-математическими рамками, которые накладывают на него неизбежные ограничения. Человеческий разум, напротив, развивается органично в процессе физического и психологического роста человека, формируясь под влиянием множества телесно пережитых событий. Хотя передовые системы ИИ могут «обучаться» посредством таких процессов, как машинное обучение, этот вид тренировки принципиально отличается от развития человеческого интеллекта, который формируется через телесный опыт, включая сенсорное восприятие, эмоциональные реакции, социальные взаимодействия и уникальный контекст каждого момента. Эти элементы формируют личность в её жизненной истории. В отличие от этого, ИИ, не имея физического тела, опирается на вычислительное мышление и обучение на основе огромных массивов данных, включающих сохранённый человеческий опыт и знания.
32. Следовательно, хотя ИИ может имитировать некоторые аспекты человеческого рассуждения и выполнять определённые задачи с невероятной скоростью и эффективностью, его вычислительные способности представляют собой лишь малую часть более широких возможностей человеческого разума. Например, в настоящее время ИИ не способен воспроизводить моральное рассуждение или устанавливать подлинные отношения. Более того, человеческий интеллект развивается в контексте личной истории интеллектуального и нравственного становления, которое формирует мировоззрение индивида, охватывая физические, эмоциональные, социальные, моральные и духовные аспекты жизни. Поскольку ИИ не может предложить полноту такого понимания, подходы, которые полагаются исключительно на эту технологию или рассматривают её как основной инструмент интерпретации мира, могут привести к «утрате восприятия целостной картины, взаимосвязей между явлениями и более широкого горизонта». [65]
33. Человеческий интеллект заключается не столько в выполнении функциональных задач, сколько в понимании и активном взаимодействии с реальностью во всех её измерениях; он также способен к неожиданным озарениям. Поскольку ИИ лишён богатства телесности, взаимоотношений и открытости человеческого сердца к истине и добру, его способности — хотя они кажутся безграничными — не сопоставимы с возможностью человека постигать реальность. Мы многому учимся через болезнь, объятия примирения и даже простой закат; поистине, многие человеческие переживания открывают перед нами новые горизонты и дают возможность обрести новую мудрость. Ни одно устройство, работающее исключительно с данными, не может сравниться с этими и бесчисленными другими переживаниями, наполняющими нашу жизнь.
34. Чрезмерное сближение понятий человеческого интеллекта и ИИ несёт в себе риск поддаться функционалистскому взгляду, согласно которому ценность человека определяется его трудовыми или когнитивными способностями. Однако достоинство человека не зависит от наличия определённых навыков, достижений в науке и технологиях или личностного успеха, но коренится в самой его сущности, сотворённой по образу Божьему. [66] Это достоинство остаётся неизменным при любых обстоятельствах, включая тех людей, кто не может реализовывать свои способности, будь то нерождённый ребёнок, человек в бессознательном состоянии или пожилой человек, испытывающий страдания. [67] Оно также лежит в основе традиции прав человека (и, в частности, так называемых «нейро-прав»), которые представляют собой «важную точку соприкосновения в поиске общего основания» [68] и, таким образом, могут служить фундаментальным этическим ориентиром в дискуссиях о развитии и ответственном использовании ИИ.
35. Учитывая всё вышесказанное, Папа Франциск отмечает, что «само употребление слова «интеллект»» в отношении ИИ «может ввести в заблуждение» [69] и привести к недооценке самого драгоценного в человеческой личности. В этом свете ИИ не следует рассматривать как искусственную форму человеческого интеллекта, но как его продукт. [70]
IV. Роль этики в развитии и использовании ИИ
36. Учитывая эти соображения, можно задаться вопросом, как ИИ может быть понят в рамках Божьего замысла. Чтобы ответить на этот вопрос, важно помнить, что научно-техническая деятельность не является нейтральной по своему характеру, но представляет собой человеческое стремление, затрагивающее гуманистические и культурные измерения человеческого творческого потенциала. [71]
37. Рассматривая научное исследование и развитие технических навыков как плод потенциала, заложенного в человеческом интеллекте, [72] можно сказать, что они являются частью «соработничества мужчины и женщины с Богом в усовершенствовании видимого творения». [73] В то же время все научные и технологические достижения в конечном итоге являются дарами Бога. [74] Следовательно, человек должен всегда использовать свои способности в свете высшей цели, ради которой Бог их даровал. [75]
38. Мы с благодарностью можем признать, что технологии «предложили исцеление бесчисленных бедствий, отягчавших и ограничивавших человека». [76], и это является причиной для радости. Однако не все технологические достижения сами по себе представляют подлинный прогресс человечества. [77] Церковь особенно выступает против тех применений технологий, которые угрожают святости жизни или достоинству человеческой личности. [78] Как и любая человеческая деятельность, технологическое развитие должно быть направлено на служение человеку и способствовать достижению «я большей справедливости, более полного братства и более гуманного порядка в общественных отношениях», что «представляет собою большую ценность, чем технический прогресс». [79] Озабоченность этическими последствиями технологического развития разделяют не только представители Церкви, но и многие ученые, технологи и профессиональные сообщества, которые всё чаще призывают к этическому осмыслению, направляющему этот процесс ответственным образом.
39. Для ответа на эти вызовы необходимо подчеркнуть важность моральной ответственности, основанной на достоинстве и призвании человеческой личности. Этот руководящий принцип также применим к вопросам, касающимся ИИ. В этом контексте этическое измерение приобретает первостепенное значение, поскольку именно люди создают системы и определяют цели их использования. [80] Между машиной и человеком только последний является подлинным моральным агентом — субъектом моральной ответственности, который осуществляет свободу в своих решениях и принимает их последствия. [81] Не машина, а человек вступает в отношения с истиной и благом, руководствуясь моральной совестью, которая призывает его «любить и творить добро, а зла избегать»,[82] свидетельствуя об «авторитете истины, относящейся к Высшему Благу, влечение к Которому ощущает человеческая личность». [83] Точно так же между машиной и человеком только человек может обладать достаточным самосознанием чтобы слушать и следовать голосу совести, рассуждать с осторожностью и искать блага в каждой конкретной ситуации. [84] На самом деле всё это является осуществлением человеческим разумом своей интеллектуальной деятельности.
40. Как и любой плод человеческого творчества, ИИ может быть направлен как в положительное, так и в отрицательное русло. [85] Если он используется способами, уважающими человеческое достоинство и способствующими благополучию людей и сообществ, он может внести позитивный вклад в человеческое призвание. Однако, как и во всех областях, где человек призван принимать решения, здесь также присутствует тень зла. Там, где человеческая свобода допускает возможность выбора неправильного пути, моральная оценка этой технологии должна учитывать, как она направляется и используется.
41. В то же время этически значимыми являются не только цели, но и средства их достижения. Кроме того, важно учитывать общее представление и понимание человеческой личности, заложенные в этих системах. Технологические продукты отражают мировоззрение их разработчиков, владельцев, пользователей и тех, кто регулирует работу ИИ, [86] и обладают способностью «формировать мир и взаимодействовать с совестью на уровне ценностей». [87] На общественном уровне некоторые технологические разработки также могут укреплять отношения и динамику власти, несовместимые с истинным пониманием человека и общества..
42. Таким образом, цели и средства, применяемые в конкретном использовании ИИ, а также общая концепция, которой он руководствуется, должны быть оценены с точки зрения уважения человеческого достоинства и содействия общему благу. [88] Как отметил Папа Франциск, «внутреннее достоинство каждого мужчины и каждой женщины» должно быть «ключевым критерием при оценке новых технологий; они окажутся этически обоснованными в той мере, в какой помогают уважать это достоинство и усиливать его выражение на всех уровнях человеческой жизни», [89] включая социальную и экономическую сферы. В этом смысле человеческий интеллект играет решающую роль не только в проектировании и создании технологий, но и в направлении их использования в соответствии с подлинным благом человеческой личности. [90] Ответственность за мудрое управление этим процессом лежит на всех уровнях общества, руководствующихся принципом субсидиарности и другими принципами католического социального учения.
Помогая человеческой свободе и принятию решений
43. Стремление к уверенности, что искусственный интеллект всегда поддерживает и продвигает высшую ценность достоинства каждого человека и полноту человеческого призвания, служит критерием различения для разработчиков, владельцев, операторов и тех, кто регулирует работу ИИ, а также для его пользователей. Этот принцип остается актуальным для каждого применения технологии на всех уровнях её использования.
44. Оценка последствий этого руководящего принципа может начинаться с рассмотрения важности моральной ответственности. Поскольку полная моральная обусловленность принадлежит только личностным агентам, а не искусственным, крайне важно определить и обозначить, кто несёт ответственность за процессы, связанные с ИИ, особенно за те его виды, которые способны к обучению, коррекции и перепрограммированию. Хотя восходящий подход и глубокие нейронные сети позволяют ИИ решать сложные задачи, они затрудняют понимание процессов, которые приводят к принятым им решениям. Это усложняет вопрос подотчётности, поскольку если применение ИИ приводит к нежелательным результатам, определить, кто несёт ответственность, становится трудно. Чтобы решить эту проблему, необходимо учитывать природу процессов подотчётности в сложных, высокоавтоматизированных системах, где результаты могут проявляться лишь в среднесрочной или долгосрочной перспективе. Для этого важно, чтобы окончательная ответственность за решения, принятые с использованием ИИ, оставалась за человеком и чтобы подотчетность за его применение прослеживалась на каждом этапе процесса принятия решений. [91]
45. Помимо определения ответственных лиц, необходимо также четко обозначить цели, поставленные перед системами ИИ. Хотя эти системы могут использовать механизмы автономного обучения без постоянного надзора и иногда следовать путями, которые люди не в состоянии реконструировать, в конечном итоге они стремятся к целям, заданным человеком, и управляются процессами, установленными их создателями и программистами. Тем не менее это представляет собой вызов, поскольку по мере того, как модели ИИ становятся все более способными к самостоятельному обучению, возможность сохранять контроль над ними, чтобы гарантировать их служение человеческим целям, может фактически снижаться. Это ставит критический вопрос о том, как обеспечить, чтобы системы ИИ были направлены на благо людей, а не против них.
46. Хотя ответственность за этическое использование систем ИИ начинается с тех, кто их разрабатывает, производит, управляет ими и осуществляет надзор, она также лежит и на тех, кто ими пользуется. Как отметил Папа Франциск, машина «делает технический выбор среди нескольких возможностей, основываясь либо на чётко определенных критериях, либо на статистических выводах. Однако люди не просто выбирают, но и способны в своём сердце принимать решения». [92] Те, кто использует ИИ для выполнения задачи и следуют его результатам, создают контекст, в котором они в конечном счете несут ответственность за ту силу, которую передали технологии. Поэтому, поскольку ИИ может помогать человеку в принятии решений, алгоритмы, которые им управляют, должны быть надежными, безопасными, устойчивыми к нестабильности и прозрачными в последовательности своих действий, чтобы минимизировать предвзятость и непреднамеренные побочные эффекты. [93] Регуляторные механизмы должны обеспечивать, чтобы все юридические субъекты оставались подотчётными за использование ИИ и все следствия этого, с соответствующими гарантиями прозрачности, защиты частной жизни и отчётности. [94] Более того, пользователям ИИ следует проявлять осторожность, чтобы не становиться чрезмерно зависимыми от него в своих решениях, поскольку это усугубляет и без того высокую зависимость современного общества от технологий.
47. Моральное и социальное учение Церкви предоставляет ресурсы, помогающие гарантировать, что ИИ используется таким образом, который сохраняет человеческую субъектность. Например, размышления о справедливости должны также затрагивать вопросы справедливых общественных отношений, обеспечения международной безопасности и содействия миру. Проявляя благоразумие, отдельные лица и сообщества могут находить способы использовать ИИ на благо человечества, избегая при этом его применения, которое может подрывать человеческое достоинство или наносить вред окружающей среде. В этом контексте концепция ответственности должна пониматься не только в её узком смысле, но и как «ответственность за заботу о других, что является чем-то большим, чем просто подсчёт достигнутых результатов». [95]
48. Таким образом, ИИ, как и любая технология, может стать частью осознанного и ответственного ответа на призвание человечества к добру. Однако, как уже обсуждалось ранее, ИИ должен направляться человеческим разумом в соответствии с этим призванием, чтобы гарантировать уважение достоинства человеческой личности. Признавая это «возвышенное достоинство», Второй Ватиканский собор утвердил, что «социальный порядок и его прогресс должны постоянно оборачиваться во благо личности».[96] В этом свете использование ИИ, как сказал Папа Франциск, должно «сопровождаться этикой, вдохновлённой видением общего блага, этикой свободы, ответственности и братства, способной содействовать полному развитию личности в её отношениях с другими и со всем творением». [97]
V. Отдельные вопросы
49. В рамках этого общего взгляда ниже приведены некоторые наблюдения, иллюстрирующие, как вышеизложенные аргументы могут помочь с жтическим ориентированием в практических ситуациях, в духе той «мудрости сердца», которую предложил Папа Франциск. [98] Хотя этот анализ не является исчерпывающим, он предлагается в качестве вклада в диалог о том, как ИИ может использоваться для защиты достоинства человеческой личности и содействия общему благу. [99]
ИИ и Общество
50. Как отметил Папа Франциск, «присущее каждому человеку достоинство и братство, связывающее нас как членов единой человеческой семьи, должны лежать в основе развития новых технологий и служить бесспорными критериями их оценки до того, как они будут внедрены».[100]
51. С этой точки зрения, ИИ может «внести важные инновации в сельское хозяйство, образование и культуру, повысить уровень жизни целых народов и наций, а также способствовать росту человеческого братства и социальной дружбы» и, таким образом, быть «использован для продвижения целостного человеческого развития». [101] ИИ также может помочь организациям выявлять нуждающихся и бороться с дискриминацией и маргинализацией. Эти и другие аналогичные применения технологии могут способствовать развитию человека и общему благу. [102]
52. Однако, несмотря на возможности ИИ для содействия благу, он также может препятствовать или даже противодействовать человеческому развитию и общему благу. Папа Франциск отметил, что «имеющиеся данные свидетельствуют о том, что цифровые технологии увеличили неравенство в нашем мире. Это касается не только материального благосостояния, хотя оно также значительно, но и различий в доступе к политическому и социальному влиянию».[103] В этом смысле ИИ может использоваться для укрепления маргинализации и дискриминации, создания новых форм бедности, расширения «цифрового разрыва» и усугубления существующего социального неравенства. [104]
53. Более того, концентрация власти над ключевыми приложениями ИИ в руках нескольких могущественных компаний вызывает серьезные этические опасения. Усиливает эту проблему сама природа систем ИИ, где ни один человек не может полностью контролировать обширные и сложные массивы данных, используемые в вычислениях. Эта неопределённая подотчетность создает риск того, что ИИ может быть подвергнут манипуляциям в личных или корпоративных интересах или использован для влияния на общественное мнение в пользу определенной отрасли. Такие организации, движимые собственными интересами, способны осуществлять «формы контроля, столь же тонкие, сколь и навязчивые, создавая механизмы манипуляции сознанием и демократическим процессом». [105]
54. Кроме того, существует риск использования ИИ для продвижения того, что Папа Франциск назвал «технократической парадигмой», в рамках которой все проблемы мира рассматриваются как решаемые исключительно технологическими средствами. [106] В этой парадигме человеческое достоинство и братство часто отодвигаются на второй план во имя эффективности, «словно реальность, благо и истина спонтанно проистекают из самого могущества технологии и экономики». [107] Однако достоинство человека и общее благо никогда не должны нарушаться ради эффективности, [108] ибо «технологические разработки, которые не ведут к улучшению качества жизни всего человечества, но, напротив, усугубляют неравенство и конфликты, никогда не могут считаться истинным прогрессом». [109] Напротив, ИИ должен быть поставлен «на службу иному типу прогресса — более здоровому, более человечному, более социальному, более целостному». [110]
55. Достижение этой цели требует более глубокого размышления о взаимоотношении автономии и ответственности. Чем больше автономии получает человек, тем выше его ответственность за различные аспекты общественной жизни. Для христиан основа этой ответственности заключается в признании того, что все способности человека, включая его автономию, происходят от Бога и предназначены для служения другим. [111] Поэтому, вместо того чтобы просто преследовать экономические или технологические цели, ИИ должен служить «общему благу всей человеческой семьи», которое представляет собой «совокупность тех условий общественной жизни, которые позволяют и обществам, и отдельным их членам полнее и быстрее достигать своего совершенства».[112]
ИИ и человеческие взаимоотношения
56. Второй Ватиканский Собор отметил, что «по своей внутренней природе человек — существо социальное, и вне отношений с другими людьми он не может ни жить, ни развивать своих дарований». [113] Это убеждение подчёркивает, что жизнь в обществе является неотъемлемой частью природы и призвания человеческой личности. [114] Как социальные существа, мы стремимся к отношениям, предполагающим взаимный обмен и поиск истины, в ходе которого люди «люди излагают другим ту истину, которую они нашли (или полагают, что нашли), чтобы оказать друг другу взаимную помощь в поисках истины». [115]
57. Такой поиск, наряду с другими аспектами человеческой коммуникации, предполагает встречи и взаимный обмен между личностями, сформированными их уникальной историей, мыслями, убеждениями и отношениями. Нельзя забывать, что человеческий интеллект – это сложная, многогранная реальность: индивидуальная и социальная, рациональная и эмоциональная, концептуальная и символическая. Папа Франциск подчеркивает эту динамику, отмечая, что «Вместе мы можем искать истину в диалоге, в непринужденной беседе или в жаркой дискуссии. Исполнение этого требует стойкости; она предусматривает моменты молчания и страдания, но в то же время позволяет терпеливо постигать более обширный опыт разных людей и народов. […] Процесс построения братства, как местного, так и всемирного, может быть взят в руки лишь теми, кто духовно свободен и открыт подлинным встречам». [116]
58. В этом контексте можно рассмотреть вызовы, которые ИИ ставит перед человеческими взаимоотношениями. Как и другие технологические инструменты, ИИ имеет потенциал для укрепления связей внутри человеческой семьи. Однако он также может препятствовать подлинному столкновению с реальностью и, в конечном итоге, привести людей к «глубокой меланхоличной неудовлетворенности межличностными отношениями либо к пагубной изоляции». [117] Подлинные человеческие отношения требуют богатства пребывания с другими – в их боли, в их мольбах, в их радости. [118] Поскольку человеческий интеллект выражается и обогащается также в межличностных и телесных формах взаимодействия, подлинные и спонтанные встречи с другими людьми незаменимы для восприятия реальности в её полноте.
59. Поскольку «подлинная мудрость требует встречи с реальностью» [119], появление ИИ влечёт за собой еще один вызов. Поскольку ИИ может эффективно имитировать результаты работы человеческого интеллекта, способность различать, взаимодействует ли человек с другим человеком или с машиной, больше не является само собой разумеющейся. Генеративный ИИ может создавать тексты, речь, изображения и другие сложные результаты, которые обычно ассоциируются с человеческой деятельностью. Однако важно понимать его природу: это инструмент, а не личность. [120] Это различие часто размывается из-за языка, который используют специалисты, склонные очеловечивать ИИ, тем самым стирая границу между человеком и машиной.
60. Очеловечивание ИИ также создаёт особые вызовы для развития детей, поскольку может способствовать формированию у них моделей взаимодействия, в которых человеческие отношения рассматриваются с точки зрения простой транзакции – подобно тому, как они общаются с чат-ботом. Такие привычки могут привести к тому, что молодые люди начнут воспринимать учителей лишь как источники информации, а не как наставников, направляющих и воспитывающих их интеллектуальный и нравственный рост. Истинные взаимоотношения, укорененные в эмпатии и в прочной приверженности благу другого человека, являются незаменимыми для полноценного развития личности.
61. В этом контексте важно уточнить, что, несмотря на использование антропоморфного языка, ни одно приложение ИИ не может по-настоящему испытывать эмпатию. Эмоции нельзя свести к выражениям лица или фразам, сгенерированным в ответ на запросы; они отражают то, как человек в целом относится к миру и к своей собственной жизни, причём тело играет в этом центральную роль. Истинная эмпатия требует способности слушать, признавать уникальность другого человека, принимать его инаковость и улавливать смысл даже в его молчании. [121] В отличие от области аналитического суждения, в которой ИИ превосходен, истинная эмпатия принадлежит сфере взаимоотношений. Она включает в себя интуитивное понимание и восприятие жизненного опыта другого человека, сохраняя при этом различие между собой и другим. [122] Хотя ИИ может имитировать эмпатические реакции, он не может воспроизвести глубоко личностную и межличностную природу подлинной эмпатии. [123]
62. В свете вышесказанного становится ясно, почему следует всегда избегать ложного представления ИИ как личности; использование его в мошеннических целях является серьезным этическим нарушением, способным подорвать социальное доверие. Точно так же применение ИИ для обмана в других контекстах — например, в образовании или в человеческих отношениях, включая сферу сексуальности, — также следует считать аморальным. Это требует внимательного контроля ради предотвращения вреда, обеспечения прозрачности и сохранения достоинства всех людей. [124]
63. Во всё более изолированном мире некоторые люди обращаются к ИИ в поисках глубоких человеческих отношений, простого общения или даже эмоциональных связей. Однако, хотя человек предназначен для подлинных взаимоотношений, ИИ может лишь имитировать их. Тем не менее, такие отношения с другими являются неотъемлемой частью процесса становления человека тем, кем он должен быть. Если ИИ используется для содействия установлению подлинных связей между людьми, он может внести позитивный вклад в развитие личности. Напротив, если мы заменяем отношения с Богом и с другими людьми взаимодействием с технологиями, мы рискуем подменить подлинную межличностность безжизненным эрзацем (ср. Пс. 105:20; Рим. 1:22-23). Вместо того чтобы уходить в искусственные миры, мы призваны осознанно и целенаправленно взаимодействовать с реальностью, особенно отождествляя себя с бедными и страдающими, утешая скорбящих и создавая узы общности со всеми.
ИИ, экономика и труд
64. Благодаря своей междисциплинарной природе ИИ всё больше интегрируется в экономические и финансовые системы. В настоящее время значительные инвестиции направляются не только в технологический сектор, но и в энергетику, финансы и медиа, особенно в сферы маркетинга и продаж, логистики, технологических инноваций, комплаенса и управления рисками. В то же время применение ИИ в этих областях также выявляет его двойственную природу — как источник огромных возможностей, так и серьёзных рисков. Первая ключевая проблема заключается в том, что из-за концентрации технологий ИИ в руках немногих корпораций ценность, создаваемая ИИ, может приносить пользу только крупным компаниям, а не бизнесам, которые его используют.
65. Также необходимо тщательно изучить более широкие аспекты влияния ИИ на экономико-финансовую сферу, особенно в контексте взаимодействия между реальной и цифровой экономикой. Важное значение здесь имеет сосуществование различных и альтернативных форм экономических и финансовых институтов в конкретной среде. Это следует поощрять, поскольку такой фактор способствует поддержке реальной экономики, ее развитию и стабильности, особенно в кризисные периоды. Тем не менее следует подчеркнуть, что цифровые технологии, не привязанные к пространственным границам, имеют тенденцию быть более однородными и безличными по сравнению с сообществами, укорененными в определенном месте и истории, объединенными общими ценностями и надеждами, но также неизбежными разногласиями и различиями. Это разнообразие представляет собой неоспоримое богатство экономической жизни сообщества. Полная передача экономики и финансов цифровым технологиям приведёт к сокращению этого многообразия. В результате многие решения экономических проблем, которые можно достичь путем естественного диалога между вовлеченными сторонами, могут оказаться недоступными в мире, в котором доминируют исключительно процедуры и есть лишь иллюзия близости.
66. Еще одной сферой, на которую ИИ уже оказывает значительное влияние, является мир труда. Как и во многих других областях, ИИ влечет за собой фундаментальные трансформации во многих профессиях, вызывая целый спектр последствий. С одной стороны, он может повысить квалификацию и производительность, создать новые рабочие места, позволить работникам сосредоточиться на более инновационных задачах и открыть новые горизонты для творчества и изобретательства.
67. Однако, хотя ИИ обещает повысить продуктивность, освобождая людей от рутинных задач, он зачастую вынуждает работников адаптироваться к скорости и требованиям машин, а не наоборот — машины проектировать так, чтобы они поддерживали трудящихся. В результате, вопреки заявленным преимуществам ИИ, современные подходы к технологии могут парадоксальным образом снижать квалификацию работников, подвергать их автоматизированному наблюдению и сводить их функции к жестким и повторяющимся задачам. Необходимость соответствовать темпу технологий может подорвать ощущение автономии работников и подавить их способность к инновациям, которая ожидается от них в процессе труда.[125]
68. В настоящее время ИИ вытесняет потребность в ряде профессий, ранее выполняемых людьми. Если ИИ используется для замены человеческого труда, а не для его дополнения, существует «существенный риск несоразмерной выгоды для немногих за счет обнищания многих». [126] Кроме того, по мере роста мощности ИИ возникает угроза обесценивания человеческого труда в экономической сфере. Это логическое следствие технократической парадигмы: мир, в котором человечество подчинено эффективности, и где в конечном итоге человеческая жизнь рассматривается как издержка, которую следует сократить. Однако человеческая жизнь обладает внутренней ценностью, не зависящей от экономического вклада. Тем не менее, как поясняет Папа Франциск, «в действующей модели «успешности» и «частной инициативы», как представляется, бессмысленно вкладываться в тех, кто остается позади, в слабых, в менее одаренных, чтобы помочь им найти путь в жизни». [127] В связи с этим «мы не можем позволить, чтобы столь мощный и незаменимый инструмент, как искусственный интеллект, способствовал укреплению этой парадигмы; напротив, мы должны сделать искусственный интеллект бастионом против её распространения». [128]
69. Важно помнить, что «социальный порядок и его прогресс должны постоянно оборачиваться во благо личности, а не наоборот». [129] Человеческий труд должен служить не только получению прибыли, но и «служению всему человеку […] необходимо принимать во внимание как ряд его материальных нужд, так и требования интеллектуальной, нравственной, духовной и религиозной жизни человека». [130] В этом контексте Церковь признает, что труд — «это не только средство для зарабатывания на хлеб насущный», но и «существенное измерение общественной жизни», а также «способ […] личностного роста, построения здоровых отношений, самовыражения и обмена дарами. Труд дает нам ощущение общей ответственности за развитие мира и, в конечном счете, за нашу жизнь как народа». [131]
Поскольку труд есть «частица смысла жизни на этой земле, путь к зрелости, человеческому развитию и личной реализации», нельзя «заменять человеческий труд технологическим прогрессом». [132] Напротив, он должен способствовать человеческому труду. В этом свете ИИ должен помогать, а не заменять человеческое суждение. Точно так же он не должен подрывать творчество или превращать работников в простые «шестеренки механизма». Поэтому «уважение к достоинству трудящихся и признание важности занятости для экономического благополучия индивидов, семей и обществ, для гарантии занятости и справедливой оплаты труда должны стать приоритетом международного сообщества по мере того, как эти формы технологий все глубже проникают в сферу труда». [133]
ИИ и здравохранение
71. Будучи участниками целительного дела Божия, медицинские работники имеют призвание и ответственность «оберегать человеческую жизнь и служить ей» [134]. В связи с этим медицинская профессия несёт в себе «врожденное и неотторжимое этическое измерение», которое признается в Клятве Гиппократа и обязывает врачей и медицинских работников «глубоко чтить человеческую жизнь и ее святость». [135] Следуя примеру Доброго Самарянина, это обязательство должны исполнять мужчины и женщины, которые «отвергают создание общества отчуждения, и, напротив, ведут себя как соседи, поднимая и реабилитируя падших во имя общего блага». [136]
72. В этом свете искусственный интеллект (ИИ) представляется обладающим огромным потенциалом для многообразного применения в медицине, такого как помощь в диагностике, облегчение взаимодействия между пациентами и медицинским персоналом, предоставление новых методов лечения и расширение доступа к качественной медицинской помощи, в том числе для изолированных и маргинализированных групп. Таким образом, технологии могут способствовать «сострадательному и любящему соприкосновению» [137], к которому медицинские работники призваны в служении больным и страждущим.
73. Однако если ИИ используется не для улучшения, а для замены отношений между пациентами и медицинскими работниками, оставляя пациентов взаимодействовать с машиной вместо живого человека, это приведет к сведению важнейшей человеческой структуры отношений к централизованной, безличной и неравноправной системе. Вместо поощрения солидарности с больными и страдающими подобные применения ИИ могут лишь усугубить одиночество, которое часто сопровождает болезнь, особенно в культуре, где «человека уже не воспринимают как высшую ценность, которую нужно беречь и уважать». [138] Такое злоупотребление ИИ не соответствует уважению достоинства человеческой личности и солидарности со страждущими.
74. Ответственность за благополучие пациентов и за решения, касающиеся их жизни, лежит в основе медицинской профессии. Эта ответственность требует от медицинских работников применения всех своих знаний и интеллекта для принятия хорошо обоснованных и этически выверенных решений в отношении тех, кто доверен их заботе, при этом неизменно уважая неотъемлемое достоинство пациентов и необходимость получения их информированного согласия. Следовательно, решения относительно лечения пациентов и сопутствующая этому ответственность должны всегда оставаться за человеком и не могут быть переданы ИИ. [139]
75. Кроме того, использование ИИ для определения, кто должен получать лечение, преимущественно на основе экономических показателей или критериев эффективности, представляет собой особенно проблематичный случай «технократической парадигмы», которую необходимо отвергнуть. [140] Ведь «оптимизация ресурсов означает их использование этическим и братским образом, а не нанесение ущерба наиболее уязвимым». [141] Помимо этого, инструменты ИИ в медицине «подвержены формам предвзятости и дискриминации», когда «системные ошибки могут легко множиться, порождая не только несправедливость в отдельных случаях, но и, из-за эффекта домино, реальные формы социального неравенства». [142]
76. Интеграция ИИ в систему здравоохранения также несёт риск усиления существующих различий в доступе к медицинской помощи. По мере того как медицина всё больше ориентируется на профилактику и подходы, основанные на образе жизни, ИИ-решения могут невольно обеспечивать преимущество более обеспеченным слоям населения, которые уже имеют лучший доступ к медицинским ресурсам и качественному питанию. Этот тренд грозит укреплением модели «медицины для богатых», при которой лица с финансовыми возможностями пользуются передовыми профилактическими инструментами и персонализированной информацией о здоровье, тогда как другие сталкиваются с трудностями даже в получении базовых медицинских услуг. Чтобы избежать подобную несправедливость, необходимы справедливые механизмы, гарантирующие, что использование ИИ в медицине не усугубит существующее неравенство в здравоохранении, а будет служить общему благу.
ИИ и образование
77. Слова Второго Ватиканского собора остаются полностью актуальными и сегодня: «воспитание стремится к формированию человеческой личности, учитывая её высшую цель и вместе с тем благо того общества, членом которого является человек». [143] Таким образом, образование — это «никогда не просто процесс передачи фактов и интеллектуальных навыков: его цель — способствовать целостному формированию личности во всех её аспектах (интеллектуальном, культурном, духовном и т. д.), включая, например, жизнь в сообществе и отношения внутри академической среды» [144], в соответствии с природой и достоинством человеческой личности.
78. Такой подход предполагает стремление к развитию разума, но всегда как части целостного развития личности: «Мы должны отказаться от представления об образовании как о наполнении головы идеями. Такой подход формирует автоматонов, мозговых работников, а не людей. Образование — это риск, возникающий во взаимодействии между разумом, сердцем и руками». [145]
79. В центре этого процесса формирования целостной личности стоит незаменимая связь между учителем и учеником. Учителя не просто передают знания; они демонстрируют важнейшие человеческие качества и вдохновляют на радость открытия. [146] Их присутствие мотивирует учеников как через содержание преподавания, так и через заботу, которую они проявляют. Эта связь способствует доверию, взаимопониманию и способности учитывать уникальное достоинство и потенциал каждого человека. Со стороны ученика это может пробудить искреннее желание расти. Физическое присутствие учителя создает динамику взаимоотношений, которую ИИ воспроизвести не может, углубляя вовлечённость и способствуя целостному развитию учащегося.
80. В этом контексте ИИ представляет как возможности, так и вызовы. Если его использовать разумно, в рамках существующих отношений между учителем и учеником и в соответствии с подлинными целями образования, он может стать ценным образовательным ресурсом, расширяя доступ к знаниям, предлагая индивидуальную поддержку и обеспечивая учащихся мгновенной обратной связью. Эти преимущества могут улучшить образовательный процесс, особенно в тех случаях, когда требуется персонализированное внимание или образовательные ресурсы ограничены ещё каким-либо образом.
81. Однако важнейшая часть образования заключается в формировании «разума, способного хорошо рассуждать во всех вопросах, стремиться к истине и постигать её» [147], способствуя «языку головы» гармонично развиваться вместе с «языком сердца» и «языком рук». [148] Это особенно актуально в век технологий, когда «Это уже не просто вопрос «использования» инструментов коммуникации, а вопрос жизни в широко оцифрованной культуре, которая глубоко влияет на […] восприятие себя, других и мира, манеру общения, обучения, получения информации и вступления в отношения с другими». [149] Однако вместо того чтобы способствовать формированию «образованного разума», который «приносит силу и благодать в каждую деятельность» [150], чрезмерное использование ИИ в образовании может привести к увеличению зависимости учащихся от технологий, снижению их способности к самостоятельному выполнению определенных задач и усилению зависимости от экранов. [151]
82. Кроме того, хотя некоторые системы ИИ предназначены для развития критического мышления и навыков решения проблем, многие из них просто предоставляют готовые ответы вместо того, чтобы побуждать учащихся к самостоятельному поиску решений и самостоятельному созданию текстов. [152] Вместо того чтобы учить молодежь просто накапливать информацию и быстро генерировать ответы, образование должно воспитывать «ответственное использование свободы, позволяющее в нужную минуту делать осмысленный и умный выбор». [153] Исходя из этого, «обучение использованию искусственного интеллекта должно, прежде всего, способствовать развитию критического мышления. Пользователи всех возрастов, а особенно молодежь, должны научиться осознанно относиться к данным и контенту, получаемым из Интернета или созданным системами искусственного интеллекта. Школы, университеты и научные общества призваны помогать учащимся и профессионалам понимать социальные и этические аспекты развития и применения технологий»[154].
83. Как напоминал святой Иоанн Павел II, «в современном мире, характеризующемся столь быстрым развитием науки и технологий, задачи католического университета приобретают всё большее значение и неотложность». [155] В особенности католические университеты призваны быть великими лабораториями надежды в этом историческом переломном моменте. В междисциплинарном и кросс-дисциплинарном ключе они должны «с мудростью и креативностью» [156] заниматься тщательными исследованиями этого феномена, выявлять его позитивный потенциал в различных областях науки и реальности и направлять его всегда в этически обоснованное русло, служащее укреплению общества и общему благу, а также открывать новые горизонты в диалоге между верой и разумом.
84. Кроме того, следует отметить, что современные программы ИИ нередко выдают предвзятые или вымышленные сведения, что может привести к тому, что учащиеся начнут доверять недостоверному контенту. Эта проблема «не только создает риск легитимации фейковых новостей и усиления преимуществ доминирующей культуры, но, в конечном итоге, также подрывает сам образовательный процесс». [157] Со временем могут появиться более четкие различия между правильным и неправильным использованием ИИ в образовании и исследованиях. Однако основным принципом должно оставаться то, что применение ИИ всегда должно быть прозрачным и никогда не представляться в искаженном виде.
ИИ, дезинформация, дипфейки и злоупотребления
85. Искусственный интеллект может служить вспомогательным инструментом в защите человеческого достоинства, если он помогает людям понимать сложные концепции или направляет их к достоверным источникам, поддерживающим их поиск истины. [158]
86. Однако ИИ также несёт в себе серьезный риск создания контента, подвергнутого манипуляциям, и ложной информации, которая может легко ввести людей в заблуждение из-за своего сходства с правдой. Такая дезинформация может возникать непреднамеренно, как в случае «галлюцинаций» ИИ, когда генеративная система выдает результаты, которые кажутся реальными, но таковыми не являются. Поскольку создание контента, имитирующего человеческие артефакты, является основной функцией ИИ, снижение этих рисков оказывается сложной задачей. Тем не менее, последствия подобных аномалий и ложной информации могут быть весьма серьёзными. Именно поэтому все, кто участвует в создании и использовании систем ИИ, должны стремиться к правдивости и точности информации, обрабатываемой этими системами и распространяемой среди людей.
87. Хотя ИИ имеет внутреннюю возможность генерации ложной информации, ещё более тревожной проблемой является его намеренное использование для манипуляции. Это происходит, когда отдельные лица или организации целенаправленно создают и распространяют ложный контент с целью обмана или нанесения вреда, например, «дипфейки» — поддельные изображения, видео и аудио, изменённые или сгенерированные алгоритмами ИИ. Опасность дипфейков особенно очевидна, когда они используются для нападок на людей или причинения им вреда. Хотя сами изображения или видео могут быть искусственными, нанесенный ущерб является реальным, оставляя «глубокие шрамы в сердцах тех, кто от этого страдает», и «настоящие раны их человеческого достоинства». [159]
88. В более широком масштабе, искажая «наши отношения с другими людьми и с реальностью»[160], созданные ИИ поддельные медиа могут постепенно подорвать основы общества. Эта проблема требует тщательного регулирования, так как дезинформация — особенно через медиа, контролируемые или управляемые ИИ, — может распространяться непреднамеренно, усиливая политическую поляризацию и социальные волнения. Когда общество становится безразличным к истине, различные группы начинают конструировать свои собственные версии «фактов», ослабляя «взаимные связи и взаимную зависимость» [161], которые лежат в основе социальной жизни. Дипфейки заставляют людей сомневаться во всём, а искусственно сгенерированный ложный контент подрывает доверие к тому, что они видят и слышат, усиливая поляризацию и конфликты. Такое массовое распространение подлога — это не тривиальная проблема; это бьёт в самое сердце человечества, разрушая основополагающее доверие, на котором строятся общества. [162]
89. Противодействие ложной информации, создаваемой ИИ, — это не только задача специалистов в области технологий, но и обязанность всех людей доброй воли. «Если технологии должны служить человеческому достоинству, а не причинять ему вред, и если они должны способствовать миру, а не насилию, то человеческое сообщество должно активно реагировать на эти вызовы, учитывая достоинство человека и стремясь к общему благу». [163] Те, кто создают и распространяют контент, сгенерированный ИИ, должны всегда проявлять особую осторожность в проверке его достоверности и во всех случаях «избегать распространения слов и изображений, унижающих человеческое достоинство, способствующих ненависти и нетерпимости, разрушающих добро и интимность человеческой сексуальности или эксплуатирующих слабых и уязвимых». [164] Это требует постоянной осмотрительности и вдумчивого подхода ко всей деятельности пользователей в интернете. [165]
ИИ, приватность и надзор
90. Человек по своей природе является существом, характеризующимся отношениями, и данные, которые он генерирует в цифровом мире, можно рассматривать как объективированное выражение этой социальной природы. Данные передают не только информацию, но и личные и межличностные знания, которые в условиях всё большей цифровизации могут превращаться в инструмент власти над личностью. Более того, если одни типы данных могут касаться публичных аспектов жизни человека, то другие могут затрагивать его внутренний мир, а возможно, даже его совесть. В этом смысле конфиденциальность играет важную роль в защите границ внутренней жизни человека, сохраняя его свободу во взаимоотношениях с другими, самовыражении и принятии решений без чрезмерного контроля. Эта защита также связана с защитой религиозной свободы, поскольку системы наблюдения могут использоваться для контроля над жизнью верующих и способом их выражения веры.
91. Поэтому вопрос конфиденциальности уместно рассматривать с точки зрения уважения законной свободы и неотъемлемого достоинства человеческой личности «при любых обстоятельствах». [166] Второй Ватиканский собор включил право «оберегать частную жизнь» в перечень фундаментальных прав, «необходимых для подлинно человеческой жизни», право, которое должно распространяться на всех людей в силу их «высочайшего достоинства». [167] Кроме того, Церковь также подтвердила право на законное уважение частной жизни в контексте защиты права человека на добрую репутацию, защиту его физической и психической целостности, а также свободу от вреда и чрезмерного вмешательства [168] — важнейшие составляющие должного уважения к присущему человеку достоинству. [169]
92. Современные достижения в области обработки и анализа данных с использованием ИИ теперь позволяют выявлять закономерности в поведении и мышлении человека даже на основе небольшого объема информации, что делает защиту персональных данных еще более необходимой для сохранения достоинства и социальной природы человеческой личности. Как отметил Папа Франциск: «В то время как закрытость и нетерпимость по отношению к другим людям все возрастают — дистанции, напротив, сокращаются или вовсе исчезают, вплоть до того, что право на неприкосновенность частной жизни практически перестает существовать. Все превратилось в своего рода спектакль, который смотрят и изучают; человеческая жизнь теперь находится под постоянным наблюдением». [170]
93. Хотя использование ИИ может быть оправданным и соответствовать человеческому достоинству и общему благу, его применение для слежки с целью эксплуатации, ограничения свободы других или обогащения немногих за счет большинства недопустимо. Риск чрезмерного наблюдения должен контролироваться соответствующими регулирующими органами для обеспечения прозрачности и общественной подотчетности. Те, кто несет ответственность за систему наблюдения, никогда не должны превышать свои полномочия, которые всегда должны служить достоинству и свободе каждого человека как основополагающему принципу справедливого и гуманного общества.
94. Кроме того, «основополагающее уважение к человеческому достоинству требует, чтобы мы не позволяли сводить уникальность личности к набору данных». [171] Это особенно важно, когда ИИ используется для оценки людей или групп на основе их поведения, характеристик или прошлого — практики, известной как «социальный рейтинг»: «В процессе социального и экономического принятия решений мы должны проявлять осторожность, передавая полномочия по вынесению суждений алгоритмам, которые обрабатывают данные, часто собранные скрытно, о личности и её прошлом поведении. Такие данные могут быть искажены общественными предубеждениями и стереотипами. Прошлое поведение человека не должно использоваться для того, чтобы лишить его возможности измениться, развиваться и вносить вклад в общество. Мы не можем позволить алгоритмам ограничивать или обусловливать уважение к человеческому достоинству, или исключать сострадание, милосердие, прощение и, прежде всего, надежду на то, что люди способны изменяться». [172]
ИИ и защита нашего общего дома
95. ИИ имеет многообещающие приложения для улучшения наших взаимоотношений с нашим «общим домом», включая создание моделей для прогнозирования экстремальных климатических явлений, предложение инженерных решений для снижения их воздействия, управление операциями по ликвидации последствий и предсказание миграций населения. [173] Кроме того, ИИ может поддерживать устойчивое сельское хозяйство, оптимизировать использование энергии и предоставлять системы раннего оповещения о ситуациях опасных для общества. Эти достижения способны укрепить устойчивость перед климатическими вызовами и способствовать более устойчивому развитию.
96. В то же время современные модели ИИ и оборудование, необходимое для их поддержки, потребляют огромные объёмы энергии и воды, значительно способствуя выбросам CO2 и создавая нагрузку на ресурсы. Эта реальность часто затушёвывается тем способом, которым эти технологии представляются для массового сознания, где такие слова, как «облако» [174], могут создавать впечатление, что данные хранятся и обрабатываются в некоем нематериальном пространстве, оторванном от физического мира. Однако «облако» — это не эфемерная область, отделённая от материального мира; как и все вычислительные технологии, оно зависит от физических машин, кабелей и энергии. То же самое касается и технологий, лежащих в основе ИИ. По мере усложнения этих систем, особенно больших языковых моделей (LLM), им требуются всё большие объемы данных, увеличенная вычислительная мощность и расширенная инфраструктура хранения. Учитывая серьёзное воздействие этих технологий на окружающую среду, крайне важно разрабатывать устойчивые решения, которые помогут снизить их влияние на наш общий дом.
97. Даже тогда, как учит Папа Франциск, необходимо «искать решения не только в технике, но и в изменении человека». [175] Полноценное и подлинное понимание творения признаёт, что ценность всего сотворённого не может быть сведена лишь к его утилитарности. Поэтому по-настоящему человеческий подход к управлению землёй отвергает искажённый антропоцентризм технократической парадигмы, стремящейся «извлечь из творения всё возможное» [176], а также отвергает «миф о прогрессе», который предполагает, что «экологические проблемы разрешатся просто, новыми техническими достижениями, не принимая при этом во внимание ни этику, ни глубинные перемены». [177] Подобное мышление должно уступить место более целостному подходу, который уважает порядок творения, способствует всеобщему благу человеческой личности и одновременно защищает наш общий дом. [178]
ИИ и военные действия
98. Второй Ватиканский собор и последовательное учительство пап с того времени подчеркивают, что мир — это не просто отсутствие войны и не сводится к поддержанию баланса сил между противниками. Напротив, по словам святого Августина, мир — это «спокойствие порядка». [179] Истинный мир невозможен без защиты благ каждого человека, свободного общения, уважения достоинства личностей и народов, а также постоянного воплощения братства. Мир рождается из справедливости и является плодом любви; его нельзя достичь одной лишь силой, а следует строить через терпеливую дипломатию, активное продвижение справедливости, солидарность, всестороннее развитие человека и уважение достоинства всех людей. [180] Именно поэтому средства поддержания мира никогда не должны оправдывать несправедливость, насилие или угнетение. Они всегда должны основываться на «твёрдая решимость уважать других людей, другие народы и их достоинство, а также горячее стремление к братству». [181]
99. Хотя аналитические возможности ИИ могут способствовать поиску мира и обеспечению безопасности, «милитаризация искусственного интеллекта» несёт серьёзные угрозы. Папа Франциск отмечает, что «возможность ведения военных операций с помощью дистанционно управляемых систем привела к снижению осознания разрушительных последствий этих вооружений и ответственности за их применение, что сделало подход к ужасам войны ещё более холодным и отстраненным». [182] Более того, автономное оружие упрощает ведение войны, противореча принципу войны как крайней меры в рамках законной самообороны. [183] Это может привести к бесконтрольному расширению арсенала оружия, выходящему за рамки человеческого контроля, и спровоцировать гонку вооружений с катастрофическими последствиями для прав человека. [184]
100. В особенности вызывает серьезную этическую обеспокоенность разработка летальных автономных систем вооружений, которые способны идентифицировать и поражать цели без непосредственного участия человека. Такие системы лишены «уникальной способности человека к моральному суждению и этическому выбору». [185] По этой причине Папа Франциск настоятельно призывает пересмотреть разработку подобных вооружений и запретить их применение, начиная с «решительных и конкретных шагов к установлению надлежащего и всё более расширяющегося человеческого контроля. Ни одна машина не должна сама принимать решение отнять жизнь у человека». [186]
101. От точечного автономного убийства до технологий массового уничтожения — всего один шаг. Некоторые исследователи ИИ предупреждают, что такие системы несут «экзистенциальный риск», поскольку могут выйти из-под контроля и поставить под угрозу существование целых регионов или даже всего человечества. Эта опасность требует серьёзного внимания, особенно с учетом давних предостережений о разрушительной силе технологий, способных истреблять огромное количество невинных людей, [187] не щадя даже детей. В этом контексте призыв пастырской конституции «Gaudium et Spes» к «рассмотрению войны в новом свете»[188] актуален как никогда.
102. Однако помимо теоретических рисков ИИ, первоочередное беспокойство вызывает возможность его злонамеренного использования людьми. [189] Как и любой инструмент, ИИ лишь расширяет возможности человека, и хотя его будущие способности непредсказуемы, история человечества уже даёт достаточно поводов для тревоги. Совершённые в прошлом зверства ясно показывают, как опасно безответственное использование технологий.
103. Святой Иоанн Павел II однажды сказал: «Человечество обладает инструментами невиданной силы: мы можем превратить этот мир в сад, а можем оставить от него лишь груду руин». [190] Церковь напоминает, что, по словам Папы Франциска, «мы свободны использовать свой разум для созидания» так и для «краха и взаимного уничтожения». [191] Чтобы человечество не впало в саморазрушение [192], необходимо решительно противостоять любому использованию технологий, которое угрожает человеческой жизни и достоинству. Это требует осознанного подхода к применению ИИ, особенно в военной сфере, чтобы он всегда уважал человеческое достоинство и служил общему благу. Разработка и развёртывание ИИ в вооруженных системах должны проходить под самым строгим этическим контролем и быть подчинены заботе о святости жизни и достоинстве человека. [193]
ИИ и наши отношения с Богом
104. Технологии предоставляют удивительные инструменты для управления и развития мировых ресурсов. Однако в некоторых случаях человечество всё больше передает контроль над этими ресурсами машинам. В определённых кругах ученых и футуристов существует оптимизм относительно потенциала сильного искусственного интеллекта (artificial general intelligence — AGI) — гипотетической формы ИИ, которая могла бы сравниться или превзойти человеческий интеллект и привести к невообразимым достижениям. Некоторые даже предполагают, что AGI сможет обладать сверхчеловеческими способностями. В то же время, по мере того как общество теряет связь с трансцендентным, некоторые испытывают соблазн искать в ИИ смысл или наполненность — стремления, которые могут быть по-настоящему удовлетворены только в общении с Богом. [194]
105. Однако попытка заменить Бога артефактом человеческого производства является идолопоклонством — практикой, о которой Писание ясно предостерегает (например, Исх. 20:4; 32:1-5; 34:17). Более того, ИИ может оказаться ещё более соблазнительным, чем традиционные идолы, ведь в отличие от них, у которых «есть уста, но не говорят; есть глаза, но не видят; есть уши, но не слышат» (Пс. 115:5-6), он может «говорить» — или, по крайней мере, создавать иллюзию этого (ср. Откр. 13:15). Тем не менее, важно помнить, что ИИ — лишь бледное отражение человечества: он создан человеческим разумом, обучен на человеческом материале, реагирует на человеческий ввод и поддерживается человеческим трудом. Он не обладает многими возможностями, присущими человеческой жизни, и также подвержен ошибкам. Обращаясь к ИИ как к якобы высшему «Другому», с которым можно разделить существование и ответственность, человечество рискует создать замену Богу. Однако в конечном итоге обожествляется и становится объектом поклонения не ИИ, а само человечество — которое таким образом становится рабом своего собственного творения. [195]
106. Хотя ИИ обладает потенциалом служить человечеству и способствовать общему благу, он остается творением человеческих рук, неся на себе «образ от искусства и вымысла человеческого» (Деян. 17:29). Ему нельзя приписывать чрезмерную ценность. Как утверждает Книга Премудрости: «Хотя человек сделал их, и заимствовавший дух образовал их, но никакой человек не может образовать бога, как он сам. Будучи смертным, он делает нечестивыми руками мертвое, поэтому он превосходнее божеств своих, ибо он жил, а те — никогда». (Прем. 15:16-17).
107. В отличие от этого, человек «Своим внутренним миром он превосходит всю совокупность вещей: этих внутренних глубин он достигает, обращаясь к собственному сердцу, где его ожидает Бог, испытующий сердца, и где под оком Божиим он решает собственную участь». [196] Именно в сердце, как напоминает нам Папа Франциск, каждый человек открывает «таинственную связь между познанием самого себя и открытостью к другим, между встречей со своей личной уникальностью и готовностью дарить себя другим». [197] Таким образом, только сердце «способно привести все наши силы, страсти и всю нашу личность в состояние благоговения и любящей покорности перед Господом», [198], который «предлагает каждому из нас быть Его “Ты” — всегда и навеки». [199]
VI. Завершающие мысли
108. Учитывая различные вызовы, связанные с развитием технологий, Папа Франциск подчеркнул необходимость роста «человеческой ответственности, ценностей и совести» соразмерно росту потенциала, который дают эти технологии [200], отмечая, что «чем более возрастает могущество людей, тем шире простирается их ответственность — как отдельных лиц, так и сообществ». [201]
109. В то же время остаётся «существенный и фундаментальный вопрос»: «становится ли человек в условиях этого прогресса по-настоящему лучше как человек, то есть более духовно зрелым, более осознающим достоинство своей человечности, более ответственным, более открытым к другим, особенно к нуждающимся и слабым, и более готовым к дарению и помощи всем?» [202]
110. Поэтому крайне важно уметь оценивать конкретное применение ИИ в различных контекстах, чтобы определить, способствует ли его использование человеческому достоинству, призванию человека и общему благу. Как и со многими другими технологиями, последствия использования ИИ не всегда можно предсказать с самого начала. По мере того как это применение и его социальное влияние становятся яснее, необходимо соответствующим образом реагировать на всех уровнях общества, следуя принципу субсидиарности. Индивидуальные пользователи, семьи, гражданское общество, корпорации, институты, правительства и международные организации должны действовать на своём уровне, чтобы обеспечить использование ИИ на благо всех.
111. Важный вызов и одновременно возможность для общего блага сегодня заключается в рассмотрении ИИ в рамках социального интеллекта, которая подчеркивает взаимосвязь между людьми и сообществами и нашу общую ответственность за всестороннее благополучие других. Русский философ Николай Бердяев в XX веке отмечал, что люди часто обвиняют машины в личных и социальных проблемах, однако «такое отношение унижает человека, не соответствует его достоинству», ведь «недостойно переносить ответственность с самого человека на машину». [203] Только человек может быть морально ответственным, а вызовы технологического общества в конечном итоге носят духовный характер. Поэтому для их преодоления «требуется напряжение духовности».[204]
112. Еще один важный аспект, который следует учитывать в свете появления ИИ на мировой арене, — это призыв к новому осмыслению всего человеческого. Французский католический писатель Жорж Бернанос еще много лет назад предупреждал: «Опасность заключается не в умножении машин, а в постоянно растущем числе людей, привыкших с детства желать лишь того, что могут дать машины». [205] Этот вызов актуален и сегодня, поскольку стремительная цифровизация несёт риск «цифрового редукционизма», при котором не поддающиеся количественному выражению аспекты жизни оказываются отброшены, забыты или даже признаны несущественными, поскольку их невозможно вычислить формальными методами. ИИ должен использоваться лишь как инструмент, дополняющий человеческий интеллект, а не заменяющий его богатство. [206] Сохранение тех аспектов человеческой жизни, которые выходят за пределы вычислений, критически важно для поддержания «подлинной человечности», которая «неуловимо обитает внутри технологической цивилизации, словно туман, просачивающийся под закрытую дверь». [207]
Истиная мудрость
113. Огромное пространство мирового знания теперь доступно в такой степени, что это могло бы вызвать благоговейный трепет у прошлых поколений. Однако, чтобы достижения в области знаний не стали человечески или духовно бесплодными, необходимо выйти за пределы простого накопления данных и стремиться к истинной мудрости. [208]
114. Эта мудрость — дар, в котором человечество нуждается прежде всего для того, чтобы ответить на глубокие вопросы и этические вызовы, поставленные искусственным интеллектом: «Только духовное восприятие реальности, только восстановление мудрости сердца позволит нам противостоять и осмыслить новизну нашего времени». [209] Такая «мудрость сердца» — это «добродетель, которая позволяет нам объединять целое и его части, наши решения и их последствия». Она «не может быть получена от машин», но она «даётся тем, кто ищет её, и открывается тем, кто любит её; она предупреждает желания ищущих её и выходит навстречу достойным её (ср. Прем 6:12-16)». [210]
115. В мире, ознаменованном искусственным интеллектом, нам нужна благодать Святого Духа, который «помогает нам смотреть на вещи глазами Бога, видеть взаимосвязи, ситуации, события и раскрывать их истинный смысл». [211]
116. Поскольку «совершенство человека измеряется не количеством информации или знаний, которыми он обладает, а глубиной его любви» [212], то подлинной мерой нашей человечности станет то, как мы интегрируем искусственный интеллект, «чтобы включить наименее защищённых братьев и сестёр, уязвимых и наиболее нуждающихся». [213] «Мудрость сердца» способна освещать и направлять использование этой технологии в духе заботы о всеобщем благе, о нашем «общем доме», в продвижении поиска истины, в содействии целостному человеческому развитию, в укреплении человеческой солидарности и братства, а также в ведении человечества к его конечной цели — счастью и полному общению с Богом. [214]
117. Исходя из этой перспективы мудрости, верующие смогут действовать как моральные субъекты, способные применять эту технологию для продвижения подлинного видения человеческой личности и общества. [215] Это должно происходить с осознанием того, что технологический прогресс является частью Божьего замысла о творении — деятельностью, которую мы призваны направлять к Пасхальной Тайне Иисуса Христа в постоянном поиске Истины и Добра.
Верховный Понтифик Франциск, на аудиенции, данной 14 января 2025 года нижеподписавшимся префектам и секретарям Дикастерии вероучения и Дикастерии культуры и образованию, утвердил этот Комментарий и распорядился его опубликовать.
Дано в Риме, в Дикастерии вероучения и Дикастерии культуре и образования, 28 января 2025 года, в день литургической памяти святого Фомы Аквинского, Учителя Церкви.
Кард. Виктор Мануэль Фернандез
Префект
Монс. Армандо Маттео
Секретарь, Секция Вероучения
Кардинал Хосе Толентино де Мендонса
Префект
Еп. Пол Тай
Секретарь, Секция Культуры
Ex Audientia Die 14.01.2025
Franciscus
[1] Катехизис Католической Церкви, п. 378. См. также Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декаря 1965), п. 34: AAS 58 (1966), 1052-1053.
[2] Папа Франциск, Послание участникам Пленарной Ассамблеи Папской Академии жизни (28 февраля 2020): AAS 112 (2020), 307. См. Рождественские поздравления Римской курии (21 декабря 2019): AAS 112 (2020), 43.
[3] См. Папа Франциск, Послание на LVIII Всемирный день социальных коммуникаций (24 января 2024): L’Osservatore Romano, 24 января 2024, 8.
[4] См. Катехизис Католической Церкви, п. 2293; Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 35.
[5] Маккарти Дж. “Предложение Летнего исследовательского проекта по искусственному интеллекту в Дартмуте” (31 августа 1955), http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html (доступ: 21 октября 2024).
[6] См. Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), pars. 2-3: L’Osservatore Romano, 14 декабря 2023, 2.
[7] Термины в этом документе, описывающие выходные данные или процессы искусственного интеллекта, используются в переносном смысле для объяснения его работы и не предназначены для очеловечивания машины.
[8] См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 3; Id., Послание на LVII Всемирный день мира (1 января 2024), par. 2: L’Osservatore Romano, 14 декабря 2023, 2.
[9] Здесь можно увидеть основные позиции “трансгуманистов” и “постгуманистов”. Трансгуманисты утверждают, что технический прогресс позволит людям преодолеть свои биологические ограничения и улучшить как свои физические, так и когнитивные способности. Постгуманисты, с другой стороны, утверждают, что такие достижения в конечном счете изменят человеческую идентичность до такой степени, что само человечество больше не будет считаться по-настоящему “человеческим”. Обе точки зрения основаны на фундаментально негативном восприятии телесности человека, которое рассматривает тело скорее как препятствие, чем как неотъемлемую часть личности и призывает к полной реализации. Однако такой негативный взгляд на тело несовместим с правильным пониманием человеческого достоинства. Хотя Церковь поддерживает подлинный научный прогресс, она утверждает, что человеческое достоинство коренится в “человеке как неразрывном единстве души и тела”. Таким образом, “достоинство присуще также телу каждого человека, которое по-своему участвует в бытии в образе Божьем” (Дикастерия Вероучения, Декларация Dignitas Infinita [8 апреля 2024], п. 18).
[10] Этот подход отражает функционалистскую точку зрения, которая сводит человеческий разум к его функциям и предполагает, что его функции могут быть полностью определены количественно в физических или математических терминах. Однако, даже если будущий AGI окажется действительно интеллектуальным, он все равно останется функциональным по своей природе.
[11] См. Тьюринг А. “Вычислительные машины и разум”, Mind 59 (1950) 443-460.
[12] Если “мышление” приписывается машинам, необходимо пояснить, что это относится к вычислительному мышлению, а не к критическому мышлению. Аналогичным образом, если утверждается, что машины работают с использованием логического мышления, необходимо уточнить, что это ограничивается вычислительной логикой. С другой стороны, по самой своей природе человеческое мышление — это творческий процесс, который не поддается программированию и преодолевает ограничения.
[13] Об основополагающей роли языка в формировании понимания, См. M. Heidegger, Über den Humanismus, Klostermann, Frankfurt am Main 1949
[14] Подробнее об этих антропологических и теологических основах читайте в статье исследовательской группы по искусственному интеллекту Центра цифровой культуры Министерства культуры и образования «Знакомство с искусственным интеллектом: этические и антропологические исследования». (Богословские исследования искусственного интеллекта 1), М.Ж. Годе, Н. Херцфельд, П. Шерц, Ж.Дж. Уэльс, Журнал морального богословия, Пиквик, Юджин 2024, 43-144.
[15] Аристотель, Метафизика, I.1, 980 a 21.
[16] См. Августин, О книге Бытия III, 20: “образ Божий, по которому сотворен человек, заключается в том, чем человек превосходит неразумных животных. А это называется умом, или разумом, или сознанием, или иным каким, более подходящим именем”. У него же., Толкование на псалом 54, 3: “Рассматривая всё, что имеют, люди обнаруживают, что они больше всего отличаются от животных именно тем, что обладают интеллектом”. Это также повторяется св. Фомой Аквинским, который утверждает, что “Человек – наисовершеннейший среди всех низших двигателей. Его собственная [т.е. только и именно ему присущая] естественная деятельность [состоит в том, чтобы] мыслить”, посредством чего он абстрагирует вещи и “делает потенциально умопостигаемое умопостигаемым актуально” (Фома Аквинский, Сумма против язычников II, 76).
[17] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 15: AAS 58 (1966), 1036.
[18] Фома Аквинский, Сумма Теологии, II-II, в. 49, разд. 5, отв. 3. См. ibid., I, q. 79; II-II, q. 47, разд. 3; II-II, q. 49, разд. 2. Для ознакомления с современным взглядом, отражающим элементы классического и средневекового различия между этими двумя режимами познания, См. Канеман Д. “Думай медленно, решай быстро”, 2011.
[19] Фома Аквинский, Сумма Теологии, I, в. 76, разд. 1, отв.
[20] См. Ириней Лионский, Против Ересей, V, 6, 1.
[21] Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), п. 9. См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 213: “Разум может исследовать действительность благодаря рефлексии, опыту и диалогу и способен обнаружить в этой превосходящей его способности реальности основание для определенных универсальных моральных требований.”
[22] Cм. Конгрегация Вероучения, Доктринальная нота о некоторых аспектах евангелизации (3 декабря 2007), п. 4.
[23] Катехизис Католической Церкви, п. 365. См. Фома Аквинский, Сумма Теологии, I, в. 75, разд. 4, отв.
[24] Поистине, Священное Писание “обычно рассматривает человеческую личность как существо, пребывающее в теле и немыслимое вне его”. (Папская библейская комиссия, “Что есть человек?” (Пс 8,5): Маршрут библейской антропологии [30 сентября 2019], п 19). См. п. 20-21, 43-44, 48.
[25] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 22, См. Конгрегация Вероучения, Инструкция Dignitas Personae (8 сентября 2008), п. 7: “Христос не презирал человеческую телесность, но, напротив, полностью раскрыл её смысл и ценность”.
[26] Фома Аквинский, Сумма против язычников II, 81.
[27] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 15.
[28] См. Фома Аквинский, Сумма Теологии I, в. 89, разд. 1, отв.: “быть отделенной от тела не свойственно её [души] природе […] таким образом, она соединена с телом затем, чтобы обладать положенными ей по природе действием и бытием”.
[29] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 14. См. Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), п. 18.
[30] Международная Теологическая комиссия, Общение и управление: люди, сотворенные по образу Божию (2004), п. 56. См. Катехизис Католической Церкви, п. 357.
[31] См. Конгрегация Вероучения, Инструкция Dignitas Personae (8 сентября 2008), пп. 5, 8; Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), пп. 15, 24, 53-54.
[32] Катехизис Католической Церкви, п. 356. См. там же, п. 221.
[33] См. Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), пп. 13, 26-27.
[34] Конгрегация Вероучения, Инструкция Donum Veritatis (24 May 1990), 6. См. Иоанн Павел II, Энциклика Veritatis Splendor (6 августа 1993), п. 109. См. Псевдо-Дионисий, De divinis nominibus, VII, 2: “Человеческие души также обладают разумом, и с его помощью они рассуждают об истине вещей. […] Из-за того, что они способны концентрировать множество в одном, они тоже, по-своему и настолько, насколько это возможно, достойны представлений, подобных представлениям ангелов”.
[35] Иоанн Павел II, Энциклика Fides et Ratio (14 сентября 1998), п. 3.
[36] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 15.
[37] Иоанн Павел II, Энциклика Fides et Ratio (14 сентября 1998), п. 42. См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 208: “человеческий разум не ограничивается лишь актуальными вопросами, но может постигать и неизменные истины, действительные как сегодня, так и прежде. Всматриваясь в человеческую природу, разум обнаруживает универсальные ценности, продиктованные самой этой природой”.; там же., п. 184.
[38] См. Б. Паскаль, Мысли, 267 (по. Brunschvicg): “Последним актом разума является признание наличия бесконечности вещей, которая превосходит его”.
[39] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 15: AAS 58 (1966), 1036. См. Конгрегация вероучения, Доктринальная нота о некоторых аспектах евангелизации (3 декабря 2007), п. 4.
[40] Наша семантическая способность позволяет нам понимать сообщения в любой форме коммуникации таким образом, чтобы они учитывали их материальные или эмпирические структуры (такие как компьютерный код) и выходили за их пределы. Здесь разум становится мудростью, которая “позволяет нам смотреть на вещи глазами Бога, видеть связи, ситуации, события и раскрывать их истинный смысл”. (Папа Франциск, Послание на LVIII Международный день Социальных Коммуникаций [24 января 2024]. Наша креативность позволяет нам генерировать новый контент или идеи, в первую очередь предлагая оригинальный взгляд на реальность. Обе эти способности зависят от наличии личной субъектности к их полной реализации.
[41] Второй Ватиканский Вселенский Собор, Декларация Dignitatis Humanae (7 декабря 1965), п. 3.
[42] См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 184: “Милосердная любовь, когда она сопровождается преданностью истине, является чем-то гораздо большим, нежели личное ощущение […]. И в самом деле: тесная связь любви с истиной способствует ее универсальности и не позволяет ей ограничиваться «узкой сферой, лишенной связей» […] у открытость милосердия истине защищает его «от фидеизма, ограничивающего его человеческий и вселенский масштаб». Цитаты внутри текста взяты из энциклики Бенедикта XVI, Caritas in Veritate (29 июня 2009), пп. 2-4.
[43] См. Международная Теологическая комиссия, Общение и управление: люди, сотворенные по образу Божию (2004), п. 7.
[44] Иоанн Павел II, Энциклика Fides et Ratio (14 сентября 1998), п. 13. См. Конгрегация Вероучения, Доктринальная нота о некоторых аспектах евангелизации (3 декабря 2007), п. 4.
[45] Иоанн Павел II, Энциклика Fides et Ratio (14 сентября 1998), п. 13.
[46] Bonaventure, In II Librum Sententiarum, d. I, p. 2, a. 2, q. 1; цит. по: Катехизис Католической Церкви, п. 293. См. там же, п. 294.
[47] См. Катехизис Католической Церкви, пп. 295, 299, 302. Бонавентура сравнивает Вселенную с “книгой отражающей, представляющей и описывающей своего Творца” Триединого Бога, дарующего существованием всем вещам (Breviloquium 2.12.1). См. Alain de Lille, De Incarnatione Christi, PL 210, 579a: “Omnis mundi creatura quasi liber et pictura nobis est et speculum.”
[48] См. Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 67; Иоанн Павел II, Энциклика Laborem Exercens (14 сентября 1981), п. 6; Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), пп. 33-34; Международная Теологическая комиссия, Общение и управление: люди, сотворенные по образу Божию (2004), п. 57: “Люди занимают уникальное место во Вселенной, согласно Божьему замыслу: они наслаждаются привилегией участия в божественным управлением видимым творением. […] Так как роль человека как управителя, является участием в божественном управлении творением, мы можем здесь говорить о некоей форме присмотра”.
[49] См. Иоанн Павел II, Энциклика Veritatis Splendor (6 августа 1993), пп. 38-39.
[50] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), пп. 33-34. Эта идея также отражена в рассказе о сотворении мира, где Бог приводит творения к Адаму, “чтобы видеть, как он назовет их, и чтобы, как наречет человек всякую душу живую, так и было имя ей” (Быт. 2:19), что свидетельствует об активном участии человеческого разума в управлении Божьим творением. См. Иоанн Златоуст, беседы на Книгу Бытия, XIV, 17-21.
[51] См. Катехизис Католической Церкви, п. 301.
[52] См. Катехизис Католической Церкви, п. 302.
[53] Bonaventure, Breviloquium 2.12.1. См. там же, 2.11.2.
[54] См. Папа Франциск, Апостольское обращение Evangelii Gaudium (24 ноября 2013), п. 236; Id., Послание участникам Встречи университетских капелланов и пастырских работников, организованной Дикастерией культуры и образования (24 ноября 2023): L’Osservatore Romano, 24 ноября 2023, 7.
[55] См. Ньюмен Дж. Г. Идея университета, Discourse 5.1, Basil Montagu Pickering, London 18733, 99-100; Папа Франциск, Обращение к ректорам, профессорам, студентам и сотрудникам Римских Папских университетов и учреждений (25 февраля 2023): AAS 115 (2023), 316.
[56] Папа Франциск, Послание членам Национальной конфедерации ремесленников и малых и средних предприятий (CNA) (15 ноября 2024): L’Osservatore Romano, 15 ноября 2024, 8.
[57] См. Папа Франциск, Постсинодальное апостольское обращение Querida Amazonia (2 февраля 2020), п. 41: AAS 112 (2020), 246; Id., Энциклика Laudato Si’ (24 мая 2015), п. 146.
[58] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 47, См. Id., Энциклика Dilexit Nos (24 октября 2024), пп. 17-24; Id., Энциклика Fratelli Tutti (3 октября 2020), п. 47-50.
[59] Франциск, Энциклика Dilexit Nos (24 октября 2024), п. 20.
[60] P. Claudel, Conversation sur Jean Racine, Gallimard, Paris 1956, 32: “L’intelligence n’est rien sans la délectation.” См. Франциск, Энциклика Dilexit Nos (24 октября 2024), п. 13: L’Osservatore Romano, 24 октября 2024, 5: “Разум и воля ставятся на службу высшему благу благодаря восприятию истин и наслаждению ими.”
[61] Данте, Рай, Песнь XXX: “Умопостúжный свет, где всё — любовь / Любовь к добру, дарящая отраду / Отраду слаще всех, пьянящих кровь”.
[62] См. Второй Ватиканский Вселенский Собор, Декларация Dignitatis Humanae (7 декабря 1965), п. 3: “высшая норма человеческой жизни есть сам Божественный закон, вечный, объективный и универсальный, посредством которого Бог, исполняя Свой замысел премудрости и любви, распоряжается, руководит и управляет всем миром и путями человеческого общества. Бог приобщает человека этому Своему закону, чтобы человек по благому распоряжению Божественного провидения мог всё более и более познавать неизменную истину”. Также См. Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 16: AAS 58 (1966), 1037.
[63] См. Первый Ватиканский Вселенский Собор, Догматическая конституция Dei Filius (24 апреля 1870), п. 4.
[64] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 110.
[65] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 110. См. он же, Энциклика Fratelli Tutti (3 октября 2020), п. 204.
[66] См. Иоанн Павел II, Энциклика Centesimus Annus (1 мая 1991), п. 11: “Бог запечатлел в человеке свой собственный образ и подобие (Быт 1:26), наделив его несравненным достоинством […]. По сути, помимо прав, которые человек приобретает своим собственным трудом, существуют права, которые не соответствуют никакой выполняемой им работе, но которые вытекают из его неотъемлемого достоинства как личности”. См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 3-4.
[67] См. Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), п. 8. См. там же, п. 9; Конгрегация Вероучения, Инструкция Dignitas Personae (8 сентября 2008), п. 22.
[68] Папа Франциск, Послание участникам Пленарной Ассамблеи Папской Академии жизни (28 февраля 2020): AAS 112 (2024), 310.
[69] Папа Франциск, Послание на LVIII Всемирный день социальных коммуникаций (24 января 2024): L’Osservatore Romano, 24 января 2024, 8.
[70] В этом смысле “искусственный интеллект” понимается как технический термин, обозначающий данную технологию, напоминая, что это выражение также используется для обозначения области изучения, а не только её применения.
[71] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), пп. 34-35; Иоанн Павел II, Энциклика Centesimus Annus (1 мая 1991), п. 51.
[72] Например, взгляните на поощрение научных исследований у Альберта Великого (De Mineralibus, II, 2, 1) или уважение к механическим искусствам у Гуго Сен-Викторского (Didascalicon, I, 9). Эти авторы, наряду с длинным списком других католиков, занимающихся научными исследованиями и освоением технологий, иллюстрируют, что “вера и наука могут быть объединены в любви, при условии, что наука будет поставлена на службу мужчинам и женщинам нашего времени и не будет использоваться во вред или даже уничтожать их”. (Папа Франциск, Обращение к участникам Конференции Ватиканской обсерватории памяти Жоржа Леметра [20 июня 2024]: L’Osservatore Romano, 20 июня 2024, 8). См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 36; Иоанн Павел II, Энциклика Fides et Ratio (14 сентября 1998), пп. 2, 106.
[73] Катехизис Католической Церкви, п. 378.
[74] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 34.
[75] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 35.
[76] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 102.
[77] См. Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 105; Он же, Энциклика Fratelli Tutti (3 октября 2020), п. 27; Бенедикт XVI, Энциклика Caritas in Veritate (29 иня 2009), п. 23.
[78] См. Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), пп. 38-39, 47; Конгрегация Вероучения, Инструкция Dignitas Personae (8 сентября 2008).
[79] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 35. См. Катехизис Католической Церкви, п 2293.
[80] См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2-4.
[81] См. Катехизис Католической Церкви, п. 1749: “Свобода делает человека субъектом морали. Действуя свободно, человек является — если можно так выразиться — отцом своих поступков”.
[82] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 16. См. Катехизис Католической Церкви, п. 1776.
[83] Катехизис Католической Церкви, п. 1777.
[84] См. Катехизис Католической Церкви, пп. 1779-1781; Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 463, где Святейший Отец поощряет усилия “гарантировать, что технологии остаются ориентированными на человека, этически обоснованными и направленными на благо”.
[85] См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 166; Он же, Послание участникам Пленарной Ассамблеи Папской Академии наук (23 сентября 2024): L’Osservatore Romano, 23 сентября 2024, 10. О роли человеческого фактора в выборе более широкой цели (Ziel), которая затем определяет конкретную цель (Zweck), ради которой создается каждое технологическое приложение, см. F. Dessauer, Streit um die Technik, Herder-Bücherei, Freiburg i. Br. 1959, 70-71.
[86] См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 4: “Технология рождается с определённой целью и, по своему влиянию на человеческое общество, всегда представляет собой форму порядка в социальных отношениях и распределения власти, позволяя таким образом определённым людям выполнять определенные действия, в то же время препятствуя другим выполнять другие действия. В более или менее явном виде это определяющее властное измерение технологии всегда включает в себя мировоззрение тех, кто её изобрел и развил”.
[87] Папа Франциск, Послание участникам Пленарной Ассамблеи Папской Академии Жизни (28 февраля 2020): AAS 112 (2020), 309.
[88] См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 3-4.
[89] Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 464. См. Энциклика Fratelli Tutti, пп. 212-213: AAS 112 (2020), 1044-1045.
[90] См. Иоанн Павел II, Энциклика Laborem Exercens (14 сентября 1981), п. 5; Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 3-4.
[91] См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2: “Столкнувшись с чудесами машин, которые, похоже, умеют делать независимый выбор, мы должны четко понимать, что принятие решений […] всегда должно оставаться за человеком. Мы обрекли бы человечество на будущее без надежды, если бы лишили людей способности принимать решения о себе и своей жизни, обрекая их зависеть от выбора машин”.
[92] Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2.
[93] Термин “предвзятость” в этом документе относится к алгоритмической предвзятости (систематическим и последовательным ошибкам в компьютерных системах, которые могут непреднамеренно нанести непропорциональный ущерб определенным группам) или к предвзятости обучения (которая приведет к обучению на основе необъективного набора данных), а не к “вектору смещения” в нейронных сетях (который является параметром настройки выходных данных “нейронов” для более точной адаптации к данным).
[94] См. Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 464, где Святейший Отец подтвердил рост согласия в вопросе “необходимости соблюдения в процессах разработки таких ценностей, как открытость, прозрачность, безопасность, равноправие, конфиденциальность и надежность”, а также приветствовал “усилия международных организаций по регулированию этих технологий таким образом, чтобы они способствовали подлинному прогрессу, то есть способствовали лучшему миру и всестороннему повышению качества жизни».
[95] Папа Франциск, Приветствия делегации «Общества Макса Планка» (23 февраля 2023): L’Osservatore Romano, 23 февраля 2023, 8.
[96] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 26: AAS 58 (1966), 1046-1047.
[97] Папа Франциск, Послание участникам семинара “Общее благо в цифровую эпоху” (27 сентября 2019): AAS 111 (2019), 1571.
[98] См. Папа Франциск, Послание на LVIII Всемирный день социальных коммуникаций (24 января 2024): L’Osservatore Romano, 24 января 2024, 8. Дальнейшее обсуждение этических вопросов, поднятых ИИ, с католической точки зрения, см. статью Исследовательской группы по искусственному интеллекту Центра цифровой культуры Министерства культуры и образования «Знакомство с искусственным интеллектом: этические и антропологические исследования». (Богословские исследования искусственного интеллекта 1), М.Ж. Годе, Н. Херцфельд, П. Шерц, Ж.Дж. Уэльс, Журнал морального богословия, Пиквик, Юджин 2024, 147-253.
[99] О важности диалога в плюралистическом обществе, ориентированном на “прочную социальную этику”, см. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), пп. 211-214.
[100] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 2: L’Osservatore Romano, 14 декабря 2023, 2.
[101] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 6: L’Osservatore Romano, 14 декабря 2023, 3. См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 26.
[102] См. Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 112: AAS 107 (2015), 892-893.
[103] Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 464.
[104] См. Папский совет по социальным коммуникациям, Этика в Интернете (22 февраля 2002), п. 10.
[105] Папа Франциск, Апостольское обращение Christus Vivit (25 марта 2019), п. 89; Цитаты из Итогового документа XV Генеральной Ассамблеи Синода епископов (27 октября 2018), п. 24: AAS 110 (2018), 1593. См. Бенедикт XVI, Обращение к участникам Международного конгресса по естественному моральному праву (12 февраля 2017): AAS 99 (2007), 245.
[106] См. Папа Франциск, энциклика Laudato Si’ (24 мая 2015), пп. 105-114; он же, Апостольское послание Laudate Deum (4 октября 2023), пп. 20-33.
[107] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 105; он же, Апостольское послание Laudate Deum (4 октября 2023), пп. 20-21.
[108] См. Папа Франциск, Послание участникам Пленарной Ассамблеи Папской Академии жизни (28 февраля 2020): AAS 112 (2020), 308-309.
[109] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 2: L’Osservatore Romano, 14 декабря 2023, 2.
[110] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 112.
[111] См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), пп. 101, 103, 111, 115, 167.
[112] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 26: AAS 58 (1966), 1046-1047; См. Лев XIII, Энциклика Rerum Novarum (15 May 1891), п. 35: Acta Leonis XIII, 11 (1892), 123.
[113] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 12: AAS 58 (1966), 1034.
[114] См. Папский совет справедливости и мира, Компендиум социального учения Католической Церкви (2004), п. 149.
[115] Второй Ватиканский Вселенский Собор, Декларация Dignitatis Humanae (7 декабря 1965), п. 3. См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 50.
[116] Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 50.
[117] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 47. См. Он же, Апостольское обращение Christus Vivit (25 марта 2019), пп. 88-89: AAS 111 (2019), 413-414.
[118] См. Папа Франциск, Апостольское обращение Evangelii Gaudium (24 ноября 2013), п. 88.
[119] Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 47.
[120] См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2.
[121] См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 50.
[122] См. E. Stein, Zum Problem der Einfühlung, Buchdruckerei des Waisenhauses, Halle 1917
[123] См. Папа Франциск, Апостольское обращение Evangelii Gaudium (24 ноября 2013), п. 88: “Многие пытаются бежать от других в уютную обособленность или в узкий круг самых близких и отказываются от реализма социального измерения Евангелия. Как некоторые хотели бы видеть чисто духовного Христа без плоти и креста, так другие предпочитают, чтобы межличностные отношения осуществлялись только посредством сложных аппаратов, мониторов и систем, которые можно включать и выключать по первому желанию. Между тем Евангелие неустанно призывает нас идти на риск встречи лицом к лицу с другими, с их физическим присутствием, которое бросает вызов нам, с их болью и мольбами, с их радостью, которая заразит и нас при постоянном тесном контакте. Подлинная вера в Сына Божия, ставшего плотью, неотделима от самоотдачи, от причастности к общине, от служения, от примирения с плотью других”. Также см. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 24.
[124] См. Дикастерия Доктрины Веры, Декларация Dignitas Infinita (8 апреля 2024), п. 1.
[125] См. Папа Франциск, Послание участникам семинара “Общее благо в цифровую эпоху” (27 сентября 2019): AAS 111 (2019), 1570; Он же, Энциклика Laudato Si’ (24 мая 2015), пп. 18, 124-129.
[126] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п 5: L’Osservatore Romano, 14 декабря 2023, 3.
[127] Папа Франциск, Апостольское обращение Evangelii Gaudium (24 ноября 2013), п. 209.
[128] Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 4. Об учительстве Папы Франциска о ИИ в отношении “технократической парадигмы” см. Папа Франциск, Энциклика Laudato Si’ (24 May 2015), пп. 106-114.
[129] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 26; цит. по: Катехизис Католической Церкви, п. 1912. См. Иоанн XXIII, Энциклика Mater et Magistra (15 мая 1961), п. 219.
[130] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 64.
[131] Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 162. См. Иоанн Павел II, Энциклика Laborem Exercens (14 сентября 1981), п. 6: “работа ‘для человека’ а не человек ‘для работы’. Через это заключение можно верно прийти к признанию превосходства субъективного смысла работы над обхективным”.
[132] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 128. См. Он же, Апостольское обращение Amoris Laetitia (19 марта 2016), п. 24.
[133] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 5: L’Osservatore Romano, 14 декабря 2023, 3.
[134] Иоанн Павел II, Энциклика Evangelium Vitae (25 March 1995), п. 89.
[135] Там же.
[136] Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 67.
[137] Папа Франциск, Послание на XXXII Всемирный день больных (11 февраля 2024): L’Osservatore Romano, 13 января 2024, 12.
[138] Папа Франциск, Обращение к членам дипломатического корпуса, аккредитованным при Святом Престоле (11 января 2016): AAS 108 (2016), 120. См. Он же, Энциклика Fratelli Tutti (3 октября 2020), п. 18; Он же, Послание на XXXII Всемирный день больных (11 февраля 2024): L’Osservatore Romano, 13 января 2024, 12.
[139] См. Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 465; Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2.
[140] См. Папа Франциск, энциклика Laudato Si’ (24 мая 2015), пп. 105, 107; Id., Энциклика Fratelli Tutti (3 октября 2020), пп. 18-21; Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 465.
[141] Папа Франциск, Обращение к участникам Встречи при поддержке Комиссии по благотворительности и здравоохранению Итальянской конференции епископов (10 февраля 2017): AAS 109 (2017), 243. См. ibid., 242-243: “Если и есть сфера, в которой проявляется культура безответственности с её болезненными последствиями, то это сфера здравоохранения. Когда больному человеку не уделяется особого внимания или его достоинство не учитывается, это порождает отношение, которое может привести даже к спекуляциям на несчастье других. И это очень серьезно! […] Применение делового подхода к сектору здравоохранения, если это носит неизбирательный характер […], может привести к потере человеческих жизней”.
[142] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 5: L’Osservatore Romano, 14 декабря 2023, 3.
[143] Второй Ватиканский Вселенский Собор, Декларация Gravissimum Educationis (28 октября 1965), п. 1.
[144] Конгрегация католического образования, Инструкция по использованию дистанционного обучения в церковных университетах и факультетах, I. См. Второй Ватиканский Вселенский Собор, Декларация Gravissimum Educationis (28 октября 1965), п. 1; Папа Франциск, Послание на LXIX Всемирный день мира (1 января 2016), 6: AAS 108 (2016), 57-58.
[145] Папа Франциск, Обращение к членам Глобального проекта «Исследователи, продвигающие католическое образование» (20 апреля 2022): AAS 114 (2022), 580.
[146] См. Павел VI, Апостольское обращение Evangelii Nuntiandi (8 декабря 1975), п. 41, с цит. Павел VI, Обращение к членам Папского совета по делам мирян (2 октября 1974): AAS 66 (1974), 568: “если [современный человек] и слушает учителей, то только потому, что они являются свидетелями”.
[147] Ньюмен Дж. Г. Идея университета, Discourse 6.1, London 18733, 125-126.
[148] Francis, Meeting with the Students of the Barbarigo College of Padua in the 100th Year of its Foundation (23 March 2019): L’Osservatore Romano, 24 March 2019, 8. См. Id., Address to Rectors, Professors, Students and Staff of the Roman Pontifical Universities and Institutions (25 February 2023): AAS 115 (2023), 316.
[149] Папа Франциск, Апостольское обращение Christus Vivit (25 марта 2019), п. 86, с цит. Итоговый документ XV Генеральной Ассамблеи Синода епископов (27 октября 2018), par. 21: AAS 110 (2018), 1592.
[150] Ньюмен Дж. Г. Идея университета, Discourse 7.6, Basil Montagu Pickering, London 18733, 167.
[151] См. Папа Франциск, Апостольское обращение Christus Vivit (25 марта 2019), п. 88.
[152] В документе ЮНЕСКО 2023 года, посвящённом использованию генеративного ИИ в образовании и научных исследованиях, отмечается: «Один из ключевых вопросов [использования генеративного ИИ (GenAI) в образовании и исследованиях] заключается в том, могут ли люди передать базовые уровни мышления и процессы освоения навыков ИИ, сосредоточившись вместо этого на навыках мышления более высокого порядка, опираясь на результаты, предоставляемые ИИ. Письмо, например, часто связано со структурированием мышления. С GenAI […] человек теперь может начать с хорошо структурированного плана, предложенного GenAI. Некоторые эксперты охарактеризовали использование GenAI для генерации текста таким образом как ‘письмо без мышления’» (ЮНЕСКО, Руководство по генеративному ИИ в образовании и исследованиях [2023], 37-38). Немецко-американский философ Ханна Арендт предвидела такую возможность в своей книге «Состояние человека» (1959) и предостерегала: «Если окажется, что знание (в смысле умения) и мышление окончательно разошлись, тогда мы действительно станем беспомощными рабами, не столько наших машин, сколько нашего умения». (Id., Состояние человека, University of Chicago Press, Chicago 20182, 3).
[153] Папа Фоанциск, Апостольское обращение Amoris Laetitia (19 марта 2016)), п. 262.
[154] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 7: L’Osservatore Romano, 14 декабря 2023, 3; См. Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 167: AAS 107 (2015), 914.
[155] Иоанн Павел II, Апостольская Конституция Ex Corde Ecclesiae (15 августа 1990), 7.
[156] Папа Франциск, Апостольская Конституция Veritatis Gaudium (29 января 2018), 4c.
[157] Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 3.
[158] Например, он мог бы помочь людям получить доступ к “множеству ресурсов для получения более глубокого знания истины”, содержащейся в философских трудах (Иоанн Павел II, Энциклика Fides et Ratio [14 сентября 1998], п. 3. См. там же, п. 4.
[159] Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), п. 43. См. там же, пп. 61-62.
[160] Папа Франциск, Послание на LVIII Всемирный день социальных коммуникаций (24 января 2024): L’Osservatore Romano, 24 января 2024, 8.
[161] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п 25; См. Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020).
[162] Папа Франциск, Апостольское обращение Christus Vivit (25 марта 2019), п. 89; Иоанн Павел II, Энциклика Fides et Ratio (14 сентября 1998), п. 25: “Никто не может равнодушно относиться к тому, истинны его знания или нет. Если человек выясняет, что они ложны, он отвергает их; если убеждается в их правдивости, испытывает удовлетворение. Именно об этом говорит св. Августин: «Многих знаю я, кто охотно обманывает, и никого, кто хотел бы обмануться»”; цит. из: Августин, Исповедь, X, 23, 33.
[163] Дикастерия Вероучения, Декларация Dignitas Infinita (4 апреля 2024), п. 62.
[164] Бенедикт XVI, Послание на XLIII Всемирный день социальных коммуникаций (24 мая 2009): L’Osservatore Romano, 24 января 2009, 8.
[165] См. Дикастерия по делам коммуникаций, «На пути к полноте присутствия». Пастырское размышление об участии в социальных медиа (28 мая 2023), п. 41; Второй Ватиканский Вселенский Собор, Декрет Inter Mirifica (4 декабря 1963), пп. 4, 8-12.
[166] Дикастерия Вероучения, Декларация Dignitas Infinita (4 апреля 2024), пп. 1, 6, 16, 24.
[167] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes, (7 декабря 1965), п. 26. См. Лев XIII, Энциклика Rerum Novarum (15 мая 1891), п. 40, 127: “ни один человек не может безнаказанно посягать на то человеческое достоинство, к которому сам Бог относится с великим почтением”; цит. по: Иоанн Павел II, Энциклика Centesimus Annus (1 мая 1991), п. 9.
[168] См. Катехизис Католической Церкви, пп. 2477, 2489; Иоанн Павел II, Обращение к участникам Третьей Генеральной конференции епископов Латинской Америки (28 января 1979), III.1-2: Insegnamenti II/1 (1979), 202-203.
[169] См. Постоянная миссия наблюдателя Святого Престола при Организации Объединенных Наций, Заявление Святого Престола на тематической дискуссии по другим мерам разоружения и международной безопасности (24 октября 2022): “Защита человеческого достоинства в киберпространстве обязывает государства также уважать право на неприкосновенность частной жизни, защищая граждан от навязчивой слежки и позволяя им защищать свою личную информацию от несанкционированного доступа”.
[170] Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 42.
[171] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 5: L’Osservatore Romano, 14 декабря 2023, 3.
[172] Папа Франциск, Обращение к участникам встречи “Диалоги Минервы” (27 марта 2023): AAS 115 (2023), 465.
[173] Промежуточный отчёт ООН по вопросам ИИ от 2023 года составил список “ранних оснований для помощи от ИИ в вопросе климатических изменений” (Консультативный орган ООН по искусственному интеллекту, промежуточный отчет: управление искусственным интеллектом в интересах человечества [декабрь 2023], 3). В документе приводится наблюдение, что “в сочетании с системами прогнозирования, которые могут преобразовывать данные в аналитические данные, а идеи — в практические действия, инструменты с поддержкой искусственного интеллекта могут помочь в разработке новых стратегий и инвестиций для сокращения выбросов, повлиять на новые инвестиции частного сектора с нулевым уровнем выбросов, защитить биоразнообразие и повысить социальную устойчивость на широкой основе” (Там же.).
[174] “Облако” означает сеть физических серверов по всему миру, которая позволяет пользователям хранить, обрабатывать и управлять своими данными удаленно.
[175] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 9.
[176] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 106.
[177] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 60.
[178] Папа Франциск, энциклика Laudato Si’ (24 мая 2015), пп. 3, 13.
[179] Августин, О граде Божьем, XIX, 13, 1: PL 41, 640.
[180] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), пп. 77-82; Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), пп. 256-262; Дикастерия Вероучения, Декларация Dignitas Infinita (4 апреля 2024), пп. 38-39; Катехизис Католической Церкви, пп. 2302-2317.
[181] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 78.
[182] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 6: L’Osservatore Romano, 14 декабря 2023, 3.
[183] См. Катехизис Католической Церкви, пп. 2308-2310.
[184] См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), пп. 80-81.
[185] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 6: L’Osservatore Romano, 14 декабря 2023, 3. См. Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2: “Нам необходимо обеспечить и охранять пространство для надлежащего контроля человека над выбором, который делают программы искусственного интеллекта: от этого зависит само человеческое достоинство.”
[186] Папа Франциск, Послание участникам сессии G7, посвященной Искусственному Интеллекту, в Борго Эньяция (Апулия) (14 июня 2024): L’Osservatore Romano, 14 июня 2024, 2. См. Постоянная миссия наблюдателя Святого Престола при Организации Объединенных Наций, Заявление Святейшего Престола Рабочей группе II по новым технологиям Комиссии ООН по разоружению (3 апреля 2024): “Разработка и использование смертоносных автономных систем вооружения (LAWS), которые не поддаются надлежащему контролю со стороны человека, вызвали бы фундаментальные этические проблемы, учитывая, что LAWS никогда не могут быть морально ответственными субъектами, способными соблюдать нормы международного гуманитарного права.”
[187] Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 258. См. Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 80.
[188] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 80.
[189] См. Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 6: L’Osservatore Romano, 14 декабря 2023, 3: “Мы также не можем игнорировать возможность того, что современное оружие может попасть не в те руки, что может способствовать, например, террористическим нападениям или вмешательствам, направленным на дестабилизацию институтов законной системы правления. Одним словом, миру не нужны новые технологии, которые способствуют несправедливому развитию коммерции и торговли оружием и, следовательно, в конечном итоге способствуют бессмысленности войны”.
[190] Иоанн Павел II, Акт посвящения Марии на Юбилей епископов (8 октября 2000), п. 3: Insegnamenti XXIII/2 (200), 565.
[191] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 79.
[192] См. Бенедикт XVI, Энциклика Caritas in Veritate (29 June 2009), п. 51.
[193] См. Дикастерия Вероучения, Декларация Dignitas Infinita (8 апреля 2024), пп. 38-39.
[194] См. Августин, Исповедь, I, 1, 1.
[195] См. Иоанн Павел II, Энциклика Sollicitudo Rei Socialis (30 декабря 1987), п. 28: “Сегодня мы лучше понимаем, что простого накопления товаров и услуг […] недостаточно для достижения человеческого счастья. И, как следствие, доступность многих реальных преимуществ, которые в последнее время предоставляют наука и техника, включая компьютерные науки, не приносит свободы от всех форм рабства. Напротив, […] если все значительные ресурсы и потенциал, имеющиеся в распоряжении человека, не будут руководствоваться моральным пониманием и ориентацией на истинное благо рода человеческого, они легко обратятся против человека, чтобы угнетать его.” См. Там же, пп. 29, 37.
[196] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 14.
[197] Франциск, Энциклика Dilexit Nos (24 октября 2024), п. 18.
[198] Франциск, Энциклика Dilexit Nos (24 октября 2024), п. 27.
[199] Франциск, Энциклика Dilexit Nos (24 октября 2024), п. 25.
[200] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 105. См. R. Guardini, Das Ende der Neuzeit, Würzburg 19659, 87 ff.
[201] Второй Ватиканский Вселенский Собор, Пастырская Конституция Gaudium et Spes (7 декабря 1965), п. 34.
[202] Иоанн Павел II, Энциклика Redemptor Hominis (4 марта 1979), п. 15.
[203] Н. Бердяев, “Человек и машина”.
[204] Там же.
[205] G. Bernanos, “La révolution de la liberté” (1944), in Id., Le Chemin de la Croix-des-Âmes, Rocher 1987, 829.
[206] См. Папа Франциск, Встреча со студентами колледжа Барбариго в Падуе в 100-летие его основания (23 марта 2019): L’Osservatore Romano, 24 марта 2019, 8. См. Он же, Обращение к ректорам, профессорам, студентам и сотрудникам Римских Папских университетов и учреждений (25 февраля 2023).
[207] Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 112.
[208] См. Bonaventure, Hex. XIX, 3; Папа Франциск, Энциклика Fratelli Tutti (3 октября 2020), п. 50: “Тот поток информации, к которому мы всегда имеем доступ, не создает более глубокой мудрости. Мудрость не рождается в результате быстрого поиска в Интернете и не представляет собой массив непроверенных данных. Такими путями никогда не созреешь к встрече с истиной”.
[209] Папа Франциск, Послание на LVIII Всемирный день социальных коммуникаций (24 января 2024): L’Osservatore Romano, 24 января 2024, 8.
[210] Там же.
[211] Там же.
[212] Франциск, Апостольское обращение Gaudete et Exsultate (19 марта 2018), п. 37.
[213] Папа Франциск, Послание на LVII Всемирный день мира (1 января 2024), п. 6: L’Osservatore Romano, 14 декабря 2023, 3. См. Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 112: AAS 107 (2015), 892-893; Он же, Апостольское обращение Gaudete et Exsultate (19 марта 2018), п. 46.
[214] См. Папа Франциск, Энциклика Laudato Si’ (24 мая 2015), п. 112.
[215] См. Папа Франциск, Послание участникам семинара “Общее благо в цифровую эпоху” (27 сентября 2019): AAS 111 (2019), 1570-1571.
Источник: Информационная служба Архиепархии Божией Матери в Москве