Искусственный интеллект: ресурс мира или экзистенциальная угроза?

26 февраля на очередном форуме ОБСЕ постоянный наблюдатель Ватикана при ООН монсеньор Ричард Гира предупредил о рисках, связанных с применением новых технологий – особенно искусственного интеллекта – в военной сфере. Управление разработками не может сводиться лишь к алгоритмам, поскольку они не способны учитывать фундаментальные этические принципы. Сообщает русская служба Vatican News.

Центральным вопросом обсуждения стала роль ИИ, который, по словам представителя Ватикана, может быть как инструментом мира и безопасности, так и потенциальной угрозой для человечества. Применение автономных систем управления боевыми операциями снижает осознание разрушительных последствий войны. Эти опасения ранее уже звучали в ватиканском документе Antiqua et Nova, посвящённом соотношению между искусственным и человеческим разумом. Монсеньор Гира подчеркнул необходимость защиты этических принципов, которые «поддерживают внутреннюю ценность каждого человека» и его способность к распознаванию и принятию ответственности.

Дипломат привёл слова Папы Франциска: «Нельзя игнорировать серьёзные этические вопросы, связанные с сектором вооружений». Святейший Престол настаивает на том, что развитие технологий должно служить общему благу и защите человеческого достоинства. Вызывает опасения перспектива, в которой решения о войне и мире будут принимать машины, а не люди.

Ещё одна опасность заключается в растущем использовании автономных технологий, которые рискуют делегировать военные решения машинам, выводя их из-под контроля человека. Это порождает «правовую непрозрачность» и серьёзные этические вопросы. В этом контексте монсеньор Гира упомянул смертоносные автономные системы вооружений (LAWS), способные идентифицировать и поражать цели без непосредственного вмешательства человека. «Ни одна машина никогда не должна принимать решение о лишении человека жизни», – подчеркнул прелат, цитируя Папу Франциска.

Святейший Престол не намерен сдерживать научный прогресс, но призывает к осознанному и этически обоснованному подходу к разработке и использованию новых технологий. Необходимо интегрировать их в «более широкие рамки», которые не ограничиваются полезностью и эффективностью, но ставят во главу угла содействие целостному человеческому развитию, подчеркнул постоянный наблюдатель от Ватикана.