교황 레오, AI 경쟁을 주도하는 ‘권력의 문화’ 비난하고 규제 촉구

교황 레오 14세는 월요일 인공지능에 대한 강력한 규제와 인공지능 개발자들이 이익이 아닌 공동선을 위해 일할 것을 촉구하면서 기술이 업무에서 전쟁에 이르기까지 모든 것에 영향을 미치기 때문에 인류를 보호하기 위한 포괄적인 선언문을 발표했습니다.

레오 1세의 첫 번째 회칙인 “Magnifica Humanitas”(위대한 인류)는 역사상 최초의 미국 태생 교황이 당선된 지 며칠 후 AI를 오늘날 인류가 직면한 가장 큰 도전으로 간주한다고 발표한 이후 줄곧 간절히 기다려져 왔습니다.

본문에서 레오는 AI 경쟁을 주도하는 ‘권력의 문화’, 특히 더욱 정교한 원격전 방법 개발에 대해 비난했습니다. 그는 되돌릴 수 없고 치명적인 결정을 AI 시스템에 맡기는 것은 “용납될 수 없다”고 선언해 AI 개발 규제 완화에 공격적으로 나선 미국 교황과 트럼프 행정부 사이에 또 ​​다른 인화점을 마련했다.

교황은 교황이 발행할 수 있는 가장 권위 있는 교육 문서 중 하나인 회칙에 대한 특별 바티칸 발표에서 “인공지능은 이제 그것을 지배, 배제, 죽음의 도구로 바꾸는 논리에서 해방되어 무장해제될 것을 요구하고 있다”고 말했다.

기술 산업, 학계, 가톨릭 도덕 전문가들은 이 문서가 AI 논쟁의 벤치마크가 될 것이며 정책 입안자, 연구자, 일반 대중 모두에게 참고 자료가 될 것이라고 말했습니다. 이는 거의 매일 기술이 발전하면서 AI가 인간의 일자리와 인간 지능을 대체하는 것에 대한 우려가 커지면서 발생합니다.

Microsoft AI 임원이자 미국 카톨릭 대학교 AI 연구소 소장인 Taylor Black은 “이러한 도구의 최전선에 있고 자신이 할 수 있는 놀라운 일을 볼 수 있는 사람들에게 ‘인간이 된다는 것은 무엇을 의미하는가?’에 대해 질문을 하는 데 도움이 됩니다.”라고 말했습니다.

교황은 Anthropic을 주최하면서도 AI 기업을 언급합니다.

바티칸 출범에는 현재 AI 기술 접근을 놓고 트럼프 행정부와 법적 싸움을 벌이고 있는 앤트로픽(Anthropic) 공동 창업자의 발언도 포함됐다. 바티칸은 AI의 인적 비용에 대한 대화에 실리콘 밸리를 참여시키려는 10년 간의 노력의 일환으로 Anthropic을 참여시키기로 결정했습니다.

그럼에도 불구하고 레오는 자신의 글에서 민간 부문의 극히 소수의 사람들, 특히 어린이와 가장 취약한 사람들의 손에 권력과 데이터가 집중되는 것을 반복적으로 비난하고 이들의 업무에 대한 외부 규제를 촉구했습니다.

그는 “추상적으로 윤리를 언급하는 것만으로는 충분하지 않습니다. 강력한 법적 틀, 독립적인 감독, 정보를 갖춘 사용자, 책임을 포기하지 않는 정치 시스템이 필요합니다”라고 썼습니다. “도덕성이 소수에 의해 결정된다면 더 도덕적인 AI만으로는 충분하지 않습니다.”

의견: 교황의 AI 경고, 그리고 이 새로운 세상에서 인류가 어떻게 번성할 수 있는지

레오는 AI 개발자와 규제를 담당하는 정치 지도자들에게 속도를 늦추고 그들이 하고 있는 일을 반성하라고 여러 번 호소했습니다. 그는 그들 자신의 이익이나 권력이 아니라 인류의 발전을 위해 일하는 선택을 하기 위해 윤리적, 영적 지침을 사용할 것을 촉구했습니다.

AI 경쟁사인 OpenAI와 Anthropic은 미국에서 두 번째와 세 번째로 가치가 높은 민간 기업으로, 각각의 가치는 여러 국가의 GDP보다 많은 수천억 달러에 달합니다.

Anthropic 공동 창립자 Christopher Olah는 Leo의 비판과 우려를 환영했습니다. 그는 AI와 그 뒤에 있는 연구자에 대한 외부 점검이 인류를 위해 “잘 진행되는” 기술의 기본이라고 말했습니다. “AI가 매우 큰 규모로 인간 노동을 대체할 실제 가능성”이 달려 있기 때문입니다.

올라는 “성하께서 여기서 하신 일을 진지하게 받아들이고 면밀히 살펴보고 사건을 더 나은 방향으로 추진하려면 종교 공동체, 시민 사회, 학자, 정부 등 전 세계의 더 많은 사람들이 필요합니다”라고 말했습니다. “우리는 실패할 때 실험실에 알려줄 정보를 갖춘 비평가가 필요합니다. 인센티브가 구부러지지 않는 도덕적 목소리가 필요합니다.”

전문가들은 이 텍스트가 벤치마크가 될 것이라고 말합니다.

체계적인 저서에서 수학을 전공한 교황은 가톨릭 교회의 사회 가르침의 역사를 추적하고 그 핵심 개념인 정의, 연대, 노동의 존엄성, 자원의 보편적 목적을 디지털 혁명에 적용했습니다.

노트르담 로스쿨의 ​​법학 교수이자 메타 감독 위원회 의장인 파올로 카로자(Paolo Carozza)는 “나는 이것이 우리 시대를 정의하는 문서, 심오하고 예언적인 문서가 될 것이라고 확신합니다.”라고 말했습니다.

“레오 교황님은 기술이 인간을 타락시키는 것이 아니라 인간에게 봉사하는 세상을 건설하는 데 책임을 지라고 우리에게 촉구하는 명확하고 포괄적이며 일관된 목소리를 주셨습니다.”라고 그는 말했습니다.

가장 강력한 장에서 Leo는 AI가 사람들을 비용에 둔감하게 만들어 “전쟁의 정상화”를 가속화하는 데 어떻게 도움이 되었는지 비난했습니다. 그는 구체적인 갈등을 언급하지 않았지만 “자신의 패권을 유지하려는 세력과 그 패권을 장악하려는 세력 사이의 반대되는 제국주의”를 언급했습니다.

그는 AI 무기로 공격을 명령하는 의사결정 명령 체계가 항상 알려지도록 AI 개발자의 투명성과 책임성을 요구했습니다. 그는 무력이 언제 정당화될 수 있는지에 대한 구체적인 기준을 제시하는 가톨릭교회의 ‘정의로운 전쟁’ 이론은 이제 전쟁의 기술적 진보로 인해 ‘구식’이 되었다고 선언했습니다.

교회의 사회 정의 전통에 관한 본문

레오는 5월 15일, 레오의 영웅이자 이름을 딴 교황 레오 13세의 가장 중요한 교육 문서인 “새로운 것들에 관하여”(Rerum Novarum) 출판 135주년을 기념하여 문서에 서명했습니다. 그 문서는 노동자의 권리, 자본주의의 한계, 산업 혁명이 진행되는 동안 국가와 고용주가 노동자에게 져야 할 의무를 다루었습니다.

이는 현대 가톨릭 사회 사상의 기초가 되었으며, 현재 교황은 AI 혁명과 관련하여 교황 임기 시작 시 이를 인용했습니다. 그는 AI 혁명이 100여 년 전 산업 혁명이 제기했던 것과 동일한 실존적 질문을 제기한다고 믿습니다. 따라서 “마니피카 후마니타스”는 교황이 시대의 사회적 문제에 “새로운 사태”를 적용하고 종종 인간 번영을 위한 노동의 존엄성에 대해 언급한 100년 역사의 최신 장이 됩니다.

AI는 인류를 풍요롭게 하는 촉매제가 될 것인지, 아니면 수백만 개의 고임금 일자리를 없애고 인간 지능을 둔화시키는 기술 독소가 될 것인지에 대한 격렬한 논쟁 속에서 실존적 두려움과 유토피아적 비전을 모두 불러일으키고 있습니다.

“더 큰 이윤 추구는 체계적으로 일자리를 희생하는 선택을 정당화할 수 없습니다. 왜냐하면 인간은 수단이 아니라 목적이고 경제 질서는 인간의 존엄성과 공동선에 종속되어야 하기 때문입니다.”라고 Leo는 썼습니다.

레오는 노동에서 인간의 존엄성을 옹호하는 데 관심을 더하여 유럽의 주권자에게 “이교도”를 정복하고 노예로 삼을 수 있는 명시적인 권한을 부여함으로써 노예 제도를 합법화하는 교황청의 역할에 대해 최초로 교황을 사과했습니다.

실리콘 밸리와의 10년 간의 대화

바티칸 관리들은 레오의 회칙에 정확히 누가 기여했는지 밝히기를 거부했습니다. 그러나 바티칸과 교회 관계자들은 10년 동안 실리콘밸리의 기술 기업들과 대화를 이어왔습니다. 교황 임기가 끝날 무렵 프란치스코 교황은 AI와 그것이 인류에 미치는 위험에 대해 더 많이 이야기하기 시작했습니다.

바티칸 출시에 Anthropic을 포함시키기로 한 결정은 AI 회사에 대한 교황의 승인 스탬프로 간주하는 일부 사람들로부터 비판을 받았습니다. 이 회사는 미군의 무제한 사용을 거부한 이유로 모든 미국 기관에 Anthropic의 기술 사용을 중단하라고 명령한 후 현재 트럼프 행정부를 고소하고 있습니다.

비영리 Future of Life Institute의 미국 신앙 연락원인 Brian Boyd는 Anthropic의 공동 창립자 Olah가 국가 원수와 함께 교황의 청중을 접견하는 것과 비슷하다고 읽었습니다.

Boyd는 “이 회사가 현재 인간 근로자를 대체하기 위한 경쟁에서 승리하고 있는 매우 강력한 회사라는 사실을 인정하는 것과 비슷하다고 생각합니다.”라고 말했습니다.

Boyd는 계속해서 Anthropic은 “엄청난 위험과 책임을 지고 있는 거대한 기업”이지만 회사가 “진정한 선의와 진실성, 대화에 대한 관심을 보여주었다”고 말했습니다.