인공지능은 무장해제되어야 한다.
- 교황 레오14세 회칙1) “Magnifica Humanitas(고귀한 인류)”2)에 대하여
“하나님께서 그 모든 위엄을 담아 창조하신 인류는 오늘날 중대한 기로에 서 있습니다. 새로운 바벨탑을 세울 것인지, 아니면 하나님과 인류가 함께 거하는 도시를 건설할 것인지의 선택입니다.”
위 문장은 교황 레오 14세가 지난 5월 15일에 서명하고, 25일에 반포한 첫 번째 회칙인 《고귀한 인류(Magnifica Humanitas)》의 첫머리에 나오는 구절이다. 이 회칙의 부제는 ‘인공지능 시대의 인간 존엄성 수호에 관하여’이다. 이 회칙의 전문은 여기에서 볼 수 있다(서론, 본문 5개의 장, 결론 등 42,000 단어가 넘는 긴 문서이다).
이번 회칙은 교황 레오 13세의 회칙 [새로운 사태」(Rerum novarum)] 반포 135주년을 맞아 반포하여, 이를 계승한다는 의미를 지닌다고 알려진다. [새로운 사태]는 1891년에 발표된 회칙으로 ‘자본과 노동에 관하여’라는 부제에서 말해지듯, 노동과 자본, 그리고 정부와 시민 간의 관계와 상호 의무를 논하며, 특히 노동계급의 빈곤 완화를 최우선 과제로 삼고 있다. 노동 조합 결성권과 생활임금 보장권을 옹호하고 있다. 그리고 동시에 ‘사유재산권’도 함께 조화를 이뤄야 한다고 말하고 있다. [고귀한 인류] 회칙에서도 ‘새로운 사태’ 회칙을 ‘교회의 사회교리’라고 칭하면서 ‘살아있는 전통에 제 목소리를 더하고자 한다’라고 말하고 있다.
회칙 ‘새로운 사태’가 자본주의가 발흥하기 시작한 산업혁명 시기에 노동의 권리 보장과 사회와의 관계를 주로 언급했다면, 회칙 [고귀한 인류]는 인공지능이 노동자의 일자리 뿐만 아니라, 교육, 의료, 문화를 포함하여, 군대 및 전쟁에 이르기까지 전 인류의 삶의 방식에 급격한 변화를 초래할 것으로 예측되는 시기에 인공지능이 가진 파괴적인 영향에서 인류를 보호할 필요성과 필요한 조치에 대해 언급하고 있다.
교황 레오 14세는 2025년 5월에 즉위하였는데, 즉위한 다음부터 바로, 추기경단에게 인공지능에 대한 우려를 밝히면서, 교회가 인공지능이 ‘인간의 존엄성, 정의, 노동’에 제기하는 위험에 대처하는 역할을 하는 데에 자기가 역할을 하겠다는 의지를 밝힌 것으로 알려진다. 회칙을 발표하는 자리에는 인공지능 개발업체인 앤트로픽의 공동창립자인 크리스토퍼 올라를 초청하여, 인공지능 시대에 인류를 위한 길을 함께 찾고, 소통하자는 취지를 밝히기도 하였다.
교황 레오 14세는 회칙을 반포하는 자리에서 행한 연설에서 “모든 거대한 기술적 힘은 사람들의 삶에 영향을 미칠 수 있으므로, 적절한 도덕적 분별력과 공공의 통제가 동반되어야 한다는 점을 인식하고 있기 때문”에 교회는 핵무기 폐기를 위해 노력해 왔으며, 이와 비슷한 의미에서 “인공지능 역시 이제 ‘무장 해제’되어야 하며, 지배나 배제, 혹은 죽음의 도구로 전락시키는 논리에서 벗어나야 한다.”라고 강조하기도 하였다. 그리고 무장해제만으로는 충분하지 않고, “인공지능은 기술적 진보가 인간 생명에 봉사하는 법을 배우는, 일치의 지평 안에서 역사의 건설 현장이 될 수 있는 것”이라고 덧붙이기도 하였다. 또한 “디지털 변혁의 변방에 누구도 남겨져서는 안 된다는 것”과 “누구도 생산성이나 인지 능력, 혹은 단순한 데이터로 축소되어서는 안 된다는 것”을 통합한 비전 속에서만이 인공지능은 공동선을 위한 방향으로 자리 잡을 수 있다고 표명하였다.
이를 위하여 회칙에서는 △인공지능 개발을 주도하는 민간 기업에 대한 정부 규제 △일자리가 위협받는 노동자를 위한 보호 및 재교육 △학생들이 기술에 대해 비판적으로 생각할 수 있도록 돕는 교육 △인공지능이 생성하는 폭력적이고, 지나치게 선정적이거나 허위적인 온라인 정보로부터 아동을 보호하기 위한 조치 △무기 사용과 관련된 모든 결정에 대해 인공지능이 아닌 인간이 책임을 지도록 보장하는 안전장치 등을 요구3)하였다.
현재 인공지능을 개발하고, 작동하는 데 필요한 데이터센터는 3조 달러가 넘는 자본뿐만 아니라 전기와 물을 비롯한 막대한 에너지까지 빨아들이고 있다. 자본과 에너지뿐만 아니라 숲, 초원, 농지 등 사람들의 삶터까지 인공지능의 소용돌이로 빨려 들어가고 있는 중이다. 이러한 시점에서 [고귀한 인류] 회칙에 쓰여 있는 다음 구절을 우리는 새겨봐야 한다.
기술적 성공이 찬양받는 동안, 사회 구조는 마치 소리 없는 바이러스처럼 점진적으로 무너져 내리고 있습니다." - 회칙 4장 [가족과 청소년:희망을 위한 사회적 조건] 166절
* 참고로 2024년 노벨경제학상 수상자인 대런 아세모글루(미국 MIT대 교수)가 교황 레오 14세의 회칙에 대해 언급한 글을 번역하여 싣는다. 이 글의 출처는 여기이며 구글 번역의 도움으로 싣는다.
교황 레오 14세의 인공지능에 관한 회칙에 대한 글입니다. 교황의 말씀이 옳지만, 어쩌면 충분히 옳지는 않은 이유에 대해 이야기합니다.
인공지능은 우리가 소통하는 방식, 정보에 접근하는 방식, 일하는 방식, 소득과 지위가 분배되는 방식, 그리고 머지않아 서로 싸우고 죽이는 방식까지 우리 눈앞에서 세상을 바꾸고 있습니다. 하지만 인공지능에 대한 공론은 여전히 연구소 간의 경쟁이라는 사소한 문제에만 집중하거나, 인공지능을 실질적인 능력이 없는 “확률적인 앵무새”와 인류를 지배하려는 외계 초지능이라는 잘못된 이분법에 갇혀 있습니다.
더 중요한 질문은 우리가 인공지능에게 무엇을 원하는지, 그리고 우리의 현재 사고방식, 제도, 통제 메커니즘이 인공지능을 우리의 복지를 위해 활용하는 데 적합한지 여부입니다.
다행히도, 이 논쟁에 대담하고 영향력 있는 목소리, 바로 교황 레오 14세가 참여했습니다. 기술은 운명이 아니라 선택의 문제라고 오랫동안 주장해 온 경제학자로서, 저는 레오 14세의 개입을 환영하며, 대부분의 점에서 그의 의견에 동의합니다. 하지만 인공지능이 실제로 무엇을 하도록 설계되어야 하는가라는 가장 중요한 질문에 대해서는 레오 14세는 명확한 답을 내놓지 않았습니다.
세속적인 독자들은 회칙 서두에서 바벨탑을 언급하는 부분에 불쾌감을 느낄 수도 있습니다. 하지만 거기서 읽기를 멈춘다면 큰 오산입니다. 레오 교황은 인공지능, 나아가 인류에게 일어날 일들이 우리의 통제 하에 있다는 점을 인식함으로써 미국의 대부분의 전문가, 언론인, 정책 입안자들보다 훨씬 더 나아갑니다. 인공지능에는 여러 가지 가능한 길이 있으며, 우리가 어떤 길을 택하느냐에 따라 엄청난 결과가 초래될 것입니다. 또한 그는 “기술은 결코 중립적이지 않다. 왜냐하면 기술은 그것을 고안하고, 자금을 지원하고, 규제하고, 사용하는 사람들의 특성을 띠기 때문이다.”라고 강력하고 명확하게 주장함으로써 많은 논평가들보다 앞서 나갑니다.
이것들은 제가 사이먼 존슨과 함께 쓴 책, 『권력과 진보: 기술과 번영을 둘러싼 천년의 투쟁』의 핵심 주제였습니다. 레오처럼 영향력 있는 분의 목소리로 이 주제들이 다뤄진다는 것을 듣게 되어 기쁩니다.
교황께서 전쟁과 법 집행에 있어 인공지능(AI)의 현재 방향에 대해 의문을 제기하신 것은 옳습니다. 불과 몇 년 전만 해도 금기시되었던 AI 기반 대규모 감시, 살상 대상을 선별하는 알고리즘은 이제 일상이 되었습니다. 실리콘 밸리의 많은 사람들은 이제 미국의 강력한 군사력을 강화하기 위한 도구로서 AI를 중심으로 한 새로운 군사 알고리즘 복합체 구축을 공개적으로 주장하고 있습니다. 레오 교황은 심오하면서도 종종 간과되는 점을 정확히 지적했습니다. “인간의 얼굴을 보지 않고 공격을 용이하게 하는 모든 기술은 갈등의 도덕적 문턱을 낮춥니다.”
그의 “인공지능의 무장 해제” 요구는 이러한 관찰에서 직접적으로 비롯됩니다. 그가 설명하듯이, 인공지능의 무장 해제는 “오늘날 단순히 군사적 맥락에만 국한되지 않고 경제적, 인지적 현상으로도 나타나는 ‘무장’ 경쟁이라는 사고방식에서 인공지능을 해방시키는 것”을 의미합니다. “전쟁을 도덕적으로 용납할 수 있게 만드는 알고리즘은 없다”는 그의 명확한 도덕적 입장은 새로운 대량살상무기 개발에 혈안이 된 기술자들에게 경고가 되어야 합니다.
이러한 구체적인 우려 사항 이면에는 더욱 근본적인 주장이 깔려 있습니다. 즉, 기술적으로 가능한 것이 인류에게 유익한 것과 같지 않으며, 그 차이는 누가 기술을 통제하고 어떤 이념과 이해관계가 그들을 이끄는지에 달려 있다는 것입니다.
레오는 인공지능의 미래에 대한 가장 중요한 요점을 다음과 같이 지적합니다. “인공지능은 일상적인 작업을 대신함으로써 생산성을 향상시킬 것으로 기대되지만, 기계가 작업자와 조화를 이루도록 설계되기보다는 오히려 작업자가 기계의 속도와 요구에 적응하도록 강요하는 경우가 많습니다.”
하지만 그는 여기서 충분히 나아가지 못합니다. 그는 인공지능 자체의 지배적인 설계 철학, 즉 인간의 능력을 모방하고 인간의 작업을 자동화하여 궁극적으로 인간이 할 수 있는 모든 것을 할 수 있는 인공 일반 지능(AGI)을 구현하는 데 초점을 맞춘 철학에 의문을 제기하지 않습니다.
이러한 철학은 오류에 기반하고 있습니다. 인공지능과 인간 지능이 근본적으로 유사하다고 가정하고, 따라서 기계가 현재 인간이 하고 있는 모든 것을 자연스럽게 대체해야 한다고 생각합니다. 그러나 이러한 지능은 근본적으로 다릅니다.
인간은 ‘한 번에 배우는’ 학습자입니다. 몇 가지 사례를 통해 가설을 세우고, 가능성을 머릿속으로 시뮬레이션하며, 시행착오라는 사회적 과정을 통해 이해를 다듬어 나갑니다. 아이들이 언어를 배우는 방식도 이와 같습니다. 몇 가지 단어를 모방하고, 일반화하고, 다른 사람들의 반응에 따라 조정하는 것이죠. 하지만 우리는 방대한 양의 정보를 흡수하거나 구조화되지 않은 데이터에서 관련 패턴을 찾아내는 데는 그다지 능숙하지 않습니다.
인공지능 모델은 거의 정반대입니다. 방대한 학습 데이터셋을 활용하면 뛰어난 성능을 발휘하고 대규모 패턴 인식에 탁월합니다. 하지만 아직까지는 진정한 창의성이나 현실 세계에 대한 이해, 그리고 물리적·사회적 세계와의 상호작용을 통한 시행착오 학습 능력은 부족합니다.
두 가지가 서로 다를 때, 즉 하나를 이용해 다른 하나를 흉내 내서는 안 되고, 보통은 불가능합니다. 만약 그렇게 한다면 최적의 결과를 얻지 못하고 실망스러운 결과를 맞이하게 될 것입니다. 만약 필 잭슨 감독이 1990년대에 마이클 조던이 더 뛰어난 선수라는 이유로 스코티 피펜과 데니스 로드먼이 하는 모든 것을 따라 하도록 했다면, 그것은 엄청난 실수였을 것이고, 시카고 불스의 전설적인 감독 필 잭슨은 농구 역사상 최악의 감독 중 한 명으로 기록되었을 것입니다. 불스가 우승을 거듭할 수 있었던 것은 이 선수들이 서로 협력하고 보완했기 때문입니다.
인공지능과 인간의 기술에도 동일하게 적용됩니다.
보다 생산적인 길은 상호보완적인 접근 방식입니다. 즉, 인간이 할 수 없는 일을 AI로 처리함으로써 인간은 본연의 업무에 집중할 수 있도록 하는 것입니다. AI 진단 기능을 활용하는 전기 기술자, 증상 해석에 AI의 도움을 받는 간호사, 학생 개개인에게 맞춤형 교육을 제공하는 AI 교사. 이러한 모습들이 바로 인간의 능력을 대체하는 것이 아니라 향상시키는 새로운 AI 미래의 모습입니다.
낙관론자들과 업계 관계자들은 재분배 정책이 발맞춰 추진된다면 자동화 우선의 AI가 여전히 모두에게 이익이 될 수 있다고 주장할 것입니다. 그러나 이러한 주장은 과거의 사례를 보면 실현 가능성이 매우 낮습니다. 지난 40년 간의 디지털 자동화는 이미 상위 계층에 이익을 집중시키고 중간 숙련도 일자리를 감소시켰으며, 전반적인 생산성 증가율은 기대에 미치지 못했습니다. 더욱 강력한 자동화가 더욱 소수의 기업에 의해 추진된다면 결과가 달라질 것이라고 기대할 이유는 거의 없습니다. 우리는 다른 설계를 요구할 수 있고, 또 요구해야만 합니다.
인공지능의 미래가 가져올 전 세계적인 영향은 미국에서만 볼 수 있는 것이 아닙니다. 수십억 명의 사람들이 여전히 양질의 일자리를 통해 빈곤에서 벗어나고자 하는 개발도상국에서 자동화 중심의 인공지능 정책은 단순히 최적의 방안이 아닌 것을 넘어, 광범위한 번영을 위한 가장 중요한 길을 차단하는 행위입니다.
오늘날 인공지능 산업의 가장 큰 실패는 이러한 사실들을 전혀 인정하지 않는다는 점입니다. 오히려 인공지능 산업은 (인류에 대한 산업 자체의) 통제 이데올로기와 기계가 인간보다 무조건 우월하다는 확신에 사로잡혀 있습니다.
레오가 정확히 지적했듯이, 이러한 실패는 소수의 기업들이 인공지능의 미래를 좌우하고 있다는 사실 때문에 가능해졌습니다.
우리에게 필요한 것은 도덕적 명확성과 인공지능이 무엇을 할 수 있고 우리가 인공지능에게 무엇을 바라는지에 대한 진지하고 사회 전반에 걸친 논의의 결합입니다. 이러한 논의는 단순한 권고를 넘어 구체적인 선택으로 나아가야 합니다. 즉, 지배적인 플랫폼에 대한 반독점 조치, 인간을 보완하는 인공지능에 대한 공공 투자, 감시 및 자율 무기 규제, 그리고 이러한 시스템이 구축되는 데이터에 대한 노동자와 시민의 의미 있는 권리 보장이 필요합니다.
1) 회칙은 신앙과 교리, 윤리, 사회 문제, 그 밖의 특정한 주제와 관련해서 교황이 발표하는 가장 권위있는 형태의 문서이다. 그 외 ‘권고’ ‘교서’ ‘담화’ ‘연설’ ‘강론’ ‘훈화’ 등이 있다.
2) 처음 발표할 당시 언론 보도는 대부분 ‘위대한 인간성’이라고 번역하였으나, 이후 카톨릭교회측에서 ‘고귀한 인류’라고 번역하였기에, 여기에서는 이를 따른다.
3) https://www.nytimes.com/2026/05/25/world/europe/pope-leo-encyclical.html?smid=url-share
인공지능은 무장해제되어야 한다.
- 교황 레오14세 회칙1) “Magnifica Humanitas(고귀한 인류)”2)에 대하여
“하나님께서 그 모든 위엄을 담아 창조하신 인류는 오늘날 중대한 기로에 서 있습니다. 새로운 바벨탑을 세울 것인지, 아니면 하나님과 인류가 함께 거하는 도시를 건설할 것인지의 선택입니다.”
위 문장은 교황 레오 14세가 지난 5월 15일에 서명하고, 25일에 반포한 첫 번째 회칙인 《고귀한 인류(Magnifica Humanitas)》의 첫머리에 나오는 구절이다. 이 회칙의 부제는 ‘인공지능 시대의 인간 존엄성 수호에 관하여’이다. 이 회칙의 전문은 여기에서 볼 수 있다(서론, 본문 5개의 장, 결론 등 42,000 단어가 넘는 긴 문서이다).
이번 회칙은 교황 레오 13세의 회칙 [새로운 사태」(Rerum novarum)] 반포 135주년을 맞아 반포하여, 이를 계승한다는 의미를 지닌다고 알려진다. [새로운 사태]는 1891년에 발표된 회칙으로 ‘자본과 노동에 관하여’라는 부제에서 말해지듯, 노동과 자본, 그리고 정부와 시민 간의 관계와 상호 의무를 논하며, 특히 노동계급의 빈곤 완화를 최우선 과제로 삼고 있다. 노동 조합 결성권과 생활임금 보장권을 옹호하고 있다. 그리고 동시에 ‘사유재산권’도 함께 조화를 이뤄야 한다고 말하고 있다. [고귀한 인류] 회칙에서도 ‘새로운 사태’ 회칙을 ‘교회의 사회교리’라고 칭하면서 ‘살아있는 전통에 제 목소리를 더하고자 한다’라고 말하고 있다.
회칙 ‘새로운 사태’가 자본주의가 발흥하기 시작한 산업혁명 시기에 노동의 권리 보장과 사회와의 관계를 주로 언급했다면, 회칙 [고귀한 인류]는 인공지능이 노동자의 일자리 뿐만 아니라, 교육, 의료, 문화를 포함하여, 군대 및 전쟁에 이르기까지 전 인류의 삶의 방식에 급격한 변화를 초래할 것으로 예측되는 시기에 인공지능이 가진 파괴적인 영향에서 인류를 보호할 필요성과 필요한 조치에 대해 언급하고 있다.
교황 레오 14세는 2025년 5월에 즉위하였는데, 즉위한 다음부터 바로, 추기경단에게 인공지능에 대한 우려를 밝히면서, 교회가 인공지능이 ‘인간의 존엄성, 정의, 노동’에 제기하는 위험에 대처하는 역할을 하는 데에 자기가 역할을 하겠다는 의지를 밝힌 것으로 알려진다. 회칙을 발표하는 자리에는 인공지능 개발업체인 앤트로픽의 공동창립자인 크리스토퍼 올라를 초청하여, 인공지능 시대에 인류를 위한 길을 함께 찾고, 소통하자는 취지를 밝히기도 하였다.
교황 레오 14세는 회칙을 반포하는 자리에서 행한 연설에서 “모든 거대한 기술적 힘은 사람들의 삶에 영향을 미칠 수 있으므로, 적절한 도덕적 분별력과 공공의 통제가 동반되어야 한다는 점을 인식하고 있기 때문”에 교회는 핵무기 폐기를 위해 노력해 왔으며, 이와 비슷한 의미에서 “인공지능 역시 이제 ‘무장 해제’되어야 하며, 지배나 배제, 혹은 죽음의 도구로 전락시키는 논리에서 벗어나야 한다.”라고 강조하기도 하였다. 그리고 무장해제만으로는 충분하지 않고, “인공지능은 기술적 진보가 인간 생명에 봉사하는 법을 배우는, 일치의 지평 안에서 역사의 건설 현장이 될 수 있는 것”이라고 덧붙이기도 하였다. 또한 “디지털 변혁의 변방에 누구도 남겨져서는 안 된다는 것”과 “누구도 생산성이나 인지 능력, 혹은 단순한 데이터로 축소되어서는 안 된다는 것”을 통합한 비전 속에서만이 인공지능은 공동선을 위한 방향으로 자리 잡을 수 있다고 표명하였다.
이를 위하여 회칙에서는 △인공지능 개발을 주도하는 민간 기업에 대한 정부 규제 △일자리가 위협받는 노동자를 위한 보호 및 재교육 △학생들이 기술에 대해 비판적으로 생각할 수 있도록 돕는 교육 △인공지능이 생성하는 폭력적이고, 지나치게 선정적이거나 허위적인 온라인 정보로부터 아동을 보호하기 위한 조치 △무기 사용과 관련된 모든 결정에 대해 인공지능이 아닌 인간이 책임을 지도록 보장하는 안전장치 등을 요구3)하였다.
현재 인공지능을 개발하고, 작동하는 데 필요한 데이터센터는 3조 달러가 넘는 자본뿐만 아니라 전기와 물을 비롯한 막대한 에너지까지 빨아들이고 있다. 자본과 에너지뿐만 아니라 숲, 초원, 농지 등 사람들의 삶터까지 인공지능의 소용돌이로 빨려 들어가고 있는 중이다. 이러한 시점에서 [고귀한 인류] 회칙에 쓰여 있는 다음 구절을 우리는 새겨봐야 한다.
기술적 성공이 찬양받는 동안, 사회 구조는 마치 소리 없는 바이러스처럼 점진적으로 무너져 내리고 있습니다." - 회칙 4장 [가족과 청소년:희망을 위한 사회적 조건] 166절
* 참고로 2024년 노벨경제학상 수상자인 대런 아세모글루(미국 MIT대 교수)가 교황 레오 14세의 회칙에 대해 언급한 글을 번역하여 싣는다. 이 글의 출처는 여기이며 구글 번역의 도움으로 싣는다.
교황 레오 14세의 인공지능에 관한 회칙에 대한 글입니다. 교황의 말씀이 옳지만, 어쩌면 충분히 옳지는 않은 이유에 대해 이야기합니다.
인공지능은 우리가 소통하는 방식, 정보에 접근하는 방식, 일하는 방식, 소득과 지위가 분배되는 방식, 그리고 머지않아 서로 싸우고 죽이는 방식까지 우리 눈앞에서 세상을 바꾸고 있습니다. 하지만 인공지능에 대한 공론은 여전히 연구소 간의 경쟁이라는 사소한 문제에만 집중하거나, 인공지능을 실질적인 능력이 없는 “확률적인 앵무새”와 인류를 지배하려는 외계 초지능이라는 잘못된 이분법에 갇혀 있습니다.
더 중요한 질문은 우리가 인공지능에게 무엇을 원하는지, 그리고 우리의 현재 사고방식, 제도, 통제 메커니즘이 인공지능을 우리의 복지를 위해 활용하는 데 적합한지 여부입니다.
다행히도, 이 논쟁에 대담하고 영향력 있는 목소리, 바로 교황 레오 14세가 참여했습니다. 기술은 운명이 아니라 선택의 문제라고 오랫동안 주장해 온 경제학자로서, 저는 레오 14세의 개입을 환영하며, 대부분의 점에서 그의 의견에 동의합니다. 하지만 인공지능이 실제로 무엇을 하도록 설계되어야 하는가라는 가장 중요한 질문에 대해서는 레오 14세는 명확한 답을 내놓지 않았습니다.
세속적인 독자들은 회칙 서두에서 바벨탑을 언급하는 부분에 불쾌감을 느낄 수도 있습니다. 하지만 거기서 읽기를 멈춘다면 큰 오산입니다. 레오 교황은 인공지능, 나아가 인류에게 일어날 일들이 우리의 통제 하에 있다는 점을 인식함으로써 미국의 대부분의 전문가, 언론인, 정책 입안자들보다 훨씬 더 나아갑니다. 인공지능에는 여러 가지 가능한 길이 있으며, 우리가 어떤 길을 택하느냐에 따라 엄청난 결과가 초래될 것입니다. 또한 그는 “기술은 결코 중립적이지 않다. 왜냐하면 기술은 그것을 고안하고, 자금을 지원하고, 규제하고, 사용하는 사람들의 특성을 띠기 때문이다.”라고 강력하고 명확하게 주장함으로써 많은 논평가들보다 앞서 나갑니다.
이것들은 제가 사이먼 존슨과 함께 쓴 책, 『권력과 진보: 기술과 번영을 둘러싼 천년의 투쟁』의 핵심 주제였습니다. 레오처럼 영향력 있는 분의 목소리로 이 주제들이 다뤄진다는 것을 듣게 되어 기쁩니다.
교황께서 전쟁과 법 집행에 있어 인공지능(AI)의 현재 방향에 대해 의문을 제기하신 것은 옳습니다. 불과 몇 년 전만 해도 금기시되었던 AI 기반 대규모 감시, 살상 대상을 선별하는 알고리즘은 이제 일상이 되었습니다. 실리콘 밸리의 많은 사람들은 이제 미국의 강력한 군사력을 강화하기 위한 도구로서 AI를 중심으로 한 새로운 군사 알고리즘 복합체 구축을 공개적으로 주장하고 있습니다. 레오 교황은 심오하면서도 종종 간과되는 점을 정확히 지적했습니다. “인간의 얼굴을 보지 않고 공격을 용이하게 하는 모든 기술은 갈등의 도덕적 문턱을 낮춥니다.”
그의 “인공지능의 무장 해제” 요구는 이러한 관찰에서 직접적으로 비롯됩니다. 그가 설명하듯이, 인공지능의 무장 해제는 “오늘날 단순히 군사적 맥락에만 국한되지 않고 경제적, 인지적 현상으로도 나타나는 ‘무장’ 경쟁이라는 사고방식에서 인공지능을 해방시키는 것”을 의미합니다. “전쟁을 도덕적으로 용납할 수 있게 만드는 알고리즘은 없다”는 그의 명확한 도덕적 입장은 새로운 대량살상무기 개발에 혈안이 된 기술자들에게 경고가 되어야 합니다.
이러한 구체적인 우려 사항 이면에는 더욱 근본적인 주장이 깔려 있습니다. 즉, 기술적으로 가능한 것이 인류에게 유익한 것과 같지 않으며, 그 차이는 누가 기술을 통제하고 어떤 이념과 이해관계가 그들을 이끄는지에 달려 있다는 것입니다.
레오는 인공지능의 미래에 대한 가장 중요한 요점을 다음과 같이 지적합니다. “인공지능은 일상적인 작업을 대신함으로써 생산성을 향상시킬 것으로 기대되지만, 기계가 작업자와 조화를 이루도록 설계되기보다는 오히려 작업자가 기계의 속도와 요구에 적응하도록 강요하는 경우가 많습니다.”
하지만 그는 여기서 충분히 나아가지 못합니다. 그는 인공지능 자체의 지배적인 설계 철학, 즉 인간의 능력을 모방하고 인간의 작업을 자동화하여 궁극적으로 인간이 할 수 있는 모든 것을 할 수 있는 인공 일반 지능(AGI)을 구현하는 데 초점을 맞춘 철학에 의문을 제기하지 않습니다.
이러한 철학은 오류에 기반하고 있습니다. 인공지능과 인간 지능이 근본적으로 유사하다고 가정하고, 따라서 기계가 현재 인간이 하고 있는 모든 것을 자연스럽게 대체해야 한다고 생각합니다. 그러나 이러한 지능은 근본적으로 다릅니다.
인간은 ‘한 번에 배우는’ 학습자입니다. 몇 가지 사례를 통해 가설을 세우고, 가능성을 머릿속으로 시뮬레이션하며, 시행착오라는 사회적 과정을 통해 이해를 다듬어 나갑니다. 아이들이 언어를 배우는 방식도 이와 같습니다. 몇 가지 단어를 모방하고, 일반화하고, 다른 사람들의 반응에 따라 조정하는 것이죠. 하지만 우리는 방대한 양의 정보를 흡수하거나 구조화되지 않은 데이터에서 관련 패턴을 찾아내는 데는 그다지 능숙하지 않습니다.
인공지능 모델은 거의 정반대입니다. 방대한 학습 데이터셋을 활용하면 뛰어난 성능을 발휘하고 대규모 패턴 인식에 탁월합니다. 하지만 아직까지는 진정한 창의성이나 현실 세계에 대한 이해, 그리고 물리적·사회적 세계와의 상호작용을 통한 시행착오 학습 능력은 부족합니다.
두 가지가 서로 다를 때, 즉 하나를 이용해 다른 하나를 흉내 내서는 안 되고, 보통은 불가능합니다. 만약 그렇게 한다면 최적의 결과를 얻지 못하고 실망스러운 결과를 맞이하게 될 것입니다. 만약 필 잭슨 감독이 1990년대에 마이클 조던이 더 뛰어난 선수라는 이유로 스코티 피펜과 데니스 로드먼이 하는 모든 것을 따라 하도록 했다면, 그것은 엄청난 실수였을 것이고, 시카고 불스의 전설적인 감독 필 잭슨은 농구 역사상 최악의 감독 중 한 명으로 기록되었을 것입니다. 불스가 우승을 거듭할 수 있었던 것은 이 선수들이 서로 협력하고 보완했기 때문입니다.
인공지능과 인간의 기술에도 동일하게 적용됩니다.
보다 생산적인 길은 상호보완적인 접근 방식입니다. 즉, 인간이 할 수 없는 일을 AI로 처리함으로써 인간은 본연의 업무에 집중할 수 있도록 하는 것입니다. AI 진단 기능을 활용하는 전기 기술자, 증상 해석에 AI의 도움을 받는 간호사, 학생 개개인에게 맞춤형 교육을 제공하는 AI 교사. 이러한 모습들이 바로 인간의 능력을 대체하는 것이 아니라 향상시키는 새로운 AI 미래의 모습입니다.
낙관론자들과 업계 관계자들은 재분배 정책이 발맞춰 추진된다면 자동화 우선의 AI가 여전히 모두에게 이익이 될 수 있다고 주장할 것입니다. 그러나 이러한 주장은 과거의 사례를 보면 실현 가능성이 매우 낮습니다. 지난 40년 간의 디지털 자동화는 이미 상위 계층에 이익을 집중시키고 중간 숙련도 일자리를 감소시켰으며, 전반적인 생산성 증가율은 기대에 미치지 못했습니다. 더욱 강력한 자동화가 더욱 소수의 기업에 의해 추진된다면 결과가 달라질 것이라고 기대할 이유는 거의 없습니다. 우리는 다른 설계를 요구할 수 있고, 또 요구해야만 합니다.
인공지능의 미래가 가져올 전 세계적인 영향은 미국에서만 볼 수 있는 것이 아닙니다. 수십억 명의 사람들이 여전히 양질의 일자리를 통해 빈곤에서 벗어나고자 하는 개발도상국에서 자동화 중심의 인공지능 정책은 단순히 최적의 방안이 아닌 것을 넘어, 광범위한 번영을 위한 가장 중요한 길을 차단하는 행위입니다.
오늘날 인공지능 산업의 가장 큰 실패는 이러한 사실들을 전혀 인정하지 않는다는 점입니다. 오히려 인공지능 산업은 (인류에 대한 산업 자체의) 통제 이데올로기와 기계가 인간보다 무조건 우월하다는 확신에 사로잡혀 있습니다.
레오가 정확히 지적했듯이, 이러한 실패는 소수의 기업들이 인공지능의 미래를 좌우하고 있다는 사실 때문에 가능해졌습니다.
우리에게 필요한 것은 도덕적 명확성과 인공지능이 무엇을 할 수 있고 우리가 인공지능에게 무엇을 바라는지에 대한 진지하고 사회 전반에 걸친 논의의 결합입니다. 이러한 논의는 단순한 권고를 넘어 구체적인 선택으로 나아가야 합니다. 즉, 지배적인 플랫폼에 대한 반독점 조치, 인간을 보완하는 인공지능에 대한 공공 투자, 감시 및 자율 무기 규제, 그리고 이러한 시스템이 구축되는 데이터에 대한 노동자와 시민의 의미 있는 권리 보장이 필요합니다.
1) 회칙은 신앙과 교리, 윤리, 사회 문제, 그 밖의 특정한 주제와 관련해서 교황이 발표하는 가장 권위있는 형태의 문서이다. 그 외 ‘권고’ ‘교서’ ‘담화’ ‘연설’ ‘강론’ ‘훈화’ 등이 있다.
2) 처음 발표할 당시 언론 보도는 대부분 ‘위대한 인간성’이라고 번역하였으나, 이후 카톨릭교회측에서 ‘고귀한 인류’라고 번역하였기에, 여기에서는 이를 따른다.
3) https://www.nytimes.com/2026/05/25/world/europe/pope-leo-encyclical.html?smid=url-share