성기영 | 국가안보전략연구원 수석연구위원
“핵무기가 처음 개발되었을 때였습니다. 인류는 항구적 공포를 안고 살아야 하는 현실을 피할 수 있었던 기회를 놓쳤습니다. 인공지능(AI) 시대의 도래는 핵무기와 유사한 위험을 드러냅니다. 통제받지 않는 인공지능 기술과 핵개발 기술의 결합은 인류 공동의 미래를 위협하고 있습니다.”
유럽 전역에서 장기간 폭염이 절정에 이르렀던 지난 16일. 이탈리아 로마시청이 있는 카피톨리안 언덕에 노벨상 수상자 20여명을 포함해 핵물리학자, 국제정치학자, 테크기업 관계자와 가톨릭 고위 성직자 등 100여명이 속속 모여들었다. 노벨상 수상자들은 이 자리에서 인공지능 기술의 살인 무기화를 경고하는 ‘로마 선언’을 채택했다. 이들은 ‘로마 선언’의 첫머리에서 핵 시대와 인공지능 시대가 교차하는 현실 앞에서 “인류는 결정적 순간에 직면했다”고 선포했다.
노골적인 핵무기 경쟁과 인공지능기술의 발전이 동시에 진행되는 현실을 방치하면 인류 존망의 위기를 가져올 것이며, 인공지능 기술의 통제권은 그 누구도 아닌 인간만이 가져야 한다는 것이 노벨상 수상자들의 경고였다. 인간의 통제 범위를 벗어난 인공지능 기술이 핵무기 생산능력과 결합할 때 인류의 미래를 담보로 하는 아마겟돈과 같은 사태가 벌어질 수도 있다는 것이다.
‘로마 선언’ 발표를 위해 모인 노벨상 수상자들의 면면은 다양했다. 마리아 레사(2021년, 필리핀), 후안 마누엘 산토스(2016년, 콜롬비아), 무함마드 유누스(2006년, 방글라데시), 조디 윌리엄스(1997년, 미국) 등 역대 노벨 평화상 수상자들뿐만 아니라, 브라이언 슈미트(2011년, 호주), 데이비드 그로스(2004년, 미국) 등 물리학상 수상자, 리처드 로버츠 생리의학상 수상자(1993년, 영국) 등 이들의 이름만으로도 ‘로마 선언’이 갖는 무게감을 알 수 있었다.
로마시장의 개회 연설로 시작된 ‘로마 선언’ 채택 행사에는 노벨상 수상자와 전문가들뿐만이 아니라 영화 ‘원초적 본능’의 주연배우로 잘 알려진 샤론 스톤이 평화대사 자격으로 참석해 “인간의 존엄성은 알고리즘으로 달성할 수 있는 것이 아니다”라고 목소리를 높여 눈길을 끌기도 했다.
노벨상 수상자들은 ‘로마 선언’을 채택, 발표하는 자리에서 차세대 군비경쟁의 중단, 책임 있는 (기술) 개발, 인공지능 사용의 책임감, 책임 있는 거버넌스, 책임 있는 리더십, 핵무기 제거 등 6대 이행원칙을 선포했다.
노벨상 수상자들과 전문가들은 ‘로마 선언’을 발표하기 이틀 전부터 교황의 여름 별장으로 유명한 바티칸의 카스텔 간돌포에 모여 2박3일간 열띤 토론을 벌였다. 바티칸에서 열린 ‘인공지능과 핵전쟁에 관한 노벨상 수상자 회의’에는 노벨상 수상자만 30여명이 참여했고 오픈에이아이와 구글 딥마인드, 앤트로픽 등 인공지능 기술 개발을 주도해온 테크기업 전문가 20여명, 30여개국의 전·현직 외교관과 전문가 등 200여명이 초청되었다.
특히 구글 딥마인드의 수석과학자 이아손 가브리엘, 물리학자이자 오픈에이아이의 국가안보전략 책임자인 제이슨 프루엣, 앤트로픽 연구소의 시민사회 총괄 니라브 킹스랜드 등 최고의 인공지능기업을 이끄는 두뇌들이 총출동해 비상한 관심을 끌었다. 앤트로픽의 니라브 킹스랜드는 “핵무기가 발명되었던 당시처럼 인류를 벼랑 끝으로 내몰 수 있는 다리 위에 서 있는 우리가 다리를 무사히 건너기 위해서는 기술적 해결책뿐만 아니라 사랑, 협력, 희망 등 인류의 고유한 지혜가 필요하다”고 강조했다.
전세계 가톨릭의 심장부인 바티칸이 노벨상 수상자들과 전문가들을 불러모아 통제 불가의 인공지능 기술 확산이 가져올 위험성을 경고하고 나선 데에는 교황 레오 14세의 의지가 작용했다고 볼 수 있다. 레오 14세 교황은 지난 5월, 인공지능 기술 확산에 휩쓸리지 않고 인간의 존엄성을 지키기 위한 가톨릭 교회의 지침서로서 ‘고귀한 인류’(Magnifica Humanitas)라는 회칙을 직접 발표해 관심을 모은 바 있다.
레오 14세는 기술의 중립성을 맹신하는 태도를 비판하면서 기술의 이면에 누가, 무슨 돈으로, 어떤 목적으로 투자하는지를 살펴야 한다고 강조한 바 있다. 이러한 성찰과 판단 없이 인류의 운명을 오직 기술의 손에만 맡겨서는 결코 안 된다는 것이다. 정의와 인류애라는 등불로 인공지능의 미래를 밝히지 않는다면 미래 세대의 생존조차 불분명해지는 상황을 경고하고 나선 것이다. 실제로 이번 노벨상 수상자 회의를 주관한 ‘공동의 집 재단’(Domus Communis Foundation)은 윤리적 인공지능과 책임감 있는 인공지능의 개발과 사용을 목표로 교황청의 후원하에 출범했다.
‘공동의 집 재단’이 주관해 사흘에 걸쳐 열린 회의 내내 청중들로부터 가장 열띤 호응을 얻었던 노벨상 수상자는 조디 윌리엄스와 마리아 레사, 2명의 여성이었다. 1998년 대인지뢰 사용 금지 운동으로 노벨평화상을 수상하고 이제 70대 중반에 이른 조디 윌리엄스의 연설에서는 결기가 묻어났다. ‘핵의 오만함’(nuclear arrogance)을 보여줄 뿐인 ‘핵 억지’(nuclear deterrence)라는 용어를 더 이상 사용하지 말자고 목소리를 높이면서 시종일관 ‘토론’을 넘어 ‘행동’을 촉구했다. 필리핀의 로드리고 두테르테 정권에 맞선 언론인 출신으로, 안토니우 구테흐스 유엔 사무총장이 주도해 만든 ‘독립 국제 인공지능 과학 패널’의 공동의장을 맡고 있는 마리아 레사는 “인공지능과 관련한 권력의 집중과 통제의 불확실성이 더욱 위험한 상황을 만들어내고 있다”고 경고했다. 사흘에 걸친 토론을 통해 ‘로마 선언’을 발표한 노벨상 수상자들은 인류가 ‘점점 더 똑똑한 기계’를 만들려고 할 것이 아니라 ‘점점 더 지혜로운 인간’을 양성하려고 힘을 모을 때만 공동선과 사회적 진보가 이뤄질 것이라는 데에 의견을 모았다. 1985년 노벨평화상을 수상한 ‘핵전쟁 방지 국제의사회’(IPPNW)의 창설을 주도했던 하버드대 제임스 멀러 교수는 한걸음 더 나아가 “인공지능 소프트웨어와 핵무기 시스템의 융합을 막는 유일한 해결책은 하드웨어를 제거하는 것, 즉 인공지능이 결합된 핵무기를 폐기하는 것”이라고 강조했다. 그렇지 않으면 인공지능과 핵무기가 우리를 제거할 수 있다는 것이다.