AI 위험 우려 속도조절론 논쟁 치열
미·중 정상회담의 핵심의제로 부상
한국, 규범 만드는데 적극 참여해야
AI의 미래를 두고 숨가쁜 논쟁이 펼쳐지고 있다. AI 연구진과 기업 경영자에 이어 미국과 중국 현직 최고 지도자까지 가세했다. 먼저 실무 연구진. 앤트로픽의 연구원 제이콥 콕슨은 지난 8일 회사를 떠나며 충격적인 경고를 내놓았다. 지금의 AI 개발 경쟁이 계속된다면 AI가 "2030년까지 인류의 생존을 위협할 수 있다"는 것이다.
앤트로픽 CEO 다리오 아모데이는 한발 더 나아갔다. 그는 12일 '프런티어 AI의 속도를 조절해야 한다'며 최첨단 AI 모델의 능력 향상 속도를 늦추자고 제안했다. 샘 올트먼과 일론 머스크 등도 이 논의에 호응했다. 이들 세사람은 속도조절론이 부각되기 전부터 'AI 글로벌 표준기구 설립'을 물밑에서 논의해 왔다는 보도도 나왔다.
그런데 바로 다음 날 전혀 다른 장면이 펼쳐졌다. 13일 인도 뉴델리 BRICS 정상회의에서 시진핑 중국 국가주석은 'BRICS AI 오픈소스 공동체 구축'을 제안하며 중국이 관련 생태계 구축에 적극적인 역할을 하겠다는 구상을 내놓았다. 그러자 트럼프대통령은 14일 AI 속도조절론을 강하게 비판하며 중국과의 AI 경쟁에서 물러설 수 없다는 입장을 표명했다. 불과 닷새 사이에 AI를 둘러싼 세계의 네 얼굴이 드러난 것이다. 인류 멸망에 대한 경고, 개발 속도조절론, 중국의 AI 생태계 확장, 그리고 미국의 가속론이다.
그렇다면 질문은 하나다. "강대국들의 LLM 개발은 그 경쟁의 1막이 끝나고 2막이 시작되었음을 의미하는가?" 지난 몇 년간 AI 경쟁은 누가 더 큰 모델을 만들고 더 많은 GPU와 데이터를 확보하느냐의 경쟁이었다. 그러나 앞으로는 LLM의 크기만이 아니라 컴퓨팅·반도체·데이터·전력, AI 에이전트, 그리고 피지컬 AI를 누가 장악하느냐의 경쟁이 될 것이다.
여기서 핵무기의 역사를 떠올릴 수 있다. 핵무기가 등장하자 인류는 이것이 단순한 군사기술이 아니라 세계질서 자체를 바꾸는 기술이라는 사실을 깨달았다. 그래서 핵확산금지조약(NPT)과 국제원자력기구(IAEA)를 중심으로 비확산과 검증이라는 국제질서를 만들었다.
AI에도 이와 비슷한 규칙이 필요해질까? 하지만 AI 개발 자체를 금지할 수는 없고 그렇게 되지도 않을 것이다. AI가 핵무기와 다른 점은 의료·교육·제조·과학기술을 혁신하는 범용기술이기에 더욱 그렇다. 그러나 일정 수준 이상의 초거대 모델과 컴퓨팅 규모, 자기개선 능력, 자율적 행동 등에 대해서는 국제적인 안전기준과 검증체계를 논의할 수 있다.
문제는 미국과 중국이다. 미국과 중국은 AI를 두고서도 극한 경쟁을 펼치고 있어 AI 시대의 새로운 "안보 딜레마"로 부상한 상태다. 실제로 중국 관영매체는 아모데이의 속도조절론을 중국을 겨냥한 '냉전적 접근'이라고 비판했다.
그래서 9월 하순으로 다가온 미·중 정상회담이 주목된다. AI 안전, 반도체 수출통제, 컴퓨팅 인프라, AI 모델의 국제적 규칙이 단순한 산업 의제를 넘어 미·중 전략경쟁의 핵심 의제가 될 가능성이 크다. 특히 시진핑이 BRICS를 통해 AI 오픈소스 생태계 구축을 제안한 것은 의미가 크다. 앞으로 세계가 미국 중심 AI와 중국·BRICS 중심 AI라는 두 개의 생태계로 나뉠 가능성도 배제할 수 없다.
한국은 이 경쟁을 구경하는 나라가 되어서는 안 된다. 반도체와 제조업, 로봇과 방산이라는 우리의 강점을 AI와 연결해 'AI 2막의 규칙을 만드는 국가논의'에 합류해야한다. 핵확산금지조약이 핵무기 경쟁 자체를 끝내지는 못했지만 경쟁의 규칙을 바꿨듯이, AI에도 언젠가 새로운 국제적 규범이 만들어질 것이다.
결국 지금 우리가 던져야 할 질문은 "AI 개발을 멈출 것인가"가 아니다. AI 시대의 룰을 누가 만들 것인가? 한국의 AI 2막도 바로 이 질문에서 시작해야 한다.
