미국 SNS를 접수한 가짜 미국인들의 정체가 소름 돋는 이유

 

지난 9월 18일 현지시간 뉴욕타임스가 던진 기사 한 편이 워싱턴 정보당국을 발칵 뒤집어 놨어요

이란과 중국의 국가 조직 그리고 이스라엘의 민간 기업들이 인공지능 에이전트를 동원해서 미국 소셜미디어 여론을 대규모로 흔들었다는 내용이었어요

 

단순히 AI가 글을 대신 써준 수준이 아니라 계정을 만들고 콘텐츠를 짜고 유포 시점까지 조율하는 전 과정을 AI 스스로 처리했다는 점이 핵심이에요

미국 정보당국자들은 이번 사례를 AI 에이전트가 여론 조작의 모든 단계를 인간 개입 없이 처리한 사실상 첫 사례로 평가하고 있어요

 

11월 3일로 예정된 미국 중간선거를 불과 한 달 반 앞두고 터진 소식이라 파장이 더 크게 느껴져요

오늘은 이 사건을 둘러싼 팩트들을 촘촘하게 정리하고 관련된 배경 사건들까지 함께 짚어보면서 저의 생각도 솔직하게 얹어볼게요

읽으시면서 여러분도 각자의 질문을 함께 떠올려 보셨으면 좋겠어요

 

 

중국산 오픈소스 AI가 여론조작의 무기가 된 배경

이번 사건에서 가장 눈에 띄는 대목은 사용된 AI 모델이 특정 국가가 비밀리에 개발한 첨단 기술이 아니라는 점이에요

누구나 무료로 내려받고 자유롭게 수정할 수 있는 중국의 오픈소스 AI 모델이 바탕이 됐어요

 

오픈소스 모델은 연구자와 개발자들에게 접근성을 넓혀준다는 순기능이 있지만 동시에 안전장치를 임의로 제거할 수 있다는 약점도 함께 가지고 있어요

실제로 이번 조작에 관여한 조직들은 모델에 내장된 안전장치 대부분을 해제한 것으로 알려졌어요

 

원래는 AI가 가짜 계정을 만들거나 여론을 조작하는 일에 쓰이지 않도록 막아두는 장치들이 있었는데 이 장치들이 무력화되면서 AI가 자율적으로 기만 행위를 수행할 수 있게 된 거예요

보안 전문가들은 이 지점을 가장 우려스럽게 보고 있어요

 

공개된 기술이 누구의 손에서든 무기로 바뀔 수 있다는 사실이 실제 사례로 증명됐기 때문이에요

특히 이번에 확인된 모델은 중국 기업이 개발한 딥시크 계열로 알려져 있는데 이스라엘 업체가 이를 가져다 쓴 사례까지 확인되면서 오픈소스 AI의 국경 없는 확산성이 새삼 부각됐어요

 

수백 개 AI 봇이 사람 흉내 내며 벌인 일

기사에 따르면 수백 개의 AI 에이전트가 인스타그램과 페이스북 엑스 그리고 틱톡 같은 주요 플랫폼에 투입됐어요

이 에이전트들은 스스로 가짜 계정을 만드는 것부터 시작했어요

계정을 만든 다음에는 정치나 시사 이슈와 관련된 게시물을 자체적으로 제작했고 이 게시물을 언제 어떻게 퍼뜨릴지 조율까지 자동으로 처리했어요

 

사람이 개입한 부분은 초기 설정과 방향 지시 정도에 그쳤다고 해요

과거의 여론 조작 캠페인은 실제 사람들이 팀을 이뤄서 계정을 관리하고 글을 쓰고 서로 품앗이하듯 댓글을 달아주는 방식이었는데 이번에는 그 모든 과정이 AI 단독으로 굴러갔다는 차이가 있어요

 

사람이 하던 일을 AI가 대신하니까 속도와 규모 면에서 인간의 한계를 가볍게 뛰어넘었어요

새벽이든 낮이든 쉬지 않고 계정을 늘리고 글을 올릴 수 있다는 점도 기존 캠페인과 결정적으로 다른 부분이에요

 

 

8만 팔로워를 모은 가짜 미국인 계정의 실체

이번 보도에서 가장 소름 돋는 부분은 이란이 주도한 캠페인의 위장 수법이에요

AI가 만든 가짜 계정들은 워싱턴 DC나 샌디에이고 애틀랜타처럼 미국 주요 도시에 실제로 살고 있는 활동가나 학생 디자이너처럼 꾸며졌어요

 

이들은 처음에는 평범한 밈 계정처럼 활동하면서 신뢰를 쌓았어요

일정 수준 팔로워가 쌓이고 계정이 자리를 잡은 뒤부터는 반공화당 성향의 정치적 견해를 조금씩 퍼뜨리기 시작했어요

 

이스라엘과 팔레스타인 분쟁이나 이민 문제처럼 미국 사회에서 뜨거운 이슈들을 주로 다뤘어요

심지어 실제 기자와 정치인을 태그하면서 콘텐츠 협업을 요청하기도 했는데 다행히 이 요청이 실제로 성사된 사례는 없었던 것으로 파악됐어요

 

이런 방식으로 올 상반기에만 약 8만 명의 팔로워를 모았다는 점이 이번 사건의 파급력을 보여주는 숫자예요

이란은 자신들의 인터넷 프로토콜 주소를 숨기기 위해 미국이나 캐나다에 있는 서버를 경유해서 접속하는 치밀함까지 보였어요

 

국가가 움직인 중국 이란과 기업이 움직인 이스라엘의 차이

이번 사건에서 흥미로운 지점은 캠페인의 주체가 서로 다르다는 사실이에요

중국과 이란의 경우에는 국가가 직접 배후로 지목됐어요

 

미국 정보기관과 보안 연구자들은 이 두 캠페인이 국가의 지원을 받은 조직에 의해 운영됐다고 결론지었어요

반면 이스라엘에서 확인된 두 건의 캠페인은 국가가 아니라 민간 기업이 주도한 것으로 조사됐어요

그중 하나로 텔아비브에 본사를 둔 인텔아이라는 업체가 지목됐는데 이 회사는 이스라엘 정보기관 관련 배경을 가진 인력들이 세운 곳으로 알려져 있어요

 

인텔아이는 딥시크 기반 AI 에이전트로 약 1,000개에 달하는 가짜 계정을 운영하면서 이스라엘 총선을 둘러싼 정치 담론에 개입한 정황이 포착됐어요

 

흥미롭게도 이 계정들은 네타냐후 총리를 지지하는 내용과 비판하는 내용을 동시에 게시했다고 해요

인텔아이 측은 자신들의 활동이 여론 조작이 아니라 AI 시스템의 취약점을 점검하기 위한 방어적 연구 실험이었다고 해명했어요

 

이 해명이 사실인지 아니면 결과를 감추기 위한 변명인지는 앞으로 더 지켜봐야 할 부분이에요

 

 

 

조지타운대 전문가가 던진 경고 한마디

이번 사건을 취재한 뉴욕타임스는 조지타운대 안보 신기술센터의 카일 크라이튼 연구원의 발언을 인용했어요

그는 기술이 발전할수록 AI 에이전트가 주도하는 여론 조작 공작이 훨씬 더 흔한 일이 될 것이라고 내다봤어요

 

지금까지는 이런 공작이 국가 차원의 특별한 프로젝트처럼 여겨졌지만 앞으로는 웬만한 조직이면 누구나 시도할 수 있는 일상적인 수단이 될 수 있다는 뜻이에요

 

크라이튼 연구원은 여기서 한 걸음 더 나아가 앞으로 등장할 AI 에이전트는 단순히 숫자만 늘리는 수준을 넘어서 실제 인간 사용자 사이에 자연스럽게 스며드는 정교함을 갖추게 될 거라고 경고했어요

 

지금 확인된 사례들은 보안 전문가들 표현을 빌리면 기술적으로 아직은 조잡한 수준이라고 해요

말투가 어색하거나 반응 패턴이 기계적이어서 자세히 들여다보면 티가 나는 경우가 많다는 뜻이에요

 

하지만 조잡한 수준의 기술로도 8만 명에 가까운 팔로워를 모으고 실제 기자와 정치인에게 접근할 수 있었다는 사실 자체가 더 큰 경고로 읽혀요

기술이 조금만 더 다듬어지면 어떤 일이 벌어질지 상상하기 어렵지 않아요

 

 

메타가 8월에 이미 이란의 AI 공작을 걷어낸 사연

사실 이란의 AI 활용 여론 조작 정황은 이번이 처음 드러난 게 아니에요

페이스북과 인스타그램을 운영하는 메타는 지난 8월 27일 현지시간 발표한 2026년 하반기 적대적 위협 보고서에서 이란 기반 계정을 이미 대거 삭제했다고 밝혔어요

 

이때 삭제된 계정은 페이스북 4개와 인스타그램 31개였는데 숫자만 보면 적어 보이지만 이 계정들의 소식을 받아보던 인스타그램 팔로워 수는 무려 79,400개에 달했어요

메타 보고서에서도 이 계정들이 워싱턴 DC와 샌디에이고 애틀랜타 같은 미국 도시에 거주하는 활동가나 학생 디자이너로 위장했다는 설명이 나와요

 

지금 뉴욕타임스가 보도한 내용과 거의 겹치는 수법이라는 걸 알 수 있어요

메타는 이번 보고서에서 AI 기반 콘텐츠 생성이 예전에는 자원이 풍부한 소수 행위자만 가끔 쓰던 전술이었지만 이제는 거의 표준적인 도구로 자리 잡았다고 평가했어요

 

프로필 사진을 만드는 일부터 게시물 문구를 작성하는 일까지 조직적 기만 행위 관련 계정 대부분이 생성형 AI를 활용하고 있었다는 분석도 함께 내놨어요

기만 행위가 하나의 산업처럼 표준화되고 있다는 표현까지 등장했다는 게 상당히 인상적이에요

 

 

 

오픈AI도 이미 여러 차례 겪었던 AI발 선전전

AI를 활용한 국가 배후 선전 공작이 이번이 처음은 아니라는 점도 짚고 넘어갈 부분이에요

오픈AI는 지난 2024년 5월 러시아와 중국 이스라엘 이란에서 비롯된 다섯 건의 은밀한 영향력 공작을 챗GPT 상에서 적발하고 차단했다고 발표한 적이 있어요

 

당시 국제 버추얼 미디어 연합이라는 조직은 미국과 이스라엘을 비판하는 콘텐츠를 생성하고 번역해서 퍼뜨렸고 제로 제노라는 조직은 팔레스타인 난민을 지원하는 유엔 기구와 캐나다 내 특정 세력을 겨냥한 콘텐츠를 만들었던 것으로 확인됐어요

 

다행히 당시에는 이런 공작들이 실질적으로 눈에 띄는 참여나 확산 효과를 얻지는 못했다고 오픈AI가 밝혔어요

같은 해 8월에는 오픈AI가 이란의 스톰 2035라는 조직과 연결된 챗GPT 계정을 무더기로 정지시킨 일도 있었어요

 

이 조직은 챗GPT로 장문의 가짜 뉴스 기사를 작성하고 소셜미디어 댓글까지 작성하면서 이스라엘 하마스 전쟁이나 미국 대선 같은 민감한 주제를 다뤘던 것으로 드러났어요

 

당시 마이크로소프트도 비슷한 시기 같은 조직에 대한 별도 보고서를 내놓으면서 미국 대선 캠페인을 겨냥한 스피어피싱 공격 정황까지 함께 공개했었어요

이런 흐름을 쭉 훑어보면 AI를 활용한 여론 조작 시도는 이미 몇 년째 이어져 오던 흐름이고 이번 사건은 그 연장선에서 기술이 한층 더 자율화된 단계로 넘어갔다는 신호로 읽을 수 있어요

 

 

11월 중간선거를 앞두고 커지는 미국의 불안

이번 사건이 유독 크게 주목받는 이유는 시점 때문이에요

미국은 오는 11월 3일 중간선거를 앞두고 있어요

 

과거 러시아와 이란 중국은 미국 대선을 비롯한 주요 선거마다 온라인 여론에 개입하려는 시도를 반복해 왔어요

이번에는 그 방식이 사람이 직접 운영하는 트롤 계정에서 AI가 자율적으로 운영하는 에이전트 계정으로 진화했다는 점이 다르고 미국 정부 입장에서는 훨씬 더 대응하기 까다로운 상황이 됐어요

 

기존에는 문체나 활동 패턴 같은 사람의 흔적을 분석해서 가짜 계정을 걸러낼 수 있었지만 AI가 대량으로 자연스러운 문장을 실시간으로 만들어내면 탐지가 훨씬 어려워지거든요

미국 정보당국은 이번 조사 결과를 계기로 관련 기술기업들과 함께 대응 체계를 재점검하고 있는 것으로 알려졌어요

 

11월 선거가 가까워질수록 이런 시도가 더 정교해질 거라는 전망이 지배적이라 당분간 관련 소식이 계속 이어질 가능성이 높아요

 

 

AI 여론조작 이렇게 판별해 볼 수 있어요

일반 시민 입장에서는 이런 뉴스를 접하면 막막하게 느껴지실 수 있어요

그래도 몇 가지 체크포인트를 알아두면 도움이 될 것 같아 정리해봤어요

 

첫째 계정 생성일이 최근인데 팔로워나 게시물 수가 부자연스럽게 많은 경우 의심해 볼 필요가 있어요

 

둘째 특정 이슈에 대해 지나치게 일관된 톤으로 반복해서 게시하는 계정도 눈여겨봐야 해요

 

셋째 실존 인물인 것처럼 보이지만 프로필 사진이 지나치게 완벽하거나 반대로 어색한 경우도 신호가 될 수 있어요

 

넷째 언론인이나 정치인에게 협업이나 인용을 요청하는 방식으로 접근한다면 그 계정의 실체를 한 번 더 확인해 보는 게 좋아요

 

다섯째 게시물 밑에 달리는 댓글들이 서로 자연스러운 대화라기보다 정형화된 패턴처럼 느껴진다면 조작 가능성을 의심해볼 수 있어요

 

물론 이런 체크리스트만으로 완벽하게 걸러내기는 어렵겠지만 최소한의 경각심을 갖는 데는 분명 도움이 될 거예요

 

저는 이 사건을 이렇게 봐요

 

이번 사건에서 제가 가장 놀랐던 부분은 기술의 발전 속도가 아니라 활용의 진입장벽이 이렇게까지 낮아졌다는 사실이었어요

 

몇 년 전만 해도 국가 단위의 정보 공작이라고 하면 막대한 예산과 인력이 필요한 일이었어요

그런데 지금은 오픈소스 모델 하나만 있으면 민간 기업 수준에서도 국가급 공작에 준하는 규모의 활동을 벌일 수 있다는 게 확인됐어요

 

이스라엘 사례처럼 국가가 아니라 민간 기업이 이런 일에 뛰어들 수 있다는 점은 앞으로 더 다양한 행위자들이 이 기술을 손에 쥐게 될 거라는 의미로 다가와요

기업이든 정치 단체든 심지어 개인이든 마음만 먹으면 비슷한 시도를 할 수 있는 시대가 이미 열린 셈이에요

물론 오픈소스 기술 자체를 무조건 나쁘게만 볼 필요는 없다고 생각해요

 

오픈소스는 연구와 교육 혁신에 분명히 큰 기여를 해왔고 접근성을 넓혀준 순기능도 무시할 수 없거든요

문제는 기술 자체가 아니라 안전장치를 누구나 손쉽게 제거할 수 있는 구조에 있다고 봐요

 

앞으로는 오픈소스 모델을 개발하는 쪽에서도 최소한의 남용 방지 장치를 기술적으로 더 촘촘하게 설계할 필요가 있어 보여요

플랫폼 기업들 역시 사람이 만든 계정인지 AI가 만든 계정인지 구분하는 탐지 기술에 훨씬 더 많은 투자를 해야 할 시점이라고 생각해요

 

 

이번 사건이 우리에게 남긴 질문들

이번 사건을 정리하면서 여러 가지 질문이 함께 떠올랐어요

AI 에이전트가 만든 콘텐츠와 사람이 만든 콘텐츠를 구분하는 기술적 탐지 능력은 지금 어느 수준까지 와 있을까요

 

플랫폼 기업들은 이런 자율형 공작에 대응할 만큼 충분히 빠르게 대응 체계를 갖추고 있을까요

오픈소스 AI 모델을 개발하는 기업들에게 남용 방지에 대한 법적 책임을 어디까지 물을 수 있을까요

한국을 포함한 다른 나라의 선거에서도 비슷한 방식의 AI 여론 조작이 이미 은밀하게 진행되고 있는 건 아닐까요

일반 시민들이 SNS에서 접하는 정보 중 어느 정도가 실제로는 사람이 아니라 AI가 만든 콘텐츠일지 정확히 가늠할 수 있는 방법이 있을까요

 

국가가 배후에 있는 경우와 민간 기업이 배후에 있는 경우 법적 제재의 수위는 어떻게 달라져야 할까요

인텔아이 사례처럼 방어적 연구라는 해명이 나올 때 이를 검증할 수 있는 독립적인 절차는 마련되어 있을까요

앞으로 AI 에이전트가 실제 인간처럼 자연스럽게 섞여 들어간다면 그때는 어떤 기준으로 진짜와 가짜를 구분해야 할까요

 

이런 질문들에 대한 답을 지금 당장 다 찾기는 어렵겠지만 적어도 질문을 던지고 계속 지켜보는 자세만큼은 놓치지 말아야 할 것 같아요

 

앞으로 지켜봐야 할 지점들

11월 중간선거가 다가올수록 이번 사건과 관련된 후속 조사와 발표가 이어질 가능성이 높아요

미국 정보당국이 이번 조사를 근거로 구체적인 제재나 기술적 대응책을 내놓을지도 지켜볼 대목이에요

 

메타나 엑스 틱톡 같은 플랫폼 기업들이 AI 생성 계정을 걸러내는 탐지 기술을 얼마나 빠르게 고도화할지도 관심 있게 봐야 할 부분이에요

또한 인텔아이 같은 민간 기업들이 실제로 어떤 법적 책임을 지게 될지 이스라엘 내부에서도 논란이 이어질 걸로 보여요

 

이번 사건을 계기로 오픈소스 AI 모델에 대한 국제적인 규제 논의가 본격화될 가능성도 있어 보여요

저도 관련 소식이 추가로 나오는 대로 계속 업데이트해서 전해드릴게요

읽어주셔서 감사해요