'야구장 여성' 영상 게시 사흘만 조회수 800만여회
"피처 김서현인데 타자가 조인성?…오류투성이"
AI 생성 여부 논란 속 화제…"가짜면 소름 돋는다"
"SNS 업로드시 AI 나타내는 '디지털 표식' 강제해야"
[인스타그램 캡처. 재판매 및 DB 금지]
(서울=연합뉴스) 이진주 인턴기자 = ## 야구장 관중석에서 한 미모의 여성이 카메라에 잡힌다. 흰색 탱크톱과 청바지를 입은 긴 생머리 여성은 다리를 꼰 채 한 곳을 응시하다 경기가 마음에 안 든다는 듯 입술을 깨물며 시선을 옮긴다. 화면 위로 "와, 게임에 집중할 수가 없네요!"(Wow, I can't concentrate on the game!)라고 영어로 외치는 어떤 남성의 목소리가 흐른다.
지난 1일 사회관계망서비스(SNS) 인스타그램에 올라온 5초짜리 영상이다.
'티비에 내가 나왔으면 좋겠다'는 설명이 붙은 이 영상은 사흘만인 4일 현재 누적 조회수 811만여회, 하트 2만5천여개를 받으며 화제를 모으고 있다.
그런데 어딘가 이상하다. 여느 프로야구 중계처럼 화면 왼쪽 상단에 점수표, 오른쪽 상단에 채널 로고가 표시돼 있지만 정작 영상에서는 난데없이 영어 음성이 흐른다. 또 자세히 보면 이상한 점들이 포착된다.
이 영상이 인공지능(AI)으로 생성한 것인지를 두고 논란이 이는 가운데, 가짜가 맞는다면 소름이 돋는다는 반응이 나온다. 동시에 SNS에 올라오는 AI 콘텐츠에 대한 가이드라인이 필요하다는 지적이 제기된다.
[인스타그램 앱 캡처. 재판매 및 DB 금지]
해당 영상을 AI 딥페이크라고 지적하는 쪽은 야구 점수표와 응원 슬로건 문구 등 화면 속 요소들에서 오류를 잡아낸다.
영상의 왼쪽 상단에 떠 있는 점수표에는 현재 뛰고 있는 투수가 김서현, 타자가 조인성이라고 적혀 있다. 김서현은 2023년 한화 이글스에 입단해 현역으로 뛰고 있지만, 조인성은 1998년 LG 트윈스에 입단해 2017년 은퇴 한 후 현재 코치로 활동하고 있다.
이 영상을 퍼간 스레드 이용자 'ma***'의 글에는 "찐 야구팬은 AI 여부 바로 구분 가능. 피처(투수) 김서현인데 타자가 조인성? 두 선수는 같은 시대에 뛴 적 없음", "AI잖아. 조인성이 은퇴한 지가 언젠데", "심지어 선수 조인성이 두산인 적도 없음", "내가 살다살다 '최강은 두산'이라는 슬로건을 본 적이 없음", "야구 좋아하면 바로 오류투성이 AI" 등의 댓글이 달렸다.
애초 이 영상을 게시한 이용자 'y***'가 그동안 AI 영상으로 추정되는 게시물만을 올려왔다는 지적도 이어진다.
누리꾼들은 "계정 영상 봐봐라 다 AI임"(인스타그램 이용자 're***'), "계정 자체가 AI인데 구분 안 됨?"(인스타그램 이용자 'we***'), "이거 올리신 분 AI 계정이었어요. 저도 예뻐서 들어가서 봤다가 프로필 보고 AI인 거 알았음"(스레드 이용자 'v_***')이라고 꼬집는다.
하지만 야구에 밝지 않은 경우 오류를 눈치채지 못 하고 여성에 집중한다.
스레드에는 "와 진짜 예쁘다", "홍보 BJ겠지 관심 끌려고", "선수 여친이나 애인인 듯" 등의 반응이 올라왔고, 이런 관심 속 조회수는 계속 늘어간다.
일부 누리꾼은 AI 콘텐츠일 수 있다는 댓글이 아니었다면 실제 상황으로 믿었을 것이라며 혀를 내두르고 있다.
"나는 이제 보이스피싱을 피할 수 없을 것 같다"(인스타그램 이용자 'wh***'), "세상 무섭다. 10년 뒤면 인스타에 가상 인물만 남을 듯"(인스타그램 이용자 'yd***'), "댓글 보기 전까지 AI인지 몰랐음"(인스타그램 이용자 'he***'), "사람만 보면 구분 아무도 못 한다는 게 소름"(스레드 이용자 'ba***') 등의 목소리가 나온다.
[SNS 캡처. 재판매 및 DB 금지]
SNS에 퍼진 가짜 영상이 논란이 된 것은 처음이 아니다.
지난달에는 대전 동물원에서 늑대 '늑구'가 탈출했을 당시 SNS에 올라온 가짜 목격 사진이 당국의 재난 문자 송출과 수색에까지 영향을 미쳤다.
대전경찰청 사이버수사대는 AI를 활용해 조작한 늑구 목격 사진을 생성·유포해 경찰·소방 당국의 수색을 방해한 혐의(위계에 의한 공무집행 방해)로 40대 A씨를 검거했다고 지난달 24일 밝혔다.
러브버그가 기승을 부리던 지난해 7월에는 참새가 러브버그를 쪼아먹는 AI 영상을 실제 장면으로 오인한 일부 방송사가 '천적이 등장했다'는 오보를 내기도 했다.
우리나라는 지난 1월부터 생성형 AI 결과물에 워터마크를 표시해야 하는 'AI 기본법'을 시행하고 있다.
사회적 부작용이 우려되거나 실제와 구분하기 힘든 딥페이크 콘텐츠일 경우 AI로 제작했다는 사실을 이용자가 인식할 수 있게 고지하거나 표시해야 한다는 내용이다.
하지만 이 법은 AI 모델을 개발하고 이를 활용한 서비스를 직접 제공하는 기업과 사업자가 대상이다. AI 서비스를 단순히 업무나 창작 도구로 쓸 경우에는 규제 대상이 아니다.
이광석 서울과기대 IT정책전문대학원 교수(미래이후연구소장)는 "SNS에 올라오는 AI 콘텐츠에 대한 가이드라인도 필요하고, 공익을 크게 훼손한다면 법적 제재도 해야 한다"고 밝혔다.
그는 "플랫폼사업자가 AI 생성 데이터의 맥락이나 확산을 결정하는 매개 권력을 쥐고 있다는 점에서 공익 훼손이나 오정보 사안들에 실질적 책임을 지우고 플랫폼 업체에 대한 처벌 범위를 확대해야 한다"고 강조했다.
이어 "이는 플랫폼 기업의 기술적 조치로 도입되어야 하는 것인데, SNS 업로드 시점에 AI 생성물임을 나타내는 '디지털 표식'을 강제하는 의무적 워터마킹제가 도입돼야 한다"며 "100% 효과적인 장치는 아니더라도 많은 숫자의 AI 생성물 오남용을 막을 수 있는 안전장치 정도로는 기능할 것"이라고 제안했다.
ju@yna.co.kr