‘추억이 담긴 졸업 사진이 딥페이크의 소스가 되지 않도록’
졸업 앨범 촬영을 앞둔 지난 12일, 서울대학교 총학생회가 사회관계망서비스(SNS)에 올린 글에 23일 기준 6400개가 넘는 ‘좋아요’가 달렸다. 졸업 사진에 딥페이크 방지 기술을 적용하겠다는 학생회 공지에 학생들이 크게 호응한 배경에는, 2년 전 학내에서 벌어진 대규모 불법 합성물(딥페이크) 성범죄가 남긴 공포가 자리 잡고 있다. 추억으로 남아야 할 졸업 사진 촬영마저 공포로 뒤바꾼 딥페이크 범죄를 ‘기술’로 다소나마 막을 수 있다는 기대감이 번진 것이다.
서울대 총학생회 등의 설명을 들어보면, 서울대는 지난해 찍은 졸업 사진 5800여장과 올해 촬영 중인 2027년도 졸업 사진에 대해 ‘딥페이크 방지 기술’을 적용한다. 사람 눈에 보이지 않는 아주 작은 픽셀(점) 신호를 이미지 속 얼굴에 넣어두면, 딥페이크 생성 모델이 얼굴 특징을 잘못 읽어 전혀 다른 얼굴로 출력하는 빈틈을 노린 방식이다. 기술은 아직 상용화 이전 단계지만, 불법 무료 딥페이크 모델 가운데 70%는 막을 수 있다는 게 기술을 개발한 인공지능(AI) 보안 스타트업 ‘스틸컷’ 쪽 설명이다. 서울대 졸업 앨범 사례가 알려진 뒤 다른 대학교 총학생회 2곳도 스틸컷에 방지 기술을 문의했다고 한다.
총학생회가 스틸컷과 졸업 사진에 방지 기술을 적용하기로 한 건 2024년 이른바 ‘서울대 딥페이크’ 사건으로 불린 대규모 딥페이크 성범죄 이후 가시지 않는 충격 때문이다. 서울대 졸업생 박아무개씨는 여성들 사진을 합성해 성착취물을 제작하고 텔레그램 채널과 대화방에서 유포했는데, 졸업 앨범 사진까지 범행에 악용됐다. 확인된 피해자 60여명 가운데 12명이 서울대 동문이었다. 서울대에서 인공지능 ‘머신 러닝’(기계 학습)을 연구하던 이정훈 스틸컷 대표 지인도 다른 딥페이크 범죄 피해에 관련된 적이 있었고, 이씨는 같은 해 8월부터 딥페이크 방지 기술을 본격적으로 연구하기 시작했다. 가해자 박씨는 지난 4월 항소심에서 징역 9년을 선고받고 수감 중이다.
학생 사회에서 딥페이크 성착취 범죄를 막을 기술적 대응까지 고민하고 있지만, 인공지능을 악용해 손쉽게 이뤄지는 범행 특성 탓에 불안감은 좀처럼 가라앉지 않고 있다. 한국여성정책연구원이 지난해 6월 대학생 1500명에게 물었더니 35%가 대학 내 딥페이크 성적 합성물 사건을 ‘실제로 접한 적 있다’고 답했다. 특히 여성 대학생은 42.5%가 딥페이크 성착취물 범죄를 실제 접한 경험이 있다고 응답했다. 내년 2월 서울대 졸업을 앞둔 오아무개(25)씨는 “딥페이크를 만들고 유통할 수 있는 플랫폼이 있는 한 근본적인 해결책이 있을지 의문이다. 학과 공지로 방어 기술 이야기를 들었지만, 졸업 사진은 찍지 않을 계획”이라며 “졸업 사진을 찍는다면 학교생활을 마무리한다는 기쁨과 악용에 대한 두려움을 같이 느낄 것 같다”고 말했다.
전문가들은 범죄 악용 기술의 제한부터 성착취물 유포 행위에 대한 엄격한 처벌, 신속한 삭제에 이르기까지 전방위적인 대책이 강구돼야 한다고 짚었다. 전윤정 국회 입법조사처 입법조사관은 “유포도 심각한 범죄라는 인식을 갖도록 교육이 중요하다”며 “피해 영상물 삭제와 유포 차단 등이 신속하게 이뤄지도록 국외 주요 플랫폼에 대한 정부 차원의 대책과 국제 공조가 필요하다”고 말했다.
임재희 기자 limj@hani.co.kr