최근 수사기관을 통해 딥페이크 성범죄 피해를 접수한 중앙디지털성범죄피해자지원센터(중앙디성센터)는 온라인 모니터링 과정에서 피해자 ㄱ씨의 추가 피해가 의심되는 사진을 다수 발견했다. 다만 이 사진들이 ㄱ씨의 일상 사진인지, 타인이 합성·편집한 불법 영상물인지 육안으로는 구별하기 어려웠다. 이에 중앙 디성센터는 ‘인공지능(AI) 기반 딥페이크 탐지 솔루션’을 활용해 사진 중 일부가 딥페이크 영상물임을 확인하고 추가 유포 차단 조치를 진행했다.
성평등가족부는 1일, 인공지능이 디지털 성착취물을 실시간으로 탐지해 자동 신고와 삭제 요청을 하는 시스템을 본격 도입했다고 밝혔다.이번 기술 도입으로 ㄱ씨의 사례처럼 육안 검토에 의존했던 합성물 구별에 인공지능을 적용해 딥페이크 여부를 즉시 판별하고, 피해자가 인지하지 못한 합성물까지 찾아내 추가 유포를 사전에 차단할 수 있게 됐다.
아울러, 기존에는 중앙디성센터 종사자가 수작업으로 진행했던 탐색, 삭제 요청, 삭제 여부 확인 등 과정을 자동화했다. 이번 시스템 도입으로 약 2만 개의 누리집에 대해 삭제요청부터 처리 이력 관리까지 전 과정이 자동화됐고, 건당 처리 시간이 1분 이내로 단축됐다.
삭제 요청 경로도 다양해졌다. 김미순 중앙디성센터장은 한겨레에 “이전에는 영상물이 올라간 누리집의 운영자 중심으로 삭제 요청을 했지만, 이번 시스템을 통해 운영자뿐만 아니라 미국 국립실종학대아동방지센터(NCMEC), 글로벌 콘텐츠 전송 네트워크(CDN) 사업자인 클라우드플레어에도 삭제 요청을 할 수 있도록 했다”며 “더 다양한 통로로 빠르게 삭제 요청을 하도록 자동화한 것”이라고 했다.
사회관계망서비스(SNS), 랜덤채팅앱 등에 있는 아동·청소년 성착취물과 유인정보를 24시간 자동 수집해 자동으로 신고 및 삭제를 요청하는 인공지능 시스템도 도입됐다. 실제로 지난 2월23일부터 25일간 시범운영을 한 결과 중앙디성센터 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 늘었다.
원민경 성평등부 장관은 “인공지능 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 밝혔다.
고나린 기자 me@hani.co.kr