글로벌 쇼트폼(짧은 동영상) 플랫폼 틱톡이 6·3 지방선거를 앞두고 딥페이크 등 선거 관련 허위정보 대응을 강화하는 한편, 정치인·정당 계정의 수익화 기능도 제한한다.
틱톡은 20일 ‘선거 신뢰·공정성을 위한 플랫폼 안전’ 온라인 간담회를 열어 중앙선거관리위원회와의 협업을 통해 선거법 위반 소지가 있거나 우려가 있는 콘텐츠에 대한 삭제·노출 제한·계정 제재 등의 조처를 강화한다고 밝혔다. 이와 함께 플랫폼 안에 중앙선관위의 공식 정보를 제공하는 ‘선거센터’를 운영하고, 이용자가 선거 관련 키워드를 검색할 경우 안내 배너를 노출한다.
틱톡은 국회의원·대통령 선거에 견줘 후보자가 많고 지역 이슈가 세분화된 지방선거의 특성을 고려해 지역 단위 허위정보와 조작 콘텐츠 대응도 강화할 계획이다. 태스크포스(TF) 인력과 자동화 기술을 활용해 관련 콘텐츠를 모니터링하고, 글로벌 팩트체킹(사실관계 확인) 기관 ‘리드 스토리즈’(Lead Stories)와 심영섭 경희사이버대 교수(미디어영상홍보학) 등 국내 전문가가 참여하는 안전자문위원회 자문을 받기로 했다.
생성형 인공지능(AI)을 활용한 딥페이크 콘텐츠도 규제 대상이다. 이용자가 실제와 혼동할 수 있는 생성형 인공지능 기반 콘텐츠를 게시할 때는 ‘인공지능 생성 콘텐츠’라는 점을 표시해야 하며, 라벨을 부착했더라도 가이드라인을 위반하면 콘텐츠 삭제나 노출 제한 조처가 이뤄질 수 있다.
틱톡은 현재 정치인·정당 관련 계정의 정치 광고와 수익화 기능을 제한하고 있다. 유튜브 ‘슈퍼챗’처럼 실시간 후원 기능이 악의적인 정치 콘텐츠 확산과 결합해 여론을 호도할 수 있다는 점을 고려한 조처다. 플랫폼 내 정치적 목적의 모금이나 선거 관련 기부 유도 역시 금지된다.
틱톡 쪽은 “플랫폼은 열린 대화의 장을 제공하는 동시에 커뮤니티를 위험으로부터 보호해야 한다”며 “허위정보와 기만행위, 인공지능 생성 콘텐츠 오용, 혐오와 폭력 조장 등으로부터 이용자를 보호하기 위해 노력하고 있다”고 말했다.
선담은 기자 sun@hani.co.kr