틱톡에 따르면 이번 지방선거 대응 원칙으로 △유해 콘텐츠 차단 △공신력 있는 정보 접근 지원 △중앙선거관리위원회와의 협업 등을 제시했다.
우선 선거와 관련한 유해 허위 정보는 플랫폼에서 허용되지 않는다. 투표일이나 투표장·투표 자격·투표 절차 등에 대한 오도성 정보와 조직적 허위 행위, 출처를 속인 콘텐츠, 선거 참여를 저해할 수 있는 정보 등은 즉각 조처된다. 특정 지역의 투표일이 실제와 다르다거나, 특정 집단은 투표할 수 없다는 식의 잘못된 정보는 정책 위반 대상이다. 우리나라의 허위정보 대응을 위해서는 글로벌 팩트체크 기관인 리드 스토리스(Lead Stories)와 협력하고 있다.
틱톡은 최근 위반 콘텐츠의 99%를 선제적으로 삭제했으며, 이 중 86%는 조회수가 발생하기 전에 차단됐다고 밝혔다. 틱톡 관계자는 "공개적으로는 24시간을 기준으로 말하지만 실제로는 수 시간, 경우에 따라 1시간 이내에 처리되는 경우도 많다"고 설명했다.
정부나 정치인 계정에 대한 규제도 엄격히 적용된다. 틱톡 내에서 정치 광고 및 관련 정책을 우회하는 기능 활용은 원천 금지되며, 선거 자금 모금이나 후원 독려 행위도 허용되지 않는다. 이들 계정은 플랫폼 내 수익화 프로그램 대상에서도 전면 제외한다.
AI 생성 콘텐츠에 대한 대응 기준도 공개됐다. 실제 인물의 발언이나 행동을 허위로 묘사하거나 존재하지 않는 사건을 실제처럼 보이게 만드는 딥페이크 콘텐츠는 삭제 대상이다. 크리에이터가 AI 생성 콘텐츠임을 표시하지 않을 경우 틱톡이 자체적으로 라벨을 부착할 수 있으며, 라벨이 붙어 있더라도 가이드라인 위반이나 국내법 위반 소지가 있으면 삭제·제한 조치가 이뤄진다. 틱톡 관계자는 " 글로벌 기관과 협력해 AI 생성 콘텐츠를 선제적으로 파악하는 체계도 갖추고 있으며 워터마킹 기술을 통한 AI 탐지도 추가로 활용하고 있다"고 밝혔다.
이번 선거에서는 중앙선거관리위원회(선관위)가 공식 틱톡 계정을 새로 개설한다. 선관위가 직접 채널을 운영하며 선거 일정·투표 절차·사전투표 안내 등을 숏폼 영상으로 제공하는 방식이다. 또 선관위와는 사이버선거범죄대응팀과의 전용 협력 채널도 운영해 선관위가 신고하는 콘텐츠는 신뢰와안전 팀에서 우선 검토한다.
한편 네이버(NAVER)도 선거를 앞두고 댓글 정화, 허위정보 유통 감독 등을 강화하고 있다. AI 기반 탐지시스템 '클린봇'이 기사 내 일정 기준 이상의 악성 댓글을 탐지하면 자동으로 댓글을 비활성화 한다. 선거 기간 후보자와 관련된 댓글 삭제 요청이 있는 경우 한국인터넷자율정책기구(KISO) 정책에 따라 처리하고, 관련 법령에 근거한 중앙선거관리위원회와 협조한다. 허위 정보 유통을 막기 위해 24시간 모니터링 강화, 핫라인 구축으로 이슈 대응에 나설 방침이다.