"아이들 사진 SNS 올리지 마세요"…'AI 성착취물' 이용될 수도

영국 가디언지 "대부분 부모, 그렇게 악용될 수 있단 사실조차 몰라"

온라인에 올라오는 아동 사진이 인공지능(AI)을 이용한 '성착취물' 등 악용 위험이 크단 경고가 나왔다.

3일 영국 가디언지 보도에 따르면, 영국 인터넷 감시 재단(IWF)과 국가범죄청(NCA) 은 온라인 범죄자들이 공개적으로 이용 가능한 아동 이미지를 악용, 성적 콘텐츠를 만드는 사례가 늘었다고 밝혔다.

IWF는 지난해 AI가 생성한 아동 성학대 영상이 3440개에 달할 것으로 예상했다. 이는 2024년의 13개에 비해 크게 증가한 수치.

아동보호기관인 차일드라인에서 접수한 사례도 있었다.

한 10대 청소년은 "낯선 사람이 자신의 얼굴과 침실 사진을 이용해 자신의 인스타그램 계정에서 자료를 가져와 가짜 누드 사진을 만들었다"며 신고했다.

그러나 대부분의 부모들이 이에 대한 위험성을 잘 모른다고 우려했다.

이에 범죄 악용을 방지하기 위한 권고안도 내놓았다.

부모와 보호자가 SNS 계정을 비공개로 설정하거나, 자녀 사진은 '친한 친구' 그룹을 만들어 여기에만 공유토록 한 것이다.

아동 자선단체인 NSPCC도 "18세 미만 청소년들은 소셜 미디어 계정을 비공개로 설정할 것을 권장한다"고 했다.

IWF 최고기술책임자인 댄 섹스턴은 "부모들에게 아이들의 사진을 공개적으로 게시하지 말라고 권하는 것이 불편하지만 대안이 없다"며 "보호 장치가 없기 때문"이라고 했다.