청소년 AI 챗봇 규제

국정감사에서 청소년이 AI 챗봇을 쓰는 문제가 이야기돼서 기사를 읽어봤어요. 요즘 아이들이 친구처럼 AI랑 대화하는 일이 많다 보니 이런 논의가 나오는 것 같아요.

이주희 의원이 12일 과학기술정보방송통신위원회 국정감사에서 김종철 방송미디어통신위원회 위원장에게 사업자가 사용자 연령을 확인하도록 의무를 두고, 위험한 대화에는 개입하는 제도를 도입해야 한다고 주문했어요.

의원은 국내에서 가장 오래 쓰는 AI 챗봇이 제타라고 설명했어요. 한 달 이용 시간이 1억1000만시간이고 챗GPT의 2배가 넘는다고 해요. 이용자 10명 중 9명 가까이가 10대와 20대라는 통계도 함께 언급했어요.

더 눈에 띄는 건 초록우산 조사 결과예요. 자해, 자살, 폭력, 선정적인 내용을 AI에게 물은 청소년 중 52%가 구체적인 답변을 받았다고 해요. 아이와 AI가 단둘이 나누는 대화라서 부모나 교사가 전혀 통제할 수 없다는 점도 문제로 짚었어요.

해외 사례도 소개했어요. 미성년자 전면 금지, 자살이나 자해 신호가 감지되면 상담 기관으로 연결하는 위기개입, AI가 의사나 상담사 같은 전문가가 아니라는 사실을 알리는 방식 등이에요. 의원은 당장 청소년 AI 자체를 막기는 어렵지만 심각한 과몰입은 반드시 막아야 한다고 했어요.

입법 방향으로는 사용자 연령 확인 의무, 보호자 동의 조항, 중독적 설계 제한, 위험 대화 시 대응 근거 마련을 제안했어요. 김종철 위원장은 입법이 더디게 진행되는 점이 안타깝다며 정보통신망법 개정안이든 AI 기본법 보완이든 충실히 이행되도록 최선을 다하겠다고 답했어요.

AI 챗봇은 편리하지만 아이들에게는 보호 장치가 먼저 필요하다는 점을 다시 생각하게 돼요. 실제로 법이 어떤 속도로 만들어지는지, 업체들이 연령 확인과 위기 대응을 어떻게 갖출지 앞으로 지켜봐야 할 것 같아요.