AI 안경, 기술 중립성의 신화를 허물다

수능을 앞두고 인공지능 안경을 활용한 시험 부정행위 관련 보도가 잇따랐다. 초소형 카메라 등의 디지털 기기를 착용하고 시험에 응시한 세무사 시험 수석 합격자의 자백에 이어 인공지능을 활용해 법학적성시험 리트(LEET)에서 만점을 받은 한 치대생의 자살 소식은 시민을 충격에 빠뜨렸다. 민심은 싸늘하다. 어떻게 그럴 수 있느냐고 비난한다. 부정행위 당사자에게 분노를 쏟아낸다. 나 또한 그러한 부정행위를 용인해서는 안 된다고 생각한다.

하지만 한 가지 묻고 싶다. 이러한 일탈은 중고교 수행평가에서 인공지능 ‘딸깍' 결과물을 제출하고 ‘제가 썼는데요?'라고 말하는 것에서 얼마나 먼가? 대학 기말 과제 작성에서 처음부터 끝까지 인공지능의 도움을 받아 놓고는 자기 이름만 명기하여 제출하는 것과는 또 어떻게 다른가? 수많은 연구자들이 인공지능 활용 내역을 밝히지 않고 논문을 성공적으로 게재한 일과는 또 어떻게 구별할 수 있는가? 이들 사이의 경중이 없다고 말하는 것이 아니다. 과제 수행과 국가 자격 시험에서의 인공지능 활용은 확연히 다른 파장을 일으킨다. 하지만 본질적으로는 평범한 학생과 시민들이 인공지능을 사용해 해오던 일과 최근 불거진 시험 부정행위는 그리 다르지 않다. 부정행위에 분노를 쏟아내는 사람들 중 다수가 익숙하게 해오던 일이라는 이야기다. 좀 더 냉철하게 우리 자신을 바라봐야 한다.

2027학년도 대학수학능력시험이 실시된 19일 서울 용산구 용산고등학교에서 한 감독관이 금속탐지기를 들고 있다. 그 옆으로 수험생들이 각자의 가방을 복도에 놓고 있다. 사진공동취재단

시험장의 관리 통제를 강화하고 시험의 ‘공정성’을 지켜야 한다는 목소리가 높다. 정부도 재빠르게 고강도의 수능 부정행위 방지 대책을 내놓았다. 학부모와 학생들 또한 분주하고 불편한 며칠을 보냈다. 교사들은 일분일초도 방심할 수 없는 초긴장 상태에서 예년보다 과중한 감독 업무를 담당했다. 인공지능과 디지털 기술이 어그러진 욕망과 결합하는 상황은 한국사회에 시대적 도전을 던져준다. 이는 시험 감독 체제 강화를 훌쩍 넘어서는, 이 사회가 어떤 배움과 평가, 선발과 기회의 지평을 조직할 것인가, 나아가 어떻게 깨진 신뢰를 복원할 것인가의 문제다. 시험만 바꾸어서는 결코 달성할 수 없는 과제다.

사회문화적·제도적 개혁 논의와 함께 짚고 싶은 것은 인공지능 기술에 대한 대중의 관점이다. 흔히 인공지능은 그저 중립적인 도구이니 잘 쓰면 된다고들 한다. 하지만 그런 기술은 존재하지 않는다. 옥스퍼드대 인공지능 윤리 연구소의 카리사 벨리즈(Carissa Véliz)가 말하듯 기술은 결코 중립적일 수 없다. 기술은 특정한 의도를 가진 인간에 의해 특정한 일을 하기 위해 디자인되기 때문이다. 예를 들어 미국 총기협회(NRA)를 위시한 총기 적극 찬성론자들은 총은 중립적인 도구이며 어떻게 사용하느냐에 따라 좋은 결과를 낳을 수도, 부정적인 결과로 이어질 수도 있다고 주장한다. 하지만 벨리즈는 “총으로 요리할 수 있다는 생각은 꿈에서도 하지 못할 것이다. 총은 그러라고 만든 게 아니기 때문이다.”라고 일갈한다. 태생부터 위협과 살상을 위해 만들어진 도구는 결코 중립적일 수 없다는 것이다.

인공지능은 처음부터 인간의 지능을 모사하고 뛰어넘기 위해 만들어진 기술이다. 이러한 기술을 중립적이니 잘 쓰기만 하면 된다고 말하는 것은 총이 중립적인 기술이기에 잘 쓰기만 하면 되는 기술이라고 말하는 것과 그리 다르지 않다. 소위 ‘범용인공지능(AGI)'에서 ‘인공초지능(ASI)'을 겨냥하는 연구가 시장을 휩쓸고 여기에 천문학적 자본이 몰리는 상황에서 인공지능은 더더욱 중립적일 수 없다. 하지만 여전히 많은 이들이 '기술은 중립적이다'를 외친다.

수능이 치러지던 11월 19일, 미국의 인공지능 기업 앤스로픽은 나스닥에 입성했다. 일부 인공지능 연구자들은 2027년이 인공지능이 자기개선(인간의 개입 없이 스스로 자신의 역량을 증강하는 일) 단계로 들어설 것이라 예측하고 있다. 이제 ‘중립적인 인공지능 기술’의 신화를 깨고 이 기술 자체의 위험에 대해 전 사회적인 논의를 진행할 때다. 더는 늦출 수 없다.

응용언어학자

조회 0 스크랩 0 공유 0
댓글 0
댓글 정렬 옵션 선택
댓글이 없습니다.
첫번째 댓글을 남겨주세요.