AI 기반 허위 판례를 경험한 80%의 판사

저도 경험이 있는데 불변의 법칙인 법에서 조차 AI 환각이 있다니 충격입니다. 정말 관련 법령이 꼭 있어야 할 것 같습니다. 

법원행정처가 전국 법관 360명을 대상으로 실시한 설문조사에 따르면 판사 10명 중 8명이 재판 과정에서 인공지능으로 생성된 허위 또는 부존재 판례가 인용된 서면을 경험한 것으로 드러났습니다. 존재하지 않는 대법원 사건번호를 기재하거나 판결 취지를 왜곡하는 등 허위 자료를 제출한 주체는 사건 당사자 본인뿐만 아니라 법률 전문가인 변호사 소송대리인도 상당수 포함되어 충격을 더했습니다. 법원행정처는 이러한 허위 인용이 소송 상대방에게 불필요한 대응 부담을 지우고 재판 심리를 지연시켜 국민의 소송 부담을 가중시킨다고 지적했습니다. 이에 법관 91.7%가 제도적 대응에 공감함에 따라 법원 당국은 과태료 부과와 법률가 검증 의무화 및 변호사 징계 의뢰 등 소송법 개정을 추진할 방침입니다.

인간의 정직함과 엄밀성이 최우선으로 요구되는 법정에서 생성형 인공지능의 오류와 환각 현상으로 만들어진 가짜 판례가 무분별하게 유통되는 현실은 사법 질서의 신뢰를 무너뜨리는 심각한 도덕적 해이입니다. 정의를 실현하고 당사자의 권리를 침해하지 않아야 할 법정 제출 서면에 최소한의 사실 확인조차 거치지 않은 가짜 법리를 담는 행위는 사법부에 대한 교만이이자 상대방에 대한 윤리적 위해입니다.

특히 법률적 지식과 윤리 의식을 갖추어야 할 변호사마저 편의성을 위해 인공지능의 출력을 무비판적으로 수용하고 검증 책임을 다하지 않은 점은 전문가로서의 직업 윤리를 저버린 처사입니다. 전문가의 검증을 거치지 않은 기술 남용은 법률 서비스의 질을 떨어뜨리고 홀로 소송을 수행하는 취약한 당사자들에게 치명적인 불이익을 줄 수 있습니다.

이번 실태 조사는 첨단 인공지능 기술의 사법 분야 도입에 따른 부작용을 막기 위해 법률 전문가의 책임성과 법적 제재를 대폭 강화해야 함을 일깨워 줍니다. 국회와 사법 당국은 민사 및 형사소송법 개정을 통해 허위 판례 제출에 대한 과태료 부과와 엄격한 검증 의무를 법제화해야 합니다. 아울러 법조인들 스스로 기술에 의존하기보다 진실성과 책임감을 우선시하는 법치 윤리를 바로 세워 공정하고 신속한 재판이 이루어지기를 기대합니다.