마우스 1번에 소설 1권이 뚝딱 나온다는데 출판계가 비명을 지르는 진짜 이유와 앞으로 벌어질 일

공모전 접수함이 이상해졌다 절반이 닮은꼴 원고

공모전 접수함을 열어 보니 이상한 일이 벌어졌어요
한 대형 웹소설 플랫폼이 연 공모전에서 딸깍 소설 출품이 2배에서 3배 넘게 늘었다고 해요
딸깍 소설은 마우스를 딸깍 누르는 것만으로 AI가 대부분을 써 주는 소설을 가리키는 말이에요
공모전 관계자는 문체가 비슷비슷하고 주제까지 흡사한 작품이 많다고 전했어요
그런 작품만 전체의 절반을 넘는다는 설명도 덧붙였어요
심사하는 사람 입장에서는 같은 이야기를 수십 번 읽는 기분일 수 있어요
작품 수는 늘었는데 정작 읽을 만한 작품을 찾기는 더 어려워진 셈이에요
누구나 도전할 수 있는 문이 열렸다는 점은 분명 반가운 변화예요
다만 문이 활짝 열린 만큼 그 문 앞에 서는 줄도 끝없이 길어졌어요
공모전은 새로운 작가를 발견하는 통로인데 그 통로가 점점 막히고 있는 거예요
이 장면은 한 플랫폼만의 이야기가 아니에요
비슷한 고민이 여러 나라 출판 현장에서 동시에 터져 나오고 있어요
그래서 이번 이슈는 작은 해프닝이 아니라 산업 전체의 신호로 봐야 해요

 

 

ISBN이 32.5% 뛰었다 책 공장의 등장

숫자부터 보면 상황이 훨씬 또렷해져요
미국에서는 지난해 ISBN 발급이 전년보다 32.5%나 치솟았어요
ISBN은 책마다 붙는 국제표준도서번호예요
프랑스에서도 출판사에 부여하는 고유 번호인 프리픽스가 12000여 개나 새로 발급됐어요
AI를 쓰면 예전보다 책을 내기가 쉬워지니 1인 출판과 소규모 출판사가 크게 늘어난 거예요
문제는 그 속도를 검증이 따라가지 못한다는 점이에요
어떤 출판사는 1년에 9000권이 넘는 책을 펴냈어요
국내에서 논란이 됐던 한 출판사는 직원이 3명에서 4명 규모였는데도 한 해 9000여 권을 냈다고 해요
사람 손으로는 도저히 불가능한 숫자라서 공장식 생산이라는 표현이 나오는 거예요
출판계에서는 최근 5년간 연평균 약 62000종이던 신간이 앞으로 해마다 200000권에서 300000권 수준으로 불어날 수 있다고 내다봐요
이 전망이 현실이 되면 독자는 서점에서 책을 고르는 일부터 힘들어져요
좋은 책이 사라지는 게 아니라 좋은 책이 파묻히는 게 더 큰 위험이에요

 

영세 출판사와 공모전 그리고 AI 번역 둔갑 작품

국내 사정은 더 조심스러워요
공모전에 의존하는 출판 시장이 많기 때문이에요
문학동네와 창비 위즈덤하우스 같은 10대 출판사를 빼면 대부분 영세한 곳이에요
이런 곳들은 비용이 적게 드는 공모전을 자주 열어 작품을 발굴해 왔어요
그런데 후보작이 워낙 많아지니 AI가 쓴 글을 걸러낼 인력도 시간도 모자라요
최근에는 한 걸음 더 나간 사례도 나왔어요
중국이나 동남아처럼 잘 알려지지 않은 나라의 소설을 AI로 번역하고 살짝 손봐서 출품하는 방식이에요
원작자가 누구인지 아는 사람이 드물다는 점을 노린 셈이에요
이 경우는 AI 사용 문제를 넘어 저작권 침해 문제까지 얽혀요
AI가 다른 작가의 문체나 설정을 무단으로 가져온다는 우려도 같은 맥락이에요
작은 출판사가 이런 문제를 혼자 감당하기는 사실상 어려워요
그래서 업계 전체가 함께 쓸 수 있는 기준이 절실하다는 목소리가 커지고 있어요

 

 

공쿠르 후보였던 소설 진실 공방은 아직 진행 중

가장 상징적인 사건은 프랑스에서 나왔어요
세계 4대 문학상으로 꼽히는 공쿠르상 후보에 오른 텔리송 오렐리앵 작가의 소설이 AI 작성 의혹에 휩싸였어요
상 주최 측과 출판사까지 달려들어 몇 달 동안 조사를 벌였어요
결국 이 작품은 후보에서 제외됐어요
그런데 작가는 지금도 전면 부인하고 있어요
글을 만들기 위해 AI를 쓴 적이 없다는 입장이에요
2017년에 집필을 시작했고 2019년에는 이미 초기 원고가 있었다고 주장해요
탐지 결과에 대해서도 반박했어요
반복과 리듬을 많이 쓰는 아이티와 카리브 문학 특유의 표현이 AI 문장의 특징으로 잘못 읽혔을 수 있다는 거예요
미국작가협회도 AI 탐지 도구는 오류가 날 수 있으니 그 결과만으로 AI 사용 여부를 단정하면 안 된다는 입장을 밝힌 바 있어요
여기서 중요한 사실이 보여요
의심은 쉽고 증명은 어렵다는 점이에요
누명을 쓴 작가가 나와도 문제고 놓치는 가짜가 있어도 문제인 구조예요

 

일본 신인문학상이 흔들린다 응모작 2배 폭증

바다 건너 일본에서도 같은 일이 벌어졌어요
생성형 AI로 쓴 소설이 문학상 공모에 대거 몰리면서 신인문학상 응모작이 2배로 늘었다고 해요
응모작이 늘면 심사 비용과 인력 부담도 같이 커져요
현지 보도에서는 신인문학상의 존속 자체가 위태로워졌다는 분석까지 나왔어요
하야카와 SF 콘테스트는 다음 회부터 규정을 바꾸기로 했어요
생성형 AI를 어디에 어떻게 사용했는지 명시하게 하고 복수 작품 투고도 금지해요
업계 일각에서는 AI 판별 도구로 심사 초기에 미숙한 AI 작품을 걸러내자는 의견도 나와요
더 흥미로운 대목은 그다음이에요
AI 네이티브 작가가 늘면 AI가 쓴 소설을 AI가 심사하는 시대가 올 수 있다는 전망이 거론돼요
사람이 쓰고 사람이 읽는다는 오래된 전제가 흔들리고 있는 거예요
신인을 발굴해 온 문학상 시스템이 중대한 전환점에 서 있다는 평가가 나오는 이유예요

 

 

200만 달러 계약이 날아간 사연과 환불 소동

AI 의혹은 돈 문제로 곧장 이어져요
미국 맥밀런 산하의 한 출판사는 나이지리아 출신 미국 작가 제리 팔라데의 범죄소설을 USD 2000000 규모로 계약했어요
우리 돈으로 약 28억원이에요
그런데 이후 창작 과정을 입증할 수 없다며 계약을 파기했어요
작가는 AI를 활용하지 않았다고 부인하고 있어요
하지만 사용 여부를 완벽하게 입증할 방법은 지금으로선 없어요
국내에서도 비슷한 소동이 있었어요
AI로 번역한 고전문학을 선보인 한 플랫폼이 AI 사용 사실을 알리지 않아 독자들의 비난을 받았어요
의혹이 불거진 뒤에도 애매한 해명으로 혼란을 키웠다는 지적이 따랐어요
결국 이전에 결제한 이용자에게 환불 신청 시 전액 환불하겠다고 공지했어요
앞으로 모든 채널에 AI 활용 여부와 번역 과정을 투명하게 안내하겠다는 약속도 내놨어요
AI를 썼다는 사실보다 숨겼다는 사실이 신뢰를 더 크게 무너뜨린다는 교훈이 남았어요

 

공공도서관 서가에 스며든 150종

세금으로 운영되는 공공도서관도 안전지대가 아니에요
전국 공공도서관에 딸깍 출판으로 만들어진 책이 최소 150종 이상 장서로 등록된 것으로 확인됐어요
기본적인 사실 확인이나 교정과 교열이 이뤄지지 않은 책들이라는 지적이 따라요
저작권 문제를 안고 있다는 우려도 함께 나와요
왜 이런 일이 생겼을까요
희망도서 선정 제외 기준에 생성형 AI 관련 규정이 없었기 때문이에요
선정성이나 고가 도서 영리 목적 자료 같은 기준은 있어도 AI 양산형 도서를 배제할 근거가 없었어요
한 수서 담당자는 기준 밖의 책을 거부하면 검열 논란으로 민원이 제기될 수 있다고 설명했어요
서점의 전자책 서비스에 이미 올라 있어 구입했다는 설명도 있었어요
제도가 현실을 따라가지 못한 틈으로 책이 스며든 거예요
다행히 국회 본회의에서 도서관법 일부개정안이 통과됐어요
국립중앙도서관이 AI 생성 출판물의 납본을 제한하거나 부수를 조정할 근거가 생겼고 AI 활용 사실을 숨기고 보상금을 받으면 환수할 수 있게 됐어요

 

 

사람이 책임지는 책인가 3단계 표시제의 등장

출판계도 가만히 있지는 않았어요
한국출판인회의와 한국작가회의 등 12개 단체가 독자를 위한 출판사와 저작자의 AI 사용 원칙을 발표했어요
딸깍 출판 논란을 계기로 업계와 작가 단체가 스스로 만든 첫 기준이에요
핵심은 AI 관여 정도를 3단계로 나눠 표시하자는 거예요
1단계는 인간 저작물이에요
AI를 단순 교정이나 개요 작성 목차 구성에 쓴 경우도 여기에 들어가고 별도 표시는 필요 없어요
2단계는 AI 보조 저작물이에요
인간이 쓴 내용을 AI로 보완했거나 AI가 만든 내용을 쓰더라도 인간이 충분히 통제하고 검증해 완성한 경우예요
3단계는 AI 생성 출판물이에요
인간의 실질적인 통제와 검증이 없었던 경우라 저작물이 아닌 출판물이라는 이름이 붙었어요
정책위원장은 AI 관여 정도를 정밀하게 측정하기는 불가능하다고 설명했어요
그래서 비율 대신 저작권자로서 책임질 사람이 있는지를 기준으로 삼았다고 해요
저는 이 발상이 꽤 영리하다고 느꼈어요
몇 퍼센트를 썼는지 따지는 싸움은 끝이 없지만 누가 책임지는가는 훨씬 분명하게 답할 수 있거든요

 

출판사 76.1%는 이미 AI를 쓴다

현실은 생각보다 훨씬 AI와 가까워요
국내 출판사 188곳을 대상으로 한 조사에서 생성형 AI를 출판 업무에 도입했다는 응답이 76.1%였어요
반면 AI가 주요 콘텐츠를 만든 출판물을 한 종 이상 낸 경험은 20.7%에 그쳤어요
보조적 사용은 이미 일상이 됐지만 핵심 콘텐츠 생성은 아직 제한적이라는 해석이 나와요
어느 경우부터 AI 표시가 필요한지 묻자 본문의 상당 부분을 AI가 생성한 경우라는 답이 64.9%로 가장 많았어요
한편 법도 움직이고 있어요
AI 기본법의 투명성 확보 의무에 따라 창작물에 AI를 활용하면 식별할 수 있는 워터마크를 넣어야 해요
1년의 계도기간이 지나면 위반 시 과태료가 30000000원이에요
그런데 이 의무는 생성형 AI 서비스를 운영하는 사업자에게 적용되고 AI로 콘텐츠를 만드는 이용사업자는 예외예요
출판계가 자체 표시제를 서두르는 배경이 여기에 있어요
한 출판사는 아예 인간 저술 출판물 보증제를 도입했어요
저자가 윤리 서약에 서명해야 보증 마크를 붙일 수 있고 AI가 만든 문장을 그대로 원고에 쓰면 저술이 아니라 표절로 본다고 해요

 

 

작가들의 사정 5000자 연재와 번아웃

작가들의 입장도 들어 볼 필요가 있어요
웹소설은 주 5회 이상 회당 최소 5000자를 써야 하는 가혹한 일정이 흔해요
만성 피로와 번아웃을 호소하는 작가가 많아요
AI는 이 중노동을 덜어 주는 구원투수라는 평가를 받아요
자료 조사나 배경 설명에 AI를 쓰는 작가는 이미 많다고 해요
노트북 한 대와 생성형 AI 도구만 있으면 아이디어만으로 바로 집필에 나설 수 있다는 점도 진입장벽을 낮췄어요
문학 쪽에서도 변화가 보여요
황석영 작가는 신작을 쓰며 챗GPT와 대화를 나눴다고 밝혔어요
600년 된 팽나무와 시대 배경 구성 방법 같은 요소를 넣고 상상력을 넓히는 용도였다고 해요
반대편에는 창작 분야에 AI는 절대 침투할 수 없다는 강경한 작가도 적지 않아요
독자 반응도 엇갈려요
한 장르문학 출판사에서는 AI가 쓴 것 같다며 독자가 편집부에 신고하는 일이 생겼어요
시간을 들여 읽었는데 AI가 썼다면 가짜로 여겨진다는 정서가 있는 거예요
이쯤 되면 AI 사용이 곧 나쁨이라는 단순한 공식은 맞지 않아 보여요

 

 

걸러낼 수 있을까 탐지의 한계

그렇다면 AI 글을 기술로 걸러내면 될까요
웹소설업계 관계자는 AI로만 쓴 글은 아직 어딘가 엉성하지만 AI 사용을 100% 잡아낼 방법은 사실상 없다고 말했어요
오렐리앵 사례처럼 탐지 도구는 오판할 수 있어요
게다가 AI 작품이 줄어든 것처럼 보이는 곳도 있어요
해외 한 작품 투고 매체의 편집장은 대량으로 들어오던 순수 AI 작품은 어느 정도 줄었다고 밝혔어요
대신 전통적인 투고 작가와 훨씬 비슷한 패턴을 보이는 AI 공동 집필 작품이 늘고 있다고 했어요
사람의 손을 더 많이 탄 AI 작품이 늘고 있다는 뜻이에요
이쯤 되면 이분법으로는 설명이 안 돼요
AI냐 사람이냐가 아니라 어디까지 AI가 손을 댔고 누가 최종 책임을 지느냐로 질문이 바뀌고 있어요
한편 AI 기업 쪽에서는 글쓰기 능력을 높이려고 글쓰기 전문가를 채용하는 일까지 벌어졌어요
AI가 사람의 글을 배우려고 사람을 찾는 모순적인 풍경이에요

 

제가 보는 해법 금지보다 공개 그리고 책임

여기서부터는 제가 보는 방향을 정리해 볼게요
AI 사용을 전면 금지하는 길은 현실적이지 않다고 생각해요
이미 출판사 4곳 중 3곳이 쓰고 있고 유명 작가들 사이에서도 활용이 늘고 있으니까요
금지를 하면 쓰는 사람이 숨기는 쪽으로 움직일 가능성이 커요
숨기기가 늘면 검증 비용은 더 커지고 정직한 작가만 손해를 봐요
그래서 공개를 유도하는 설계가 훨씬 낫다고 봐요
AI 사용을 밝혀도 불이익이 크지 않고 숨기다 걸리면 책임이 무겁게 따르는 구조예요
아마존이 AI를 사용했을 때 반드시 고지하게 하고 일본이 저자에게 저작권 침해 여부의 자체 검증을 요구하는 것도 같은 결이에요
다만 표시제만으로는 부족해 보여요
출판사가 AI 활용 정도를 1차로 확인하도록 노력한다는 문구는 선언에 가깝고 실제로 확인하기는 쉽지 않아요
저자 서약과 계약서 명시 사고가 났을 때의 책임 분담 같은 장치가 같이 붙어야 효과가 있어요
독자의 선택권도 중요해요
무엇으로 만든 책인지 알고 고르는 환경이 있다면 AI 책이든 사람 책이든 시장이 알아서 가치를 매길 거예요

 

 

앞으로 1년에서 3년 사이에 벌어질 장면들

예측은 어디까지나 추정이라는 점을 먼저 말씀드려요
가장 먼저 보일 변화는 공모전 규정이에요
AI 사용 범위를 적어 내게 하고 작품 수를 제한하는 방식이 퍼질 가능성이 높아요
일본의 사례가 이미 그 길을 보여 주고 있어요
다음으로는 표시 마크가 책의 새로운 경쟁력이 될 것 같아요
인간 저술 보증이나 1단계 표시가 붙은 책이 오히려 프리미엄으로 읽힐 수 있어요
반대로 AI 생성 출판물은 싼 가격과 빠른 속도로 틈새 시장을 차지하겠지요
공공 영역에서는 도서관 구입 기준에 AI 항목이 들어가는 흐름이 커질 거예요
법 개정이 이미 시작됐으니 후속 지침이 뒤따를 가능성이 높아요
출판사 쪽에서는 검증 업무가 새로운 직무로 자리 잡을 수 있어요
기획과 편집 못지않게 이 글이 어떻게 만들어졌는지 확인하는 일이 핵심 역량이 될 거예요
마지막으로 분쟁도 늘어날 거예요
AI 사용 여부를 둘러싼 계약 파기와 소송이 늘고 입증 책임을 어떻게 나눌지가 큰 쟁점이 되겠지요
탐지 기술이 발전해도 오판 논란은 쉽게 사라지지 않을 거예요
그래서 기술보다 절차와 신뢰가 더 중요해질 거라고 저는 예상해요

 

 

독자는 결국 이야기를 읽는다

결국 책을 사는 사람은 독자예요
독자는 문장 뒤에 사람이 있다는 감각을 사 가요
한 출판사 관계자의 말처럼 AI는 문을 열어 줄 뿐이고 그 문 안으로 들어가 소통하며 마음을 얻는 일은 사람의 몫이라는 말이 오래 남아요
도구가 아무리 좋아져도 무엇을 왜 쓰는지는 사람이 정해야 해요
이번 논란이 불편한 이유는 AI가 글을 잘 쓰기 때문이 아니에요
누가 어떤 책임으로 이 글을 세상에 내놓았는지가 흐려지기 때문이에요
그 흐릿함을 걷어 내는 일이 지금 출판계가 풀어야 할 숙제예요
창작자는 솔직하게 밝히고 출판사는 성실하게 확인하고 독자는 알고 고르는 환경이 만들어지면 좋겠어요
딸깍 한 번으로 책이 나오는 시대에도 좋은 이야기는 여전히 사람의 마음에서 길어 올려진다고 믿어요
앞으로 이 논의가 어디로 흘러가는지 계속 지켜볼 만해요