새로운 프리미엄 상품: 사람이 쓴 책

일부 출판사들은 AI가 작가를 돕는 데 그치지 않고 작가를 대체할 수도 있다고 생각한다

런던의 대니얼 토머스

올해 초 작가 스티븐 로젠바움은 자신의 세계를 뒤집어놓은 전화를 받았다. 3년 동안 조사하고 집필한 책에 AI 도구가 조작한 인용문이 들어 있다는 통보였다.

로젠바움은 이 사실이 발견된 지 두 달 후 FT에 “《The Future of Truth》에 사실과 다른 내용이 있다는 걸 알았을 때 첫 반응은 ‘그럴 리 없다’는 것이었습니다”라고 말했다. “여러 차례의 편집과 검토를 거치는 전통적인 출판 과정을 밟은 책이었기 때문입니다.”

아이러니하게도 진실과 기술의 미래를 다룬 논픽션인 이 책에서 AI 도구를 사용했다는 점을 로젠바움은 분명히 밝혀왔다. 다만 그 용도는 원문 자료와 인터뷰를 요약하는 등 자료를 조사하고 정리하는 데 국한됐다.

“제가 인식하지 못했던 점은, 경우에 따라 AI가 그 요약문을 마치 직접 인용문인 것처럼 바꿔놓았다는 것입니다.” 그가 말했다. “위험한 점은 AI가 형편없는 문장을 쓴다는 데 있지 않습니다. 존재하지 않았던 사실에 설득력 있는 문장을 덧붙인다는 것이 위험합니다.”

AI의 급속한 발전은 1,400억 달러 규모의 출판업계가 도서를 의뢰하고 편집하며 유통하는 방식을 바꾸고 있다. AI 기업들이 저작권 보호 자료를 무단으로 사용하는 것도 중요한 우려로 떠올랐다. 지난주 Anthropic은 작가와 출판사에 15억 달러를 지급하는 합의에 동의했다. Anthropic이 대규모 언어 모델을 훈련하기 위해 48만 편이 넘는 출판물을 대가나 허가 없이 사용한 데 따른 것이다.

하지만 출판업계를 우려하게 만드는 것은 문학 창작 자체에 이 기술이 도입되는 것, 그리고 AI가 인간 작가를 대체할 수 있다는 위협이기도 하다. 출판업은 수십 년은 물론 수백 년 동안 비슷한 방식으로 운영돼 온 사업이다.

출판업계는 일부 출판사와 작가들이 절대 손대지 않겠다고 다짐하는 반면, 다른 이들은 이미 독서와 청취 습관을 바꾸고 있는 엄청난 기회로 여기는 이 기술을 어떻게 다룰지를 두고 깊이 분열돼 있다.

한 출판사 고위 임원은 “매주 우리는 AI가 개입됐다고 의심되는 책을 한 권씩 본다”며 “일반적인 글쓰기와 AI 글쓰기 사이의 모호한 영역은 판단하기가 어렵다. 우리가 얼마나 많은 책을 자신도 모르게 출간하고 있는지 알 수 없다”고 말했다.

문학 에이전트들 역시 AI가 생성한 산문이 쏟아져 들어오고 있다고 말한다. Daniel Mason, Eric Ries, Maggie O’Farrell 등의 작가를 대리하는 UTA Publishing의 공동 대표 Christy Fletcher는 “우리에게 책을 투고하는 사람들의 작품에서 그런 글이 나타나는 것을 본다”고 말했다.

“정말 분명하게 드러난다. 이제는 스스로에게 ‘이 글이 [Anthropic의 챗봇] Claude가 쓴 것처럼 읽히는가?’라고 물어보도록 훈련해야 한다.”

3월 프랑스 출판사 Hachette는 Mia Ballard의 호러 소설 Shy Girl이 AI로 일부 작성됐다는 의혹이 제기된 뒤 영국 매장에서 이 책을 회수하고 미국 출시를 취소해야 했다. Ballard는 이 주장을 부인했다.

이 소설은 Hachette에 인수되기 전 자가 출간 도서로 독자층을 확보하고 있었다. 한 출판업계 임원은 “모두가 그 책을 좋아했다”며 “Shy Girl 이후 모든 편집자가 긴장하고 있다”고 말했다.

현재도 Ballard의 책은 서평 사이트 Goodreads에서 평균 별점 3점을 넘기고 있다. 한 작가는 익명을 전제로 업계가 가장 두려워하는 점을 털어놓았다. “사실 모두가 가장 두려워하는 것은 독자들이 신경 쓰지 않을지도 모른다는 겁니다.”

‘환각은 오타가 아니다’

다른 출판사 경영진은 로젠바움이나 밸러드와 같은 스캔들에 휘말리는 것은 시간문제일 뿐이라며, 기술이 발전함에 따라 규정을 마련하기 위해 분주하게 움직이고 있다고 말한다.

독립 출판사 오서스 에쿼티(Authors Equity)의 공동 창업자이자 최고경영자이며 과거 펭귄 랜덤하우스의 미국 사업 책임자를 지낸 매들린 매킨토시는 “AI는 소프트웨어의 구석구석, 정말 모든 곳에 스며들었다”고 말한다.

그는 이어 “사용할 수 있는 것이 ‘펜과 종이뿐’이라고 말하는 게 아니라면, 사실상 AI를 접하고 있는 것이며 AI도 여러분의 작업에 영향을 미치고 있는 것”이라고 덧붙인다.

출판사가 작가들에게 제시하는 기존 지침은 대체로 AI를 창작 과정—자료 조사, 사실 확인, 때로는 편집과 다듬기까지—을 보조하는 데는 사용할 수 있지만, 실제 원고를 생성하는 데는 사용해서는 안 된다는 취지다.

그러나 AI가 책 집필을 어느 정도까지 도울 수 있는지는 출판사와 편집자, 에이전트에 따라 다르다. 매킨토시는 “현재로서는 회색 지대가 아주, 아주 많다”고 말한다.

플레처는 특히 소설 분야에서는 AI 사용을 둘러싼 “교조적 원칙이 더 많고”, 논픽션 분야에서는 연구를 위한 AI의 가치가 종종 높이 평가된다는 점에서 “분열”이 나타난다고 설명한다.

이 업계의 또 다른 임원은 묻는다. “어느 수준의 AI 사용이 허용될 수 있을까요? 연구란 무엇을 의미하나요? ‘AI를 활용해 작성됐다’는 말은 무엇을 뜻하나요? 그렇다면 어느 정도의 분량이 AI로 작성돼야 하는 걸까요? 경계가 모호해지는 문제입니다.”

작가들 사이에서도 견해가 엇갈린다. 영국작가협회 최고경영자인 애나 갠리는 “우리 회원이 1만2,500명인데, 모두가 각기 조금씩 다른 금지선을 갖고 있을 것”이라고 말한다.

출판사들은 이제 계약서에 AI 관련 조항을 삽입하고 있다. 팬 맥밀런은 표준 계약서에서 작가들이 작품이 전적으로 자신의 것이며, 독창적이고 인간이 작성한 것임을 보증하도록 요구한다고 밝혔다. 이는 저작권 보호도 보장한다.

이 출판사 대변인은 “작가나 일러스트레이터가 새로운 AI 도구를 실험해보고 싶다면, 이를 책임감 있게 진행하는 방법에 대해 논의하는 데 우리는 전적으로 열려 있다”고 말했다.

여기에는 연구를 돕거나, 사실관계를 확인하고, 문법을 교정하며, 문장을 다듬고, 원자료를 요약하거나, 집필 과정을 빠르게 하기 위해 AI를 사용하는 것이 포함될 수 있다. 그러나 저자의 “판단과 목소리, 지적 책임은 책의 핵심으로 남아 있어야 한다”. 이 출판사는 편집자들에게 AI 사용 가능성을 식별하는 방법에 관한 지침을 제공하고 있으며, 현재까지 검사를 통과하지 못한 책은 한 권도 없다.

블룸즈버리 역시 출판물에 생성형 AI를 사용하는 것을 금지하고 있다. 다만 저자들을 위한 정책에서는 AI가 “일부 맥락에서는 유용한 해결책을 제시할 수 있으며, 특히 인간의 창의성을 대체하기보다 지원하는 데 사용될 때 그렇다”고 밝히고 있다.

보다 강경한 접근법을 취하는 곳들도 있다. 포틀랜드에 기반을 둔 독립 출판사이자 유통업체인 마이크로코즘 퍼블리싱은 자사의 AI 정책이 “아니요, 괜찮습니다 . . . 철자와 문법 교정조차 안 됩니다. 독해 수준 조정도 안 됩니다. 문맥의 일관성 점검도, 사실 확인도 안 됩니다. 인용 추가도 안 됩니다. 이런 앱은 여러분이 요구한 것보다 훨씬 많은 일을 할 테니까요”라고 말한다.

로젠바움은 AI의 역할이 걷잡을 수 없이 확대될 위험을 뼈저리게 인식하고 있다. 그는 실제로 존재하지 않는 패턴이나 대상을 LLM이 인식하는 현상인 ‘환각’에 대해 “환각은 타이핑 실수가 아니다”라고 말한다.

“환각은 권위적으로 들리는 창작물입니다. 이는 완전히 다른 편집상의 과제입니다 . . . 결국 저자와 출판사가 사후에 환각을 찾아내는 책임을 짊어지게 됩니다.”

AI 파멸의 악순환

업계의 많은 사람들은 AI가 작성한 글을 판별할 수 있다고 믿는다. 하지만 경영진은 세심하게 편집하면 숙련된 작가가 AI 문장을 자신의 글인 것처럼 내놓아도 여전히 들키지 않을 수 있다고 인정한다.

문체가 형편없다는 사실만으로는 AI 사용을 식별하기에 충분하지 않다. 한 임원은 “형편없이 쓰인 책은 많다”고 대수롭지 않게 말하며, 사람들이 글에서 인간적인 느낌을 받을 수 있게 하는 것은 본의 아니게 생긴 사소한 결함과 의도적으로 규칙을 창의적으로 깨뜨리는 표현이라고 덧붙인다.

일부는 미래 세대에 닥칠 악순환을 우려하기도 한다. 젊은 독자들이 모든 결함을 고스란히 지닌 AI 생성 문장을 읽는 데 너무 익숙해진 나머지, 자신들도 그런 문체로 쓰기 시작할 수 있다는 것이다.

출판사들은 AI 탐지 기술을 도입했지만, 대체로 그 결과에 만족하지 못하고 있다. 한 출판사 최고경영자는 “AI 검사 도구를 사용해 봤지만 항상 쓰지는 않는다. 현재로서는 위협이 존재한다는 사실만으로 충분하고, 도구 자체도 그다지 성능이 좋지 않다”고 말했다.

미국 작가조합(Authors Guild)은 혐의 제기나 탐지 도구 사용만을 근거로 계약을 해지하거나 책을 판매 중단하는 것은 중대한 계약 위반에 해당한다고 경고했다.

규칙을 정의하고 이를 감독하는 데 따르는 어려움과 오류의 위험 때문에, Authors Equity의 McIntosh는 투명성이 이제 그들이 작가들과 나누고 있는 대화에서 핵심이 되었다고 말한다.

수치로 보는 출판 업계

“우리 계약에는 우리와 저자 모두 서로에게 AI를 어떻게 사용했는지 공개해야 한다는 조항이 있습니다.” 그녀는 말한다. “저자가 논픽션 책을 집필하면서 연구를 보조하기 위해 AI를 사용했다면 괜찮습니다. 하지만 그렇게 했다는 사실은 알고 싶습니다. 이제 우리가 함께 한 겹 더 인간의 연구를 적용해 사실이 실제로 진실인지 확인해야 한다는 뜻이기 때문입니다.”

UTA의 Fletcher는 자신의 저자 고객들이 출판사가 AI를 어떻게 사용하는지, 특히 “편집에는 AI를 사용하지 않고, 표지 디자인에도 AI를 사용하지 않는다”는 점에 대해 확답을 원하는 경우가 많다고 말한다.

그녀는 덧붙인다. “그들은 정말로 … 그 일이 소프트웨어에 넘어가지 않는다는 점을 중요하게 생각합니다.”

Pan Macmillan은 편집자들이 보안이 확보된 AI 도구를 사용해 긴 원고를 신속하게 요약하거나, 등장인물의 세부 정보를 정리하거나, 책을 홍보하기 위한 강력한 인용구를 뽑아낼 수 있다고 말한다. 하지만 편집이나 출간 여부를 결정하는 데 AI를 사용할 수는 없다.

많은 출판사들은 또한 온라인에서 책이 더 눈에 잘 띄도록 메타데이터를 자동으로 업데이트하는 등 판매·마케팅 업무와 인쇄 및 창고 운영 과정에서 AI가 유용하다고 본다.

Bonnier Books는 공동의 해결책을 찾기 위해 AI를 주제로 작가 및 에이전트 라운드테이블을 운영해 왔다. Bonnier의 영국 사업부에서 출판 혁신 매니저를 맡고 있는 Sarah Posner는 “현대에 업계가 겪은 가장 큰 변화일지도 모를 이번 전환을 헤쳐 나갈 수 있는 유일한 방법은 열린 대화”라며 “우리는 함께 노력해야 한다”고 말했다.

챗봇과 책 대비

AI의 과제는 누가 또는 무엇이 책을 썼는지를 판별하는 데 그치지 않는다. 이 기술은 독자들이 무엇을 구매하는지, 출판사들이 어떻게 운영되는지도 바꾸기 시작했다.

자기계발, 요리, 전기, 금융 등 실용성이 높은 비문학 서적의 판매가 타격을 받고 있다. 실용적인 조언을 얻기 위해 챗봇을 찾는 사람들이 늘고 있기 때문이다.

닐슨 데이터에 따르면 지난해 영국에서만 비문학 서적 판매가 6% 감소했다. 이는 유사한 주제를 다루는 팟캐스트와 유튜브 영상의 인기 등 다양한 요인과 관련이 있지만, 출판사들은 챗봇의 부상과 직접적인 상관관계가 있다고 보고 있다.

한 고위 임원은 “사람들은 베스트셀러 책의 핵심만 파악하려 할 것”이라며 “ChatGPT에 ‘[정리 전문가] 마리 콘도에 대해 내가 알아야 할 모든 것을 말해줘’라고 물을 것”이라고 말했다.

또 다른 업계 임원은 역사와 범죄 실화 등 일부 논픽션 장르가 남성 독자 쪽으로 치우치는 경향이 있다며 “남성들은 ChatGPT도 좋아한다”고 말했다.

업계 임원들에 따르면 그 결과 패트릭 래든 키프처럼 접근하기 쉬운 탐사 저널리즘으로 평론가와 독자 모두에게 인기를 얻은 작가의 필요성이 더욱 커지고 있다.

문학 에이전트인 플레처는 “강점이 나타나는 분야는 자신만의 매우 강렬하고 독보적인 목소리를 지닌 사람들”이라며 “그 독자들은 그런 개인들과 자신을 동일시하고 있다”고 말했다.

작가들은 AI의 활용이 소설 분야에도 영향을 미치기 시작하는 모습을 볼 수 있다. FT Weekend 칼럼니스트이자 《The Wildings》와 《The Hundred Names of Darkness》의 저자인 닐란자나 로이는 “AI 문학을 막아보려는 것은 무의미하다”고 말하며, “젊은 세대는 실험할 것”이고 바우히니 바라와 리 쿠단 같은 기성 작가들은 “이미 AI·LLM을 활용해 상당히 흥미로운 텍스트를 만들어보았다”고 덧붙였다.

그러나 그녀는 AI를 활용한 텍스트가 대량으로 쏟아져 에이전트와 편집자, 출판사를 압도할 위험이 있는 상황에서 “AI 비서가 AI 원고를 선별하는, 역설적이면서도 꽤 흥미로운 일이 벌어질 가능성이 있다”고 말했다.

AI의 영향은 셀프 퍼블리싱 시장에서 가장 뚜렷하게 나타난다. 이 시장은 책을 훨씬 쉽게 집필할 수 있게 해주는 도구의 사용과 연관 지어 많은 출판사들이 설명하는 호황을 누리고 있다.

미국에서 ISBN을 부여받은 신간은 지난해 3분의 1 증가해 400만 권을 넘어섰으며, 이 중 5분의 4 이상이 셀프 퍼블리싱으로 출간됐다. 이들 작가 중 상당수는 자신의 창의성을 거의 발휘하지 않고도 AI 도구를 이용해 하루에 한 권씩 책을 만들어낼 수 있다.

가장 큰 셀프 퍼블리싱 플랫폼인 Amazon의 Kindle Direct Publishing은 작가들에게 AI가 생성한 콘텐츠를 직접 신고하도록 요구하지만, AI의 도움을 받아 작성한 콘텐츠까지 공개하도록 요구하지는 않는다.

아마존은 FT에 “규정을 준수하지 않는 콘텐츠에 대한 보호 조치를 계속 강화하고 있다”고 밝히며, 저자가 매주 형식별로 만들 수 있는 도서 수를 10권으로 제한하는 등의 규정을 예로 들었다. 아마존은 AI로 생성된 콘텐츠인지 여부와 관계없이 “ . . . 지침을 위반하는 콘텐츠를 방지하고, 탐지하고, 삭제하기 위한 선제적·사후적 조치를 취하고 있다”고 말했다.

한 고위 임원에 따르면 AI로 만들어진 합성 음성은 소셜미디어 플랫폼용 도서 내레이션을 거의 즉시 제작하는 데에도 사용될 수 있어, 공식 오디오북을 구매하고 다운로드할 필요가 없어진다. 그는 합성 음성 도구가 이제는 매우 정교해져, 일반적으로 오디오북에서 자신의 소설을 직접 낭독해달라는 요청을 받는 유명 작가들의 목소리까지 모방할 수 있다고 말했다.

‘사람이 작성한 글’

AI가 출판에 미칠 영향에 대한 우려가 모든 이에게 공통적인 것은 아니다. 일부 업계 경영진은 AI가 생성한 저질 콘텐츠가 처음에는 급증하겠지만, 이후에는 수준 높은 인간의 글에 대한 수요가 더욱 커질 것으로 본다.

Bonnier Books의 Posner는 “책은 결코 사라지지 않을 것”이라며 “오히려 사람들이 진정한 인간의 경험을 점점 더 많이 찾게 될 것이라고 본다”고 말한다.

업계는 자가출판과 전자책 등 등장 당시 업계의 존립을 위협하는 것으로 여겨졌던 여러 변화도 견뎌냈다. 세계 최대 영어권 출판 그룹의 일부인 Penguin Random House UK의 최고경영자 Tom Weldon은 책이 “독특한 무언가를 제공하기 때문에 모든 기술적 변화 속에서도 놀라울 만큼 회복력을 보여줬다”고 말한다.

그는 “AI는 여러 방식으로 창작자를 지원하는 강력한 도구가 될 수 있지만, 작가의 상상력과 판단력, 삶의 경험을 결코 대체해서는 안 된다”고 덧붙인다.

그러나 이제 출판사들은 Authors Equity의 McIntosh가 말하는 “최소공통분모가 아니라 탁월한 작품 . . . 을 찾아야 한다는” 압박을 더 크게 받고 있다. “AI가 정말, 정말 잘하는 것은 [바로] 최소공통분모이기 때문”이다.

그녀는 책을 돋보이게 하는 ‘인간의 지문’을 언급한다. 이는 콘텐츠가 인간이 만든 것인지, AI의 도움을 받은 것인지 명확히 표시하려는 노력 속에서 영국과 미국의 출판사들이 실제로 적용하고 있는 개념이다.

작가협회의 갠리는 투명성이 “핵심”이라며, “인간이 직접 쓴 문학이든, AI의 도움을 받은 문학이든, AI가 생성한 문학이든, 소비자가 무엇을 구매할지 결정할 수 있도록 처음부터 명확한 표시가 있어야 한다고 생각한다”고 말했다.

미국의 SoA와 미국작가협회(The Authors Guild)는 모두 인간이 작업한 책과 AI가 생성한 책을 구분하는 데 사용할 수 있는 인증 마크 제도를 도입했다.

작가들은 자신의 책을 등록해 뒷표지에 ‘Human Authored’ 로고를 사용할 수 있으며, 이는 맞춤법 및 문법 검사처럼 AI가 텍스트를 아주 사소한 수준으로만 손봤다는 의미다.

그러나 로젠바움의 불운한 책에는 바로 그런 고지가 붙어 있었다. 그는 새 버전을 출간하기에 앞서 현재 팩트체커와 함께 원고를 한 단어씩 검토하고 있다고 말했다.

그는 자신의 경험을 통해 “AI가 출판 업무 흐름의 일부가 된 세상”에 새로운 “편집상 안전장치”가 필요하다는 확신을 완전히 갖게 됐다고 말했다. 하지만 그는 “AI에서 손을 떼지는 않을 것”이라고 덧붙였다.

FirstFT 아메리카스, 매주 평일

미주 지역의 주요 뉴스와 이날 세계 주요 현안에 대한 분석 및 논평