작가들, 아마존에서 급증하는 인공지능 생성 ‘사기’ 책에 맞서다

Amazon.com은 자사의 전자책 프로그램을 통해 책을 판매하고자 하는 작가들에게 그들의 작품이 인공지능에 의해 생성된 내용을 포함하는지 사전에 회사에 알릴 것을 요구하기 시작했습니다. 유명 기술 저널리스트 카라 스위셔가 새 책 ‘Burn Book’을 출시했을 때, 갑자기 아마존에 나타난 그녀의 인공지능 생성 전기에 대한 보도가 있었습니다. 스위셔는 즉각 반응하여 뉴욕 타임스의 하드 포크 팟캐스트에 “아마존 CEO 앤디 재시에게 메모를 보내 ‘이게 뭐야?’라고 말했다. 당신 때문에 돈을 잃고 있다”고 말했습니다.

스위셔가 아마존에서 문제의 책들을 제거할 수 있었음에도 불구하고, 인공지능 생성 스캠 책의 문제는 아마존 CEO와 이메일로 연락할 수 없는 대부분의 작가들에게 널리 우려되는 문제가 되었습니다.

“아마존에서의 스캠 책은 수년 동안 문제였습니다,”라고 작가를 대변하는 그룹인 작가 길드의 CEO 메리 라센버거가 말합니다. 그녀는 최근 몇 개월 동안 문제가 증가했다고 말합니다. “새로운 책마다 어떤 종류의 동반 서적이 있는 것 같습니다, 판매를 도둑질하려는 책이죠.”

마리 아라나는 자신의 책 ‘LatinoLand: America’s Largest and Least Understood Minority’를 연구하고 작성하는 데 수년을 보냈습니다. 이 책은 2월에 출시되었습니다. 출시 다음 날, 그녀는 아마존에서 자신의 책이 어떻게 하고 있는지 확인하기 위해 접속했습니다. “내 책의 커버 바로 아래에 다른 커버가 있었습니다,” 아라나가 말합니다. “그 커버에는 ‘America’s Largest and Least Understood Minority. A Summary of Latinoland’이라고 적혀 있었습니다.”

인공지능 생성 전기, 요약, 심지어 모조품 책들은 품질이 낮은 글쓰기를 제공하는 경향이 있어, 인공지능이 생성한 것으로 쉽게 표시할 수 있다고 작가이자 출판 산업 분석가인 제인 프리드먼이 말합니다. 그녀는 글쓰기에 일반적인 품질이 있다고 말합니다. “마치 인간이 이것을 쓴 것이 아닌 것처럼 느껴집니다,” 그녀가 말합니다. “인간은 재미있게도 나쁘게 작업하는 데 더 나은 일을 할 것입니다.”

아마존 대변인 린지 해밀턴은 회사가 AI 측면에서 최근 취한 조치들을 개요한 성명을 보냈습니다. 지난해, 회사는 Kindle Direct Publishing을 사용하는 모든 출판사가 그들의 콘텐츠가 AI 생성인지에 대한 정보를 제공해야 하는 정책을 시행했습니다. 또한 하루에 출판할 수 있는 제목의 수에도 제한을 두었습니다.

“우리는 책이 나열되는 것을 사전에 방지할 뿐만 아니라 그 지침을 준수하지 않는 책을 제거하며, 고객 경험을 저해하는 콘텐츠를 포함합니다,”라고 성명에서 말합니다. “남용의 패턴이 그것을 정당화할 때, 우리는 또한 반복적인 남용을 방지하기 위해 출판사 계정을 정지시킵니다.”

라센버거는 이러한 책을 게시하는 출판사들이 저품질 “스캠” 책을 신속하게 생성할 수 있는 점점 더 정교한 AI 도구의 이점을 누린다고 말합니다. “아마존이 그들에 대해 알아차릴 때까지, 그들은 이미 돈을 벌었고 다른 것으로 넘어갑니다,” 그녀가 말합니다.

그러나 AI 생성 책의 문제는 작가의 판매 수치보다 더 많은 해를 끼칠 수 있습니다.

“그것은 명성에 대한 해입니다,” 프리드먼이 말합니다.

작년에, 그녀는 자신이 쓰지 않았지만 자신의 이름으로 주장되는 출판에 관한 책들에 대한 자신의 경험을 개요한 블로그 포스트를 작성했습니다. “가장 초보적인 독자라도 읽고 ‘이 사람은 나에게 유용한 정보를 제공하지 않을 것입니다’라고 말할 것입니다,” 그녀가 말합니다. 프리드먼은 그녀가 대부분의 돈을 유료 뉴스레터와 그녀가 제공하는 수업을 통해 벌고 있다고 말하며, 책들이 잠재 고객에게 보일 수 있다고 말합니다. “그러면 그들은 다른 더 나은 자원을 찾아 떠납니다.”

그리고 지금은 인공지능이 생성한 글을 표시할 수 있지만, 라센버거와 다른 작가들은 그것이 쉽지 않은 미래를 생각하고 있습니다.