Este año, la noticia principal es que las editoriales estadounidenses parecen estar contraatacando contra la IA, desde demandar a Google por infracción de derechos de autor hasta cancelar libros de autores sospechosos de usar grandes modelos de lenguaje (LLM).
Pero a escondidas, al menos tres de las cinco grandes editoriales estadounidenses (conocidas como Big Five), HarperCollins, Simon & Schuster y Hachette, han ido incorporando herramientas de IA en sus procesos editoriales sin hacerlo público ni contar con el consentimiento de los autores.
De alguna forma, la IA es parte del libro que tienes en tus manos
Según entrevistas realizadas a más de dos docenas de trabajadores, los cuales hablaron bajo condición de anonimato, las editoriales están utilizando LLM como Claude y ChatGPT para enviar correos electrónicos a agentes literarios, redactar textos publicitarios y de contraportada, diseñar portadas y generar materiales de marketing.
Al mismo tiempo, varios miembros del equipo editorial afirman que los famosos casos de autores acusados de usar programas de IA para escribir sus libros, como la novela de terror Shy Girl de Hachette o el thriller policíaco Call Me, I'll Hide the Body de Macmillan, son solo la punta del iceberg. "Todas las editoriales tienen alguna historia de alguien muy prestigioso cuyo libro fue cancelado por el uso descarado de IA, sin que esto llegara a los periódicos", comenta un editor.
En HarperCollins, los directivos adquirieron licencias de Claude a Anthropic hace meses, "pero se dieron cuenta que no sabían cómo implementarla", menciona un empleado actual. A continuación, a decenas de trabajadores, tanto de nivel junior como sénior, se les "obligó a ofrecerse como voluntarios para convertirse en campeones de la IA" y se les encomendó la tarea de descubrir casos de uso en sesiones mensuales de lluvia de ideas con personal de toda la empresa.
Esta primavera, cuando algunos empleados de HarperCollins expresaron su preocupación por las repercusiones legales, éticas y medioambientales de la IA en una de estas sesiones de intercambio de ideas, la persona que dirigía la reunión desestimó sus inquietudes calificándolas de "el precio de hacer negocios". Poco después, se añadió una declaración a la nueva sección sobre IA del portal online para empleados de HarperCollins, en la que se señalaba que aunque la IA tiene un impacto medioambiental, supone una pequeña parte de la huella de carbono digital total de la mayoría de las personas.
Algunas personas de HarperCollins se sintieron desconcertadas por las sesiones de lluvia de ideas. "Fue como recibir una bofetada. Llevamos años presentando argumentos comerciales válidos para que nos paguen un sueldo digno y, en cambio, gastan ese dinero en un software que la mayoría de nosotros realmente no necesitamos", comenta un empleado. El salario medio de inicio para los empleados del sector editorial de la ciudad de Nueva York en las Big Five y Scholastic fue de 47,583 dólares en 2023). Además de Claude, los empleados afirman que HarperCollins también adquirió licencias para ChatGPT y Jasper, una plataforma autónoma que promete gestionar flujos de trabajo de marketing.
De acuerdo con un empleado, al menos una división de HarperCollins se ha enfocado en IA desde que obtuvo las licencias de software, lo que incluye videos generativos. Pero, según los trabajadores de HarperCollins, Simon & Schuster y Hachette, uno de los usos más habituales de los LLM es la generación de textos publicitarios.
Los lectores se encuentran con textos publicitarios por todas partes, desde Amazon y Goodreads hasta las contraportadas, y se utilizan para promocionar libros ante libreros, periodistas, creadores de contenido y críticos. Sin embargo, utilizar la IA para generar textos publicitarios es una visión a corto plazo. "Los publicistas tenemos el deber de actuar de buena fe con los lectores y con nuestros colegas de los medios de comunicación, quienes tienen poca tolerancia hacia los argumentos de venta generados por IA", sugiere un empleado de una de las Big Five.
Cómo Anthropic destruyó millones de libros de papel para que Claude aprendiera a escribir
Documentos desclasificados revelan detalles sobre el Proyecto Panamá: libros comprados, desmembrados y digitalizados para entrenar IA. Un método para eludir las leyes de derechos de autor.
Que la IA se involucre en la publicidad editorial es inevitable
Por otro lado, Meg Reid, editora de la editorial independiente Hub City Press, afirma que, lamentablemente, la publicidad redactada por modelos de IA "parece inevitable". "El cambio lo veremos aún más entre las editoriales corporativas que buscan la eficiencia".
Mientras tanto, a principios de este año, los agentes literarios comenzaron a sospechar que determinados editores de las Big Five estaban utilizando la IA para redactar cartas de rechazo. "Entre colegas, comparamos correos electrónicos sobre diferentes libros de los mismos editores, y todos presentaban los mismos indicios clásicos de la redacción con IA, como 'no esto, sino aquello' y la regla de los tres términos", recuerda un agente. Empleados de Simon & Schuster, HarperCollins y Hachette afirman a WIRED que creen que las sospechas de los agentes eran acertadas.
Un portavoz de Hachette afirma que la empresa "apoya el uso de herramientas de IA con fines operativos, cuando ayudan a que los libros de nuestros autores lleguen a más lectores", pero que "no apoya los usos creativos de la IA, incluida la comunicación con nuestros autores y socios".
Wibke Grutjen, directora global de marketing y comunicaciones de Simon & Schuster, declara que los empleados de todas las áreas tienen acceso a un número limitado de herramientas de IA a nivel empresarial, pero su uso no es obligatorio. Grutjen señaló que la empresa prohíbe el uso de cualquier herramienta de IA que no haya sido evaluada y aprobada y que "el objetivo siempre ha sido liberar a los empleados de tareas básicas para que puedan dedicarse a un trabajo más profundo".
HarperCollins no respondió a las solicitudes de comentarios.
Hace unos meses, los trabajadores de Simon & Schuster asistieron a un taller con representantes de OpenAI. "La persona que dirigía el taller no tenía ni idea de a qué nos dedicábamos", cuenta uno de los asistentes, pero una de las recomendaciones de la empresa de IA sobre cómo utilizar ChatGPT en el sector editorial fue redactar correos electrónicos a agentes literarios. Según los empleados, esta práctica también se ha extendido entre los editores de HarperCollins y Hachette.
En mayo de 2024, según el personal, Simon & Schuster organizó un concurso entre sus empleados para encontrar los mejores casos de uso de la IA, con un premio de 10,000 dólares para el ganador y 5,000 dólares para cada uno de los dos finalistas. Desde entonces, la empresa ha "dado marcha atrás a sus proyectos de IA porque los empleados no dejaban de quejarse en las reuniones generales".
Según varios miembros del personal, los recursos de IA también están apareciendo en las portadas, y algunas editoriales extranjeras distribuidas por Simon & Schuster reconocen abiertamente el uso de la IA al compartir los diseños.
Todos los agentes consultados por WIRED expresaron su temor a que las editoriales pudieran pegar texto de los manuscritos de sus autores en los LLM para generar cartas de rechazo y descripciones publicitarias. "Hemos añadido cláusulas sobre IA a nuestros contratos en las que se especifica que 'este material no puede procesarse mediante un modelo generativo'", argumenta un agente, que no quiso revelar su nombre para evitar repercusiones profesionales.
"Aparentemente, eso tenía como objetivo proteger a los autores de las empresas tecnológicas, pero también se aplica a la empresa que compra y publica el libro. Si no utilizan un modelo ejecutado en un entorno cerrado, podrían estar introduciendo textos inéditos del autor en un LLM". A diferencia de los modelos de IA que la mayoría de la gente utiliza en línea, como Gemini o ChatGPT, un modelo ejecutado en un entorno cerrado funciona en una computadora o red aislada, de modo que no puede compartir datos con los servidores en la nube de la empresa de IA.
Una fuente de HarperCollins afirma que varios editores han preguntado a sus responsables si podían pegar un manuscrito completo en un LLM conectado a servicios externos, pero el equipo jurídico de la empresa les indicó que no lo hicieran.
Los empleados de Hachette también se preparan para que las políticas de IA de la empresa "evolucionen" bajo el mandato del nuevo director de información, Carl Hixson, debido a su anterior cargo como director de tecnología en SRMG, una empresa respaldada por el estado saudí que ha adoptado públicamente la IA con agentes.
Algunos empleados de las Big Five afirman que están experimentando a regañadientes con los LLM únicamente porque los ejecutivos han desmantelado sus equipos mediante despidos y, posteriormente, han triplicado su carga de trabajo. "Hay plantillas reducidas al mínimo por donde mires. Los grandes equipos se han reducido a solo cinco o seis personas, y estamos trabajando con el doble o el triple de libros. No es de extrañar que la gente esté tomando atajos. No los juzgo. Lo que critico es que la empresa básicamente nos diga: 'Háganlo o nos quedaremos rezagados'", afirma un empleado.
En las últimas semanas, se ha extendido el rumor entre los trabajadores de Simon & Schuster de que la empresa estaba llevando a cabo una prueba experimental con Skan AI aparentemente a instancias de KKR, la firma de inversión que adquirió Simon & Schuster en 2023. Según su propia página web, Skan AI proporciona a los directivos la base empírica que necesitan para reducir costos, dar prioridad a la automatización y cumplir con los mandatos de transformación del consejo de administración.
En respuesta, los empleados de Simon & Schuster comenzaron a recoger firmas para una carta abierta dirigida a su director general, Greg Greeley, en la que expresaban su "firme oposición" y "solicitaban el compromiso de no incorporar Skan AI ni ningún otro software similar a los flujos de trabajo de S&S, ni ahora ni en el futuro". A muchos trabajadores les preocupa que las herramientas de "detección de automatización" de Skan AI se utilicen para vigilarlos y sustituirlos.
La noticia de la carta abierta se publicó el 6 de octubre en el boletín Book Gossip de la revista New York. Ese mismo día, Greeley envió un memorándum a los empleados de Simon & Schuster en el que confirmaba que la empresa había estado explorando el producto Blueprint de Skan AI, pero que "no se ha tomado ninguna decisión sobre el uso de Blueprint ni de ninguna otra herramienta de supervisión de la productividad o de análisis de flujos de trabajo", y que "no había visto los materiales relacionados con esta exploración en fase inicial" antes de que se le plantearan las preocupaciones el día anterior. Pangram que, para bien o para mal, se ha convertido en la plataforma de referencia para la detección de IA, indica que al menos parte del memorándum de Greeley fue redactado por IA.
Llega la "Literatura orgánica": los libros escritos por humanos ya empiezan a necesitar un sello que lo demuestre
En medio de un mar de basura literaria generada por IA, un nuevo sello de “literatura orgánica” ayudará a los lectores a distinguir los libros escritos por seres humanos de verdad.
La IA cazará también a los traductores
Hace casi dos años, en la Conferencia Global de Medios y Comunicaciones de UBS, el director ejecutivo de HarperCollins, Brian Murray, afirmó que la IA presenta "más oportunidades que riesgos" para las editoriales y que consideraba que la IA desempeñaría un papel importante en el aumento del número de libros traducidos y audiolibros publicados por HarperCollins en el futuro.
Desde entonces, varios editores afirman haber visto manuscritos traducidos por modelos generativos con declaraciones sobre el uso de IA en las ferias anuales del libro de Fráncfort y Londres, donde las editoriales estadounidenses compran derechos de publicación y traducción internacionales a agencias literarias extranjeras.
En agosto, Michael Reynolds, editor ejecutivo de Europa Editions, una editorial independiente de Nueva York conocida sobre todo por publicar la tetralogía napolitana de Elena Ferrante, declaró en la conferencia "New Voices New Rooms" de Baltimore que le entusiasmaban las posibilidades de la IA en la traducción y "parecía desconcertado por las críticas al respecto". Europa Editions ya es objeto de polémica en los círculos literarios por no incluir los nombres de sus traductores humanos en las portadas de sus libros.
"Los altos directivos de las cinco grandes editoriales tienen más en común con los CEO de otras grandes empresas estadounidenses que con los editores, publicistas y traductores que trabajan para ellos. Siempre están buscando formas de maximizar los beneficios y están intentando ver hasta dónde pueden llegar antes de que se produzca una revuelta", afirma Dan Sinykin, autor de Big Fiction: How Conglomeration Changed the Publishing Industry and American Literature.
La mayoría de los profesionales del sector con los que he hablado solo quieren que las editoriales proporcionen directrices claras sobre el uso de la IA y la divulgación de información, para ayudar a mitigar el caos actual. "Necesitamos que sean claros sobre qué se está utilizando y cuándo", afirma Emma Dries, agente de Triangle House Literary que anteriormente trabajó en el departamento editorial de HarperCollins y Penguin Random House. Por su parte, un empleado actual de HarperCollins afirma que no ha habido instrucciones sobre qué decir a los autores o agentes acerca de toda la situación.
"A menos que se prohíban estas herramientas, lo cual, francamente, sería un sueño, todo el mundo debería ser mucho más transparente al respecto", concluye Dries.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.
