A medida que se acumulan los escándalos relacionados con el uso de la inteligencia artificial por parte de autores profesionales, una startup británica ha creado una forma para que las editoriales certifiquen que sus libros son “orgánicos”, es decir, que son escritos por personas reales, sin intervención alguna de máquinas.
Escritos por gente
El miércoles, Books by People (Libros escritos por personas) confirmó que recibió la autorización de la Oficina de Propiedad Intelectual del Reino Unido para comenzar a distribuir un sello que indica que un libro publicado ha sido escrito por un ser humano. El sello, que tiene el aspecto de una huella dactilar, aparecerá en la portada.
“Si la gente quiere escribir libros con IA o buscarlos para su propio disfrute, está en su derecho”, explica a WIRED Esme Dennys, cofundadora de Books by People. “Pero si quieres leer algo escrito por una persona real, deberías poder encontrarlo. Simplemente intentamos ofrecer esa opción”.
Los sistemas anteriores de etiquetado de libros, como "Human Authored", funcionaban basándose en la honestidad del autor, quien prometía no haber utilizado IA en el proceso de creación. Para intentar dar más peso a su certificación, Books by People solicita una declaración de autoría, analiza cada manuscrito mediante un software propio y examina manualmente los primeros borradores y los materiales de investigación facilitados por el escritor y el editor en busca de “indicadores de humanidad”.
La organización “analiza todos los elementos que nos permiten determinar con mayor certeza si una persona ha escrito la obra, es decir, si esta se ha creado mediante un proceso natural de redacción y revisión”, explica Dennys.
Books by People cobrará a las editoriales una cuota fija de afiliación, más una suma adicional por cada libro que presenten para su certificación. Hasta ahora se han inscrito cinco editoriales. La startup espera que el nuevo sello aparezca en su primer libro a finales de año.
Este año, el sector editorial se ha visto envuelto en una oleada de escándalos relacionados con el presunto uso de la IA por parte de los autores. Un agente literario canceló un contrato editorial por un valor de 2 millones de dólares, una editorial retiró una novela de las estanterías, y los lectores alegaron que un relato corto galardonado había sido generado con IA.
Los escritores y editores no están necesariamente preocupados por ser sustituidos por la IA, según explican a WIRED fuentes del sector. Creen que, en última instancia, pocas personas querrán leer libros generados por máquinas.
Crisis de confianza
“Básicamente, estás al final de una cinta transportadora, viendo cómo las cosas se caen por el borde. Una vez que sabes eso, te impide involucrarte emocionalmente de verdad con lo que sea que caiga en tus manos desde esa cinta”, compara el autor de ciencia ficción Ted Chiang, cuya novela corta de 1998 Story of Your Life (La historia de tu vida) fue adaptada a la película La llegada, ganadora de un Óscar. “El conocimiento de cómo se ha creado algo no puede separarse de tu experiencia”.
Sin embargo, los repetidos escándalos podrían socavar la confianza del público en la regla tácita del mundo editorial: que cada libro que llega a las estanterías ha sido escrito por una persona real que no ha incurrido en plagio.
“El mundo editorial siempre se ha basado en la confianza entre la editorial, el escritor y el público lector. Los casos en los que se ha traicionado esa confianza han sido escasos”, afirma Sam Jordison, codirector de la editorial independiente Galley Beggar Press, que tiene la intención de adoptar el sello Books by People. “Casi produce repulsión la idea de leer un texto generado por IA que pretende ser humano. Da la sensación de que es una estafa”.
En este contexto, la idea de una certificación para los libros escritos por personas ha recibido el respaldo de diversos escritores y editores. En una declaración en la que elogiaba Books by People, Markus Dohle, antiguo CEO de Penguin Random House, describió la narración humana como “el alma de nuestra industria”.
Pero, aunque las editoriales puedan disfrutar de la oportunidad de demostrar su compromiso con la «literatura orgánica», la generalización de la detección de IA es un arma de doble filo para los autores, que corren el riesgo de que un falso positivo arruine su reputación.
“Tenemos que tener mucho cuidado de que esto no acabe convirtiéndose en una caza de brujas”, advierte Tom West, CEO de Publishers’ Licensing Services, que ayuda a las editoriales a conceder licencias colectivas de obras a terceros. “Obviamente, el problema estará en los detalles”.
La startup Pangram, con sede en Nueva York, que se ha consolidado como líder en el campo de la detección mediante IA, asegura ser capaz de detectar textos generados por IA con una precisión del 99.7%. Sin embargo, los autores han cuestionado la fiabilidad de su método, que a su vez recurre a la IA.
En septiembre, Jerry Falade, el autor novel cuyo agente, según se informa, retiró un contrato editorial de 2 millones de dólares, alegó que el software de detección había malinterpretado su dialecto nigeriano como prueba de que había utilizado IA. El software de Pangram calificó el libro como generado en un 97% por IA. “Se tarda meses, incluso años, en escribir un libro”, escribió Falade en un ensayo reciente. “Al software de detección de IA le bastan dos minutos para arruinar el trabajo de toda una vida”. (Pangram no respondió a una solicitud de comentarios.)
¿Una futura caza de brujas?
Otros han advertido contra la normalización de un escrutinio extremo de los autores. Señalan que los sistemas de etiquetado están planteando una solución al revés; la responsabilidad debería recaer en las plataformas y las editoriales a la hora de declarar cuándo un contenido está generado por IA, no cuándo está escrito por una persona. “A los autores se les interroga constantemente sobre el origen de sus ideas y su obra. Creo que es algo a lo que debemos oponernos”, opina West. “Lo normal debería ser que se dé por hecho que un libro ha sido escrito por un ser humano”.
Aprobado por la Oficina de Propiedad Intelectual junto con la marca, el proceso de verificación de Books by People difiere del enfoque de Pangram, que da prioridad a la tecnología. Books by People concede mayor importancia al análisis de documentos y registros de comunicación en busca de indicios de humanidad. “Yo no lo llamaría detección mediante IA”, indica Dennys. “Nos dimos cuenta bastante pronto de que, a medida que los modelos de IA mejoran, entrar en esa carrera nunca va a ser sostenible”.
En los casos en los que Books by People no tiene claro si una prueba indica el uso de IA, sostiene que se decanta a favor del autor. “Cuando se trata de un proceso público que ha sido sometido a un control riguroso, lo único que podemos hacer es asegurarnos de que un libro haya pasado por ese proceso”, explica Dennys. “El pilar fundamental de nuestra organización es evitar que [los escritores] sean acusados injustamente”.
Algunos autores manifiestan que lo importante es que las editoriales destaquen su compromiso con la literatura escrita por seres humanos como una norma innegociable para el sector, de cualquier forma que puedan. Incluso si los métodos para velar por el cumplimiento de la norma son imperfectos.
“Es tan importante que las editoriales tengan una política de ‘no hacer trampa’ como lo es para las universidades, aunque no exista un método perfecto para hacerla cumplir”, argumenta Chiang. “Es una declaración de valores”.
Artículo originalmente publicado en WIRED.com. Adaptado por Mauricio Serfatty Godoy.
