Così l’AI ha gettato nel caos più totale il settore dell’editoria libraria

Poco dopo aver siglato un contratto multimilionario per un autore esordiente, gli agenti del romanziere hanno interrotto la collaborazione. Hanno dichiarato di non poter più supportare il progetto perché non erano in grado di verificare che il libro fosse stato interamente scritto dal loro cliente.

«Questo solleva molti interrogativi sulla paternità letteraria e sul significato dell'intelligenza artificiale per questo settore», ha scritto l'agenzia, Europa Content, agli editori in una lettera di luglio, dopo che erano emerse accuse di utilizzo dell'AI intorno a Call Me, I'll Hide the Body, un romanzo poliziesco di Jerry Falade. «Ma queste sono domande per un altro momento».

Si moltiplicano gli scandali

Eppure, con un nuovo scandalo legato all'AI che sembra travolgere il mondo dell'editoria ogni mese, è diventato sempre più difficile rimandare a un futuro lontano le domande sul suo impatto. Le spettacolari implosioni di importanti contratti editoriali per sospetto utilizzo dell'AI – e i timori su chi potrebbe essere il prossimo – stanno imponendo una riflessione sulla natura della paternità letteraria, sul rapporto tra scrittori ed editori e sulla sopravvivenza a lungo termine del settore. Ma nessuno sembra essere d'accordo su chi sia esattamente responsabile della soluzione di questo problema, o persino su quanto sia effettivamente grave.

L'anno scorso, 70 autori, tra cui Margaret Atwood e Jonathan Franzen, hanno firmato una lettera aperta agli editori esprimendo preoccupazioni sull'intelligenza artificiale generativa e chiedendo loro di «impegnarsi a non pubblicare mai libri creati da macchine».

Eppure le cinque maggiori case editrici – Simon & Schuster, Penguin Random House, HarperCollins, Hachette Book Group e Macmillan – si sono mostrate in gran parte riluttanti a prendere posizione su una tecnologia potenzialmente redditizia e sempre più diffusa (molte di loro sono anche coinvolte in cause legali contro aziende tecnologiche per aver addestrato i loro modelli su libri protetti da copyright).

Al contrario, si ritrovano a dover intervenire per sedare gli incendi quando gli scandali sull'uso dell'AI diventano troppo dannosi per la loro reputazione per essere ignorati.

Falade, uno studente laureato della Southern Methodist University, ha respinto le accuse riguardanti il suo romanzo, definendole motivate da razzismo. «È stata un'esperienza terribile per me», ha dichiarato in un'intervista. «Non riesco a dormire bene, non riesco a mangiare».

A marzo, Hachette Book Group ha annullato la pubblicazione negli Stati Uniti del libro di Mia Ballard Shy Girl, un romanzo horror che narra la storia di una donna tenuta prigioniera da un uomo conosciuto online e costretta a vivere come un animale domestico, a seguito di accuse secondo cui l'autrice avrebbe utilizzato l'intelligenza artificiale nel processo di scrittura.

Ballard, che inizialmente aveva pubblicato il romanzo in proprio prima che Hachette ne acquisisse i diritti, ha negato queste affermazioni, sostenendo che l'AI fosse stata utilizzata da un conoscente che aveva curato la revisione del testo. «Hachette rimane impegnata a proteggere l'espressione creativa e la narrazione originali», ha dichiarato la casa editrice in un comunicato stampa all'epoca.

Il mese scorso, The Atlantic ha scritto che Daggermouth, un romanzo distopico autopubblicato i cui diritti sono stati acquisiti da Simon & Schuster e che ha costantemente scalato le classifiche di vendita, presentava elementi tipici dell'utilizzo dell'intelligenza artificiale. L'articolo citava una ricerca del professor Tuhin Chakrabarty della Stony Brook University, che aveva analizzato il libro con lo strumento di rilevamento dell'AI Pangram. La ricerca non è ancora stata sottoposta a revisione paritaria e l'autrice ha negato le accuse, affermando pubblicamente di non credere che l'AI generativa debba essere integrata nel processo di scrittura.

«Non crediamo che le conclusioni sull'opera di un autore debbano essere tratte da strumenti di rilevamento dell'AI che hanno dimostrato di produrre falsi positivi», ha dichiarato un portavoce di Simon & Schuster. «H.M. Wolfe ha scritto Daggermouth e noi sosteniamo lei e la sua opera».

Il ceo, co-fondatore e autoproclamato «addetto alle pulizie» di Pangram, Max Spero, ha affermato che l'elevato tasso di accuratezza dello strumento è stato convalidato da numerosi studi di terze parti. «Perché Simon & Schuster avrebbe dovuto abbandonarlo? Perché a quanto pare aveva già riscosso un enorme successo. Quindi piaceva alla gente», ha detto Chakrabarty. «C'è questo aspetto più ampio legato alla dimensione commerciale della narrativa generativa basata sull'AI, e poi le case editrici si preoccupano davvero di mantenere quello standard?»

Gli autori che si autopubblicano

Nella disperata ricerca di successi in un periodo in cui la maggior parte delle persone legge sempre meno, gli editori spesso cercano di pubblicare opere autopubblicate che hanno già trovato un pubblico, una categoria in cui, secondo agenti ed editor, l'uso dell'AI è particolarmente diffuso.

Ma gli autori autopubblicati non sono certo gli unici a utilizzare questi strumenti. A maggio, lo scrittore Steven Rosenbaum, pubblicato da un'etichetta di BenBella Books, è finito sotto accusa quando il New York Times ha scoperto che aveva incluso citazioni generate dall'AI nel suo libro The Future of Truth: How AI Reshapes Reality. Nei ringraziamenti del libro, aveva ammesso apertamente di aver utilizzato gli Llm come risorsa.

«Considerata la velocità con cui si muove il mondo e il settore editoriale, sembra inevitabile che episodi simili si ripetano», ha affermato Paul Bogaards, dirigente di lunga data nel campo della pubblicità e del marketing editoriale, aggiungendo che gli editori si chiedono «quali misure di sicurezza dobbiamo adottare per proteggerci dal ripetersi di una situazione simile?».

Un dirigente di una delle cinque maggiori case editrici ha dichiarato di aver deciso di non includere clausole contrattuali specifiche sull'AI, data la rapida evoluzione del settore e il fatto che le norme variano a seconda delle case editrici e degli editori.

«L'AI non sostituisce la creatività umana», ha affermato un portavoce di Penguin Random House. «Consideriamo l'AI uno strumento che può supportare determinati flussi di lavoro editoriali, ma non un sostituto per autori, illustratori, professionisti del settore o per l'intelletto e il giudizio umano che danno forma ai nostri libri».

Andy Hunter, fondatore e ceo di Bookshop.org, ritiene che i dibattiti su dove tracciare il confine per i singoli autori oscurino un problema ben più grande: la valanga di libri scadenti online. «Probabilmente il 99% di questi libri è pensato per ingannare i clienti e indurli ad acquistare qualcosa di plagiato, pieno di disinformazione o con contenuti incredibilmente superficiali generati da un master in ingegneria del software», ha affermato Hunter.

Lo studio di Chakrabarty ha inoltre rilevato che il 20% degli ebook di Amazon presenti nel loro database presentava un «sostanziale» utilizzo dell'AI. Il rivenditore online ha dichiarato di adottare misure per rimuovere i contenuti che violano le sue linee guida.

James Daunt, ceo di Barnes & Noble, ha ricevuto critiche dopo aver affermato al programma Today a maggio che se i clienti desiderano acquistare libri generati dall'intelligenza artificiale, «li metteremo in vendita». In un'intervista, ha chiarito le sue dichiarazioni. «Ho premesso che al momento non li vendiamo», ha affermato. «Facciamo di tutto per non venderli». Barnes & Noble rimuove i libri dal suo negozio online se si scopre che sono stati generati dall'intelligenza artificiale.

«I libri che voglio pubblicare sono libri che dicono qualcosa di originale e diverso da ciò che è già presente nel mondo, e non credo che l'intelligenza artificiale possa produrli», ha dichiarato Cindy Spiegel, co-ceo della casa editrice indipendente Spiegel and Grau. Ma, «se capita qualcosa di veramente fenomenale e significativo, e ne ricavo qualcosa, allora penso che valga la pena includerlo nel nostro repertorio» (anche se, precisa, queste opere dovrebbero sempre contenere una chiara dichiarazione di non responsabilità).

L’opinione pubblica è contraria

Al momento, l'opinione pubblica è ancora in gran parte contraria all'utilizzo dell'AI per la generazione di testo, sebbene il suo impiego per la ricerca e la stesura di schemi stia diventando più accettabile. Se si scoprisse che i lettori apprezzano i libri generati o assistiti dall'AI, soprattutto in generi come il fantasy e la fantascienza, dove le letture sono molto frequenti, gli editori non vogliono rinunciare a una possibile fonte di guadagno in un mondo in cui questi generi sono rari.

«Non esistono ancora standard definitivi in materia», ha affermato Amanda Annis, agente del Trident Media Group. «C'è ancora troppa zona grigia che non è stata ancora chiarita».

Nel tentativo di contrastare la proliferazione di testi di scarsa qualità, l'Authors Guild ha introdotto una certificazione di «autore umano» che gli scrittori possono aggiungere ai propri libri dopo aver firmato un'attestazione. Tuttavia, alcuni ritengono che un sistema basato sulla buona fede non abbia gli strumenti necessari per affrontare un problema così diffuso.

L'industria editoriale è sempre stata fondata sulla fiducia. Gli editori si affidano agli autori affinché attestino l'accuratezza e l'originalità delle loro opere. L'assenza di meccanismi di controllo istituzionali diventa argomento di discussione ogni volta che scoppia uno scandalo di plagio o che la veridicità di un'autobiografia viene messa in discussione, e molti temono che l'intelligenza artificiale rappresenterà un'ulteriore prova di resistenza che metterà ulteriormente a nudo le debolezze intrinseche del settore.

Gli agenti letterari, che fungono da intermediari tra autori ed editori, si sono ritrovati in prima linea. «Credo che ad agenti ed editori venga ora chiesto, in sostanza, di fare da poliziotti», ha affermato Emma Dries, agente della Triangle House Literary. Ha raccontato che la sua casella di posta elettronica è stata sommersa da un numero di richieste senza precedenti, che attribuisce agli scrittori che utilizzano gli Llm per inviare spam agli agenti, e ha ricevuto manoscritti che sembravano chiaramente generati dall'AI.

Di recente ha rifiutato un saggio di cui era entusiasta, dopo che l'autore aveva ammesso di utilizzare frequentemente l'AI, non per scrivere, a suo dire, ma per trovare ispirazione. «Sono sicura che quella persona troverà un agente e verrà pubblicata, e non so se se ne parlerà mai», ha detto, facendo notare che la persona aveva già ricevuto diverse offerte di rappresentanza.

«Quando vedo qualcosa di scritto onestamente male, è una vera boccata d'aria fresca», ha affermato Angeline Rodriguez, agente della Wme, osservando che alcuni dei manoscritti che riceve ora «fanno sembrare Cinquanta sfumature di grigio un'opera di Tolstoj».

Alcuni agenti semplicemente non chiedono, sperando che la questione non venga sollevata. Altri adottano una linea dura, dicendo agli autori che non rappresenteranno nessuno che utilizzi l'intelligenza artificiale, nemmeno a scopo di ricerca. Altri ancora utilizzano software di rilevamento dell'AI per vagliare i manoscritti, sebbene l'accuratezza di questi strumenti rimanga oggetto di dibattito.

«C'è molta ansia», ha affermato Regina Brooks, ceo della Serendipity Literary Agency e presidente dell'Association of American Literary Agents (Aala). «Le persone sono preoccupate di aver lavorato a lungo su un manoscritto e di aver poi magari ripreso del materiale da una ricerca, e temono che questo possa essere considerato non protetto da copyright».

Il problema del copyright

Il fatto che il testo generato dall’AI non sia protetto da copyright è uno dei punti fermi che il settore è riuscito a imporre. Tutto il resto, al di là del copia-incolla di frasi direttamente da un master in ingegneria (Llm) nel proprio manoscritto, è una zona grigia.

«Stiamo tutti cercando di trovare delle linee guida man mano che procediamo, ma sembra proprio che le preoccupazioni di questo mese siano diverse da quelle del mese scorso», ha affermato Hannah Bowman, agente della Liza Dawson Associates e presidente del Comitato Speciale sull'AI dell'Aala.

Agenti ed editori sanno che è solo questione di tempo prima del prossimo grande scandalo legato all'AI. «L'unico lato positivo è che, grazie a Dio, stiamo ancora cancellando questi libri», ha commentato un agente con la fobia dell'AI. «Non so se continuerà a essere così».