Quando è uscito Ipnocrazia per Edizioni Tlon, alla fine del 2024, è diventato velocemente un piccolo caso editoriale. Nel giro di poche settimane, il libro è stato presentato a Più Libri Più Liberi, citato su blog, discusso in eventi pubblici e newsletter, consigliato da librai e lettori come una tra le uscite più interessanti del momento. «Formidabile nello stile e nelle intuizioni», «Una nuova forma di controllo sociale, basato sulla credulità, in cui il potere per la prima volta non controlla i corpi, ma opera direttamente sulle coscienze», così alcune recensioni. La firma in copertina era quella di Jianwei Xun, un giovane filosofo originario di Hong Kong, formato in Europa, al crocevia tra Baudrillard e Byung-Chul Han.

Le recensioni ne parlavano come di un saggio capace di spiegare il presente attraverso una lente insolita ma efficace: non tanto la disinformazione, quanto la suggestione; non la post-verità, ma una sorta di trance collettiva, resa possibile da narrazioni sempre più pervasive. Letteratitudine News lo presentava così: «Filosofo, studioso dei rapporti tra potere, istituzioni e media Xun […] è considerato l’erede del filosofo coreano Byung-Chul Han e del pensiero di Jean Baudrillard». Anche Il Foglio aveva rilanciato: «Siamo nell’epoca del potere gassoso, in cui il presidente degli Stati Uniti e il CEO di X sono i veri profeti».

Sui social circolavano citazioni, foto del libro, dibattiti attorno al concetto di “ipnocrazia”. In questo scenario, quasi nessuno si è chiesto chi fosse davvero Jianwei Xun. Un sito ufficiale, un paio di interviste scritte, qualche citazione su Wikipedia. Nessuna presenza pubblica, nessun curriculum accademico. Ma il libro c’era, ed era convincente. Il nome suonava plausibile e l’editore è affidabile. Non sembrava esserci motivo di dubitare.

Anche in Francia il libro ha fatto parlare di sé, soprattutto negli ambienti culturali vicini alla filosofia politica e ai media studies. Il primo a rilanciarlo è stato Le Grand Continent, rivista di geopolitica e pensiero europeo, con un estratto pubblicato nel gennaio 2025 intitolato: Trump, Musk: l’hypnocratie ou l’empire des fantasmes. Da lì a poco il libro ha trovato spazio anche in Philonomist e articoli su Le Figaro e France Culture, dove il termine hypnocratie ha cominciato a circolare come categoria utile a descrivere le derive della comunicazione politica contemporanea. Le Figaro gli ha fatto anche un ritratto e persino il presidente Macron sembra averlo apprezzato.

È poi emerso che Jianwei Xun non esiste. Il libro è un progetto alla Luther Blisset, scritto da Andrea Colamedici con l’ausilio di un’Intelligenza Artificiale, e il nome dell’autore, la sua biografia, il sito web e persino lo stile comunicativo sono parte di un’operazione di filosofia performativa. Come spiega lo stesso Colamedici nella sezione segreta del sito di Xun denominata Il progetto, Ipnocrazia nasce come test su larga scala per indagare il rapporto tra percezione, verità, autorevolezza e narrazione. Il sito presenta Xun come un autore reale, ma con una comunicazione calibrata per non diventare troppo esposta. Il tono è coerente, la grafica curata, le interviste misurate. Il nome stesso — Jianwei Xun — è pensato per essere plausibile, ma non facilmente rintracciabile. Nessuna foto, nessun video. Xun non è un autore: è un’istanza narrativa. È l’insieme delle condizioni che lo rendono credibile.

Ma perché ci siamo lasciati convincere così facilmente? In Italia pochi hanno sollevato dubbi (alcuni, come me, lo sapevano e hanno retto il gioco). In Francia, dove stava diventando un boom editoriale, anche solo per la legge dei grandi numeri varie persone cominciavano ad accorgersene.

La fusione tra reale e rappresentazione che mette in atto Xun trova un fondamento sociologico in un classico come La realtà come costruzione sociale di Peter L. Berger e Thomas Luckmann. Per i due autori, ciò che definiamo “realtà” non è mai un semplice dato oggettivo, ma il risultato di un costante processo di costruzionecondiviso tra individui, gruppi e istituzioni. Le categorie con cui interpretiamo il mondo — e le narrazioni che ci guidano — vengono legittimate e rese credibili attraverso reti di riconoscimento reciproco. Un libro pubblicato da un editore affidabile, recensito in contesti culturali di prestigio, diventa immediatamente reale e autorevole. Nel caso di Xun, l’effetto di verosimiglianza non è stato solo un prodotto di stile, ma il frutto di un’intera cornice istituzionale che lo ha validato. Così, come sostengono Berger e Luckmann, una narrazione si trasforma in verità quando un numero sufficiente di attori sociali le conferisce valore di realtà — e questo avviene, in fondo, a prescindere dall’effettiva esistenza dell’autore.

Il libro stesso parla di questo meccanismo. Ipnocrazia descrive un regime in cui non conta più che qualcosa sia vero, ma che sia credibile. Dove la realtà si costruisce attraverso il riconoscimento condiviso. Non si tratta di censurare, ma di moltiplicare: narrazioni, immagini, interpretazioni, finché il vero si perde nel rumore. Il successo del libro ha in qualche modo dimostrato la validità della sua tesi. È stato creduto perché abbiamo bisogno di storie che funzionino, più che di verità verificabili.

Paul Ricœur, nella trilogia Temps et récit, mostra come la narrazione sia il dispositivo centrale con cui costruiamo il nostro rapporto con il tempo e con l’identità. Non viviamo il tempo come sequenza cronologica, ma come intreccio narrativo. L’esperienza diventa comprensibile solo quando la raccontiamo. E questo vale anche per l’identità personale: siamo il racconto che facciamo di noi stessi. Di fronte alla complessità e all’ambiguità del mondo, la narrazione è una strategia di compressione del reale. Se qualcosa funziona rispetto ai nostri scopi, tendiamo a considerarla vera.

Anche Jerome Bruner, tra i più influenti teorici della cognitive psychology, sottolinea che la mente umana pensa per storie: invece di organizzare i dati in modo logico, cerchiamo costantemente di dare un senso narrativo a ciò che viviamo. Raccontare, ascoltare, rielaborare storie è la strategia con cui riduciamo la complessità del reale, creando nessi di causa-effetto e identità coerenti. In questo quadro, l’adesione a una trama convincente — per quanto possa non essere verificata a fondo — risulta spesso spontanea. Il cervello umano, letteralmente, funziona meglio quando ha di fronte un racconto ben strutturato.

Un ulteriore elemento che chiarisce la facilità con cui ci lasciamo convincere — anziché dubitare — è legato ai bias cognitivi, i filtri attraverso cui analizziamo il mondo. Basti pensare all’effetto veridicità illusoria (illusory truth effect): più un contenuto ci viene presentato in modo coerente, ripetuto in contesti percepiti come autorevoli, e più tendiamo a considerarlo vero. Oppure il bias di conferma, che ci induce a cercare solo informazioni in linea con le nostre convinzioni, ignorando (spesso inconsciamente) ciò che le contraddice.

La coerenza narrativa, insomma, conta più della coerenza logica. Una prospettiva ancora più radicale arriva dalla filosofa americana Elizabeth Camp, che ha studiato a fondo il ruolo del linguaggio figurato nella nostra comprensione del mondo. Secondo lei, concetti come la metafora non servono a dire il vero in senso stretto, ma a farci vedere le cose da nuove angolazioni. Una metafora, pur non essendo letteralmente vera, può dischiudere significati che prima ci erano invisibili. In questo senso, l’autore fittizio funziona come una metafora epistemica: non importa se esiste davvero, ma cosa ci fa vedere. Xun, come una buona metafora, non si misura sulla verità referenziale, ma sull’effetto cognitivo che produce. La sua stessa esistenza (o meglio: la sua assenza) è una dimostrazione incarnata dell’ipnocrazia. Questa idea risuona con alcune forme di finzionalismo filosofico, secondo cui una teoria o un concetto non devono essere “veri” in senso assoluto, purché ci aiutino a pensare meglio. Se la verità si misura in base alla sua utilità conoscitiva, allora la filosofia può smettere di chiedersi cos’è reale, e iniziare a chiedersi: a cosa serve ciò che consideriamo vero?

Non ci siamo chiesti chi fosse Xun, perché ciò che diceva ci sembrava sufficientemente utile e verosimile. Michel Foucault, nel celebre saggio Che cos’è un autore?, scrive che l’autore non è una persona, ma una funzione. Una costruzione che serve a delimitare, organizzare, legittimare un certo insieme di discorsi. E proprio per questo può essere fittizio, diffuso, persino programmato. È sufficiente che la macchina dell’autorialità giri: che il testo sia leggibile, il nome suoni bene, il contesto editoriale sia solido, e il contenuto sia percepito come “utile”. L’autore è una funzione distribuita, ambientale, che emerge dal sistema di relazioni tra libro, lettori e contesto. Xun è una griglia semantica dentro cui è stato possibile leggere la contemporaneità:filosofia orientale, Intelligenza Artificiale, post-verità, estetica minimale, autorità evocata. Xun non è una maschera dietro cui si nasconde qualcuno, ma una forma attraverso cui qualcosa è stato detto.

E infine c’è la tanto temuta IA. C’è chi si ostina a demonizzarla, chi giura – mentendo – di saperne riconoscere la presenza in un testo, chi sostiene che non potrà mai essere utile per la “vera scrittura”. Ma l’IA non disturba tanto per quello che è, quanto per ciò che mostra, ovvero che la scrittura non è mai stata del tutto nostra. Non siamo i padroni della scrittura quanto parte di essa, dei suoi abitanti. Se usata bene, l’AI assume la voce che le dai. Può amplificare la tua, rafforzarla, oppure crearne una nuova, come nel caso di Xun. Se invece ti limiti a seguire ogni suggerimento della macchina, senza rielaborare o entrare in un rapporto dialettico con essa, il risultato sarà inevitabilmente standardizzato. Patinato, prevedibile, più simile a un template che a un’opera. La creatività, dopotutto, non è mai stata un processo isolato: è un movimento distribuito, un intreccio tra soggetti, strumenti, ambiente, contesto. L’illusione dell’autore romantico, isolato e ispirato, ha resistito finché non abbiamo ricominciato a vedere quanto di fatto ogni opera dell’ingegno sia frutto di un lavoro collettivo, che si tratti delle tragedie di Shakespeare o delle scoperte scientifiche.

Non esiste il genio che crea dal nulla, né un’idea pura nella mente che si traduce fedelmente nella materia. Ogni creazione si modifica mentre accade. Anche nelle opere d’arte concettuali più apparentemente “chiuse”, come potrebbe sembrare la Fontana di Duchamp, l’idea non nasce tutta intera all’improvviso ma ha vissuto altrove: negli appunti, nei tentativi, nelle conversazioni, le ispirazioni, nelle diverse esperienze e riflessioni dell’artista. L’AI rende tutto questo più evidente, perché non è un soggetto, ma una funzione relazionale: genera variazioni, propone biforcazioni, restituisce frammenti e li rimescola. In questo senso, la scrittura assistita è uno spazio di co-creazione distribuita, dove la macchina non decide, ma aiuta o suggerisce. Deleuze e Guattari parlano di pensiero rizomatico: una conoscenza non gerarchica, fatta di connessioni multiple, aperture laterali, percorsi non lineari. Charles Peirce, con il suo concetto di abduzione, ci ricorda che l’innovazione nasce proprio dalle anomalie, dagli scarti, dai dettagli che non tornano — e che ci costringono a immaginare ipotesi nuove.

La creatività si lascia trasportare dalle deviazioni, è un fenomeno del mondo, più che nel mondo. Il pensiero si riflette su cose e persone, si modifica in scambi repentini e inavvertiti come i movimenti saccadici degli occhi con cui costruiamo l’immagine del mondo.

Non serve dunque “riconoscere” l’uso dell’AI nei testi, come se si trattasse di una lettera scarlatta. Se la macchina viene usata con consapevolezza, moltiplica la tua voce. Alcuni lettori di Xun hanno criticato la sua teoria, ma ne hanno amato “la voce”. Altri invece hanno trovato le sue idee illuminanti, altri ancora lo hanno odiato. Che importa chi ha scritto? Una donna, un uomo, un gruppo, una macchina o persino delle lettere spostate dal vento. Difficilmente possiamo rinchiudere la figura autoriale all’interno di un corpo, ma possiamo sempre valutare se ciò che dice è utile per interpretare la complessità di ciò che viviamo.

Che tecnologia e innovazione siano sinonimi è un fraintendimento a cui ci siamo abituati, che abbiamo introiettato e ripetuto non tanto a partire dall’avvento di internet, come verrebbe istintivo dichiarare, ma ben prima, e cioè ogni volta che l’umanità si è trovata a confrontarsi con la nascita di uno strumento tecnico di cui ha avuto timore intuendone il potenziale rivoluzionario. La verità è però che la tecnologia è un fatto umano, ed è questo il primo e più importante punto di intersezione con il concetto di innovazione.

Nel contrapporre uomo e macchina, nel prodigarci per difendere il primo dalla seconda, abbiamo rischiato di dimenticare quanto ogni progresso tecnologico risponda, essenzialmente, al bisogno umano di trovare strumenti e alleati per rispondere alle domande sempre più complesse che l’uomo si pone. L’intelligenza artificiale è l’ultimo di questi avanzamenti spaventosi, e c’è stato un gran dibattere – e dibattersi – per mettere al riparo l’arte e la creatività dall’intrusione di una tecnologia che, si diceva e si dice, finirebbe per soppiantarle. Ma se fare arte significa problematizzare il reale, sollevare domande, aprire spiragli inediti e allenare sguardi inaspettati, è contradittorio pensare che questa non debba o non possa confrontarsi con l’ultima delle rivoluzioni tecnologiche. A che punto siamo nell’interazione tra arte e tecnologia? Che cosa risulta dal dialogo tra intelligenza artistica e intelligenza artificiale?Queste le domande da cui prende avvio la mostra “AI Yoga per Intelligenze Artistiche”, inaugurata a Milano il 19 settembre presso MEET Digital Culture Center – il Centro Internazionale per l’Arte e la Cultura Digitale.

Il MEET è un museo che dà spazio alle avanguardie, con una particolare attenzione al dialogo tra arte e dimensione digitale. Si trova a Porta Venezia, quartiere ibrido e difficile da incasellare, ai limiti del centro di una città irrequieta. Arrivare al Meet è dunque già un buon modo per prepararsi a ciò che si vedrà al suo interno: opere ibride, irrequiete, sperimentali, che interrogano il presente perché nel suo flusso si inseriscono, senza timori conservativi. 

La mostra “AI Yoga per Intelligenze Artistiche” nasce dal dialogo di dieci artisti italiani – Accurat, Lorenzo Bacci e Flavio Moriniello, Roberto Beragnoli, Alessandra Condello, Francesco D’Isa, Lorem (Francesco D’Abbraccio), Katsukokoiso (Eugenio Marongiu), Mauro Martino, Andrea Meregalli e Mattia Piatti – con il nuovo portatile Lenovo Yoga Slim 7x. Un dispositivo dotato di un’unità neurale in grado di processare fino a 45 trillioni di operazioni al secondo. Non so che cosa significhi e provo una sorta di timore reverenziale quando ne vedo due esemplari poggiati all’ingresso della mostra. Non temo che siano più intelligenti di me. Temo invece che, se mi capitasse di interagirci, non sarei in grado di trovare la lingua adatta per comunicare, e cioè per spiegare al dispositivo cosa penso e come intendo ciò che penso, cosa ho intenzione di creare e come potrebbe aiutarmi a farlo.

La sensazione non mi abbandona quando rivolgo l’attenzione alla prima opera: Viaggio in Italia di Roberto Beragnoli. Si tratta di un documentario in stile cinegiornale Istituto Luce, con tanto di voce narrante di Emilio Cingoli, celebre e prolifico doppiatore italiano. Qualcosa dunque di familiare, che immediatamente sollecita la memoria e ci rassicura. Dopo pochi secondi, però, accade qualcosa di inaspettato. Il riferimento che abbiamo individuato è scalzato da una sorta di disturbo difficile da definire, un bizzarro stridore tra il cinegiornale che conosciamo e il cinegiornale che stiamo vendendo si insinua in noi, emanato dall’opera. Non è facile capire a cosa sia dovuto, individuare che cosa non torni, eppure qualcosa non lo fa ed è presto evidente che quello che stiamo guardando non è ciò che nei primissimi secondi avevamo individuato. La meta del viaggio oggetto del cinegiornale non è l’Italia ma il risultato di reminiscenze non più esclusivamente umane: un’Italia hackerata, verrebbe da dire, da un intruso indefinibile, risultato del dialogo e del confronto tra uomo e macchina, tra artista e algoritmo.

Proseguendo lungo il percorso espositivo vengo catturata dall’opera Brave New World – Dancing with the Machine, installazione fotografica di Lorenzo Bacci e Flavio Moriniello che documenta tramite istantanee fotografiche una delle più durature e anarchiche forme di aggregazione sociale degli ultimi decenni, ovvero la cultura rave. Vengo di nuovo rassicurata da qualcosa che conosco, alla cui estetica e se vogliamo etica sono abituata. Di nuovo, però, un glitch si intromette, un disturbo che ricorda lo schermo grigiastro e vibrante di un vecchio televisore senza segnale. Questa volta individuo il campanello d’allarme: il volto di una delle donne gloriose e devastate fotografate a questo rave assomiglia terribilmente a Marla Singer, la protagonista femminile del film Fight Club. Le assomiglia senza essere lei, capisco a uno sguardo più attento, e allora proseguo scrutando ogni volto e riconoscendo in ogni volto me stessa, il mio amico, il vecchio cultore di musica techno che si incontra nei club berlinesi e, contemporaneamente, non riconoscendo fino in fondo nessuno. Si tratta di fotografie generate dall’Intelligenza Artificiale: vicine alla realtà e allo stesso tempo altrove, un altrove onirico e sfuggente. 

«Le opere che compongono la mostra vivono all’interno di una dimensione estremamente onirica, sembrano dei piccoli sogni» racconta Valerio Borgonuovo, curatore della mostra e ricercatore. «Questo è dovuto ad aspetti formali attraverso cui l’IA generativa costruisce e assembla le immagini in movimento. I corpi si liquefanno e osserviamo una continuità innaturale e talvolta illogica tra un’immagine e l’altra. Tutto ciò è molto simile a come funzionano le nostre fasi neurali nel sonno, per cui il risultato del dialogo tra artista e dispositivo è un ancora un dialogo tra la veglia e il sonno, al limite dello stato di coscienza». 

Proseguo il viaggio negli spazi espositivi del MEET fino ad arrivare alla sala immersiva, che ospita quella che si potrebbe definire una quadreria digitale animata dai lavori pittorici e video di Alessandra Condello, Mauro Martino, Francesco D’Isa, e Katsukokoiso (Eugenio Marongiu). Sono lavori molto diversi fra loro, a unirli però è l’inaspettata capacità di risultare pieni di grazia e insieme angoscianti. Le infinite vite possibili di ognuno di noi esplorate nell’opera Me-Me di Mauro Martino, dove il protagonista del video generato dall’IA cammina per una Milano camaleontica trasformandosi insieme a essa, convivono con il lavoro pittorico digitale di Francesco d’Isa. L’opera Erranze/Errancies dà vita a una poetica dell’errore e del vagabondaggio: i dipinti digitali sono il frutto della tendenza dell’artista ad assecondate l’errore della macchina, a dare spazio ai fraintendimenti che necessariamente avvengono quando l’uomo e il computer si trovano a dialogare. 

«L’arte non è un algoritmo, è un dialogo. Un dialogo tra l’intuizione umana e gli strumenti che la amplificano. L’intelligenza artificiale, come lo Yoga Slim 7x di Lenovo, non sostituisce l’artista, ma ne diventa il complice, il compagno di viaggio in territori inesplorati», dice Francesco D’Isa.

La domanda che rimane aperta, quando si esce, arricchiti e frastornati, dalla mostra AI Yoga per intelligenze artistiche, è come sia avvenuto questo dialogo. Perché ogni confronto con un’opera d’arte che possa dirsi tale richiede di arrendersi alla difficoltà, quando non all’impossibilità di tradurre a parole ciò a cui si è assistito. Come si dice un’opera d’arte? Come si spiega? 
A dire il vero in questo caso la domanda è capovolta. E cioè: che cosa hanno detto questi artisti alla loro macchina per raggiungere il risultato che abbiamo visto? Quale lingua hanno usato, quale chiarezza intima e poi espositiva hanno dovuto allenare perché l’opera risultasse come è risultata? E ancora: quante rinegoziazioni, errori e fraintendimenti sono stati parte del processo creativo, arricchendolo? 

«Dovresti vedere quanto sono brutte le cose che creo io quando provo a usare questi strumenti. Questo dimostra che il risultato varia enormemente in base a chi li utilizza. Ci sarà sempre un’intelligenza artistica capace di padroneggiare ogni nuovo strumento, proprio come uno scultore sa usare lo scalpello o un pittore il pennello», conclude Borgonuovo. 

Torniamo all’inizio: tecnologia e innovazione non sono sinonimi. Tuttavia, quando l’intelligenza artistica entra in dialogo con la tecnologia, senza timore e consapevole del proprio valore insostituibile, innovare diventa un esito possibile, e la tecnologia può smettere di essere antagonista per farsi strumento utile e vitale. 

Quali parole – volenti e nolenti – ci porteremo nel futuro? Che significato hanno oggi e assumeranno domani per noi e per il mondo in cui siamo immersi? Nelle prossime settimane daremo forma a un vero e proprio lemmario con cui indagare il significato e il senso di termini ritenuti centrali dalle autrici e dagli autori coinvolti.

“Intelligenza artificiale” è un’espressione che ormai è venuta a noia anche a chi si occupa di queste tecnologie. Con il trascorrere del tempo, l’hype verso un prodotto dai costi miliardari che promette o minaccia di salvare o distruggere l’umanità comincia a suonare credibile come i timori del millennium bug dopo il duemila. Alcune persone restano timorose e diffidenti, altre non rinuncerebbero più a queste innovazioni, ma nei grandi poteri economici – dove si prendono le decisioni – continuano movimenti di assestamento tra accordi e minacce.

Di recente, Apple ha siglato un accordo con OpenAI per l’utilizzo di ChatGPT; poco prima, Samsung aveva fatto lo stesso con Google per l’utilizzo di Gemini, tra i più celebri concorrenti a ChatGPT; Microsoft integra l’AI (powered by OpenAI) nel suo nuovo sistema operativo. Queste tecnologie entreranno presto anche nelle abitudini dei più scettici: sarà possibile rifiutarle? Ovviamente sì, nessuno ci ha mai obbligato a comprare uno smartphone, eppure lo abbiamo fatto, un po’ per moda, ma soprattutto perché è comodo. Non solo per le mappe, ma anche per le traduzioni, le foto, i treni, le informazioni, la banca, i giochi, gli appunti, le notizie… persino i social network sono utili. Le giuste critiche a queste reti capitaliste di controllo e persuasione non devono farci dimenticare che, se paghiamo un prezzo così caro, non è solo per dipendenza, ma anche perché troviamo utile conoscere persone e condividere esperienze e informazioni. Così come lo smartphone, anche l’AI scivolerà nelle nostre vite perché, banalmente, è utile.

“Intelligenza artificiale” non è solo un’espressione troppo diffusa, ma anche inaccurata. Non abbiamo una nozione chiara di “intelligenza” – anzi, la cambiamo via via che una mente non umana o una tecnologia ci supera in qualche ambito – e non sappiamo se e secondo quali criteri possiamo definire intelligenti queste macchine. Una calcolatrice è senza dubbio più abile di me nel fare i calcoli, un’ape vola e coordina i suoi movimenti meglio di me, le piante sanno comunicare tra loro attraverso i miceli. Il mondo vivente è pieno di intelligenze che ci superano, tanto che, come suggeriva Stanislaw Lem in Summa Technologiae, anche l’evoluzione è un’intelligenza sorprendentemente efficace, che opera attraverso il tempo e la statistica. La natura lo fa meglio e prima insomma, come suggerisce il recente libro di Giorgio Volpi (Aboca edizioni). Lenta e priva di un’intenzione consapevole, riesce a produrre una straordinaria varietà di soluzioni viventi con risultati che spesso superano quelli di un disegno intelligente e intenzionale. Nel ristretto ambito della manipolazione di simboli, è già innegabile che ChatGPT sia spesso più intelligente di noi, considerato che scrive e parla meglio di molti umani; tuttavia, come la calcolatrice, resta molto meno versatile, non essendo in grado di cose come muoversi nello spazio o di assimilare informazioni per il proprio apprendimento in tempo reale e con cinque sensi.

“Artificiale” è un termine ancor più sbagliato. Ogni tecnologia nasce e si sviluppa in una rete di conoscenze culturali e ambienti sociali, rendendo artificiosa l’idea che siano degli oggetti neutrali o separati dall’uomo. Nel caso delle AI, questa neutralità è ancora più fantasmatica, perché si tratta di strumenti la cui stessa materia prima sono i dati e i feedback forniti dagli umani. Miliardi di immagini e testi vengono dati in pasto agli algoritmi, grazie a un complesso e capillare lavoro di annotazione e di feedback fornito da umani, spesso sottopagati. Come scrive Josh Dzieza per The Verge, il ruolo dei lavoratori dell’annotazione dei dati è cruciale ma invisibile. Questi lavoratori, spesso situati in paesi con salari più bassi come il Kenya, svolgono compiti ripetitivi e tediosi. 

Joe, un laureato di Nairobi, etichettava riprese per auto a guida autonoma, un lavoro che richiede ore di annotazione per pochi secondi di filmato, pagato solo $10 ogni otto ore di lavoro. L’annotazione dei dati è essenziale per la funzionalità dei sistemi AI, specialmente per gestire i casi limite che i modelli di machine learning incontrano nel mondo reale. Un incidente con un’auto a guida autonoma di Uber ha evidenziato tragicamente la necessità di un’accurata annotazione dei dati. Nonostante l’importanza di questo lavoro per il funzionamento delle AI, i lavoratori sono spesso pagati poco e non hanno consapevolezza del valore del loro contributo. In altri casi, come quello di Surge AI, le aziende svolgono compiti di labeling più complessi e specializzati, che richiedono competenze specifiche, con paghe tra $15 e $30 all’ora, con alcuni lavori specialistici che raggiungono i $50 all’ora o più. Considerando tutto questo lavoro umano e l’importanza dei dati, l’AI non è poi così artificiale.

Nonostante l’hype eccessivo, le paure esagerate e il nome sbagliato, l’intelligenza artificiale è qualcosa che farà senza dubbio parte del nostro futuro, così come fa già parte del nostro presente. Di recente un’artista americana nota per la sua posizione contro le AI, Jingna Zhang, ha fondato Cara, un social network per artisti sul modello dei più grandi Behance o DeviantArt. La peculiarità principale di questo nuovo social è che filtra le immagini generate dall’AI, proibendone la presenza nel network. L’aspetto più interessante è osservare il walldi Cara e confrontarlo con, per esempio, quello di Civit Ai, un social dedicato solo ad arte prodotta con AI generativa: al netto della tecnica risultano spesso indistinguibili. Si tratta per lo più di ottime realizzazioni ma stilisticamente di maniera, molto simili tra loro, di frequente kitsch. Nulla di male in questo, anzi, sono spesso gradevoli se non eccellenti nel loro ambito, ma testimoniano come probabilmente, nonostante la resistenza di molti illustratori e illustratrici, queste tecnologie faranno parte degli strumenti degli stessi artisti che oggi le criticano, così come accadde con i software di computer graphics, una volta osteggiati dalla medesima categoria (forse con meno forza, ma va detto che ancora non esistevano i social).

L’esplosione di questa sempre più gonfia e meno credibile bolla sulle potenzialità dell’AI aiuterà senz’altro a integrare questi strumenti in molti ambiti lavorativi, che però non saranno in grado di sostituire l’operatore umano senza importanti nuove rivoluzioni, al momento non all’orizzonte. Questo ovviamente non significa che non avranno impatto sul mondo del lavoro, laddove un umano che usa le AI potrà sostituirne due che non le usano. Di recente girava una battuta di qualcuno che diceva che voleva AI per lavare i piatti e fare il bucato, non per creare opere d’arte. Ma a dirla tutta, come scrivono Helen Hester e Nick Srnicek, anche tecnologie come lavatrici e lavastoviglie non sono riuscite ad alleggerire il carico di lavoro delle donne a cui erano in origine destinate, che si è solo ingrossato di nuove mansioni casalinghe. Il problema insomma è politico e in ogni caso siamo lontani dalla meta.

È da tempo che io e Silvio Lorusso ci leggiamo con reciproca stima e notevole disaccordo in merito alle tecnologie di IA generativa, spesso punzecchiandoci sui social rispetto alle nostre opinioni divergenti. In occasione dell’uscita del mio libro La rivoluzione algoritmica delle immagini per Sossella Editore non ho resistito alla tentazione di mandargli una copia, e quando Giacomo Giossi mi ha proposto un dialogo con lui attorno al libro sapevo che ne sarebbe nato un confronto interessante. I critici sono sempre preziosi (almeno finché non dicono palesi sciocchezze o millantano minacce) e sebbene in questo dialogo ci siamo fermati dopo cinque pagine, saremmo potuti andare avanti per altre cento. Ovviamente senza trovare un accordo.

Silvio Lorusso: Non mi dispiacerebbe entrare subito nel vivo affrontando le nostre divergenze, ma forse prima di parlare di ciò è importante esplicitare, quanto più precisamente possibile, il nostro rapporto con l’Intelligenza Artificiale come strumento e come ambito e, di conseguenza, il disequilibrio che c’è tra noi due. Mi spiego meglio. Tu hai pubblicato una graphic novel che fa uso di TTI e un saggio su immagini e Intelligenza Artificiale. Tieni regolarmente – mi sembra – corsi e conferenze su questi strumenti, sei stato di recente incluso in una lista delle “500 italiani e italiane che contano nell’Intelligenza Artificiale” secondo Repubblica. Su Facebook pubblichi quotidianamente post e commenti sul tema, discuti informalmente con gente del calibro di Lev Manovich e Luciano Floridi.

Mentre io, be’, mi limito a pubblicare di tanto in tanto qualche appunto a proposito dell’IA sul mio blog. Questo è quanto. Tuttavia sarei insincero se non dicessi anche che il mio understatement non deriva soltanto da un certo snobismo nei confronti di un’intellighenzia culturale in formazione attorno all’IA, che reputo opportunistica, ma anche dal timore di agire entro una cornice di riferimento passeggera e forse già obsoleta, costituita da tecno-entusiasti da un lato, e conservatori “umanisti” dall’altro. Una cornice peraltro incoraggiata in senso propagandistico dalle aziende che offrono servizi a base di IA.

Dunque ti vorrei chiedere, innanzitutto, se ti rivedi nel ritratto professionale che ho abbozzato, e se provi un simile timore.     

Francesco D’Isa: In realtà anch’io non mi sento a mio agio tra tecno-entusiasti e conservatori “umanisti”, come li definisci, perché non mi ritrovo in nessuno dei due gruppi. Il fatto che uso con entusiasmo (quello sì) le IA generative, che sono critico (anche da prima) verso il copyright e che non credo che siano strumenti poco creativi o addirittura dannosi per la creatività mi situa per molti tra i tecno-entusiasti; ma il fatto che critichi le scelte non open source di molte aziende tech, il loro usare un bene che reputo pubblico come i dati per il training a fine di lucro personale senza restituire nulla alla collettività, le preoccupazioni per le IA militari, quella per la chiusura culturale dei dataset, la mia critica ai filtri che mettono molte aziende ai loro software, la mia opinione sulle AGI… non piacciono a tutti i tech bros. E poi ci sono cose che non piacciono a nessuno, come il fatto che credo che le IA ci mettano davanti alla nostra mediocrità e ai nostri bias e difetti.

Per questo non ho paura di far parte di un milieu in scadenza: sono una persona che si occupa di filosofia e arte da tempo, questi strumenti sono (tra le altre cose) una perfetta congiuntura di interesse tra i due ambiti, sia dal punto di vista pratico che teorico. Sono strumenti che faranno parte anche del nostro futuro, questo penso sia assodato, e tutti coloro che ne hanno parlato, in qualunque modo, troveranno in futuro cose di cui si pentiranno e cose che saranno felici di aver detto, noi due inclusi. Se tacessi per paura o per uno snobismo che non mi appartiene penso che verrei meno al mio ruolo negli ambiti in cui lavoro. È un tema sicuramente molto interessante da esplorare, in fondo cosa dovrei temere? Di dire delle sciocchezze? Ma quello mi capita di continuo! Sarà la formazione filosofica ma non è certo una cosa di cui mi preoccupo, perché non implica che il mio contributo sia inutile o di cattiva qualità. Non è che se una teoria filosofica è sbagliata allora è inutile – anche perché è impossibile trovarne una che sia universalmente considerata “giusta”.

Avevo il timore di mettere tutto questo sotto forma di libro, quello sì, ma come hai visto ho cercato di trattare i temi in modo ampio. E soprattutto, come ha detto Sossella, che ha tanto insistito perché io lo scrivessi, è bene far sentire anche voci diverse e mettere un segno di passaggio in questa fase storica.

SL: Però bisogna ammettere che tra un punto di vista accorto ma errato e una sciocchezza plateale c’è una differenza, altrimenti saremmo tutti Spinoza. Ma il vero discrimine non sta tanto nel dire cose giuste o sbagliate, quanto nello scegliere opportunamente le questioni a cui dedicare tempo ed energia. Prendiamo il problema della creatività. Mi pare così male impostato che non credo valga nemmeno la pena discuterlo. Parlare di danno o supporto alla creatività vuol dire rifugiarsi nel trascendentale: se si può creare qualcosa di nuovo con l’urina o Excel non vedo perché non lo si possa fare con Dall-E. La questione si fa invece interessante quando si considera la creatività non come una qualità del soggetto o una categoria estetica bensì come un programma socio-economico. È quello che hanno fatto autori come Angela McRobbie (Be Creative) o Oli Mould (Against Creativity). Tale prospettiva ci mostra che esprimersi sull’alto o basso tasso di creatività dell’IA o del soggetto che ne fa uso vuol dire rimanere intrappolati nella narrazione offerta da diversi attori economici attivi nel campo dell’Intelligenza Artificiale, i quali alimentano l’immagine del creativo professionista per venderla ai consumatori, come Adobe e Apple prima di loro. È per questa ragione che gli utenti vengono nobilitati ricorrendo a formule come “AI artist” o “prompt engineer”.

Detto ciò, il fatto che le IA ci pongono davanti alla nostra mediocrità effettivamente non piace neanche a me, ma non per il suo contenuto bensì perché si tratta di un’affermazione troppo generica. Ti chiederei dunque di precisare il “noi” in questione.

FD: Be’, allora la mia risposta diventa che non credo di aver detto immense sciocchezze né di dedicare il mio tempo a qualcosa di inutile, altrimenti non lo farei. 

Concordo con quanto dici sulla creatività, l’idea del “creativo professionista” è un’immagine che fa comodo alle aziende, e non parlo solo di AI, ma anche di Adobe per intenderci. Si tratta della nobilitazione di una figura che non coincide con quella dell’artista, o almeno non del tutto. I lavori che sono appaltati al “creativo professionista” sono in genere applicazioni commerciali che non hanno molto a che fare con la produzione artistica e spesso nemmeno creativa in senso stretto. Si tratta di figure parallele o di ruoli che vengono svolti per motivi economici.

Pensa a James Harvey, che negli anni Sessanta era un espressionista astratto che per vivere faceva anche lavori grafici, come il logo “Brillo” finito nell’omonima opera di Warhol – fatto curioso, un’opera che Harvey vide al vernissage di Warhol senza risentimenti di sorta. Le TTI non open source sono tarate verso questo tipo di lavori perché sono quelli più redditizi, e questa calibratura del dataset e a volte della programmazione le rende più complesse da usare a fini artistici. Neanche io amo formule come “AI artist” o “prompt engineer”, perché implicano che chi lavora con IA sia una figura nuova, che è falso. Si tratta di alcuni dei vecchi artisti che a un certo punto usano anche le IA, tutto qua. Solo che sono sommersi dalla massa di amatori che le utilizzano autodefinendosi artisti senza esserlo. Anche qui però niente di nuovo: sono la stessa categoria di quegli illustratori, a volte anche celebri, che affollano comunità amatoriali come DeviantArt, piene di opere assolutamente scolastiche, derivative e di maniera. Non c’è niente di male, e possiamo anche definirli artisti se fa loro piacere, ma nella stragrande maggioranza dei casi non si parla di arte, non di quella che poi verrà storicizzata. È ancora una volta una questione statistica: di quelle migliaia di illustrazioni fantasy, anime e sci-fi che affollano quei siti c’è poco che non sia già visto. Questa è la “nostra mediocrità”: adesso una persona che usa benino le IA può produrre delle immagini che, almeno su schermo, sono di media di qualità superiore all’opera di questi artisti – ma né nel caso delle IA né nel caso dei corrispettivi umani trovo corretto parlare di arte se non in senso lato. Prima che si offenda qualcuno, non intendo dire che fumetto, design o illustrazione non siano arte, tutt’altro, ma che nella sterminata produzione contemporanea lo sia solo una piccola parte. Del resto vale lo stesso anche con l’arte da galleria. Quel che intendevo è questo: noi lavoratori nell’ambito della creatività abbiamo prodotto tonnellate di mediocri immagini commerciali a poco prezzo, nobilitati dal pur misero valore reputazionale che vi si aggiungeva con l’idea che erano opere creative se non addirittura artistiche. Nell’imitare alla perfezione questi triti stilemi – ricordiamoci che le IA sono macchine statistiche – ci viene sbattuto in faccia che in genere non eravamo né artisti né particolarmente creativi, o meglio, magari lo eravamo, ma non per merito di questo tipo di lavori.

SL: Mi interessa molto l’aneddoto su Warhol e Harvey. La mia lettura è la seguente: Harvey non si offende perché sa bene che l’opera in questione non è certo la scatola Brillo in sé (anche perché quelle in mostra sono prima dipinte a mano e poi serigrafate), bensì l’operazione concettuale attraverso cui Warhol “iconizza” la società dei consumi ponendoci di fronte a essa senza fare la morale. Essendo lui stesso un fine artist, Harvey riconosce il confine tra commercial art, il suo logo per Brillo, e fine art, la mossa di Warhol. Il problema sorge nel momento in cui questa mossa si rivela irreplicabile, persino per lo stesso Warhol! È quello che notava un suo grande ammiratore, Jean Baudrillard. Dopo Warhol non c’è che lo “stereotipo”, ovvero il kitsch.

Ora, molti fine artist dell’AI dicono: “Guardate, grazie alla mia particolare sensibilità ho colto questo fiore raro nei recessi del dataset (il cosiddetto “spazio latente”, termine tecnico che loro usano in maniera metafisica), ed è una mia “opera”, parte di una “serie”, da esporre in “galleria”…”

Non si rendono conto, però, che in questo modo stanno scimmiottando Warhol, Duchamp, i surrealisti e addirittura i romantici prima di loro. Franco Vaccari aveva notato qualcosa di simile a proposito della fotografia artistica, dominata dalla retorica dell'”istante decisivo” di Cartier-Bresson, ferraglia romantica per eccellenza, in quanto riconferma il ruolo dell’umano, dunque dell’artista, e in ultima istanza del genio individuale. Quindi, delle due l’una: o ci avvinghiamo al mito del genio romantico ricorrendo alla retorica kitsch dell’artista con la A maiuscola (anch’esso “trito stilema”), o accettiamo che la “mediocrità” di DeviantArt è infinitamente meno mediocre di quella del sedicente fine artist doppiamente derivativo (deriva estetica e retorica) che si presenta come un avventuriero di Midjourney, quando in realtà è un utente come tutti gli altri, e in un certo senso meno di tutti gli altri. Ecco perché bisogna essere snob nei confronti degli artisti e i teorici dell’IA che si sbracciano per storicizzare e farsi storicizzare: proprio per non esserlo nei confronti degli utenti di DeviantArt e Tumblr, molto più postumani, “macchinici” e quindi contemporanei dei primi.

FD: La storia di Warhol la leggo come te, con una divergenza nell’interpretazione finale, che pure in parte condivido. È vero che un Brillo è uguale a una Campbell e un orinatoio di Duchamp a una sua ruota, perché veicolano il medesimo senso, ma non è vero che il gesto sia irripetibile. Perché in fondo tutta l’arte concettuale deriva da questi gesti e al netto dei gusti è difficile non riconoscerne la varietà interna – ovvero i modi in cui questo gesto ha generato altre idee. Secondo me quello che viene evidenziato dal punto di vista filosofico non è tanto quanto sia brillante l’idea duchampiana mutuata (e variata, appunto) da Warhol di creare un’opera d’arte solo in virtù di una scelta, ma di evidenziare come sia proprio la scelta una condizione necessaria e spesso sufficiente per fare l’opera d’arte. Non è un caso che Duchamp fosse anche un attento lettore e conoscesse la filosofia Zen.

Non mi ritrovo invece nello sprezzo con cui descrivi il lavoro degli artisti che usano le AI (come altri rifiuto il termine “AI Artist”, perché sembra che si lavori solo con una tecnologia). Nella mia esperienza – ricordiamoci che lo faccio – è una prassi non meno creativa di quelle che ho sperimentato in passato. Concordo però sul fatto che possiamo tranquillamente cestinare l’idea romantica di artista con la A maiuscola, perché messa in crisi da più di un secolo di arte contemporanea e anche perché filosoficamente insostenibile, dato che ogni oggetto d’arte è frutto di un lavoro collettivo – non solo per via dell’innegabile eredità di altri umani da cui questa in parte deriva, ma anche per le agentività non umane all’opera in essa. Però la creatività umana resta in gioco, anche se non da sola, e non scompare di certo con le IA.

È ovvio che non tutti coloro che usano le IA generative sono artisti, si tratta di una minoranza che in genere lo era anche prima. Ma in molti casi gli usi del mezzo sono ben creativi: non vedo alcun argomento a supporto della tua affermazione che siano a priori doppiamente derivativi. Forse ti appelli al cliché del fatto che “fa tutto il computer” perché sono facili da usare? So che è falso per esperienza, esperienza confermata dalla totalità delle classi cui insegno e ho insegnato qualcosa in merito. Le opzioni di Midjourney si moltiplicano a cadenza mensile, le interfacce open source sono così complesse che alcune stento a capirle dopo mesi di utilizzo, le interazioni tra IA diverse, quelle con tecniche tradizionali, tra TTI e LLM, la fusione di modelli, la sottrazione di modelli, il fine-tuning, le referenze di stile… chi considera semplice questo mondo è solo chi lo ha esplorato superficialmente o non ci ha capito molto. Hanno un entry level largo e un top tier stretto, come la fotografia. O forse ti appelli all’idea che il risultato medio di una IA è, appunto, mediocre? È vero, colpa della loro natura statistica e del dataset (dunque anche “nostra”), ma è un motivo in più per lodare chi riesce a ottenere i risultati più rari. Da un punto di vista statistico inoltre la maggioranza degli usi umani di qualunque strumento è un risultato mediocre, perché gli utilizzi più semplici sono sempre i più comuni e i più noiosi.

SL: Ci sarebbe da dire molto – troppo – sulle continuità e discontinuità tra l’orinatoio e la zuppa Campbell, ma ai fini del nostro dialogo vorrei evidenziare un aspetto: mentre le opere di Duchamp sono ammantate di un senso di stranezza, quelle di Warhol paiono atone, e non solo quando raffigurano Liz Taylor, ma anche quando mostrano un incidente stradale. Se in Duchamp si scorge ancora un soggetto che prova inquietudine, in Warhol resta solo un vago stupore infantile e tautologico di fronte alla cosa. Warhol “supera” Duchamp perché mostra l’autonomia della cosa riprodotta in serie: è come se non ci fosse scelta alcuna, perché egli stesso si fa cosa. In tal senso forse Warhol è più Zen di Duchamp. Ora, l’AI Artist (bada: non una persona in carne e ossa ma un costrutto polemico) fa diversi passi indietro quando circonfonde le immagini che genera della sua sensibilità, chiamandole rare, inquietanti, oniriche. Le usa, insomma, per affermare sé stesso, o meglio, un’idea posticcia di sé stesso. È questo l’argomento a supporto della doppia derivatività: da un lato, deriva di una certa estetica weird, dall’altro, deriva di un’idea in ultima istanza sentimentale dell’artista. E invece è molto più weird l’immagine statistica del gattone “carino e soffice” di Dall-E che includi nel libro.

“Fa tutto il computer”: ma magari! È proprio ciò a cui bisognerebbe puntare per produrre un’arte che sappia rispondere a questi sistemi. Sistemi che come dici tu si sviluppano: si moltiplicano le opzioni, le app, i modelli, ecc. E c’è davvero qualcosa di entusiasmante in questo, ma non manca un aspetto deprimente: la top tier di cui parli somiglia molto ai geek della fotografia che acquistano un nuovo modello di fotocamera ogni sei mesi per rimanere aggiornati. Così ricadiamo nel “creativo professionista” che deriva la sua competenza dall’apprendimento enciclopedico del manuale di qualche azienda privata.                

FD: Concordo con quanto dici su Warhol. Penso invece che l’AI artist che generalizzi non esista, il risultato dipende dalla sensibilità di chi le usa. Ogni artista infatti le usa diversamente, mentre la massa le utilizza in modo più o meno analogo, che sì, oscilla tra kitsch e weird. Però il top tier che identifichi, quello del geek fissatone sulla tecnologia, non è affatto quello a cui penso, per me questa figura è sempre nell’entry level.

Ma ripeto, vale per qualunque strumento; come diceva Baudelaire, pur sbagliando sulla possibilità di farci arte, siamo alluvionati da fotografie orrende. E anche da pittura orrenda, sebbene richieda più tempo e dunque ce ne sia meno. La media umana è mediocre, non penso ci sia nulla di sconvolgente nel dirlo, essendo una tautologia – ma siamo noi la causa, non gli strumenti che usiamo.

La cosa affascinante delle IA generative è che anche la loro media è orrenda, ma comunque superiore alla nostra. Tempo fa Ugo Galassi, con cui condivido un dialogo simile al nostro, mi mandò l’immagine di un volantino di un idraulico con un orrendo gattino generato con Midjourney, segnalandomi il problema del gusto. La mia risposta, su cui poi ci siamo ritrovati, è che prima i volantini degli idraulici erano semplicemente ancora più brutti. Intendo questo quando parlo della nostra mediocrità.

Poi certo, ogni artista ha un ego molto invadente, lo vediamo da come pur copiandoci da millenni restiamo attaccati all’idea di autore. Perdere l’ego per me è una necessità spirituale e nello scenario fantascientifico in cui farà tutto il computer, o comunque ci supererà come con gli scacchi, sarà liberatorio fare arte solo per il piacere di farlo (ancora, come con gli scacchi, che non sono certo morti). Il mio punto di vista non è dunque a difesa dell’ego dell’artista che usa AI, anzi, è contro quello di tutti. L’ego va perso in qualunque prassi creativa – anzi, l’ego non esiste, per dirla con Buddha.

L’arte delle previsioni è ingrata, perché nonostante sia impossibile indovinare, se si sbaglia si fa comunque la figura degli idioti. Oltretutto viviamo in un periodo in cui è estremamente probabile che si verifichino fatti improbabili – c’è uno stormo di cigni neri all’orizzonte, per usare la celebre metafora di Taleb, ma non conosciamo ancora i loro nomi. Catastrofi climatiche e guerre, per esempio, sono già qui, ed è lecito immaginare che peggiorino, dato che non è stato fatto nulla per evitarle o anche solo per contrastarle al meglio. Il mio ruolo di Cassandra però si limita a un piccolo segmento del futuro che di recente sto osservando con attenzione e su cui sono stato interrogato da The Italian Review: qualche previsione sulle intelligenze artificiali per il 2024. Si tratta pur sempre di un tema enorme e la risposta non può che essere un esercizio narrativo, un piccolo racconto di fantascienza a cortissimo raggio.

Cominciamo con il dire che cosa vorrei che accadesse. Nel 2024 le varie cause legali e impegni legislativi internazionali porteranno alla decisione che i dati disponibili online sono un bene pubblico e che addestrare le IA con materiale protetto dal copyright è lecito (o fair use), ma solo previa tassazione da reinvestire per il bene comune e se il software viene rilasciato open source, ovvero con il codice sorgente disponibile pubblicamente per essere visionato, modificato e distribuito. Le aziende sono di conseguenza fortemente incentivate ad aprire i codici dei loro prodotti, mentre sia i singoli che i gruppi sono liberi di adattare e modificare le IA. Grazie alla massima apertura dei processi, queste tecnologie vengono studiate e comprese con più facilità, divengono meno elitarie e si intaccano un po’ i monopoli tecnologici. Non nel 2024, ma comunque in un futuro non troppo lontano, capiremo come funzionano davvero – perché siamo ancora in una fase simile a quella dell’invenzione del motore a vapore prima della scoperta della termodinamica, sappiamo che funziona ma non esattamente perché. Inoltre il mondo cognitivo delle IA, che è composto dai loro dati di addestramento, si amplia, diminuendo pericolosi bias culturali. Se una IA si addestra solo su giornali di estrema destra, avremo IA di estrema destra. Se si alimenta solo di cultura Occidentale, sarà limitata a questo mondo culturale: con i dati aperti abbiamo la possibilità di avere IA che parlano una lingua che, sebbene limitata, sarà perlomeno modificabile. Grazie all’open source nessuno può porre delle censure alle IA, che può sembrare un male, finché non ci domandiamo: chi decide che limiti mettere e che richieste bloccare? Esiste un’etica universalmente accettata?

Bene, diciamo ora cosa non vorrei che accadesse. In Occidente vince l’idea che sia necessario possedere i diritti per i dati con cui si addestrano le IA, laddove questi non siano liberi. Non in un anno, né con l’AI Act europeo né con le varie cause legali in atto (Getty contro Stability, NYT contro OpenAI eccetera), ma la direzione è questa. D’altra parte molte aziende che lavorano in ambito IA stanno cercando accordi con grandi detentori di copyright, come OpenAI con Springler, o Apple con Condé Nast, NBC News, IAC eccetera. Facendosi scudo delle preoccupazioni di alcuni artisti ma senza alcun guadagno concreto da parte loro, i grossi gruppi editoriali pretendono una fetta del guadagno – e lo ottengono. Questo ovviamente non significa la fine delle IA generative, tutt’altro. Non faccio parte degli entusiasti che vedono l’AGI (Intelligenza Artificiale Generale, quella super potente super umana ecc.) dietro l’angolo, credo anzi che questa idea sia un mix tra una strategia pubblicitaria delle aziende tech per attrarre più investimenti e il sintomo di un pensiero religioso travestito da scientifico. Nel dirlo non intendo assolutamente svalutare il pensiero religioso, anzi, penso proprio che sia il suo rifiuto a far sì che molti tecnologi non si accorgano di riproporlo identico ma nell’ambito sbagliato – come scriveva C.G. Jung, Dio è una necessità psicologica. Nonostante il 2024 non vedrà l’avvento dell’AGI dunque, è comunque immaginabile che ci saranno progressi nello sviluppo delle IA generative. Non iperbolici come quelli a cui ci ha abituato il 2023, ma comunque dei progressi. A questo si aggiunga che gli accordi in atto con grandi detentori di copyright miglioreranno la qualità dei dati utilizzati per il training rispetto a quelli raccolti dalla rete, cosa che forse affinerà la resa di questi software. Il copyright non fermerà queste tecnologie; le renderà solo un po’ più noiose e piene di pregiudizi, perché limiterà ancora di più la varietà culturale del dataset e degli usi. Un altro limite sarà che le aziende cercheranno in tutti i modi di non far creare agli utenti materiale protetto dal copyright, ed è un peccato, perché per farlo bloccheranno anche molte potenzialità “lecite” dello strumento. È illegale fare un dipinto nello stile di Edward Hopper (1882-1967)? Preferisco evitare temi che ignoro, ma è divertente notare che se lo chiedi a ChatGPT dice di no, perché ispirarsi è una pratica comune nell’arte. OpenAI però già oggi impedisce con il suo DALL-E 3 le imitazioni di stili di artisti che non sono morti da ben cento anni, così come quella di materiale simil-fotografico – castrando di fatto quello che credo sia il più potente software text to image. Imitare lo stile di un artista del passato è un esercizio ozioso, ma mescolarne dieci… può diventare interessante.

Forse chi produce questi programmi vuole evitare di essere accusato di violazione del diritto di autore se qualche utente produce materiale protetto, anche se credo che la responsabilità dovrebbe essere di chi fa una richiesta che viola il diritto d’autore. Per esempio, se uso un prompt come “Joaquin Phoenix nei panni del Joker nel film xyz”, trovo ridicolo lamentarsi se il software riproduce un’immagine che assomiglia molto all’attore nei panni del Joker nel film. Sarebbe come dire che, con una matita in mano e l’intenzione di disegnare il Joker, la violazione del copyright sia colpa della matita. O che le matite, se potessero, dovrebbero rifiutarsi di farci disegnare materiale che infrange i diritti di terzi. Tuttavia, se il mio prompt è “un clown per strada” e ottengo la stessa immagine, la faccenda è più complessa, perché potrei non essere a conoscenza del film in questione. Questo errore di prospettiva, sebbene piuttosto banale, è anche pericoloso e credo sia dovuto alla nostra tendenza ad antropomorfizzare l’IA, considerandola autore e non strumento ed eliminando così la responsabilità di chi la utilizza. Le fotografie invece vengono bloccate per la paura dei deepfake, le foto false causa di disinformazione – c’è chi ancora crede che la fotografia rappresenti fedelmente la realtà – ma invece che eliminare questo rischio lo rendono disponibile solo a pochi. Che poi pochi non sono, visto che è già possibile scaricare sul proprio laptop versioni prive di censura di moltissime IA… 

Per quel che riguarda le leggi la questione è molto complessa, e se alle previsioni preferite le analisi vi consiglio questo approfondito articolo, citato anche in un documento dell’Unione Europea più o meno alla voce “che casino questo copyright”. Lo consiglio soprattutto a chi ha la certezza che la situazione sia chiara e definita.

È una fase passeggera, o andrà sempre peggio? È difficile dirlo, la cosa più probabile sono le oscillazioni, che avverranno in base alle cause legali e alla sensibilità del pubblico, motivo per cui nel 2024 le cose peggioreranno per poi migliorare in seguito. Peggiorerà, perché siamo nella fase delle denunce, delle paure e degli assestamenti finanziari. Dopodiché migliorerà, perché verranno fatti accordi economici e perché nessuno vorrà proporre dei software più limitati di quelli Orientali od open source (che non scompariranno neanche nella peggiore delle ipotesi). Ma soprattutto perché le useremo tutti/e.

Le persone di cui sono stati utilizzati i dati ci guadagnano qualcosa? Ovviamente no, tranne forse qualche artista celebre. Un compenso economico realistico a chi produce poche immagini o testi è impensabile. Dato che per sviluppare queste tecnologie servono miliardi di immagini o testi, il contributo dei singoli è minuscolo ed è inimmaginabile l’idea di pagarli anche solo un euro l’uno, perché renderebbe il già alto investimento di partenza impossibile. I dati sono dunque retribuiti una miseria, e a guadagnarci è solo chi li possiede in enormi quantità – Shutterstock ad esempio sta pagando i creatorqualcosa come 0,01 a immagine usata per il training. I dati dei singoli, diluiti nella massa di miliardi di immagini o testi necessari all’addestramento, hanno un peso del tutto trascurabile, e gli accordi economici avranno senso solo con chi ne possiede moltissimi – le aziende a cui gli artisti li hanno ceduti insomma, o i social network a cui abbiamo concesso alcuni diritti d’uso delle nostre condivisioni (si veda il caso Meta). Neanche autori e autrici che non volevano vedersi “copiati” dalle IA tirano un sospiro di sollievo, perché di fatto erano al sicuro anche prima, dato che esistevano già delle leggi in merito. Il discrimine tra copia (illecita) e ispirazione (lecita) non è mai chiaro ed è sempre fonte di dibattito, ma chi ha uno stile più derivativo, ovvero la maggior parte dei creativi (cosa che non ne intacca il valore) sarà facilmente replicabile nonostante i blocchi, perché le IA hanno imparato molto bene certi stilemi dalle tante opere analoghe. Insomma, vessate da nuovi blocchi e censure, con le IA si sviluppano più a fatica degli stili originali, ma è sempre più facile produrre del materiale meno di nicchia, che di fatto rappresenta la fetta più importante del mercato delle immagini.

Va detto però che sto parlando solo di Occidente, perché in Oriente il concetto di autorialità e proprietà intellettuale ha basi culturali molto diverse e le cose potrebbero andare diversamente, come ci insegna il caso del Giappone, dove è stato già dichiarato fair use l’uso di dati protetti per il training. Saremo dunque surclassati dalle IA orientali? Il 2024 non basta per dirlo… ma il sospetto è che questa stretta su copyright e censura negli anni sia destinata ad allentarsi, soprattutto via via che l’uso di IA sarà normalizzato nei nostri flussi di lavoro.

Cassandra nel 2023 ha uno strumento in più: le IA, che sono pericolose per prevedere il futuro ma utili per avere un parere sulle proprie illazioni. Ho dunque approfittato della vasta rete di conoscenze di ChatGPT 4 per chiedergli quale delle due ipotesi gli/le sembrava più probabile (non ho fatto alcun editing):

Tra le due previsioni che hai descritto sul futuro delle intelligenze artificiali, sembra più probabile lo scenario che tende verso una maggiore protezione dei diritti sui dati per l’addestramento delle IA, ovvero la tua previsione “pessimistica”. Ecco perché:

Tendenze Attuali nella Proprietà dei Dati: Storicamente, abbiamo visto un forte orientamento verso la protezione della proprietà intellettuale e dei dati. Le aziende e le istituzioni tendono a salvaguardare strettamente i propri asset di dati, specialmente in un contesto in cui i dati sono sempre più visti come una risorsa preziosa.

Movimenti Legislativi e Cause Legali: Le recenti cause legali e i movimenti legislativi in Europa e negli Stati Uniti mostrano una crescente attenzione alla proprietà dei dati e ai diritti d’autore nell’ambito dell’IA. Questo indica una direzione verso una maggiore regolamentazione e controllo dei dati utilizzati per l’addestramento delle IA.

Interessi delle Grandi Aziende: Le grandi aziende tecnologiche e i detentori di diritti d’autore hanno risorse significative e influenzano notevolmente le politiche e le decisioni normative. La loro tendenza a cercare accordi esclusivi e a proteggere i loro asset è un fattore importante che inclina la bilancia verso una maggiore restrizione nell’uso dei dati.

Difficoltà nel Cambiare l’Approccio Attuale: Passare a un modello in cui i dati sono considerati un bene pubblico richiederebbe un cambiamento radicale nel modo in cui la società considera e gestisce le informazioni. Tale cambiamento, sebbene potenzialmente benefico, affronta molte sfide pratiche e ideologiche.

La tentazione di scaricare il barile sulla IA è forte, ma preferisco mantenere la mia responsabilità, anche perché un errore comune che avvelena molte analisi è proprio quello di antropomorfizzare questi strumenti e dimenticare che la responsabilità del loro operato la possiede chi li produce e li usa. E un errore ancora più comune e più grave è non riconoscere una cosa che facciamo spessissimo, sbagliare. La mia previsione dunque è questa: non andrà né come desidero né come temo, ma in un terzo modo, perché scommettere solo su due scenari significa sottovalutare la complessa creatività del mondo – che, come sempre, trascende quella dei singoli.