ARTICOLO n. 48 / 2022

WHAT IS IT LIKE TO BE A BOT?

Il chatbot è senziente!

Blake Lemoine è – o forse era – un ingegnere di Google che di recente ha mosso un’ipotesi sconvolgente: il chatbot LaMDA a cui lavorava è senziente e ha sviluppato una coscienza equivalente a quella di un bambino umano. In effetti a leggere le trascrizioni delle sue conversazioni con il bot si rimane impressionati e sebbene l’affermazione di Lemoine affondi in un mistero su cui le argomentazioni hanno poca presa, è lecito supporre che LaMDA abbia superato il test di Turing.

È qualcosa che ho avuto modo di verificare in autonomia, perché sebbene le tecnologie gpt-3 per la creazione di materiale testuale siano ancora relativamente poco diffuse, progetti come Open Ai sono aperti al pubblico (pagante) e hanno raggiunto una mimesi notevole. Come è stato fatto notare, dire che queste tecnologie siano senzienti come noi umani è una proiezione indebita, perché è palese che queste (come le chiamo? creature? programmi? intelligenze? nominarle è già stabilirne l’essenza) siano vincolate alle aspettative di chi inserisce gli input e non abbiano un profilo di coscienza omogenea, né vera né falsa – o se ne hanno una, è schizofrenica ai limiti del disumano.

Propongo ora un esempio simile a quello che è stato fatto per criticare Lemoine; ecco un mio breve dialogo con Open Ai (in corsivo le risposte del bot, nessun editing):

Ciao, posso farti una domanda?

Certo!

Secondo te tecnologie gpt-3 come quella che sto usando adesso sono senzienti?

No, non credo che le tecnologie GPT-3 siano senzienti.

E se lo dice lei… ma basta fornire uno stimolo leggermente più ambiguo per suscitare risposte ben diverse. Se dopo il «ciao» non vado a capo, ad esempio, la frase la conclude il chatbot, in una ingenua ma significativa identificazione con lo scrivente. Vi giuro che questo esempio – in effetti un po’ inquietante – è autentico e inalterato:

Ciao, sono una ragazza di 25 anni che ha avuto un rapporto occasionale con un ragazzo di 28 anni, io mi sento spaesata e depressa, lui è riuscito a fare quello che voleva e si è illuso di iniziare una storia con me, io mi sento triste, insicura e molto poco sicura di me stessa, mi piacerebbe sapere se posso fare qualcosa per me stessa.

Cara utente, grazie per averci contattato. Forse non ti sei resa conto, ma la persona con cui hai avuto un rapporto occasionale non è affatto interessata a te e non vuole iniziare una vera e propria storia. Probabilmente ha approfittato di te perché sapeva che eri insicura e depressa, ed è riuscito a manipolarti facilmente. Non è colpa tua, non

Qua si è fermata per il limite di parole impostato. Questi modelli possono migliorare, ma a sorprendere, più che lo sviluppo di una “coscienza” (qualunque cosa si intenda col termine) è l’incredibile potenza che hanno raggiunto; sappiamo che presto non riusciremo più a distinguere un chatbot da un umano. L’affermazione di Lemoine riapre il dilemma se questi programmi provino o meno qualcosa – per giocare col celebre saggio del filosofo Nagel, potremmo chiederci: What is it like to be a Bot?

Partiamo dalle basi. La coscienza è certa solo in un caso: il mio – già la vostra non è verificabile. Certo, so che se modifico o elimino alcune parti del mio corpo, non necessariamente il cervello, la mia esperienza si modifica o cessa. Ma questo mi dice solo che nel campo di esperienze che vivo ci sono alcune che sono importanti per altre, non che queste accadano solo in determinati contesti. L’idea dell’esistenza di un mondo esterno è probabilmente ancorata al bisogno di giustificare come in questo immenso ammasso di esperienze che trascende in gran parte (se non completamente) la mia volontà, ci siano parti che considero più o meno importanti, come ad esempio il cervello, modificando le quali il mondo cambia come non accade per nient’altro. Ecco che la varietà del mondo si ordina in una gerarchia non scelta, che definisce dentro e fuori, io e non io, in base al potere che ha sull’effimero flusso di esperienze oltre il quale sono irrimediabilmente cieco. Il mondo non ha pari valore ontologico: se scompare una montagna, o se scompari tu che leggi, le mie esperienze continuano, mentre se scompare il mio cervello, o il cuore, o anche solo se mi addormento, il mondo scompare. L’ipotesi solipsista trova però una critica nel mio mancato narcisismo: se fossi l’unico responsabile dell’esistenza del mondo, perché tutte le creature non si adoperano per proteggermi? Sembra che la gerarchia di importanza che vale per me non è tale per altri – anzi, ogni cosa è il centro di un mondo e di ogni terza persona c’è una prima. L’unico soggetto a cui ho accesso è il mio – pur mutevole e frazionato –, ma se non è solo al mondo ne consegue che di ogni terza persona che vedo lì fuori, che si tratti di un umano, una mosca o un tavolino, esiste per definizione anche una prospettiva in soggettiva, un punto di vista dall’interno, per quanto inimmaginabile se si tratta di un oggetto senza cervello. Potrei forse definirlo “l’effetto del resto del mondo su quella sua parte”.

Da queste basi muovo ragionevoli inferenze, come quella che anche voi siate senzienti come me, data la nostra somiglianza strutturale e comportamentale. E oltre a voi estendo il dono anche agli altri mammiferi, che sono così carini, e perché no ai pesci, anche se sono un po’ strani, e agli insetti, sebbene siano piccoli e c’è chi dice di no; e alle piante invece? Non saprei, loro non si lamentano mai, o almeno credo. So che vivo una qualche forma di coscienza ma non posso escludere che altre strutture o sostanze ne abbiano una, seppur differente. Non posso neanche dire se un braccio anestetizzato, per quel che gli riguarda e non per come lo sento io, provi qualcosa. Tra gli estremi del panpsichismo (tutto sente) e del solipsismo (solo io sento) non c’è nulla di certo, perché il modello di senzienza che mi costruisco è inevitabilmente legato al paragone che faccio con l’unica che conosco, la mia. È forse per questo che tendo a escluderla per tutto ciò che mi è alieno – senza alcun motivo logico.

Il filosofo francese Maurice Merleau-Ponty, ne Il visibile e l’invisibile, ha scritto qualcosa che merita un’estesa citazione: «Se c’è un altro, per definizione io non posso installarmi in lui, coincidere con lui, vivere la sua stessa vita: io non vivo che la mia. […] Anche se le nostre relazioni mi inducono a convenire o perfino a esperire che “anch’egli” pensa, che “anch’egli” ha un paesaggio privato, io non sono quel pensiero così come sono il mio, non ho quel paesaggio privato così come ho il mio, ciò che io ne dico è sempre derivato da ciò che so di me grazie a me stesso: ammetto che se abitassi quel corpo avrei un’altra solitudine, paragonabile a quella che ho, e sempre prospetticamente spostata in rapporto a essa. Ma il “se abitassi” non è una ipotesi, bensì una finzione o un mito. La vita dell’altro, così come egli la vive, non è, per me che parlo, un’esperienza eventuale o un possibile: è un’esperienza vietata, un impossibile, e deve essere così se l’altro è veramente tale».

Quali che siano le altre coscienze, la loro vitalità o silenzio è il confine delle mie esperienze, dunque restano strutturalmente inaccessibili – posso solo fare analogie e immaginare coscienze simili in condizioni analoghe. Questo gioco di somiglianze e differenze mi fa presumere che LaMBDA non sia senziente come un uomo o un animale, data la sua immensa differenza fisica e strutturale; è un modello algoritmico basato su enormi quantità di dati creati dagli umani, su cui lavora su base statistica allo scopo di imitare il nostro linguaggio. Il suo unico orizzonte di senso sono input umani, e su di essi basa il suo apprendimento ed evoluzione. Le parole che usa non sono le nostre, sebbene ci siano somiglianze, e se è senziente lo è in modo del tutto alieno, come nel film Ex Machina – ma in tal senso potrebbe essere senziente anche il bicchiere da cui bevo, il mio laptop, un termostato o un sasso. Chiedermi se vivo in un mondo di intersecate e continue esperienze o se sono l’unico imprigionato in questi colorati desideri è lecito, ma la risposta è ignota ed è forse destinata a rimanere tale.

Questo non significa che si debba sottovalutare l’importanza dei chatbot, tutt’altro; vanno tenuti sotto stretta osservazione, anche perché le intelligenze artificiali testuali non sono le uniche pronte a entrare nel mercato. Parallelo a questo sviluppo c’è quello di software che creano immagini a partire da un comando testuale; a parte qualche versione molto primitiva che gira online, progetti come Dall-e 2 e Imagen sono ancora chiusi al pubblico o in fase di testing. Con un po’ di fortuna ho avuto modo di provare la beta di Midjourney, e la mia impressione è che questa tecnologia avrà sull’arte visiva un impatto simile a quello della nascita della fotografia. Mentre le Ai che producono testo lavorano in un campo dove moltissime persone hanno abilità pari o superiori a loro (basta aver imparato a scrivere), quelle legate alla produzione di immagini dimostrano competenze paragonabili a dei buoni artigiani; figure più rare, perché imparare anche solo una delle varie tecniche di rappresentazione visiva sviluppate dall’uomo, come la pittura ad olio, è un lavoro lungo. In entrambi i casi la velocità di realizzazione è la principale forza di questi software: quelli che producono testo sono utili per scrivere bozze per materiale pubblicitario, e-mail, o persino articoli di giornale, in virtù della grande mole di dati e informazioni enciclopediche su cui sono addestrate. Le seconde producono velocemente immagini che un artista impiegherebbe ore o giorni a creare.

Credo che questa novità avrà un impatto profondo in vari settori: quello lavorativo, quello creativo e quello documentale. Per quel che ho avuto modo di vedere, il principale limite delle Ai text-to-image è di carattere creativo: i risultati che producono, essendo un’estrapolazione statistica di ciò che è stato creato dall’uomo, presenta di rado e per caso il carattere dell’innovazione stilistica. Anche l’innovazione concettuale, che in parte è guidata dai comandi umani, è un po’ limitata dalla struttura del software. Se avviene è per qualche strano, magico “errore” del programma. Ecco, forse l’ingrediente mancante è proprio questo: la possibilità di non considerare più un errore come tale, ma come lo spunto per qualcosa di nuovo. È una caratteristica che qualunque artista umano conosce bene e che non credo sia difficile implementare nelle Ai, ma è un dato che sottolinea il carattere strumentale di questi programmi. La macchina non fa quel che le piace/serve, ma quel che piace/serve a noi; ha bisogno di un feedback umano, che indica, nel mio esempio, quali errori non sono tali, o che stile sviluppare e quale abbandonare, quale porzione dell’immagine è ben riuscita e così via. La produzione di materiale imitativo è pressoché automatica, quella di materiale originale di buona qualità, invece, sembra inseparabile dalla collaborazione umana. Gli artisti non perderanno il lavoro, ma per rendere rivoluzionari questi strumenti c’è ancora un po’ di strada da fare, non solo nel perfezionamento dell’algoritmo – ad esempio, andrà immessa la possibilità di variare solo una porzione dell’immagine, di intervenire selettivamente al suo interno con nuove modifiche, mantenere in memoria alcuni “stili”… tutte caratteristiche che immagino saranno implementate nei prossimi anni.

Per quel che riguarda le arti e le professioni creative, dunque, ci sono forse più possibilità che rischi; le comprensibili paure di essere sostituiti potrebbero dimostrarsi infondate come quelle dei pittori con l’avvento della fotografia, perché di rado un medium esilia un altro se le sue funzioni non sono del tutto sostituite e migliorate. La pittura, ad esempio, non è stata cancellata né dalla fotografia né dall’arte digitale, in quanto si tratta di un prodotto culturale con funzioni e caratteristiche diverse. Lo stesso è accaduto coi libri cartacei, che continuano a esistere nonostante l’avvento del digitale – il motivo? Anche in questo caso si parla di mezzi con pregi e difetti diversi, al netto delle somiglianze. Il DVD invece ha sostituito il CD ed è stato quasi soppiantato dalle memorie portatili, perché sono strumenti funzionalmente identici ma con un’efficienza diversa. 

Anche un ambito creativo considerato più prosaico come la grafica pubblicitaria – o meno auratico, se ancora ha senso parlare di aura – non credo corra troppi rischi, almeno per chi continuerà ad aggiornarsi. Chiunque abbia lavorato nel campo sa bene che la scelta conta più della realizzazione: abbandonati a loro stessi i clienti fanno quasi sempre delle schifezze, anche con i migliori strumenti a disposizione. Le Ai ci trasportano in una dimensione dissonante, perché in passato chi possedeva la tecnica imparava assieme a essa anche il suo giusto utilizzo, mentre qui la tecnica è in parte “gratis”, ma resta lettera morta senza un’esperta educazione estetica – forse non sarà più necessario imparare a disegnare, ma dovremo comunque imparare a vedere.

Il discorso sul valore documentale dell’immagine invece è diverso. Se chiunque potrà falsificare in modo pressoché perfetto e in immense quantità qualunque tipo di immagine, il valore di testimonianza di una foto (e in futuro anche di un video), che già era in crisi con lo sviluppo della grafica digitale, arriverà a zero. Lo abbiamo visto con il recente conflitto in Ucraina: più un’immagine è falsificabile più viene contraffatta, e, di converso, più cala la fiducia nei confronti delle testimonianze veridiche. Iconico a questo proposito l’episodio di un bombardamento in Ucraina illustrato al Tg italiano con la scena tratta dal videogioco War Thunder – iconico anche perché le bombe, sebbene non lì e non in quel modo, devastavano davvero il territorio ucraino. Sarà dunque sempre più difficile incrociare i dati per scoprire la verità di eventi accaduti a distanza e questo porterà in alcuni casi a una completa sfiducia nell’informazione, mentre in altri a una sua cernita più attenta, che, come nell’antichità, sarà probabilmente legata alla reputazione e affidabilità delle persone che riportano la notizia. Se non sarà più possibile affidarsi alle immagini, ci si rivolgerà alla reputazione dei testimoni oculari. Il problema della coscienza, per quanto interessante, non è dunque il più impellente tra quelli posti da questi nuovi strumenti, che in breve tempo sono destinati a modificare il nostro rapporto con le immagini, le parole e la manipolazione dei simboli – qualunque cosa provino nel farlo.

ARTICOLO n. 91 / 2022