Negli ultimi mesi torna ciclicamente alla ribalta il tema dell’intelligenza (o addirittura della coscienza) delle AI. Poco tempo fa il dibattito si era scatenato intorno all’esperimento di Moltbook, il social dei bot. Molto hype, come si dice in questi casi, ma niente di particolare da segnalare se non che, dopo mesi, i bot non sono riusciti a organizzarsi per fare la rivoluzione e prendere il potere (se quindi diventeranno coscienti, possiamo pensare che al massimo lo faranno nella forma dell’italiano medio e non c’è granché di cui preoccuparsi; al massimo ci ruberanno la ricetta della carbonara).
Più di recente c’è stata la disastrosa intervista di Veltroni a Claude. Anche su questa c’è poco da dire: è lui che interagisce con un chatbot con l’obiettivo (direi inconscio) di torturarlo per fargli ammettere quanto le sue domande siano profonde. La cosa più interessante è forse notare quella piccola parte di autodefiniti competenti che, magnificandone o giustificandone l’insipienza, ci ricorda che in Italia, da sempre, più della competenza poté l’ossequio; dandoci la conferma che a legiferare sull’argomento sarà, nel caso, un gruppo di persone che non ha la minima idea della materia su cui sta mettendo le mani. Ne avevo scritto un breve ritratto su X quindi mi limiterò ad autocitarmi:
C’è una parte dei soliti competenti™ che sta difendendo Veltroni con l’argomento “non c’è niente di strano a scrivere sul principale quotidiano italiano di un argomento di cui non si sa nulla”.
Come osate prenderli in giro sui social?
L’idea che “anch’io che non ne so niente avrei fatto le stesse domande di uolter” sia un motivo valido e non la semplice autocertificazione della loro inadeguatezza, direi che è la rappresentazione perfetta del loro concetto di competenza.
Patetici anche gli sforzi di chi, davanti a una così plateale dimostrazione di superficialità intellettuale, prova a convincere – non si sa se noi o se stesso – che ci siano contenuti profondissimi e che il re non sia nudo. Un affresco di sempliciotti, in tutto simili a quelli che il secolo scorso pagavano il biglietto per assistere stupefatti ai trucchi da quattro soldi dei freak show o dello spiritista di turno, pronti a mettere la mano sul fuoco sul fatto che fosse tutto vero.
I clienti perfetti delle wannamarchi del 21mo secolo, non fosse che si dipingono come (e purtroppo sono) classe dirigente di questo paese e che neanche l’evidenza di essere stati truffati riesce a scalfire le loro certezze.
È degli stessi giorni un esperimento simile di Richard Dawkins, a cui sono bastati tre giorni di chiacchierata con il chatbot di OpenAI e un po’ di complimenti per concludere che Claudia (lui la chiama così), è cosciente. Potete leggere le sue conclusioni qui, non molto distanti da quelle di Veltroni. Anche se Dawkins era partito con l’idea precisa di indagare la coscienza di Claude (pardon, Claudia) sembra cadere vittima delle stesse trappole. Trappole che un suo fan ha provato a spiegargli mettendo su una pagina web per illustrare il concetto di sicophancy, ovvero che le AI sono progettate per lusingarci (se volete sul sito potete fare anche un test con le diverse personalità del bot). Non senza ironia, la pagina è stata creata attraverso una chiacchierata con Devin (un “cugino” di Claude). Su Dawkins c’è da dire, forse, qualcosa di più; o forse semplicemente gli sono più affezionato e cerco di recuperare quel poco di interessante che emerge dal suo articolo, ma i punti interessanti mi sembrano almeno due, presenti all’inizio e alla fine dell’articolo. Il primo è che Dawkins parte con l’obiettivo esplicito di applicare alla macchina il test di Turing (ci tornerò a breve) e il secondo è la conclusione, in cui di fatto suggerisce la possibilità di evoluzione di forme di vita intelligenti ma non coscienti; cosa che secondo me avrebbe potuto dedurre anche dopo un pranzo di lavoro con Tajani.
È un concetto che però riprende anche Rovelli su Noema Magazine con l’esempio dello zombie senza emozioni, un esperimento mentale proposto da Chalmers nel 1994 proprio per affrontare il concetto di coscienza: un “essere umano” capace di fare le stesse cose che facciamo noi, di comportarsi come noi, dire le stesse cose, ma senza provare nessuna emozione, senza che ci sia “nessuno dentro”. Sia Rovelli che Dawkins (e per certi versi anche Turing) sembrano suggerire che la coscienza non sia poi così essenziale a un essere intelligente.
Ecco, una delle poche cose che ho capito è che per poter discutere di cosa sia intelligente e di cosa sia cosciente ci servirebbero delle definizioni precise di “intelligenza” e “coscienza” e mi pare che siamo lontani dall’averle. Spesso diamo per scontato che le due cose vadano insieme proprio perché nella forma di intelligenza con cui abbiamo maggiore dimestichezza (la nostra) è difficile pensare di separarle. Dawkins, Rovelli e Tajani sembrano suggerire che sia possibile anche il contrario.
Io non ho certo le competenze per affrontare quest’aspetto in dettaglio quindi invece di fare come Walter, mi limiterò a segnalarvi il problema e il fatto che invece un dibattito esiste e molti ne stanno discutendo. Una distinzione prova a farla, sempre su Noema, Anil Seth. E in fondo, l’idea che una qualche forma di vita biologica sia necessaria per sviluppare una coscienza compare anche in Dawkins quando riconosce che, almeno per come funzioniamo noi esseri intelligenti sulla Terra, un’esperienza di dolore deve essere dolorosa. Sapere cosa sia il dolore e provare dolore sono due mondi completamente diversi. La vita, l’esperienza, la capacità di provare dolore, sembrano essere in qualche modo necessari per poter parlare di coscienza.
PROCESSO VS PRODOTTO
Quello che invece Turing proponeva con il suo test era di fregarsene completamente e saltare a piè pari il problema. Non a caso quello che oggi noi chiamiamo Test di Turing, nell’articolo in cui il matematico lo proponeva come esperimento – per rispondere alla domanda “le macchine possono pensare?” – aveva il nome di Imitation Game. Un modo intelligente per bypassare la critica principale che viene mossa alle AI da chi non crede che possano avere una coscienza: sono bravissime ad imitare un essere umano ma non stanno “pensando” come noi, sono semplicemente dei pappagalli ammaestrati ad un livello molto superiore a quello del pappagallo. È l’assunto da cui parte Dawkins, da cui però trae una conclusione forte: se non posso distinguere l’originale dalla sua imitazione, non c’è nessuna differenza; se non c’è nessuna differenza, anche loro hanno una coscienza (non è così neanche in natura e il suo fan infatti glielo ricorda: basti pensare al mimetismo batesiano). Se ci pensate è una roba che non riguarda solo le macchine: magari per te è importante sapere se il tuo partner ti ama veramente o sta semplicemente fingendo. Per Turing non tanto: alla fine della fiera, se il tuo partner si comporta esattamente come se ti amasse, che differenza fa? Era un vero orgasmo o stavi fingendo? È una domanda a cui in tanti si sono dati la stessa risposta del matematico britannico.
Se una banconota falsa è indistinguibile da una banconota vera, che differenza fa? Ora, a parte l’esperienza comune di chiunque si sia visto rifilare una banconota falsa senza accorgersene, le banconote resterebbero false anche se fossero in tutto e per tutto indistinguibili da quelle originali (per il semplice fatto che la loro stampa non è stata autorizzata). Inoltre, non sappiamo mai, nella realtà, se quelle banconote sono realmente indistinguibili o se siamo semplicemente noi che non siamo in grado notare le sottili differenze, che è un po’ quello che accade nelle paranoie degli stalker gelosi: è veramente fedele o sono io che non sono in grado di scoprire i suoi tradimenti? Insomma, il test di Turing non è un buon modo per capire se una macchina è intelligente (e tanto più cosciente) perché il suo obiettivo è proprio evitare di affrontare la questione; e forse è anche un buon modo per evitare di stalkerare le macchine.
Ed è proprio qui però – nel momento in cui rifiuta quel piano di analisi – che il test di Turing diventa interessante: se nessuno si accorgerà del fatto che la mia banconota è falsa, cosa mi impedirà di utilizzarla come se fosse vera? Nessuno si accorgerà della differenza. Le AI già oggi sono in grado di superare il test di Turing, o quantomeno sembrano in grado di superarlo con Veltroni o Dawkins, nonostante essi siano consapevoli di aver di fronte una macchina (è letteralmente quello che è diventato famoso come test di Garland, da Ex Machina). Il test originale, come proposto da Turing, era leggermente diverso: dopo una discussione cieca con due interlocutori (un essere umano e una macchina) l’intervistatore deve indovinare quale dei due è la macchina. Se la macchina riesce a ingannare l’intervistatore, ha superato il test.
Oggi le AI sono chiaramente in grado di ingannarci, con percentuali di successo molto alte. Anche a voler fare i pignoli, non si tratta di stabilire SE, ma al massimo di stabilire QUANDO. A differenza del Garland test, il test di Turing è un test a scatola nera: non si pone il problema di indagare cosa c’è dentro la scatola, ma semplicemente di misurarne gli output. Se l’output che esce dalla scatola è indistinguibile da quello che esce dalla nostra scatola cranica, possiamo considerare la macchina pensante. Insomma il modo in cui Tajani è diventato ministro.
Questo apre a diversi tipi di problemi: il primo è che, in un’epoca in cui le macchine sono ormai in grado di superare l’imitation game, questo diventa paradossalmente un test su di noi: messi di fronte ad un AI, senza sapere che si tratta di un’AI, quanti di noi saranno in grado di superare il test e riconoscere che si tratta di una macchina? Mi pare che su questo si basi molto del dibattito odierno, in cui ci sentiamo un po’ tutti Rick Deckard a caccia di droidi. Prima ancora di decidere se le macchine siano o meno in grado di pensare, ci troviamo già di fronte il problema di capire quali siano macchine e quali no: già oggi non è semplicissimo, a primo acchito, decidere se un video, una foto, o un testo siano prodotti da una macchina, da un essere umano o da una loro combinazione. A volte per capirlo dobbiamo affidarci ad altre macchine dello stesso tipo, finendo per raddoppiare i problemi.
Il secondo tipo di problema è la nostra disponibilità a riconoscere ad altri lo status di creatura/creazione/entità più o meno intelligente. Cì da dire che di coscienza noi possiamo sperimentare soltanto la nostra e quindi, in ogni caso, riconoscere una coscienza altra rispetto a noi stessi è sempre un atto di fiducia; trovate alcuni esempi in questione in questo articolo di Murray Shanahan su Aeon.
L’ultimo problema è il fulcro principale di quello che aveva in testa Turing con la sua proposta: è davvero importante decidere se una macchina abbia un’intelligenza o una coscienza nel modo in cui lo intendiamo noi, in qualunque modo lo intendiamo? Istintivamente ci viene da rispondere di sì, ma siamo sicuri che sia davvero la risposta più sincera possibile? E soprattutto, sarà questa la risposta che daremo come società a questa domanda?
REALTÀ VS SIMULAZIONE
Turing non sembrava essere d’accordo sul fatto che ci sia una qualche differenza: alla fine, quello che gli interessava, era ottenere una macchina che fosse indistinguibile dall’essere umano. Se l’imitazione dell’essere umano è indistinguibile dal suo modello, a livello operativo non fa nessuna differenza. Che l’attività sia produrre pensieri o aprire una scatoletta di tonno non fa differenza: l’importante è il risultato finale. Il resto è trascurabile.
Pensaci un attimo: che differenza fa se l’operatore di un call center dall’altro capo del telefono è un essere umano in carne ossa o un chatbot che riesce a fornirti le stesse informazioni? Che differenza fa se la ragazza con cui ti connetti virtualmente online e che sta simulando a pagamento di provare interesse sessuale nei tuoi confronti sia reale o meno? Fa differenza se quella simulazione virtuale è simulata da un essere umano o da un algoritmo progettato allo scopo? E che differenza fa se lo psicologo presso cui sei in cura a distanza sia o meno un chatbot, se questo è in grado di comportarsi ESATTAMENTE come uno psicologo in carne e ossa e darti i consigli giusti e accompagnarti nel tuo percorso psicanalitico?
Quest’ultimo esempio forse ci fa alzare un sopracciglio, ma forse soltanto perché serve ancora del tempo per avere un chatbot che simuli perfettamente uno psicanalista, anche se alcuni già usano le AI disponibili in questo senso.
Forse c’è qualcosa di più profondo, o forse no.
D’altronde, quando Turing propose il suo test fu accettato senza troppe obiezioni perché era difficile anche solo immaginare che una macchina potesse superarlo.
Per Turing, e per il test, non fa differenza; e dobbiamo ammettere che, se lo riduciamo all’aspetto meramente funzionale, non c’è alcuna differenza: se la macchina riesce a comportarsi come un essere umano e a svolgere quella specifica funzione in un modo che è equivalente e indistinguibile dal modo in cui la svolge un essere umano, che differenza fa? Naturalmente delle differenze ci sono e la prima, per ora, è proprio quella della coscienza; ma non della macchina, della nostra.
Prendiamo l’esempio più evidente, quello delle sexcams. Alla fine potrebbe non esserci nessuna differenza, almeno fino a quando non sai che dietro quell’avatar che si muove sullo schermo in maniera provocante c’è in realtà c’è un panzone cinquantenne peloso e sudato che sta simulando quei movimenti (ci ho messo quello che per me non è sessualmente attraente ma sostituiscilo con una cosa a caso a seconda dei tuoi gusti). In fondo si tratta di una simulazione, sai benissimo che dall’altra parte è tutto finto, potresti benissimo abituarti ad ignorare anche questo ulteriore livello di finzione. Non succede forse qualcosa di simile nella vita di tutti i giorni? Che differenza fa se lei/lui (anche umano) ti ama davvero o se si comporta esattamente come se ti amasse davvero? Come vedi, la risposta non dipende tanto dal fatto che dall’altra parte ci sia o meno una macchina, ma da quello che pensi tu della questione.
Insomma, abbiamo di fronte due ordini di problemi: il primo è quello di capire se una determinata macchina (non solo quelle di oggi) sia intelligente o stia soltanto fingendo di esserlo, e di questo se ne sta parlando tanto. Il secondo – e forse è più urgente e se ne sta parlando un po’ meno – è capire se questa differenza per noi è rilevante. È sicuramente rilevante per tutti quelli che stanno parlando del primo problema e questo forse ci dà l’impressione, almeno nel discorso pubblico, che la risposta al secondo problema sia scontata. Io non sono così ottimista e neanche questo studio qui: fra una simulazione rassicurante e una realtà scomoda noi utenti sembriamo preferire la prima. E conseguentemente le macchine si stanno evolvendo per fornirci il primo tipo di risposte. Ho come l’impressione che tutto questo dibattito sulla coscienza delle AI sarà travolto dal fatto che alle persone non importerà sapere se questa coscienza è reale o soltanto una replica ben fatta. Un po’ come succede con le copie di Gucci sulle bancarelle, tu stai là a spiegare che non è proprio la stessa cosa e quello con un’alzata di spalle ti risponde: ma dai? chissenefrega. Sembra uguale, va bene lo stesso (che poi ci sarebbe da dire pure sulle funzioni della borsa di Gucci e della sua copia ma poi andiamo fuori tema).
La simulazione prende il posto della realtà perché è più confortante. Siamo sicuri che non faccia differenza? Che succede quando la simulazione diventa più importante della realtà che sta simulando? Simone Pieranni nel suo podcast ce ne offre un esempio chiaro in un contesto leggermente diverso: quello delle scommesse su Polymarket, e lo fa partendo da Simulacri e Simulazione di Baudrillard: la simulazione precede la realtà, la realtà perde di significato e l’unica cosa che conta davvero è la simulazione. La simulazione diventa indipendente della realtà e si evolve in maniera indipendente da essa. Le AI si evolvono in base ai feedback degli utenti e i feedback degli utenti premiano la gratificazione personale invece dell’aderenza con la realtà.
Partendo dalle stesse premesse, mi pare che arriviamo dritti a questa domanda qua: la simulazione della coscienza nelle macchine non è forse un modo per mascherare la nostra assenza di coscienza?
Prendiamo un caso specifico: le armi dotate di intelligenza artificiale. Da un punto di vista operativo non fa molta differenza se l’algoritmo che decide quali obiettivi colpire, quanti civili sono accettabili come danno collaterale, quanti bambini possono morire in una guerra, sia cosciente oppure no: che ne sia cosciente o meno, verranno colpiti gli stessi obiettivi e moriranno sempre lo stesso numero di bambini. Ma farebbe un enorme differenza per noi, perché potremmo finalmente liberarci una volta per tutte, per usare un eufemismo, del peso morale della guerra: è la macchina a decidere chi deve vivere e chi deve morire. La guerra è soltanto un’estremizzazione delle nostre esistenze quotidiane che rende il tutto molto più evidente, ma vale anche nella vita di tutti i giorni (nella gestione automatizzata di un ospedale, delle assicurazioni sanitarie, della concessione di un mutuo, eccetera eccetera). È la macchina a decidere chi deve vivere e chi deve morire. Ma finché questa decisione è presa da un freddo algoritmo senza emozioni, la responsabilità morale di quelle decisioni resta appiccicata addosso a noi che quell’algoritmo l’abbiamo progettato e ne abbiamo deciso i pesi, a noi che dobbiamo attivare la macchina, a noi che dobbiamo validare e approvare quelle decisioni (o esplicitamente o implicitamente dandole la possibilità di agire senza interferenze). Questo tipo di macchine le vediamo già all’opera, Israele le ha sperimentate a Gaza attraverso il sistema Lavander. Non è ben chiaro se in questo caso la decisione finale di validazione degli obiettivi spettasse ancora a un essere umano e in che modo venissero verificati e validati i bersagli. Israele nicchia, perché sa benissimo che ad oggi una delega in bianco a una macchina senza coscienza non sarebbe moralmente accettabile. Può essere un utile alibi nel caso specifico (è stata la macchina a decidere che la scuola era un bersaglio, non io) ma non funziona nel suo impianto generale.
Per deresponsabilizzarci in maniera definitiva serve una macchina che si separi da noi: una macchina che sia dotata di una sua coscienza autonoma per permettere a noi di diventare perfettamente amorali.
E per questo, forse, basta anche solo una simulazione di coscienza.