A me ha sempre destato apprensione una peculiarità dell’I.A.: la sua fulminea capacità di auto-regolarsi, auto-migliorarsi, auto-correggersi; però, da ignorante tecnologico quale sono, ero preoccupato ma stavo zitto. Anche perché, fino a poco tempo fa, tromboni del ve lo dico io e soloni del sapere universale ci rassicuravano: l’I.A. non è pericolosa, sarà la soluzione del futuro, cambierà in meglio le nostre vite, farà il lavoro che non abbiamo voglia di fare e, probabilmente, ci renderà anche più intelligenti. Insomma, dormiamo tranquilli.
Ora, però, a parlare del rischio di perdere il controllo dell’intelligenza artificiale sono persone che quella tecnologia l’hanno costruita e ci stanno lavorando. Ricercatori delle grandi aziende del settore cominciano a mettere in conto che sistemi futuri possano raggiungere capacità difficili da controllare e, negli scenari più estremi, arrivare a costituire una minaccia per l’umanità.
E così la pericolosità dell’intelligenza artificiale è diventata l’argomento del giorno. Ora ne parlano gli addetti ai lavori, gli scienziati, i filosofi, i guru della Silicon Valley, i governi e, naturalmente, i politici. E ne parlano anche ballisti seriali – come Donald Trump – che di tecnologia e di tante altre cose non hanno competenze.
Insomma, dopo averci spiegato per anni che l’I.A. avrebbe risolto i nostri problemi, adesso dobbiamo cominciare a preoccuparci che possa diventare essa stessa un problema. E forse la cosa più interessante non è nemmeno questa. La cosa interessante è che chi ci mette in guardia dai rischi è forse lo stesso che continua a correre per costruire una macchina più potente degli altri.
Ormai non parliamo più di tecnologia ma di politica, perché se tra questi che corrono c’è chi sostiene che entro dieci anni l’umanità potrebbe essere estinta dall’I.A., di per sé è già un fatto politico. E forse per capire quello che sta succedendo può essere utile una metafora apparentemente azzardata: l’intelligenza artificiale come la nuova bomba atomica. Il paragone è forzato, l’AI non è una bomba, non esplode e non distrugge una città in pochi secondi. Ma il punto della metafora non è la capacità distruttiva. È un altro: la logica della corsa tecnologica e il problema del controllo.
Chi arriverà prima?
E qui l’intelligenza artificiale comincia a diventare sorprendentemente simile al nucleare. Perché il problema non è soltanto quanto sarà potente l’I.A. Il problema è chi arriverà prima. Se un’azienda rallenta lo sviluppo dei suoi modelli per introdurre maggiori garanzie di sicurezza, mentre un concorrente continua ad accelerare, il primo rischia di perdere il vantaggio tecnologico. Se gli Stati Uniti rallentano mentre la Cina accelera, Washington teme di perdere una tecnologia che potrebbe avere conseguenze economiche e militari enormi. Se Pechino rallenta mentre gli americani accelerano, accade esattamente il contrario.
E allora la domanda non è più soltanto tecnologica. Diventa una domanda di potere. Possiamo permetterci di rallentare quando abbiamo paura che qualcun altro non rallenti? È la stessa domanda che ha accompagnato tutta la Guerra fredda… poi ad un certo punto quando ci si rese conto che c’erano bombe sufficienti a distruggere cento e più volte la Terra, qualcuno rinsavì e si cominciò a frenare. Solo che ora al posto dei missili intercontinentali ci sono i semiconduttori, i data center, i modelli, i ricercatori, l’energia e la capacità di calcolo.
Ma qui c’è qualcosa che rende l’attuale situazione persino più singolare. La bomba atomica non poteva da sé costruire una bomba atomica ancora migliore, mentre l’I.A. è già utilizzata per contribuire a migliorare l’I.A. stessa. È quello che viene definito recursive self-improvement, il miglioramento ricorsivo: utilizzare sistemi di I.A. per progettare, testare e migliorare sistemi di I.A. successivi.
Siamo ancora lontani dall’idea cinematografica di una macchina che decide il proprio destino. Ma la direzione dello sviluppo è già quella di affidare alle macchine una parte crescente del lavoro necessario per costruire macchine più potenti. Per secoli abbiamo costruito macchine per sostituire la forza fisica dell’uomo. La rivoluzione industriale ha progressivamente trasformato il rapporto tra uomo e lavoro sostituendo muscoli, gesti e attività ripetitive. Con l’I.A. stiamo facendo qualcosa di diverso: cominciamo a costruire macchine alle quali affidiamo enormi pezzi di attività intellettuale.
E il passaggio successivo potrebbe essere ancora più radicale: macchine alle quali affidiamo una parte della progettazione delle macchine che svolgeranno quelle attività intellettuali. È qui che la metafora nucleare diventa interessante. La bomba atomica rappresentava una concentrazione straordinaria di potenza fisica. L’I.A. potrebbe rappresentare una concentrazione straordinaria di potenza cognitiva. Una bomba può distruggere una città. Un’intelligenza artificiale molto avanzata potrebbe intervenire contemporaneamente nella ricerca scientifica, nella finanza, nella produzione industriale, nella Cyberguerra, nella comunicazione, nell’intelligence e nella progettazione tecnologica…e se arrivasse a prendere il controllo della rete Web e delle infrastrutture che la sostengono, allora il problema non sarebbe più chi governa l’I.A., ma chi governa chi governa l’I.A.
L’I.A. come infrastruttura di potere
Non sarebbe quindi semplicemente un’arma. Sarebbe una infrastruttura di potere. Ed è proprio per questo che il paragone con il nucleare va preso con cautela, ma anche sul serio. Il nucleare ha prodotto la deterrenza. L’I.A. potrebbe produrre una nuova forma di deterrenza: non più soltanto la capacità di distruggere l’avversario, ma la capacità di superarlo cognitivamente e tecnologicamente.
La vecchia Guerra fredda funzionava sulla minaccia: «Se mi attacchi, posso distruggerti». La nuova competizione potrebbe funzionare su una minaccia molto diversa: «Se tu sviluppi prima di me un’intelligenza superiore, io devo fare altrettanto altrimenti non riuscirò più a raggiungerti».
È una differenza enorme. La deterrenza nucleare, paradossalmente, spingeva verso la prudenza. Se tutti disponevano della capacità di distruggersi reciprocamente, la guerra diventava irrazionale. La competizione sull’intelligenza artificiale potrebbe produrre l’effetto opposto. La paura dell’avversario potrebbe diventare il motivo per accelerare. E questo è il vero punto politico della questione.
Non abbiamo bisogno di immaginare un’intelligenza artificiale che sviluppi un odio nei confronti dell’umanità. È una rappresentazione molto umana del problema. Una macchina non deve odiarci per essere pericolosa. Potrebbe essere sufficiente che persegua un obiettivo con una capacità enormemente superiore alla nostra e che consideri gli esseri umani, in determinate circostanze, un ostacolo al raggiungimento di quell’obiettivo.
Fa quasi sorridere quel cliché che mette insieme fantascienza, filosofia e rischio tecnologico: “Cosa si può fare per mettere il mondo in sicurezza?”. Risposta dell’I.A.: “Eliminare il genere umano”. Fa sorridere, appunto, una battuta surreale… ma mica tanto. Il problema vero è molto meno cinematografico. Il problema è che noi stessi non siamo particolarmente bravi a definire ciò che vogliamo. La storia dell’umanità è, in buona parte, la storia delle conseguenze non previste delle nostre decisioni. Abbiamo inventato il motore a combustione per muoverci più velocemente e abbiamo prodotto il cambiamento climatico. Abbiamo inventato gli antibiotici e selezionato batteri resistenti. Abbiamo costruito Internet per mettere in comunicazione il mondo e abbiamo costruito contemporaneamente una gigantesca macchina per produrre disinformazione.
…In modi non previsti
Con l’I.A. potremmo trovarci davanti a una versione molto più potente dello stesso problema: una tecnologia capace di fare esattamente quello che le chiediamo, ma in modi che non avevamo previsto. E allora ritorna la metafora della bomba atomica.
Quando gli scienziati americani realizzarono il primo ordigno nucleare non avevano semplicemente inventato un’arma. Avevano aperto una porta. Dopo Hiroshima il problema non fu più soltanto costruire la bomba. Fu costruire un sistema politico capace di convivere con la bomba. Nacquero trattati, controlli, accordi, ispezioni, organismi internazionali, strategie di deterrenza. Con l’intelligenza artificiale siamo probabilmente molto più indietro. Stiamo costruendo la tecnologia prima di aver costruito un sistema politico internazionale adeguato a governarla.
E questo è forse il vero rischio. Il rischio potrebbe essere molto più banalmente umano: che Stati, aziende e potenze economiche continuino ad accelerare perché nessuno vuole essere il primo a fermarsi e produrre intelligenza artificiale sempre più potente.
È proprio questo il punto in cui il dibattito smette definitivamente di essere una discussione da Silicon Valley e diventa geopolitica, economia, sociologia, soprattutto una questione di potere.
Perché forse il problema non sarà scoprire che l’intelligenza artificiale potrebbe diventare più intelligente dell’uomo. Il problema sarebbe scoprire che, nel frattempo, abbiamo fatto di tutto perché diventasse più potente di lui. E allora la vera nuova bomba atomica non sarebbe l’I.A.
Sarebbe la paura che qualcun altro arrivi prima.
