Singolarità: gli Dèi, gli Uomini, le Macchine

illustrazione di Matteo Sarlo
parole di Tiziano Cancelli

La previsioni dicono che il salto nella curva dell’evoluzione è vicino: fra pochi anni saremo in grado di sconfiggere la fame, rendere obsoleta la guerra e vivere in eterno. La scienza sogna in grande, grande è il rischio che corre. Saremo pronti al rendez-vous con la Storia?

Uno scienziato probabilmente affetto da disturbi di dissociazione, chiuso nel suo mondo freddo e impersonale fatto di dati e hard science, che tira fuori dal cilindro l’ennesima previsione jawdropping potenzialmente destinata a rivoluzionare l’umanità ma che sfortunatamente si rivela soltanto un’ennesima operazione di clickbait.
Se l’immagine vi suona familiare è perché ai media piace particolarmente il ricorso alla predizione apocalittica (e al clickbait): il Millennium Bug degli ormai lontani anni 2000, la profezia Maya del 2012, ancora tutte le infinite volte che un asteroide venuto da lontano si preparava a distruggere la Terra; una spettacolarizzazione della vita che ricorda più un’ambientazione da film Marvel che la vita vera.

Tutti ossessionati dal cambio di paradigma dunque, tutti in attesa di un improbabile quanto necessaria “chiamata” di kafkiana memoria, che porti alla fine di questa apparentemente eterna domenica della vita. Nonostante queste premesse, nonostante i cliché apocalittici, la Singolarità è arrivata, o per meglio dire a 30 anni dal momento in cui scriviamo questo articolo, la Singolarità farà la sua comparsa nelle vite degli uomini.
Questo, in poche parole, l’annuncio shock dell’eccentrico guru della Silicon Valley, Ray Kurzweil, contenuto tra le altre cose in un saggio rimasto per diverse settimane nella top 10 del New York Times al momento dell’uscita, dal titolo La Singolarità è vicina.

Pre-quel per chi non passa la sua vita scrollando news a tema Ghost in the Shell: chi è Ray Kurzweil e che cos’è la Singolarità. Kurzweil, classe 1948, è come cita la sua biografia su Wikipedia “inventore, informatico e saggista statunitense”; personaggio eclettico e controverso, ha acquistato sempre più visibilità negli ultimi anni grazie al suo lavoro come chief engineer di Google, e alle sue ricerche sulle A.I, acronimo che sta per Artificial Intelligence.
Complici le sue interessanti previsioni, 147 per l’esattezza, che ad oggi totalizzano quasi un 90% di rating in quanto a precisone, Kurzweil è una delle star mainstream all’interno del dibattito scientifico in materia di intelligenza artificiale. Fondatore tra le altre cose di un’università che si occupa specificatamente di formare menti adatte a saper fare i conti con le meccaniche ultra complesse del mondo futuro, la Singularity University, Kurzeweil sostiene dunque che ormai soltanto poche decine di anni separino l’umanità dal suo punto di non ritorno.

Ma in cosa consiste esattamente lo stadio di Singolarità? La teoria della singolarità spiega come, in un determinato momento storico, le capacità tecnologiche dell’essere umano superino di gran lunga la sua capacità di comprenderne la complessità. Questo fantomatico punto è stato ossessione di scrittori, scienziati, poeti ed economisti, alimentando le fantasie utopiche e distopiche dell’uomo post-moderno; tuttavia solo ad oggi, con i recenti balzi in avanti delle Strong I.A., l’irruzione sul mercato dei prodotti a tecnologia I.O.T. (acronimo di internet of things) e all’uso intensivo del Machine Learning nei più vari settori, dall’economico al sociale, si è potuta configurare una prospettiva che non fosse unicamente frutto di una lettura eccessiva dell’Esegesi di Philip K. Dick.

Parlare di Singolarità non è facile, si parla di un qualcosa che per definizione è quasi impossibile da immaginare, parafrasando Wittgenstein una cosa di cui non si potrebbe parlare neanche volendo. La teoria della singolarità infatti presupporrebbe una visione d’insieme chiara e onnicomprensiva, una visione della struttura generale che sostiene il reale; non solo sul campo della tecnologia dunque, ma su tutto il campo dello scibile umano. Capacità che fino ad oggi è stata pensata unicamente come prerogativa divina, radicalmente altra rispetto alla natura stesso dell’uomo. Nello specifico attraverso il concetto di Singolarità si pensa ad una fase della tecnologia in grado di comprendere e processare tutta la complessità racchiusa all’interno della vita umana, in grado di soggiogare e far suo quel famigerato Point Omega tanto caro a Don De Lillo. Un punto omega che è stato immaginato dalla fisica più metafisica: suoi attributi sono che è sempre esistito, è personale e unisce il creato in forme sempre più complesse, è trascendente, libero da limitazioni di spazio e di tempo, e deve offrire la possibilità di essere raggiunto. Un controllo quindi pressoché totale non solo sulla vita ma anche sulle sue dinamiche più oscure e nascoste: una mente in grado di stanziarsi ad un livello di Singolarità sarebbe in grado di soddisfare uno dei desideri più antichi dell’Uomo, quello di controllare il processo evolutivo. Non è un caso che persino uno dei fondatori di Google, Larry Page, abbia contribuito attivamente alla creazione della Singularity University di Kurzweil con finanziamenti fino a 250.000 dollari. Del resto a chi non piacerebbe giocare con il fuoco, e possibilmente influenzare la catena evolutiva?

La Singolarità è ciò che permetterebbe dunque di raggiungere questo punto, cambiando
radicalmente la natura dell’esistente nella sua totalità. Entrare nello stadio della singolarità comporterebbe per l’essere umano la messa in gioco di tutte le categorie di pensiero con le quali ha fatto i conti dall’inizio della sua storia. Come fa ben notare Harari nel suo ultimo bestseller Homo Deus, lo sviluppo di tecnologie così evolute, tanto evolute da bypassare la stessa comprensione delle stesse da parte dell’uomo, porterebbero l’essere umano a possedere qualità tipiche degli Antichi Dei che per millenni hanno abitato e contribuito a spiegare i suoi sogni, le sue paure e le sue ambizioni. Ubiquità, potere di controllare gli Elementi, alterazione dello spazio e del tempo, la lista potrebbe allargarsi a dismisura. In questa logica l’evoluzione subirebbe un balzo enorme, paragonabile forse solo al passaggio da invertebrato a mammifero. I grossi problemi che attanagliano la vita dell’uomo fin dalla sua comparsa sulla terra, verrebbero spazzati via da capacità fuori scala: la fame, la povertà, le malattie, tutte cancellate con un complesso gioco di software e di elaborazione di dati. Vette altissime, tanto da sembrare inverosimili, frutto più di un romanzo di fantascienza che di una prospettiva realmente scientifica.

Questa, quantomeno è la teoria. Quanto c’è di vero? A ben vedere, come fa notare sempre Harari, già oggi possiamo affermare con certezza che i vecchi problemi millenari dell’essere umano stiano progressivamente cedendo il passo: sempre meno persone nel mondo muoiono di fame, guerra e malattie; il mondo sta vivendo un trend positivo che non conosce uguali nella storia umana. A dispetto di tutte le impressioni che possiamo ricavare soggettivamente sull’argomento, ad oggi la cattiva alimentazione rappresenta la più comune causa di morte prematura al mondo, più della guerra, più delle malattie incurabili, più delle carestie. E tutto questo senza l’aiuto della Singolarità.

Queste previsioni, di cui Kurzweil si fa ambasciatore, dividono chiaramente la comunità scientifica: se c’è chi da una parte vede in Kurzweil un profeta del mondo che verrà, c’e anche chi come il premio Pulitzer Michael Hofstader, autore del best seller Godel, Escher e Bach, pensa che le idee di Kurzweil siano principalmente “una mistura inestricabile di spazzatura e buone idee.”
Tuttavia che le previsioni di Kurzweil siano cronologicamente correte o meno, a questo punto fa poca differenza. Ciò che conta è che il sentiero entro le quali queste previsioni prendono forma è già ampiamente tracciato, la chiave per il raggiungimento dello stadio di Singolarità è già nascosta nella quotidianità di tutto il mondo e porta il nome di Intelligenza Artificiale: telefoni, computer, auto, elettrodomestici, dispositivi di sicurezza, dispositivi medici e la lista potrebbe continuare per molto, funzionano già in base a questa particolare tecnologia, e in essa vengono investiti di conseguenza la maggior parte dei fondi destinati alla ricerca.

Gli studi sull’IA risalgono agli inizi degli anni 60 e conoscono da allora fortune alterne, periodi definiti in gergo tecnico invernali, caratterizzati da un calo di investimenti ed aspettative, a periodi più felici come quello che viviamo attualmente, definiti estati e caratterizzati dalla tendenza inversa.
Quello che differenzia però le estati passate dalla situazione attuale è l’attuale capacità di lavoro raggiunta da queste macchine: con l’uso intensivo delle tecnologie relative al Machine Learning, le odierne intelligenze artificiali sono in grado di elaborare e letteralmente fagocitare quantità di dati impensabili fino a pochi anni fa. Attraverso l’implementazione di Internet, le AI sono attualmente in grado di accedere a tutta, o quasi, la conoscenza elaborata dall’uomo nell’arco di millenni di evoluzione. Il tutto attraverso processi relativamente “veloci”. Complice la datacrazia ormai imperante nelle moderne società, le AI sono in grado di elaborare così tanto materiale da riuscire, potenzialmente, a spingersi oltre i limiti immaginati dai loro stessi creatori.

Per spiegare in modo più o meno semplice il funzionamento delle Intelligenze Artificiali e dei rischi ad esse connessi, basta ricorrere alla sterminata filmografia e bibliografia a tema: Hall 9000, il malefico maggiordomo della Discovery One, le leggi della robotica di Asimov, etc… In parole povere, il funzionamento dell’I.A consiste nel tentativo di una macchina di emulare, e nel caso della Singolarità superare, il funzionamento del cervello umano.
David, il bambino robot immaginato da Steven Spielberg come protagonista del film A.I. Artificial Intelligence del 2001, era così intelligente e somigliante ad un bambino vero da essere in grado di provare empatia e sofferenza nel momento strappalacrime in cui SPOILER veniva abbandonato e cacciato dalla sua famiglia umana.

Aldilà delle sorti di David, o delle eccessive premure di Hal, l’impossibilità di prevedere completamente le potenzialità a lungo e breve termine di questo apparato tecnologico è un rischio concreto che ha già dato luogo ad eventi quantomeno particolari. Questo fattore complica di non poco il discorso: se infatti è evidente l’entusiasmo a livello planetario per le potenzialità emancipatrici che una tale tecnologia è in grado di esprimere, come testimoniato del resto da trans-umanisti alla Kurzweil, è d’altra parte non semplice fare i conti con le possibili, e probabili a detta di alcuni, conseguenze negative derivate da un uso non regolamentato di tali potenzialità. Intorno a questo groviglio di problemi ruota ad esempio Superintelligenza, ultima fatica del filosofo Nick Bostrom, direttore del Future of Humanity Institute di Oxford, un testo del 2016, uscito solo recentemente in italiano per la casa editrice Bollati Borighieri. All’interno del libro Bostrom si lancia in una disamina chiara e impietosa dell’attuale stato della tecnologia riguardante le intelligenze artificiali: un’analisi che pur con qualche azzardo, riesce a far luce su un argomento in grado di far perdere il sonno a personaggi del calibro di Sthepen Hawking e Barack Obama. Quello che Bostrom infatti si chiede fa da contraltare all’ottimismo ultra-futurista di Kurzweil: ammesso e non concesso che questo stadio di Singolarità sia in procinto di impattare la vita delle persone, saremo noi in grado di controllarlo? O quanto meno di far si che l’onda d’urto derivante dall’impatto non ci annienti come specie? Detto in parole ancor più semplici: saremo in grado di evitare la catastrofe perpetuata da Skynet in Terminator? O siamo destinati a ritrovarci invasi da cyborg con le sembianze di Arnold Schwarzenegger?

L’Intelligenza Artificiale è la next big thing, su questo non ci piove. Sembrano averlo capito più o meno tutti nelle alte sfere, dai giganti del settore, fino alle moderne super potenze come Russia, Cina, India e Stati Uniti. Il pericolo non deriva solamente da una possibile perdita di controllo della tecnologia in sé, eventualità che oggi può apparire remota ai più scettici, ma da un qualcosa che suona molto familiare anche a chi non ha familiarità con i computer, il pericolo di un’escalation militare. Il rischio è quello di una nuova corsa alle armi, questa volta a tema sci-fi, che impegni la comunità internazionale forse proprio in prossimità di quella Singolarità potenzialmente in grado di rendere obsoleta la guerra.

Come ogni evento epocale che si rispetti, questo avvicinamento alla Singolarità, preceduto da un uso intensivo dell’Intelligenza Artificiale, non manca di sollevare perplessità anche nel complesso mondo del lavoro. Anche qui i pareri si fanno discordanti, da chi prospetta e rivendica una nuova era di piena automazione in chiave marxiana, capace di invertire la tendenza rispetto l’enorme diseguaglianza che si registra oggi fra il famoso 1% della popolazione mondiale e il restante 99%, lasciando alle macchine la fatica del lavoro e ridistribuendone equamente l’enorme plusvalore (Nick Srnicek, Alex Williams, Pretendere il futuro, Nero edizioni) e chi mette in guardia rispetto alle problematiche immanenti di una piena automazione non supportata da un piano politico condiviso (Roberto Ciccarelli, Forza lavoro. Il lato oscuro della rivoluzione digitale).

La questione rimane aperta.
Se è vero, come sostiene ancora Harari, che i principali prodotti del XXI secolo saranno i corpi, i cervelli e le menti e che la differenza tra chi saprà come ingegnerizzare corpi e cervelli e chi no saranno più grandi delle differenze tra Sapiens e Neanderthal, ciò che si evidenzia da subito è la necessità di una riflessione seria, che ruoti a 360° sul tema dell’Intelligenza Artificiale e dell’ipotetica conseguente fase della Singolarità.
Il confronto su questi temi, potenzialmente e praticamente in grado di avere un effetto concreto sulla vita di milioni di persone nei prossimi anni, necessità di uscire da laboratori e sale di comando, per entrare a pieno titolo nella riflessione quotidiana. Fondamentale sarà a tal fine l’essere in grado di far coesistere il discorso scientifico con un discorso etico e politico, quindi di prevenire e neutralizzare quelle forze escludenti insite in una transizione tanto vasta e complessa. Anche perché come sostiene Rick Deckard in Blade Runner, senza scomodare l’etica, la scienza e la politica, ognuno di noi ha diritto al proprio animale guida robotico per fare a gara con il proprio vicino di casa.

Tiziano Cancelli è laureato in Filosofia all’università La Sapienza di Roma. Scrive di politica, cultura e nuove tecnologie. Frequenta il master di secondo livello Big Data, innovazioni, regole, persone. Ascolta Black Metal e sta ancora cercando la pietra filosofale.