Real overwatch Stories #5: Il pericolo dell’Intelligenza Artificiale

Condividi su WhatsApp  WhatsApp

“L’intelligenza artificiale è il futuro. […] Porta enormi possibilità, ma anche minacce che sono difficili da prevedere. Chiunque diventi leader in questo ambito sarà il sovrano del mondo.”
Sembra una frase uscita dritta dritta da una origin story di Overwatch, vero? E invece l’ha pronunciata, poche settimane fa, il presidente russo Vladimir Putin.
Benvenuti ad un nuovo appuntamento con Real Overwatch Stories (se siete interessati a leggere le altre puntate cliccate qui)!

Dai sistemi prevedibili alle reti neurali

La Crisi degli Omnic, in cui macchine costruite per combattere le guerre degli esseri umani al posto loro si ribellano secondo i dettami di AI avanzatissime, gli Omnium, segue un filone classico della fantascienza. Dalle opere di Asimov e Dick in letteratura, passando per Terminator e Matrix al cinema, sono innumerevoli le storie che hanno ipotizzato uno scenario come quello che fa da sfondo alla lore di Overwatch. Eppure, sembra che la realtà si stia avvicinando sempre di più a ciò che fino a pochi anni fa era considerato pura fantascienza.

In un recente articolo su Repubblica, Alberto Rizzoli, fondatore di un’app che grazie all’intelligenza artificiale permette ai ciechi di fruire di descrizioni audio di ciò che il loro smartphone inquadra, ha spiegato che dal 2012 si è passati da sistemi programmati in maniera prevedibile alle cosiddette reti neurali. Si tratta di “una vasta serie di neuroni artificiali organizzati in matrici che possono essere addestrati a ripetere, comprendere e prevedere dati numerici in un modo ispirato alla corteccia visiva animale”. Questo le rende sistemi che sono per loro natura probabilistici e attualmente è impossibile comprendere le vere cause di una decisione presa da questo genere di AI. E se uno di questi cervelli artificiali decidesse di uccidere una persona? Chi verrebbe ritenuto responsabile, il suo creatore? O sarebbe tutta colpa di un algoritmo?

“Fermate i soldati robot.”

Sul pericolo di affidare armi a sistemi autonomi governati da reti neurali si è recentemente espresso un gruppo di fondatori di aziende di robotica, fra cui spicca il nome di Elon Musk, fondatore di Tesla. L’appello è stato lanciato da ben 116 magnati dell’industria alle Nazioni Unite affinché si impedisca la creazione di soldati robotici. Suona familiare? Esatto, sono proprio le Nazioni Unite che in origine fondarono Overwatch per contrastare l’attacco degli Omnium. E lo stesso Musk, qualche settimana più tardi, ha dichiarato che il rischio di un terzo conflitto mondiale viene più dagli sviluppi in materia di AI che dai test missilistici nordcoreani che stanno monopolizzando le prime pagine da qualche mese a questa parte.

Uno scenario inquietante, quello che emerge unendo i puntini delle dichiarazioni e dei timori di questi esperti, degli effettivi passi da gigante compiuti dalla robotica nell’ultimo decennio e delle parole di Putin, considerato uno dei più abili strateghi del nostro tempo. D’altronde, cosa sono i Bastion se non soldati-robot progettati per evitare perdite umane in guerra? Ciò nonostante, lo stesso Rizzoli spiega come una guerra fra macchine non avrebbe alcun senso per le logiche economiche del nostro mondo: sarebbe solo un costosissimo spettacolo pirotecnico, senza reali benefici per una parte o per l’altra. E dunque, la possibilità che questi futuri Bastion vengano utilizzati per uccidere esseri umani è straordinariamente alta.

Il mondo ha bisogno di eroi?

La Storia ci ha insegnato che fermare il progresso tecnologico è praticamente impossibile. Quindi si, quasi certamente avremo, e in un futuro più vicino di quanto si possa pensare, poliziotti e soldati interamente meccanici. C’è chi dice che l’unica soluzione per evitare lo scoppio di un conflitto come la Crisi degli Omnic sia rinunciare alla guerra, abolirla a livello mondiale prima che questi sistemi complessi vedano la luce, ma molti ritengono questa possibilità una mera utopia. Per giunta, la fantascienza ha sempre teorizzato che gli strumenti di controllo sulle AI hanno chance di riuscita che sfiorano lo zero assoluto, perché il sistema autonomo si evolverà fino a diventare del tutto incomprensibile (e quindi ineguagliabile) per il cervello umano.

Dunque cosa ci attende in futuro? Avremo davvero bisogno di difenderci dalle nostre stesse creazioni? Ci sarà bisogno di una Overwatch e di eroi che si schierino a protezione dell’umanità?

C’è anche chi vede nella nascita di un nemico comune come potrebbero essere le macchine un fattore positivo, un motivo per unirsi per la prima volta sotto una bandiera come specie. Pensate a storie come Watchmen, dove addirittura questo viene orchestrato per impedire ai sempre più superati stati-nazione di annientarsi a vicenda.

La realtà, tuttavia, si è spesso dimostrata ben più complessa di una semplice divisione “noi e loro”, che si parli di stati e popoli o, nel caso fantascientifico, di umani e robot. Certo è che lo scenario ipotizzato da Blizzard con la lore di Overwatch è lungi dall’essere improbabile, con un conflitto globale esseri umani e macchine da cui il mondo esce cambiato, ma sempre diviso. Un mondo in cui le domande del passato appaiono prive di senso e in cui quesiti filosofici su cosa sia la vita artificiale e sul suo valore rispetto a quella umana diventano sempre più fondamentali. A quel mondo, sembra dirci Elon Musk, ci stiamo avvicinando sempre di più. E se e quando accadrà, forse avremo davvero bisogno di eroi.