Pages Navigation Menu

il contenitore dell'informazione e della controinformazione

.

L’intelligenza artificiale è il futuro del mondo secondo Barack Obama e Joi Ito – Wired

wired.it – L’intelligenza artificiale è il futuro del mondo secondo Barack Obama e Joi ItoIl presidente uscente degli Stati Uniti e il direttore del Media Lab del MIT a colloquio con Wired discutono delle sfide che ci riserva il futuro – Redazione

Il presidente uscente degli Stati Uniti Barack Obama e il direttore del Media Lab del MIT Joi Ito a colloquio con il direttore di Wired US Scott Dadich su come l’intelligenza artificiale stia cambiando il nostro mondo: perché ad attenderci c’è un futuro pieno di speranza e immaginazione.

S.D. Intanto, grazie a entrambi per la disponibilità. Com’è stata la sua giornata finora, signor presidente?

 B.O. Impegnata. Produttiva. Un paio di crisi internazionali qua e là.

S.D. Parliamo di intelligenza artificiale, ieri fantascienza, oggi fattore di cambiamento della nostra esistenza. Quando si è reso conto che ormai era una realtà?

B.O. È penetrata nelle nostre vite in ogni modo possibile, e nemmeno ce ne siamo accorti. In parte per il modo in cui la pensiamo, che è influenzato dalla cultura popolare. Esiste una distinzione, nota certo a tanti dei vostri lettori, tra IA generica e IA specializzata. Nella fantascienza, quella di cui si parla è la prima, giusto? I computer iniziano a diventare più intelligenti di noi, alla fine ci rendono inutili e, poi, o ci narcotizzano mantenendoci grassi e felici o ci ritroviamo a vivere in una realtà tipo Matrix.

La mia impressione, basata sui colloqui con i consiglieri scientifici della Casa Bianca, è che siamo ancora lontani da ciò, ma vale la pena rifletterci perché stimola l’immaginazione e ci porta a ragionare su temi quali scelta e libero arbitrio. I quali hanno rilevanti implicazioni con l’IA specializzata, che usa algoritmi e computer per rispondere a sfide sempre più complesse: sta permeando ogni aspetto della nostra vita, dalla medicina ai trasporti, alla distribuzione dell’energia elettrica, e promette di creare un’economia più produttiva, più efficiente.

Impostata in modo corretto, può generare prosperità e opportunità; ma ci sono lati negativi da affrontare per scongiurare la perdita di posti di lavoro, la crescita delle disuguaglianze, l’abbassamento dei salari.

J.I. So di contrariare alcuni miei studenti al Mit, però mi preoccupa che siano perlopiù bande di ragazzini, in maggioranza bianchi, a costituire il nucleo della scienza informatica intorno all’IA. Molti si sentono più a loro agio comunicando con i computer che con gli umani: ritengono che, se potessero occuparsi solo di intelligenza artificiale generica, non dovremmo più perdere tempo con robe confuse tipo la politica e la società.

B.O. Vero.

J.I. Sottovalutano le difficoltà. Questo è l’anno in cui l’IA può diventare molto più di un semplice problema di scienza informatica. Al Media Lab usiamo il termine “intelligenza estesa” perché la questione è: come costruiamo valori sociali all’interno dell’IA?.

B.O. Quando abbiamo pranzato insieme, tempo fa, Joi ha usato l’esempio delle auto senza guidatore. La tecnologia ce l’abbiamo, più o meno. Abbiamo vetture in grado di prendere decisioni rapide, che in modo drastico potrebbero ridurre le morti per incidenti stradali, migliorare l’efficienza della rete di trasporti, contribuire a risolvere problemi come le emissioni di carbonio, causa del surriscaldamento del pianeta.

Poi Joi si è posto quella domanda: quali valori introdurremo nelle auto? Se sarà la vettura a guidare, sterzerà per evitare un pedone anche se poi andrà a sbattere contro un muro e causerà la tua morte? La decisione è morale: chi la prenderà?

(Foto: Google)

(Foto: Google)

J.I. Quando abbiamo proposto il “Dilemma del carrello ferroviario” in versione automobilistica (è uno studio del Mit Media Lab del 2016: chi rispondeva doveva valutare alcune situazioni lose-lose su cui avrebbe deciso una vettura senza guidatore – salvare i passeggeri o fare morire i pedoni? –, ndr), abbiamo scoperto che alla maggior parte delle persone piaceva l’idea che autista e passeggeri venissero sacrificati per salvare tante vite. Poi hanno anche detto che non avrebbero mai acquistato quell’auto… [Ride.]

S.D. Parlando di temi etici, qual è il ruolo di chi governa?

B.O. Credo che, quando nasce una tecnologia, possano sbocciare migliaia di fiori. Il governo dovrebbe usare un tocco relativamente leggero, investendo in modo pesante in ricerca e garantendo un dialogo tra quella di base e quella applicata. Poi, via via che le tecnologie crescono e maturano, capire come incorporarle nelle strutture normative esistenti diventa un tema serio e lo Stato dev’essere più coinvolto. Non si tratta sempre di costringerle nella cornice esistente, bensì di garantire che le norme riflettano un’ampia base di valori o potrebbero danneggiare alcune persone o alcuni gruppi.

J.I. Conoscete il movimento della neurodiversità (i sostenitori ritengono che l’autismo e altre disfunzioni cerebrali come dislessia e sindrome da deficit di attenzione non vadano trattate come piaghe da sradicare ma come differenze da capire e accettare, ndr)? La professoressa Temple Grandin della Colorado State University, affetta dalla sindrome di Asperger, dice che oggi Mozart, Einstein e Tesla sarebbero considerati autistici.

B.O. La loro diagnosi sarebbe “disturbo dello spettro autistico”.

J.I. Sì. Se potessimo debellarlo e rendere tutti neuronormali, scommetto che un sacco di ragazzi del Mit non sarebbero quello che sono… Che si parli di autismo o di diversità in genere, quando permettiamo che sia il mercato a decidere è un problema. Forse Einstein come figlio non lo desidereresti, ma dire “Okay, voglio solo ragazzi normali” non garantirà un gran beneficio sociale.

B.O. Eccoci alla questione chiave che ci troviamo sempre ad affrontare quando c’è di mezzo l’IA. Sono anche le stramberie a renderci umani, così come le mutazioni, le anomalie, i difetti creano l’arte o le invenzioni… un sistema perfetto sarebbe statico. Parte di ciò che ci rende quel che siamo, che ci rende vivi, è che siamo dinamici e capaci di sorprendere. Ecco, quand’è opportuno che le cose funzionino come previsto, senza sorprese?

(Photo by Andrew Harrer-Pool/Getty Images)

(Photo by Andrew Harrer-Pool/Getty Images)

S.D. Parliamo dell’intelligenza estesa che si applica al governo, all’industria privata e al mondo accademico: dove dovrebbe trovarsi il centro di quella ricerca, ammesso che un centro esista?

J.I. Il Mit risponderebbe: al Mit… [Ride] Una volta probabilmente si sarebbe trattato di un gruppo di accademici supportato da un governo; ma oggi in ballo ci sono laboratori da miliardi di dollari.

B.O. I finanziatori li conosciamo. Se parli con Larry Page e gli altri, l’atteggiamento è: “Non vogliamo burocrati che ci rallentino mentre diamo la caccia agli unicorni (le startup che hanno un valore superiore al miliardo di euro, ndr)”.

Il problema è che il nostro impegno per la ricerca di base è calato, la fiducia nell’azione collettiva è stata intaccata anche da ideologia e retorica. Davanti a una grande conquista tecnologica, come analogia usiamo ancora il lancio sulla Luna ma, cinquant’anni fa, il programma spaziale rappresentava mezzo punto percentuale del Pil. Equivale a circa 80 miliardi di dollari, che oggi dovremmo investire sull’intelligenza artificiale… e invece forse non si arriva al miliardo.

Un’accelerazione ci sarà ma, se vogliamo che i valori di una comunità multiculturale siano rappresentati in queste tecnologie avanzate, il finanziamento statale dovrà fare la sua parte. Se invece Washington non parteciperà, le tematiche che Joi ha sollevato riguardo ai valori in queste tecnologie potrebbero andare perdute. O non essere discusse in modo appropriato.

S.D. La differenza tra l’innovazione prodotta ai margini e quella inserita in programmi tipo quello spaziale è un tema molto dibattuto: come garantire che tutte queste idee si trasmettano?

B.O. Il solo fatto che lo Stato finanzi e contribuisca alla raccolta di dati, non significa che li accumuli o che l’esercito ne possa disporre. Un esempio? Il progetto sulla medicina di precisione prevede di realizzare un grande database di genomi umani di un gruppo sufficientemente diversificato di americani. Invece di dar soldi a Stanford o Harvard, ora possediamo un database genetico, cui tutti possono accedere. Disporre di un insieme di valori condivisi, di un’architettura comune, garantisce che la ricerca non venga monetizzata da un unico gruppo.

S.D. Ma i rischi esistono. Elon Musk, ceo di Tesla, e il filosofo svedese Nick Bostrom temono che il potenziale dell’IA possa superare la nostra capacità di comprenderla. Come proteggere noi stessi e l’intera umanità?

B.O. Parto dall’apprensione più immediata, un problema risolvibile in questa categoria di IA specializzata. Se tu hai un computer su cui puoi fare girare Go, un complicato gioco dalle infinite varianti, forse sei in grado di sviluppare anche un algoritmo che massimizzi i profitti alla Borsa di New York.

Altri, però, potrebbero far crollare lo Stock Exchange o minare l’integrità dei mercati finanziari. Così come un algoritmo potrebbe ordinare: “Decifra i codici nucleari e scopri come lanciare i missili”. Se lavora solo su questo, se autoapprende e se è davvero efficace, ecco, allora abbiamo un problema.

La mia indicazione al team della Sicurezza Nazionale è: non preoccupatevi più di tanto di macchine che potrebbero impadronirsi del mondo, ma della capacità di elementi non governativi od ostili di penetrare i sistemi. È lo stesso approccio che adottiamo per il massiccio lavoro sulla cyber security. Ma va migliorato, perché chi in futuro userà questi sistemi lo farà sempre meglio.

J.I. Sono d’accordo. Con una precisazione: pochi, oggi, credono probabile l’affermazione di un’IA generica nei prossimi dieci anni. Perché ciò accada, credo che servano una ventina di scoperte fondamentali: perciò si può monitorare la situazione.

B.O. Tieni sempre qualcuno vicino al cavo della corrente! [Ride] Se vedi che sta per succedere, stacca la presa dal muro, amico mio.

J.I. L’importante è individuare chi – comunità oppure leader – vuole servirsi dell’IA a fin di bene e trovare il modo di aiutarlo.

B.O. Quando ragioniamo sulla sicurezza, per tradizione pensiamo a una blindatura o a muri; sempre più spesso, invece, mi ritrovo a guardare alla medicina e a pensare ai virus, agli anticorpi. Se garantire la cyber security continua a essere difficile, è anche perché la minaccia non è costituita da una squadra di carri armati ma da un insieme di sistemi potenzialmente vulnerabili e aggredibili da un virus informatico.

Quindi dobbiamo cambiare il modo di pensare alla sicurezza e fare investimenti diversi. A preoccuparmi più di tutto sono minacce tipo le pandemie.

Non servono muri per impedire che una letale influenza aviotrasportata arrivi sulle nostre coste: occorre la capacità di realizzare sistemi di sanità pubblica ovunque nel mondo, di attivare meccanismi che ci avvisino dell’insorgere del fenomeno, che garantiscano l’applicazione rapida di protocolli che rendano i vaccini più “intelligenti”! Sì, un nuovo modello di sanità pubblica potrebbe rivelarsi utile per rispondere anche alle minacce dell’IA.

J.I. A questo proposito, sarebbe interessante guardare al microbioma (l’insieme del patrimonio genetico e delle interazioni ambientali della totalità dei microrganismi di un ambiente definito, ndr). Introdurre batteri buoni per combattere quelli cattivi – evitando la sterilizzazione – è una strategia possibile.

B.O. Certo… non mi lascio leccare da Sunny e Bo (i cani di famiglia, ndr), perché quando li porto a passeggio nel prato vedo quello che masticano: roba con cui non voglio avere a che fare!. [Ride]

J.I. Dobbiamo ripensare a ciò che significa “pulito”, sia in termini di cyber security che di sicurezza nazionale. L’idea che sia possibile eliminare ogni eventuale agente patogeno è poco credibile.

S.D. Ciò potrebbe creare un nuovo tipo di corsa agli armamenti?

B.O. Oggi lo sviluppo di norme internazionali e meccanismi di verifica su cyber security in generale, e IA in particolare, è in fase iniziale: una parte del problema è la linea tra difesa e offesa, che è piuttosto confusa in un periodo in cui, attorno al governo, si percepisce sfiducia.

Se molti considerano l’America la cyber potenza dominante, vuol dire che per noi è il momento di dire: “Siamo pronti a limitarci se siete disposti a fare altrettanto”. Ma alcuni fra i protagonisti della scena – Russia, Cina, Iran – non sempre incarnano i valori e le norme in cui noi ci riconosciamo. La questione va posta a livello internazionale.

J.I. La gente vuole comunicare in questo periodo. Se sapremo garantire che finanziamenti ed energie sosterranno la condivisione delle conoscenze, otterremo grandi vantaggi. Dal vuoto non ricavi nulla di buono ma una comunità internazionale esiste ancora.

B.O. Joi ha centrato il punto, la ragione per cui stiamo organizzando incontri con tutti gli interessati. Ripeto, dobbiamo pensare alle implicazioni economiche, perché la gente non sta lì a riflettere ma si domanda preoccupata: “Il mio lavoro verrà sostituito da una macchina?”. Io tendo a vedere il bicchiere mezzo pieno. Nel tempo abbiamo assorbito nuove tecnologie, la gente ha scoperto nuovi lavori; magari emigrano ma in genere i nostri standard di vita sono migliorati.

Però siamo entrati in una fase un po’ diversa, semplicemente a causa dell’applicabilità pervasiva dell’IA e di altre tecnologie. In sistemi di questo tipo i più qualificati se la passano bene, fanno leva sui propri talenti, si interfacciano con le macchine per ampliare il raggio d’azione, migliorare salari, prodotti e servizi. Le persone pagate poco e dalle competenze limitate diventano sempre più superflue; le loro mansioni magari non vengono sostituite, ma le retribuzioni risultano compresse.

Per gestire la transizione, dobbiamo sviluppare un dibattito che coinvolga l’intera società. Come garantire che l’economia sia inclusiva se, in realtà, produciamo più che mai ma una quota crescente di ricchezza finisce a un gruppo ristretto?

Come garantiamo un reddito adeguato alla gente? Cosa significa ciò in termini di sostegno a settori come le arti e la cultura, e di garanzia che i nostri veterani ricevano le cure necessarie? Il patto sociale e i nostri modelli economici devono adattarsi alle nuove tecnologie.

J.I. Difficile intuire oggi quali lavori verranno soppiantati. Se avessimo un computer che “capisce” il sistema sanitario, che se la cava bene con diagnosi e simili, scommetto che a essere rimpiazzato sarebbe più probabilmente il medico che l’infermiera o il farmacista, che sono meno costosi.

Ma ci sono attività di alto livello, come l’avvocato o il revisore contabile, che potrebbero scomparire mentre altre, nel campo dei servizi, delle arti e delle professioni non saranno rimpiazzate perché i computer non possono sostituirle.

Mentre le intelligenze artificiali iniziano a prendere il posto di alcune persone, si fa strada la possibilità di altri modelli, come l’accademia e le arti, dove la gente ha obiettivi non direttamente legati al denaro. Per me uno dei problemi è questa “ideologia”: se non hai soldi, non sei intelligente. Nel mondo accademico vedo un sacco di persone in gamba senza denaro…

B.O. Sono d’accordo. A questo mi riferisco quando dico che bisogna riprogettare il patto sociale. Ora, che il salario di base universale sia il modello giusto oppure no, è una discussione che ci trascineremo per i prossimi dieci o vent’anni. È anche vero che i lavori rimpiazzati dall’IA non saranno solo servizi a bassa qualifica ma anche occupazioni ad alta specializzazione e alta ripetitività, che i computer possono svolgere.

Però è indiscutibile: via via che l’IA viene incorporata e la società diventa potenzialmente più ricca, il legame tra produzione e distribuzione, fra quanto lavori e quanto produci, si attenua sempre più, visto che buona parte di quel lavoro la fanno i computer.

Quindi ci toccano decisioni difficili: sottopaghiamo gli insegnanti, per esempio, anche se il loro è un incarico pesante che difficilmente può essere affidato a una macchina. Così dovremmo avviare un riesame di ciò cui diamo valore, di quanto come collettività siamo disposti a pagare figure per noi di grande valore ma ai gradini più bassi dei livelli salariali , come insegnanti, infermieri, badanti, madri o padri che restano a casa, artisti.

S.D. Signor presidente, a quale tecnologia occorre guardare per rispondere alle sfide che il governo americano deve affrontare?

B.O. C’è tanto da fare per renderlo più amico dei cittadini, perché pagare le imposte sia facile come ordinare una pizza o acquistare un biglietto aereo. Che si tratti di incoraggiare la partecipazione al voto oppure di sbloccare i big data in modo che la gente li possa usare più facilmente o riesca a far elaborare i propri moduli online con maggiore semplicità: c’è una montagna da scalare per portare nel XXI secolo sia il governo federale che quelli statali e locali. Il gap di talento fra il primo e il settore privato non è ampio, per la verità; quello tecnologico invece è considerevole.

La prima volta che sono entrato qui, pensavo che la Situation Room fosse una cosa super, mi identificavo nel Tom Cruise di Minority Report che spostava le cose con un gesto. La realtà è molto diversa. [Ride] Se c’è da catturare un terrorista dall’altra parte del globo, i film mostrano un’onniscienza che non c’è, perché è stata finanziata in modo inadeguato e progettata senza cura…

So che se gestiremo bene il cambiamento climatico, se riusciremo a chiudere le falle e a scongiurare l’innalzamento degli oceani, l’umanità troverà una soluzione. Sono piuttosto ottimista. Abbiamo fatto tanto buon lavoro; ma la strada è ancora lunga.

Come regolare la connettività in modo che internet sia responsabile, trasparente e sicuro, così da permetterci di perseguire i cattivi garantendo al tempo stesso che il potere del governo sulle nostre vite sia limitato e non si trasformi in strumento di oppressione: ci stiamo lavorando. In parte si tratta di un problema tecnologico, di cui il criptaggio è un esempio. Ho incontrato più volte i difensori dei diritti civili e i funzionari della Sicurezza Nazionale: nessuno è in grado di darmi una risposta valida, che concili queste tematiche.

Un’ultima cosa: sono un figlio dell’era spaziale, so che i fondi che forniamo alla ricerca per la prossima generazione di viaggi nel cosmo sono inadeguati. Il settore privato invece, trasferendo sempre più finanziamenti statali su idee folli, ha lavorato bene. Pensando allo spazio, proviamo le stesse emozioni dei tempi della missione Apollo. Cinquant’anni dopo sarebbe plausibile attendersi – lassù ci sono i cristalli di dilitio (il minerale immaginario utilizzato nell’universo di Star Trek come fonte di energia, ndr)? – dei progressi…

S.D. Lei è un appassionato di Star Trek, che si ispirava a una concezione utopistica della tecnologia: ha influenzato la sua visione del futuro?

B.O. Da ragazzo ne andavo matto. La longevità della serie è dovuta al fatto che era basata non sulla tecnologia ma sui valori e le relazioni: per questo, che gli effetti speciali fossero brutti e improbabili, che atterrassero su pianeti di cartapesta, non aveva importanza. [Ride] In realtà parlava di un concetto di umanità comunitaria e della fiducia nella nostra capacità di risolvere i problemi.

Un film recente ha catturato lo stesso spirito: Sopravvissuto – The Martian. Mostrava un gruppo di individui impegnati a risolvere un problema con creatività, coraggio, impegno e la certezza che, se una soluzione esisteva, l’avrebbero trovata. Quanto cioè amo di più dell’America e la ragione per cui il nostro paese continua ad attirare gente da tutto il mondo.

E quanto più apprezzo nella scienza: insomma, proviamo questo, se non funziona cerchiamo di capire perché e tentiamo con qualcos’altro. Ma gioendo dei nostri errori, perché alla fine c’insegneranno a decifrare il codice del problema che cerchiamo di risolvere. Se mai smarrissimo quello spirito, perderemmo l’essenziale dell’America e dell’essere umano.

“Quando hai eliminato l’impossibile quello che rimane, per quanto difficile da accettare, deve essere per forza vero” stringente logica vulcaniana a cui nulla può opporsi" (ispirata alla massima del celebre detective Sherlock Holmes)

J.I. Sono d’accordo, mi piace l’ottimismo di Star Trek. Ma penso anche che la Federazione, come l’equipaggio, sia assai variegata e che i cattivi non siano i soliti cattivi, ma solo indotti all’errore.

B.O. Come ogni buona storia, Star Trek dice che siamo tutti complicati, che siamo un po’ Spock, un po’ Kirk [Ride] e un po’ Scott. Forse con qualcosa dei Klingon. Giusto? Ecco cosa intendo quando parlo di trovare soluzioni. Parte della ricerca consiste nel saper lavorare insieme superando barriere e differenze. C’è la fede nella razionalità, temperata da un po’ di umiltà: le ritroviamo nell’arte migliore e nella scienza migliore.

Abbiamo la sensazione di possedere menti incredibili che dovremmo usare a fondo e di aver appena grattato in superficie. Ma dovremmo evitare anche di essere troppo presuntuosi, ricordare sempre a noi stessi che sono tante le cose che non conosciamo.

L’articolo che avete appena letto lo trovate sul numero di Wired in edicola e fa parte della sezione Trend 2017, realizzato in partnership con BMW.

Sorgente: L’intelligenza artificiale è il futuro del mondo secondo Barack Obama e Joi Ito – Wired

Spread the love
  •  
  •  
  •  
  •  
  •  
  •  
< >

Leave a Comment

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *