Intelligenza artificiale, la lezione di Schnapp: «I principi etici vanno definiti dalla società»

Intervista al fondatore dello Stanford Humanities Lab e del metaLab di Harvard in vista dell’appuntamento al Bibiena 

MANTOVA. L’appuntamento del 29 settembre alle 18 al Bibiena per la tappa de “L'alfabeto del futuro”, il viaggio del gruppo editoriale Gedi tra le sfide dell'innovazione, è lo spunto per questa intervista a Jeffrey Schnapp, direttore-fondatore dello Stanford Humanities Lab e fondatore del metaLab di Harvard.

Vorrei arrivare a definire l’innovazione in un quadro storico. È un tema molto dibattuto, ma certo la contemporaneità non ha l’esclusiva della corsa all’innovazione. Possiamo veramente dire di vivere nella società che più di tutte, negli ultimi secoli, ha spinto sull’acceleratore? O piuttosto negli ultimi trenta-quarant’anni se ne parla di più? Qual è stata l’epoca storica in cui, secondo lei, l’uomo ha cambiato di più il suo modo di rapportarsi con le persone, le cose, il pensiero, lo svago, l’ambiente e il lavoro?


«Si tratta di una domanda importante perché viviamo in un’epoca in cui l’innovazione è un fenomeno al centro dell’immaginario collettivo come forse in nessuna epoca precedente: non l’innovazione intesa come progresso (come nel ‘800) ma declinata invece come disruptive innovation. Come nel caso del mito ottocentesco del progresso abbiamo a che fare con un altro mito, un mito successore, che malgrado le sue pretese di discontinuità non coincide necessariamente con una realtà in cui i veri processi di cambiamento restano, come sempre, relativamente lenti e graduali. Tale gradualità resta poco leggibile grazie alla proliferazione di quello che gli americani denominano hype cycles, “cicli iperbolici” in cui sia i media che i tecnologi pompano una tecnologia ben in anticipo delle sue reali-attuali capacità, generando false aspettative e ansie inutili. Detto questo rispondo più direttamente alla domanda: non dubito che stiamo vivendo in un’epoca con pochi precedenti, un’epoca in cui c’è stata un’accelerazione di cambiamenti nel modo di rapportarci con il mondo grazie soprattutto a due fattori interrelati, l’ubiquità delle reti di comunicazione e la proliferazione di computers e smart devices. La particolarità del nostro momento storico non è tanto la novità di questi fenomeni quanto la velocità con cui si stanno diffondendo su scala globale».

L’innovazione è spesso associata alla tecnologia, eppure riguarda anche l’ambito artistico, quello del design, quello della musica e quello del linguaggio. Come facciamo a riconoscere un’innovazione? Dall’utilità che ne ricaviamo? Da un beneficio economico o ergonomico? Quando Italo Calvino ha scritto Marcovaldo ha introdotto un personaggio metropolitano nuovo, espressione di un’epoca storica particolare: ha innovato la letteratura o ha letto in modo intelligente e prima degli altri la nuova realtà urbana? E allo stesso modo: un nuovo supporto tecnologico (l’ultimo iPhone, un modello di aspirapolvere) ci cambia la vita o è solo l’espressione di un nuovo bisogno al quale Apple o Dyson decidono sia conveniente dare una risposta con tecnologia già disponibile ma non ancora sfruttata?

«Bella domanda. Il tecnocentrismo cieco che continua a prevalere in troppe discussioni contemporanee sulla tecnologia ci impedisce spesso di approfondire il concetto d’innovazione; peggio ancora, ci impedisce a capire i suoi meccanismi reali. Non a caso la parola “invenzione” nasce nel seno della retorica antica come scoperta non del nuovo ma dei migliori modelli già esistenti che, nel contesto di un discorso presente fatto sempre su misura, vanno assemblati abilmente per ottenere un risultato (nel caso della retorica: la persuasione). Ed è proprio così che buona parte della innovation economy oggi procede: non “inventando” tout court, ma ricombinando, adattando, modificando, sviluppando… Poi è la nostra società, l’universo degli utenti, la cultura che interpreta ogni tecnologia e se ne appropria, spesso modificando l’uso rispetto alle intenzioni dei produttori, re-immaginandola in modo originale. La tecnologia non determina il suo o il nostro destino. Si tratta sempre di una dialogo complesso in cui la cultura dice sempre la sua».

In Italia molte città hanno una struttura medievale. È immaginabile, secondo lei, rimanere al passo con l’evoluzione possibile in città – facciamo qualche esempio – come Berlino, Baton Rouge o San Diego? A Mantova, la mia città, quasi ogni muro racconta il Rinascimento. Quasi ogni finestra si affaccia su una basilica o un palazzo storico. Come si fa a portare l’innovazione in uno spazio urbano pensato per la società del 1500? Dovremmo scegliere quando cercare l’innovazione e quando invece rimanere dove siamo? O, piuttosto, dovremmo puntare ad un diverso tipo di innovazione? Se sì, quale?

«Sono contrario all’uso dell’etichetta smart cities quando si parla del futuro delle metropoli proprio perché le città storiche sono tutt’altro, il contrario di smart. Anzi, le città storiche come Mantova sono dei ricchissimi ammassi di cultura e intelligenza, e per quanto questa pesante presenza del passato possa porre degli ostacoli a certe forme di rinnovamento, resta sempre una forza potenziale e un capitale importante su cui fare leva. Ma va interpretata con uno spirito creativo, critico, aperto al cambiamento; una certa tendenza al conservazionismo integrale, di stampo tardo ottocentesco, va superata a nome di una visione che sperimenta nuovi modelli nel presente che guardano al futuro, ma che dialogano con il passato. L’innovazione è anche questo».

Come si immagina l’impatto dell’intelligenza artificiale nei prossimi dieci anni? Lei crede che entrerà nella vita di tutti i giorni, cioè che anche un anziano potrà beneficiarne, oppure sarà utilizzata soprattutto nei processi produttivi e delle comunicazioni? Pensa ad un utilizzo in campo medicale?

«L’intelligenza artificiale non è “un’intelligenza” del tipo generalizzato, fluido e flessibile che di solito abbiamo in mente quando si parla di intelligenza; ma può compiere cose straordinarie su vasta scala. Avrà senz’altro un impatto sulla vita quotidiana tramite oggetti appartenenti all’internet degli oggetti smart (Internet of Things), ma a mio avviso il suo vero impatto sarà a livello delle aziende e delle istituzioni pubbliche. La sua superpotenza è questa».

Possiamo ritenere che un giorno l’intelligenza artificiale determini da sola i suoi stessi principi etico-morali? Oppure dovremo esserne direttamente responsabili noi? Lo chiedo perché l’intelligenza artificiale potrebbe anche rivelarsi, in un processo di estrema razionalizzazione, una sorta di tutela dalle mostruosità di cui l’uomo ha già dimostrato di essere capace. Penso ad esempio, allargando lo sguardo rispetto all’innovazione tecnologica, alle guerre o ai genocidi. Anche se, in verità, c’è chi ha sostenuto e ancora sostiene la razionalità di una guerra, legittimando così la prospettiva teorica di un’intelligenza artificiale che, in cerca di risorse per le industrie da lei stessa controllate, ritenga un sanguinoso conflitto il modo migliore per un approvvigionamento di materie prime.

«Ripeto, l’intelligenza artificiale non è quella “intelligenza” del tipo generalizzato che di solito abbiamo in mente quando parliamo di intelligenza; chi sostiene il contrario o parla della minaccia di una specie di AI che ci supererà sbaglia. L’AI è uno strumento e, come ogni strumento, si presta a usi e abusi che riflettono i valori di una società, il potere, le ingiustizie, i privilegi. Certo che come tutto il resto dello strumentario informatico, strumentario nato nel cuore del complesso militare industriale, rischia di contribuire a nuove modalità di azione bellica. Ma resta sempre uno strumento e siamo noi umani che dobbiamo definire a che scopo e come ci deve servire, e resta a noi a determinare le sue applicazioni giuste e erronee».

Viviamo in un’epoca storica in cui la mediazione (il giornalista per le notizie, l’idraulico per un tubo rotto, un meccanico per un guasto all’automobile) è in crisi. Moltissimi credono di poter fare a meno della professionalità o della competenza. Lei pensa che questo rifiuto di delegare possa un giorno riguardare anche la tecnologia e l’intelligenza artificiale? O, invece, proprio la neutralità dell’intelligenza artificiale e della tecnologia potranno superare questo problema? In fondo, potrebbe dire qualcuno, il computer che mi risolve il problema alla lavatrice è mio…non ho chiesto aiuto all’idraulico!

«Questi processi di diminuita mediazione hanno aspetti positivi (democratizzazione, personalizzazione, semplificazione) e negativi (disinformazione, sorveglianza, monopoli) allo stesso tempo. A mio avviso nessuna tecnologia è neutrale e l’AI ancora meno. Ma quella non-neutralità non differenzia le tecnologie digitali dalle tecnologie analogiche che le precedono. Un martello può essere usato per fissare chiodi, ma ha anche il potenziale di diventare un’arma pericolosa, uno strumento musicale, un fermacarte. L’uso scelto dipende dalle intenzioni dell’utente. Nel caso di un elettrodomestico che ha il cuore fatto di software invece che di ingranaggi meccanici, certo, si potrebbe sostituire un aggiornamento del sistema operativo alla visita del tecnico. Come avviene con tutta quella categoria di oggetti smart che compongono l’Internet of Things».

In quali circostanze il design può essere considerato un’innovazione, a parte il fattore estetico? Ci sono oggetti che non possono essere innovati?

«Per me il vero design non è restyling (ossia un lavoro che si concentra solo sull’aspetto esterno di un oggetto o di una tecnologia): il vero design è ricerca e sperimentazione, un lavoro di “traduzione” tra tecnica e cultura, e una forma critica di creatività, ma con i piedi per terra. Tutto questo per dire che il design informa ogni forma di innovazione vera e impattante sulla società contemporanea. Ma quando un oggetto raggiunge una sua forma ideale, dopo una lunga evoluzione (come nel caso del nostro martello), innovare serve poco».