La notizia secondo cui Google stesse sviluppando un motore di ricerca ad hoc per la Cina ha scatenato dure reazioni da parte di un gruppo di dipendenti della multinazionale. Gli oltre mille firmatari della lettera di protesta, oltre ad esprimere la loro contrarietà al progetto, hanno esortato i vertici del colosso a ridefinire i principi etici e di trasparenza dell’azienda.
L’incontro tra il CEO di Google, Sundar Pichai, ed un altro funzionario del governo cinese lo scorso dicembre ha funto da catalizzatore all’implementazione del progetto “Dragonfly”, che era stato discusso a grandi linee nella primavera del 2017. Google avrebbe offerto il proprio supporto a sviluppare un software di ricerca sulla base delle esigenze del governo cinese, censurando l’accesso ai contenuti che il regime di Xi Jinping reputa come sfavorevoli, per mezzo di un sofisticato sistema di filtraggio, blocco e reindirizzo; la creazione immediata di liste nere, inoltre, impedirebbe a terzi il suggerimenti della ricerca di informazioni o immagini vietate dal regime.
Il tradizionale motore di ricerca di Google è fuori uso in gran parte della Repubblica Popolare Cinese, poiché bloccato dal Great Firewall (防火 长城)[1] – sottosistema del più ampio disegno di censura e di sorveglianza Golden Shield– implementato dal Ministero di pubblica sicurezza cinese per bloccare dati potenzialmente sfavorevoli provenienti dai paesi stranieri. La legislazione cinese fa sì che i mezzi di informazione on-line debbano attenersi ai decreti del governo, con lo scopo di “rendere Internet un editore di teorie scientifiche, mantenere la stabilità sociale e promuovere la costruzione di una società socialista armoniosa”.[2]
I dipendenti del colosso informatico hanno denunciato di essere frequentemente all’oscuro di informazioni necessarie per compiere scelte responsabili nel proprio lavoro ed il progetto -inizialmente noto solo ad una ristretta cerchia- solleva “urgenti questioni etiche e morali”.
Dragonfly ha provocato un contraccolpo immediato all’interno della gerarchia aziendale e la protesta indubbiamente non facilita il ritorno di Google in Cina, assente dal 2010, dopo essersi tra l’altro ritirato spontaneamente poiché non condivideva i criteri di censura e sorveglianza imposti da Pechino.[3]
Questo caso segue un’altra controversia scaturita per principi etici in casa Google. Con una simile lettera di denuncia, circa quattromila funzionari hanno espresso la loro disapprovazione in merito all’accordo tra l’azienda ed il Dipartimento di Difesa statunitense. Lo scopo del progetto “Maven” (o AWCFT – Algorithmic Warfare Cross-Functional Team) consiste nello sviluppare sistemi di intelligenza artificiale per i droni militari di prossima generazione, incrementando l’integrazione tra le tecnologie per il riconoscimento di obiettivi sensibili ed i processi di elaborazione di big data.
Sebbene non palesati i limiti del supporto di Google, se cioè circoscritti a migliorare la capacità di sorveglianza dei droni o se estesi anche a dotare gli stessi di avanzate capacità di attacco autonomo, la sola collaborazione tra Google e il Pentagono è bastata a far scatenare la tensione. La segretezza del progetto, mantenuta fino alla comunicazione aziendale oltre sei mesi dopo la sua finalizzazione, ha contribuito sicuramente ad aizzare la perplessità.
Al centro della disapprovazione dei dipendenti, dodici dei quali si sono addirittura dimessi, il timore che il progetto potesse avere direttamente o indirettamente finalità belliche; la sua attuazione, quindi, ignorerebbe la responsabilità etica e morale dell’azienda e metterebbe altrettanto a repentaglio la fiducia degli utenti.
La questione ha condotto a conseguenze tangibili: i vertici della multinazionale hanno manifestato l’intenzione di non rinnovare il contratto col Pentagono e, in seconda istanza, hanno redatto una lista di principi ai quali attenersi nella progettazione, sviluppo e distribuzione delle proprie soluzioni di intelligenza artificiale. Nelle linee guida etiche, Google si impegna a non fornire supporto per lo sviluppo di armamenti ed applicazioni di sorveglianza e a circoscrivere piuttosto il suo impegno a progetti in grado di apportare benessere condiviso, ridurre l’ingiustizia sociale e che, nel complesso, rispettano l’integrità dell’individuo ed i principi del diritto internazionale.[4]
Questi episodi rilevano l’esistenza di trade-off considerevoli e creano il precedente per la definizione di nuovi standard di regolamentazione. Progettare e distribuire soluzioni tecnologiche implica, non solo porre attenzione sulla riuscita dell’output finale ma, altrettanto, trovare un compromesso con l’etica ed i diritti individuali.
Tra i fattori che hanno indotto Google a sottoscrivere il Progetto Dragonfly vi è indubbiamente un’evoluta percezione della Cina come protagonista attivo e passivo nella competizione tecnologica globale,[5] mentre il potenziamento dei droni, alla base del Progetto Maven, risolverebbe consistenti interrogativi tattici nella guerra al terrorismo; ciononostante, ciò che è tecnologicamente possibile non può essere considerato, in via automatica, giuridicamente lecito e democraticamente sostenibile.
La valutazione -comparativa e trasversale- delle esternalità non dovrebbe rimanere circoscritta al risultato che l’innovazione è in grado di apportare; essa dovrebbe estendersi altrettanto a tutte le fasi di elaborazione del progetto stesso. In altre parole, la definizione di parametri per le valutazioni di impatto dovrà essere supportata dalla determinazione di regole di condotta fondate su principi condivisi. È un equilibrio difficile da raggiungere: il rischio garantire la radicale trasparenza di informazioni e l’assoggettamento a principi etici e morali è quello di snaturare il concetto stesso di primato innovativo e, da qui, avere drammatiche ripercussioni economiche e geopolitiche.
Come può rispondere la comunità internazionale di fronte allo scetticismo verso l’innovazione tecnologica? Posto che le obiezioni risentono del contesto sociale, normativo, economico di chi le pone in giudizio, risulta evidente che la progettazione, lo sviluppo e la distribuzione di soluzioni IT necessitano un orientamento giuridico specifico.
Il progresso tecnologico si inserisce trasversalmente ed in maniera sempre più incisiva nelle sfide globali: il corso dell’innovazione e degli scenari futuri è imprevedibile ed in continua evoluzione. In questo contesto in via di definizione, è opportuno quindi concepire lo sviluppo tecnologico come mezzo per il raggiungimento di soluzioni ottimali e non fine da perseguire in quanto tale.
Ponendone a fondamento finalità, valori e principi etici –e cioè attribuendovi una connotazione valoriale – si ridurrebbe il margine di rischio per esiti incontrollabili; la scelta condivisa indurrebbe pertanto alla progressiva consapevolezza dell’impatto sociale, economico, strategico e di sicurezza, permettendo di agire responsabilmente affinché i benefici risultino complessivamente superiori degli svantaggi prevedibili.
[1] Con un gioco di parole in inglese richiama sia il suo ruolo di firewall di rete sia il nome della Grande Muraglia Cinese (Great Wall).
[2] La Legge sulla sicurezza informatica della Repubblica Popolare Cinese (2016) ha creato il principio della sovranità del cyberspazio, istituendo un sistema di sicurezza per l’infrastruttura di informazioni chiave, norme per la trasmissione transnazionale di dati nell’infrastruttura di informazioni critiche e, di conseguenza, definisce gli obblighi di sicurezza dei fornitori di prodotti e servizi internet.
[3] La mossa di Google sugella un radicale cambio di rotta nel decennio di attività nel Paese asiatico: dopo aver lanciato per la prima volta una versione censurata del suo motore di ricerca in Cina nel 2006, nel gennaio 2010 infatti la scoperta di un potenziale attacco alle sue infrastrutture ha spinto la multinazionale a stabilirsi ad Hong Kong tentando di mantenere un software di ricerca integrale che, però, non si adattava alle esigenze del governo cinese.
[4] AI at Google: our principles: https://www.blog.google/technology/ai/ai-principles/
[5] Al giorno d’oggi in Cina risiedono oltre settecentocinquanta milioni di utenti internet, l’equivalente dell’intera popolazione europea. Il XIII Piano Quinquennale Cinese (2016-2020) pone l’innovazione tecnologica al centro dello sviluppo del Paese, con l’obiettivo di elevare le capacità cinesi tra le quindici migliori al mondo. Il CEO Sundar Pichai ha pubblicamente manifestato l’interesse ad investire nel Paese asiatico, partecipando al Forum per lo sviluppo dell’intelligenza artificiale cinese lo scorso dicembre.
