NOAH LEVENSON

GC: La tua ricerca si concentra sullo studio dell’intelligenza artificiale e il ruolo che l’IA ha sulla vita di tutti i giorni, dalle tecnologie di riconoscimento facciale fino al suo utilizzo per targettizzare e monitorare le attività di consumo online. Allo stesso tempo il tuo lavoro si è esteso a campi diversi tra loro, seppur complementari anche: il campo dell’informatica e delle tecnologie digitali, l’industria videoludica (Mario Kart Live), quello artistico con Stealing Ur Feelings. Ci puoi parlare più nel dettaglio del tuo campo di indagine e delle varie sfaccettature che compongono il tuo lavoro? Cosa ti ha spinto a lavorare con l’intelligenza artificiale?

NL: Credo che i miei progetti riflettano sull’evoluzione della mia prospettiva sul ruolo della tecnologia informatica nelle nostre vite. Dieci anni fa ero molto più interessato all’innovazione pura, ovvero alla possibilità di sfruttare la ricerca emergente per costruire oggetti divertenti e tecnologicamente sofisticati che nessuno aveva mai visto prima, come Mario Kart Live. Oggi sono molto più pessimista. Disponiamo di una grande quantità di cose divertenti e pratiche, ma stiamo diventando molto meno liberi. A questo punto, penso che chi sia in grado di scrivere software, dovrebbe trovare il modo di rendere le persone più libere.
Il mio lavoro con l’intelligenza artificiale segue la stessa traiettoria: inizialmente sono stato attratto dal deep learning perché è matematicamente affascinante, e ho lavorato per un po’ come ingegnere specializzato in computer vision. Ma ora la mia curiosità si è trasformata in morbosità e mi limito a osservare in disparte come la crescente industria dell’IA stia creando un’altra ondata di alleanze autoritarie tra grandi aziende e grandi governi.

GC: Stealing Ur Feelings è stata realizzata con il supporto della Mozilla Foundation e mette in evidenza come le aziende Big Tech stiano utilizzando tecnologie via via sempre più raffinate per decodificare gli stati emotivi degli utenti, ciò per cui provano sdegno o interesse, ed utilizzare tali indicatori per creare un profilo emotivo delle persone. Come è nato il progetto? Ci puoi raccontare anche il processo di sviluppo del lavoro?

NL: Quando si utilizza un social network, tutto ciò che si fa costituisce un vettore per la raccolta di dati: tutti i like, i caricamenti, le chat, i giochi, tutto fa parte del programma di sorveglianza. Un giorno mi sono reso conto che lo stupido filtro per la faccia da cane probabilmente non era un’eccezione a questa regola e che le aziende tecnologiche stavano probabilmente utilizzando tecniche di computer vision per estrarre dati dai nostri selfie. Il rilevamento delle emozioni facciali sembrava particolarmente utile alle Big Tech, in quanto le aziende potevano correlare i nostri sentimenti con altri input provenienti dai nostri dispositivi, come la nostra geolocalizzazione o i contenuti che stavamo scorrendo, per dedurre le sensazioni dei consumatori su ogni genere di cose.

© Noah Levenson, Stealing Ur Feelings 2019, video still, courtesy the artist

All’inizio ho pensato che si trattasse di un’idea un po’ paranoica, ma dopo qualche ricerca ho scoperto dei brevetti che indicavano come molte aziende stessero pensando proprio a una strategia di questo tipo. Snapchat aveva depositato un brevetto particolarmente distopico che presentava simpatici disegni che illustravano tutti i luoghi in cui avrebbero voluto sorvegliare le emozioni degli utenti: concerti rock, raduni politici e così via. Il mio piano consisteva nel mettere in luce questa idea in un modo che fosse comprensibile alla gente comune. Ho proposto il progetto a Mozilla come un film interattivo da inserire in un browser web. Ho pensato che sarebbe stato bello eseguire il rilevamento delle emozioni facciali sullo spettatore mentre guardava il filmato, in pratica “guardarsi indietro”, per illustrare direttamente il concetto.

C’erano alcune complessità tecniche da risolvere, per lo più legate alle limitazioni delle prestazioni del browser. All’inizio avevo prodotto alcune dimostrazioni tecniche che risolvevano la maggior parte dei problemi di programmazione – e siamo stati ammessi al concorso interattivo del Tribeca Film Festival sulla base di un prototipo – ma è stata una vera lotta capire come raccontare la storia. Per circa 6 mesi il progetto è stato molto più simile a un documentario serio, cosa che odiavo. Volevo che fosse divertente e strano, come un meme, ma non riuscivo a capire quale fosse la battuta. Alla fine ho scoperto il trucco centrale: potevamo testare le reazioni dello spettatore a diversi tipi di contenuti e classificarli in modi sempre più scomodi. Preferisci gli uomini o le donne? Preferisci i neri o i bianchi? Non preoccupatevi, studieremo le vostre reazioni e lo scopriremo per voi! Il risultato è stato in un certo senso offensivo, come se stessimo prendendo in giro il pubblico, cosa che mi ha divertito.
Il progetto è stato presentato in anteprima al Tribeca in primavera. Ho passato l’estate a ottimizzarlo e a portarlo in giro per altri festival interattivi, e all’inizio dell’autunno l’abbiamo pubblicato su Internet.

GC: Da una parte c’è il ruolo che giocano aziende come Meta nel creare e dare forma a nuovi tipi di abitudini e desideri online. Dall’altro, la nostra esistenza digitale è mediata da tutta una serie di filtri, cornici, e interfacce, che determinano il modo in cui ci presentiamo agli altri e soprattutto come desideriamo esprimere la nostra personalità. La nostra persona digitale esiste contemporaneamente su più livelli e veste panni sempre diversi, si aggiorna, cambia, in un loop in continua ridefinizione. È senza dubbio un equilibrio precario tra il lasciarsi sopraffare dai trend instillati dalle Big Tech, che pilotano il nostro modo di esprimerci, e la necessità di vestire personalità diverse e cercare la propria dimensione creativa, senza vincoli. Che ne pensi del vasto utilizzo di filtri e interfacce che facciamo, a livelli più o meno consapevoli?

NL: Per me è difficile relazionarmi con questi meccanismi. Non c’è niente che mi attragga meno dei social media. Quando mi guardo intorno e vedo tutti quelli che vi partecipano, tendo a pensare al fumo delle sigarette. Non ho mai avuto un account su Facebook, ma ho fumato sigarette per 18 anni. Fumare sigarette è una cosa profondamente stupida. Mi dico: beh, i social media sono come le sigarette, ma per i non addetti ai lavori. Allora mi sembra che abbia senso.

GC: La tua indagine sull’utilizzo di social media da parte degli utenti e più in generale il concetto di privacy si è estesa anche ad altri lavori, come ad esempio Weird Box, film interattivo in cui ad essere protagoniste sono le foto degli account pubblici di Instagram di coloro che hanno deciso di partecipare. Non so se si possa dire che l’uomo sia per natura un Peeping Tom, un guardone, fatto sta che però specialmente con Instagram, e in particolar modo con l’introduzione delle storie, indagare i feed altrui è diventata un’azione del tutto banale, quasi automatica. Com’è nato il progetto e come mai si è concluso nel 2019? Secondo te, siamo noi che guardiamo gli altri o sono gli algoritmi che ci guardano mentre guardiamo i profili di gente sconosciuta? Come possiamo interrompere, o rallentare, questo circolo vizioso?

NL: Intorno al 2016, stavo cercando di lanciare una startup nel settore dell’intrattenimento. La startup era ampiamente incentrata su strumenti per l’inserimento di contenuti generati dagli utenti in film e spettacoli televisivi. Weird Box era solo il mio tentativo di smanettare con alcune delle nostre tecnologie, dimostrare alcune idee e cercare di generare pubblicità per l’azienda. Quando la stampa ha scritto del progetto, si è concentrata sull’idea che si trattasse di una dichiarazione sulla privacy online. Per me va bene qualsiasi interpretazione di Weird Box, ma la mia intenzione non era quella di fare una dichiarazione di alcun tipo. Il mio intento era far ridere la gente e far sì che la mia startup avesse successo. Successivamente la mia startup è fallita. Ad ogni modo, spero che qualcuno abbia riso.

Weird Box effettua lo scrapping dei dati pubblici di Instagram, cosa che Instagram non vuole che si faccia, soprattutto non nella misura in cui l’ha fatto Weird Box. Per questo motivo si sono sforzati di chiuderla. Ogni volta che sviluppavano un nuovo trucco per bloccarci, io trovavo un modo per aggirarlo. Ma nel 2019 non aveva più senso dedicare tante energie alla lotta contro Instagram e così ho chiuso il progetto.

Per rispondere alla tua domanda su chi controlla chi, credo che gli algoritmi di Instagram stiano selezionando la classe di lealisti burocratici che manterranno in funzione l’intero sistema squilibrato in cambio di uno status più elevato e di alcuni vantaggi. In altre parole, tutti questi truffatori del fitness con la faccia di plastica, maltrattatori di animali di bassa lega che sfruttano i loro cani per diventare famosi e tizi con addominali da urlo che cucinano ricette vegetariane senza maglietta, sono essenzialmente la versione di Instagram della nomenklatura dell’ex Unione Sovietica. Sono mediocri disperati che glorificano ciecamente la piattaforma in cambio di un minimo di potere. Per essere selezionati, cioè per acquisire un seguito, devono soddisfare l’algoritmo. Tutti, in un certo senso, capiscono intuitivamente che tipo di scemenze soddisfano l’algoritmo. Cosa rende un influencer di successo su Instagram? Cosa rendeva un buon apparatčik nell’URSS?

© Noah Levenson, Stealing Ur Feelings 2019, installation view at Metronom, Modena, Italy

GC: Spesso sento dire che prestare attenzione alla sezione Termini e Condizioni di servizi online, social media, o alla richiesta di accesso al proprio device e fotocamera da parte di applicazioni di terze parti non serve a niente “perché tanto non c’è nulla da nascondere e al giorno d’oggi sanno tutto di noi”. Affermazioni come questa rivelano in realtà una profonda inconsapevolezza sull’utilizzo dei nostri dati personali e la mancanza di una alfabetizzazione sul trattamento della nostra privacy operato da aziende come Meta o Google. Leggersi lunghissimi tecnicismi, per di più scritti con un font estremamente piccolo, non è certo un’attività divertente ma forse è proprio grazie all’ironia di progetti come il tuo che possiamo sperare di raggiungere una consapevolezza più profonda rispetto a questi argomenti. Forse si dovrebbero creare spazi di condivisione e discussione per arrivare ad una alfabetizzazione più solida sull’utilizzo dei nostri dati dati?

NL: Non sono sicuro di essere del tutto d’accordo. A mio parere, il motivo per cui le persone non si preoccupano della privacy dei dati è lo stesso per cui nessuno vota alle elezioni presidenziali: tutti sanno che il sistema è una truffa. Nell’America moderna, la gente sa che la “democrazia” è un’illusione creata dalla classe dirigente per ingannarci e farci credere che stiamo partecipando a un governo consensuale. Le istituzioni che influenzano i risultati negli Stati Uniti sono irrimediabilmente compromesse. Se improvvisamente avessimo il 100% della partecipazione elettorale, non cambierebbe nulla, perché il sistema non è più in grado di produrre risultati positivi. Penso che le persone siano abbastanza intelligenti da capire che regole simili si applicano a idee come i “diritti dei dati”. Si possono approvare leggi federali sulla privacy dei dati, formare sindacati per la gestione dei dati, regolamentare le aziende e richiedere l’equivalente delle “etichette nutrizionali dei dati” quando si vuole, ma tutti sanno che si creerà solo un nuovo livello di potere per l’establishment, ovvero più posti di lavoro per i dirigenti delle organizzazioni non profit e per gli impiegati statali, nuove aziende che sfruttano le nuove opportunità di conformità alle normative e nuove opportunità di consulenza politica per gli esperti accademici, ma i benefici tangibili per i cittadini saranno molto marginali. Tutti hanno perso la speranza.

GC: Il ruolo dell’intelligenza artificiale e del suo impiego per sfruttare i dati degli utenti non si lega soltanto all’utilizzo dei social media, ma anche alla produzione di opere visive da parte delle AI, come ad esempio Midjourney, che, come recita il sito, ha “l’obiettivo di espandere le capacità immaginative dell’uomo”. Tuttavia di recente molti artisti, in particolar modo la comunità degli illustratori freelance, si è opposta all’utilizzo senza consenso della loro arte per allenare l’AI alla creazione di immagini. C’è chi non vede alcun problema in questo, essendo solamente un modo per allenare appunto l’AI senza appropriazione del lavoro altrui, e chi invece percepisce tali interventi come violazioni della proprietà intellettuale, fino a presagire una possibile sostituzione del ruolo dell’artista stesso, in molteplici campi. Ad esempio, il videogioco High On Life pare abbia utilizzato proprio Midjourney per aggiungere i ritocchi finali all’esperienza ludica e il co-creatore Justin Roiland ha affermato come questa sia un’occasione per rendere la creazione di contenuti più accessibile. Tuttavia, per chi lo sarebbe? Come la vedi?

NL: Non è mai una buona idea giocare il ruolo del moralista ostruzionista di fronte all’innovazione tecnologica. Si rischia di perdere. Gli artisti che si lamentano dell’IA generativa nel 2023 sono come i musicisti che si lamentavano degli mp3 alla fine degli anni Novanta. Il mondo sta andando avanti. È profondamente scomodo, ma bisogna trovare un modo per andare avanti. La distruzione creativa dell’innovazione tecnologica crea anche nuove opportunità da trovare nelle ceneri del vecchio modo. È meglio iniziare a cercarle piuttosto che stare seduti a lamentarsi. La mia opinione è che l’IA generativa non sia diversa da qualsiasi altra tecnologia dirompente: si tratta solo di automatizzare un compito. L’automobile era utile per performare e ottimizzare alcuni tipi di compiti che i cavalli erano in grado di svolgere. L’IA generativa è utile per eseguire alcuni tipi di compiti che i creativi sono in grado di svolgere.

GC: Ho letto sul tuo sito che di recente ti stai occupando del problema della decentralizzazione rispetto alla ricerca di informazioni da parte degli utenti. Ci puoi parlare un po’ più nel dettaglio di questo ambito? Sei inoltre un senior engineer presso Lantern, progetto che ha lo scopo di fornire l’accesso gratuito all’Internet aperto. Ci puoi raccontare qualcosa di più? Come vengono gestiti i dati degli utenti?

NL: Intorno al 2019 mi sono interessato al problema della decentralizzazione delle scoperte. La maggior parte dei problemi attuali della società sono il risultato di reti umane che sono diventate corrotte e disfunzionali. Le reti umane di domani erediteranno alcune proprietà fondamentali delle reti informatiche su cui sono costruite. Le architetture di rete client-server tendono a creare relazioni di tipo lord-and-serf a livello umano, mentre le architetture peer-to-peer tendono a creare qualcosa di più simile alla democrazia a livello umano. Penso che sia bene prestare attenzione alle nuove tecnologie peer-to-peer che cercano di ridefinire i rapporti di forza tecnologici – che si tratti di qualcosa come Bitcoin, o Secure Scuttlebutt, o Urbit.

In ogni caso, c’è un problema fondamentale nell’ingegneria chiamato “scoperta”, che è il problema di localizzare le risorse rilevanti per un utente quando non è esattamente sicuro di ciò che sta cercando. Gran parte del valore fornito dalle piattaforme online deriva dai loro algoritmi di scoperta: ad esempio, le raccomandazioni video di Youtube, Uber che trova i tassisti nelle vicinanze o Amazon che fa emergere prodotti simili che si desidera valutare. La scoperta nelle reti peer-to-peer è molto difficile perché il database è distribuito e i processi che replicano i dati non sono affidabili. Mi sono proposto di progettare un protocollo peer-to-peer leggero che risolva il problema della scoperta di risorse geografiche, cioè il problema di trovare risorse che si trovano all’interno di una regione delimitata dello spazio fisico. La scoperta di risorse geografiche peer-to-peer costituisce la base per la consegna decentralizzata di cibo, per il ride hailing decentralizzato, per gli appuntamenti online decentralizzati e per un gran numero di altri tipi di applicazioni. La speranza è che questa tecnologia possa ridefinire i rapporti di potere a livello informatico, il che ridefinirà i rapporti di potere a livello umano e porterà a un minore sfruttamento degli esseri umani.

Lantern è una startup che produce tecnologie per aggirare la censura di Internet. Alcuni governi di tutto il mondo impediscono ai loro cittadini di accedere a Internet. Se si vive ad esempio in uno di questi Paesi, come la Cina, l’Iran o la Russia, è possibile scaricare Lantern, aggirare le restrizioni del proprio Paese e accedere al mondo esterno. Come si può immaginare, lo scambio aperto di informazioni è ancora più importante nei periodi di maggiore violenza governativa, come è avvenuto durante le proteste iraniane degli ultimi mesi. Poiché i nostri utenti in genere violano le leggi del loro Paese d’origine per utilizzare il nostro software, siamo abbastanza trasparenti riguardo alla nostra politica sulla privacy. Pubblichiamo tutta la documentazione derivante da richieste legalmente vincolanti da parte di enti governativi o forze dell’ordine. Se avete un minuto, vi consiglio vivamente di leggere alcuni dei documenti che abbiamo pubblicato: è una visione piuttosto affascinante del potere dello Stato.

NOAH LEVENSON

condividi su