Training Humans

Fondazione Prada presenta “Training Humans”, una mostra concepita da Kate Crawford, artista, professoressa e studiosa nell’ambito dell’intelligenza artificiale, e Trevor Paglen, artista e ricercatore, nella sede di Osservatorio dal 12 settembre 2019 al 24 febbraio 2020.

“Training Humans” è la prima grande mostra fotografica dedicata a immagini di training: repertori di fotografie utilizzate per insegnare ai sistemi di intelligenza artificiale (IA) come “vedere” e classificare il mondo. In questa mostra Crawford e Paglen esplorano l’evoluzione delle collezioni di immagini di training dagli anni Sessanta a oggi. La loro ricerca evidenzia come immagini comuni e funzionali siano raccolte come materia prima per il riconoscimento facciale e il monitoraggio di persone da parte di soggetti governativi e commerciali.

Come affermano gli artisti, “quando abbiamo iniziato a elaborare l’idea della mostra, oltre due anni fa, volevamo raccontare la storia delle immagini utilizzate per il ‘riconoscimento’ di esseri umani nel settore della computer vision e dei sistemi di intelligenza artificiale. Non ci interessavano né la versione inflazionata dell’IA applicata al marketing né le favole distopiche sui robot del futuro. Volevamo piuttosto riflettere sulla materialità dell’IA e considerare queste immagini materiali come parte di una cultura visuale in rapida evoluzione e fondata sulle macchine. Per farlo abbiamo dovuto aprire la ‘scatola nera’ e studiare dall’interno il funzionamento di questi motori della visione”.

Il progetto interroga lo stato attuale dell’immagine nell’intelligenza artificiale e nei sistemi algoritmici, dall’istruzione e la sanità alla sorveglianza militare, dall’applicazione della legge e la gestione delle risorse umane al sistema di giustizia penale. In particolare “Training Humans” esplora due tematiche chiave: la rappresentazione, l’interpretazione e la codificazione degli esseri umani attraverso dataset di training e le modalità con cui i sistemi tecnologici raccolgono, etichettano e utilizzano questi materiali. Quando la classificazione di esseri umani attraverso l’intelligenza artificiale diventa più invasiva e complessa, i pregiudizi e le implicazioni politiche presenti al loro interno appaiono più evidenti. Nella computer vision e nei sistemi di IA i criteri di misurazione si trasformano facilmente, ma in modo nascosto, in strumenti di giudizio morale.

La mostra è concepita come una ricostruzione storica a partire dalle immagini utilizzate nei primi esperimenti in laboratorio di riconoscimento facciale computerizzato, finanziati dal 1963 dal Central Intelligence Agency (CIA) negli Stati Uniti. Negli anni Novanta l’ufficio del programma di sviluppo per le tecnologie antidroga del Ministero della difesa statunitense ha sviluppato una generazione più avanzata di sistemi di computer vision. Per il database Face Recognition Technology (FERET) ha creato una raccolta di ritratti di 1.199 persone per un totale di 14.126 immagini con lo scopo di ottenere un “benchmark standard” che avrebbe permesso ai ricercatori di sviluppare algoritmi basandosi su un database comune di immagini.

La diffusione di Internet e dei social media ha generato un aumento esponenziale di immagini disponibili. I ricercatori nel campo dell’IA hanno smesso di usare collezioni di immagini di proprietà del governo, come foto segnaletiche dell’FBI di detenuti deceduti, cominciando a raccogliere fotografie dal web. In breve tempo questa pratica è diventata comune e molte persone nel settore dell’IA hanno iniziato ad attingere da milioni di immagini disponibili pubblicamente senza chiedere il permesso o il consenso ai fotografi o ai soggetti ritratti. L’assegnazione di etichette a queste immagini, spesso effettuata in laboratori o dai dipendenti di Amazon Mechanical Turk, produce un sistema di classificazione delle persone in base alla razza, al genere, all’età, all’emozione e talvolta ai tratti caratteriali. Questo processo ha delle implicazioni politiche chiare e durevoli nel tempo perché rappresenta la continuazione della storia oscura dei sistemi post-coloniali e razzisti di segmentazione demografica.

Un altro centro d’interesse per Crawford e Paglen sono i sistemi di classificazione basati sugli affetti e le emozioni e supportati dalle teorie molto criticate dello psicologo Paul Ekman, secondo il quale la varietà dei sentimenti umani può essere ridotta a sei stati emotivi universali. Queste tecnologie d’intelligenza artificiale misurano le espressioni facciali delle persone per valutare una molteplicità di fattori: la loro salute mentale, la loro affidabilità come possibili nuovi assunti o la loro tendenza a commettere atti criminali.

Queste tipologie di classificazione hanno raggiunto il loro massimo sviluppo con il dataset di training ImageNet (2009), descritto dai suoi ideatori come un tentativo di “mappare l’intero universo di oggetti”. Esaminando le immagini di questa raccolta e i criteri con cui le fotografie personali sono state classificate, ci si confronta con due interrogativi essenziali: quali sono i confini tra scienza, storia, politica, pregiudizio e ideologia nell’intelligenza artificiale? Chi ha il potere di costruire questi sistemi e di trarne benefici? Come sottolineano gli artisti, ‘’un’asimmetria di potere è propria di questi strumenti. La nostra speranza è che Training Humans segni il punto di partenza per iniziare a ripensare questi sistemi e per comprendere in modo scientifico come ci vedono e ci classificano”.

La mostra sarà accompagnata da una pubblicazione illustrata della serie “Quaderni”, pubblicata da Fondazione Prada, che include una conversazione tra Kate Crawford e Trevor Paglen sui complessi temi affrontati nel loro progetto.

Kate Crawford è una ricercatrice, professoressa universitaria e artista che per 15 anni ha studiato le implicazioni sociali e politiche dei dati su grande scala e dell’intelligenza artificiale. Il suo lavoro si focalizza sulla necessità di modificare la nostra comprensione dell’intelligenza artificiale nel più ampio contesto storico, politico, professionale e ambientale. Kate Crawford è Distinguished Research Professor alla New York University, dove ha cofondato l’AI Now Institute, la prima istituzione al mondo dedicata allo studio dell’impatto provocato dall’IA. È anche Principal Researcher al Microsoft Research e la prima Visiting Chair in AI and Justice all’École Normale Supérieure di Parigi. Le sue ricerche sono state pubblicate da Nature, The New York Times, The Washington Post, The New Yorker e Harper’s Magazine. È stata consulente di alcune istituzioni politiche come le Nazioni Unite, l’Unione Europea e la Casa Bianca e ha contribuito ai processi decisionali sull’IA per i governi francese e tedesco. Nel 2018, Crawford ha ricevuto la Richard von Weizsäcker Fellowship in Germania e attualmente è componente del comitato scientifico di consulenza della 3IA in Francia. La sua installazione Anatomy of an AI System, realizzata con Vladan Joler, è esposta alla XXII Triennale di Milano (2019). Il suo nuovo libro Atlas of AI sarà pubblicato dalla Yale University Press nel 2020.

Trevor Paglen è un artista la cui pratica spazia dalla produzione di immagini alla scultura, al giornalismo investigativo, alla scrittura, all'ingegneria e ad altre numerose discipline. Si interessa principalmente allo studio della percezione del momento storico in cui viviamo e lo sviluppo di strumenti per immaginare futuri alternativi. Le opere di Trevon Paglen sono esposte nelle collezioni del Metropolitan Museum of Art, dello Smithsonian American Art Museum, del Whitney Museum of American Art, del Berkeley Art Museum, del Solomon R. Guggenheim Museum, del Victoria and Albert Museum e del Nevada Museum of Art. Paglen ha inoltre lanciato una sua opera d’arte in orbita intorno alla terra in collaborazione con Creative Time e il MIT. Ha contribuito alla ricerca e alla realizzazione del film Citizenfour, vincitore di un premio Oscar, e ha creato una scultura pubblica radioattiva per la zona di alienazione di Fukushima in Giappone. È autore di numerosi libri e articoli su tematiche come la geografia sperimentale, i segreti di stato, la simbologia militare, la fotografia e la ricerca visiva. Il suo lavoro è stato recensito da The New York Times, The New Yorker, The Economist e Artforum. Ha ricevuto molti premi, tra cui il Nam June Paik Art Center Prize nel 2018 e il MacArthur Fellowship nel 2017. Paglen ha conseguito un Bachelor of Arts alla U.C. Berkeley, un Master of Fine Arts all’Art Institute di Chicago e un dottorato in geografia alla U.C. Berkeley.

Vai alla guida d'arte di Milano