Risposte Kate Crawford

Capitolo 1: Terra

- Qual è il metallo usato per le batterie ricaricabili dei dispositivi digitali e delle
macchine elettriche?
Il Litio.
- Quali nazioni mondiali posseggono i più importanti giacimenti di litio?
Malesia, Cina, Mongolia e l’Indonesia.
- Qual è lo slogan di Facebook?

- Che differenza c’è tra la posizione di Marshall McLuhan e quella di Jussi Parikka in
relazione ai media?
Per Marshall McLuhan i media sono estensione dei sensi umani mentre per Jussi Parikka i
media sono estensioni della terra, i media computazionali oggi infatti partecipano a processi
geologici dalla trasformazione dei materiali in infrastrutture e dispositivi all’alimentazione di
questi nuovi sistemi con le riserve di petrolio e gas, riflettere sui media in questi termini ci fa
rendere conto di quanto vadano a minare risorse non rinnovabili.
- Qual è la durata media di uno smartphone?
4,7 anni
- Cosa s’intende per “obsolescenza pianificata”?
Vuol dire che i dispositivi sono appositamente costruiti per diventare rapidamente obsoleti.
- Cosa sono le terre rare (rare earth minerals)?
Gli “elementi delle terre rare” sono lantanio, cerio,
praseodimio,neodimio,promezio,samario,europio,gadolinio,
terbio,disprosio,olmio,erbio,tulio,itterbio,lutezio,scandio e ittrio.
- Cosa s’intende per minerali di conflitto?
Si intendono risorse naturali estratte in aree di conflitto che vengono rivendute per finanziare
le guerre.Per comprendere l’attività dell’IA dobbiamo fare i conti con la guerra, la carestia e
la morte che l’estrazione del minerale porta con sé.
- Da quale nazione proviene il 95% del fabbisogno mondiale di terre rare?
La Cina, e possiede inoltre il 70% delle riserve mondiali di terre rare presso le minire di
Bayan Obo, il più grande deposito al mondo di elementi delle terre rare.
- Qual era la funzione della guttaperca in relazione alla storia della comunicazione?
Veniva utilizzato a partire dall’albero Palladium Gutta tipico del Sud Est Asiatico localizzato
principalmente in Malesia, il materiale ricavato, la guttaperca, venne utilizzato come isolante
elettrico isolando i cavi telegrafici in quanto li rendeva in grado di resistere alle difficili e
variabili condizioni dei fondali oceanici. Questo fu fondamentale dato che i cavi telegrafici
transatlantici furono l’infrastruttura essenziale che traghetta i dati fra i continenti emblema
della comunicazione globale e del capitale.
- L’emissione di anidride carbonica dell’infrastruttura computazionale è paragonabile
a quale altra industria globale?
E’ pari a quella dell’industria aeronautica al suo culmine e sta crescendo a un ritmo sempre
più veloce.
- Cosa intende Crawford quando afferma che “l’economia dei dati si basa sul
mantenimento dell’ignoranza ambientale”?
Intende dire che per quanto concerne la quantità esatta di consumi energetici prodotti dai
modelli di intelligenza artificiale del settore tecnologico non è conosciuta, tali informazioni
sono tutelate come segreti aziendali altamente riservati.
- Qual è il consumo di elettricità dei data center?
99m di tonnellate di CO2, si prevede inoltre che il consumo di elettricità dell'infrastruttura dei
data center cinesi aumenterà di due terzi entro il 2023
- Quale invenzione ha rivoluzionato più di tutto il sistema marittimo e logistico del
commercio globale?
I container standard, essi hanno infatti permesso l’esplosione della moderna industria di
spedizioni marittime, che a sua volta ha reso possibile immaginare e modellare il pianeta
come un’unica imponente fabbrica. Negli ultimi anni le navi mercantili hanno prodotto il 3,1%
delle emissioni globali annue di anidride carbonica.
- Cosa s’intende per megamacchina? (Cfr. Lewis Mumford)
Si intende per indicare come tutti i sistemi, non importa quanto immensi, sono fatti del lavoro
di molti singoli attori umani. Anche l’IA è una megamacchina, un insieme di approcci
tecnologici che dipendono da infrastrutture industriali, catene di approvvigionamento e
lavoro umano, diffuse in tutto il mondo, ma la cui visione ci è resa oscura.
- Cosa intende Crawford quando drive che “L’IA è metamorfica"?
L’IA è metamorfica perchè dipende dall produzione, dai trasporti e dal lavoro fisico, da data
center e cavi sottomarini da dispositivi personali e dai loro componenti grezzi, da segnali di
trasmissione a set di dati recuperati in rete e tutti questi elementi hanno un costo. Non si può
ridurre a database e algoritmi, modelli di apprendimento automatico e algebra lineare.
Capitolo 2: Lavoro

- Cosa intende Crawford quando afferma che l’IA si fonda “sullo sfruttamento dei
corpi umani”?

- Qual è la principale innovazione di Henry Ford?

Il suo ispirarsi per le catene di montaggio mobile alle catene di smontaggio di Chicago.
- Qual è la principale innovazione di Frederick Winslow Taylor?
La sua ideazione dell’organizzazione scientifica del lavoro usando un approccio ssistematico
alla gestione del lavoro.
- Cosa s’intende per crowdwork? Chi sono i crowdworkers?
Per crowdworkers si indicano quelle persone che svolgono i compiti digitali ripetitivi alla base
dei sistemi di intelligenza artificiale, come etichettatura di migliaia di ore di dati di training e la
revisione di contenuti sospetti o dannosi.
- Cosa s’intende per knowledge workers?
Colletti bianchi addetti ad attività intellettuali che si presume siano meno minacciati dalle
forze portanti dell’automazione.
- Cosa intende Karl Marx quando afferma che l’automazione trasforma il lavoratore in
“un’appendice della macchina”?
Intende indicare come vi sia stata una trasformazione nel ruolo del lavoro nei confronti delle
macchine, diventando rapidamente il centro dell’attività produttiva, determinando velocità e
carattere del lavoro, l’automazione dunque separa il lavoro dalla produzione di oggetti finiti
trasformando appunto il lavoratore in un'appendice della macchina.
- Cosa sono i villaggi Potëmkin? Qual è il senso dell’analogia con l’IA, secondo
Crawford?
Erano poco più di facciate decorate progettate per distrarre gli osservatori dai paesaggi
impoveriti dei villaggi rurali opportunamente occultati alla vista, l’analogia con l’IA sussite
dato che come essa è una mera facciata, progettate per dimostrare a investitori, media
creduloni come dovrebbe essere un sistema automatizzato facendo tuttavia affidamento sul
lavoro umano accuratamente occultato.
- Chi ha originariamente concepito il panopticon? A cosa si riferisce?
Fu Samuel Bentham a creare per primo il concetto tramite la casa d’ispezione, una struttura
circolare in virtù della quale tutti i lavoratori di una fabbrica erano esposti alla vista dei loro
supervisori che lavoravano in un ufficio situato su una piattaforma rialzata al centro
dell’edificio.
- Cosa s’intende per “lavoro fantasma” (ghost work)? (cfr. Mary Gray e Sid Suri)
Si intendono le condizioni lavorative dove il valore della persona che provvede al servizio
viene letteralmente cancellato.
- Cosa s’intende per “automazione a combustibile umano”? (cfr. Lilly Irani)
Si intende come l’automazione non sia realmente automatizzata in modo indipendente ma
che in ogni sviluppo dell'intelligenza artificiale sia il lavoratore sottoposto a prendersi cura del
sistema.
- Che cos’è il Turco Meccanico?
Un Elaborato giocatore di scacchi meccanico creato da Wolfgang von Kempelen, si trattava
però di un ingegnosa truffa, nascosto in una camera interna c’era un maestro di scacchi
umano che azionava la macchina senza essere visto.
- Cos’è l’Amazon Mechanical Turk?
E’ la piattaforma di crowdsourcing di Amazon basata su micropagamenti, qui i veri lavoratori
rimangono nascosti al servizio dell’illusione che i sistemi di intelligenza artificiale siano
autonomi e magicamente intelligenti, mette in connessione le imprese con una massa
invisibile e anonima di lavoratori.
- Cosa s’intende per fauxtomation? (cfr. Astra Taylor)
L’eccessiva vendita overselling di sistemi high tech fintamente automatizzati. Sembra che
essi svolgono il lavoro precedentemente compiuto dagli esseri umani ma nei fatti il sistema
si limita a coordinare l’attività umana sullo sfondo.
- Qual è la funzione dei meccanismi di reCAPTCHA di Google?
Teoricamente avrebbe la funzione di accertarsi che sia un umano a connettersi a una pagina
web mentre in realtà viene utilizzato per educare gratuitamente gli algoritmi di
riconoscimento delle immagini di Google.
- Chi ha inventato il primo computer meccanico?
Charles Babbage.
- Qual è il messaggio fondamentale della macchina analitica e della macchina
differenziale di Charles Babbage?
La macchina differenziale era una calcolatrice meccanica progettata per generare tabelle
matematiche e astronomiche in una frazione del tempo necessario per calcolarle a mano
mentre la macchina differenziale era un computer meccanico programmabile per uso
generico grazie a dei fogli bucati che impartivano i comandi da seguire. Per Babbage la
società industriale poteva essere intesa come un sistema analogo a quello computazionale.
- Cosa s’intende per “catena di smontaggio”?
Si intende la modalità di lavoro utilizzata dall’industria di confezionamento di carne della
Chicago degli anni 70 dell 800, dove i treni portavano il bestiamo fino ai cancelli, da dove gli
animali venivano avviati alla macellazione negli impianti adiacenti e la carcasse trasportate
alle varie stazioni di macellazione e di lavorazione tramite un sistema di carrelli aerei
meccanizzati.
- Cosa s’intende per “workaholism”?
Si intende un intossicazione da lavoro causata da turni eccessivamente lunghi e condizioni
di lavoro non favorevoli.
- Cosa s’intende per relazione master-slave?
La relazione tra un computer master che guida orologi slave, è un protocollo di
sincronizzazione realizzato tramite reti ethernet e TCP/IP, NTP PTP.
- Cos’è il TrueTime di Google?
Eì un nuovo protocollo temporale distribuito, una forma di tempo proprietaria, affinché tutti i
server possano essere sincronizzati indipendentemente da dove si trovano sulla superficie
del pianeta. Funziona stabilendo getatchew di attendibilità tra gli orologi locali dei data
center in modo che possano decidere con quali peers sincronizzarsi.
- Cos’è Fordlandia?
Fu una piantagione con relativo impianto di lavorazione della gomma aperto da Ford negli
anni 30 nel profondo della foresta pluviale in Brasile, impiegò manodopera locale provando a
imporre alla popolazione locale il suo processo di produzione rigidamente controllato
andando però a vuoto. I lavoratori in rivolta distrussero tutti gli orologi.

Capitolo 3 - Dati

- Cos’è il National Institute of Standards and Technology (NIST) e quali funzione

svolge.
E’ uno dei più antichi e rinomati laboratori di scienze fisiche degli Stati Uniti che oggi fanno
parte del dipartimento del commercio, venne creato nel 1901 per rafforzare l’infrastruttura di
misurazione della nazione e per creare standard che potessero rivaleggiare con rivali
economici, il suo scopo è rendere interoperabili i sistemi attraverso la definizione e la
diffusione di standard e questo oggi include lo sviluppo di standard per l'intelligenza
artificiale.
- Cosa si intende per “sistemi di imaging”?

- Chi è Alphonse Bertillon? Chi è Francis Galton?

Bertillon fu un criminologo inventore della foto segnaletica, considerandola una sorta di
macchina per l’identificazione biografica per individuare i recidivi, creando l antropometria un
sistema di riconoscimento biometrico adottato in tutta Europa e Stati Uniti, Galton invece fu
lo statistico e fondatore dell’eugenetica, una pseudo scienza che mira a migliorare le
caratteristiche umane sulla base di quantificazione rigorosa del comportamento individuando
tratti inferiori e superiori, usò la ritrattistica composita dei carcerati come metodo di
rivelazione di tipo criminale biologicamente determinato.
- Cosa intende dire Crawford quando afferma che le foto segnaletiche sono l’urtext
dell’intelligenza artificiale?
Significa che sono alla base dell'approccio attuale alla creazione dell’intelligenza artificiale, i
database NIST prefigurano l’emergere di una logica che oggi ha completamente pervaso il
settore tecnologico, ovvero che tutto si traduca in dati e che questi siano a disposizione di
essere presi.
- Cosa s’intende per ground truth (dati veri)? Che differenza c’è tra i learners
(apprenditori) e classifiers (classificatori)?
Sono vaste raccolte di dati detti dataset utilizzate per far imparare alle IA come riconoscere
le immagini, truth non indica verità ma un'accozzaglia di immagini raccattate da qualsiasi
fonte online disponibile. I learners sono algoritmi programmati per venire addestrati su dati
etichettati e in seguito informano i classificatori sul modo migliore per analizzare la relazione
tra i nuovi input e l'output desiderato. Quanto più sono numerosi i dati etichettati
correttamente tanto più accurate saranno le predizioni dell’algoritmo classificatore.
- Che differenza c’è tra un’inferenza induttiva e un’inferenza deduttiva?
Un’inferenza induttiva è un’ipotesi basata sui dati disponibili che si contrappone a
un’inferenza deduttiva quella che segue logicamente una premessa.
- ImageNet si basa sulla tassonomia di un seminale database lessicale. Quale?
Si basa sulla tassonomia delle parole ereditate dall’influente database lessicale degli anni
Ottanta noto come WordNet ed esso è erede di altre fonti come il Brown Corpus, pubblicato
nel ‘61, i training set si basano su classificazioni e raccolte antecedenti.
- Cosa si intende per “stanza zeppa di ragazze” discussa da Vannevar Bush nel 1945?
Si intendono gli operatori di schede perforate che svolgevano il lavoro di calcolo quotidiano,
spesso ridotte a meri dispositivi di input per la registrazione di dati intelligibili.
- Quali sono le caratteristiche degli approcci probabilistici o brute force nell’ambito
dell’IA che si affermano a partire dagli anni Ottanta?
Si trattava di utilizzare molti cicli di calcolo per elaborare quante più opzioni possibili ino a
trovare il risultato ottimale, come i sistemi di riconoscimento vocale presso IBM Research,
successivamente usati per sistemi IA come Siri e Google Translate.
- Qual è l’importanza storica e tecnica del FERET, il programma di Face Recognition
Technology del Dipartimento della Difesa? A quando risale? Perché si distingue dai
database successivi?
Il FERET nell’ultimo decennio del XX secolo fu finanziato dal Counterdrug technology
development program office dipartimento della difesa per sviluppare un sistema di
riconoscimento facciale per i servizi di intelligence e per le forze dell’ordine. Si distingue dai
modelli successivi per la cura messa nello scattare le foto e per il suo stile formale di
creazione di dati diventando il punto di riferimento più comunemente utilizzato.
- Qual è stato l’impatto dei social media sui sistema di raccolta delle immagini per
addestrare i sistemi di intelligenza artificiale?
Internet nel campo di ricerca sull’IA ha finito per essere concepita come una sorta di risorsa
naturale, disponibile, più persone hanno iniziato a caricare le proprie immagini sul web e
sulle piattaforme dei social media facendo raggiungere ai dati di training dimensioni
colossali.
- Che cos’è ImageNet? Quando viene istituito? Dove? Quali sono le caratteristiche
essenziali di questo database? Chi ha svolto le attività di classificazione? Quali sono
le critiche principali che Crawford muove al database?
E’ uno dei training set più importanti nel campo dell’IA concepita nel 2009 da Fei Fei Li
professoressa alla Princeton, che decise di costruire un'enorme collezione di dati per il
riconoscimento degli oggetti, estraendo milioni di immagini da internet il team ha prodotto un
ontologia generale delle immagini diventando il più ambizioso tentativo di collezionare e
classificare milioni di immagini prelevando da internet in maniera indiscriminata,
l’etichettamento venne svolto dall’Amazon Mechanical Turk, e le critiche della Crawford
riguardano il sistema di etichettamento che presentava anche etichette crudeli razziste
volgari o offensive e inoltre rese uno standard l’utilizzo di crowdworkers sottopagati per
svolgere lavori di etichettamento.
- Cosa intende Crawford con “fine del consenso”? Che ruolo svolgono le università
americane nella raccolta indiscriminata delle immagini?
Con la fine del consenso intende come a partire dal XXI secolo i responsabili della
costruzione e assemblaggio dei set di dati hanno agito in base alla presunzione che i
contenuti di Internet fossero pienamente disponibili senza necessità di accordi, le università
americane inoltre svolgono il ruolo di raccolta di filmati o immagini da sistemi di sicurezza
all’insaputa degli studenti.
- A cosa sottintendono espressioni quali “data mining” e “i dati sono il nuovo
petrolio” secondo Crawford? In che modo riflettono la natura fortemente estrattiva
dell’IA? Come si relazionano alla logica neoliberista che assolutizza il ruolo del
mercato?
Espressioni come data mining e frasi come i dati.. petrolio rappresentano una modalità
retorica che serve a spostare la nozione di dato da qualcosa di personale intimo o soggetto
alla proprietà e al controllo individuale a qualcosa di più inerte e non umano, questa logica è
coerente con le premesse neoliberiste che ogni cosa è una forma di capitale, non esistono
nè individui né persone ma semplicemente un capitale umano da investire
- Quando Crawford scrive: “i dati vocali vengono raccolti da dispositivi piazzati sui
ripiani della cucina o sui comodini della camera da letto; i dati fisici provengono da
orologi al polso e telefoni nelle tasche; i dati sui libri e i giornali che si leggono
provengono da tablet e laptop; gesti ed espressioni facciali vengono raccolti e
valutati nei luoghi di lavoro e nelle aule”, a cosa si riferisce? Quali sono le
implicazioni e conseguenze del fenomeno?
Si riferisce a sistemi come Alexa Siri o gli smartwatch che non solo violano la privacy ma
hanno la conseguenza di un’acquisizione indiscriminata di ciò che prima faceva parte dei
beni comuni, oggi una manciata di aziende private ha un enorme potere di estrarre intuizioni
e profitti da fonti condivise per fini di mero lucro alimentando una potente logica estrattiva
fondamentale nel campo dell’IA, è un atto di creazione e perimetrazione del mondo con
enormi ramificazioni sul modo in cui l’IA agisce sul mondo e sulle comunità.
- Crawford afferma che l’industria dell’IA sta erodendo la dimensione e la nozione di
beni pubblici per privilegiare la dimensione del privato. Cosa intende?
Intende che ci si aspettava che il valore dei dati condivisi tramite le istituzioni pubbliche e gli
spazi pubblici online tornasse al pubblico in altre forme di beni comuni, invece vediamo che
una manciata di aziende private oggi ha un enorme potere di estrarre intuizioni e profitti da
quelle stesse fonti.
Capitolo 4 - Classificazione

- Chi è Samuel Morton?

Medico naturalista e uno degli ispiratori dell’antropologia fisica, collezionò centinaia di crani
umani da tutto il mondo cercando un modo per classificarli secondo un criterio logico,
sostenne di poter giudicare la capacità intellettuale di una razza dalla capacità cranica.
- Cosa si intende per frenologia, poligenismo e craniometria?
La frenologia è una pseudoscienza secondo la quale le singole funzioni psichiche
dipenderebbero da determinate zone o regioni del cervello, così che dalla valutazione di
particolarità morfologiche del cranio di una persona, per polignismo invece si indica la
convinzione che razze umane distinte si fossero evolute in tempi diversi separatamente,
legittimato da studiosi bianchi come una giustificazione per la violenza razzista. La
craniometria invece era lo studio secondo il quale vi è una relazione proporzionale tra
capacità cognitive e dimensioni del cranio. Fu una scienza numerica guida del determinismo
biologico
- Qual è il giudizio di Crawford in relazione alla craniometria e all’approccio di
Morton?
Gli studi di Morton si basano su premesse errate, calcoli sbagliati e conclusioni non
legittimate da riscontri empirici, bisognerebbe dunque condannare questo approccio, le
pratiche di classificazione di Morton erano infatti intrinsecamente politiche.
- Cosa intende Crawford quando afferma che la classificazione è un “atto di potere”?
Qual è la relazione tra l’intelligenza artificiale, la classificazione e il potere?
Le classificazioni sono potenti tecnologie incorporate nelle infrastrutture di lavoro diventano
invisibili senza perdere potere, diventando normative determinando il funzionamento del
mondo sociale e materiale, questa politica è prassi fondamentale nell’IA, danno forma al
modo in cui l’intelligenza artificiale viene riconosciuta e prodotta, la parità matematica è
spesso proposta per produrre sistemi più equi invece di affrontare strutture sociali politiche
ed economiche
- Secondo Crawford, l’IA è pregiudiziale o no? In che modo?
Lo è, gli strumenti di riconoscimento di immagini classificano erroneamente i volti ei neri e i
chatbots impiegano un linguaggio razzista e misogino, il software di riconoscimento vocale
non riconosce voci femminili e presentano enormi problematiche di carattere etico e legale.
- Cosa è successo quando Amazon ha deciso di automatizzare i sistemi di assunzione
del personale nel 2014? Qual è stato l’esito?
Con un dataset contenente 10 anni di curricula dei dipendenti di amazon si addestrò un
modello statistico di 50k termini per comparare i curricula con il risultato che il sistema iniziò
ad assegnare meno importanza a termini ingegneristici comunemente usati sviluppando una
preferenza per particolari verbi come eseguito e catturato, il sistema però non
raccomandava le donne declassando automaticamente chi frequentava college femminili o
curricula che includessero la parola donna, il problema persistette anche dopo aver rimosso
il genere come categoria rilevante per le scelte di assunzione creando uno strumento
diagnostico.
- Cosa si intende per “macchinario epistemico” (Karin Knorr Cetina) e “uroboro
statistico” (Crawford)?
Si intendono i meccanismi stessi di costruzione della conoscenza proprio per evitare
l’uroboro statistico, una macchina discriminatoria che si autoalimenta e amplifica
disuguaglianze sociali con il pretesto della neutralità tecnica.
- Quali sono i limiti del database Diversity in Faces (DiF) di IBM, introdotto nel 2019?
I limiti riguardano il modello restrittivo del genere binario e la rimozione dal set di dati per
chiunque non facesse parte di questo binomio, l’approccio di IBM si basa sul presupposto
che razza etnia cultura geografia l’identità individuale e le forme visibili dell’auto-espressione
siano espressi nei nostri volti e che siano ereditati contraddicendo decenni di ricerca volta a
contestare l’idea che razza, genere e identità siano categorie biologiche e che invece
vadano meglio compresi come costrutti politici, sociali e culturali. IBM produce un’identità
centralizzata e oggettiva.
- Cosa intende con il termine bias?
Appare per la prima volta nella geometria trecentesca come una linea obliqua o diagonale,
mentre nel XVI secolo aveva acquisito un senso prossimo al suo attuale significato di
pregiudizio indebito, a inizio novecento sviluppa un significato più tecnico nelle statistiche
dove si riferisce a differenze sistematiche tra un campione e una popolazione quando il
campione non è veramente rappresentativo del tutto, da qui prende il suo significato nel
settore dell’apprendimento automatico, generalizzazione, classificazione e varianza.
- Quali sono le logiche classificatorie di ImageNet? Perché Crawford le considera non
solo bizzarre, ma problematiche? Cosa significa che “naturalizzano un particolare
ordinamento del mondo”?
ImageNet presenta una struttura labirintica e la sua struttura semantica deriva da WordNet
un database di classificazioni di parole sviluppato nel 1985. Esso tenta di organizzare l’intera
lingua inglese in insiemi di sinonimi o synets, nel databse di ImageNet ogni synset
rappresenta un concetto distinto, con i sinonimi raggruppati assieme, auto e car fan parte
dello stesso set, è bizzarro dato che nelle 9 categorie presenti va inserito tutto il resto con
migliai di classificazioni a matrioska, è evidente l’aspetto politico della classificazione, la
gerarchia di classificazione di genere e sessualità richiama precedenti forme di
categorizzazione come la classificazione dell’omosessualità come disturbo mentale.
Significa che naturalizzano un ordinamento del mondo basato su pregiudizi.
- Secondo Crawford esistono delle categorie neutre di classificazione delle immagini
su ImageNet? Perché?
Non esistono categorie neutre dato che la selezione delle immagini interagisce sempre con il
significato delle parole, La politica è inserita nella logica classificatoria anche quando le
parole non sono offensive
- Qual è il principio sotteso alle strategie di classificazione del genere, razza e
sessualità applicate da ImageNet?
Il principio sotteso è che molti dei problemi degli schemi con approccio dall’alto verso il
basso appiattiscono entità quantificabili complesse relazioni sociali, culturali politiche e
storiche.
- Cosa intende Crawford quando scrive che “i sistemi di apprendimento automatico,
in un modo molto concreto, stanno costruendo razze e genere”?
Definiscono il mondo alle condizioni che essi stabiliscono e questo ha durevoli ripercussioni
sulle persone classificate, la propensione a commettere un crimine è una categoria
relazionale e socialmente determinata non innata e riconoscibile da una fotografia, non sono
caratteristiche fisse ma di caratteristiche contestuali e mutevoli.
- Quale soluzione è indicata da Crawford ai problemi di classificazioni descritti in
questo capitolo?
Richiede in primo luogo una consapevolezza dei bias sottesi ai sistemi IA, non è astratto
riguarda la vita di tutti, occorre inoltre sviluppare un nuovo approccio alla classificazione,
rinunciare al soluzionismo dataficazione e pensiero computazional che riducono la
complessità del mondo a un algoritmo.
Capitolo 5 - Classificazione

- Chi è Paul Ekman? Qual è la sua teoria fondamentale in merito alle emozioni umane?
Paul Ekman fu uno psicologo americano che studiò i Fore di Okapa in Papua Nuova Guinea
per testare la sua teoria ovvero che gli esseri umani manifestano un numero definito di
emozioni primarie o universali che sono dunque da considerarsi naturali, innate, interculturali
e identiche in tutto il mondo.
- In base ai più importanti studi scientifici esistono prove affidabili che si possa
prevedere con precisione lo stato emotivo di una persona dal suo volto?
No, in realtà non esistono prove affidabili e inconfutabili che si possa prevedere lo stato
emotivo di una persona dal suo volto.
- Che cosa s’intende per affective computing? Perché è importante?
Si intende il settore volto a quantificare le emozioni umane e altri fenomeni affettivi
attraverso tecniche di deep learning, è importante poiché si tratta di un settore emergente e
in forte espansione, utile ad aziende interessate al riconoscimento delle emozioni.
- Quali sono i tre presupposti fondamentali sottesi ai sistemi di riconoscimento delle
emozioni?
Che esiste un numero limitato di categorie emotive distinte e universali che
involontariamente facciamo trasparire sui nostri volti, che le macchine possono rilevare e
interpretare tali emozioni in modo accurato e incontrovertibile.
- Chi è Silvan Tomkins? Qual è stato il suo contributo scientifico più importante? Qual
è la sua posizione in materia di emozioni umane?
Silvan Tomkins fu un affermato psicologo che lavorava a Princeton dove incontrò Ekman
influenzando i suoi lavori, nel 1962 pubblicò il primo volume della sua opera principale,
Affect Imagery Consciousness, dove sviluppa l’idea che se le emozioni fossero un insieme
innato di risposte evolutive esse sarebbero universali e quindi riconoscibili da una cultura
all’altra e attraverso un training ad hoc. Il riconoscimento delle emozioni è essenziale per
spiegare il problema della motivazione umana
- Quali sono le tre figure storiche che hanno “contestato” e “ridimensionato” la
coscienza umana, secondo Tomkins? Perché?
Copernico, che aveva tolto l’uomo dal centro dell’universo, Darwin la cui teoria evolutiva
avea infranto l’idea che l’uomo fosse stato creato da Dio, e soprattutto da Freud, che aveva
decentrato la coscienza umana e la ragione come forze trainanti dietro le nostre motivazioni.
- Che differenza c’è tra le posizioni di Tomkins e di Ekman in materia di emozioni
umane?

- Chi ha finanziato gli studi di Paul Ekman a partire dalla met degli anni Sessanta?
Perché?
Lee Hough, direttore del settore delle scienze comportamentali dell’ARPA, decise di
finanziare Ekman sulla comunicazione non verbale interculturale, intuì il potenziale di
quest’ultimo e lo finanziò con un milione di dollari, questo perché Hough aveva l’esigenza di
dimostrare che l’ARPA non stesse investendo soldi solo per rovesciare i governi in America
Latina.
- Qual è stato l’esito degli studi di Ekman con i Fore della Papua Nuova Guinea?
Hanno confermato le sue teorie sul riconoscimento delle emozioni umane?
Sebbene il primo tentativo non ebbe esito positivo, Ekman decise un differente approccio, ai
soggetti statunitensi mostra una fotografia e chiede di scegliere tra sei tipologie di emozioni,
la ripetibilità dei risultati ottenuti spinge Ekman ad affermare che particolari comportamenti
facciali sono universalmente associati a particolari emozioni.
- Chi è Guillaume-Benjamin-Amand Duchenne de Boulogne? Perché i suoi studi sono
definiti problematici e controversi da Crawford?
Fu un neurologo francese che codificò l’uso della fotografia e di altri mezzi tecnici nello
studio dei volti umani collegando concetti precedenti di fisiognomica e frenologia con
ricerche moderne di fisiologia e psicologia lavorando nel manicomio parigino della
Salpetrière, i suoi studi sono definiti problematici e controversi per la sperimentazione su
umani con isolate scosse elettriche stimolanti movimenti muscolari nei volti delle persone,
generando espressioni naturali ma prodotte dall’applicazione elettrica, rendendole
estremamente artificiose.
- Cosa s’intende per “microespressioni”? Che cos’è il sistema FAST, Facial Action
Scoring Technique di Ekman? Che differenza c’è con il FACS, Facial Action Coding
System? Qual era l’obiettivo di questi due sistemi? Il FACS ha avuto successo o
meno a livello governativo e/o industriale?
Si intendono minuscoli movimenti muscolari del viso. Il FAST venne pubblicato nel 1971 per
la prima volta ed era un sistema per rilevare e analizzare le espressioni facciali, basata su
fotografie scattate a individui in posa utilizzando sei tipi emotivi di base derivati dalle
intuizioni di Ekman, la differenza tra FAST e FACS, pubblicato nel ‘78, sono innanzitutto
riscontrabili nelle teorie a cui fanno riferimento essendo che il FACS si rifà alle teorie di
Duchenne, inoltre vennero identificate una quarantina di contrazioni distinte chiamate unità
d’azione i componenti base di ciascuna espressione facciale. L’obbiettivo di questi due
sistemi era di codificare, rilevare e analizzare le espressioni facciali, e sebbene il FAST non
ebbe il successo sperato il FACS ha ancora oggi un ruolo di primo piano nel campo
dell’informatica applicata alle emozioni.
- Qual è la contraddizione intrinseca al sistema FACS che Crawford porta in primo
piano in questo capitolo? Cosa significa che questa tecnica presenta un “problema di
circolarità”?
Il modello di Ekman si basa su una logica circolare, egli infatti ipotizzava che le espressioni
facciali impiegate nei suoi esperimenti fossero prive di contaminazioni culturali perché
universalmente riconosciute, e allo stesso tempo suggeriva che quelle espressioni venissero
universalmente riconosciute perché prive di contaminazioni culturali. La logica è ricorsiva.
- Quali sono le principali critiche rivolte alle teorie di Ekman?
Tra le principali critiche, Margaret Mead alla fine degli anni ‘60 si dimostra scettica sul
concetto di determinanti biologici e universali del comportamento vs fattori culturali, per
Ekman le emozioni sono universali oppure no, mentre i suoi critici come Mead affermavano
che erano possibili posizioni più sfumate, cultura e natura non si escludono a vicenda. Altri
invece hanno fatto notare che il rilevamento automatizzato delle espressioni facciali non è
un indice affidabile di uno stato mentale, checchè ne dicano le aziende.
- Esiste oggi un consenso tra i ricercatori su cosa sia effettivamente un’emozione?
No, non esiste. Il più completo e avanzato studio comparato delle ricerche di ekman
pubblicato nel 2019 ha concluso che non è possibile dedurre con certezza la felicità da un
sorriso, la rabbia da un cipiglio o la tristezza da una fronte aggrottata come gran parte della
tecnologia attuale cerca di fare applicando metodi scientifici.
Capitolo 6 - Stato

- Chi è Edward Snowden? A cosa si riferiscono le sue rivelazioni del 2013?

Edward Snowden è un ex consulente e informatore della NSA e nel 2013 ha fatto trapelare
un archivio contenente dettagli più specifici su come l’apprendimento automatico ha iniziato
a essere utilizzato nel settore dell'intelligence sotto la spinta di alcuni dei governi più ricchi al
mondo, rivelando che la comunità dell’intelligence ha contribuito allo sviluppo di molte delle
tecnologie che oggi chiamiamo IA con l’obbiettivo di tracciare e monitorare in tempo reale
l’intera popolazione attraverso dispositivi digitali che spaziano da smartphone a telecamere
e microfoni smart.
- Cosa s’intende per “Third Offset strategy”? Chi ha formulato questa teoria? Cosa
s’intende per offset?
Si intende il termine coniato da Ash Carter segretario della difesa dal 2015 al 2017
determinante nello stringere i rapporti con la silicon valley. Un offset sarebbe un modo per
compensare uno svantaggio militare di base modificando le regole dello scontro, il primo si
intende l’uso di armi nucleari nel ‘50 il secondo lo sviluppo di armi segrete logistiche
convenzioni nel ‘70 e il terzo sarebbe secondo Carter una combinazione di intelligenza
artificiale, guerra informatica e robot, prevedendo una strettissima collaborazione tra le
aziende che operano nel settore della silicon valley e la NSA,CIA,FBI e il pentagono.
- Cos’è il progetto Maven altrimenti noto come ““Algorithmic Warfare
Cross-Functional Team”? Quali implicazioni etiche ha sollevato?
Consiste nell’upgrade tecnologico attraverso sistemi di IA dell’intero apparato militare USA
ottenuto attraverso enormi finanziamenti governativi ad aziende come amazon, microsoft e
google, con l'obiettivo di portare sul campo di battaglia i migliori sistemi algoritmici possibili
anche se completati solo all 80%, tutto ciò si inseriva nel progetto JEDI una radicale
riprogettazione dell’intera infrastruttura informatica del dipartimento della difesa. L'obiettivo
era di creare un’IA, un motore di ricerca, automatizzato di video di droni per individuare e
tracciare i combattenti nemici, sollevando due principali problematiche, il sistema di
riconoscimento facciale basato su IA è inaffidabile e lacunoso e quali sono i criteri che
legittimano l’uso di droni per omicidi? quali sono le tassonomie usate? chi e come le ha
definite?
- Qual è il giudizio di Crawford su Palantir? Da chi è stata fondata? Che tipo di servizi
offre? Chi li utilizza?
La struttura imprenditoriali di Palantir si basa su un mix di analisi di dati e rilevamento di
modelli attraverso l’utilizzo dell’apprendimento automatico, accompagnato da funzioni più
generiche di consulenza, tecnologie di riconoscimento facciale per identificare immigrati
illegali e per la loro immediata espulsione, è stata fondata da Peter Thiel consigliere e
sostenitore finanziario del presidente Trump, i suoi servizi vengono usati da FBI Pentagono
CIA, ICE, il dipartimento della sanità, il dipartimento per la sicurezza interna ecc. il sistema di
palantir riproduce la disuguaglianza assoggettando coloro che vivono in quartieri poveri neri
o latini.
- Crawford afferma che gli approcci di Palantir innescano un ciclo di feedback vizioso.
cosa si riferisce?
Il sistema a punti di Palantir conferisce a tutto un’aura di oggettività ma crea un circolo
vizioso logico, i soggetti inclusi in un database criminale hanno maggiori probabilità di
essere sorvegliati e quindi è più probabile che si raccolgano su di essi maggiori informazioni
il che giustifica un ulteriore controllo della polizia.
- Cosa s’intende per “NSA-ificazione dei dipartimenti di polizia”? Cos’è ClearView AI?
Si intende il processo per cui i modelli di intelligence inaugurati dalle agenzie governative
nazionali ora sono divenuti parte delle azioni di polizia locale, trasformando completamente il
processo di sorveglianza, tramutando i poliziotti in agenti dei servizi segreti.
- Qual è il giudizio di Crawford sulle telecamere di sorveglianza “smart” Ring di
Amazon? Perché la definisce “un’infrastruttura di sorveglianza pubblico-privata”?
Le modalità di osservazione che un tempo erano prerogativa delle sole agenzie di
intelligence sono state polverizzate e disperse in numerosi sistemi sociali incorporate nei
luoghi di lavoro in case e automobili e sono promosse da aziende tecnologiche che
prosperano nelle intersezioni tra i settori commerciali e militari dell’IA.
- A cosa si riferisce il concetto di “impronta” (signature)? Cos’è un signature strike
(attacco all’impronta)? Quali sono le implicazioni?
Si riferisce alla base delle logiche militari dell’individuazione del bersaglio, ovvero il modello
comportamentale, l’impronta di un individuo. La signature strike si verifica quando un
soggetto viene ucciso a causa di un elemento nei metadati che è stato associato dai sistemi
di AI alla sua identità. Ciò implica innanzitutto che gli attacchi con i droni sebbene vengano
venduti come precisi lo sono solo quanto l’intelligence che li alimenta, tuttavia la forma non
riguarda la precisione ma la correlazione, una volta che nei dati viene individuato un modello
che oltrepassa una certa soglia il sospetto diventa sufficiente per innescare un’azione pir i
assenza di prove definitive.
- Gli attacchi dei droni americani ai terroristi o presunti tali in Afghanistan, Yemen e
altri contesti possono essere considerati precisi? Cosa scrive Crawford a questo
proposito?
No, lo sono solo in merito a quanto l’intelligenza artificiale che li guida è precisa, attacchi di
droni mirati a uccidere 41 individui hanno provocato la morte di 1147 persone.
Capitolo 7 (Epilogo) - Potere

- Che differenza c’è tra una feature e un bug? Che rilevanza ha questa distinzione nel
discorso di Crawford sull'intelligenza artificiale?

- Cosa s’intende per “eccezionalismo algoritmico”?

L’idea che in quanto capaci di eseguire prodigi di calcolo, i sistemi di IA devono essere più
intelligenti e più obiettivi dei loro imperfetti creatori umani.
- Qual è l’ambito privilegiato dei sistemi di intelligenza artificiale sin dagli anni
Cinquanta?Perché questo ambito è ideale per questo tipo di esperimenti?
Il gioco, questo perchè offrono un mondo chiuso con parametri definiti e chiare condizioni
per conseguire la vittoria
- Su quali meccanismi si basa la cosiddetta “teoria dei giochi” che emerge a partire
dagli anni Cinquanta?
E’ un sistema basato su due logiche ovvero la razionalizzazione e la previsione, per fare
previsioni accurate il sistema deve ridurre la complessità del mondo, trovando il segnale nel
rumore (pattern recognition) e ricavando ordine dal disordine
- Crawford scrive che i sistemi di AI sono percepiti come caratterizzati da un
“incantamento”. Cosa significa? E cosa s’intende per “sistema deterministico”?
Incantamento intendendo qualcosa che va aldilà del mondo conosciuto, ma rimangono
deterministici in quanto scoprono modelli che possono essere applicati con certezza
predittiva alla vita di tutti i giorni, è alla base del determinismo incantato, articolato in due
filoni dominanti, l’utopia tecnologica dove l’IA offre interventi computazionali quali soluzioni
universali ad ogni problema, e la distopia tecnologica che incolpa gli algoritmi senza
prendere coscienza dei contesti che li modellano e in cui essi operano.
- Qual è il ruolo che il governi svolge nella costruzione dei sistemi di IA (vedi
l’esempio del data center di Google, The Dalles, nello stato dell’Oregon).
L’espansione dell’industria dell’intelligenza artificiale è stata sovvenzionata pubblicamente
dai finanziamenti per la difese e dalle agenzie di ricerca federali, dai servizi pubblici,
agevolazioni fiscali ecc, per il The Dalles i lobbisti di Google hanno negoziato per sei mesi
con l’amministrazione locale un accordo che includeva esenzioni fiscali, energia a basso
costo e l’uso di fibra ottica costruita dalla città.
- Secondo Crawford, è possibile democratizzare l’IA?
No, suggerire di democratizzare l’IA per ridurre le asimmetrie di potere è come sostenere la
democratizzazione della produzione di armi al servizio della pace
- Cosa significa questa celebre frase di Audre Lorde: Gli strumenti del padrone non
smantelleranno mai la casa del padrone”?
Che l’IA è uno strumento delle più grandi aziende tecnologiche al mondo finanziate da
governi o settori specifici del governo, non si può democratizzare proprio perché sono loro, a
essi appartiene l’IA vera e propria.

Capitolo 8 (Coda) - Spazio

- Qual è la principale motivazione che spinge Bezos o Musk a investire nella

colonizzazione dello spazio, secondo Crawford?
Non sono spinti a ciò per limitare lo sfruttamento delle risorse e la crescita, ma estenderle al
sistema solare.
- Cosa accomuna la nuova corsa allo spazio e l’industria dell’IA secondo Crawford?
entrambe sono industrie fortemente estrattive e distruttive che avvantaggiano un numero
limitato di individui ai danni delle moltitudini, privatizzazione colonizzazione e sfruttamento
intensivo sia dello scibile umano che delle risorse spaziali.
- Chi era Wernher Von Braun? Perché è una figura fondamentale per la storia
dell'esplorazione spaziale americana?
Direttore tecnico del programma di sviluppo missilistico tedesco dopo la guerra andò negli
USA dove iniziò a fare esperimenti con missili v2, il razzo sviluppato arrivò a 100 chilometri
di altezza scattando immagini ogni secondo e mezzo schiantandosi nel deserto del new
messico. Fu determinante nel costruire il razzo Saturn V.