In copertina Il capitalismo della sorveglianza Le aziende usano 1 nostri dati personali come merce da vendere e comprare. E le informazioni che accumulano gli danno un potere senza precedenti Shoshana Zuboff, Financial Times, Regno Unito. Foto di Menno Aden gennaio Mark Zucker~ berge stato attaccato da Roger MeNamee, il suo exbracciodestro. MeNa- mee, che gid in passato laveva crticato il fonda- tore di Facebook, ha accusatoil social net- ‘work di dare la caccia ai dati degli utenti con metodi sempre pit illecitie dannosi. “Prima Facebook raccoglieva dati ovun- que per alimentare isuoi sistemi d'ntell- genza artficale ei suoi algoritmi. Poi ha cominciatoa spiare tutti, compresi quelli che non vanno sul social network”, ha seritto McNamee. Questisistemi,haspie- gato, sono statirealizzati per manipolare lereazioni degli utenti attraverso mecea- nismiche in seguitohannofattocomodoa chia cercato di influenzarela coscienza degli statunitensie inquinare il dibattito pubblico Lanalisi di McNamee é il frutto di un peticoloso ertore. E vero che il governo ‘ussoeil miliardario Robert Mercer,com- proprietario della Cambridge Analytica e finanziatore della campagna clettorale di Donald Trump, hannoimparatoz maneg- 40 Intemazionale 1306 | 10 maggio2019 giarclamacchina complessacimpenetra- bile costruita da Facebook (azienda bri- tannica Cambridge Analytica, oggichiu- sa,usava senza autorizzazione idatidegl utenti di Facebook per fare propaganda mirataonline), maquestimetodieappa- rato digitale di cui si servononon comin- ciano né finiscono con il social network. Sono gli elementi chiave di una nuovalo- gica economica che chiamo “capitalismo della sorveglianza”. Sono stati inventati per Google, sono stati acottati da Face- book, hanno conquistato l'intera Silicon valley epoihannocontagiatotuttiisettori dell’economia. Sarebbe un grave errore pensare che il fenomeno riguardi solo Facebook. Possiamo regolamentare la creatura di Zuckerberg, spezzettarla, ime porre un eambio ai vertic:ileapitalismo della sorvegtianzanon farduna piega. An- 2, riempira subito il voto, camutfandosi dietro un nuovo gruppo di manager e un nuovo glossariodieutemismi allamoda, Ho cominciatoa studiate il passaggio al digitale nel 1978, partendo dagli am- bienti dilavoro, Quane’éuscitoil mio pri- mo libro, In the age ofthe smart machine, nicl 1988, avevo gid intuito che la strada che portava al futuro digitale sarebbe sta: ta segnata da una serie di conflitt: chi avrebhe avuto accesso alla nuove cono- seenze? Chi avrebbe avuto l'autorita di stabilirlo? Chi avrebbe avuto il potere di far rispettare quell autorita? Oggi questi dilemminon riguardano solo giiambienti dilavoro, ma dominanoogni aspettodella nostra vita. Le tecnologie dell’informazio- needella comunicazione sono piidiffuse delfelettricitacraggiungonotre miliardidi abitanti della Terra susette.Affondano le Jororadicinelle necessita della vita quoti: diana, mediando praticamente ogni for madi partecipazionesociale. Mig sembratosubitochiaro cheillcapi- talismo della sorveglianza sidiscostavada ‘molte norme e pratiche che definivano la storiadelcapitalismoe inparticolare della democraziadimercato.Stavaemergendo un fenomeno allarmante e senza prece- denti, le cui conseguenze avrebbero in- Le foto di queste pagine sono tratte dalla serie Room portraits delfotogra- fotedescoMenno Aden.ow a Se hp)In cops a fluenzatoilcontestomoraleepoliticodel- Tasocieti del ventunesimossecoto ei valo- ridellacivilta dellinformazione. Icapitalismo della sorvegtianza &sta- toinventato durante loseoppiodella bolla diinternet, quando una giovane azienda chiamata Google provd ad aumentare i ricavi pubblicitarsfruttando ilsuo acces- so esclusivo a banche dati in gran parte inutilizzate: gli avanzi digital lasciati da- sliutenti che facevano ricerche e naviga- vano su internet. I dati erano analizzati perriusciread associare aciascun utente gli annunei pubblicitari pid efficaci. La strategiadi Google era duplice:da untato trovare un utilizzo all’eccedenza di dati sui comportament delle persone, dall’a- ‘nosviluppare aggressivamente nuovime- todi per moltiplicarelefontidi dati. ii stessiesperti di Google hannoam- ‘meso che i metodi del motore i ricerca eranoconsideratipreziosiperlaloro capa- ita di scoprre dati che le persone aveva noscelto di mantenere riservatie di tica- vvamne informazioni personaliche gliuten- tinon fornivano. If sistema era studiato per agire sottotraccia, aggirando il con- senso degli utenti ed climinando quindi ‘ogni possibile “atrito”, Inaltre parole, fin dagliinizi Google ha agito come qualcuno che sta nascosto dietto uno specchio se- mirifettente,ilsuosuccesso@ basatosulla sorveglianza. Questi nuovi metodi sono statiinventatinel 2001 eusatinellapitas- soluta segretezza fino al 2004, quando Google éstata quotatain borsa.Soloallora ilmondo ha scoperto che grazie a questi sistemifricavidellaziendaeranoaumen- tatidel3s90percento, Amodello standard ‘Questo nnovo modo diusare Veccedenza dei dati suicomportamenti elle persone €@statouno spartiaeque di portata storica. ‘Google ha scopertouna risorsa acostoze- rocapace di cambiare le regole del gioco, semplicemente distogliendola dal miglio- ramento del servizio per reindirizzarla verso il puro scambio commerciale. Il ca- pitalismo della sorveglianza &arrivato su Facebook ¢ oggi ¢ diventato il modello standard perPaccumulo di eapitali nella Silicon valley, adottato da tutte le startup e dalle app. E stato giustificato come un baratto in cambio di servizi gratuiti, ma non é solo questo, proprio come la produ- ione in srienon servivasoloafabbticare Ja Ford T. Oggi la sorveglianza si¢ estesa aisettoripidisparat: dalle assicurezioni alcommercioaldettaglio, dallasanitaalla finanza, dal?’intrattenimento alla scuola. 42 Internazionale 1306 | 10 meggio 2019 Icapitalismo sta letteralmente cambian- doforma sotto nostri occhi. Prendiamo per esempio la Ford, Vazienda dov’e nata la produzione in se- rie, Cento anni fai pionieri del capitali- smo come Henry Ford inventarono il concetto diconsumo di massa. Ford ave- va capito che anche i contadini e i nego- zianti volevano un'automobile, ma a prezzisostenibili, Nella sua visione, con- sumatorielavoratorifacevanopartedello stesso ciclo di produzione e vendita, ba- sato su beniabassocostoe un salarioche permetteva i consumi, i famosi cingue dollarial giorno della Ford. ‘Nel novembre del 2018 Tamministra- tore delegato della Ford, Jim Hackett, ha indicato un nuovo paradigma per le case automobilistiche. “Quello che voglio di- re”, ha spiegato in un'intervista, “8 che in faturo dai veicolio dagii utenti dei veicoli dalle citta che comuieano con iveicoli avremo una quantita di dati pari a quella ditutta la concorrenzamessa insieme.So- no.convintodiquesto:oggiabbiamocento milionidi persone che guidano un veicolo Ford, &:un’opportunita per battere azien- de giovani, che oggi avranno, non so, nomilaoz0omilaveicoliincircolazione. Mettete a confronto i numeri: da quale ariendavorresteavereidati?”. Una volta trasformatii client in fonti di dati facile immaginare il passo suc- cessivo: le informazioni provenienti in temporeale dalle autosono inerociatecon i dati sui finanziamenti concessi dalla Ford, grazie ai quali, ha detto Hackett, “sappiamo gid cosa fanno i clienti, dove lavorano, se sono sposati. Sappiamo da quanto tempo vivono nella loro casa”, Poi ‘manager ha concluso: “Questa? laleva che ci fornisce i dati”. Come spiega un analista del settore, la Ford “pud guada- snare una fortunacon idati. Perfarionon sliservono ingegneriné fabbriche né ven- ditori. Epraticamente profitto puro” Questo é il mondo in cui viviamo:un ‘mondo in cui ogni prodottoo servizio che cominciconlaparola “smart” o “persona: lizzato”, ogni appareechio oveicolo colle:gato internet, ogni “assistente digitale” diventa un‘interfaecia della eatena logist- caperilfiussoindisturbato di datisuicom- portamenti delle persone. Si capito da tempo che il capitalismo si evolve appro- priandosi di cose che esistono fuori della dinamica di mercato e trasformandole in benidimerearodavendere ecomprare. Il capitalismo della sorveglianza ha esteso questo modello, facendo dell’esperienza ‘umana privata un materiale grezzo che pudessere elaboratoetrastormatoinpre- visioni comportamentali utili alla produ- zione e allo scambio. In questa logica il capitalismo della sorveglianzaé una “cac- ia di frodo” ai dati sui nostri comporta- ‘menti¢ sidisinteressa del significato la- sciandolo nei nostri corpi, nelle nostre ‘menti,neinostticworipulsant.Pitche “il prodoito”, siamola carcassa abbandona- ta. I" prodotto” deriva daidatiin eccesso estirpati dalle nostre vite, Vodka intelligente Inqueste nuove catene logistiche possia- ‘mo trovare tracce delle persone con cui condividiamo le nostre vite le nostre la- crime, le nostre mascelle serrate dalla rabbia, i segreti che i nostri figli condivi- donoconiloto pupazzi lenostre conver- sarioni acolazione ele nostre abitudini, i livellodeidecibel nelle nostre camere da letto, le suole consumate delle nostre searpedaginnastica, la nostraesitazione difronteai maglioniespostiinunnegozio ipunti esclamativi dopo un post st Fa- ceebook scritto conla massima innocenza. Niente viene risparmiato: dalle bottiglic divodka “intelligent” aitermometriret- tali che si possono collegare a internet, ‘ormaiogniprodottoe ogniserviziog pen- satoe studiato in fanzione dei ricavidella sorveglianza. ‘Questi dati sono estratti dalle nostre vite senza che ce ne accorgiamo, Negli Stati Unitiirespiratoriusati dalle persone che sofftono di apnea notturna passano i datialle compagnie diassicurazione sani- tatia,spessoperpermetterglidi non paga- re eventuali risarcimenti. Alcune app per iil cellulare registrano la posizione del utente ogni due secondi ela rivendo- noaterzi. Due annifa Roomba, !aspirapolvere autonomo della iRobot, éfinito sututtii giornali quando Colin Angle, !'ammini- sttatore delegato dellazienda, ha raccon- tato alla Reuters la sua strategia basata sui dati peruna “smart home”. Angle ha spiegato che il titolo della iRobot si era impemnato in borsa dopo la sua proposta dicondividere gratuitamente le planime- trie delle case def clienti,ottenute gra alle muove funzionalita di mappatura dell’apparecehio. Aun certo punto capitalisti della sor- veglianza hanno scoperto “la modifica- ione comportamentale”, una serie diin- fervent intemporeale attraverso internet che accompagnano il consumatore verso tunrisultatodesiderato. Gome mila spie- gato uno scienziato esperto di dati,“pos- siamo mettere in piedi il conte- sto diun particolare comporta- ‘mento e in questo modo forzare imeambiamento. Stiamo impa- rando a scrivere la musica, poi con la musica i faceiamo balla- te” Unesempio sono i giocatori di Poké- ‘mon Go, gentilmente “condotti per ma- no” einvitati amangiare,abereeaconst- ‘mare nei ristoranti nei bare nei fast food che pagano per partecipare aquesto mer- cato dei servizi comportamentali. O la spietata appropriazione delleccedenza di dati provenienti dai profil Facebook per ricavare dettagliati “spunti psicologici” che, secondo una relazione allinterno dell'azienda, permettono agli inserzioni- sti di capire il momento esatto in cui un adolescente ha bisogno di una “iniezione di fiducia” ed & quindi piti vulnerable a ‘una specifica configurazione distimoli suggerimenti pubblictar Tcapitalisti della sorvegtianza produ- conoasimmetrie profondamente antide- ‘moeratiche nella conoscenzaenel porere chene scaturisce. Sannotutto dinoi, mai Joto sistemi sono concepiti in modo che pernoi siaimpossibile conoscerli Preve dono il nostro futuro e configurano in stri comportamenti, ma per gli interes: ecortomic di altri Questo pote= re di conoscere e modificare il comportamentoumanononha precedlentiSpessoconfutso.con il “totalitarismo” e temuto co- meun Grande fratello, ¢inreal- ‘tuna nuova specie di potere moderno che definisco “strumentarismo”. Lostr ‘mentarismo studia e modifica icompor- tamentidegitindividui, deigruppiedelle popolazioni nellinteresse del capitali- smodella sorveglianza.Lo scandalodella (Cambridge Analytica ha rivelatoche, con legluste competenze, imetodidellostra- ‘mentarismo possono essere messial ser- vizio di obiettivi politici, Ma tanto per essere chiar, i metodi usati dalla Cam- bridge Analyticanonsidiscostano aifatto dda quello che il capitalism della sorve- Intemazionale 1306 | 10 maggio2019 43In copertina slianza fa quotidianamente per influen- zarei comportamenti delle persone. ‘Questa non era Tunica stradapossibi- Je, Nel 2000 aleuni informatici e inge- sgneri collaborarono a un progetto chia- ‘mato Aware home. Lidea era quella di ‘una “simbiosi uomo-casa” in cui una se- rie di processi, animati c inanimati, po- tessero essere mappati da una rete di “sensoriinformati del contesto”, ineor- porati nello spazio domestico, eds com- puter da indossare. II sistema era conce- pito come un semplice circuito chiuso, interamente controllatodagiiutenti. Poi- ché la casa avrebbe “costantemente mo- nitorato la posizione ¢ le attivita degli utenti, tenendo addirittura traccia delle oro condizioni di salute”, concludevano ali studiosi, “emerge chiaramente Pesi- genza didare agli utenti la conoscenza e il controllo della distribuzione di queste informazioni”. Tuttiidati sarebbero stati archiviatineicomputerdaindossare “per assicurare la riservatezza delle informa- individuali” ‘Ora acciamo un saltonel 2017, quan- do due studiosi della University of Lon- don hanno pubblicato un’analisi detta- sliata di un dispositivo per la “casa intel- ligente’ il termostato Nest di Google, Pet entrare nell’ecosistemadidispositivie di app diNest, ognuno cone suespecifiche condizionidi servizio per lacondivisione dei dati di terzi, era necessa quasi un migliaio di cosiddetti “contrat- ti". Se il cliente rifiutava di accettare, le condizioni di servizio avvertivano che il funzionamento del termostato sarebbe stato seriamente compromesso, perché non sarebbero stati disponibili gli aggior- snamenti necessari ad assicurarne laffi- dabiltiela sicurezza Icapitalisti della sorveglianza vogliono farci credere che la lororotta verso il futuro digitale é irreversibile,manon ecosi ‘capitalist della sorveglianza voglio no fatci credere che la loro rotta verso il futuro digitale ¢ irreversibile, ma non é cosi. Oggi possiamo sorridere dell'inge- nuita di Aware home ma, come un mes- saggioin bottigliaproveniente da ur’epo- ca remota, questo progetto ci dice qual- cosa d'importante. Un tempo eravamoil soggeto della nostra vita, oggi siamo di- ventati un oggetto, Aware home & una testimonianza di quello che abbiamo per- soe che dobbiamo ritrovare: il diitto di sapere e didecidere chi conosce lanostra vitaeil nostrofisturo. Qnestodirittoe sta- toe resta unico possibile fondamento della liberti umana e divuna societa de- moeraticaefficiente. Allafine diottobredel2018Tim Cook, Vamministratore delegato della Apple in undiscorsoal parlamento curopeohade- nunciato il "complesso industriale dei dati” con le ste “riserve di informazioni personali” che servono solo ad “arricchi- rteleaziende che liraccolgono”. Questaé sorveglianza, ha sottolineato, epermette Dasapere Crescita esponenziale nirate della pubblciti online, miliardd dolar 44, Imernazionale 1306 | 10 maggio2019 006 alle aziende “di conoscervi meglio di quanto voi non conosciate voi ste Questa crisié reale. Non @ immaginaria, esagerata o folle. E chi tra noi crede nel ppotenziale benefico della tecnologia non deve mettere la testa sotto la sabbia’. Comlera prevedibile, un po’ di nico scetticismo sulla sincerita del invito di Cook a “non mettere la testa sotto la sabia’ i diffictle non vedercidietro una campagna di marketing per prendere le distanzedalleombrechesisonoallunga- te sul settore teenologico. Altri hanno sottolineatole incongruenze della Apple negli ultimi dieci anni, tra cui un iPhone che usa di base Google search, il salva- taggio dei dati degii utenti su servercine- si la mancanza di trasparenza su molte delle attvita di raccoltae protezione dei dati ¢ vatie altre contraddizioni, Tim Bradshawe Mehreen Khan, due giomali- stidel Financial Times, hanno osservato che perla Appleé pit facile prendere una posizione forte sulla privacy, perché iri- cavidellaxiendadi Cupertino dipendono dalle vendite dei suoi dispositivi e non dalla pubblicita mirata. Icoraggio diparlare Sono ctitiche fondate, main molte perso- neleosservazioni di Cook hao suscita- ‘ton profondo senso di speranza. Final- ‘mente qualcuno del settore deltalta tec- nologiaha avutoil coraggio di parlare, In 46 su 48 importanti sondaggidopinione svolti negli Stati Uniti in Europa trail 2008 ¢ il 2017, maggioranze consistenti dipersone sisonoespressea favore dimi- sure peril rafforzamento della privacy € del controllo degli utenti sui dati perso- nali (ue primi sondaggi hanno dato ri- sultati meno chiari: molti partecipanti hanno risposto che non capivano come e che tipo diinformazioni personal fosse- ro raccolte).Un sondaggio del 2009 mo- strava che quando i consumatori erano informati su come le aziende raccoglie vano idati per personalizzare gliannunci pubblicitari online, nel 73 per cento dei casi negavano il loro consenso alla rac- colta. In un sondageio del 2015 i! 91 per cento degli intervistati ha dichiarato di non essete d'accordo sul fato che la rac- colta d'informazioni personali“all’insa- puta” degli utenti fosse un giusto com- promesso peruno scontosu un prodotto. Disolito le aziende tecnologiche ridi- ‘mensionanoilsignificato diquestirisulta- ti, Per giustificare la situazione attuale, ‘mettonol'aecentosul comportamentore- ale degli utenti sui ricavistrabilianticheproduce. Tuttiricordiamola famosa atza- tadispalle dell'examministratore delega- to di Google, Bric Schmidt, quando nel 2009 disse: “Sec’® qualcosache non vuoi che si sappia, forse faresti meglio a non farla proprio”. Gli esperti definiscono il divariotraatteggiamentie comportamen- 4“ paradosso della privacy”, ma in realta non é un paradosso. Eovvia conseguen- za della lotta tra offerta ¢ domanda, espressa dalla differenza tra quello che il capitalismo della sorveglianza ciimpone quello che vogliamodavvero. Questo divario storicotraoffertaedo- ‘manda ¢ una chiamata alle armi per tutti gliimprenditori che abbiano la lungimi- ranza e la convinzione di resistere alla area. Resistere a capitalismo della sor- veglianza non é semplicemente “la cosa sgiusta da fare”. Ormai chiungue siacolle- gatoa intemet invocauna stradaalterna- tiva verso il futuro digitale, una strada apace di soddistare inostribisogni sen- zacompromettere la nostra privacy, sen- zausurpare le nostre decisioniolimitare lanostra autonomia. Date le orzein gio- co, per costruire un’alternativa serve qualeuno con abbastanza peso commer- Ciale e politico alle spalle. Ed @ qui che potrebbe entrare in gioco Tim Cook. Secondo uno studio sui rendimenti di borsa del 2027, a Apple ha genetato pit profittiper gi investitori di qualsiasialtra azienda statunitense nel novecento. Se Cookvuole dawerodare seguitoa quello che ha dettoa Bruxelles, la sua azienda deve ereare una strada alternativa verso ilfururo digital, riconcitiando il capitali- smo con le persone, Cook ha detto che i presunti coniltt tra privacy e profittio traprivacy e innovazione sonofalse scel- te. infattii modellistorici indicano che le attualiasimmetrie tra offertae doman- da sono il segnale di una straordinaria opportunita per un salto qualitativo nell’evoluzionedel capitalismo. Cisiamo gia trovatisullorlodiun pre cipizio simile aquesto."*Per unpo’ abbia- ‘mo tirato avanti provando a governare ‘una nuova civilth coniveechimetodi, ma dobbiamo cominciare a ricostruire que- sto mondo da capo”, Era il1912 quando ‘Thomas Edison, in una lettera a Henry Ford, spiegd la sua visione di una nuova civilta industriale. Edison temeva che il potenziale dell’industrialismo come agente peril progresso dell umanitafos- se messoinpericolodal poteredei robber barons, i capitalisti senza serupoli, dalleconomia monopolistica al loro ser- vizio. Nella sua lettera denunciava lo “spreco” ¢ la “erucelt’” del capitalismo statunitense. Sig Edison sia Ford avevano capito che l civilta industriale moderna incuiavevano riposto tante speranze sta- vaandando verso un futuro segnatodalla miseria peri pitt dal benessere per po- chi. Eavevanocapitoanche chelamorale dellaciviltaindustriale sarebbe stata mo- dcllata dalle pratiche del capitalismo. bisognava reinventare tutto: nuove tec nologie, si, ma che fossero il rfiesso di nuovi modi di soddisfare ibisogni dele persone; un nuovo modello economico capace di trasformare queste pratiche in profitto;¢ un nuovo contratto sociale ca pace disostenere tutto questo. Icittadini, consumatori, dirigenti, lavoratori, politi i, giusist,studiosi, giornalisti, manager e funzionari pubblicicoinvoltiin questo sforzocollettivostavano facendoun pas- soversoV ignoto, epoca in cui viviamo impone questo stesso tipo di salto creativo versol'ignoto, percambiare la traictoria del futuro digi- tale ¢ riportaria verso le persone. Senza luna rsposta coraggiosa ecreativa,ilcapi- talismo della sorveglianza continuer a riempire il vuoto. Se vogliamo fermarlo, domarlo o magari metterlo fuori legge, abbiamo bisogno di nuove norme, regole forme d’azionecollettiva tagh surapermeccanism specifi. Perquestie per altri mille motivi, invito Tim Cook altri grandi manager ad accettare la sfida diindicarci una nuova strada. Non sarete dasoli, Noi che viviamo in un limbo trala casaeTesiliononmetteremola testasotto Ja sabbia, La battaglia per il futuro del umanita appartiene atutt. # faa LAUTRICE Shoshana Zuboffinsegna smminiserazione aziendale alla Harvard business school. sao ‘ultimo ibe, capizalimo dela sorvegianza. It fiuro de'umanita nena dei nuov potri, ‘sci in taliailx0 ttobre 2019, pubblicata da Liss University Press. Internazionale 4306 | 10 maggio2019 4.5