Appunti presi leggendo un libro recente sulla sorveglianza totale e planetaria messa in atto dalle aziende che detengono il monopolio del web.
Il libro
Shoshana Zuboff, Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri, traduzione di Paolo Bassotti, Luiss University Press, Roma 20232 (ed or. The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power, Public Affairs, New York 2019). È suddiviso in Introduzione (cap. 1), Prima parte (capp. 2-6), Seconda parte (capp. 7-11), Terza parte (capp. 12-17), e Conclusioni (cap. 18), Ringraziamenti, note per un totale di 622 pp. Non c’è un indice dei nomi. L’edizione cartacea in paperback costa 25 euro, il prezzo dell’ebook è 14,99 euro.
Shoshana Zuboff viene presentata come docente alla Harvard Business School dal 1981, e autrice del libro In the Age of the Smart Machine, che nel 1988 predisse l’importanza dell’intelligenza artificiale nella società.
Di seguito un riassunto per punti, molto sintetico rispetto alla mole del libro; alla fine aggiungo alcune mie considerazioni.
Il tema, le fonti, le argomentazioni
Il capitalismo della sorveglianza è costituito da una serie di processi automatizzati che si appropriano dell’esperienza umana, trasformandola in dati, e tutto ciò a nostra insaputa e senza il nostro consenso. Il libro riguarda in particolare Google, Facebook e Microsoft. Le fonti sono brevetti, discorsi, conferenze, video, programmi delle aziende, oltre a 52 interviste a data scientist di 19 aziende diverse. [introduzione, cap. 1]
La prima parte del libro dimostra che il capitalismo della sorveglianza è stato costruito intenzionalmente da determinati gruppi di persone.
La seconda parte mostra come il capitalismo della sorveglianza stia passando dal mondo online a quello reale.
La terza parte esamina l’ascesa di un potere che annulla qualsiasi possibilità di rifugio.
Nelle Conclusioni l’A. spiega perché il capitalismo della sorveglianza si distacca dalla storia del capitalismo.
L’invenzione del capitalismo digitale
Nel 2002 Google cominciò a trasformare i segnali sottesi a ogni azione online in dati che rivelano il comportamento umano e prevedono comportamenti futuri, in modo da inviare un determinato messaggio a una determinata persona al momento giusto, a scopi commerciali, senza la consapevolezza, la conoscenza e il consenso dell’utente. Nel 2004 Google decise unilateralmente di scansionare la corrispondenza dei suoi utenti per generare inserzioni pubblicitarie; nel 2007 Facebook decise unilateralmente di consentire a terzi di tracciare le attività degli utenti (per esempio acquisti). [cap. 2]
Noi siamo gli oggetti dai quali Google estrae le materie prime per fabbricare previsioni, da vendere ai suoi clienti. La segretezza è un tratto fondamentale. [cap. 3]
I fondatori di Google hanno proclamato il diritto ad agire senza vincoli legislativi. Sono riusciti a farlo grazie a un contesto favorevole (le politiche neoliberiste). Importante spartiacque fu la risposta agli attacchi terroristici dell’11 settembre 2001. Da allora le agenzie di intelligence usano i sistemi di Google. L’A. parla di “affinità elettive” tra Google e servizi segreti e apparati governativi.
Il capitalismo della sorveglianza è utilizzato nelle campagne elettorali (come per Obama). Negli anni di Obama ci fu un intenso passaggio di personale da Google alla Casa Bianca e viceversa. Infine Google si è infiltrata nel mondo della ricerca universitaria. [cap. 4].
Nel 2007 Google lanciò Street View, un’operazione di mappatura delle strade: ancora una volta senza chiedere il permesso e aspettando che la protesta e la resistenza (di cui il libro documenta molti casi in tutto il mondo) si esaurissero. In quell’occasione le auto di Street View raccolsero segretamente dati personali dalle reti wi-fi private.
Nel 2010 Facebook introdusse il pulsante LIKE, che permise di sorvegliare gli utenti e raccogliere dati comportamentali; Facebook ammise inoltre di scansionare i messaggi privati. [cap. 5]
Come nella Conquista spagnola nelle terre americane, anche Google, per impossessarsi dell’esperienza umana, si affida a dichiarazioni. Alla fine ci dicono che tutto ciò è inevitabile. [cap. 6]
L’avanzata del capitalismo della sorveglianza
Oggi il capitalismo della sorveglianza estende le sue operazioni dal mondo virtuale al mondo reale, tracciando continuamente individui e gruppi mediante dispositivi che il singolo si attacca direttamente sulla pelle (un tatuaggio, il trucco, un cerotto), proliferando sensori ovunque (occhiali, letto d’ospedale). [cap. 7]
Esempi di sensori: aspirapolvere della iRobot, il letto Sleep Number, i termostati Nest. Android (inizialmente indipendente, poi acquisito da Google) localizza il dispositivo anche quando la geolocalizzazione è disabilitata, e perfino quando si toglie la SIM. [cap. 8]
Google vuole dirvi che cosa volete prima che lo domandiate: lo scopre attraverso il tono di voce, la struttura del discorso (vocabolario, pronuncia, intonazione, cadenza, inflessione, dialetto). Le smart tv Samsung sono in grado di registrare cosa viene detto da vicino; giocattoli della Genesis Toys connessi a internet coinvolgono bambino e bambina in conversazioni; un microchip prodotto dalla Emoshape e inserito in qualunque cosa è in grado di classificare 12 emozioni diverse. L’azienda di consulenze Cambridge Analytica afferma di possedere quattro o cinquemila informazioni su ogni singolo adulto negli Stati Uniti, grazie a Facebook, e dichiara di aver influenzato le campagne per la Brexit e per Trump. [cap. 9]
Sensori collocati ovunque possono registrare un comportamento e cambiare il contesto in tempo reale (bloccarti l’auto se non sei in grado di guidare), oppure attraverso il contagio emotivo (indurre gli individui a provare emozioni senza che ne siano consapevoli). [cap. 10]
A differenza del vecchio capitalismo che prevedeva relazioni contrattuali, il capitalismo della sorveglianza si sbarazza del contratto, pratica sociale attraverso cui da millenni l’umanità crea la possibilità di un’azione collettiva rivolta a un futuro condiviso. Il non-contratto impone un potere unilaterale, e ci toglie il diritto al futuro.
Siamo dinnanzi a forze che minacciano di distruggere la nostra stessa umanità. L’unica azione possibile è “un ritorno allo stupore e all’indignazione”. [cap. 11]
Modificare, predire, monetizzare, controllare
Quello che l’A. chiama “potere strumentalizzante” si basa sul “comportamentismo radicale” di Burrhus Frederic Skinner, secondo cui è il contesto a determinare il comportamento: noi non sappiamo come questo possa avvenire e perciò parliamo di “libertà”. Il comportamento umano è prevedibile e può essere conosciuto e previsto scientificamente: oggi la tecnologia è in grado di farlo. [cap. 12]
Quello che l’A. chiama il Grande Altro detiene i mezzi di modifica del comportamento: piega gli individui alle leggi imposte dal capitale. Il Grande Altro sostituisce i rapporti sociali.
In Occidente la sorveglianza è esercitata dai grandi gruppi del capitalismo, dei quali lo Stato si serve, per esempio per rispondere al terrorismo. In Cina invece la sorveglianza è attuata dal governo: uno degli strumenti in fase di attuazione è un sistema che valuta individui (ma anche imprese) su vari aspetti della loro condotta e della reputazione loro e di quella delle persone che frequentano. Chi ottiene punteggi alti riceve ricompense, per esempio possibilità di ottenere finanziamenti o noleggiare una macchina senza caparra; per chi ha punteggi bassi sono previste punizioni, per esempio impossibilità di acquistare un biglietto aereo o di treno, o di acquistare o vendere una casa. [cap. 13]
Gli scienziati di Microsoft lavorano per spostare il controllo automatizzato preventivo dal network alle relazioni sociali, per monitorare costantemente i dati comportamentali di una persona. Quando individua una qualche variazione (una persona che di solito parla sotto voce a un certo punto si mette a urlare, oppure una deviazione statistica) il sistema può intervenire. Lo scopo è uniformare tutti i comportamenti entro parametri prestabiliti. [cap. 14]
Cellulari e dispositivi indossabili (il badge nei luoghi di lavoro) intendono costruire una società in cui ci conformiamo a vicenda, mediante una pressione sociale a partire dalle piccole transazioni tra individui, soprattutto sfruttando i rapporti tra persone che hanno tra di loro legami forti e interconnessi. Obiettivo: una società governata da un computer; sfruttare, controllare e manipolare le reti sociali. [cap 15]
Erving Goffman presumeva l’esistenza di un retroscena dove trovare il vero sé. “Il nostro retroscena si sta restringendo. Non ho quasi più posto per essere davvero me stessa. Anche quando cammino da sola, e penso di essere nel retroscena, accade qualcosa, ad esempio sul mio telefono compare una pubblicità o qualcuno fa una foto, mi rendo conto di essere sulla ribalta, e tutto cambia” (cit. fine capitolo) [cap. 16]
Importante capire quanto grave sia il progetto degli architetti della sorveglianza: “la fiducia sarà soppiantata dall’indifferenza del non-contratto, il bisogno di connessione porterà gli individui della seconda modernità a trasformare le proprie vite in strumenti per gli scopi di altre persone, il sé verrà saccheggiato, il giudizio morale autonomo verrà represso perché il controllo non incontri ostacoli, l’attivazione e la modifica dei comportamenti soffocheranno la volontà di volere, la voce in prima persona sarà abbandonata, e saranno distrutti la politica e i rapporti sociali basati su ideali vecchi e ancora irrealizzati, come l’autodeterminazione e la legittimità dell’autorità e del governo democratico.” (p. 503) [cap. 17]
Conclusioni
Dobbiamo opporci al capitalismo della sorveglianza rafforzando la democrazia. Non possono appropriarsi delle nostre vite; non possono trasformare il riconoscimento – la sensazione di familiarità che proviamo con i nostri cari – nel riconoscimento facciale. «“Basta!” Questa dev’essere la nostra dichiarazione» (p. 539).
Pensieri leggendo il libro
1. Ho letto il libro con crescente angoscia, culminata quando sono arrivato ai giocattoli connessi a internet.
2. Riflettendo sulle pagine in cui l’autrice mostra quanto la tecnologia della sorveglianza dipenda dalle scienze sociali insegnate nelle università, pensavo che la critica non deve limitarsi a Google, ma deve mettere radicalmente sotto accusa i saperi sul comportamento umano che consentono e legittimano la sorveglianza.
3. Fin dalle prime pagine pensavo alle parole di Andrea Caffi quando, negli anni Trenta e Quaranta del Novecento, mostra come i grandi cambiamenti della storia sono nati da rapporti sociali spontanei ed egualitari tra spiriti liberi, che non volevano cambiare le cose ma trasformare i modi di pensare e i costumi. E pensavo: l’insegnamento libertario di Caffi è ancora attuale. Quando però sono arrivato all’ultima parte, in cui l’A. spiega come il capitalismo della sorveglianza sta impadronendosi non più solo del web ma delle reti sociali, soprattutto dei legami più forti tra persone vicine e dei rapporti faccia a faccia, mi sono chiesto: questi scienziati conoscono la forza di resistenza e di cambiamento che hanno le piccole reti sociali, ed è per questo che vogliono prenderne possesso? E subito dopo: sono ancora possibili oggi gli esempi storici di cui parla Caffi (salotti, club, corrispondenza da una parte all’altra dell’Europa)? Con quali modalità? Come deve cambiare l’associazionismo, per esempio?
4. L’A. tiene distinte due questioni: difesa della democrazia (senza per altro definirla, visto che Google si è sviluppato in un sistema che consideriamo democratico), e difesa della privacy: da una parte un insieme di leggi che limitano il potere di Google, dall’altro il diritto alla privacy e agli affetti. Bello quando dice: non lasciamo che trasformino la familiarità che proviamo con i nostri cari nel riconoscimento facciale. A me sembra però che le due questioni siano la stessa, e che alla base della democrazia ci sia la difesa delle reti sociali: perché è all’interno di rapporti sociali spontanei e gratuiti (o che ci si aspetta che siano tali) che si formano l’esercizio della critica e il libero scambio di opinioni.
Nota. Il titolo riprende la frase “Today’s selfie is tomorrow biometric profile” (allestimento al Victoria and Albert Museum, Londra, 2018), parte del Think Privacy Project dell’artista e attivista Adam Harvey, avviato nello store del New Museum for Contemporary Art di Manhattan nel 2016.
Lascia un commento