Manipolazione, Facebook e consapevolezza

Pagina pubblicata in data 16 agosto 2022
Aggiornata il 17 agosto 2022
Tempo di lettura: il tempo necessario a capire le cose

Nell'articolo "Smartphone distopia", che ho pubblicato l'anno scorso, ho presentato la figura di Roger McNamee, il quale ha iniziato la sua carriera di investitore nella Silicon Valley nel lontano 1982.

È stato uno dei primi investitori in Facebook e consulente di Mark Zuckerberg. È l'autore del bestseller del New York Times "Zucked: Waking up to the Facebook Catastrophe".

Anni fa McNamee ha intrapreso una vera e propria missione per aiutare Facebook a cambiare la propria cultura aziendale, il modello di business e gli algoritmi.

Fin dai primi momenti in cui ha iniziato la sua collaborazione con Zuckerberg, lui e "innumerevoli" altri, hanno fatto notevoli pressioni sul fondatore di Facebook e sul direttore operativo Sheryl Sandberg per cambiare la filosofia aziendale di Facebook.

Confronti personali in privato. Dibattiti in pubblico. Ha scritto sul TIME nel 2019 esortando Facebook e la Silicon Valley ad adottare una tecnologia guidata dall'uomo, piuttosto che una tecnologia guidata da algoritmi. Ma non è successo niente.

La scelta di Frances Haugen di raccontare la propria storia ha cambiato le regole del gioco. Le sue rivelazioni hanno trasformato la "conversazione" sulla riforma tecnologica in un vero e proprio terremoto, che ha ottenuto molto più di quello che McNamee e gli altri sono riusciti a fare in tanti anni.

I documenti che la Haugen ha fornito al Wall Street Journal, e che hanno dato vita all'inchiesta "Facebook Files", hanno confermato che i "danni" del modello di business di Facebook (o più precisamente di Meta) non sono un incidente, ma piuttosto l'inevitabile risultato di un "progetto pericoloso".

In questi anni la politica, la classe intellettuale ed i media dei Paesi occidentali hanno sottovalutato la "minaccia" rappresentata da Facebook, accettando l'assunto che lo scopo del social network era ed è solo quello di connettere le persone in tutto il mondo.

È incredibile come la "profezia" contenuta nel libro "The Circle", da cui è stato tratto anche un film con Tom Hanks, si sia praticamente svelata davanti agli occhi di tutti noi negli ultimi anni.

Facebook, o meglio Meta, non cambierà la sua politica aziendale spontaneamente. Il successo che ogni hanno riscontra l'azienda di Menlo Park ha tutti gli interessi a mantenere l'attuale rotta.

Una visione cinica del mondo può portare a pensare che le democrazie occidentali sono oramai "incapaci" di tenere a freno, di controllare, l'operato di un'azienda delle dimensioni di Meta. La realtà è che pochi al "Congresso" (statunitense) hanno una chiara comprensione del percorso normativo da seguire per controllare l'operato delle multinazionali ed in particolari dei giganti del digitale.

Lo stesso vale per il parlamento italiano. Il dibattito è in corso, ma per il momento più che ragionare su una "web tax" non è andato oltre.
L’Italia, a dire il vero, è stata fra le prime Nazioni a muoversi su questo tema, approvando già, nel corso della Legge di Bilancio 2018, una "web tax", che però è rimasta solo sulla carta per mancanza dei decreti attuativi.
Con la Legge di Bilancio 2019 è stata poi avanzata una nuova soluzione (che si sarebbe dovuta concretizzare, con Decreto Mef, entro il 30 aprile 2019, ma che poi non ha visto la luce).

Nelle differenti audizioni presso il "Congresso" la Haugen ha espresso empatia per il fondatore di Meta, Mark Zuckerberg, ma non ha esitato a notare il fallimento morale di un CEO che dà priorità ai profitti rispetto al bene pubblico. Da un lato sono d'accordo con questa accusa, ma dall'altro lato è da ingenui pensare che una realtà imprenditoriale come Meta non si ponga come obiettivo quello di ridistribuire profitti agli azionisti.

CEO come Zuckerberg affermano di avere un preciso mandato. Quello di massimizzare il valore per gli azionisti. Si tratta di una sorta di mantra, che li porta a giustificare le proprie azioni. Un po' come quando qualcuno "giustifica" il proprio comportamento con la frase "sto solo seguendo gli ordini".

Quindi per certi aspetti il comportamento di Zuckerberg è quello che ci si aspetterebbe da un CEO. Perché allora tanto clamore?

C'è una cosa che differenzia Zuckerberg da molti altri CEO, ed è la portata dei "danni" che la sua azienda può provocare. Meta, attraverso Facebook, Instagram e WhatsApp riesce ad esercitare un controllo quasi assoluto dei comportamenti dei propri "utenti/clienti".

Data la cultura del business negli U.S.A. c'è da aspettarsi che fin troppi CEO invidiano il suo potere e la sua posizione, e che messi nei suoi panni si comporterebbero nello stesso modo.
E questo purtroppo, dobbiamo ammetterlo, porta molte aziende a guardare al modello di Meta come un modello da imitare più che da condannare.

Il capitalismo della sorveglianza

Una parte enorme dell'economia statunitense opera secondo i dettami di un sistema che Shoshana Zuboff dell'Università di Harvard chiama "capitalismo della sorveglianza" (puoi approfondire l'argomento nel mio articolo "Il capitalismo della sorveglianza").

Analogamente alle compagnie petrolifere, i "capitalisti della sorveglianza" rivendicano i diritti di proprietà su ogni dato che toccano, compresi i dati derivati dagli spazi pubblici e dall'"esperienza" degli utenti, inclusa la proprietà delle "idee" altrui.

L'economia del "capitalismo della sorveglianza" deriva dalla conversione dell'esperienza umana in dati, dalla costruzione di un modello comportamentale per ogni essere umano dai dati che lascia in rete, e dall'uso di questi modelli per prevedere e influenzare il comportamento delle persone.

Le aziende di tutto il mondo sono ovviamente disposte a pagare sommo consistenti per poter fruire di queste previsioni.

I "capitalisti della sorveglianza" lavorano sui propri algoritmi per manipolare le scelte, e talvolta il comportamento, degli utenti. Così da aumentare l'appetibilità economica dei propri modelli comportamentali. È un business incredibilmente redditizio. Il motivo? Perché gli esseri umani prendono decisioni, e la gran parte delle volte secondo schemi istintivi "prevedibili" (puoi leggere a riguardo gli articoli "Una grande opportunità... purtroppo", "Ehi... prestami un'attimo della tua attenzione", "Economia dell'attenzione: miliardi di euro" e "E i profeti dell'attenzione parlarono").

Tutto ciò che facciamo su uno smartphone, ogni transazione finanziaria che facciamo, ogni viaggio, ogni prescrizione e test medico, ogni azione che intraprendiamo su internet o nelle app viene monitorata, e la maggior parte dei dati provenienti da questa attività di monitoraggio è messa in vendita nel "mercato dei dati".

Le aziende utilizzano l'apprendimento automatico per trarre dai dati dei modelli di comportamento e l'intelligenza artificiale utilizza questi modelli per migliorare le proprie capacità e dare previsioni di comportamento sempre più precise.

Nessuno in questo processo si preoccupa dell'impatto della "manipolazione" sugli esseri umani. L'unico obiettivo delle aziende è massimizzare il valore per gli azionisti.

Un pericolo reale

L'autonomia personale e la democrazia sono sotto attacco da parte del "capitalismo della sorveglianza". Nonostante questo, il settore dell'industria tecnologica di oggi è in gran parte non regolamentato. Questo ha permesso ai giganti della tecnologia di comportarsi a tutti gli effetti come veri e propri Governi, non eletti.

I loro sistemi di comunicazione sono diventati centrali per il nostro stile di vita. Amplificando contenuti che scatenano paura e indignazione perché così facendo massimizzano i profitti. La paura e l'indignazione alimentano la rabbia, una rabbia che mina la democrazia (ne abbiamo visto le conseguenze con l'assalto a Capitol Hill del gennaio 2021).

Ogni volta che Facebook è messa sotto pressione perché metta in atto un cambiamento, fa qualcosa che "apparentemente" sembra utile ma che nella sostanza non lo è.

L'esempio più significativo è il cambiamento effettuato all'algoritmo nel 2018, che ha ridotto notevolmente la diffusione delle news, dei giornali, a favore dei post di amici e familiari.

Facebook ha affermato che il cambiamento avrebbe aumentato l'interazione fra gli utenti, ma ciò che ha fatto in realtà è stato aumentare il coinvolgimento dei post di incitamento all'odio, della disinformazione e delle teorie della cospirazione.

A Facebook piace spostare la responsabilità sugli altri, inclusi gli utenti, ma gli utenti non possono essere biasimati per i danni causati dalla piattaforma, né ci si dovrebbe aspettare che risolvano questo problema.

Innumerevoli famiglie, piccole imprese, professionisti, artisti, tutti "dipendono" dalle tante "cose buone" che Facebook non hanno bisogno del capitalismo della sorveglianza. Purtroppo senza di esso Facebook sarebbe molto meno redditizio.

Abbiamo bisogno di una legislazione capace di affrontare tre problemi correlati: sicurezza, privacy e concorrenza.

La triste verità è che l'industria tecnologica non regolamentata produce prodotti non sicuri. Quando le industrie alimentari e mediche non erano sicure, il Congresso degli Stati Uniti creò la "Food and Drug Administration". Quando le compagnie petrolchimiche scaricavano rifiuti tossici indiscriminatamente, il "Congresso" approvò una serie di leggi specifiche.

Come oggi le aziende tecnologiche affermano che limitazioni legislative impedirebbero alle aziende di crescere, così le industrie del passato "colpite" da provvedimenti legislativi affermarono che non sarebbero state in grado di operare. Sappiamo che non è stato così.

Oggi abbiamo bisogno di un ente come una la FDA che controlli tutti i prodotti tecnologici, per impedire che tecnologie dannose arrivino sul mercato. Un ente capace di garantire l'immissione sul mercato di prodotti qualificati, capace di stabilire standard di sicurezza, di effettuare verifiche di sicurezza annuali e richiedere certificazioni per ogni prodotto e/o servizio. Ma soprattutto un ente capace di imporrebbe enormi sanzioni economiche.

La Commissione Europea ha già multato in passato Meta, ad esempio quando ha acquistato WhatsApp. La Commissione Europea come il Congresso degli Stati Uniti deve inoltre proteggere la privacy delle persone da una "sorveglianza implacabile".

I Paesi occidentali devono quindi iniziare a riflettere sulle implicazioni del "capitalismo della sorveglianza" ed iniziare a contrastarlo e a controllarlo. Il primo passo sarebbe quello di impedire l'uso da parte di terzi dei dati sensibili degli utenti, come quelli relativi alla salute, alla posizione, alle transazioni finanziarie, e così via.
In questa logica trova senso la posizione del Garante della Privacy, che proprio questa estate ha accesso il dibattito sull'uso di Google Analytics.

L'interruzione di sei ore di Facebook, Instagram e WhatsApp avvenuto lo scorso 4 ottobre 2021, ha messo in evidenza gli aspetti negativi della dipendenza assoluta dai servizi offerti da Meta.

Il ruolo svolto nella Brexit, il ruolo svolto nelle elezioni statunitensi del 2016, nella pulizia etnica in Myanmar o nel terrorismo a Christchurch e Pittsburgh. Quando nel 2020 è stato utilizzato dai suprematisti bianchi per diffondere l'odio dopo l'omicidio di George Floyd.
Il grande ruolo che ha svolto nella disinformazione legata alla pandemia dettata dal COVID-19 e poi nel 2021 con i vaccini.

Nonostante questo, Zuckerberg continua ad affermare che la sua società non ha fatto nulla di sbagliato. Quando è stato chiamato a rispondere dei comportamenti dell'azienda al Senato degli Stati Uniti d'America, ha affermato:

"Sono sicuro che molti di voi hanno trovato la recente copertura mediatica difficile da leggere perché semplicemente non riflette l'azienda che conosciamo. Ci preoccupiamo profondamente di questioni come la sicurezza, il benessere e la salute mentale. È difficile vedere una copertura mediatica che non travisa il nostro lavoro e le nostre motivazioni. Al livello più elementare, penso che la maggior parte di noi semplicemente non riconosce la falsa immagine dell'azienda che viene dipinta dai media."

Tutto questo può essere vero nella mente di Mark Zuckerberg, ma il modello di business di Meta suggerisce che la crescita e i profitti sono gli unici fattori che guidano l'azienda.

Sulla base delle prove degli ultimi anni, si potrebbe dire che le piattaforme social di Meta stanno seriamente mettendo in difficoltà la democrazia e l'autodeterminazione dei popoli occidentali per una questione di mero profitto economico.

È una battaglia che probabilmente Meta ha già vito, a meno che i Governi non siano in grado fin da ora di prendere delle decisioni efficaci.

Una battaglia che abbiamo iniziato a perdere nel 2016. Ma è anche vero che noi utenti abbiamo il "potere" di invertire le sorti della battaglia. Gli utenti hanno il "potere" di determinare le scelte dei giganti dell'informatica attraverso un comportamento consapevole.

Dobbiamo prendere consapevolezza dell'importanza dei nostri dati, di quanto sia importante adottare un uso "consapevole" delle piattaforme di social networking. A questo punto la domanda è: abbiamo il "coraggio" di prendere consapevolezza e di usarla?

Dott. Francesco Russo