La fallacia dei big data

Pagina pubblicata in data 2 aprile 2019
Aggiornata il 27 gennaio 2023
Tempo di lettura: il tempo necessario a capire le cose

Negli articoli "Big Data per creare valore" e "Vivere in un mondo di algoritmi" mi sono concentrato sull'importanza dei Big Data per le applicazioni dell'Intelligenza Artificiale nella vita di tutti i giorni.

I big data sono molto importanti per sviluppare le analisi in previsione della stesura e dell'attuazione di una strategia di marketing. Per poterli utilizzare al meglio è fondamentale porsi una domanda. Una domanda né banale né scontata: i dati possono contenere pregiudizi? o condurre in errore?

Si tratta di una domanda molto importante da tenere sempre presente, visto il ruolo che l'Intelligenza Artificiale sta assumendo nella nostra quotidianità. A tal punto che oggi lo sviluppo degli algoritmi per l'analisi dei Big Data è un'attività essenziale in molti ambiti, incluse il mondo del marketing e della comunicazione.

Gli algoritmi sono sviluppati per poter utilizzare una quantità ragguardevole di dati, con lo scopo di apprendere degli schemi ricorrenti e quindi poter determinare dei risultati di comportamento.

Questa attività permette di creare dei modelli, degli schemi, che possono dare vita a regole capaci di aiutare a prevedere il comportamento delle persone, e quindi nel caso dello sviluppo di una strategia di marketing, dei consumatori.

Tutto questo apparentemente sembra costituire un'arma potente ed infallibile nelle mani di qualsiasi imprenditore. Ma la realtà deve fare i conti con un aspetto fondamentale.

I software, gli algoritmi, elaborano le informazioni dai dati che acquisiscono. I dati quindi sono il nutrimento senza il quale gli algoritmi non potrebbero funzionare. Ma purtroppo i dati non sono ne universali ne soprattutto obiettivi.

Nel 2017 Shreya Shanka e i suoi colleghi del Google Brain Team, hanno mostrato che le banche dati fornite agli algoritmi rappresentano solo alcune popolazioni, di solito quelle occidentali.

Sulla piattaforma ImageNet, largamente utilizzata perché gratuita, si ha accesso a 14 milioni di immagini. Il 45 per cento di queste immagini rappresenta gli Stati Uniti, il 6,2 per cento l'italia e solo l'1 per cento la Cina e il 2,1 per cento l'India, i due paesi più popolosi del pianeta. Una sproporzione di informazioni che se fosse analizzata esclusivamente attraverso gli algoritmi porterebbe a risultati errati e fuorvianti.

Nel 2017 i ricercatori della Princeton University hanno mosrato su "Science" che un sistema artificiale che impara dal linguaggio umano ne assorbe e reitere i cliché. E non solo internet, ma anche libri e giornali riflettono molti di questi stereotipi (per approfondire puoi leggere "Biased bots: Artificial-intelligence systems echo human prejudices").

I robot, le macchine, i software, qualsiasi sia il dispositivo gestito da un'intelligenza artificiale, replicano pedissequamente gli schemi che imparano. Ma essendo questi schemi alimentati da dati che spesso sono parziali, tendono a "impregnarsi" degli stereotipi culturali, che ripropongono e perpetuano.

Ne è un esempio il caso del 2018 dell'Unione americana per le libertà civili (ACLU). La quale ha presentato i volti dei membri del Congresso al software Rekognition, sviluppato da Amazon. Rekognition ha individuato in 28 membri del Congresso persone arrestate per aver commesso un crimine. Circa il 40 per cento dei riconoscimenti sbagliati riguardava persone di colore.

È questo di fatto il tema trattato in modo (a mio parere) estremante creativo ed elegante nella settima puntata intitolata "Rm9sbG93ZXJz", dell'undicesima stagione, della serie televisiva The X-files dedicata all'intelligenza artificiale.
In cui i due famosi agenti dell'FBI, protagonisti di avventure al di fuori dell'ordinario, vivono una "normale" ma molto particolare serata in cui la tecnologia che ci circonda fa emergere il lato più negativo del suo massiccio impiego.
Ed è proprio verso al termine della puntata che le "macchine" informano i due protagonisti che imparano dall'uomo, ed è il personaggio di Fox Mulder che pronuncia le seguenti parole: "siamo stati pessimi maestri".

In conclusione se i dati sono preziosi e fondamentali, gli algoritmi che gli elaborano altrettanto importanti ed i computer dotati di "intelligenza artificiale" cioè di una capacità di calcolo in grado di elaborare l'enorme mole dei big data attraverso gli algoritmi, è altrettanto vero che l'esperienza umana (quella che non si può trasmettere in alcun modo, ma che si può solo apprendere con il tempo) è altrettanto importante per evitare di commettere errori davvero grossolani nell'interpretazione dei dati.

Dott. Francesco Russo