Quando i dati discriminano. Bias e pregiudizi in grafici, statistiche e algoritmi

Al giorno d’oggi, quando si vuole dare l’idea di essere obiettivi, perché ci si prefigge di essere incontestabili, può scappare di bocca un’espressione diventata d’uso comune: «Lo dicono i dati». Ma siamo certi che quei dati così allettanti, che confermano il nostro giudizio, non nascondano un «pregiudizio»? Quando leggiamo un articolo online o apprezziamo un’infografica colorata bisognerebbe chiedersi prima di tutto: chi trae beneficio dalla raccolta, dall’analisi e dalla rappresentazione di quel dato, e chi può esserne invece discriminato? Donata Columbro suggerisce come, universalizzando e standardizzando concetti come quello di «normalità», si sia in passato più escluso che incluso, creando una rappresentazione del mondo che ha eliminato le anomalie. Stabilire però chi è dentro o fuori le statistiche non è un atto neutrale, ma una scelta, e come tale andrebbe insegnata e indagata. Solo una persona consapevole che i dati sono costrutti umani e sociali può impedire che siano usati per discriminare, invece che per lottare contro le disuguaglianze.