unAbbiamo perso il conto di libri, documentari e articoli di giornale che ci parlano veramente delle minacce algoritmiche per la società, come i pericoli dei pregiudizi tecnologici e la manipolazione dell’opinione sui social network. Gli scandali degli ultimi tre anni spiegano questo post miserabile e generalizzato. Il caso Cambridge Analytica nel 2018 ha segnato l’inizio di un’era di sfiducia nella scienza algoritmica, una disciplina relativamente nuova, con l’uso illegale di dati da milioni di utenti di Facebook. Non dovremmo, tuttavia, entrare nel regno di Manoe, buono o cattivo: la realtà è più sottile.
Molti scienziati e ingegneri si organizzano per avvertire di deviazioni da algoritmi innocui se usati bene o applicati in modo diverso. Gli strumenti di riconoscimento facciale sono particolarmente intimidatori. È ampiamente controverso, in quanto vi è un alto rischio di pregiudizi algoritmici che fanno sì che questi strumenti non vengano riconosciuti (o sottostimati) dalle persone di colore o dalla sorveglianza di massa dei cittadini. Questo è esattamente ciò che gli scienziati Joy Bulamoyne, Cathy O’Neill e Meredith Brossard hanno confermato nel documentario. Bias codificato. Queste tecnologie di riconoscimento facciale si basano su algoritmi di identificazione delle immagini utilizzati altrove nel contesto di molte altre applicazioni innocue. Una foto o un riconoscimento video del livello di maturazione del frutto sulla linea di produzione è uno di questi.
Leggi ancheAurélie Jean-Gafam: Siamo il tallone d’Achille
Effetto bolla
Gli algoritmi di classificazione consistono nel classificare gli individui per categoria in base a somiglianze statistiche nel loro comportamento e / o dati personali. È probabile che a qualcuno della categoria piaccia il contenuto che piace ai membri della classe. Potrebbe trattarsi di una serie su un video on demand, un capo di abbigliamento su un sito di e-commerce o un post su Twitter. Abusati, questi algoritmi possono costruire categorie rigorose che bloccano gli utenti in cerchi opachi per osservare il mondo e le opinioni. Non vedremo mai più ciò che le persone diverse da noi vedono, apprezzano o consumano. L’attivista statunitense Ellie Barries riferisce sugli effetti della bolla.
Nel documentario Un dilemma socialeL’ingegnere Tristan Harris condivide la sua esperienza in Google, credendo che gli algoritmi minaccino la democrazia. Ma questi algoritmi, se usati correttamente, consentono anche di valutare la percentuale di successo del trattamento medico di un paziente o di inviare articoli pertinenti al sito web della tua rivista.
Sebbene sia essenziale e nell’interesse pubblico continuare a mettere in guardia sui rischi dell’algoritmo, è anche importante articolare ciò che può essere fatto bene con questi strumenti. È per questo motivo che il prossimo regolamento europeo su questi temi dovrebbe deviare dalla posizione conservatrice e manichea su questa scienza. E diventare un riferimento globale secondo una visione accurata e realistica … non una distopia.
“Appassionato di alcol. Piantagrane. Introverso. Studente. Amante dei social media. Ninja del web. Fan del bacon. Lettore”.