di Rebecca Saccardi
Oggi sentiamo spesso parlare di algoritmi, soprattutto nel contesto digitale: essi sono presenti nei motori di ricerca, dove organizzano i risultati delle nostre ricerche; sui social media, dove determinano gli annunci pubblicitari che compaiono sulle nostre bacheche; o sulle piattaforme streaming, dove ci consigliano musica e film. Ma gli algoritmi, cosa sono esattamente?
Si tratta di sequenze ordinate e precise di istruzioni progettate per risolvere un problema o eseguire compiti particolari. Il loro impatto, però, va ben oltre la rete.
In effetti, l’utilizzo degli algoritmi è diffuso in una vasta gamma di settori. Essi possono elaborare immense quantità di dati ed eseguire calcoli complessi a velocità sorprendenti, consentendo alle macchine di prendere decisioni migliori e di ottimizzare la produttività. Questo enorme sviluppo tecnologico genera ovviamente anche delle preoccupazioni circa l’affidabilità di tali sistemi automatizzati.
Una di queste preoccupazioni riguarda sicuramente la possibilità che l’intelligenza artificiale possa generare, attraverso gli algoritmi, discriminazioni nei confronti di alcune categorie.
Quando parliamo di algoritmi e IA, infatti, occorre tenere a mente un’importante verità: nella maggior parte dei casi essi non sono altro che la risposta ad un comando. Ciò significa che nonostante siano tecnicamente degli strumenti neutri e imparziali che apparentemente si affidano a calcoli oggettivi, sono comunque creati dagli umani e i risultati che producono dipendono ovviamente dai dati che assimilano. Essi tendono inevitabilmente a replicare gli atteggiamenti dell’uomo, compresi dunque anche i suoi difetti. Questa tendenza non solo non incoraggia lo sviluppo della società, ma addirittura la intrappola nei suoi stereotipi e pregiudizi.
Quando i sistemi automatizzati perpetuano queste disparità di trattamento sorge un grave problema, specialmente quando esse sono ingiustificate e dipendono da fattori come la razza, il sesso o altri elementi legalmente tutelati.
Tra i casi più rilevanti di discriminazione algoritmica, va ricordato un software utilizzato dalla giustizia penale americana, COMPAS, che grazie ad un algoritmo predittivo, si occupava di stimare il rischio di recidiva degli imputati. In particolare tale rischio veniva calcolato attraverso l’analisi di alcuni parametri, come i precedenti giudiziari del reo ed altri fattori poco trasparenti in quanto protetti da copyright.
È in tale contesto che ProPublica, organizzazione di giornalismo investigativo, ha riscontrato nel software errori significativi, dimostrando come questo avesse dei forti pregiudizi nei confronti di una categoria particolare: quella degli afroamericani.
Gli algoritmi discriminatori trovano poi applicazione in altri contesti, come nella finanza, dove i credit scoring algoritmici influenzano le decisioni sull’erogazione di prestiti e persino nel mercato del lavoro, dove vengono usati per valutare le performance professionali.
A livello europeo, come nel resto del mondo, la legislazione per limitare o contrastare il fenomeno della discriminazione algoritmica sta lentamente prendendo forma.
Il recente Regolamento sull’IA ha proposto ad esempio un primo quadro giuridico che mira a regolamentare l’utilizzo dei sistemi di intelligenza artificiale attraverso una loro classificazione basata sul rischio, affrontando anche il problema di un loro possibile utilizzo con intenti discriminatori. Si tratta di un considerevole passo in avanti, che ambisce oltretutto a rafforzare la leadership normativa europea nel settore dell’IA. In tal modo il regolamento certamente favorisce lo sviluppo delle nuove tecnologie ma lo fa proteggendo i diritti fondamentali dei cittadini europei.
