Please enable JavaScript.
Coggle requires JavaScript to display documents.
Capitolo 5 – Algoritmi, trasparenza, responsabilità - Coggle Diagram
Capitolo 5 – Algoritmi, trasparenza, responsabilità
Il ruolo crescente degli algoritmi
Gli algoritmi sono usati in misura crescente sia nel settore privato sia nelle funzioni pubbliche.
Esempi: servizi pubblici digitali, valutazioni di merito creditizio, selezione di candidati, assegnazione di benefici.
In molti casi, le decisioni non sono pienamente automatizzate, ma guidate da sistemi automatizzati: decisioni umane supportate da output algoritmici.
Questi sistemi sono spesso percepiti come neutrali, oggettivi, efficienti.
nella realtà, sono prodotti umani, costruiti su scelte valoriali, e spesso portano bias e discriminazioni
Il mito dell’oggettività algoritmica nasconde il rischio che pregiudizi sistemici vengano replicati su vasta scala.
Il problema della trasparenza algoritmica
La trasparenza è un principio fondamentale, ma difficile da garantire nel contesto algoritmico.
Gli algoritmi possono essere:
Proprietari (segreto industriale).
Opachi per complessità tecnica.
Tipi di opacità:
Intenzionale: per tutelare il segreto commerciale.
Tecnica: difficile da comprendere anche per esperti.
Interpretativa: mancano strumenti culturali e cognitivi per l’utente comune.
Non spiegabili nemmeno dai creatori (deep learning, modelli black box).
I destinatari delle decisioni (es. utenti di piattaforme, cittadini) non sono messi in condizione di capire:
come si giunge alla decisione;
su quali dati si basa;
come si può contestare l’esito.
La trasparenza richiede quindi non solo accesso al codice, ma anche spiegabilità, comprensibilità e controllabilità.
Algoritmi e responsabilità giuridica
Chi è responsabile se un algoritmo viola diritti, discrimina, o produce errori?
Attribuzione del comportamento illecito:
è colpa del programmatore, dell’utilizzatore, del progettista?
Prova dell’illecito: spesso difficile accedere ai dati e comprendere le logiche sottostanti.
Due approcci regolativi possibili:
Responsabilità oggettiva:
Anche in assenza di dolo o colpa.
Es. responsabilità per il danno da prodotto difettoso.
Responsabilità per negligenza:
Serve dimostrare errore o violazione di obblighi.
come garantire tutela effettiva a chi subisce un danno, in un sistema automatizzato?
Verso una regolazione ex ante
La sola regolazione ex post (dopo il danno) è insufficiente.
Serve una valutazione preventiva dei rischi connessi all’uso degli algoritmi:
Impatti su libertà, privacy, non discriminazione.
Impatti indiretti su trasparenza e fiducia nelle istituzioni.
L’Unione Europea ha introdotto:
L’obbligo di valutazione d’impatto per sistemi automatizzati usati nei servizi pubblici.
L’obbligo di garantire che non siano prese decisioni esclusivamente automatizzate, salvo deroghe precise.
Il regolamento europeo sull’intelligenza artificiale (AI Act)
è il primo tentativo organico di regolamentare l’uso dell’intelligenza artificiale.
obiettivo: proteggere i diritti fondamentali, senza bloccare l’innovazione.
Classifica i sistemi di IA in quattro categorie di rischio
Rischio inaccettabile → vietati (es. manipolazione mentale, social scoring).
Rischio alto → soggetti a obblighi rigidi (trasparenza, tracciabilità, supervisione umana).
Obblighi di documentazione.
Meccanismi di controllo umano.
Audit indipendenti.
Rischio limitato → obbligo di informare l’utente (es. chatbot).
Rischio minimo → nessuna restrizione.
L’equilibrio tra innovazione e diritti
Troppa regolazione può soffocare l’innovazione.
Troppa deregolazione può mettere a rischio i diritti fondamentali.
Il punto non è se l’algoritmo funzioni, ma quale impatto ha sui diritti delle persone:
Può rafforzare la discriminazione preesistente.
Può limitare la libertà di scelta.
Può creare disuguaglianze di accesso a servizi e opportunità.
L’uso di IA e algoritmi deve essere valutato e progettato con criteri di equità, accountability e trasparenza.