Please enable JavaScript.
Coggle requires JavaScript to display documents.
CAP 14-TRASPARENZA E SPIEGABILITA AI - Coggle Diagram
CAP 14-TRASPARENZA E SPIEGABILITA AI
2 tipi di AI
Symbolic AI
: programmatore da regole specifiche da eseguire alla macchina è facile capire come si arriva ad un output :lock:
Machine learning
si buttano grandi quantità dati e il sistema trova pattern tra essi :unlock:
Problemi uso ADM
(processi di decisione automatizzati)
1.Bias
: errori commessi dai sistemi :red_flag:
2.Opacità
;è difficile comprendere le motivazioni della profilazione
3.Logica basata su correlazione
: prevedere decisioni con criteri limitati rispetto agli esseri umani. ADM ragionano sul piano
sintattico
:computer:
effetti:
Questi effetti creano un
asimmetria informazionale
tra
umani
e
ADM
perchè:
1.
Una persona si trova a
non sapere
regole sui cui sono basate le decisioni prese :see_no_evil:
2. non contrastare
decisioni prese dall'algoritmo :speak_no_evil:
Quadro giuridico
Se una
persona
viene
profilata
avrà
diritto
di ricevere
informazioni sulla logica
:information_source: :female-technologist:
ART 22
diritto
di non essere sottoposti ad una decisione basata esclusivamente sul trattamento automatizzato :forbidden:
Problemi:
Spiegazione umana
le infromazioni dovrebbero essere il più
informative
possibili in
quantità
,
relazione
,
qualità
:silhouette:
le persone preferiscono le
spiegazioni controfattuali
: non ti dico perchè non è stata presa una decisione ma ti informazioni su come ottenere la decisione sperata
spiegazione algoritmica
possono risultare utili
xAI
: servono per conoscere funzionamento di un algoritmo e capire se può essere affidabbile. MA ci sono dei
problemi
::computer:
1
.Algoritmi a
scatola nera
sono difficilmente interpretabili:black_medium_square:
2
Capire
quali informazioni
devono essere fornite. Troppe non servono :question:
3
.
Bias
: possono rappresentare una
realtà distorta
e incompleta :scream:
4
Discriminazione diretta
non identifico un criterio diretto (colore pelle) ma uso altri criteri (zona in cui vivi) che messi insieme possono creare ulteriori problemi :man::skin-tone-5:
5
Salvaguardia della proprietà intellettuale
; diritto alla spiegazione deve essere bilanciato con altri diritti. :warning:
6
L’opacità può essere anche vantaggiosa
; se rivelo troppo dell’algoritmo capisco come funziona e posso ingannarlo :check: