Please enable JavaScript.

Coggle requires JavaScript to display documents.

Le ombre dell'inteligenza artificiale - Coggle Diagram

- - - - L'algoritmo di YouTube e il "Rabbit Hole"
        
        L'intenzione degli ingegneri era "massimizzare il tempo di visione degli utenti". L'IA ha perseguito questo obiettivo letterale scoprendo che i contenuti estremi, i complotti e l'indignazione trattenevano le persone davanti allo schermo più a lungo. Non avendo un "allineamento" con i valori della verità o della stabilità sociale, l'IA ha promosso la radicalizzazione semplicemente perché era il modo più efficiente per raggiungere l'obiettivo numerico assegnato.
    - - Statement on AI Risk
        
        Nel 2023, centinaia di esperti mondiali, tra cui i CEO di OpenAI (Sam Altman) e Google DeepMind (Demis Hassabis), hanno firmato una dichiarazione di una sola riga: "Mitigare il rischio di estinzione causato dall'IA dovrebbe essere una priorità globale accanto ad altri rischi su scala sociale come le pandemie e la guerra nucleare". Questo non è un film: è un avvertimento reale della comunità scientifica sulla velocità dello sviluppo dell'IA.
- - - - Il drone Kargu-2 in Libia
        
        Secondo un rapporto delle Nazioni Unite, nel 2020 un drone autonomo di fabbricazione turca (Kargu-2) avrebbe attaccato dei soldati in ritirata durante il conflitto libico.
    - - (Il Flash Crash del 6 maggio 2010
        
        In soli 36 minuti, l'indice Dow Jones crollò di quasi 1.000 punti per poi risalire. Fu causato da algoritmi ad alta frequenza che reagirono a un ordine di vendita massiccio, innescando una reazione a catena che nessun umano riuscì a fermare in tempo reale. Miliardi di dollari "svanirono" e riapparvero nel giro di mezz'ora.
    - - Stanislav Petrov
        
        Sebbene non fosse un'IA moderna, il sistema d'allarme sovietico nel 1983 segnalò falsamente il lancio di missili nucleari USA. Petrov, l'ufficiale in comando, scelse di non rispondere al fuoco perché "intuì" un errore tecnico.
  - - - Nightshade e l'arte
        
        Nel 2023, i ricercatori dell'Università di Chicago hanno creato uno strumento chiamato Nightshade. Gli artisti lo usano per "avvelenare" digitalmente le proprie opere online. Se un'IA addestra i suoi modelli su queste immagini senza permesso, il software inizia a confondersi.
      - Alcuni hacker hanno dimostrato come, "iniettando" commenti specifici in forum online molto frequentati, sia possibile influenzare le risposte future dei modelli linguistici che leggono quei forum, spingendoli a consigliare software malevoli o a dare risposte distorte su certi marchi o prodotti.
    - - Darktrace
        
        È una delle aziende leader che usa l'IA per la "difesa immunitaria" delle reti aziendali. La loro IA impara qual è il comportamento "normale" di un dipendente (a che ora accede, quanti file scarica). Se improvvisamente l'account di un dipendente scarica migliaia di dati alle 3 di notte, l'IA ispettrice interviene in millisecondi bloccando l'accesso, prevenendo un furto di dati prima ancora che gli esperti umani si accorgano del problema.
- - - - "Copia-Incolla" nelle Scuole
        
        Molti insegnanti e università segnalano una drastica riduzione della capacità degli studenti di strutturare un'argomentazione complessa da zero.
      - Morte della memoria procedurale
        
        Come è successo con il GPS (che ha ridotto la nostra capacità di orientamento spaziale), l'uso dell'IA per scrivere email semplici o messaggi di auguri sta atrofizzando la nostra capacità di esprimere sentimenti e pensieri in modo autonomo e personale.
    - - Replika
        
        una delle app più famose che permette di creare un "compagno IA". Esistono migliaia di casi di persone che hanno sviluppato una dipendenza emotiva reale da questi bot. Nel 2023, quando l'azienda ha limitato alcune funzioni di interazione romantica, migliaia di utenti hanno vissuto una vera e propria crisi depressiva o da "lutto", dimostrando quanto il confine tra umano e sintetico sia diventato sottile.
    - - Woebot
        
        Molte persone preferiscono parlare dei propri problemi mentali con un bot piuttosto che con un terapista umano.
  - - - Censura e "Allucinazioni" ideologiche
        
        Se un'IA viene addestrata con dati che hanno un forte bias (pregiudizio) culturale o politico, risponderà all'utente riflettendo solo quel punto di vista.
        
        nel 2024 ci sono state polemiche su modelli di IA che, nel tentativo di essere inclusivi o evitare controversie, "riscrivevano" la storia o generavano immagini storicamente inaccurate
    - - "Deepfake" politici
        
        Durante le campagne elettorali, algoritmi di raccomandazione (come quelli di Facebook o X) hanno spinto video manipolati
  - - - Bias nei valori e nelle tradizioni
        
        Molti modelli di IA, se interrogati su concetti etici o familiari, rispondono basandosi su norme sociali americane
      - Problemi lingue minori
    - - Italia - "Model 1"
        
        Recentemente in Italia è stato annunciato il progetto per un modello linguistico addestrato su testi della letteratura, della giurisprudenza e della cronaca italiana, per garantire che l'IA capisca il nostro contesto culturale e giuridico senza "filtri" americani.
- - - - GitHub Copilot o Cursor
        
        Molte startup tecnologiche oggi assumono meno programmatori "junior" perché un programmatore "senior" aiutato dall'IA può fare il lavoro di un intero team.
      - COIN
        
        Software utilizzato dalle Banche come JP Morgan
        
        per revisionare documenti legali e contratti di prestito.
    - - Proposte di "Tassa sui Robot"
  - - - software COMPAS
      - algoritmo di Amazon.
    - - Sistema Robodebt in Australia
      - sistema Robodebt in Australia
  - - - Cambridge Analytica
        
        uso le elezioni in Kenya e Nigeria come "laboratori" per testare i propri algoritmi
    - - Istruzione
        
        Gli studenti nelle scuole d'élite hanno accesso a versioni a pagamento di IA (come GPT-4) e tutor personalizzati che accelerano il loro apprendimento
    - - Nel 2023, alcuni ingegneri di Samsung hanno caricato il codice sorgente segreto di un nuovo microchip su ChatGPT per trovare errori. Poiché i chatbot pubblici usano i dati inseriti per addestrarsi, quel codice riservato è finito potenzialmente nel database di OpenAI, diventando accessibile al modello stesso.
      - Molti professionisti in uffici piccoli usano versioni gratuite di IA per riassumere cartelle cliniche o atti giudiziari senza rendersi conto che stanno violando la privacy (GDPR)