Please enable JavaScript.
Coggle requires JavaScript to display documents.
Pravda a dezinformace v éře umělé inteligence, NEMEČKAYOVÁ, Nikoleta.…
Pravda a dezinformace v éře umělé inteligence
Dezinformace a misinformace obecně
Klíčové složky dezinformace
Úmyslně šířené informace
Snaha o podrytí důvěry
Ve stát
V média
Ve faktické informace
Misinformace
Založené na nedostatečné informovanosti
Není šířena s účelem oklamat/ovlivnit
Dezinformace ve spojení s AI
AI pomáhá dezinformátorům
AI obsah dostupný na internetu prohlubuje nedůvěru v realitu
Stanfordská univerzita - termínem "AI panic"
AI ovlivnila důvěru v dezinformace
AI ovlivnila nedůvěru k volebním procesům
Volby v USA
Volby 2020
Útok na Kapitol
Nedůvěra ve výsledky voleb
Volby 2024
Obavy o zneužití AI
Ovlivnění informačního prostoru
Ovlivnění kampaní
Více jak polovina Američanů se bojí zneužití AI
Reálné případy manipulací a dezinformací
Manipulace vnějších aktérů
Spamouflage
Taktéž známa jako dragonbridge
Využívání botů na soc. sítích
Informační operace vedená Čínou
Trvá již několik let
Zaměřuje se i na jiné témata než volby
Konflikt v Gáze
Požáry na Havaji
Využití AI
Před AI
Špatná gramatika a stylistiky
Špatný překlad
Nedostatečná znalost důležitých témat
S využitím AI
Mnohem lepší cílení
Násobně lepší práce s textem
Lepší pochopení důležitých témat
Generování obrázků
Zacílení na vnitřní problémy USA
Migrace
Bezdomovectví
Opioidová epidemie
Cíl
Snaha podkopat společnost
Nezaměřili se na diskreditaci jednoho z kandidátů
Doppelganger
Dlouhodobější kampaň
Napodobování zpravodajských webů v Evropě
The Guardian
Le Monde
Deutsche Welle
Praktiky a taktiky
Záměna názvu domény
Záměna domény nejvyššího řádu (.org, .com)
Použití znaků azbuky
Cílení na regionální zpravodajství v USA
Video s Kamalou Harris
Video vyšlo v rámci článku
Dezinformace o sražení chodkyně
Rychle vyvráceno
Mnoho shlédnutí na soc. síti X
Větší koncentrace starších čtenářů
Příklady falešných webů
D.C. Weekly
the New York News Daily
the Chicago Chronicle
Aktéři kampaně jsou Rusové
Využívají nástroje AI pro lepší cílení
Vnitřní aktéři
Politické strany
Politici
Fanoušci kandidátů
Manipulace vnitřních akterů
AI telefonát od Bidena
Viník byl nalezen
Potrestán za volání pod nesprávným identifikačním číslém
Manipulace voleb nebyla řešena
Falešené telefonáty voličům v New Hampshire
Snaha přesvědčit voliče, aby nechodili k primárkám
Na přelomu roku 2023 a 2024
Pro hovory byl využit falšený Bidenuv hlas vytvořený AI
AI videa
Velmi rapidní vývoj v oblasti tvoření AI videí
Video o zvolení Bidena
Vykreslení dystopie po znovuzvolení Bidena
Strašení migranty a bezdomovectvím
Video cílí silně na emoce
Snaha podpořit myšlenky, ve které recipient již věří
Menší náklady na tvoření libovolných videí
Zmanipulovaný projev Kamaly Harris
Reálný projev, který byl zmanipulován
V realitě Harris přeje Trumpovi brzké zotavení
V zmanipulovaném videu Harris nevěří atentátů a říká, že je to Trumpova chyba
Video se objevilo krátce po atentátu na Trumpa
AI memes a obrázky
Asi nejčastější forma manipulace
Lehké na vnímání
Snadné zbavení se odpovědnosti
Cílení na emoce
Neexistuje legislativa, která by tuto oblast řešila
Často se využívá Grok
AI od soc. sítě X
Podobný princip jako ChatGPT
Mnohem méně restrikcí
Zneužití Taylor Swift pro kampaň
Falšené obrázky o její podpoře Trumpa
Switf následně vyvrátila tyto dezinformace a podpořila Harris
Sdílení AI obrázků se dá skrze soc. sítě. i zpeněžit
Boti
Existují již velmi dlouho
Příchod AI velmi usnadňuje jejich po/využití
Napojení na velké jazykové modely
Lehčí trénink a provoz
Nejvíce využívání na soc. síti X
Většina orientována na podporu Trumpa
Rozpoznání botů
V příspěvích používají stejné fráze a formulace
Profilové fotky účtů jsou často AI generované
Některé učty v minulosti sdílely závadné příspěvky
Pornografie
Podvody s kryptoměnami
Někdy se boti prozradí sami
Splašení boti a diskuze
Občas boti neouhlasí se svými vlastními názory
Jednotliví boti se mezi sebou hádají
Chyby botů v příspěvcích
Nástroje pro odhalení dezinformací a manipulací
Namesleuth
Analyzuje obraz či video
Dodá informace, kde se daný obsah již objevil
Pomoc při vytržení informací z kontextu
Bezplatné
FotoVerifier
Pro analýzu obrázků
Funguje na nástroje AI i Photoshop
Odhaluje manipulace s fotkami a obrázky
Bezplatné
GPTZero
Odhalení AI generovaných textů
Zkušební verze na 14 dní, poté placený
BotSentinel
Nástroj pro odhalování botů
Bezplatný
Fungující již dlouho dobu
Využívá technologií AI
Factual Chrome Extension
Rozšíření do prohlížeče
Pro ověřování kredibility
Článků
Webových stránek
Zpravodajských webů
Dodá hodnocení kredibility daného obsahu
Nejefektivnější v rámci zahraničních webů
Verifee.ai
Pro odhalování manipulací a dezinformací
Funguje i na obsah z českého prostředí
Rozšíření do prohlížeče
Vymyšlen studenty z ČR
Podává hodnocení obsahu
Zda se vyskytují dezinformace
Zda se vyskytují clickbaity
Bezplatný
TrollWall
Zkušební verze 14 dní, poté placený
Vyvinut na Slovensku
Vhodné využit při práci v neziskových organizacích
Nástroj pro ochranu proti nenávistným projevům
Automatická filtrace nenávistných komentářů pomocí AI
NEMEČKAYOVÁ, Nikoleta.
Pravda a dezinformace v éře umělé inteligence.
Online, přednáška. 2024-11-07. Dostupné z:
https://ucnmuni.sharepoint.com/teams/ISKB65ISKM29Blokexpertpodzim2024/_layouts/15/embed.aspx?UniqueId=78b272db-0b7a-4c0d-8dab-ac2952ef370d
. [cit. 2024-11-14]. Blok expertů, FF MU.