Please enable JavaScript.
Coggle requires JavaScript to display documents.
Os efeitos da Inteligência Artificial na perpetuação de estereótipos e…
Os efeitos da Inteligência Artificial na perpetuação de estereótipos e injustiças sociais
Problemática central
a IA
Pode ser neutra?
Está condenada a reproduzir preconceitos?
Deve ser guiada por diretrizes éticas e morais?
Reprodução de preconceitos
Tipos
Raciais
Como?
Discriminação algorítmica
Tratamento de imagens tendencioso
Pontos de vista
Contrário
Exemplos Reais de Distorção
Recorte automático do Twitter (favorecendo brancos)
Geradores que retratam grupos de forma estereotipada
Consequências
Associação esteriotipada
Pobreza <> Negros
Riqueza <> Brancos
Falta de transparência e responsabilização
Erros causados pela IA
Causa da Reprodução
Ações corretivas
Inclusão em equipes de desenvolvimento
Uso de uma database ampla e representativa
Revisão dos códigos de forma humana e ética
Políticas de transparência e regulação
Treinada com dados inviesados
Refletem desigualdades históricas
Falta de supervisão ética suficiente
Favorável
Censura algorítmica
A definição do que é ofensivo ou crime varia
A depender da/do
Cultura
Contexto
País
A inovação depende do confronto de ideias
Empresas podem evitar inovações por receio de críticas ou sanções
Recorte temático
Desafios
da IA na representação de grupos sociais
Possibilidades
Liberdade criativa
Restrições podem causar redução de resultados gerados pela IA
Eliminar vieses pode gerar uma evitação de temas sensíveis
Por meio de
Geração de imagens
Tratamento de algoritmo
De gênero
De classe
Geração de imagens esteriotipadas