Please enable JavaScript.
Coggle requires JavaScript to display documents.
New Foundations of Ethical Multiagent Systems - Coggle Diagram
New Foundations of Ethical Multiagent Systems
A ética é inerentemente uma preocupação multiagente.
Denominação de ETICA em agentes individuais (IA) :
robô ou carro autônomo pode prejudicar ou (diferencialmente) beneficiar as pessoasem situações hipotéticas
um algoritmo de aprendizado de máquina pode produzir decisões tendenciosas ou recomendações
ÉTICA EM SISTEMAS MULTIAGENTES
A ética é inerentemente uma preocupação multiagente
um amálgama de (1) uma preocupação das partes com o outro
(2) uma noção de justiça
De quais bases precisamos para construir STSs( SISTEMA SOCIOTECNICO) que abordem questões éticas preocupações de múltiplas perspectivas?
Um STS compreende um sistema social autônomo de entidades (diretores, ou seja, pessoas e organizações) e técnicas entidades (agentes, que ajudam principais e recursos)
Uma parte interessada em um STS é uma entidade autônoma (individual ou organização) que tem interesse nas especificações ou operações do STS
STS Operacional
Quando um STS está operacional, sua camada social inclui diretores e sua camada técnica inclui agentes e recursos subjacentes, como bancos de dados, serviços, sensores e atuadores.
1 - Posturas Éticas - STS
Uma postura ética individual refere-se a como um agente pode responderàs preferências de valor de um principal no STS que é afetado por as ações do agente
Exemplos de posturas éticas incluem
(1) igualitarismo
(2) utilitarismo
2 - Agentes
O modelo de usuário de um agente descreve o usuário do agente em termos de objetivos, crenças, preferências de valor e postura ética.
DESAFIOS E QUESTÕES DE PESQUISA
criar novas bases multiagentes para Ética da IA
(1) novas representações e abordagens de raciocínio sobre a ética tanto da perspectiva individual quanto do sistema;
2) novas formas de analise dos sistemas com respeito a uma postura ética tanto estaticamente(verificação) e dinamicamente (simulação);
(3) novas maneiras de obter preferências de valor das partes interessadas e ajudá-los a negociação de especificações STS aceitáveis
Modelo de Ética para IA
Representação
Tomada de decisão.
Análise de Ética
Verificação.
Simulação
Elicitação de Sistemas Éticos
Aprendizagem
Negociação
Motivação.
ÉTICA E CONSTRUÇÕES RELACIONADAS
Um sistema de IA não é apenas um algoritmo nem um agente autônomo,mas o sistema sociotécnico que representa uma sociedade de humanos e agentes
há uma necessidade e urgência de abordar preocupações da sociedade sobre a adoção de IA.
A responsabilidade é crucial para estabelecer quem é responsável por uma decisão tomada por um agente