Please enable JavaScript.

Coggle requires JavaScript to display documents.

인공지능의 사회적 영향(1116 윤성빈) - Coggle Diagram

- - - - 인공지능 개발자
        인공지능 개발자는 인공지능 설계, 개발, 결과에 책임이 있다. 개발자가 설계하는 알고리즘에 개발자의 편견이나 성향이 포함되지 않게 설계되어야 하고, 설계 과정에서 차별적 결과로 이어질 수 있는 편향이 구조적으로 숨어있다 하더라도 편향을 발견하고 수정하는 방안이 마련될 수 있도록 개발되어야 한다.
        인공지능 사용자
        인공지능 사용자는 인공지능의 소비 주체이자 사회적 논의의 참여 주체이다. 인공지능이 적용된 자율주행자동차가 사고를 낸 경우의 책임 소재 문제, 인공지능에 의해 대체되는 일자리 문제, 인공지능에게 사람의 생명을 맡겨도 될지에 관한 문제 등 인공지능으로 인한 문제가 발생할 때 사용자가 책임지는 범위에 관한 규정이나 사회적 합의가 필요하다.
        인공지능 운영·관리자
        인공지능 운영·관리자는 개발된 인공지능을 올바르게 운영하고 관리할 책임이 있다. 또한 인공지능의 오류가 발견되거나 인공지능이 편향성을 나타낸다면 이러한 부분을 발견하고 개선할 수 있어야 한다. 개인의 사생활에 관한 사항이 철저히 보호되어야 하고 관리자의 임의적인 접근을 허용하면 안 된다.
      - 딥러닝이 많이 활용되면서 블랙박스(black box) 현상이 생길 수도 있고, 인공지능의 학습을 위해 개인이 생성한 데이터를 사용하는 경우도 많기 때문에 인공지능을 개발하는 과정에서뿐만 아니라 인공지능을 활용하는 과정에서도 여러 가지 문제가 발생할 수 있다. 또한 인공지능이 인간의 일자리를 대체하면서 실업률이 증가하는 등 새로운 사회 문제가 생기기도 한다. 따라서 인공지능을 활용함에 있어 사회 구성원 모두가 공정성을 추구하고, 윤리적인 문제에 대해 합리적인 대책을 마련할 수 있도록 관심을 가져야 한다.
  - - - 데이터 편향
        데이터 편향이란 인공지능 모델을 학습시키는 데 사용되는 데이터가 사람이나 사회가 가지는 편견을 포함하고 있는 것을 의미한다. 개인 정보가 포함된 데이터를 학습한 경우, 데이터를 수집하는 사람의 특정한 의도를 반영하여 데이터를 수집한 경우, 학습 데이터로 특정 데이터가 많이 사용되는 경우 등에서 편향이 발생할 수 있다. 또, 인공지능이 사용자가 입력하는 데이터를 학습하기 때문에 사용자의 의해서도 편향이 발생할 수 있다. 인공지능에 사용되는 훈련 데이터가 편향되어 있으면 인공지능의 정확도가 낮아질 뿐만 아니라 사회적 불의를 일으킬 수 있다.
      - 알고리즘 편향
        알고리즘 편향은 인공지능 모델을 위한 알고리즘을 설계하는 과정에서 생길 수 있는 편향을 말한다. 설계자의 문화적·개인적인 편향이 변수나 가중치 설정에 반영되는 경우, 데이터를 잘못 라벨링하는 경우, 목표와는 관련성이 없거나 적은 변수를 포함하거나 높은 가중치를 부여했을 경우, 비의도적이지만 알고리즘을 설계할 때 일반적으로 가나다 순서, 알파벳 순서대로 결과를 나열하는 경우 등에서 알고리즘 편향이 발생할 수 있다. 예를 들어 미국의 재범 예측 인공지능 컴파스(COMPAS)가 흑인이나 빈민층 거주자들의 재범율을 더 높게 판정된다고 조사되었는데, 범죄와 직접적인 관련이 있는 성별, 가족, 개인 관계, 생활 양식 등과 관련 정보들을 사용한 점이 흑인 범죄자를 더 나쁘게 평가했는데, 범죄와 직접적인 관련이 없는 인종, 생활 양식 등에 대한 정보를 사용한 점이 밝혀졌다.
      - 신뢰 가능한 인공지능 구현을 위한 다섯 가지 원칙
        OECD 이사회는 모두가 신뢰 가능한 인공지능의 책임 구현을 위해 포용성과 지속 가능성, 인간 중심 가치와 공정성, 투명성과 설명 가능성, 견고성과 안전성, 책무성의 다섯 가지 원칙을 각자의 역할에 맞게 촉진, 실행할 것을 권고하였다.
        포용성과 지속 가능성: 모든 이해관계자는 인류의 포용 성장, 지속 가능한 발전 및 복지 증진을 위해 신뢰 가능한 인공지능 구현에 힘써야 함
        인간 중심 가치와 공정성: 인공지능 수명 주기 전반에 걸쳐 법률, 인권 및 민주적 가치 등 인간 중심 가치를 존중하고 지키기 위해 힘써야 함
        투명성과 설명 가능성: 인공지능 시스템에 대한 이해를 증진시키고 감춰진 것이 없도록 투명성과 설명 가능성을 확보해야 함
        견고성과 안전성: 인공지능은 전 수명 주기에 걸쳐 견고하게 작동되어야 하며 바람직하지 못한 조건을 견딜 수 있거나 극복할 수 있어야 함
        책무성: 인공지능 활동 주체는 자신의 역할, 상황의 토대 위에 최선성을 유지하면서 위의 원칙을 존중하며 인공지능 시스템이 적절히 기능하도록 하는 데 책임을 다해야 함
        우리나라의 주요 IT 기업도 인공지능 알고리즘과 관련된 윤리 원칙을 세워 발표하였다. 위의 원칙을 살펴보면 인공지능의 사회적 책임은 기업에만 국한되는 것이 아니다. 인공지능은 사회의 구성원 모두가 사회적 책임감을 가지고 공정성을 추구하는 데 힘써야 한다.