Please enable JavaScript.

Coggle requires JavaScript to display documents.

인공지능의 사회적 영향(1513 박자연) - Coggle Diagram

- - - - 빅데이터(데이터 분석, 데이터 축적), 인터넷 및 모바일 컴퓨터(전송), 사물 인터넷(데이터 수집)
    - - 머신러닝은 유튜브나 넷플릭스의 콘텐츠 추천, 이메일 스팸 필터, 금융 사기 탐지 등 일상 속 다양한 서비스에 활용되고 있다.
    - - 이를 통해 빅데이터의 수집, 분석, 활용이 가능
        양질의 데이터 확보
    - - 범용적으로 활용 가능한, 인간 수준의 이상의 지능을 구현할 수 있는 인공지능이 개발되고 있음
      - 인공지능의 도움을 받아 최적의 의사 결정을 함
    - - 정보 기술을 바탕으로 인간과 기계, 사물, 공간 등이 유기적으로 연결되어 상호 작용할 수 있게 함
      - 인간과 사물 사이의 네트워크는 점점 더 촘촘해져감
      - 이미지 인식이나 자연어 처리 등이 정교해지면서 사람, 사물, 정보의 상태와 변화를 실시간으로 감지하는 것이 더 정확해짐
    - - 다양한 학문, 산업 등이 결합되어 새로운 융합을 창출함
      - 다양한 기술과 산업이 결합하여 새로운 분야 창출
      - 범용으로 사용할 수 있는 로봇 개발 중
    - - 건강, 복지: 의료 영상 분석을 통해 암을 조기에 발견하거나, 돌봄 로봇이 노인의 건강을 관리하는 데 활용되고 있다.
      - 환경: 위성 데이터를 분석해 산불 발생을 예측하거나, 스마트 그리드로 에너지 낭비를 줄이는 데 사용되고 있다.
      - CCTV 영상을 분석해 범죄를 사전에 감지하거나, 자율주행차의 충돌 방지 시스템에 적용되고 있다.
- - - - 자동화로 인한 변화
        
        대표적으로 자율주행 기술
        
        자율주행 기술의 사례
        
        테슬라의 오토파일럿은 자율주행 기술로 운전자의 개입을 최소화하여 차선 유지, 속도 조절, 자동 주차 등을 수행하는 자율주행 보조 시스템이다.
      - 인간 능력 한계 극복
      - 개별 맞춤화 서비스 제공
      - 인간의 개입이 줄어듦. 삶이 안전해짐. 인간이 수행하던 작업을 인공지능이 수행하게 됨
    - - 단순 노동은 줄고 생산성을 높임. 데이터를 기반으로 이루어진 작업이나 간단한 추론으로 처리할 수 있는 작업을 대체
  - - - 의사소통 능력: 원하는 목표에 도달하기 위해 문맥을 이해하고 추가적인 정보를 제공할 수 있어야 함
      - 비판적 사고력: 인공지능이 생성한 결과를 평가하기 위해 객관적으로 분석하고 판단할 수 있어야 함
      - 협업 능력: 창의성은 집단 지성을 발휘할 때 더욱 효과적으로 나타나므로, 사람들과 협력하며 공동의 목표를 구현할 수 있어야 함
      - 호기심: 인공지능을 제대로 활용하기 위해서는 계속해서 인공지능을 사용하고 그 한계과 능력을 실험해봐야 함
- - - - 인공지능이 학습을 통해 성능을 개선하거나 지능적인 판단을 내리더라도 도덕적, 법적인 책임을 지는 건 인간이므로 인공지능을 사용하고 개발하는 것을 무조건적으로 거부하거나 수용하기 보다는 인공지능과 공존허기 위한 활용 방법에 대한 고민이 필요하다.
      - 인공지능으로 얻게된 결과에 대하여 충분한 검토와 윤리적 고찰을 통해 인공지능을 바람직하게 사용할 수 있어야 함
    - - 인공지능 윤리란 인공지능을 개발, 운영, 활용할 때 지켜야 할 윤리적 원칙
      - 인공지능 개발자: 인공지능 설계, 개발, 결과에 책임이 있음. 개발자가 설계하는 알고리즘의 편견이나 성향이 포함되지 않게 설계되어야 하고, 설계 과정에서 차별적 결과로 이어질 수 있는 편향이 구조적으로 숨어 있다 하더라도 편향을 발견하고 수정하는 방안이 마련될 수 있도록 개발되어야 함
      - 인공지능 사용자: 인공지능 소비 주체이자 사회적 논의의 참여 주체. 인공지능으로 인한 문제가 발생할 때 사용자가 책임지는 범위에 관한 규정이나 사회적 합의 필요
      - 인공지능 운영, 관리자: 인공지능을 올바르게 운영하고 관리할 책임이 있음. 인공지능의 오류가 발견되거나 인공지능이 편향성을 나타낸다면 이러한 부분을 발견하고 개선할 수 있어야 함. 개인의 사생활에 관한 사항이 철저히 보호되어야 하고 관리자의 임의적인 접근을 허용하면 안 됨.
      - 인공지능을 개발하는 과정뿐만 아니라 활용하는 과정에서도 여러 문제가 발새할 수 있으므로 인공지능을 활용함에 있어 사회 구성원 모두가 공정성을 추구하고, 윤리적인 문제에 대해 합리적인 대책을 마련할 수 있어야 함
  - - - 인공지능 모델을 학습시키는 데 사용되는 데이터가 사람이나 사회가 가지는 편견을 포함하고 있는 것
      - 개인 정보가 포함된 데이터를 학습한 경우, 데이터를 수집하는 사람의 특정한 의도를 반영하여 데이터를 수집한 경우, 인공지능이 사용자가 입력하는 데이터를 학습하기 때문에 사용자에 의해서 편향이 발생한다.
      - 인공지능에 사용되는 훈련 데이터가 편향되어 있으면 인공지능의 정확도가 낮아질 뿐만 아니라 사회적 문의를 일으킬 수 있음
    - - 인공지능 모델을 위한 알고리즘을 설계하는 과정에서 생길 수 있는 편향
      - 설계자의 문화적, 개인적인 편향이 변수나 가중치 설정에 반영되는 경우. 데이터를 잘못 라벨링하는 경우. 목표와는 관련성이 없거나 적은 변수를 포함하거나 높은 가중치를 부여했을 경우. 비의도적이지만 알고리즘을 설계할 때 일반적으로 가나다 순, 알파벳 순으로 결과를 나열하는 경우
    - - 포용성과 지속 가능성: 모든 이해관계자는 인류의 포용 성장, 지속 가능한 발전 및 복지 증진을 위해 신뢰 가능한 인공지능 구현에 힘써야 함
      - 인간 중심 가치와 공정성: 인공지능 수명 주기 전반에 걸쳐 법률, 인권 및 민주적 가치 등 인간 중심 가치를 존중하고 지키기 위해 힘써야 함
      - 투명성과 설명 가능성: 인공지능 시스템에 대한 이해를 증진시키고 감춰진 것이 없도록 투명성과 설명 가능성을 확보해야 함
      - 견고성과 안전성: 인공지능은 전 수명 주기에 걸쳐 견고하게 작동되어야 하며 바람직하지 못한 조건을 견딜 수 있거나 극복할 수 있어야 함
      - 책무성: 인공지능 활동 주체는 자신들의 역할, 상황의 토대 위에 최신성을 유지하면서 위의 원칙을 존중하며 인공지능 시스템이 적절히 기능하도록 하는 데 책임을 다해야 함
  - - - 개인 정보와 관련된 가치와 인공지능으로 사회적인 문제를 해결할 수 있다는 가치가 상충하여 윤리적 딜레마가 발생할 수 있음
    - - 특정 정보만을 받아들여 고정 관념이 생기게 되고 사회적으로 파편화되어 사회적 합의가 어려워질 수 있음
      - 양질의 콘텐츠보다 비슷한 콘텐츠를 다수 생산함으로써 문화 획일화와 문화 산업의 축소를 가져올 수 있음
      - 개인의 만족도, 기업의 이익과 관련된 가치와 사회, 문화 산업과 관련된 가치 속에서 윤리적 딜레마가 발생할 수 있음
      - 개인은 사용하는 기기의 검색 기록, 시청 기록 등의 데이터를 주기적으로 삭제하여 데이터가 알고리즘에 지나치게 이용되는 것을 막을 수 있음
      - 개발자나 운영, 관리자는 알고리즘이 사회에 미칠 수 있는 영향에 대한 지속적인 논의가 필요함
    - - 자율주행 자동차가 피할 수 없는 사고를 맞닥뜨렸을 때 누구를 구해야 하는가에 대해 윤리적 딜레마가 발생할 수 있음