Please enable JavaScript.

Coggle requires JavaScript to display documents.

3.인공지능의 사회적 영향(1119 이은혁) - Coggle Diagram

- - - - 인공지능의 발전으로 인해 특정한 범위 내에서 활용 가능한 인공지능뿐만 아니라 범용적으로 활용 가능한 인공지능이 개발되고 있으며,인간 수준의 이상의 지능을 구현할 수 있는 인공지능이 개발되고 있다
      - 이로 인해 인간은 인공지능의 도움을 받아 최적의 의사 결정을 할 수 있게 변화되고 있다.
      - 예시로는 빅데이터를 이용해 환자의 질병을 발견하는 데 도움을 주거나,컴퓨터 비전 기술과 딥러닝을 이용해 산재 사고와 같은 위험 상황을 알려 사고를 예방할 수 있다
    - - 인공지능 발전의 기반이 된 기술은 머신러닝과 딥러닝으로, 방대한 데이터를 학습해 스스로 패턴을 인식하고 판단한다.
        이 기술은 자율주행차, 음성인식(예: Siri, Alexa), 이미지 분석, 추천 시스템 등에 활용되고 있다.
    - - 인공지능의 발전은 정보 기술을 바탕으로 인간과 기계,사물,공간 등이 유기적으로 연결되어 상호 작용할 수 있게 한다.
      - 예를 들어 디지털 트윈같이 현실에 존재하는 사물,공간,환경 등을 컴퓨터상에 디지털 데이터 모델로 표현해 실시간으로 서로 반응하게 하여 미래를 예측할 수 있게 되었다.
      - 또한 딥러닝 기술의 발전으로 이미지 인식이나 자연어 처리 등이 더욱 정교해지면서 사람,사물,정보의 상태와 변화를 실시간으로 감지하는 것이 더 정확해지고 있다.
      - 스마트폰 사용의 증가와 사물 인터넷의 발전으로 실시간으로 데이터를 주고받는 것이 가능해지면서 인간과 사물 사이의 네트워크는 점점 더 촘촘해지고 있다.
    - - 인공지능의 발전은 빅데이터,사물 인터넷 등의 기술과 다양한 학문,산업 등이 결합되어 새로운 융합을 창출하는 초융합의 모습을 나타낸다
      - 인공지능의 발전은 인간의 지식을 뛰어넘고, 초연결 환경이 조성되면서 다양한 기술과 산업의 결합이 촉진되어 새로운 분야를 창출하고 있다
      - 예를 들어 인공지능과 로봇 공학의 융합으로 인간 대신 위험한 작업을 수행하는 로봇이 개발되거나,범용으로 사용할 수 있는 로봇이 개발되고 있다.
    - - 건강: 인공지능이 질병을 조기에 진단하고 맞춤형 치료를 제공하여 의료 서비스의 효율성과 정확성이 높아졌다.
        복지: 돌봄 로봇과 감정 인식 기술을 통해 노인과 장애인의 삶의 질이 향상되고 사회적 돌봄이 강화되었다.
      - 환경: AI가 기후 변화와 오염 데이터를 분석하여 지속 가능한 자원 관리와 환경 보호에 기여하고 있다.
      - 안전: 인공지능이 재난 예측, 교통 관리, 범죄 예방 등에 활용되어 시민의 생명과 재산을 지키는 데 도움을 주고 있다.
- - - - 원하는 결과를 얻기 위해 정보를 정확하게 표현할 수 있어야 한다. 인공지능은 인간이 입력하는 정보에만 의존한다. 따라서 원하는 목표에 도달하기 위해서는 문맥을 이해하고 추가적인 정보를 제공할 수 있는 능력이 필요하다
    - - 인공지능으로 도출한 결과가 항상 정확한 것은 아니다. 인공지능이 생성한 결과를 평가하기 위해 객관적으로 분석하고 판단할 수 있어야 한다.
    - - 문제를 해결하기 위해 필요한 창의성은 집단 지성을 발휘할 때 더욱 효과적으로 나타나므로,사람들과 협력하여 공동의 목표를 구현할 수 있어야 한다
    - - 인공지능을 제대로 활용하기 위해서는 계속해서 인공지능을 사용하고 그 한계와 능력을 실험해 보는 능력이 필요하다
- - - - 생성형 인공지능을 이용해 만든 창착물을 저작물로 인정할 수 있는지,인공지능을 사용한 결과에 대한 책임은 누구에게 있는지에 대한 문제도 있을 수 있다.
      - 인공지능이 학습을 통해 성능을 개선하거나 지능적인 판단을 내리더라도 도덕적,법적인 책임을 질 수 있는 주체는 인간이다
      - 인공지능을 사용하고 개발하는 것을 무조건적으로 거부하거나,수용하기보다는 인공지능과 공존하기 위해 인공지능을 어떻게 활용할 수 있을지에 대한 충분한 고민이 필요하다
      - 인공지능으로 얻게된 결과에 대하여 충분한 검토와 윤리적 고찰을 통해 인공지능을 바람직하게 사용할 수 있어야 한다
  - - - 인공지능 개발자는 인공지능 설계,개발,결과에 책임이 있다. 개발자가 설계하는 알고리즘에 개발자의 편견이나 성향이 포함되지 않게 설계되어야 하고,설계 과정에서 차별적 결과로 이어질 수 있는 편향이 구조적으로 숨어있다 하더라도 편향을 발견하고 수정하는 방안이 마련될 수 있도록 개발되어야 한다
    - - 인공지능 사용자는 인공지능의 소비 주체이자 사회적 논의의 참여 주체다. 인공지능이 적용된 자율주행 자동차가 사고를 낸 경우의 책임 소재 문제,인공지능에 의해 대체되는 일자리 문제,인공지능에게 사람의 생명을 맡겨도 될지에 관한 문제 등 인공지능으로 인한 문제가 발생할 때 사용자가 책임지는 범위에 관한 규정이나 사회적 합의가 필요하다
    - - 인공지능 운영,관리자는 개발된 인공지능을 올바르게 운영하고 관리할 책임이 있다. 또한 인공지능의 오류가 발견되거나 인공지능이 편향성을 나타낸다면 이러한 부분을 발견하고 개선할 수 있어야 한다. 개인의 사생활에 관한 사항이 철저히 보호되어야 하고 관리자의 임의적인 접근을 허용하면 안된다.
    - - 블랙박스는 인간의 뇌 신경망을 기반으로 하는 딥러닝은 데이터 안의 패턴이나 규칙을 찾아내면서 사물의 특징을 파악할 수 있게 되었다.
        
        이러한 학습과정은 인간이 예측하지 못하는 의사 결정으로 이어진다.이렇게 심층망 안의 상황을 들여다볼 수 없다는 의미이다
  - - - 인공지능 모델을 학습시키는 데 사용되는 데이터가 사람이나 사회가 가지는 편견을 포함하고 있는 것을 의미한다
      - 개인 정보가 포함된 데이터를 학습한 경우,데이터를 수집하는 사람의 특정한 의도를 반영하여 데이터를 수집한 경우, 학습 데이터로 특정 데이터가 많이 사용되는 경우 등에서 편향이 발생할 수 있다.
      - 인공지능에 사용되는 훈련 데이터가 편향되어 있으면 인공지능의 정확도가 낮아질 뿐만 아니라 사회적 물의를 일으킬 수 있다.
    - - 인공지능 모델을 위한 알고리즘을 설계하는 과정에서 생길 수 있는 편향을 말한다.
      - 설계자의 문화적,개인적인 편향이 변수나 가중치 설정에 반영되는 경우,목표와는 관련성이 없거나 적은 변수를 포함하거나 높은 가중치를 부여했을 경우, 비의도적이지만 알고리즘을 설계할 때 일반적으로 가나다 순서,알파벳 순서대로 결과를 나열하는 경우 등에서 알고리즘 편향이 발생할 수 있다
      - 인공지능 모델 학습을 위한 데이터의 수집,처리,분석,사용 과정에서 개발자,인공지능 서비스를 운영,관리하는 기업,사용자의 윤리 의식이 중요하다
      - 알고리즘을 구성하는 주요한 원칙을 공개하고 이 알고리즘이 실제로 작동하였을 경우를 다양한 시뮬레이션으로 제시해 사용자들도 확인할 수 있는 권리를 보장해야 한다
    - - 포용성과 지속 가능성
        
        모든 이해관계자는 인류의 포용 성장,지속 가능한 발전 및 복지 증진을 위해 신뢰 가능한 인공지능 구현에 힘써야 함
      - 인간 중심 가치와 공정성
        
        인공지능 수명 주기 전반에 걸쳐 법률,인권 및 민주적 가치 등 인간 중심 가치를 존중하고 지키기 위해 힘써야 함
      - 투명성과 설명 가능성
        
        인공지능 시스템에 대한 이해를 증진시키고 감춰진 것이 없도록 투명성과 설명 가능성을 확보해야 힘
      - 견고성과 안전성
        
        인공지능은 전 수명 주기에 걸쳐 견고하게 작동되어야 하며 바람직하지 못한 조건을 견딜 수 있거나 극복할 수 있어야 함
      - 책무성
        
        인공지능 활동 주체는 자신들의 역할,상황의 토대 위에 최신성을 유지하면서 위의 원칙을 존중하며 인공지능 시스템이 적절히 가능하도록 하는 데 책임을 다해야 함
      - 인공지능의 사회적 책임은 기업에만 국한되는 것이 아니다. 사회의 구성원 모두가 사회적 책임감을 가지고 공정성을 추구하는 데 힘을 써야 한다
  - - - 인공지능의 훈련 데이터로 사용할 데이터를 수집할 때 개인 정보가 포함된다
      - 개인 정보와 관련된 가치와 인공지능으로 사회적인 문제를 해결할 수 있다는 가치가 상충하여 윤리적 딜레마가 발생할 수 있다
      - 하인츠 딜레마의 상황은 생명을 살려야 한다는 가치와 약사가 개발한 노력에 대한 가치, 법을 지켜야 한다는 가치 등이 서로 상충한다
        
        이렇게 우열을 가리기 힘든 가치가 서로 상충할 때 윤리적 딜레마가 발생할 수 있다
      - 예를 들어 자동차의 블랙박스를 통해 보행자나 주변장소,사물 등에 관한 정보가 수집될 수 있는데 이를 범죄자를 찾는 목적으로 사용할 수 있다
        
        하지만 이와 관련 없는 사람들의 안면 데이터를 수집하는 과정에서 개인 정보가 어느 범위까지 공개되고 사용되도록 할 것인지,정보 주체가 스스로 결정할 권리를 잃게 되며,개인의 자유와 사생활을 침해받을 수 있게 된다
      - 공익적 활용이 목적이라면 이런 불특정 다수의 개인 정보가 포함된 데이터를 수집하게 해도 괜찮을지에 관하여 의견이 다양하게 나올 수 있다
    - - 추천 알고리즘 덕분에 우리는 개인 맞춤형 광고나 콘텐츠를 향유할 수 있게 되었다.
      - 사용자가 관심 있는 분야의 정보만을 취할 수 있어 만족감을 느낄 수 있고, 광고주나 기업도 더 큰 이익을 얻을 수 있게 되었다.
      - 하지만 특정 정보만을 받아들여 고정 관념이 생기게 되고 사회적으로 파편화되어 사회적 합의가 어려워질 수 있다.
      - 양질의 콘텐츠보다 비슷한 콘텐츠를 다수 생산함으로써 문화 획일화와 문화 산업의 축소를 가져올 수도 있다.
      - 사용자의 입장에서는 사용하는 기기의 검색 기록, 시청 기록 등의 데이터를 주기적으로 삭제하여 데이터가 알고리즘에 지나치게 이용되는 것을 막을 수 있을 것이다.
      - 개발자나 운영,관리자의 입장에서는 알고리즘이 사회에 미칠 수 있는 영향에 대한 지속적인 논의가 필요하다.
    - - 윤리적 딜레마 상황에 직면했을 때, 윤리적 가치와 원칙,전문가의 조언,다양한 시각과 의견을 종합적으로 고려하여 결정을 내리는 것이 중요하다
      - 딜레마 상황에서 인공지능의 판단은 많은 사람이 공감할 수 있는 판단이 되어야 하고,공정하고 객관적인 판단이 필요하다
      - 우선순위가 알고리즘에 결정되어 있어야 하고,자율주행 자동차가 사고를 내면 어떻게 동작할 것인지에 대한 충분한 논의와 검토가 필요하며 기업과 소비자들의 의견이 반영된 사회적 합의 내용을 고려해야 한다
- - - - 자율주행 트랙터는 지형을 인식하며 주행하여 농작물을 심기 좋게 밭을 갈고, 농작물을 심는다. 또한 무인 제초 로봇은 잡초와 작물을 구분하여 잡초를 제거한다. 이러한 기술들은 생산량을 늘리는 데 기여하고 있다.
    - - 가전제품에 탑재된 인공지능은 사용자의 습관에 맞춰 제품의 동작을 제어하여 불필요한 에너지 낭비를 줄인다. 또한 에너지 생산 및 분배 과정에서 인공지능 기술을 통해 에너지 사용량을 예측하여 에너지를 절약하고 있다
    - - 질병 진단을 위한 인공지능 의료 영상 판독 지원 프로그램과 질병에 대한 치료 방법 추천 프로그램 등이 의료 현장에서 활용되어,의사들의 판단을 돕고 의료의 수준을 향상시키고 있다
    - - 인공지능을 활용한 신호 제어를 도입하여 도시의 교통 시스템을 최적화하고 교통 혼잡을 완화한다. 또한 도로 및 다리의 상태를 모니터링하여 유지 보수 일정을 최적화하고 있다
    - - 인공지능 튜터는 학생들의 학습 스타일과 수준에 맞는 맞춤형 학습 자료를 제공하여 학생들의 학습을 돕는다. 또한 교육 기관에서는 시간표 작성,학생 출석 관리,학생 행동 분석 등을 자동화하여 업무 효율을 높여, 학생과 학부모들에게 효율적으로 정보를 제공하고 있다
    - - 인공지능은 기후 모델링에 활용되어 기후 변화를 예측하는 데 도움을 준다. 또한 인공지능은 기후 변화로 인한 새로운 자연재해를 예측하고, 이를 바탕으로 조기 경보 시스템을 운영하여 재난에 대비할 수 있도록 돕고 있다