Please enable JavaScript.
Coggle requires JavaScript to display documents.
AI 신뢰성 - Coggle Diagram
AI 신뢰성
견고성
안전성
- AI 시스템의 의사결정이 인간에게 피해를 끼치지 않기 위한 조치 수행
- (예시) 음성인식 : 잡음이 섞인 음성을 제대로 인식, AI 시스템의 의사결정 범위를 제한
보안성
- AI 시스템에 대한 외부의 공격에 대해 일관성을 유지
- (예시) 악의적으로 가공된 입력 데이터에 대한 대처, 사이버 공격에 대한 대응
정확성
- AI 시스템의 지능적 의사결정에 대한 정확성
- (예시) 음성인식 : 사람의 말을 얼마나 정확하게 인식하는지를 판단 (WER : Word Error Rate)
책무성
전문적인 책임성
- AI 시스템에 대한 책임감 있는 기획, 개발, 활용
- AI 시스템에 대한 법적 규제 준수, 감사 요구 대응, 환경적 책임 이행
- (예시) AI 시스템에 대한 감사 기구 마련
영향 평가
- AI 시스템이 야기할 수 있는 사회적 효과에 대한 영향 평가 수행
- (예시) 자율주행차 : 자율주행차로 일어날 수 있는 긍정적 부정적 효과를 다면적으로 분석
사람의 제어
- AI 시스템에 대해 사람의 제어가 가능하도록 구현
- (예시) AI 시스템의 의사결정 과정을 모니터링할 수 있는 도구 구현
투명성
설명가능성
- AI 시스템의 의사결정 과정을 설명
- (예시) 자율주행차 : 각 의사결정의 이유를 문장 형태로 설명
절차적 투명성
- AI 시스템의 의사결정 과정을 사용자에게 고지
- (예시) 자율주행차 : 주행 중 AI가 개입한 내용을 사용자에 고지, AI 시스템 의사결정 과정을 명시
공개
- AI 알고리즘과 활용된 데이터의 공개
- (예시) 자율주행차 : 알고리즘(ResNet), 데이터(다양한 환경의 주행정보 데이터 10만km)
공정성
공정성
- AI 시스템의 기획, 개발, 배포, 활용 전주기에서 발생할 수 있는 연령, 성별, 국적, 장애요인 등에 대한 편향 및 차별 방지
- (예시) 안면인식 : 그룹 공정성 및 항등성 준수 등
차별과 편향의 예방
- AI 시스템의 잠재적인 편향 및 차별에 대한 예방책
- (예시) 안면인식 : 이상 현상에 대한 사용자 피드백 시스템
포괄적 설계
- AI 시스템의 설계 단계에서 차별 및 편향 제거를 위한 노력
- (예시) 안면인식 : 인구통계에 맞는 학습 데이터 구성
프라이버시
데이터 보호법 준수
- 개인 정보를 활용한 AI 시스템 개발 시 데이터 보호법이나 지침을 반드시 준수
- (예시) 인공지능 개인정보보호 자율점검표 준수