Please enable JavaScript.
Coggle requires JavaScript to display documents.
인공신경망과 딥러닝 - Coggle Diagram
인공신경망과 딥러닝
딥러닝 유형
심층 순방향 신경망
딥러닝에서 가장 기본으로 사용하는 인공신경망
층
입력
은낙
출력
예시
시계열 주식
NSTM
RNN과는 다르게 신경망 내에 메모리를 두어 먼 과거의 데이터도 저장할 수 있도록
RNN
RNN 역시 신경망 층이 깊어질수록(은닉층 수가 많을수록) 먼 과거의 데이터가 현재에 영향을 미치지 못하는 문제가 발생함
합성곱 신경망
인간의 시각 처리 방식을 모방한 신경망
충
합성곱층
풀링층
완전연결층
워닝 임베드
기계가 사람의 언어를 이해할 수 있도록 변환
적대적 생성 신경망
2개의 신경망 모델이 서로 경쟁하면서 더
나은 결과를 만들어 내는 강화학습
이미지 생성 분야에서 뛰어난 성능을 보이고 있음
딥러닝 개요
Deep 출현
2006년 제프리 힌튼
깊은 신경망
역전파 학습
2007년 벤지오
사전 인코더
사전훈련
인공신경망 개념
딥러닝 기원
사람의 뇌의 신경망 구조
뉴런 흉내
머싱러닝 기법
개념
머싱러닝
학습
여러 은닉층
심층 학습
가중합
입력값과 가중치를 곱한 뒤 편향(Bias)을 더한 값
활성화 함수
입력 신호가 출력 결과에 미치는 영향도를 조절하는 매개변수
종류
시그모이드
하이퍼볼릭 탄젠트
렐루
리키렐루
소프프맥스
학습
순전파
입력층에서 출력층 방향으로 연산이 진행되면서 최종 출력값(예측값)이 도출되는 과정
손실함수
예측값과 실제값의 차이를 구하는 함수
옵티마이저
딥러닝에서 학습 속도를 빠르고 안정적이게 만드는 것
역전파
딥러닝에서 학습 속도를 빠르고 안정적이게 만드는 것
인공신경망
역사
퍼셉트론
1957년
프랭크 로젠블라트
수학적 구성
인간의 두뇌 움직임
인공신경망
기대
폭증
신경망
기원
원리
신호(x1, x2)를 입력으로 받아 하나의 신호(y)를 출력하는 기계
초기
AND와 OR
간단
한계
각각의 가중치와 편향 학습 안됨
역전파
학습
가중치
편향
1974년 폴 워보스
1986년, 제프리 힌튼이
한계
깊어지면
오차 심함