Please enable JavaScript.
Coggle requires JavaScript to display documents.
11월 19일 - Coggle Diagram
11월 19일
톺아보기
데이터셋 구성
관측 데이터 구성
범주성 데이터
고른 비율 중요
가중치 조절
강제 데이터 늘리기
회귀 데이터
함수 범위 지지 중요
보간
외삽
근사 능력 저하
데이터셋의 분리
분리
검증 데이터셋
테스트 데이터셋
훈련 데이터셋
분포
원래의 분포 유지
훈련 데이터 단위
방식
미니배치 방식
데이터를 작은 단위로 묶어서 훈련
일반적인 신경망 훈련 방식
장점
빠른 학습
확률적 성질로 인한 정규화 효과, 최적해
적절한 미니배치 크기
2의 거듭제곱
효율적 GPU 메모리 사용
검증 데이터셋을 이용해서 적절한 크기를 찾는다.
배치 방식
훈련 데이터셋을 한꺼번에 입력
온라인 학습 등 불가
메모리용량 초과 용이
확률적(stohastic) 방식
데이터를 샘플 단위로 묶어서 학습
그에 따른 경사 하강법 분류
배치 경사 하강법
적은 진동
립시츠 연속
최적해로 수렴
함수 변화량의 상한을 갖는 성질
미니배치 경사 하강법
중간 진동
확률적 경사 하강법
많은 진동
손실 함수 정의
정의 기준
최적해가 관측 데이터를 잘 설명할 수 있는 함수의 파라미터 값이 되도록 정의
모델
오차 최소화
예측과 관측 데이터 타깃의 차이 최소화
MSE
MAE
최대우도측정
우도
모델이 추정하는 관측데이터의 확률
관측 데이터의 확률이 최대화되는 확률분포 함수를 모델이 표현하도록 만드는 것
cs231n 10강
기타
Hadamard product
frhme.code
wikipedia
)
중간고사 자료
중간고사
중간고사풀이
RNN
모두연출신 유튜브
RNN설명
ratsgo's blog RNN과
LSTM
딥러닝을 이용한 자연어 처리
입문책
gaussian37
블로그
Team AI Korea
블로그
논문
CNN과 RNN 결합으로 그림설명
논문
CV관련 attention이 설명된
논문
fundamental 30. 파이썬으로 데이터 전처리 웹 만들기