Please enable JavaScript.

Coggle requires JavaScript to display documents.

정형 데이터 마이닝 - Coggle Diagram

- - - - 알고리즘
        
        오즈(Odds)
        
        성공 확률 / 1-성공확률 = 실패할 확률
        
        로그값을 취해 직선으로 표현
        
        로짓값
        
        로짓값을 0~1사이의 확률로 바꾸는 S곡선 함수
        
        시그모이드함수
      - 개요
  - - - 이상값에 민감하지 않음
    - - 각 가지마다 제일 잘 분리할 수 있는 기준 찾는게 중요
        
        지니지수
        
        1-시그마 p 제곱
        
        종속변수가 범주형
        
        엔트로피
        
        종속변수가 범주형
    - - 가지치기로 해결
  - - - 앞 모델이 틀린 데이터에 가중치를 부여
        
        부스팅
        
        직렬적
        
        편향 감소
        
        과적합 위험
      - 서로 다른 종류의 모델을 결합하고 최종 심사 모델이 존재
        
        스태킹
        
        가장 복잡하지만 고성능
      - 동일한 데이터를 여러개의 모델이 학습
        
        베깅
        
        변수 선택도 랜덤하게 하는 것
        
        랜덤포레스트
        
        이상값에 민감하지 않음
        
        붓스트랩
        
        분산 감소
        
        과적합 감소
  - - - 입력층
      - 은닉층
      - 출력층
    - - 활성함수
        
        시그모이드 함수
    - - 단층 퍼셉트론
        
        은닉층이 없는 가장 단순한 신경망
        
        선형 분리 문제에 적합
      - 다층 퍼셉트론
        
        1개 이상의 은닉츠을 포함한 신경망
        
        복잡한 패턴 인식 가능
  - - - 거리 개념 사용
        
        유클리드, 맨해튼 거리 등
      - 적절한 K를 지정하는 게 중요
      - 학습단계를 거치지 않는 게으른 학습
  - - - 민감도(재현율)
      - 특이도
      - 정밀도
      - F1 Score
      - 정확도
    - - 민감도와 1-특이도를 비교한 그래프
      - AU(RO)C
        
        ROC 곡선 아래의 넓이로 1에 가까울수록 성능이 조음
        
        0.5에 가까울수록 무작위성을 갖는 좋지 못한 모델
    - - 분류 모형을 쓰고 얼마나 이득이 되었는지를 측정
    - - 랜덤모델에 대해 해당 데이터 구간에서 몇 배 더 좋은 예측력을 가지는지 설명
  - - - 데이터가 서로 다 독립이라고 가정 = 순진
  - - - 마진이 높을수록 더 안정적으로 분류가 가능
    - - 초평면과 가장 가까운 데이터점 간의 거리
      - 클래스(분류그룹) 사이의 여유 거리
- - - - 개념
        
        방대한 데이터 속에서 규칙, 패턴을 찾아내어 예측이나 의사결정(인사이트)에 활용
        
        상향식 접근법
      - 종류
        
        정답이 있는 데이터로 모델 학습
        
        지도학습
        
        데이터가 어느 그룹에 속하는지 판별
        
        분류(범주형)
        
        인공 신경망 모형
        
        의사결정나무(분류트리모형)
        
        k-NN(k-최근접 이웃 알고리즘)
        
        앙상블 모형
        
        SVM
        
        나이브베이즈분류
        
        로지스틱 회귀분석
        
        회귀(연속형)
        
        선형회귀분석
        
        의사결정나무
        
        SVR
        
        인공 신경망 모형
        
        릿지
        
        라쏘
        
        정답을 알려주지 않고 컴퓨터가 스스로 학습
        
        비지도학습
        
        데이터나 상품의 연관성
        
        연관
        
        Apriori
        
        차원(데이터)축소로 모형 성능 향상
        
        차원 축소
        
        LDA(선형판별분석)
        
        MDS(다차원척도법)
        
        PCA(주성분분석)
        
        유사성이 높은 데이터끼리 그룹으로 묶기
        
        군집
        
        SOM
        
        DBSCAN
        
        병합군집
        
        계층군집
        
        K-means
  - - - 데이터셋 분할
        
        훈련용
        
        모델 학습용
        
        검정용
        
        데이터 과소/과대적합 조정
        
        평가용
        
        최종 성능 평가
      - 데이터 분할 방법
        
        홀드아웃
        
        전체 데이터를 랜덤하게 추출해서
        학습데이터와 테스트 데이터로 분리
        
        교차검증(K-Fold)
        
        전체 데이터셋을 k개로 구분하고 k-1개를 훈련용, 나머지 1개를 평가용 데이터로 사용해서 K번 모델 학습
        
        가장 많이 사용
        
        계층별 K-겹 교차검증
        
        교차검증+클래스 비율까지 고려해서 분할
        
        불균형 데이터 분류 문제에 적합
        
        붓스트랩
        
        표본을 다시 추출하는 방법의 일종으로 원본데이터의 크기만큼 복원 추출함
        
        통계적 신뢰도 향상
        
        오버 샘플링/언더 샘플링
        
        소수 클래스의 데이터를 늘리거나 다수 클래스의 데이터를 줄임
        
        불균형 클래스 문제 해결용