분류(Classification) 문제

• 기존에 존재하던 데이터의 카테고리 관계를 파악하고, 새롭게 관측된 데이터의 카테고리를 판별하는 과정 (지도)

• 회귀문제와는 다른 기준으로 기준 모델을 설정

  • 회귀모델에서는 평균을 사용
    • 평가지표도 다르다 (분류 평가지표 사용 X)
      • Accuracy

  

  • 분류모델에서는 Majority class baseline

    • 가장 빈번하게 나타나는 범주를 기준 모델
      • 최다 클래스의 빈도가 정확도가 된다.
    • 다수 클래스를 기준 모델로 정하는 방법
    • 시계열 (times-series) 데이터는 어떤 시점을 기준으로 이전 시간의 데이터를 기준

    

    

    

로지스틱 회귀 (Logistic Regression)

• 종속변수가 명목변수일 때 사용하는 회귀분석 방법
  • Linear Regression 과 형태가 같고
  • 단지 종속 변수만 이항형(binomial) 또는 순서적인 다항형(polynomial) 인 경우에 사용

• 특성변수를 로지스틱 함수 형태로 표현한다
  • 관측치가 특정 클래스에 속할 확률값으로 계산한다
    • 정해진 기준값 보다 크면 1 아니면 0

• Logit Transformation

  • 오즈(Odds) 에 로그를 취해 변환하는 것
    • 오드: 실패확률 (0) 에 대한 성공확률 (1의 비율) 의 비율
      • odds = 4 , 성공확률이 실패확률의 4배
    • 비선형 → 선형으로 변경
  • 목적 - 로지스틱회귀의 계수의 의미를 해석하기 쉽게
  • 특성(Predictor X) 의 증가에 따라 로짓이 얼마나 변화했는지 본다 .

  

  ---

• 실사용 사례

  • 이상거래 탐지
  • 신용도 평가
  • 암 유무
  • 스팸메일 분류

• Logistic Regression 의 단점

  • 연속적 회귀문제를 다루기 어렵다
  • 비선형적 문제들에 사용하기 어렵다
  • 명확한 관계 설정이 어려움

그 외

• 검증 데이터의 용도와 테스트 데이터의 용도
  • 검증 데이터 – 최적의 모델을 선택 (하이퍼파라미터를 조정한 여러 모델들의 성능 비교)
    • 파라미터와 하이퍼파라미터의 차이?
      • 파라 – 모델 내부에서 결정되는 변수, 회귀계수 같은 것들. 데이터에 의해서 정해져 있는 값
      • 하이퍼 – 모델링할 때 사용자가 직접 세팅해주는 값. 데이터들에게 변화를 줄 수 있는 값.
    • 목적: 모델의 정확도를 높히기 위해
      • 훈련세트로 모델을 한 번에 완전하게 학습시키기 어려워
  • 테스트
    • 목적: 모델을 최종적으로 1회 평가하는 용도