하이퍼 파라미터

최적의 딥러닝 모델을 구하기 위해 여러 방법과 인간의 선험적 지식을 기반으로 딥러닝 모델에 설정하는 변수

인간이 직접 설정하는 값

http://blog.skby.net/하이퍼파라미터-hyperparameter/

하이퍼 파라미터의 종류

다양한 하이퍼파라미터가 존재하고 최적의 딥러닝 모델 생성을 위해 하이퍼파라미터 튜닝 필요

제목 없음

하이퍼 파라미터 튜닝

1. Manual Search : 수작업으로 파라미터 수정
2. Grid Search: 하이퍼 파라미터 마다 탐색하는 지점을 정해서 모든 지점에 해당하는 조합을 알아서 수행 → 오래걸림
3. Random Search: 상대적으로 중요한 하이퍼 파라미터는 더 탐색하고 덜 중요한 파라미터는 덜 탐색
4. Baysian Methods: 기존 추출 기반 탐색 효율을 높임