프로그래밍/단어장

파인 튜닝 관련 용어

Lou Park 2025. 1. 9. 16:41

에포크(Epoch)
전체 데이터셋을 한 번 완전히 학습하는 단위로, 여러 epoch를 거치면서 모델이 점진적으로 학습된다.

과적합(Over fitting)
모델이 학습 데이터에 너무 맞춰져서 새로운 데이터에 대한 일반화 성능이 떨어지는 현상이다.

손실(Loss)
모델의 예측값과 실제값의 차이를 수치화 한 것으로, 학습 과정에서 이를 최소화 하는 것이 목표다.

배치 크기(Batch Size)
한 번에 처리하는 데이터의 양으로, 메모리 사용량과 학습 속도에 영향을 미친다.

학습률(Learning Rate)
모델이 한 번에 얼마나 많이 학습할지 결정하는 하이퍼파라미터로, 너무 크면 학습이 불안정하고, 너무 작으면 학습이 느리다.

검증세트(Validation Set)
학습 중간에 모델의 성능을 평가하고 과적합을 감지하기 위해 사용하는 별도의 데이터셋.