에포크(Epoch)
전체 데이터셋을 한 번 완전히 학습하는 단위로, 여러 epoch를 거치면서 모델이 점진적으로 학습된다.
과적합(Over fitting)
모델이 학습 데이터에 너무 맞춰져서 새로운 데이터에 대한 일반화 성능이 떨어지는 현상이다.
손실(Loss)
모델의 예측값과 실제값의 차이를 수치화 한 것으로, 학습 과정에서 이를 최소화 하는 것이 목표다.
배치 크기(Batch Size)
한 번에 처리하는 데이터의 양으로, 메모리 사용량과 학습 속도에 영향을 미친다.
학습률(Learning Rate)
모델이 한 번에 얼마나 많이 학습할지 결정하는 하이퍼파라미터로, 너무 크면 학습이 불안정하고, 너무 작으면 학습이 느리다.
검증세트(Validation Set)
학습 중간에 모델의 성능을 평가하고 과적합을 감지하기 위해 사용하는 별도의 데이터셋.
'프로그래밍 > 단어장' 카테고리의 다른 글
벡터 임베딩(Vector Embedding) (0) | 2025.01.08 |
---|---|
LLM의 뜻과 한계 (할루시네이션, 지식단절현상) (0) | 2025.01.08 |
버전(Version)과 리비전(Revision) (0) | 2024.12.26 |
수직 동기화(V-Sync), 화면 찢김, 스터터링, 삼중 버퍼링 (1) | 2024.12.22 |
크로미움(Chromium), 그리고 브라우저 엔진들 (0) | 2024.12.11 |