728x90
반응형
SMALL
1. Linear Regression (선형 회귀)
1) 개념
선형 모델은 입력값(특징)과 가중치(weight)를 곱하고 편향(bias)을 더해 결과값(출력)을 계산하는 간단한 수학적 모델이다.
수식 표현: y=Wx+b
- x: 입력 데이터 (특징 또는 독립 변수)
- W: 가중치(Weight, 모델이 학습하는 값)
- b: 편향(Bias, 모델이 학습하는 값)
- y: 출력값(예측값 또는 종속 변수)
선형 모델은 입력과 출력 사이의 선형 관계를 학습하여 예측한다.
그래프 또한 선형적인 1차함수의 형태를 띄고 있음
장점) 그래프 사이의 거리를 찾기 쉬움
2. Training Loss (훈련 손실)
1) 손실 함수의 역할
훈련 과정에서 모델의 예측값과 실제값 사이의 차이를 측정합니다.
모델은 이 손실값을 최소화하도록 학습합니다.
2) 가장 많이 사용되는 손실 함수 - MSE (Mean Squared Error)
- y_i: 실제값
- y_i(hat): 예측값
- n: 데이터 수
MSE는 오차의 제곱을 평균 내기 때문에 큰 오차에 더 큰 페널티를 부여한다.
3. Loss Graph (손실 그래프)
1) 손실 감소 시각화
훈련 과정에서 에포크(epoch)가 진행됨에 따라 손실이 어떻게 감소하는지 시각화하면,
모델의 학습 상태를 직관적으로 이해할 수 있다.
728x90
반응형
LIST
'💻 본업(컴공생) 이야기 > 파이토치 공부 이야기' 카테고리의 다른 글
[파이토치 (PyTorch)] 6. Logistic Regression (로지스틱 회귀) (1) | 2025.01.08 |
---|---|
[파이토치 (PyTorch)] 5. Linear Regression in PyTorch way (0) | 2025.01.07 |
[파이토치 (PyTorch)] 4. Back-propagation (역전파) (2) | 2025.01.07 |
[파이토치 (PyTorch)] 3. Gradient Descent (경사 하강법) (0) | 2025.01.07 |
[파이토치 (PyTorch)] 1. 개요 (4) | 2025.01.07 |