Deep Learning딥러닝

머신러닝:
원본 데이터 → [특징 추출(수동)] → [ML 모델] → 결과

딥러닝:
원본 데이터 → [신경망(자동 특징 학습)] → 결과

1. 순전파 (Forward Pass):
   입력 → 각 레이어 통과 → 예측값

2. 손실 계산:
   예측값 vs 실제값 → Loss 계산

3. 역전파 (Backward Pass):
   체인 룰로 각 파라미터의 그래디언트 계산

4. 가중치 업데이트:
   W = W - lr * ∂Loss/∂W

import torch
import torch.nn as nn

class SimpleNet(nn.Module):
    def __init__(self):
        super().__init__()
        self.layers = nn.Sequential(
            nn.Linear(784, 256),
            nn.ReLU(),
            nn.Dropout(0.2),
            nn.Linear(256, 128),
            nn.ReLU(),
            nn.Linear(128, 10)
        )

    def forward(self, x):
        return self.layers(x)

model = SimpleNet()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)
criterion = nn.CrossEntropyLoss()

# 학습
for epoch in range(100):
    output = model(X_train)
    loss = criterion(output, y_train)
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()