편미분으로 β₀·β₁을 구하다

1. 왜 편미분인가

앞 페이지에서 최소화 대상이 이거였죠.

여기서 데이터 는 그냥 고정된 숫자예요. 미지수는 β₀와 β₁ 둘이죠. 그래서 최솟값을 찾으려면 각 미지수에 대해 하나씩, 나머지는 상수로 두고 미분하는 편미분을 씁니다. "β₀를 고정하고 β₁로 미분"이라는 게 바로 편미분의 정의 그 자체예요.

2. 미분 과정, 한 줄씩

핵심 도구는 연쇄법칙 하나예요. 각 항이 꼴이라 미분하면 "2 × (안쪽) × (안쪽의 미분)"이 돼요. 잔차를 로 둘게요.

① β₁ 고정, β₀로 미분

안쪽 를 β₀로 미분하면 (y와 β₁x는 상수).

② β₀ 고정, β₁로 미분

이번엔 안쪽을 β₁로 미분하니 .

이 두 식을 정규방정식(normal equations)이라고 불러요.

③ 두 식을 풀면

식 ①을 n으로 나누면 곧바로 절편이 나오고(선이 무게중심을 지난다는 뜻),

이걸 식 ②에 대입해 정리하면 앞 페이지의 그 단순한 공식이 떨어져요.

3. 두 단면을 직접 잘라보기 (2D)

왼쪽은 β₀를 고정하고 β₁만 움직였을 때의 SSR 곡선(그릇을 세로로 벤 단면), 오른쪽은 그 반대예요. 주황 접선의 기울기가 그 방향의 편미분이고, 접선이 수평이 되는 곳이 그 단면의 바닥이에요.

한쪽 슬라이더를 움직여 그 단면 접선을 수평으로 만들어도, 다른 슬라이더를 건드리면 곡선이 통째로 다시 움직여요. 두 좌표가 얽혀 있다는 뜻이고, 그래서 한 번에 안 되고 두 접선이 함께 수평이 될 때까지 맞춰야 해요.

4. 같은 것을 3D 그릇으로 (드래그해서 회전)

위 두 단면 곡선을 실제 그릇 표면 위에 얹은 거예요. 보라=β₀ 고정→β₁ 방향, 청록=β₁ 고정→β₀ 방향. 노란 점이 현재 위치고, 두 곡선의 바닥이 같은 자리에서 만나는 그릇 밑바닥이 최소점 (1.9, 1.1)이에요. (이 그릇은 바로 아래 전용 슬라이더로 움직여요 — 위 2D 단면과는 독립.)

5. 정리

편미분의 직관은 이거예요. 다변수 함수에서 "한 변수로 미분"은 나머지를 붙잡아둔 채 그 방향으로만 살짝 걸어봤을 때의 경사예요. 최소점은 어느 축 방향으로 걸어도 더 내려갈 데가 없는 곳, 즉 모든 편미분이 동시에 0인 곳이고요. 변수가 2개면 방정식 2개, k개면 k개 — 다중회귀도 이 논리가 그대로 확장돼요. 행렬로 압축하면 한 줄이 되는데, 그게 바로 위 정규방정식을 여러 변수로 쌓은 거예요.