Mathematics수학University

단순 선형 회귀선

이 방정식은 두 변수 간의 선형 관계에 대해 관측값과 예측값 사이의 잔차 제곱합을 최소화하는 최적 적합선을 정의한다.

Understand the formulaSee the free derivationOpen the full walkthrough

\overset{y}{^} = b_{0} + b_{1} x where b_{1} = \frac{n \sum x y - ( \sum x ) ( \sum y )}{n \sum x ^{2} - ( \sum x ) ^{2}} and b_{0} = \overset{y}{ˉ} - b_{1} \overset{x}{ˉ}

Open Full Walkthrough Try Calculator

This public page keeps the free explanation visible and leaves premium worked solving, advanced walkthroughs, and saved study tools inside the app.

Core idea

Overview

단순 선형 회귀선은 주요 입력값과 식의 관계를 정리하고 계산 결과의 의미를 해석하기 위한 설명입니다. 조건, 단위, 전제를 확인하면서 사용하면 결과를 비교, 판단, 추정, 위험 확인과 연결하기 쉽습니다. 필요하면 값을 바꾸어 결과가 어떻게 달라지는지도 확인하세요.

When to use: 단순 선형 회귀선은 주어진 값에서 필요한 결과를 구해야 할 때 사용합니다. 입력 단위, 범위, 전제 조건을 확인한 뒤 대입하고, 계산 결과를 실제 조건이나 문제의 목적과 비교해 해석하세요.

Why it matters: 단순 선형 회귀선의 결과는 수치를 비교하고 경향, 제약, 위험, 설계 판단을 설명하는 데 도움이 됩니다. 답을 단독 숫자로만 보지 말고 조건이 바뀔 때의 의미와 타당성도 함께 확인할 수 있습니다.

Symbols

Variables

y^ = Predicted Value, $b_{1}$ = Slope, $b_{0}$ = Y-Intercept, x = Independent Variable, n = Sample Size

Predicted Value

Variable

b_{1}

Slope

Variable

b_{0}

Y-Intercept

Variable

x

Independent Variable

Variable

n

Sample Size

Variable

\overset{y}{^}

\hat{y}

Variable

Walkthrough

Derivation

단순 선형 회귀선의 유도

이 유도는 최소 제곱법을 사용하여 관측 데이터 점과 선형 회귀 모델 간의 잔차 제곱합을 최소화합니다.

변수 x와 y 사이의 관계는 선형입니다.
오차는 독립적이고 동일하게 분포되며 평균이 0입니다.

잔차 제곱합(SSR) 정의

관측 데이터 점 $y_{i}$ 과 회귀선 상의 예측값 사이의 수직 거리의 제곱합으로 목적 함수 S를 정의합니다.

S (b_{0}, b_{1}) = i = 1 \sum n (y_{i} - (b_{0} + b_{1} x_{i}))^{2}

Note: 제곱 잔차를 최소화하면 양의 편차와 음의 편차가 서로 상쇄되지 않도록 합니다.

b_0에 대한 편미분

S를 최소화하기 위해 $b_{0}$ 에 대한 편도함수를 취하고 0으로 설정하면 절편에 대한 정규 방정식이 도출됩니다.

\frac{\partial S}{\partial b _{0}} = - 2 i = 1 \sum n (y_{i} - b_{0} - b_{1} x_{i}) = 0

Note: 이를 단순화하면 방정식 $b_{0}$ = $\overset{y}{ˉ}$ - $b_{1}$ \bar{x}가 됩니다.

b_1에 대한 편미분

$b_{1}$ 에 대한 편도함수를 취하고 0으로 설정하여 오차를 최소화하는 기울기를 찾습니다.

\frac{\partial S}{\partial b _{1}} = - 2 i = 1 \sum n x_{i} (y_{i} - b_{0} - b_{1} x_{i}) = 0

Note: 이전 단계에서 $b_{0}$ 에 대한 식을 이 방정식에 대입하여 $b_{1}$ 을 분리합니다.

b_1에 대해 연립 방정식을 풉니다.

$b_{0} = \overset{y}{ˉ} - b_{1} \overset{x}{ˉ}$ 을 두 번째 정규 방정식에 대입하고 대수적으로 풀면 기울기 계수의 계산 공식을 유도할 수 있습니다.

b_{1} = \frac{n \sum x _{i} y _{i} - ( \sum x _{i} ) ( \sum y _{i} )}{n \sum x _{i}^{2} - ( \sum x _{i} ) ^{2}}

Note: 이것은 $b_{1} = \frac{Cov ( x , y )}{Var ( x )}$ 과 동등합니다.

Result

b_{1} = \frac{n \sum x _{i} y _{i} - ( \sum x _{i} ) ( \sum y _{i} )}{n \sum x _{i}^{2} - ( \sum x _{i} ) ^{2}}

Source: Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis.

Why it behaves this way

Intuition

데이터 점들의 산점도를 떠다니는 입자들의 구름으로 상상해 보세요. 회귀선은 구름의 중심을 통과하는 단단하고 무게가 있는 막대 역할을 합니다. 공식은 이 막대를 회전시키고 이동시키는 '중력' 메커니즘으로 작용하여 막대와 구름의 모든 점 사이의 수직 거리(제곱)의 합이 절대 최소가 되도록 합니다.

\overset{y}{^}

예측된 종속 변수

주어진 입력에 대한 최적 적합선 상의 '목표' 좌표로, 데이터 포인트가 어디에 위치해야 하는지에 대한 모델의 '최선의 추정' 역할을 합니다.

b_{1}

기울기 (회귀 계수)

'변화율' 또는 민감도; 입력이 1단위 증가할 때 출력이 얼마나 증가 또는 감소할 것으로 예상되는지를 알려줍니다.

b_{0}

Intercept

'기준선' 값; 입력이 0일 때 출력의 기대값으로, 선을 세로축에 고정합니다.

n

Sample size

증거의 가중치; 방정식에 추세 결정에 기여하는 데이터 포인트의 수를 알려줍니다.

Signs and relationships

b_1: $b_{1}$ 의 부호는 관계의 방향을 나타냅니다: 양수는 두 변수가 같은 방향으로 움직인다는 의미이고, 음수는 역의 관계를 나타냅니다.
b_0: 이것은 전체 선을 수직으로 이동시키는 가법 상수로, 선이 데이터의 중심(평균)을 통과하도록 보장합니다.

One free problem

Practice Problem

다음 조건을 사용해 단순 선형 회귀선을(를) 구하세요. 필요한 값을 식에 대입하고 단위와 자릿수를 확인해 답하세요. 조건: 1, 2, 3, 5, 1.

Hint: 단순 선형 회귀선의 식에 알려진 값을 대입하고 단위, 부호, 분자와 분모의 대응을 확인하면서 계산하세요. 문제에서 주어진 조건을 먼저 정리하면 더 쉽게 풀 수 있습니다. 관련 기호: $x^{2}$ .

The full worked solution stays in the interactive walkthrough.

Where it shows up

Real-World Context

단순 선형 회귀선은 실무, 학습, 분석 상황에서 구체적인 값을 대입해 결과를 확인할 때 사용할 수 있습니다. 계산 결과를 단순한 숫자로만 보지 않고 조건 비교, 판단, 추정, 위험 확인과 연결해 해석하는 데 도움이 됩니다.

Study smarter

Tips

관계가 실제로 선형인지 확인하려면 먼저 산점도를 반드시 만드세요.
이상치는 회귀선의 기울기에 과도한 영향을 줄 수 있으므로 확인하세요.
상관계수(r)를 계산해 선형관계의 강도와 방향을 정량화하세요.

Avoid these traps

Common Mistakes

강한 상관관계가 인과관계를 의미한다고 가정하는 것.
회귀선을 관측된 x 데이터 범위를 훨씬 벗어나도록 외삽하는 것.

Common questions

Frequently Asked Questions

이 유도는 최소 제곱법을 사용하여 관측 데이터 점과 선형 회귀 모델 간의 잔차 제곱합을 최소화합니다.

단순 선형 회귀선은 주어진 값에서 필요한 결과를 구해야 할 때 사용합니다. 입력 단위, 범위, 전제 조건을 확인한 뒤 대입하고, 계산 결과를 실제 조건이나 문제의 목적과 비교해 해석하세요.

단순 선형 회귀선의 결과는 수치를 비교하고 경향, 제약, 위험, 설계 판단을 설명하는 데 도움이 됩니다. 답을 단독 숫자로만 보지 말고 조건이 바뀔 때의 의미와 타당성도 함께 확인할 수 있습니다.

강한 상관관계가 인과관계를 의미한다고 가정하는 것. 회귀선을 관측된 x 데이터 범위를 훨씬 벗어나도록 외삽하는 것.

관계가 실제로 선형인지 확인하려면 먼저 산점도를 반드시 만드세요. 이상치는 회귀선의 기울기에 과도한 영향을 줄 수 있으므로 확인하세요. 상관계수(r)를 계산해 선형관계의 강도와 방향을 정량화하세요.

References

Sources

Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis.
Freedman, D., Pisani, R., & Purves, R. (2007). Statistics.