Mathematics数学University

単純線形回帰直線

この方程式は、2変数間の線形関係について、観測値と予測値の間の残差平方和を最小化する最適な直線を定義する。

Understand the formulaSee the free derivationOpen the full walkthrough

\overset{y}{^} = b_{0} + b_{1} x where b_{1} = \frac{n \sum x y - ( \sum x ) ( \sum y )}{n \sum x ^{2} - ( \sum x ) ^{2}} and b_{0} = \overset{y}{ˉ} - b_{1} \overset{x}{ˉ}

Open Full Walkthrough Try Calculator

This public page keeps the free explanation visible and leaves premium worked solving, advanced walkthroughs, and saved study tools inside the app.

Core idea

Overview

単純線形回帰直線について、主要な入力値と式の関係を整理し、計算結果の意味を解釈するための説明です。条件、単位、前提を確認しながら使うことで、結果を比較、判断、見積もり、リスク確認に結びつけやすくなります。必要に応じて値を変え、結果の変化も確認してください。

When to use: 単純線形回帰直線は、与えられた値から必要な結果を求めたいときに使います。入力の単位、範囲、前提条件を確認してから代入し、計算結果を現実の条件や問題文の目的と照らし合わせてください。

Why it matters: 単純線形回帰直線の結果は、数値を比較し、傾向、制約、リスク、設計上の判断を説明するために役立ちます。答えを単独の数値として扱わず、条件が変わったときの意味や妥当性も確認できます。

Symbols

Variables

y^ = Predicted Value, $b_{1}$ = Slope, $b_{0}$ = Y-Intercept, x = Independent Variable, n = Sample Size

Predicted Value

Variable

b_{1}

Slope

Variable

b_{0}

Y-Intercept

Variable

x

Independent Variable

Variable

n

Sample Size

Variable

\overset{y}{^}

\hat{y}

Variable

Walkthrough

Derivation

単回帰直線の導出

この導出では、最小二乗法を用いて観測データ点と線形回帰モデルとの間の残差平方和を最小化します。

変数xとyの関係は線形である。
誤差は独立同一分布に従い、平均は0である。

残差平方和(SSR)の定義

目的関数 S を、各観測データ点 $y_{i}$ と回帰直線上の予測値との間の垂直距離の二乗和として定義します。

S (b_{0}, b_{1}) = i = 1 \sum n (y_{i} - (b_{0} + b_{1} x_{i}))^{2}

Note: 残差平方を最小化することで、正と負の偏差が互いに打ち消し合わないようにします。

b_0に関する偏微分

Sを最小化するために、 $b_{0}$ に関する偏導関数を求め、それをゼロと置きます。これにより切片の正規方程式が得られます。

\frac{\partial S}{\partial b _{0}} = - 2 i = 1 \sum n (y_{i} - b_{0} - b_{1} x_{i}) = 0

Note: これを簡約すると、方程式 $b_{0}$ = $\overset{y}{ˉ}$ - $b_{1}$ \bar{x}が得られます。

b_1に関する偏微分

$b_{1}$ に関する偏導関数を求め、それをゼロと置くことで誤差を最小化する傾きを求めます。

\frac{\partial S}{\partial b _{1}} = - 2 i = 1 \sum n x_{i} (y_{i} - b_{0} - b_{1} x_{i}) = 0

Note: 前のステップで得られた $b_{0}$ の式をこの方程式に代入して、 $b_{1}$ を分離します。

b_1に関する連立方程式を解く

$b_{0} = \overset{y}{ˉ} - b_{1} \overset{x}{ˉ}$ を第二正規方程式に代入して代数的に解くことで、傾き係数の計算式を導出します。

b_{1} = \frac{n \sum x _{i} y _{i} - ( \sum x _{i} ) ( \sum y _{i} )}{n \sum x _{i}^{2} - ( \sum x _{i} ) ^{2}}

Note: これは $b_{1} = \frac{Cov ( x , y )}{Var ( x )}$ と等価です。

Result

b_{1} = \frac{n \sum x _{i} y _{i} - ( \sum x _{i} ) ( \sum y _{i} )}{n \sum x _{i}^{2} - ( \sum x _{i} ) ^{2}}

Source: Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis.

Why it behaves this way

Intuition

データ点の散布図を、浮遊する粒子の雲として想像してください。回帰直線は、雲の中心を通る堅く重み付けされた棒のように機能します。この公式は、棒と雲内のすべての点との間の(二乗)垂直距離の合計が絶対最小値になるまで棒を回転および移動させる「重力」メカニズムとして機能します。

\overset{y}{^}

予測される従属変数

与えられた入力に対する最適直線上の「目標」座標であり、データ点がどこに落ちるべきかのモデルの「最善の推測」として機能します。

b_{1}

傾き(回帰係数)

「変化率」または感度;入力が1単位増加するごとに出力がどれだけ増加または減少すると期待されるかを示します。

b_{0}

Intercept

「基準」値;入力がゼロのときの出力の期待値であり、直線を縦軸に固定します。

n

Sample size

証拠の重みです。方程式に、トレンドの決定に寄与するデータ点の数を伝えます。

Signs and relationships

b_1: $b_{1}$ の符号は関係の方向を示します:正は両変数が同じ方向に動くことを意味し、負は逆の関係を示します。
b_0: これは、直線全体を垂直に移動させる加法定数であり、直線がデータの重心(平均)を通ることを保証します。

One free problem

Practice Problem

次の条件を使って、単純線形回帰直線を求めてください。必要な値を式に代入し、単位と桁数を確認して答えてください。条件: 1, 2, 3, 5, 1。

Hint: 単純線形回帰直線の式に既知の値を代入し、単位、符号、分母と分子の対応を確認しながら計算してください。問題文で与えられた条件を先に整理すると解きやすくなります。関連する記号: $x^{2}$ 。

The full worked solution stays in the interactive walkthrough.

Where it shows up

Real-World Context

単純線形回帰直線は、実務、学習、分析の場面で具体的な値を代入して結果を確認するときに使えます。計算結果を単なる数値として扱うのではなく、条件の比較、判断、見積もり、リスク確認に結びつけて解釈するのに役立ちます。

Study smarter

Tips

関係が本当に線形であることを確認するため、まず散布図を必ず作成してください。
外れ値は回帰直線の傾きに不均衡な影響を与える可能性があるため、確認してください。
相関係数 (r) を計算し、線形関係の強さと向きを定量化してください。

Avoid these traps

Common Mistakes

強い相関が因果関係を意味すると仮定すること。
回帰直線を観測されたxデータの範囲をはるかに超えて外挿すること。

Common questions

Frequently Asked Questions

この導出では、最小二乗法を用いて観測データ点と線形回帰モデルとの間の残差平方和を最小化します。

単純線形回帰直線は、与えられた値から必要な結果を求めたいときに使います。入力の単位、範囲、前提条件を確認してから代入し、計算結果を現実の条件や問題文の目的と照らし合わせてください。

単純線形回帰直線の結果は、数値を比較し、傾向、制約、リスク、設計上の判断を説明するために役立ちます。答えを単独の数値として扱わず、条件が変わったときの意味や妥当性も確認できます。

強い相関が因果関係を意味すると仮定すること。回帰直線を観測されたxデータの範囲をはるかに超えて外挿すること。

関係が本当に線形であることを確認するため、まず散布図を必ず作成してください。外れ値は回帰直線の傾きに不均衡な影響を与える可能性があるため、確認してください。相関係数 (r) を計算し、線形関係の強さと向きを定量化してください。

References

Sources

Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis.
Freedman, D., Pisani, R., & Purves, R. (2007). Statistics.