兩件事會不會一起動 —— 共變異數與它的矩陣

① 這關在解什麼問題

你手上有一份實價登錄：500 筆成交，每筆有坪數和總價兩欄。你算得出坪數的標準差是 8.4 坪、 總價的標準差是 620 萬 —— 兩個數字都很正確，而且都很沒用，因為你真正想知道的那句話它們一個字都沒回答：

標準差的結構性缺陷在這裡：它一次只看一欄。坪數的標準差不管總價那欄長什麼樣、總價的標準差也不管坪數 —— 你可以把總價那欄整個打亂順序，兩個標準差完全不變，但「一起動」這件事已經被你毀掉了。 所以答案不可能藏在任何單一欄位的統計量裡，它必須是一個跨兩欄、而且會被配對順序影響的量。

這關給你的工具叫共變異數（covariance），以及把它排成表格之後的共變異數矩陣。 後者是這份教材的軸心零件：04 關要拆它、05 關整個 PCA 就是在對它動手。

② 從國中的「正負相乘」開始

先把國中座標平面搬過來，但做一個關鍵動作：把原點搬到平均。每個點的座標不再寫「唸了 12 小時、考 16 分」， 而是寫「比平均多唸 3.2 小時、比平均多考 4.6 分」。以平均為中心畫一個十字，平面被切成四塊：

• 右上：x 偏差正、y 偏差正 → 相乘 正（兩件事都在平均以上）
• 左下：兩個偏差都是負 → 負負得正，相乘還是 正（兩件事都在平均以下）
• 左上 / 右下：一正一負 → 相乘 負（一件事高、另一件事低）

國中的「負負得正」在這裡突然變得很有意義：它讓「一起低」跟「一起高」算成同一件事，因為兩者都是同步。 共變異數就是把每個點的（x 偏差 × y 偏差）全部加起來、再平均掉，讓正負互相抵消，剩下的就是這團資料的傾向。

③ 主實驗：九個同學的唸書時數與分數

橫軸是每週唸書時數（小時），縱軸是週考分數（滿分 20）。九個點都可以拖。 綠點正在把共變異數往上推，紅點正在往下扯。

④ 共變異數就是內積 —— 把這座橋整條搭完

上面那個 Σ(x−x̄)(y−ȳ) 你會算了，但它跟01 關的箭頭、影子、夾角 有什麼關係，到現在還是一句「聽說是同一件事」。這一節把橋一格一格鋪到底 —— 而且鋪完之後你會多拿到一個東西： 迴歸的斜率。

第一步：把資料筆數砍到最小，直到看得見為止

九個同學的中心化向量是 9 維的，畫不出來。所以先砍到只剩三個同學（叫他們甲、乙、丙）， 每人只有兩個數字：唸書時數與分數。中心化之後，時數那一欄變成三個偏差，排成一條向量：

3 維還是不好畫。但這裡有一件事救了我們：那三格加起來一定是 0。 因為平均就是從這三個數字算出來的 —— 減掉平均之後，正的部分和負的部分必然剛好抵光 （下面那張表最後一列會現場驗證，你怎麼拖它都是 0.00）。

「三個數字，但加起來被綁死是 0」＝ 其實只有兩個是自由的（這就是分母為什麼是 n−1 而不是 n 的真正原因）。 兩個自由度 ＝ 一張平面。所以我們可以把 c_x、c_y 原封不動地畫成平面上的兩支箭頭。

第二步：三句對應，這是本節的結論

把上面拖出來的東西寫成三句話。反白那一列就是你現在的狀態：

三句話合起來就是一條等式，而它是01 關那條的原封不動搬過來：

第三步：投影係數 ＝ 迴歸的斜率（順手拿到的贈品）

上面那張圖裡的綠箭頭還沒被榨乾。01 關說過， 把 c_y 投影到 c_x 上，那個影子是 c_x 的幾倍，這個倍數叫投影係數：

而這個數字有一個你天天在用的名字：最小平方迴歸的斜率。也就是「x 每多 1 單位，y 平均多多少」。 讀數盤最後兩行就是在對這件事的帳：投影係數 跟 cov ÷ var(時數) 永遠是同一個數字， 而它就是下圖那條綠線的斜率。

第四步：回到九筆資料 —— 畫不出來，但一個字都不用改

三個同學能畫，九個不能，因為 c_x 變成 9 維向量，而你沒有 9 維的紙。 但算法完全沒有變：內積還是「對應格子相乘再加起來」，只是從 3 格變成 9 格；長度還是「平方和開根號」； 夾角還是「內積除以兩個長度再取反餘弦」。維度只是 for 迴圈跑幾圈的差別。

02 關已經把這件事在「跟自己」的情況下講過一次了： 變異數 ＝ c_x 跟自己的內積 ÷ (n−1)。這一關只是把第二個參數換成別人， 於是整條主線收成一句話：

⑤ 為什麼有了共變異數還要相關係數

共變異數有一個致命的實務問題：它帶單位。上面那個數字的單位是「小時 × 分」，你根本沒辦法回答 「18.6 小時·分算大還是小」。更糟的是，我只要換個單位、資料一個點都沒動，這個數字就會整個變掉。

⑥ 共變異數矩陣：把所有內積排成一張表

現在有兩欄，於是有四種配對：x 跟 x、x 跟 y、y 跟 x、y 跟 y。四個內積排成 2×2，就是共變異數矩陣：

下面四格熱力圖吃的就是上面主實驗那份資料（你在上面拖點，這裡會跟著變）。顏色表示正負與大小： 綠＝正、紅＝負，越深代表絕對值越大。

n 欄就是 n×n：三欄的靜態示範

共變異數矩陣沒有「只能 2×2」這回事。十個人量了身高（cm）、體重（kg）、鞋號（EU）三欄， 配對方式從 4 種變成 9 種，於是矩陣是 3×3。下表每一格都是頁面載入時用 JS 真的算出來的 （合成資料，不是真的量誰）：

⑦ 這個數字越大越小，到底要怎麼讀

你已經會算那張 C 了。真正卡人的是下一步：「18.61」這個數字算大還是算小？ 這一節把「怎麼讀」拆成四件可以逐條檢查的事，每一件都用你在 ③ 主實驗拖出來的那份資料現場算給你看 —— 你回上面拖點，這一節的每個數字都會跟著變。

一、cov 的絕對大小本身沒有意義，因為它帶單位

這件事你在 ⑤ 換單位那個實驗已經親眼看過了：兩個滑桿一拉，散點圖的形狀一模一樣、 每個點的相對位置一格都沒動，只有座標軸上的刻度數字變了 —— 而 cov 從 18 暴衝到六萬多。這裡只把結論釘死：

二、正負號怎麼讀（這一半的資訊完全可靠）

符號是四象限投票的結果（② 那張圖），也是兩條中心化向量的夾角（④ 那張圖）。 下表反白的那一列就是你現在這份資料：

對角線沒有這個問題：C₁₁、C₂₂ 是變異數， 是「一堆平方加起來」，所以永遠 ≥ 0，永遠沒有符號可讀 —— 它們只回答「這一欄自己有多散」。

三、跟自己比：非對角線有一個天花板，而它占了幾成就是 |r|

這是把「大小」變成可讀量表的關鍵一步。非對角線不是隨便多大都行，它被對角線綁住：

四、相關係數量表：|r| 多少才叫「有關係」

把 cov 換成 r 之後才有量表可用。但先講一句誠實話：下面這張表是領域慣例，不是鐵則。 量化交易裡日報酬 r ＝ 0.05 就足以賺錢；物理實驗的校正曲線 r ＝ 0.98 會被退件說雜訊太大。 同一個 0.5，在不同領域是「很強」和「垃圾」。

⑧ 數學長怎樣

先看程式。整關的三個等式寫成 JS 就這幾行，而且核心只有 dot 一個函式：

// 一欄數字 = 一條 n 維向量（n = 幾筆資料，不是幾欄）
const hours = [2, 3.5, 5, 6.5, 8, 10.5, 12, 14.5, 17];
const score = [6,   9,  7,  12, 10,   11, 16,   14, 18];
const n = hours.length;

const mean   = (a) => a.reduce((s, v) => s + v, 0) / a.length;
const center = (a) => { const m = mean(a); return a.map((v) => v - m); };
const dot    = (a, b) => a.reduce((s, v, i) => s + v * b[i], 0);
const len    = (a) => Math.sqrt(dot(a, a));

const cx = center(hours), cy = center(score);   // 兩條中心化向量

const varx = dot(cx, cx) / (n - 1);             // 變異數：自己跟自己（02 關）
const cov  = dot(cx, cy) / (n - 1);             // 共變異數：換成跟別人 ← 就這樣
const corr = dot(cx, cy) / (len(cx) * len(cy)); // 把長度洗掉 ← 就是 cos（01 關）
const C    = [[varx, cov], [cov, dot(cy, cy) / (n - 1)]];   // 共變異數矩陣

這頁的互動全部走 LAB.M，不另外寫一份：LAB.M.cov(x, y)、LAB.M.corr(x, y)、 LAB.M.covMatrix(pts)（ddof 預設 1，樣本版）。三欄示範的 3×3 是自己補的兩層迴圈，因為 LAB.M 只做 2×2。

換成符號版，注意它跟程式是逐字對應的：

如果你想要一眼看穿的寫法：把中心化後的資料排成一個 n×2 矩陣 X（每列一筆資料、每欄一個變數），那麼 C ＝ X^TX / (n − 1)。 上標 T 唸作轉置（transpose），意思就是把矩陣的列跟欄對調 —— 本來 n×2 的 X，轉過來就是 2×n 的 X^T（原本一列一筆資料，變成一列一個變數）。 於是 X^TX 這個動作的效果 就是把每一欄跟每一欄兩兩做內積、排成一張表 —— 共變異數矩陣沒有任何新東西，它是一張內積表。

本頁符號小抄（畫面上出現過的每一個字母）

這一頁凡是出現在圖上、讀數盤上、按鈕上的符號，全部列在這裡。看到不認識的符號就查這張表：

⑨ 工程師的「原來如此」

⑩ 反例區：共變異數看不見的東西

共變異數很有用，但它有一個非常硬的限制：它只回答「有沒有直線傾向」。下面三組資料是三種不同的翻車方式，切換看看。

踩坑清單

⑪ 這關回答了什麼