宋浩数学题库
学习计划章节题库

线性代数资料库

章节目录

2 章 · 17 节 · 40 份资料

46 道例题与练习
第 1 章 行列式7
1.2 排列与逆序
练习题2答案与解析
1.3 n阶行列式
练习题答案与解析
1.4 行列式的性质
练习题答案与解析
1.5 行列式按一行列展开
练习题答案与解析
1.6 行列式按多行列展开
练习题答案与解析
1.7 行列式的计算
练习题答案与解析
1.8 克莱姆法则
练习题答案与解析
第 2 章 矩阵10
2.1 矩阵的概念
视频截图笔记课堂例题2
2.2 矩阵的加减法与数乘
视频截图笔记课堂例题5
2.3 矩阵的乘法
视频截图笔记课堂例题7
2.4 方阵的幂
视频截图笔记课堂例题7
2.5 矩阵的转置
视频截图笔记课堂例题答案与解析
2.6 方阵的行列式
视频截图笔记课堂例题答案与解析
2.7 方阵的伴随矩阵
视频截图笔记练习题3答案与解析
2.8 矩阵方程
视频截图笔记练习题6答案与解析
2.8 逆矩阵
视频截图笔记练习题7答案与解析
2.8 逆矩阵2
视频截图笔记练习题7答案与解析
第 2 章 矩阵/2.4 方阵的幂

视频截图笔记

2.4 方阵的幂

笔记.md

课堂例题
视频截图笔记课堂例题

来源

  • 课程:宋浩老师《线性代数》教学视频 2.0 版
  • 分集:第 13 个分集,2.4 方阵的幂
  • 视频:BV1h7pteyEww,P13
  • 原始材料:截图目录
  • 课堂例题:例题.md

1. 定义

设 AAA 为 nnn 阶方阵,kkk 为正整数,则 AAA 的 kkk 次幂定义为

Ak=A⋅A⋯A⏟k 个 A.A^k=\underbrace{A\cdot A\cdots A}_{k\text{ 个 }A}.Ak=k 个 AA⋅A⋯A​​.

特别规定

A0=In.A^0=I_n.A0=In​.

只有方阵才能反复与自身相乘,因此课程中谈“矩阵的幂”时,默认底数是方阵。

对应截图:01-方阵幂的定义.png

2. 同底数幂的性质

设 AAA 为方阵,k1,k2k_1,k_2k1​,k2​ 为非负整数,则

Ak1Ak2=Ak1+k2,A^{k_1}A^{k_2}=A^{k_1+k_2},Ak1​Ak2​=Ak1​+k2​, (Ak1)k2=Ak1k2.\left(A^{k_1}\right)^{k_2}=A^{k_1k_2}.(Ak1​)k2​=Ak1​k2​.

若 λ\lambdaλ 为常数,kkk 为正整数,则

(λA)k=λkAk.(\lambda A)^k=\lambda^kA^k.(λA)k=λkAk.

这些结论成立的关键是所有因子都是同一个 AAA,可以利用矩阵乘法的结合律重新分组。

对应截图:03-方阵幂的性质.png

3. 乘积、和差的幂不能随意套公式

矩阵乘法一般不满足交换律,所以通常

(AB)k≠AkBk.(AB)^k\ne A^kB^k.(AB)k=AkBk.

以平方为例:

(AB)2=ABAB,(AB)^2=ABAB,(AB)2=ABAB,

而

A2B2=AABB.A^2B^2=AABB.A2B2=AABB.

把 ABABABABABAB 改排成 AABBAABBAABB 需要交换中间的 AAA 与 BBB。只有在 AB=BAAB=BAAB=BA 时,才可以推出

(AB)k=AkBk.(AB)^k=A^kB^k.(AB)k=AkBk.

同理,一般情况下

(A+B)2=A2+AB+BA+B2,(A+B)^2=A^2+AB+BA+B^2,(A+B)2=A2+AB+BA+B2,

其中 AB+BAAB+BAAB+BA 不能直接合并为 2AB2AB2AB。只有 AB=BAAB=BAAB=BA 时,才有

(A+B)2=A2+2AB+B2,(A+B)^2=A^2+2AB+B^2,(A+B)2=A2+2AB+B2, A2−B2=(A+B)(A−B)=(A−B)(A+B),A^2-B^2=(A+B)(A-B)=(A-B)(A+B),A2−B2=(A+B)(A−B)=(A−B)(A+B),

以及常见的立方和、立方差公式。

一个重要特例是单位矩阵 III:它和所有同阶方阵都可交换。因此关于 A±IA\pm IA±I 的平方、立方公式可以像普通多项式那样展开。

对应截图:

  • 04-乘积幂一般不可拆.png
  • 05-可交换矩阵下的幂公式.png
  • 06-单位矩阵与可交换公式.png
  • 07-幂公式展开推导.png

4. 方阵多项式

若

f(x)=amxm+am−1xm−1+⋯+a1x+a0,f(x)=a_mx^m+a_{m-1}x^{m-1}+\cdots+a_1x+a_0,f(x)=am​xm+am−1​xm−1+⋯+a1​x+a0​,

则把方阵 AAA 代入后定义

f(A)=amAm+am−1Am−1+⋯+a1A+a0I.f(A)=a_mA^m+a_{m-1}A^{m-1}+\cdots+a_1A+a_0I.f(A)=am​Am+am−1​Am−1+⋯+a1​A+a0​I.

常数项必须写成 a0Ia_0Ia0​I,这样它才是与其他项同阶的方阵。例如

f(x)=x3−x2+2x−3f(x)=x^3-x^2+2x-3f(x)=x3−x2+2x−3

对应

f(A)=A3−A2+2A−3I.f(A)=A^3-A^2+2A-3I.f(A)=A3−A2+2A−3I.

对应截图:08-方阵多项式定义.png

5. 计算高次幂的常见突破口

5.1 观察简单递推关系

若算出 A2=cAA^2=cAA2=cA,则对 n≥1n\ge 1n≥1 有

An=cn−1A.A^n=c^{n-1}A.An=cn−1A.

因此先算 A2A^2A2 往往比直接连乘更重要。

5.2 写成列向量乘行向量

若 A=uvTA=uv^{\mathsf T}A=uvT,那么

A2=u(vTu)vT=(vTu)A,A^2=u(v^{\mathsf T}u)v^{\mathsf T}=(v^{\mathsf T}u)A,A2=u(vTu)vT=(vTu)A,

进而

An=(vTu)n−1A.A^n=(v^{\mathsf T}u)^{n-1}A.An=(vTu)n−1A.

这类矩阵通常每一行或每一列彼此成比例,秩至多为 111。

5.3 拆成 I+NI+NI+N

若 A=I+NA=I+NA=I+N 且 N2=ON^2=ON2=O,因为 III 与 NNN 可交换,

An=(I+N)n=I+nN.A^n=(I+N)^n=I+nN.An=(I+N)n=I+nN.

课堂例 1 就属于这一类。

对应截图:

  • 10-例03-下三角矩阵n次幂.png
  • 11-例04-秩一乘积矩阵的n次幂.png
  • 12-例05-秩一矩阵A100.png
  • 13-例06-利用A2等于2A化简.png

6. NumPy / PyTorch 对照

NumPy

import numpy as np

A = np.array([[1, 1],
              [0, 1]])

A3 = np.linalg.matrix_power(A, 3)
print(A3)
# [[1 3]
#  [0 1]]

PyTorch

import torch

A = torch.tensor([[1., 1.],
                  [0., 1.]])

A3 = torch.linalg.matrix_power(A, 3)

编程时要特别区分:

  • np.linalg.matrix_power(A, k)、torch.linalg.matrix_power(A, k):矩阵的 kkk 次幂;
  • A ** k:通常是每个元素分别做 kkk 次方,不是矩阵幂;
  • A @ A:矩阵乘法,可用于手工构造 A2A^2A2;
  • np.linalg.matrix_power 和 torch.linalg.matrix_power 还允许负指数,但这时 AAA 必须可逆。这是课程正整数幂定义的自然扩展。

库函数通常使用比顺序连乘更高效的算法。例如计算 A16A^{16}A16 时,可以连续平方,而不必做 15 次普通连乘。

7. 与大模型的联系

矩阵幂表示“同一个线性变换重复执行”。若状态更新为

ht+1=Aht,h_{t+1}=Ah_t,ht+1​=Aht​,

那么重复 kkk 次后

hk=Akh0.h_k=A^kh_0.hk​=Akh0​.

这可用来理解循环网络、状态空间模型以及深层网络中的重复变换。实际 Transformer 各层权重通常不同,因此整个网络一般不是某一个矩阵的简单幂;但在权重共享或线性化分析中,矩阵幂仍然会出现。

矩阵幂也能解释数值稳定性:若某些方向在每次乘法中都被放大,AkA^kAk 可能迅速增大;若不断缩小,则可能趋近于零。这与深层网络中的梯度爆炸、梯度消失有相似的数学结构。

残差连接可粗略写成

ht+1=(I+F)ht.h_{t+1}=(I+F)h_t.ht+1​=(I+F)ht​.

重复相同线性残差块时,会得到 (I+F)k(I+F)^k(I+F)k。其中的单位矩阵 III 为信息提供了直接传递路径。

本节易错点

  • 非方阵不能定义通常意义下的 AkA^kAk。
  • A0A^0A0 是与 AAA 同阶的单位矩阵,不是零矩阵。
  • A ** k 在 NumPy 和 PyTorch 中通常是逐元素幂。
  • 直接写 (AB)k=AkBk(AB)^k=A^kB^k(AB)k=AkBk,忽略矩阵乘法不满足交换律。
  • 直接把 AB+BAAB+BAAB+BA 合并成 2AB2AB2AB;只有在 AB=BAAB=BAAB=BA 时才可以。
  • 在方阵多项式中把常数项 a0a_0a0​ 写成一个数;正确写法是 a0Ia_0Ia0​I。
  • 把 Am+AnA^m+A^nAm+An 误写成 Am+nA^{m+n}Am+n;指数相加只对应乘法 AmAnA^mA^nAmAn。

本节自检

  1. 为什么只有方阵才能定义通常意义下的矩阵幂?
  2. A0A^0A0 等于什么?它的阶数怎样确定?
  3. (A3)4(A^3)^4(A3)4 与 A3A4A^3A^4A3A4 分别等于什么?
  4. 在什么条件下可以写 (AB)k=AkBk(AB)^k=A^kB^k(AB)k=AkBk?
  5. NumPy 中为什么不能用 A ** 3 代替矩阵三次幂?
  6. 为什么方阵多项式的常数项要写成 a0Ia_0Ia0​I?
  7. 若 A=uvTA=uv^{\mathsf T}A=uvT,如何把 AnA^nAn 化成 AAA 的倍数?

原始课程材料

课堂截图

14 张
2.4 方阵的幂课堂截图 1
01-方阵幂的定义.png
2.4 方阵的幂课堂截图 2
02-例01-二阶方阵三次幂.png
2.4 方阵的幂课堂截图 3
03-方阵幂的性质.png
2.4 方阵的幂课堂截图 4
04-乘积幂一般不可拆.png
2.4 方阵的幂课堂截图 5
05-可交换矩阵下的幂公式.png
2.4 方阵的幂课堂截图 6
06-单位矩阵与可交换公式.png
2.4 方阵的幂课堂截图 7
07-幂公式展开推导.png
2.4 方阵的幂课堂截图 8
08-方阵多项式定义.png
2.4 方阵的幂课堂截图 9
09-例02-比较A2B2与AB平方.png
2.4 方阵的幂课堂截图 10
10-例03-下三角矩阵n次幂.png
2.4 方阵的幂课堂截图 11
11-例04-秩一乘积矩阵的n次幂.png
2.4 方阵的幂课堂截图 12
12-例05-秩一矩阵A100.png
2.4 方阵的幂课堂截图 13
13-例06-利用A2等于2A化简.png
2.4 方阵的幂课堂截图 14
14-例08-平方展开公式成立条件.png
上一份课堂例题下一份课堂例题