从行列式走到 Transformer

写出 2×2 行列式的公式；3×3 展开时，为什么一共有 3!=6 个排列项？

n 阶行列式的一项，为什么必须从每一行、每一列各取一个元素？

交换两行、某行乘 3、某行加上另一行的 2 倍，det 分别怎样变化？

按某一行展开时，代数余子式的阶数为什么会从 n 降到 n−1？

面对含很多零的行列式，你会优先用化三角形还是降阶展开，依据是什么？

克莱姆法则适用于什么条件；一个 m×n 矩阵中的 m、n 分别表示什么？

若 A 是 m×n、B 是 n×p，为什么 AB 的 shape 是 m×p？

为什么 (AB)ᵀ 的乘法顺序必须写成 BᵀAᵀ？

伴随矩阵 adj(A) 与 A 相乘后，为什么会得到 det(A)I？

A 存在逆矩阵需要满足什么条件，AA⁻¹=I 表示什么？

解 AX=B 时为什么 A⁻¹ 必须乘在等式左边，不能随意换到右边？

为什么对增广矩阵做初等行变换不会改变原方程组的解集？

一次交换两行的操作怎样写成左乘初等矩阵；矩阵等价允许哪些变换？

分块相乘前怎样用 shape 检查各块；行变换求逆为什么要把 I 放在 A 右边？

矩阵化成行阶梯形后，rank 应该怎样从非零行读出来？

给定两个线性无关的三维向量，它们的全部线性组合构成什么集合，并一定经过哪一点？

一组向量线性相关时，为什么至少有一个向量可由其余向量表示？

极大线性无关组的向量个数、向量组的秩和 Ax=b 的主元个数有何关系？

rank(A) 与 rank(A|b) 满足什么关系时方程组无解、唯一解或有无穷多解？

为什么非齐次方程的通解可以写成一个特解加任意齐次解？

Av=λv 中，v 的方向保留了什么，λ 又改变了什么？

矩阵的 trace、determinant 与全部特征值有什么关系；相似矩阵为何共享它们？

矩阵可对角化时为什么高次幂容易计算；实对称矩阵的特征向量有什么额外性质？

正定二次型要求每个非零 x 的 xᵀAx 满足什么条件，半正定又怎样？

若 f:A→B、g:B→C，复合映射 g∘f 的定义域、陪域和运算顺序是什么？

数列极限和函数极限研究的对象不同在哪里，共同的趋近思想是什么？

写出 limₓ→ₐf(x)=L，并说明 x→a 与 f(x)→L 分别表示什么？

若 lim f(x)=2、lim g(x)=3，按极限运算法则 lim[f(x)g(x)] 是多少，需要什么前提？

函数在一点连续需要同时满足哪三个条件；间断时是哪一项失败？

复合函数连续需要哪些条件；闭区间连续函数至少保证哪两类结论？

差商的分子、分母各代表什么变化，取极限后得到什么？

为什么可导一定连续但连续不一定可导；反函数导数为什么取倒数？

在 x→z→L 中，dL/dx 为什么等于 dL/dz 与 dz/dx 的乘积？

二阶导数和微分 df≈f′(x)dx 分别描述什么局部信息？

中值定理怎样连接区间平均变化率与某点导数；洛必达法则只适用于哪类未定式？

Taylor 展开的一阶项和二阶项分别保留函数的什么局部信息？

f′(x) 与 f″(x) 的符号分别能判断哪些函数形态；为什么 f′(x)=0 不保证极小值？

不定积分为何是一族函数；第一换元法与复合函数求导有什么逆向关系？

看到复合式与乘积时，怎样判断优先尝试换元还是分部积分？

有理函数积分中，把分母因式分解的目的是什么？

定积分怎样从有限个小区间的和变成连续累加，它与不定积分有何区别？

变上限积分求导与牛顿-莱布尼兹公式怎样体现积分和微分互逆？

设 f:ℝᵈ→ℝ，写出它的定义域和值域；求 ∂f/∂xᵢ 时为什么固定其余变量？

二元函数的全微分怎样把两个坐标方向的一阶变化合在一起？

一个变量经多条路径影响 L 时，多元链式法则为什么要把各路径贡献相加？

更换复合变量后，全微分形式不变性保留了哪种求和结构？

为什么梯度指向最陡上升方向，负梯度指向局部最快下降方向？

多元函数满足 ∇L=0 时，为什么仍可能是极大值或鞍点？

从 n 个不同元素中任取 2 个且不计顺序，为什么 C(n,2)=n(n−1)/2？

抛一次硬币时，样本空间、事件和事件运算分别怎样举例？

使用古典概型计算概率前，为什么必须先检查基本结果是否等可能？

P(A|B) 与 P(A) 相比，分母和所考虑的样本范围发生了什么变化？

Bayes 公式怎样把先验概率和证据似然更新成后验概率？

独立与互斥有什么根本区别；两个非零概率事件能同时独立且互斥吗？

随机变量怎样把试验结果映射成数值；二项分布又在数什么？

泊松、几何和超几何分布分别适合描述哪类计数或等待问题？

CDF F(x)=P(X≤x) 为什么单调不减，并且最终趋近 1？

连续随机变量的密度 p(x) 为什么不是 P(X=x)，区间概率怎样得到？

正态分布的均值和标准差分别控制曲线的什么特征？

对连续随机变量做 y=g(x) 变换时，为什么区间上的总概率必须守恒？

联合分布比两个单独边缘分布多保留什么信息；离散边缘分布怎样由联合表得到？

二维连续联合密度怎样积分得到 X 的边缘密度？

条件分布怎样由联合分布得到；独立时条件分布会化成什么？

连续型 X、Y 独立时，联合密度与两个边缘密度满足什么等式？

求 X+Y 或 max(X,Y) 的分布时，为什么必须考虑联合平面上的事件区域？

期望为什么是按概率加权的平均，而不是所有可能值的普通平均？

若 Y=aX+b，为什么 Var(Y)=a²Var(X)，平移 b 为什么不改变方差？

协方差矩阵的对角线和非对角线分别表示什么；相关系数为何无量纲？

切比雪夫不等式怎样给出偏离均值至少 k 个标准差的概率上界？

大数定律与中心极限定理分别描述样本均值的哪两件不同事情？

总体参数与样本统计量有什么区别；矩估计用哪一个近似哪一个？

为什么最大化独立样本的似然等价于最小化负对数似然？

从几何上看，SVD 怎样把线性变换拆成旋转、缩放和再旋转？

设 A∈ℝᵐˣⁿ、m≥n 且满列秩，薄 SVD 中 U、Σ、Vᵀ 的 shape 分别是什么？

PCA 为什么选择数据方差最大的正交方向作为主成分？

若 ΔW=BA，B 为 d×r、A 为 r×k，参数量为何从 dk 变为 r(d+k)？

为什么多元导数可以看作局部线性算子；标量输出对向量输入求导的 shape 是什么？

若 f:ℝⁿ→ℝᵐ，采用第 i 行对应 fᵢ 的布局时，Jacobian 的 shape 和 Jᵢⱼ 含义是什么？

反向传播为什么累加多路径贡献，并更常计算 vector-Jacobian product 而非完整 Jacobian？

Hessian 的特征值怎样反映不同参数方向上的局部曲率？

自动微分怎样复用计算图上的局部导数；前向与反向模式各适合什么输出维度？

设 p 为真实分布、q 为预测分布，写出 H(p,q)=H(p)+KL(p‖q)，并说明训练含义？

Momentum 相对 SGD 增加了什么状态；AdamW 又怎样处理自适应步长与权重衰减？

若 X:n×d，WQ、WK:d×dₖ，WV:d×dᵥ，Q、K、QKᵀ 与 softmax(QKᵀ)V 各是什么 shape？