ppp
ŒŒŒ
sss
;;;
The Legendary Book on
Linear Algebra
目 录
第零章 番外话 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
第一章
将打洞进行到底 . . . . . . . . . . . . . . . . . . . . . . . . . .
第二章
Jordan 标准形总结 . . . . . . . . . . . . . . . . . . . . . . . .
1
2
7
第三章
秩不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
第四章
交结数:刻画相似程度的不变量 . . . . . . . . . . . . . . . . 16
第五章
同时上三角化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
第六章
覆盖定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
第七章
有理标准形和交换的矩阵 . . . . . . . . . . . . . . . . . . . . 25
第八章
解题的艺术 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
I
番外话
0
先说一件很囧的事。 两年前我给北京大学化学学院一年级的学弟学妹们上高数的
习题课。 开学第一次课来了三十个人,到期末的最后一次课只剩下十三个人。 虽说习
题课不管讲的好坏都拿那份钱,学生也不会拿鸡蛋西红柿拍你,但是看着来上课的人
越来越少确实对自尊是一种打击。 特别让我印象深刻的是一个相貌气质都很不错的
MM(那十三个人之一),她每次课都在下面很认真的听,很安静,整个学期她只站起
来问了三次问题,但是每一次都把我问倒了。 很显然这是对我的进一步打击。 我很无
奈的承认自己不配拿那份津贴,就转行做了本学院高等代数课的助教。 这次给我打击
的是另一个很清纯的 MM。有很多次我在黑板上出了题目,然后微笑着、踱着步子显
示高深莫测的时候,她都举手表示已经做出了答案。 接下来我只能用凝固的微笑和景
仰的目光看着她在全班面前用柔柔的声音解释如何如何。 不过总的来说,我还是成功
的 Hold 住了局面,当时一个学年下来到课人数无明显下滑。
习题课上多了,自己也有一些体会。 讲课跟做题是不一样的,你必须脑子里时刻
清楚自己在讲什么,接下来要讲什么,然后把它们用平缓的节奏一遍讲正确。 你讲的
语气速度快了,或者思维有了跳跃,学生一下跟不上,那么你后面的内容他们听起
来都很茫然。 当我一时不知道说什么好的时候,我会面色如常地擦擦黑板,换换粉
笔,整理一下自己的思路,绝不轻易开口。 因为如果你不小心说错了话,那比没说要
糟糕一百倍:接下来你要用十句话来挽救你的错误,学生很可能就被绕晕了。 即使是
“嗯”、“啊”、“那么”这些口头禅,也会暴露你的思路的紊乱。高深莫测永远是 Hold
局面的不二法宝。 我曾经开玩笑地给学生说,我讲课有一个优点,就是从来没有口头
禅。 结果大家都笑了。 我不解,然后大家异口同声的告诉我:老师,你讲课有一个口
头禅,就是“很显然”(囧)。希望我在这个文档里没有再犯这个错误 :P。
本文档脱胎于以前的同名文档,经过多次修改以后与最初的版本相比已经面目全
非。 但是变薄变精炼的趋势一直没有改变。 那些武侠小说中出现的秘笈宝典,几乎无
一例外都是“薄薄的一本小册子”,因为浓缩的才是精华。 本文档也照此看齐,不求
全,但求精致,通过几个专题来体现高等代数的方法和想法。 还是那句话,与其炖上
一锅大杂烩,倒不如几样精致的小菜来得有滋味。 至于纯粹为难而难,或者为收录而
收录的内容,就不在考虑之列了。文档薄一点,也是为了激发大家速成的欲望。
本文档是本人心血之作,也算经过了教学的实践检验,因此我相信质量不会太糟,
但是错误恐怕仍然难以避免。欢迎大家来信指教:xidalapuda@126.com
1
(
)
定定定理理理 1.1. 设
是一个方阵,其中 A 是可逆的子方阵,那么
M =
A B
C D
|M| = |A| · |D − CA
结论不难记,从 D 出发顺时针走一圈就可以了。
−1B|.
(
将打洞进行到底
1
之所以把这一章作为整本书的开始,是因为打洞是矩阵里面最基本最重要的技巧,
江湖上出来混的没有不知道的,所以怎样强调它的重要性也不过分。下面这个例子就
很好地说明了什么是打洞。
(
)
证明. 思路就是利用 A 的可逆性来打洞,干掉 B, C 之一:
A B
C D
(
也就是
第一行左乘以 −CA
−1 加到第二行
−−−−−−−−−−−−−−−−−−→
)(
)
(
A
B
0 D − CA
−1B
)
)
,
In
−CA
−1
0
Im
A B
C D
=
A
B
0 D − CA
−1B
,
两边求行列式即可。
类似地,D 可逆的时候结论变成 |M| = |D| · |A − BD
−1C|(从 A 出发顺时针走
一圈)。打洞说白了就是一个降阶的过程。
注意到如果把上式写成
(
)
(
A B
C D
=
In
−CA
−1
0
Im
)−1
(
)
A
B
0 D − CA
−1B
,
这就很像一个分块的 LU 分解。 其实真正的 LU 分解和这个是一回事,这里就不具体
写了。
如果把打洞的过程倒过来用,就是提升:
定定定理理理 1.2. 设 A 是 n × m 矩阵,B 是 m × n 矩阵,则 AB 和 BA 的特征多项式只差
一个因子 ln−m,即
lm|lIn − AB| = ln|lIm − BA|.
2
1. 将打洞进行到底
1.1. 对称矩阵的打洞
只需要对 l ̸= 0 证明即可。 我们先证明 l = 1 的时候结论成立,也就是 |Im −
AB| = |In − BA| 成立。这只要在矩阵(
)
Im B
A In
中分别用 Im 和 In 各打一次洞就可得证:
Im B
A In
= |In| · |Im − BA| = |Im| · |In − AB|.
对于一般的 l ̸= 0,只要在等式 |Im − AB| = |In − BA| 中用 A/l 替换 A 即可。
1.1 对称矩阵的打洞
打洞有很多重要的应用,特别是当 M 是对称矩阵的时候,如果你用 A 打两次洞
干掉 B 和 B
′
(
)′(
)(
就会发现这恰好是一个合同变换:
In −A
−1B
Im
0
In
0
−A
−1B Im
A B
′
B
D
)
(
)
=
A
0
0 D − B
′
−1B
A
.
特别强调的是,对称矩阵的打洞有特别重要的意义:由于 M 可以看作一个“内积”的
度量矩阵,所以两边打洞实际上就是在这个“内积”下做 Schmidt 正交化,化二次型
为标准形的配方法和矩阵法都源自于此。 这里简要描述一下矩阵法,详细的叙述请查
阅教科书。
定定定理理理 1.3 (化二次型为标准形的算法). 设 A = (aij) 是一个 n 阶对称矩阵,现在要把
它合同为对角形。
• 如果 a11 ̸= 0,那就用 a11 两次打洞合同掉第一行和第一列的其它元素,把 A 变
(
)
成
,
a11 0
∗
0
然后考虑右下角的 n − 1 阶的矩阵 ∗。
• 如果 a11 = 0 但是某个 aii ̸= 0,那就交换第 i 行和第 1 行,交换第 i 列和第 1 列,
把 aii 变到 a11 的位置上来,然后返回上一步。
• 如果 A 的对角线上都是 0,但是某个 aij 不是 0,那就把第 j 行加到第 i 行,第 j
列加到第 i 列,这样 aii 的位置上就出现了 2aij,然后返回上一步。
这样经过有限步以后就可以把 A 变成对角形。
3
1. 将打洞进行到底
1.1. 对称矩阵的打洞
这个算法说白了就是一句话:制造非零的对角元来干掉非对角元,其实就是不断
地做 Schmidt 正交化。
正定矩阵是最容易化为标准形的对称矩阵,因为正定矩阵的对角元总不是 0(想
一想,为什么?),所以只需要第一个步骤就可以化为标准形。半正定矩阵的打洞也很
简单,虽然对角元可能出现 0,但是我们有下面的引理:
引引引理理理 1.4. 如果半正定矩阵 A 的某个对角元是 0,那么该对角元所在的行和列所有元素
都是 0。
证明. 由 于 A 半 正 定,所 以 有 平 方 根 分 解 A = P
P。 记 P = (v1, v2, . . . , vn), 则
aij = (vi, vj),这里的 (vi, vj) 表示 vi 和 vj 的通常的欧式内积。aii = 0 说明 vi = 0,从
而第 i 行第 i 列都是 0。
′
可见半正定矩阵化为标准形本质上也只需要步骤 1,只不过对角线上遇到 0 的时
候不用打洞,自动跳过去继续考虑右下角的矩阵。
接下来是引理 1.4 的两个应用:
定定定理理理 1.5. 设 A 是一个实对称矩阵,lmin 和 lmax 为 A 的最小和最大的实特征值,
aii 是 A 的任一对角元,则有
lmin ≤ aii ≤ lmax,
而且两个不等号只要有一个成立则 aii 所在的行和列的其它元素就必然都是 0。
证明. 只要对 A + lminI 和 lmaxI − A 这两个半正定矩阵应用引理 1.4 即可。
定定定理理理 1.6 (两半正定矩阵同时合同于对角形). 设 A, B 是两个 n 阶半正定矩阵,则存
在可逆矩阵 T 使得 T
AT, T
BT 都是对角矩阵。
′
′
B =
B11 B12
B21 B22
, B12 = B
′
21,
我们要在保持 A 的形状的前提下把 B 化成标准形。
设正交矩阵 Q 使得
′
Q
B22Q =
(
)
Is 0
0 0
,
4
证明. 首先做合同变换把 A 化成标准形
A ∼
)
Er 0
0
0
,
(
)
(
这时 B 仍然是半正定的(虽然 B 也发生了变化),所以不妨从一开始就假设 A 就是如
上的标准形,并设
1. 将打洞进行到底
那么用矩阵
作合同变换保持 A 不变,把 B 化为形如
Ir
0
0 Q
(
)
B11 ∗ 0
Is 0
0 0
∗
0
eB =
1.2. 正定矩阵
的矩阵。 注意这里已经利用了引理 1.4 的结论,由于 eB 的最后一个对角元是零矩阵,
所以它的最后一行和最后一列中的矩阵都是 0。 这个时候再用 Is 打洞消去“∗”的部
分,这还是一个不影响 A 的合同变换,这就把 A, B 同时变成了准对角形,最后再用
一次正交变换就可以了。
1.2 正定矩阵
正定矩阵的另一个名字是内积的度量矩阵,永远不要忘记这一点。 正定矩阵几乎
所有结论都有对应的几何解释,所以只要你搞清楚这些结论的几何意义,正定矩阵其
实就是一个很简单的东东。
设 v1, v2, . . . , vn 是 Rn 的一组基,那么矩阵
(v1, v1)
(v2, v1)
...
A =
(v1, v2)
(v2, v2)
...
· · ·
· · ·
...
· · ·
(v1, vn)
(v2, vn)
...
(vn, vn)
(vn, v1)
(vn, v2)
就是一个正定矩阵。 反过来,每一个正定矩阵都有如上的表示形式。 很显然,A 刻画
了向量组 v1 ∼ vn 的长度以及它们之间的相互夹角,所以不难想象 v1 ∼ vn 的一些几
何性质可以用 A 的代数性质来描述。反过来,如果有人问你正定矩阵的代数性质,你
也要立刻想到它对应的几何解释。
举几个例子:
• 正定矩阵的对角元都不是零。这是显然的,因为 aii 代表 vi 的长度的平方,当然
不能是零。
• 正定矩阵中最大的元素必然出现在对角线上。 这是因为内积满足 Schwatz 不等
式 (vi, vj)2 ≤ (vi, vi)(vj, vj),即 a2
• 正定矩阵的行列式的值等于 v1, v2, . . . , vn 张成的平行多面体的体积的平方。正定
矩阵的主子式都大于零,这是因为主子式 Ai1i2···im 的值是 vi1, vi2, . . . , vim 张成的
平行多面体的体积的平方,所以大于零。
≤ aiiajj,从而 aij ≤ max{aii, ajj}。
ij
5
1.2. 正定矩阵
1. 将打洞进行到底
例例例 1.7. 设 A 是 n 阶正定矩阵,求证 |A| ≤ a11a22 · · · ann,等号成立当且仅当 A 是
对角矩阵。
这个结论的几何解释就是:平行多面体的体积不大于各个棱长的乘积,当且仅当
各棱垂直的时候等号成立。
)
证明. 用归纳法,假设 n − 1 的时候结论成立。设
(
An−1
a′
,
A =
a|。 注意 0 < ann − a′
a
ann
则 |A| = |An−1| · |ann − a′
−1
n−1
A
−1
n−1
A
a ≤ ann,所以使用归纳假
设即可。等号成立的条件也不难证明。
实 际 上 ann − a′
−1
n−1
v1 ∼ vn−1 张成的底面为 P,vn 可以分解为垂直于 P 的分量和属于 P 的分量的和:
a 这 个 量 也 是 有 它 的 几 何 解 释 的。 我 们 来 这 样 分 析:记
A
vn = vq
n + v
⊥
n , vq
n ∈ P,v
n ⊥P.
⊥
那么设
n = x1v1 + · · · + xn−1vn−1,
⊥
两边依次用 v1, . . . , vn−1 作内积,我们得到这样一个方程组:
n = vn − v
vq
(v1, vn) = x1(v1, v1) + · · · + xn−1(v1, vn−1),
(v2, vn) = x1(v2, v1) + · · · + xn−1(v2, vn−1),
· · · · · · · · ·
(vn−1, vn) = x1(vn−1, v1) + · · · + xn−1(vn−1, vn−1).
采用上面例题中的记号,这个方程组就是 a = An−1X,所以
(
vq
n = (v1, v2, . . . , vn−1)X = (v1, v2, . . . , vn−1)A
⇒ ∥vq
n∥2 =
−1
= a′
n−1
a.
A
(v1, v2, . . . , vn−1)A
−1
n−1
a
)′(
−1
n−1
a
(v1, v2, . . . , vn−1)A
)
−1
n−1
a
n ∥2,我们就得到
⊥
−1
n−1
a.
n∥2 + ∥v
n ∥2 = ann − a′
∥v
⊥
a 是 vn 到 P 的距离的平方! 那它当然必须大于 0,同时
A
根据勾股定理,∥vn∥2 = ∥vq
A
−1
n−1
你看到了什么?ann − a′
小于等于 vn 的长度的平方 ann。
思思思考考考题题题 1.8. 书上有这样一个定理:对称矩阵 A 是正定的当且仅当 A 的顺序主子式
都大于 0。看看这个是怎样打洞的?和 LU 分解定理比较一下,它们是不是很像?
思思思考考考题题题 1.9. 设 A 是一个元素都是整数的反对称矩阵,求证 |A| 是完全平方数。
6