什么是线性代数
从空间、对象与动作出发,建立 AI 数学的全局地图。
一个终极疑问:AI 到底用什么语言看世界?
今天,你可以在对话框里向 ChatGPT 提出任何深奥的哲学问题,也可以让 AI 画家几秒钟内绘制出一幅令人惊叹的赛博朋克画卷,或者让机器听懂全球数十种不同语言并实时互译。
面对如此强大的智能表现,一个极其朴素但震撼的问题浮现出来:
「如果把一台运行着万亿参数大模型的超级计算机拆开,里面的芯片到底在执行什么?」
显微镜下,没有文字,没有色彩,没有思维,更没有灵魂。芯片里只有以百亿计的微型晶体管,在以每秒数十亿次的速度切换着 0 与 1 的高低电平。计算机的硬件底层,本质上是一台只会做加法和乘法的“超高速算盘”。
这就产生了一个不可思议的鸿沟:现实世界充满着文字、情感、光影、逻辑与概念,而计算机只能咀嚼纯粹的数字。是谁在现实世界与冷冰冰的数字芯片之间,搭建起了一座畅通无阻的意义之桥?
答案正是线性代数(Linear Algebra)。它是数学家专为高维空间发明的通用“普通话”。正是依靠这套语言,现代人工智能才得以把纷繁复杂的人类世界,完全重构为可以精密计算的几何空间。
拆解两个词:为什么叫「线性」?又为什么叫「代数」?
很多初学者在大学课堂上第一次接触线性代数时,常常陷入一种被公式支配的恐惧:行列式展开、逆矩阵、伴随矩阵、特征值与特征向量……一堆繁琐的代数符号排山倒海而来,却很少有人真正想过:这门学问为什么偏偏被命名为「线性代数」?
我们把这个词拆开来看:
1. 什么是「代数」(Algebra)?
「代数」源自阿拉伯语 al-jabr,原意是“重组、复原碎片”。代数最伟大的智慧,在于“用符号代表对象,用统一规则取代具体的细枝末节”:
- 在小学算术里,我们算具体的数:
1 + 2 = 3; - 在初中初等代数里,我们用字母代表未知的数:
x + y = z,一条公式概括无数种数字组合; - 而在线性代数中,抽象的层次再次发生飞跃:一个字母代表的不再是单个数字,而是一整组数据(向量)、甚至一套对整个空间的操纵规则(矩阵)!
2. 为什么限定为「线性」(Linear)?
所谓“线性”,直观上可以理解为“保持线性组合、按同一规则重组”。在严谨的数学定义中,一个系统或变换只要严格满足以下两条铁律,就被尊称为“线性”:
② 齐次性(等比缩放):T(c · u) = c · T(u) // 输入放大 c 倍,输出也严格放大 c 倍,绝无饱和折损
把这两条性质搬到几何空间中,会呈现出一个极其美妙且优美的图像:“原点不动,网格线映成直线或点,同组平行线可保持平行,也可能重合”!
读者可能会困惑:既然真实世界是极度复杂的非线性系统(语言有起承转合、视觉有遮挡光照),为什么 AI 还要死死抱住看似呆板的「线性代数」不放?
非线性问题往往更复杂,但并非无法计算。深度学习用线性运算组织信息,用非线性函数改变表达,再通过优化方法学习参数。
线性代数的三大支柱:空间、对象与动作
如果把线性代数看作一场盛大宏伟的空间舞台剧,它其实只需要三个核心元素就能把剧情演绎得淋漓尽致:
支柱一 · 舞台:向量空间(Vector Space)与维度(Dimension)
空间是容纳所有事物的舞台。空间的维度,就是这个舞台所允许的互相独立的自由度数量:
- 在二维平面上,只需要两个互相垂直的方向(长和宽),维度就是 2;
- 在三维现实世界里,需要长、宽、高三个方向,维度就是 3;
- 但在人工智能的世界里,机器生活在成千上万维的抽象向量空间中——GPT-3 的语义空间拥有 12288 个维度!这些坐标通常联合表达特征,不必各自对应一个可命名的语义。
支柱二 · 演员:向量(Vector)——空间中的居民与信息载体
进入空间后,每一个具体的事物都有了生命,它就是向量。向量具备三副完美统一的面孔:
- 在计算机眼中:它是一串规整的数字清单,例如
[0.82, -0.45, 0.12]; - 在几何几何学家眼中:它是高维空间中的一个特定坐标点,代表事物在空间中的驻足位置;
- 在物理学家眼中:它是从原点出发射向该点的一支有方向、有长度的有向箭头。箭头的长度代表强度,箭头之间的夹角则代表事物之间的默契程度(语义相似度)。
支柱三 · 动作:矩阵(Matrix)与线性变换(Linear Transformation)
如果说向量是空间中静止的演员,那么矩阵就是指挥空间运动的导演。
千万不要把矩阵仅仅当成一张冷冰冰的二维数字表格!在动态视角下,矩阵是“对整个空间实施的一套动作指令”:它指挥着空间里的所有向量,一起发生平滑的拉伸、旋转、翻折、剪切或投影。当一个矩阵乘以一个向量时,绝非枯燥的乘乘加加,而是把这个向量从一个坐标视角,瞬间传送到了另一个崭新的坐标视角!
动手实验:只要搞定基底,就搞定了整个空间
线性变换最令人着迷、也是其在计算机中算得飞快的最核心秘密是:不管空间里漂浮着多少万亿个向量,只要盯紧最基础的几个单位基向量(Basis Vectors),整个空间的变换就被彻底锁定了!
以最基础的二维平面为例,所有向量其实都是由两个基本积木块搭建出来的:沿横轴走 1 步的红色基底 i = [1, 0],以及沿纵轴走 1 步的蓝色基底 j = [0, 1]。例如一个向量 v = [1.5, 1.0],无非就是“走 1.5 步 i,再走 1.0 步 j”。
当一个矩阵作用在整个平面上时:
因为变换是平直等比的,原来的关系依然丝丝入扣:变换后的向量 v',依然精确等于“走 1.5 步新的 i',再加上 1.0 步新的 j'”!掌握了基底,你就掌握了无限空间里每一个向量的命运。
💡 试着切换不同动作。你会清晰看到:基底 i' 与 j' 是怎样由矩阵的列向量直接决定的;而任意测试向量 v,永远忠实地随基底做同步线性组合!
把四套工具,放回同一张地图
线性代数负责向量、矩阵与线性变换,计算中的张量形状帮助组织数据;函数提供输入到输出的共同语言,微积分研究导数与梯度;概率统计描述不确定性与波动,信息论用概率衡量信息与预测代价。四套工具相互配合,而不是互相替代。
| 工具 | 章节 | 接下来做什么 |
|---|---|---|
| 表示与计算 | 01 向量 → 02 运算 → 03 矩阵 → 04 矩阵运算 | 把数据和批量计算写清楚 |
| 空间与形状 | 05 线性变换 → 06 张量 | 理解几何动作和数据轴 |
| 规则与敏感度 | 07 函数 → 08 梯度 | 理解输入输出,以及参数如何影响结果 |
| 不确定性与代价 | 09 概率统计 → 10 信息论 | 为预测与训练准备概率工具 |
进入卷二以后,神经元会把这些数学零件拼起来:加权求和、函数复合、概率输出与损失,再用梯度更新参数。
线性代数让数据可以表示、组合与变换,但 AI 不只靠线性代数。非线性函数、梯度、概率与信息论也各有职责;接下来的十课会依次把这些工具放进手里。
💡 用大白话梳理:这一课的核心直觉
- 向量描述对象,矩阵组织批量计算,线性变换揭示几何动作。
- 张量形状标出数据轴,函数描述输入如何变成输出。
- 梯度描述当前位置的敏感度,不直接指向全局最优。
- 概率统计描述平均与波动,信息论衡量不确定性与预测代价。
学习小测验
动动脑筋:核心直觉小测验(选出你的答案后点击「提交」,即可查看生动通俗的详细解析)
01 什么是向量
用一组有顺序的数字,给事物拍一张可以计算的数字照片。