LESSON 00 · 卷I 基础数学

什么是线性代数

从空间、对象与动作出发,建立 AI 数学的全局地图。

第 1 站

一个终极疑问:AI 到底用什么语言看世界?

今天,你可以在对话框里向 ChatGPT 提出任何深奥的哲学问题,也可以让 AI 画家几秒钟内绘制出一幅令人惊叹的赛博朋克画卷,或者让机器听懂全球数十种不同语言并实时互译。

面对如此强大的智能表现,一个极其朴素但震撼的问题浮现出来:

「如果把一台运行着万亿参数大模型的超级计算机拆开,里面的芯片到底在执行什么?」

显微镜下,没有文字,没有色彩,没有思维,更没有灵魂。芯片里只有以百亿计的微型晶体管,在以每秒数十亿次的速度切换着 0 与 1 的高低电平。计算机的硬件底层,本质上是一台只会做加法和乘法的“超高速算盘”。

这就产生了一个不可思议的鸿沟:现实世界充满着文字、情感、光影、逻辑与概念,而计算机只能咀嚼纯粹的数字。是谁在现实世界与冷冰冰的数字芯片之间,搭建起了一座畅通无阻的意义之桥?

如果只给你一张无限宽广的空白坐标纸,你打算怎么把人类字典里的「开心」「悲伤」「猫」「汽车」这些概念,精确地画在纸上?

答案正是线性代数(Linear Algebra)。它是数学家专为高维空间发明的通用“普通话”。正是依靠这套语言,现代人工智能才得以把纷繁复杂的人类世界,完全重构为可以精密计算的几何空间。

第 2 站

拆解两个词:为什么叫「线性」?又为什么叫「代数」?

很多初学者在大学课堂上第一次接触线性代数时,常常陷入一种被公式支配的恐惧:行列式展开、逆矩阵、伴随矩阵、特征值与特征向量……一堆繁琐的代数符号排山倒海而来,却很少有人真正想过:这门学问为什么偏偏被命名为「线性代数」?

我们把这个词拆开来看:

1. 什么是「代数」(Algebra)?

「代数」源自阿拉伯语 al-jabr,原意是“重组、复原碎片”。代数最伟大的智慧,在于“用符号代表对象,用统一规则取代具体的细枝末节”:

  • 在小学算术里,我们算具体的数:1 + 2 = 3;
  • 在初中初等代数里,我们用字母代表未知的数:x + y = z,一条公式概括无数种数字组合;
  • 而在线性代数中,抽象的层次再次发生飞跃:一个字母代表的不再是单个数字,而是一整组数据(向量)、甚至一套对整个空间的操纵规则(矩阵)!
y = A x  // 表面上只是几个字母的乘法,内部却在同时统帅成千上万个数字的协同运算

2. 为什么限定为「线性」(Linear)?

所谓“线性”,直观上可以理解为“保持线性组合、按同一规则重组”。在严谨的数学定义中,一个系统或变换只要严格满足以下两条铁律,就被尊称为“线性”:

① 可加性(叠加原理):T(u + v) = T(u) + T(v) // 两个因素共同作用,等于各自单独作用之和
② 齐次性(等比缩放):T(c · u) = c · T(u) // 输入放大 c 倍,输出也严格放大 c 倍,绝无饱和折损

把这两条性质搬到几何空间中,会呈现出一个极其美妙且优美的图像:“原点不动,网格线映成直线或点,同组平行线可保持平行,也可能重合”!

线性变换(Linear) 原点 (0,0) i' j' ✓ 原点不动 · 网格平直且等距平行 非线性扭曲(Non-linear) 原点偏移 ✕ 网格扭曲成波浪 · 失去齐次性与可加性
图 0-1线性变换与非线性扭曲的几何直观:线性意味着“平直、匀称与原点不动”,这保证了整个空间变换可以用简单的矩阵乘法彻底描述。
⚠️ 遇到的拦路虎 · 方案局限

读者可能会困惑:既然真实世界是极度复杂的非线性系统(语言有起承转合、视觉有遮挡光照),为什么 AI 还要死死抱住看似呆板的「线性代数」不放?

非线性问题往往更复杂,但并非无法计算。深度学习用线性运算组织信息,用非线性函数改变表达,再通过优化方法学习参数。

第 3 站

线性代数的三大支柱:空间、对象与动作

如果把线性代数看作一场盛大宏伟的空间舞台剧,它其实只需要三个核心元素就能把剧情演绎得淋漓尽致:

支柱一 · 舞台:向量空间(Vector Space)与维度(Dimension)

空间是容纳所有事物的舞台。空间的维度,就是这个舞台所允许的互相独立的自由度数量:

  • 在二维平面上,只需要两个互相垂直的方向(长和宽),维度就是 2;
  • 在三维现实世界里,需要长、宽、高三个方向,维度就是 3;
  • 但在人工智能的世界里,机器生活在成千上万维的抽象向量空间中——GPT-3 的语义空间拥有 12288 个维度!这些坐标通常联合表达特征,不必各自对应一个可命名的语义。

支柱二 · 演员:向量(Vector)——空间中的居民与信息载体

进入空间后,每一个具体的事物都有了生命,它就是向量。向量具备三副完美统一的面孔:

  • 在计算机眼中:它是一串规整的数字清单,例如 [0.82, -0.45, 0.12];
  • 在几何几何学家眼中:它是高维空间中的一个特定坐标点,代表事物在空间中的驻足位置;
  • 在物理学家眼中:它是从原点出发射向该点的一支有方向、有长度的有向箭头。箭头的长度代表强度,箭头之间的夹角则代表事物之间的默契程度(语义相似度)。

支柱三 · 动作:矩阵(Matrix)与线性变换(Linear Transformation)

如果说向量是空间中静止的演员,那么矩阵就是指挥空间运动的导演。

千万不要把矩阵仅仅当成一张冷冰冰的二维数字表格!在动态视角下,矩阵是“对整个空间实施的一套动作指令”:它指挥着空间里的所有向量,一起发生平滑的拉伸、旋转、翻折、剪切或投影。当一个矩阵乘以一个向量时,绝非枯燥的乘乘加加,而是把这个向量从一个坐标视角,瞬间传送到了另一个崭新的坐标视角!

如果一个矩阵把整个三维立体空间,拍扁成了一个薄薄的二维平面(例如阴影投影),还能不能找到另一个矩阵,把拍扁的数据百分之百复原回原来的三维状态?
第 4 站

动手实验:只要搞定基底,就搞定了整个空间

线性变换最令人着迷、也是其在计算机中算得飞快的最核心秘密是:不管空间里漂浮着多少万亿个向量,只要盯紧最基础的几个单位基向量(Basis Vectors),整个空间的变换就被彻底锁定了!

以最基础的二维平面为例,所有向量其实都是由两个基本积木块搭建出来的:沿横轴走 1 步的红色基底 i = [1, 0],以及沿纵轴走 1 步的蓝色基底 j = [0, 1]。例如一个向量 v = [1.5, 1.0],无非就是“走 1.5 步 i,再走 1.0 步 j”。

当一个矩阵作用在整个平面上时:

A = [ 新的 i' 坐标 | 新的 j' 坐标 ] // 矩阵的每一列,就是对应基底在新空间里的归宿!

因为变换是平直等比的,原来的关系依然丝丝入扣:变换后的向量 v',依然精确等于“走 1.5 步新的 i',再加上 1.0 步新的 j'”!掌握了基底,你就掌握了无限空间里每一个向量的命运。

交互实验室 基底操控台 —— 亲手转动基底,看整个空间与向量如何随之起舞
选择变换矩阵动作:
原点(0,0) i' [1.0, 0.0] j' [0.0, 1.0] v' = 1.5i' + 1.0j'
当前矩阵 A: [[1.00, 0.00], [0.00, 1.00]]
合成新向量 v': [1.50, 1.00]

💡 试着切换不同动作。你会清晰看到:基底 i' 与 j' 是怎样由矩阵的列向量直接决定的;而任意测试向量 v,永远忠实地随基底做同步线性组合!

第 5 站

把四套工具,放回同一张地图

线性代数负责向量、矩阵与线性变换,计算中的张量形状帮助组织数据;函数提供输入到输出的共同语言,微积分研究导数与梯度;概率统计描述不确定性与波动,信息论用概率衡量信息与预测代价。四套工具相互配合,而不是互相替代。

卷一的新路线
工具章节接下来做什么
表示与计算01 向量 → 02 运算 → 03 矩阵 → 04 矩阵运算把数据和批量计算写清楚
空间与形状05 线性变换 → 06 张量理解几何动作和数据轴
规则与敏感度07 函数 → 08 梯度理解输入输出,以及参数如何影响结果
不确定性与代价09 概率统计 → 10 信息论为预测与训练准备概率工具

进入卷二以后,神经元会把这些数学零件拼起来:加权求和、函数复合、概率输出与损失,再用梯度更新参数。

💡 章节速记 · 本课核心

线性代数让数据可以表示、组合与变换,但 AI 不只靠线性代数。非线性函数、梯度、概率与信息论也各有职责;接下来的十课会依次把这些工具放进手里。

💡 用大白话梳理:这一课的核心直觉

  • 向量描述对象,矩阵组织批量计算,线性变换揭示几何动作。
  • 张量形状标出数据轴,函数描述输入如何变成输出。
  • 梯度描述当前位置的敏感度,不直接指向全局最优。
  • 概率统计描述平均与波动,信息论衡量不确定性与预测代价。
小测验

学习小测验

动动脑筋:核心直觉小测验(选出你的答案后点击「提交」,即可查看生动通俗的详细解析)

Q1 哪组条件准确描述了线性变换?
Q2 为什么在现代大语言模型和深度学习中,线性代数(特别是矩阵乘法)会成为绝对的核心底座?