本课定位
前60课 微积分与大模型阶段收官:
微积分 = 大模型的动力系统(训练、更新、学习、优化)
第61课正式进入第二阶段:线性代数与大模型
线性代数 = 大模型的骨骼与空间系统(存储、表达、变换、注意力、Embedding、压缩)
一句话概括不同数学的分工:
微积分负责「模型怎么学」
线性代数负责「模型怎么想、怎么存、怎么表达知识」
本节课不讲公式,先建立线性代数全局顶层框架,让你未来几十节线性代数课全部学的有方向、有目的、完全对标大模型真实机制。
一、线性代数在大模型中的地位(全局总览)
所有大模型、深度学习、AIGC(人工智能生成内容),所有数据全部是向量、所有运算全部是矩阵运算
大模型一切底层逻辑:
总结(记住这一句就通了)
微积分是模型的“动态学习引擎”,
线性代数是模型的“静态知识空间”。
没有线性代数:
模型无法存知识、无法理解语义、无法做注意力、无法表达智能。
二、第二阶段全部知识大框架(提前剧透)
未来几十节线性代数,主要四大模块,全部对标大模型:
Embedding本质、高维空间、语义空间、相似度计算
模型权重、网络层变换、维度映射、前向传播本质
注意力、向量检索、语义匹配、相似度、对齐
模型降维、剪枝、压缩、去冗余、知识提纯
全部内容:不学无用数学,只学AI真正底层。
三、本课核心知识点:向量完整入门(大模型一切的起点)
数学定义
向量 = 一组有序数字组成的列表
\\boldsymbol v = [v_1,v_2,…,v_n]
AI定义
向量 = 机器能读懂的知识、特征、语义、信息
人类看文字:「你好」
机器看文字: [0.21,0.53,-0.12,…高维数组]
大模型所有智能,全部建立在向量之上。
大模型全部使用 实数向量
- 可正、可负、可小数
- 代表语义强弱、特征权重
- 维度可以是128、256、512、1024、4096
高维向量 = 精细的语义特征
设有两个同维度向量:
\\boldsymbol a = [a_1,a_2],\\quad \\boldsymbol b = [b_1,b_2]
加法(特征融合)
\\boldsymbol a+\\boldsymbol b = [a_1+b_1,\\ a_2+b_2]
AI意义:两个语义特征叠加、信息融合
减法(特征差异)
\\boldsymbol a-\\boldsymbol b = [a_1-b_1,\\ a_2-b_2]
AI意义:两个语义的差距、偏差、误差
k\\cdot \\boldsymbol a = [k\\cdot a_1,\\ k\\cdot a_2]
- k>1:放大特征
- 0<k<1:弱化特征
-<0:反向特征
大模型激活、门控、权重强弱全部是数乘逻辑
四、Numpy手写向量运算实战(可直接运行)
python
import numpy as np
定义两个二维实数向量
a = np.array([2.0, 3.0])
b = np.array([1.0, -1.0])
print(“向量a =”, a)
print(“向量b =”, b)
python
add_res = a + b
print(“向量加法 a+b =”, add_res)
python
sub_res = a – b
print(“向量减法 a-b =”, sub_res)
python
k = 2.5
mul_res = k * a
print(“向量数乘 k*a =”, mul_res)
- 加法:两个信息叠加,语义融合
- 减法:捕捉两个向量的差别
- 数乘:控制特征强度大小
五、本课核心AI总结(必背)
六、下节课预告
第62课:向量模长、向量距离、向量归一化、余弦相似度,内积,泛数,夹角。
彻底看懂:
- 语义相似度
- 文本匹配
- 搜索召回
- 大模型Embedding比对核心数学
本专栏《AI大模型与数学》第二阶段线性代数全新开启,从零系统吃透大模型空间、向量、矩阵、注意力底层。
点关注持续连载,零基础建立顶级AI数学思维!
网硕互联帮助中心



评论前必须登录!
注册