计算生疏了,我反而更懂数学了
计算生疏了,我反而更懂数学了
很多当年算得很熟的题,现在已经生疏了。一些理解过的推导,也得重新翻书。
每次意识到这一点,我都忍不住想:大学四年,是不是我知识和智力的顶峰?
但这几年学习和研究深度学习,又让我怀疑这个判断。我发现了一件奇怪的事——
我算得没有当年熟了,对数学的理解却比当年深了。
这让我开始琢磨:一个人的思维层次提高了,到底是什么提高了?
回头看,变的是我问的问题。
一、那时候,会算就等于学会了
大一学高等数学,我对微积分的全部认识,就是定义、公式和习题。
学导数就练求导,学积分就找积分方法。检验标准只有一个:题目摆在这儿,答案能不能算出来。
那时的我很像一段程序。题目给定输入,我从学过的方法里挑一个,跑出结果。至于人们当初为什么要发明导数,我没想过。
这段训练我不想贬低。后面你会看到,当年那些枯燥的计算,后来全都回来找我了。
二、一辆车和一趟公交,让公式有了意思
转折发生在大二,学大学物理和概率论的时候。
一辆车匀速行驶,路程就是速度乘时间。可如果它从静止开始,以 2 m/s² 加速,10 秒走了多远?速度每一刻都在变,乘法用不了了。
办法是把时间切成很小的段,每段里的速度近似不变,算出这一小段的距离,再全部加起来。切到无限细,就是定积分:
路程 = ∫₀¹⁰ 2t dt = 100 米
反过来,知道位置怎么随时间变,求导就能得到每一刻的速度。
导数是这一刻变得有多快,积分是这一路攒下了多少。这句话写出来很简单,但从这时候起,纸上的符号才开始对应真实发生的事。
概率论又给了我一个例子。假设公交车半小时一班,严格准点,你随机到站,那么等车时间在 0 到 0.5 小时之间均匀分布。
这条分布曲线的高度是多少?答案是 2。
第一次看到这种数字,你很可能以为自己算错了——概率怎么能大于 1?没算错,因为 2 是概率密度,它本身不是概率。想知道 6 分钟内等到车的概率,要算这段区间下方的面积:
P(等待 ≤ 0.1 小时) = 2 × 0.1 = 0.2
只会套公式的时候,这个 2 没有任何意义。知道它代表什么之后,它才讲得通。
从这时起,我对“学会”的要求变了:除了算出来,我还要能说清楚,算出来的这个量代表什么,回答了什么问题。
三、两件不相干的事,其实是同一件事
路程和等车概率,一个在物理课上,一个在概率课上。我当时默认它们是两类题,得记两套方法。
后来才看出来,它们干的是同一件事:把局部的贡献累加起来,得到一个整体的量。
| 问题 | 局部的一小块 | 累加之后得到 |
|---|---|---|
| 变速运动 | 速度 × 一小段时间 | 总路程 |
| 区间概率 | 概率密度 × 一小段区间 | 总概率 |
| 变力做功 | 力 × 一小段位移 | 总功 |
数学厉害的地方,是能把来自不同世界的问题,翻译成同一个结构。
看到这一层,新问题就没那么陌生了。我不用先问“这是哪一章的题”,可以先问:它是不是也在把一堆小块攒成一个整体?
四、矩阵在我眼里,变成了一次映射
这几年学深度学习,同样的事又发生了一次,这次是线性代数。
大学时,矩阵乘法对我来说就是“行乘列”。接触神经网络之后,图片变成了像素数组,文字经过编码变成了向量,输入向量乘上权重矩阵,再加上偏置,就得到一个新的表示。
再看到矩阵,我开始关注它代表的映射:它接收什么,输出什么,中间丢了什么?
比如这个矩阵:
[ 2 0 ] [ x ] [ 2x ]
[ 0 0 ] × [ y ] = [ 0 ]
行乘列我一秒就能算完。但换个问法,它就有意思了:x 被放大了两倍,y 被彻底抹掉了,而且从结果里再也找不回来。
同样一个矩阵,以前我看到的是四个数字,现在看到的是一次信息处理。
五、层数再多,也可能只等于一层
“层数越多,能力越强”,这句话听起来理所当然。
可把两层不带非线性的网络写出来,是这样的:
y = W₂(W₁x + b₁) + b₂
= (W₂W₁)x + (W₂b₁ + b₂)
合并之后,还是一次“矩阵乘 x 再加偏置”。两层能合成一层,一百层也一样。没有非线性,堆再多层也只是一层。
看懂一个零件,和看懂它在系统里的作用,是两回事。 矩阵乘法大学就学过,可它为什么需要和非线性运算配合,光盯着矩阵本身是看不出来的。
再往下看训练过程,我又被带回了大一。损失函数衡量预测和目标的差距,梯度告诉你参数往哪个方向调,而反向传播的核心,就是链式法则——当年习题册上最枯燥的复合函数求导,现在在几百万个参数上跑。
到了这一步,判断自己懂没懂的标准又变了:一个公式放在整个流程里,它负责什么,和谁配合,出了问题会影响哪里?
六、算得再准,也可能答错了问题
再往后,我开始追问一件更让人不安的事:这些方法在什么条件下成立?
2016 年,里贝罗(Marco Tulio Ribeiro)等人做过一个实验:故意用有偏的图片训练一个区分狼和哈士奇的分类器,其中狼的照片背景都是雪。结果模型学到的主要是“有雪就是狼”。一只站在雪地里的哈士奇,它判成了狼。
如果测试图片带着同样的偏差,这个模型看起来没什么问题。可它学到的那条规律,在真实世界里靠不住。
回到前面的公交车,也一样。那个 0.2 算得很精确,可它有两个前提:车严格准点,你随机到站。如果早高峰一来就是两趟连着,或者你看好时刻表才出门,这个 0.2 就跟你没什么关系了。
积分没有算错,错在模型和现实对不上。
计算结果可以很精确,但它有没有用,取决于问题怎么定义、数据怎么收集、指标选得对不对。
所以现在听到“这个方法有效”,我会接着问三句:对什么有效?为什么有效?什么情况下会失效?
七、所谓层次,就是你能问出什么问题
把这些年的变化摆在一起,是这样一张表:
| 阶段 | 我在问什么 | 还没到这一层时的样子 |
|---|---|---|
| 计算 | 这道题怎么算? | 有题才会做,步骤一换就卡住 |
| 意义 | 算出来的东西代表什么? | 看到密度等于 2,以为自己算错了 |
| 结构 | 不同问题为什么能用同一个工具? | 每章一套方法,学得越多记得越累 |
| 系统 | 这些工具怎么配合? | 每个公式都会,整体还是讲不清 |
| 边界 | 它在什么条件下值得信任? | 指标好看,就以为问题解决了 |
这张表只是我自己走过的路,拿它给别人的智力排序没有意义。它也不是一路往上走的。换一个新领域,我还是得从基本概念和练习题开始,老老实实当回初学者。
这里有个陷阱:概念讲得头头是道,很容易让人以为自己懂了。可一旦合上书,自己推不出那几行式子,那种“懂”多半就是假的。
高层次的问题,得站在能算的基础上才问得实。
今天模型算积分比人快得多。计算可以交给它,但这个积分该不该算、前提成不成立,还得你自己判断。
如果你想试试,学完一个概念可以这样检查自己:
第一步,用自己的话讲一遍。 不许照抄定义。
第二步,举一个课本之外的例子。 举不出来,多半还停留在符号层面。
第三步,说出它什么时候不成立。 这一步最难,也最能暴露问题。
第四步,合上书算一遍。 防止前三步只是在自我感动。
哪一步答不上来,下一步就该学那里。
写在最后
现在再回头看,大学四年大概是我数学训练最密集的一段时间,但谈不上什么顶峰。后来的学习,让我不断回到那些知识,补上当年没看懂的联系。
数学家理查德·汉明(Richard Hamming)在《Numerical Methods for Scientists and Engineers》里留下过一句很有名的话:“The purpose of computing is insight, not numbers.”(计算的目的是洞见,而不是数字。)
公式会忘,计算会生疏,这些都能捡回来。如果你也觉得自己早就过了巅峰,不妨翻开一本当年学过的书,这次多问一句:为什么要这样算,什么时候又不该这样算?
If you read this far — thank you.
Come tell me what you thought on X.