积分号下求导:从直觉到正态分布的应用
概要
本文回答一个问题:为什么有时候可以把求导移进积分号里面。完全先不讲严格数学,只用几个非常简单的例子建立直觉,最后回到它在正态分布推导中真正漂亮的应用:对参数 求导,把藏在指数里的 “拽”出来。
1. 最简单的例子:一堆数加起来
先不要看积分。
假设有:
比如:
那么对 求导:
你也可以写成:
也就是说:
逐项求导
一个”大加法”的导数,可以分别对里面每一项求导,再加起来。
这是我们后面理解积分的关键。
2. 把”加起来”换成”很多小块加起来”
积分本质上也可以先理解成:
把无数个很小的东西加起来。
例如:
先把区间 切成很多小段。假设粗略切成 4 段:
这其实就是:
现在对 求导:
因为 和 没关系,所以:
而这又是什么?它重新变成了一个积分:
核心直觉
积分就是”很多小东西加起来”,而求导可以逐项进行,所以求导可以进入积分内部。
3. 一个更具体的例子
假设:
方法一:先积分再求导。
所以:
然后求导:
方法二:先在积分里面对 求导。
所以:
两种方法得到完全一样的结果:
4. 再换一个更直观的:面积在变化
想象一个矩形:
- 宽度固定为
- 高度是
那么面积:
现在问:当 增加一点点,面积增加多快?
当然:
但是从积分里面看:每一个位置 ,高度都是 。
高度对 的变化率:
所以整个面积变化率就是:
几何图像
先观察每一个小面积块怎么变化,再把所有小面积块的变化加起来。
5. 一个非常重要的例子:为什么它能产生
这就回到我们推导正态分布的地方。
我们定义:
我们想计算:
问题是:这个 从哪里来?
看积分里面这个东西,对 求导。根据链式法则:
也就是:
巧妙之处
我们原来想要 。结果:对参数 求一次导,自动把一个 “变”出来了。
所以:
于是:
这就是我们为什么引入”积分号下求导”。
6. 可以把它想象成一个”提取器”
这个技巧可以有一个非常直观的理解。
我们手里有:
里面藏着一个 ,但是它被藏在指数里面,我们不好直接拿出来。
于是我们发现: 这个操作刚好可以把它”拽”出来:
再求一次:
所以:
继续下去:
于是:求三次导 。
更深远的意义
通过对参数 求导,可以系统地计算正态分布的各种偶数阶矩。
7. 为什么”求导移进去”不是理所当然的?
这里要稍微留一个伏笔。
我们刚才说:
直觉上很好理解,因为:
积分 = 很多小块相加
求导 = 可以对每个小块分别求导
但是数学上有一个问题:
交换不是无条件的
如果这些”小块”在无限多、无限大的情况下表现得非常糟糕,就不一定能交换。
严格数学里需要额外条件,保证:
- 积分本身存在;
- 求导后的东西也足够”规矩”;
- 极限过程不会出现异常。
这就是为什么正态分布推导中要写”在满足相应条件时,可以把求导移入积分号”。这个”满足条件”不是废话,而是一个真正的数学条件。
总结
直觉版
在正态分布推导中的作用
对 求导:
真正漂亮的地方
于是原本难算的 积分,就变成了对一个已经知道的高斯积分求导。