正态分布、均匀分布(纯大白话 + 生活例子 + 深度学习真实用途)
·
先一句话总纲
这俩都是 **「电脑生成随机数的规则」**,深度学习里天天用(权重初始化、加噪声、Dropout、采样全靠它们)。
- 均匀分布:所有数出现概率完全一样,公平到极致
- 正态分布:中间数最多,越靠边越少,像一口钟

一、均匀分布(Uniform Distribution)
1. 大白话定义
在一个范围里,每个数字被抽到的概率完全相等,没有任何偏向!
2. 生活比喻
- 扔骰子:1、2、3、4、5、6,概率一模一样
- 抽奖:1~100 号球,每个球中奖概率相同
- 随机点名:班里每个人被点到的概率一样
3. 长啥样?
画成图是一条水平直线 / 长方形,平顶,没有高低起伏。
4. 你代码里见过它!
python
运行
torch.rand(shape) # 生成 0~1 之间的均匀分布随机数
mask = (torch.rand(X.shape) > dropout).float() # Dropout里的mask就是均匀分布
5. 深度学习用来干嘛?
- 生成Dropout 掩码(随机选神经元,公平选)
- 数据随机打乱
- 简单的随机采样
二、正态分布(Normal / Gaussian Distribution)
1. 大白话定义
中间的数字出现概率最高,越往两边概率越低,像一口钟!
2. 生活比喻
- 身高:大部分人是中等身高,特别高、特别矮的很少
- 考试成绩:中等分数最多,满分和 0 分极少
- 体重:中间体重最多,极端体重很少
3. 长啥样?
钟形曲线:中间高、两边低、左右对称。
4. 你代码里天天用!
python
运行
nn.init.normal_(m.weight, std=0.01) # 权重初始化:正态分布!
labels += np.random.normal(scale=0.1) # 加噪声:也是正态分布
5. 深度学习最重要用途
权重初始化(必用)
- 用正态分布,参数大部分在中间不大不小
- 不会太大(梯度爆炸),不会太小(梯度消失)
- 训练超级稳定,这就是你模型能收敛的关键之一!
三、超级对比表(一眼看懂)
表格
| 类型 | 概率特点 | 样子 | 生活例子 | 深度学习用途 |
|---|---|---|---|---|
| 均匀分布 | 所有数概率一样 | 平顶长方形 | 扔骰子、抽奖 | Dropout、随机打乱 |
| 正态分布 | 中间多、两边少 | 钟形 | 身高、成绩 | 权重初始化、加噪声 |
四、终极口诀(背会就够用)
均匀分布:公平平等,全一样;正态分布:中间扎堆,两头少;权重初始化用正态,Dropout 用均匀!
五、和你代码联动(瞬间懂)
- 你写的 **
torch.rand()** → 均匀分布 - 你写的 **
nn.init.normal_** → 正态分布 - 你加的数据噪声 → 正态分布
- 你用的Dropout 掩码 → 均匀分布
更多推荐
所有评论(0)