先一句话总纲

这俩都是 **「电脑生成随机数的规则」**,深度学习里天天用(权重初始化、加噪声、Dropout、采样全靠它们)。

  • 均匀分布:所有数出现概率完全一样,公平到极致
  • 正态分布:中间数最多,越靠边越少,像一口钟


一、均匀分布(Uniform Distribution)

1. 大白话定义

在一个范围里,每个数字被抽到的概率完全相等,没有任何偏向!

2. 生活比喻

  1. 扔骰子:1、2、3、4、5、6,概率一模一样
  2. 抽奖:1~100 号球,每个球中奖概率相同
  3. 随机点名:班里每个人被点到的概率一样

3. 长啥样?

画成图是一条水平直线 / 长方形,平顶,没有高低起伏。

4. 你代码里见过它!

python

运行

torch.rand(shape)  # 生成 0~1 之间的均匀分布随机数
mask = (torch.rand(X.shape) > dropout).float()  # Dropout里的mask就是均匀分布

5. 深度学习用来干嘛?

  • 生成Dropout 掩码(随机选神经元,公平选)
  • 数据随机打乱
  • 简单的随机采样

二、正态分布(Normal / Gaussian Distribution)

1. 大白话定义

中间的数字出现概率最高,越往两边概率越低,像一口钟!

2. 生活比喻

  1. 身高:大部分人是中等身高,特别高、特别矮的很少
  2. 考试成绩:中等分数最多,满分和 0 分极少
  3. 体重:中间体重最多,极端体重很少

3. 长啥样?

钟形曲线:中间高、两边低、左右对称。

4. 你代码里天天用!

python

运行

nn.init.normal_(m.weight, std=0.01)  # 权重初始化:正态分布!
labels += np.random.normal(scale=0.1)  # 加噪声:也是正态分布

5. 深度学习最重要用途

权重初始化(必用)

  • 用正态分布,参数大部分在中间不大不小
  • 不会太大(梯度爆炸),不会太小(梯度消失)
  • 训练超级稳定,这就是你模型能收敛的关键之一!

三、超级对比表(一眼看懂)

表格

类型 概率特点 样子 生活例子 深度学习用途
均匀分布 所有数概率一样 平顶长方形 扔骰子、抽奖 Dropout、随机打乱
正态分布 中间多、两边少 钟形 身高、成绩 权重初始化、加噪声

四、终极口诀(背会就够用)

均匀分布:公平平等,全一样;正态分布:中间扎堆,两头少;权重初始化用正态,Dropout 用均匀!


五、和你代码联动(瞬间懂)

  1. 你写的 **torch.rand()** → 均匀分布
  2. 你写的 **nn.init.normal_** → 正态分布
  3. 你加的数据噪声 → 正态分布
  4. 你用的Dropout 掩码 → 均匀分布
Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐