卷积神经网络中的计算方式

卷积核 3x3的矩阵fxf

图像层 5x5的矩阵nxn

p是我们的填充层 s是我们的步幅

特征提取就是我们的图像层矩阵跟卷积核矩阵对应项相乘然后加在一起，之后每次移动s个步幅

公式： p=0 s=1 （n-f+1）x（n-f+1）

公式：  p=1 s=1 （n+2p-f+1）x（n+2p-f+1）

公式：  p=1 s=2 (n+2p-f)/s+1 x (n+2p-f)/s+1

池化层

池化层的作用

1.降维度与减少计算量

2.增加模型的鲁棒性与不变性

解释：这是池化层一个非常关键的特性，即平移不变性。它意味着，即使图像中的目标物体发生轻微的平移、旋转或形变，经过池化后提取到的特征依然能保持稳定

3.防止过拟合

池化层通过减少特征图的尺寸，间接地减少了后续网络层需要学习的参数数量。模型复杂度降低，就不容易“死记硬背”训练数据中的噪声和无关细节，从而有助于缓解过拟合问题，提升模型在未见过的数据上的表现

池化的操作和常见的池化类型

池化操作：通过滑动一个2x2的固定大小的窗口来实现。根据窗口内信息的处理方式不同，主要分为以下几种：

最大池化:在窗口的覆盖的区域内，只选取最大值作为输出

特点：它像是再问“这个区域最显著的特征是什么”，因此，最大池化能非常有效的保留图像中的边缘、角点和纹理等最突出的特征，是图像任务中最常用的池化方法

平均池化：计算窗口覆盖区域内所有值的平均值作为输出

特点：它更像是在做局部平滑处理，保留了区域的整体背景信息。相比最大池化，它会削弱最显著的特征，但有时能更好的保留上下文，常用于网络的末端来汇总全局信息

全局池化：对整个特征图执行池化操作，例如，全局池化会将一个完整的特征图压缩成一个单一的数字

特点：它通常用在网络的最后，替代传统的全连接层，将二维的特征图转化成一维的特征向量，极大的减少了参数量，常用于图像分类任务

深度学习特点

1.多层非线性变换：正常的线性变换y=Wx+b,只能表示线性类似“直线”的操作，而很多的图片是有弯曲非线性的内容组成的，所以这种画曲线塑造复杂边界的能力是通过激活函数，激活函数被施加在线性变换之后，对结果进行“扭曲”和折叠，从而引入了非线性特性

2.特征自动提取

3.大数据和计算能力

4.可解释性差

深度学习应用场景

1.计算机视觉

2.自然语言处理

3.推荐系统

4.多模态大模型

深度学习中知识点

7b的模型：表示其中有70亿个神经元参数的模型

正向传播和反向传播：正向传播就是输出层输入，经过神经层网络权重计算，得到输出值，看输出值与期望值的损失，反向更新权重矩阵参数，一层一层更新直到更新到第一层输入层，从而模型的拟合效果就会越来越好

深度学习和机器学习的关系：机器学习包含深度学习，由人来特征工程处理的叫机器学习，由算法自己处理叫深度学习