人工智能(ai):是一个研究领域,像人一样机器智能的综合分析

研究目标:使计算机来模拟人类

机器学习(ml):从历史数据中通过模型(公式)寻找规律,然后拿一个新的数据进行预测

深度学习(dl):深度神经网络,大脑仿生,设计一层一层的神经元来模仿世间万物

三者的关系

机器学习实现人工智能,深度学习是机器学习的一种方法

ai发展的三要素:

数据,算法,算力

机器学习的常用术语

样本:一行的数据

特征:一列的数据

标签:模型要进行预测的那一列的数据

特征:从数据中抽取出来对结果预测有用的数据

数据集的划分,训练集:测试集====8:2///7:3

x_train:训练集特征  y_train:训练集的标签

x_test:ces集特征  y_test:测试集的标签

算法的分类

有监督学习:输入数据是由输入特征值和目标值所组成即输入的训练数据有标签,数据集:需要表述数据的标签/目标值

有特征,有标签

无监督学习:输入数据的没有标记,样本数据类别未知,根据样本间的相似度来对两本进行聚类,以发现事物内部结构及相互关系

有特征,无标签

实例

有监督学习:疾病诊断,收集带标签的数据来进行模型的训练,用模型来预测不带标签的数据

无监督学习:用户分类,输入用户的行为信息没有标签,通过所有用户行为的相似度来进行分组

有监督学习:

分类和回归

分类:目标值(标签值)是不联系的

回归:目标值是联系的求平均值

通过标签来判断这个模型使用分类算法还是回归算法

半监督学习:让专家标注少量数据,利用已经标记的数据训练一个模型,用这个模型去预测没有标签的数据,拿这个结果与行业专家分类结果做对比

纯半监督学习:有标签和无标签一起训练,最终目的利用训练好的模型去预测新的待测数据

直推学习:有标签和无标签一起训练,对现有无标记的数据进行预测(无标记的数据是同一批数据不是新的)

强化学习:四要素,agent,环境状态,行动,奖励

agent根据环境状态进行行动来获得最多奖励

机器学习的建模流程

获取数据,数据基本处理,特征工程,机器学习(模型训练),模型评估

特征工程

利用专业背景知识和技巧来处理数据,让机器学习的算法效果最好

数据和特征决定了机器学习的上限,而模型和算法是无限逼近于这个上限

特征提取:从原始数据中提取于任务相关的特征

特征预处理:对特征进行归一化或者标准化,因为有量纲问题即特征的单位问题

特征降维:将原始数据的维度降低

特征选择:在特征提取的基础上,再进行特征的选择

特征组合:把多个特征合并为一个特征

模型拟合问题

拟合:用来表示模型对样本分布点的模型情况

欠拟合:模型再训练集和测试集表现都很差,原因:模型太简单了

过拟合:模型在训练集表现很好在测试集表现很差  原因:模型太复杂了,数据集量太少

泛化:模型在新数据集上的表现好坏的能力

奥卡姆剃刀原则:两个具有相同泛化能力的模型,选取较为简单的模型

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐