重生归来,我要成功 Python 高手--day27 机器学习基础知识
人工智能(ai):是一个研究领域,像人一样机器智能的综合分析
研究目标:使计算机来模拟人类
机器学习(ml):从历史数据中通过模型(公式)寻找规律,然后拿一个新的数据进行预测
深度学习(dl):深度神经网络,大脑仿生,设计一层一层的神经元来模仿世间万物
三者的关系:
机器学习实现人工智能,深度学习是机器学习的一种方法
ai发展的三要素:
数据,算法,算力
机器学习的常用术语:
样本:一行的数据
特征:一列的数据
标签:模型要进行预测的那一列的数据
特征:从数据中抽取出来对结果预测有用的数据
数据集的划分,训练集:测试集====8:2///7:3
x_train:训练集特征 y_train:训练集的标签
x_test:ces集特征 y_test:测试集的标签
算法的分类:
有监督学习:输入数据是由输入特征值和目标值所组成即输入的训练数据有标签,数据集:需要表述数据的标签/目标值
有特征,有标签
无监督学习:输入数据的没有标记,样本数据类别未知,根据样本间的相似度来对两本进行聚类,以发现事物内部结构及相互关系
有特征,无标签
实例:
有监督学习:疾病诊断,收集带标签的数据来进行模型的训练,用模型来预测不带标签的数据
无监督学习:用户分类,输入用户的行为信息没有标签,通过所有用户行为的相似度来进行分组
有监督学习:
分类和回归
分类:目标值(标签值)是不联系的
回归:目标值是联系的求平均值
通过标签来判断这个模型使用分类算法还是回归算法
半监督学习:让专家标注少量数据,利用已经标记的数据训练一个模型,用这个模型去预测没有标签的数据,拿这个结果与行业专家分类结果做对比
纯半监督学习:有标签和无标签一起训练,最终目的利用训练好的模型去预测新的待测数据
直推学习:有标签和无标签一起训练,对现有无标记的数据进行预测(无标记的数据是同一批数据不是新的)
强化学习:四要素,agent,环境状态,行动,奖励
agent根据环境状态进行行动来获得最多奖励
机器学习的建模流程:
获取数据,数据基本处理,特征工程,机器学习(模型训练),模型评估
特征工程:
利用专业背景知识和技巧来处理数据,让机器学习的算法效果最好
数据和特征决定了机器学习的上限,而模型和算法是无限逼近于这个上限
特征提取:从原始数据中提取于任务相关的特征
特征预处理:对特征进行归一化或者标准化,因为有量纲问题即特征的单位问题
特征降维:将原始数据的维度降低
特征选择:在特征提取的基础上,再进行特征的选择
特征组合:把多个特征合并为一个特征
模型拟合问题:
拟合:用来表示模型对样本分布点的模型情况
欠拟合:模型再训练集和测试集表现都很差,原因:模型太简单了
过拟合:模型在训练集表现很好在测试集表现很差 原因:模型太复杂了,数据集量太少
泛化:模型在新数据集上的表现好坏的能力
奥卡姆剃刀原则:两个具有相同泛化能力的模型,选取较为简单的模型
更多推荐
所有评论(0)