大模型的发展史:1956年,约翰▪麦卡锡提出"人工智能"概念.1980年,福岛邦彦提出"神经认知机"被称为CNN雏形,首次成功应用在1998年,Yann LeCun发布著名的LeNet-5模型,并成功用于手写数字识别,是现在卷积层,池化层和全连接层交替使用的现代结构.进入21世纪,随着大数据和GPU的发展,神经网络焕发新机,进入"深度学习时代",2012年,AlexNet将图像识别错误了降低到15%左右,2013年,ResNet-152将图像识别错误率降低到3.57%左右,2017年,Google提出Transformer架构,核心就是自注意力机制,完全摒弃了传统的循环和卷积结构.也是现在主流大模型的基础框架.2018年,OpenAI推出GPT-1,同年Google推出BERT,能更好地理解上下文语义,范式是预训练和微调.2020年AI发展迎来指数级增长,模型参数突破临界点,OpenAI推出GPT-3,2022年,ChatGPT发布,让大模型能够以非常自然,有用的方式与人类对话AI技术走向大众.大模型不可避免地有幻觉和复读机问题.

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐