书生·浦语大模型实战营第一课
XTuner微调框架:支持部分微调和全部微调以及多种微调算法,适配多种开源生态,支持自动加速优化,适配多种硬件(NVIDIA 20 系以上的显卡均有训练方案) 同时最低只需8GB现存即可微调7B模型。从多个维度、多个细分领域评测,是一个十分全面的评测体系。针对大预言模型的特点,以及已知的一些挑战,做出的一些技术优化。提供了大模型部署的全流程解决方案,包含模型轻量化、推理和服务。开箱即用:支持多中规
·
主讲人:陈恺|上海人工智能实验室 青年科学家
回放:书生·浦语大模型全链路开源体系_哔哩哔哩_bilibili
主要介绍了书生·浦语大模型的全链路开源体系
1.总览

2.全链条开源开放体系 | 数据
名称:书生万卷
包含内容:文本数据、图像-文本数据集、视频数据集总数据量达到2TB
特点:多模态融合,精细化处理,价值观对齐

3.全链条开源开放体系 | 预训练
高可拓展:支持多卡训练加速效率达92%
极致性能优化:Hybrid Zero加速
兼容主流:无缝衔接Hugging Face等技术生态
开箱即用:支持多中规格的模型,简单修改配置即可训练

4.全链条开源开放体系 | 微调
XTuner微调框架:支持部分微调和全部微调以及多种微调算法,适配多种开源生态,支持自动加速优化,适配多种硬件(NVIDIA 20 系以上的显卡均有训练方案) 同时最低只需8GB现存即可微调7B模型

4.全链条开源开放体系 | 评测
从多个维度、多个细分领域评测,是一个十分全面的评测体系。包含多种评测方法,多种工具。

5.全链条开源开放体系 | 部署
针对大预言模型的特点,以及已知的一些挑战,做出的一些技术优化。

提供了大模型部署的全流程解决方案,包含模型轻量化、推理和服务。
5.全链条开源开放体系 | 智能体
简单易扩展的工具,支持丰富的工具

更多推荐

所有评论(0)