OpenAI 突然进行了重大更新。

经过一年的热炒,被誉为推理神器的Q*/草莓大语言模型,今夜揭开了神秘面纱。

OpenAI 宣布推出 OpenAI o1-preview 模型,其名已由外媒提前揭露,"o1"象征OpenAI新一代旗舰模型Orion(猎户座)的首发。

访问链接:https://openai.com/o1/

OpenAI 在新发布的文档中宣布,该新模型在推理能力上达到人工智能新高度,故计数器归零至1,预示着GPT-5可能不再出现,o1将成为OpenAI未来最强力作。自今日起,ChatGPTPlus与Team用户可立即体验模型。用户可选择o1模型的预览版(o1-preview)或小尺寸版(o1-mini)。**o1-preview每周限30条消息,o1-mini限50条。**在OpenAI的模型介绍页,o1的训练数据截止至去年十月,而Q*项目早期曝光则约在去年十一月。

OpenAI 终于揭晓了蓄谋已久的重磅成果!Sam Altman 在凌晨一点于 X 平台上宣布:「漫长的等待即将结束!」

01. O1模型:攻克博士级科学难题,超越人类极限

OpenAI已展示众多o1模型的表现实例。

新模型推理能力备受瞩目。Sam Altman 在 X 平台上展示了 o1 与 GPT-4o 在数学、编程及解决博士级科学问题方面的对比。

左起首柱示GPT-4o,中橙柱为o1预览。数据显示,o1预览在美数赛及Codeforces编程挑战中,解题能力较GPT-4o提升5-6倍,实o1更高达8-9倍。图中亦显示,人类专家解博士级科学题成功率约69.7%,o1预览及实o1均已超越人类专家水平。

OpenAI 博客揭示,o1 模型在美数邀请赛成绩堪比美国前500强,物理、生物、化学问题解决准确度更胜人类博士。两年大模型技术发展,常被喻为“博而不精”的大学生。OpenAI 新模型恐将颠覆这一传统认知。

官方博客中,OpenAI概述了这一进步的原理。如同人类解答难题前需深思熟虑,o1在解决问题时,运用了一系列的思维步骤。通过强化学习,o1掌握了优化思维流程和策略。它能识别并修正错误,将复杂步骤简化,并在当前方法失效时尝试新的方法。这一过程显著提升了模型的推理能力。

在OpenAI的案例中,GPT-4o和o1模型应对同一阅读理解题。o1模型新增“展开思维链”选项。关闭思维链时,两模型答案各异。启用后,展现详尽的自问自答过程,解释选择差异。选A?似乎不妥。选B?似无关联。模型自我提问、作答,终决答案优劣。

在另一案例,面对化学难题,o1 模型甚至自行对比多种策略。传统计算路径如下。然亦可行,然似非必须。经多次自我修正,终得正解。此前,诸多报道已揭示o1模型的高推理力源自斯坦福2022年开发的「自学推理」(STaR)训练法。继之,研发「Quiet-STaR」,意译“安静的自学推理”,其核心理念是在每个输入token后加入“思考”环节,令AI进行内部推理。系统随后评估推理对预测后续文本的贡献,并据此调整模型参数。此亦可能是OpenAI早期模型Q*(Q Star)命名之由。

在o1模型问世前,用户多通过对话引导模型逐步推理,实现所谓“慢思考”,以获取更精准的回答。然而,o1模型此次将思维链条提升至前所未有的高度。

然而,即便在先前用户提示的引导下,模型的回答仍受限于其能力。然而,经不同训练方式塑造的o1模型,或许能凭借自身推理,突破训练资料的限制,生成更高级、更精确的回应。

在复杂推理领域的突破,有望对编程与科研领域带来显著促进作用。

OpenAI指出,未来医疗科研者将借助o1标记细胞测序数据,物理学家将依赖o1生成量子光学关键数学,各行业开发者亦能利用o1搭建并运行复杂工作流程。

OpenAI展示了一例,仅凭提示词便实现了游戏编程。

,时长00:57

推理能力提升若能缓解模型幻觉,或许间接推动AI应用构建。对AI安全的未来亦具正面效应——以往借助提示词误导模型的方法,或可被模型更高级的思考能力直接化解。

今天起,OpenAI o1-preview版将开放于ChatGPT使用,并面向信任API用户推出。

02. 未涨价格,OpenAI 以 o1-mini 技术破解推理成本难题

在OpenAI最新发布前,多家媒体预测,新模型因推理链条加长,对算力需求剧增,OpenAI或将上调模型使用费用,猜测最高达每月2000美元。

此次OpenAI新模型发布令人意外,使用费用未增反降,但受限于推理成本,使用次数大幅减少。o1-preview每周仅限发送30条消息。

OpenAI在限制推理次数的同时,推出o1模型伴随o1-mini版本,以控制推理成本。

OpenAI虽未明确透露o1-mini的参数规模,但从技术文件可见,o1mini与o1在上下文长度上无差异,且最大输出token数更是超越。

o1-mini 在生成和调试复杂代码方面表现卓越,对开发者大有裨益。相较于o1-preview,o1-mini体积更小且成本降低80%,成为适合需推理但无需广泛知识的应用的理想选择。

OpenAI 将为所有 ChatGPT 免费用户免费开放 o1-mini 访问权限。

然而,作为新型模型,o1 系列尚不具备浏览网页、获取信息及上传文件图像的能力。OpenAI 还指出,GPT-4o 在短期内部分任务表现更优。

03. 最显著的Scaling Law突破?

实际上,这次发布的新模型只是众多重要事件之一。

OpenAI 发现:增强强化学习与思考时间投入,o1 性能持续增强。此方法扩展限制与 LLM 预训练限制显著差异。

实际上,英伟达具身团队负责人JimFan在X平台上指出,此次事件具有划时代意义。模型不仅遵循训练阶段的扩展定律,推理阶段亦然,这种双曲线式的同步增长有望打破现有大模型性能提升的瓶颈。

Jim Fan指出,2022年,学者们提出了首个scaling law,即模型性能随参数、数据和计算量增长而提升。

OpenAI的新模型通过扩大参数与数据,显著提升了性能。它还通过延长推理时间,即模型内部思考过程,增强了能力。OpenAI的全新模型揭示了迈向更大模型的创新路径。

o1模型的强大性能令人瞩目。然而,更值得注意的是,推理层面scaling law的发现,可能预示着超凡AI不再遥不可及。

一、大模型全套的学习路线

学习大型人工智能模型,如GPT-3、BERT或任何其他先进的神经网络模型,需要系统的方法和持续的努力。既然要系统的学习大模型,那么学习路线是必不可少的,下面的这份路线能帮助你快速梳理知识,形成自己的体系。

L1级别:AI大模型时代的华丽登场

L2级别:AI大模型API应用开发工程

L3级别:大模型应用架构进阶实践

L4级别:大模型微调与私有化部署

一般掌握到第四个级别,市场上大多数岗位都是可以胜任,但要还不是天花板,天花板级别要求更加严格,对于算法和实战是非常苛刻的。建议普通人掌握到L4级别即可。

以上的AI大模型学习路线,不知道为什么发出来就有点糊,高清版可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐