一、组长那句话

2025年8月的一个周一早会,组长放了一张幻灯片。

上面是Whisper-large-v3的benchmark数据:普通话识别准确率,在常见测试集上达到了96.3%。这在我们行业,是商用级别的水平。

更关键的是——开源、免费。

组长把幻灯片翻到下一页,是一张对比表:

指标 我们自研ASR Whisper-large-v3
普通话准确率 92.1% 96.3%
方言支持 3种 12种
部署成本 GPU集群 单卡可跑
迭代周期 3个月 开箱即用
研发投入 5人团队·2年 0

组长说了一句话,语气很平静:“我们自研的ASR可以退休了。”

那天下班,我在地铁上想了很久。我花了三年训练声学模型、做数据标注、调识别率。在这个方向,我算是做得扎实的那种——参加过两次行业ASR比赛,拿过一次第二。

然后Whisper出来了。开源、免费、准确率干到了行业商用级别。

我这三年的投入,是不是全部在一个"正在被开源平替"的方向上了?


二、更扎心的事在后面

Whisper出来之后,我们接了个客户需求:给一个线上会议系统做实时字幕。

以前这种需求,能撑起一个专门的语音团队——声学模型适配、语言模型优化、实时流式识别的延迟控制、多说话人分离——每个环节都需要专人做。

这次产品用Whisper接了个API,两天搭完了。实时字幕效果,比我们以前的自研还好。

我去看了一下它的输出。不仅识别准确,还能自动加标点、分段,甚至能区分"嗯……那个我觉得"这种口语化的停顿和正文。

我们自研的ASR,光加标点这个功能就做了三个月,效果还不好。

那种感觉,不是技术落后,是整个方向的价值在快速塌陷。

更让我难受的是,我们团队一个实习生,用Whisper加了一层简单的后处理,就把我们做了半年的"会议纪要自动生成"功能做出来了。他用了三天。

三天。


三、我想了很久

那段时间我每天在想一个问题:如果ASR这个方向没了,我这三年到底积累了什么?

不是"会训练声学模型"——Whisper不用训练,开箱即用。
不是"会做数据标注"——Whisper用了68万小时的多语言数据训练的,你标注不了那么多。
不是"会调识别率"——Whisper的准确率已经超过你能调的上限了。

我翻来覆去想了两周,想明白了一件事:

Whisper能做的是"说了什么"。但它不知道"这段话在什么业务场景下是什么意思"。

会议里有人说"这个方案我们再议"——Whisper识别出来了,但它不知道这句话意味着"这个方案被搁置了"还是"真的要再讨论一次"。

客服通话里用户说"还行吧"——Whisper识别出来了,但它不知道这个"还行吧"是满意还是不满意。

医疗问诊里医生说"建议做个CT"——Whisper识别出来了,但它不知道这个建议是常规检查还是怀疑有问题。

语音识别只是第一步。识别完了然后呢?理解、提取、判断——这些"说了什么之后"的事,Whisper做不了,需要大模型来做,需要懂业务的人来设计。


四、我做了第一个实验

想通之后,我做了一个实验。

拿了一段30分钟的产品会议录音,先用Whisper转成文字,然后接了一个大模型做后处理。

我给大模型的指令是这样的:

以下是一段产品会议的录音转写文本。请完成以下任务:

  1. 提取会议中讨论的所有议题
  2. 每个议题的讨论结论(通过/搁置/待定)
  3. 每个议题的负责人和截止时间
  4. 标注会议中提到的风险项
    输出格式为结构化JSON。

大模型输出了一份完整的会议纪要,包含6个议题、4个结论、5个行动项、2个风险标注。

我拿这份纪要跟参会的PM对比了一下,准确率大概85%。错误主要出在"讨论结论"的判断上——大模型不太能区分"大家倾向于不做"和"决定不做"这种微妙的差别。

但85%已经很有用了。以前做会议纪要,要人工听录音、手动记录,30分钟的会议至少要花一个小时整理。现在五分钟出初稿,人工校对十五分钟搞定。


五、我后来做了什么

第一件事:转向"语音+大模型"的后处理层。

在Whisper输出的文本上,接大模型做意图理解和关键信息抽取。给客户的会议系统做了一套完整的功能链:

  • 实时字幕(Whisper)→ 会议纪要自动生成(大模型)→ 行动项追踪(大模型+规则引擎)→ 待办推送(对接OA系统)

客户说这个功能比实时字幕本身有用十倍。“字幕我们看着就完了,但会议纪要和行动项追踪,是真的能帮我们省时间。”

第二件事:研究垂直领域语音数据集的构建。

通用ASR很强了,但在三个方向还有大量空白:

方言。 Whisper支持12种方言,但中国有几百种方言。我手上有三年积累的语音数据处理经验——怎么做数据采集、怎么标注、怎么做数据增强。我在跟一个方言保护NGO合作,构建方言语音数据集。

专业术语。 医疗、法律、金融领域的专业术语,Whisper的识别率明显下降。我在做的是:把专业领域的术语表整理出来,用Whisper做基础识别,然后用大模型做术语纠错。这个方向在医疗和法律领域需求很大。

噪声场景。 工厂车间、户外施工、道路交通——这些场景的背景噪声极大,Whisper的识别率会断崖式下降。我有三年处理这种恶劣音频的经验,知道怎么做噪声抑制和语音增强。

这些方向,都是通用ASR做不好的、需要深度行业经验的地方。


六、写在最后

我以前觉得,ASR工程师的核心能力是"把识别率从92%调到93%"。

现在我觉得,核心能力是"知道识别出来的文字在业务场景里意味着什么"。

Whisper把"说了什么"这件事做到了极致。但"说了什么之后呢"——理解意图、提取关键信息、判断情绪、生成纪要——这些才是语音技术真正的价值所在。

三年ASR,真正的价值不在于训练模型,在于你知道"说话"这件事在每个业务场景下意味着什么。

如果你也在做语音识别,也在慌,我的建议是:别去跟Whisper比识别率,去学怎么把Whisper的输出和大模型的理解能力结合起来。纯ASR的时代结束了,但"语音+大模型"的应用层,才刚刚开始。

组长说"自研ASR可以退休了",他说得对。但ASR工程师不需要退休——退休的是模型,不是人。人的经验,换个战场,还能打很久。

想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2026 年 AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享

👇👇扫码免费领取全部内容👇👇

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告:覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

  • 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
  • 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
  • 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
  • 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT:听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

在这里插入图片描述

  • 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
  • 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
  • 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
  • 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析

2. 102 道 AI 大模型真题:直击大模型核心考点

针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:


三、路线必明: AI 大模型学习路线图,1 张图理清核心内容

刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

在这里插入图片描述

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img
四、资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇

2026 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐