2025年12月,拉斯维加斯的亚马逊云科技(AWS)年度技术盛会 re:Invent 成为全球AI开发者的聚焦点。会上,AWS CEO Matt Garman 连续发布 12 项围绕 AI Agent 的基础设施、开发与管理新功能,宣称“Agent 正在释放 AI 的真正价值”。然而,现场多位业内人士却对这股热潮泼出“凉水”,指出当前的基建、成本与生态仍存巨大瓶颈。

Agent 时代的到来与期待

在过去一年里,AI Agent 已从概念走向落地。与会的创业者、投资人纷纷表示,Agent 能以数万倍的效率完成软件开发与业务流程,已成为新一轮竞争的核心。Snowflake、MongoDB、Databricks 等数据库厂商也抢占展位,展示如何为 Agent 提供高效的数据支撑。

成本压力成最大拦路石

尽管前景诱人,Agent 的实际运行成本却让不少开发者望而却步。re:Invent 上,Pokee.AI 创始人朱哲清透露,AI Agent 项目中约 80%–90% 的费用来源于模型推理,若不能将推理成本削减至 20% 以下,项目难以实现盈利。多位美国 VC 甚至将“推理成本”列为对 Agent 初创公司进行投资评估的关键指标。

基础设施的短板

从硬件到软件,Agent 生态的每一层都面临挑战。硅谷资深数据库专家黄东旭指出,当前软件生态仍是为人类开发的,缺乏面向 Agent 的交互接口和统一语言,导致数据孤岛、Token 消耗过高以及注意力分散等问题。他呼吁业界打造类似 SQL 的 Agent 专用交互语言,并消除数据壁垒,以降低成本并提升可靠性。

算力与内存的“双重短缺”‍

过去的 GPU 短缺已逐步转变为内存短缺。与会的 AWS 工程师坦言,Agent 的高速并发需求使得训练与推理阶段对显存和系统内存的消耗激增,迫使企业在硬件采购和资源调度上投入更多预算。若不及时解决,Agent 的规模化落地将受限于硬件瓶颈。

基建投资迎来新风口

面对上述痛点,AI 基建正成为硅谷新的投资热点。2025年9月,英伟达斥资超 9 亿美元收购 AI Infra 初创公司 Enfabrica,并聘请其 CEO,显示出资本对底层技术的强烈需求。多位数据库展商透露,已在计划投资在美华人团队的 AI Infra 项目,期待通过优化模型调用和数据存储降低整体成本。

结语:从热情到理性

AI Agent 的技术潜力不容否认,但从 re:Invent 的现场反馈来看,行业仍需在成本控制、基础设施完善以及软件生态重构上取得突破。只有当模型推理成本得到显著压缩、数据交互更为顺畅、硬件资源得到保障,Agent 才能从“热潮”转向可持续的商业化落地。此次“凉水”提醒业界:在追逐创新的同时,务实的基建布局才是实现 AI 价值的根本路径。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐