推出 CostBench:一个用于数据仓库成本性能的开放基准

本文字数:2310;估计阅读时间:6分钟
作者:Tom Schreiber and Lionel Palacin

TL;DR
CostBench 是一个用于衡量云数据仓库成本效益 (cost-performance) 的开放基准测试:它关注的是每美元性能 (performance-per-dollar),而不仅仅是速度。
它帮助团队为实时分析工作负载选择能够提供最高成本效益的系统。
仅凭性能,难窥全貌
大多数基准测试都会告诉你查询的运行速度。这虽然有用,但并不全面。
在云数据平台中,速度和成本密不可分。
如果数据仓库 A 比数据仓库 B 更快,A 在性能图表上会显得更出色。但如果 A 的运行成本是 B 的三倍,这种比较就截然不同了。你可能会用相同的预算购买 B 更大规模的配置,获得更多的计算资源 (compute),最终使 B 的性能超越 A,且总体开销更低。
这种比较之所以困难,是因为每个平台的成本衡量方式各不相同:例如 credits、DBUs、slot-seconds、compute units 和 RPUs。

尽管单位名称各异,但其核心问题却始终如一:
系统需要多少算力 (compute) 来完成工作负载,以及这些算力的成本是多少?
CostBench 直接回答了这个问题。它还揭示了成本效益 (cost-performance) 在哪些环节可能出现瓶颈:是在数据摄入 (ingest) 阶段,数据准备就绪 (query-ready) 阶段,还是在服务读取 (serving reads) 阶段。
AI 时代,为何这一指标尤为重要
Agentic 分析 (Agentic analytics) 对数据库的每一层都带来了更大的压力。
新数据源源不断:包括事件、事务、日志、追踪、用户活动、欺诈信号和操作状态。与此同时,用户和代理 (agent) 都期望基于最新数据获得快速响应。
如果数据库运行缓慢,代理的响应速度也会受影响。如果数据库成本高昂,团队便会开始限制代理的能力范围:减少重试次数、使用更小的数据集、提供更少的上下文信息,甚至依赖陈旧数据。
在 AI 时代,快速且低成本的特性必须贯穿整个分析路径:持续的数据摄入、数据准备就绪以及数据读取。

读取侧压力 (Read-side pressure) 源于查询量。一个单一的用户问题可能触发大量的 SQL 查询,包括模式探索、验证、重试、优化、深入分析和后续操作。每一个额外的查询都会消耗算力 (compute)。在 Agentic 规模下,查询量会直接转化为巨大的成本压力。
写入侧压力源于对数据实时新鲜度的要求:新鲜数据需要不断地被摄取、压缩和组织,以便查询时能够跳过更多数据。这项工作甚至在第一次查询运行之前就开始消耗计算资源,并决定了后续查询的计算资源开销。
CostBench 衡量什么
CostBench 将这种压力转化为一个涵盖全链路(full-path)的成本性能评估体系,该体系包含两个可衡量的维度:
• 读取侧成本性能 :每投入一美元能获得多少查询性能。
• 写入侧成本性能 :每投入一美元,能将新鲜摄取的数据高效转化为可查询数据的程度。
它们共同帮助回答了在选择平台时至关重要的问题:
对于实时分析工作负载,哪个系统能以最划算的成本提供最高的性能?

CostBench 的首个版本侧重于读取侧,即对已加载数据执行分析查询。我们还开始衡量写入侧,并以 Snowflake 作为 ClickHouse 的对比点 进行了初步测试。未来将覆盖更广泛的写入侧场景。
这为 CostBench 确立了一个简单的路线图:揭示实时成本性能是否能在整个分析管道中保持优异,即从将新鲜数据转化为可查询状态,到高效地查询这些数据。
首批结果:读取侧成本性能
CostBench 的首个版本将读取侧性能转化为主要云数据仓库之间可比较的“每美元性能”结果。
我们使用源自真实匿名数据集的 43 个生产环境分析查询,对 ClickHouse Cloud、Snowflake、Databricks、BigQuery 和 Redshift 进行了比较。随后,我们应用 各厂商实际的计算计费模型,将所有系统置于同一成本性能评估体系中,从而衡量它们的性能高低和成本优劣。

随着数据规模的增长,ClickHouse Cloud 是唯一能在“快速且低成本”区域保持优势的系统。其最近的竞争对手在成本性能方面表现差 23 倍。
这正是 CostBench 的价值所在:它将各厂商特有的运行时性能和计费模型,转化为团队在选择平台时可直接使用的参考依据。
开放且可复现的设计
该基准测试公开了其测试工作负载、脚本、配置、定价假设、原始 JSON 结果和具体方法。如果某个结果出乎意料,您可以检查生成该结果的配置。
ClickHouse 是面向 AI 时代打造的高性能实时分析数据库,能够以极致性能处理海量数据分析任务。凭借高并发、低延迟和云原生架构,ClickHouse 广泛应用于可观测性、数据仓库、实时分析及 AI 数据基础设施等场景。我们致力于帮助企业在公有云平台上构建安全、弹性且高性价比的实时分析与 AI 数据平台,加速释放数据价值,推动智能化创新与数字化转型。目前,Trip.com、DiDi、Meta、Sony、Netflix、Deutsche Bank、Sierra、Cloudflare 等全球领先企业均在使用 ClickHouse 支撑其关键业务和数据分析平台。
更多推荐


所有评论(0)