一个比 ClickHouse 还快的开源数据库

article/2025/10/3 15:54:38

开源分析数据库 ClickHouse 以快著称,真的如此吗?我们通过对比测试来验证一下。

ClickHouse vs Oracle

先用 ClickHouse(简称 CH)、Oracle 数据库(简称 ORA)一起在相同的软硬件环境下做对比测试。测试基准使用国际广泛认可的 TPC-H,针对 8 张表,完成 22 条 SQL 语句定义的计算需求(Q1 到 Q22)。测试采用单机 12 线程,数据总规模 100G。TPC-H 对应的 SQL 都比较长,这里就不详细列出了。

Q1 是简单的单表遍历计算分组汇总,对比测试结果如下:

0c712b547677a9a4e55fddd9ce385e9a.png

CH 计算 Q1 的表现要好于 ORA,说明 CH 的列式存储做得不错,单表遍历速度很快。而 ORA 主要吃亏在使用了行式存储,明显要慢得多了。

但是,如果我们加大计算复杂度,CH 的表现怎么样呢?继续看 TPC-H 的 Q2、Q3、Q7,测试结果如下:

bc2ad7a22a5e1f5fc6865c433d0e9b26.png

计算变得复杂之后,CH 性能出现了明显的下降。Q2 涉及数据量较少,列存作用不大,CH 性能和 ORA 几乎一样。Q3 数据量较大,CH 占了列存的便宜后超过了 ORA。Q7 数据也较大,但是计算复杂,CH 性能还不如 ORA。

做复杂计算快不快,主要看性能优化引擎做的好不好。CH 的列存占据了巨大的存储优势,但竟然被 ORA 用行式存储赶上,这说明 CH 的算法优化能力远不如 ORA。

TPC-H 的 Q8 是更复杂一些的计算,子查询中有多表连接,CH 跑了 2000 多秒还没有出结果,应该是卡死了,ORA 跑了 192 秒。Q9 在 Q8 的子查询中增加了 like,CH 直接报内存不足的错误了,ORA 跑了 234 秒。其它还有些复杂运算是 CH 跑不出来的,就没法做个总体比较了。

CH 和 ORA 都基于 SQL 语言,但是 ORA 能优化出来的语句,CH 却跑不出来,更证明 CH 的优化引擎能力比较差。

坊间传说,CH 只擅长做单表遍历运算,有关联运算时甚至跑不过 MySQL,看来并非虚妄胡说。想用 CH 的同学要掂量一下了,这种场景到底能有多大的适应面?

esProc SPL 登场

开源 esProc SPL 也是以高性能作为宣传点,那么我们再来比较一下。

仍然是跑 TPC-H 来看 :

f293cb4c332150c067044a5ee27a0089.png

Q2、Q3、Q7 这些较复杂的运算,SPL 比 CH 和 ORA 跑的都快。CH 跑不出结果的 Q8、Q9,SPL 分别跑了 37 秒和 68 秒,也比 ORA 快。原因在于 SPL 可以采用更优的算法,其计算复杂度低于被 ORA 优化过的 SQL,更远低于 CH 执行的 SQL,再加上列存,最终是用 Java 开发的 SPL 跑赢了 C++ 实现的 CH 和 ORA。

大概可以得到结论,esProc SPL 无论做简单计算,还是复杂计算性能都非常好。

不过,Q1 这种简单运算,CH 比 SPL 还是略胜了一筹。似乎可以进一步证明前面的结论,即 CH 特别擅长简单遍历运算。

且慢,SPL 还有秘密武器。

SPL 的企业版中提供了列式游标机制,我们再来对比测试一下:在 8 亿条数据量下,做最简单的分组汇总计算,对比 SPL(使用列式游标)和 CH 的性能。(采用的机器配置比前面做 TPC-H 测试时略低,因此测出的结果不同,不过这里主要看相对值。)

简单分组汇总对应 CH 的 SQL 语句是:

SQL1:

SELECT mod(id, 100) AS Aid, max(amount) AS Amax
FROM test.t
GROUP BY mod(id, 100)

这个测试的结果是下图这样:

2c9fbc9170cc316124cf2cedc5795d01.png

SPL 使用列式游标机制之后,简单遍历分组计算的性能也和 CH 一样了。如果在 TPC-H 的 Q1 测试中也使用列式游标,SPL 也会达到和 CH 同样的性能。

测试过程中发现,8 亿条数据存成文本格式占用磁盘 15G,在 CH 中占用 5.4G,SPL 占用 8G。说明 CH 和 SPL 都采用了压缩存储,CH 的压缩比更高些,也进一步证明 CH 的存储引擎做得确实不错。不过,SPL 也可以达到和 CH 同样的性能,这说明 SPL 存储引擎和算法优化做得都比较好,高性能计算能力更加均衡。

当前版本的 SPL 是用 Java 写的,Java 读数后生成用于计算的对象的速度很慢,而用 C++ 开发的 CH 则没有这个问题。对于复杂的运算,读数时间占比不高,Java 生成对象慢造成的拖累还不明显;而对于简单的遍历运算,读数时间占比很高,所以前面测试中 SPL 就会比 CH 更慢。列式游标优化了读数方案,不再生成一个个小对象,使对象生成次数大幅降低,这时候就能把差距拉回来了。单纯从存储本身看,SPL 和 CH 相比并没有明显的优劣之分。

接下来再看常规 TopN 的对比测试,CH 的 SQL 是:

SQL2:

 
SELECT * FROM test.t ORDER BY amount DESC LIMIT 100

对比测试结果是这样的:

b71eafa1724bcc9faed423c279fe0edb.png

单看 CH 的 SQL2,常规 TopN 的计算方法是全排序后取出前 N 条数据。数据量很大时,如果真地做全排序,性能会非常差。SQL2 的测试结果说明,CH 应该和 SPL 一样做了优化,没有全排序,所以两者性能都很快,SPL 稍快一些。

也就是说,无论简单运算还是复杂运算,esProc SPL 都能更胜一筹。

进一步的差距

差距还不止于此。

正如前面所说,CH 和 ORA 使用 SQL 语言,都是基于关系模型的,所以都面临 SQL 优化的问题。TPC-H 测试证明,ORA 能优化的一些场景 CH 却优化不了,甚至跑不出结果。那么,如果面对一些 ORA 也不会优化的计算,CH 就更不会优化了。比如说我们将 SQL1 的简单分组汇总,改为两种分组汇总结果再连接,CH 的 SQL 写出来大致是这样:

SQL3:

 
SELECT *
FROM ( SELECT mod(id, 100) AS Aid, max(amount) AS Amax FROM test.t GROUP BY mod(id, 100)) A JOIN ( SELECT floor(id / 200000) AS Bid, min(amount) AS Bmin FROM test.t GROUP BY floor(id / 200000)) B ON A.Aid = B.Bid

这种情况下,对比测试的结果是 CH 的计算时间翻倍,SPL 则不变:

01998e4a26a432c796bd05f4df1b2811.png

这是因为 SPL 不仅使用了列式游标,还使用了遍历复用机制,能在一次遍历过程中计算出多种分组结果,可以减少很多硬盘访问量。CH 使用的 SQL 无法写出这样的运算,只能靠 CH 自身的优化能力了。而 CH 算法优化能力又很差,其优化引擎在这个测试中没有起作用,只能遍历两次,所以性能下降了一倍。

SPL 实现遍历复用的代码很简单,大致是这样:


AB
1=file("topn.ctx").open().cursor@mv(id,amount)
2cursor A1=A2.groups(id%100:Aid;max(amount):Amax)
3cursor=A3.groups(id\200000:Bid;min(amount):Bmin)
4=A2.join@i(Aid,A3:Bid,Bid,Bmin)

再将 SQL2 常规 TopN 计算,调整为分组后求组内 TopN。对应 SQL 是:

SQL4:

 
SELECTgid,groupArray(100)(amount) AS amount
FROM
(    SELECTmod(id, 10) AS gid,amount    FROM test.topn    ORDER BYgid ASC,amount DESC
) AS a
GROUP BY gid

这个分组 TopN 测试的对比结果是下面这样的:

a987003242a625c034da0ed8635fb79e.png

CH 做分组 TopN 计算比常规 TopN 慢了 42 倍,说明 CH 在这种情况下很可能做了排序动作。也就是说,情况复杂化之后,CH 的优化引擎又不起作用了。与 SQL 不同,SPL 把 TopN 看成是一种聚合运算,和 sum、count 这类运算的计算逻辑是一样的,都只需要对原数据遍历一次。这样,分组求组内 TopN 就和分组求和、计数一样了,可以避免排序计算。因此,SPL 计算分组 TopN 比 CH 快了 22 倍。

而且,SPL 计算分组 TopN 的代码也不复杂:


A
1=file("topn.ctx").open().cursor@mv(id,amount)
2=A1.groups(id%10:gid;top(10;-amount)).news(#2;gid,~.amount)

不只是跑得快

再来看看电商系统中常见的漏斗运算。SPL 的代码依然很简洁:


AB
1=["etype1","etype2","etype3"]=file("event.ctx").open()
2=B1.cursor(id,etime,etype;etime>=date("2021-01-10") && etime<date("2021-01-25") && A1.contain(etype) && …)
3=A2.group(id).(~.sort(etime))=A3.new(~.select@1(etype==A1(1)):first,~:all).select(first)
4=B3.(A1.(t=if(#==1,t1=first.etime,if(t,all.select@1(etype==A1.~ && etime>t && etime<t1+7).etime, null))))
5=A4.groups(;count(~(1)):STEP1,count(~(2)):STEP2,count(~(3)):STEP3)

CH 的 SQL 无法实现这样的计算,我们以 ORA 为例看看三步漏斗的 SQL 写法:

with e1 as (  select gid,1 as step1,min(etime) as t1  from T  where etime>= to_date('2021-01-10', 'yyyy-MM-dd') and etime<to_date('2021-01-25', 'yyyy-MM-dd')    and eventtype='eventtype1' and …  group by 1
),
with e2 as (  select gid,1 as step2,min(e1.t1) as t1,min(e2.etime) as t2  from T as e2  inner join e1 on e2.gid = e1.gid  where e2.etime>= to_date('2021-01-10', 'yyyy-MM-dd') and e2.etime<to_date('2021-01-25', 'yyyy-MM-dd') and e2.etime > t1    and e2.etime < t1 + 7and eventtype='eventtype2' and …  group by 1
),
with e3 as (  select gid,1 as step3,min(e2.t1) as t1,min(e3.etime) as t3  from T as e3  inner join e2 on e3.gid = e2.gid  where e3.etime>= to_date('2021-01-10', 'yyyy-MM-dd') and e3.etime<to_date('2021-01-25', 'yyyy-MM-dd') and e3.etime > t2    and e3.etime < t1 + 7and eventtype='eventtype3' and …  group by 1
)
selectsum(step1) as step1,  sum(step2) as step2,  sum(step3) as step3
frome1  left join e2 on e1.gid = e2.gid  left join e3 on e2.gid = e3.gid

ORA 的 SQL 写出来要三十多行,理解起来有相当的难度。而且这段代码和漏斗的步骤数量相关,每增加一步数就要再增加一段子查询。相比之下,SPL 就简单得多,处理任意步骤数都是这段代码。

这种复杂的 SQL,写出来都很费劲,性能优化更无从谈起。

而 CH 的 SQL 还远不如 ORA,基本上写不出这么复杂的逻辑,只能在外部写 C++ 代码实现。也就是说,这种情况下只能利用 CH 的存储引擎。虽然用 C++ 在外部计算有可能获得很好的性能,但开发成本非常高。类似的例子还有很多,CH 都无法直接实现。


总结一下:CH 计算某些简单场景(比如单表遍历)确实很快,和 SPL 的性能差不多。但是,高性能计算不能只看简单情况快不快,还要权衡各种场景。对于复杂运算而言,SPL 不仅性能远超 CH,代码编写也简单很多。SPL 能覆盖高性能数据计算的全场景,可以说是完胜 CH。

b006ce368256cc4c7aff79e9e6375bb5.png

重磅!开源SPL交流群成立了

简单好用的SPL开源啦!

为了给感兴趣的技术人员提供一个相互交流的平台,

特地开通了交流群(群完全免费,不广告不卖课)

需要进群的朋友,可长按扫描下方二维码

a847513005419f957160dcf00c397d0a.png

本文感兴趣的朋友,请到阅读原文去收藏 ^_^


http://chatgpt.dhexx.cn/article/Bm0TNtb1.shtml

相关文章

Java开源数据库引擎,数据库计算封闭性的一站式解决方案

目录 前言引入一、数据库封闭性带来的问题&#xff1f;问题1: ETL变成ELT甚至LETETL&#xff1a;ELT&#xff1a; 问题2: 中间表带来的资源消耗和耦合问题3: 多样性数据源问题4: 存储过程带来的安全和耦合问题问题5: 大数据性能导致的尴尬 二、开放的SPL解决方式多样源直接计算…

比较适合物联网的开源数据库

物联网产生大量的数据&#xff0c;包括流数据、时间序列数据、RFID数据、传感数据等。要有效地管理这些数据&#xff0c;就需要使用数据库。物联网数据的本质需要一种不同类型的数据库。以下是一些数据库&#xff0c;当与物联网一起使用时&#xff0c;会给出非常好的结果。 物联…

阿里巴巴开源的免费数据库工具Chat2DB

Chat2DB 是一款由阿里巴巴开源的免费数据库工具&#xff0c;它为开发人员提供了一个强大且易于使用的平台&#xff0c;用于存储和查询数据。与传统的数据库工具相比&#xff0c;Chat2DB 具有以下特点和优势&#xff1a; 多数据库支持&#xff1a;Chat2DB 可以与多种类型的数据库…

21款最优秀的开源数据库

摘要&#xff1a;几乎所有软件项目的开发都需要数据库的支持&#xff0c;目前&#xff0c;随着开源技术的迅速发展&#xff0c;越来越多的数据供应商选择开源数据库&#xff0c;为开源事业添砖加瓦。 作为一名软件开发人员或DBA&#xff0c;其中一份必不可少的工作就是与数据库…

一文带你了解开源数据库中的佼佼者 TOP 10

当今&#xff0c;大多数应用程序都需要在某个地方存储数据。对于 Web 应用程序&#xff0c;数据库是关键的“齿轮”。 很多企业和开发者在选择数据库时&#xff0c;会主要考虑的几个因素——一是它的成本&#xff0c;二是托管服务提供商的灵活性和支持力度。 出于多种原因&…

15个nosql数据库

1、MongoDB 介绍 MongoDB是一个基于分布式文件存储的数据库。由C语言编写。主要解决的是海量数据的访问效率问题&#xff0c;为WEB应用提供可扩展的高性能数据存储解决方案。当数据量达到50GB以上的时候&#xff0c;MongoDB的数据库访问速度是MySQL的10倍以上。MongoDB的并发读…

盘点2013:21款最优秀的开源数据库

作为一名软件开发人员或DBA&#xff0c;其中一份必不可少的工作就是与数据库打交道&#xff0c;比如MS SQL服务器、MySQL、Oracle、PostgreSQL、MongoDB等等。众所周知&#xff0c;其中MySQL是目前使用最广泛最好的免费开源数据库&#xff0c;此外&#xff0c;还有一些你不知道…

数据库设计学习总结

近期学习数据库也整理了一些笔记放上来供大家参考分享&#xff0c;相对来说比较基础。学习数据库个人觉得应该先把SQL语句熟悉了&#xff0c;然后再回头过来把数据库的整个设计过程强化下。别人说数据库设计&#xff08;难度比较大&#xff09;需要经验&#xff0c;可能吧&…

为什么要学习数据库以及数据库的选择

一、为什么要学习数据库 1.数据库概念 数据库&#xff08;Database&#xff09;&#xff0c;就是暗转数据结构来组织、存储和管理数据&#xff0c;建立在计算机存储设备上的仓库。我们可以吧数据库看成电子化的文件库&#xff0c;也就是存储电子文件的处所&#xff0c;用户可以…

数据库学习资料和视频

数据库 博主在公众号后台设置了关键字回复&#xff0c; 回复下面的【】里面的内容&#xff0c; 可免费获得数据库视频和资料。 如回复&#xff1a;数据库 【数据库】 【1】oracle介绍和体系结构 【2】启动oracle服务和连接oracle数据库 【3】表的介绍和sqlplus相关操作 …

深度学习图像数据库总结(收藏用)

深度学习数据库总结 感谢感谢~收藏用&#xff01; 原文出自&#xff1a;https://blog.csdn.net/chaipp0607/article/details/71403797 数据的准备工作是训练模型前的必要工作&#xff0c;显然这也是非常耗时的&#xff0c;所以在入门阶段我们完全可以用现有的开源图片库快速完…

数据库学习整理之常见运算符

运算符概述 1) 算术运算符 执行算术运算&#xff0c;例如&#xff1a;加、减、乘、除等。 2) 比较运算符 包括大于、小于、等于或不等于、等等。主要用于数值的比较、字符串的匹配等方面。 3) 逻辑运算符 包括与、或、非和异或、等逻辑运算符。其返回值为布尔型&#xff…

SQL Server 数据库学习

一、认识数据库 1、数据库的基本概念 2、数据库常用对象 3、数据库的组成 数据库主要由文件和文件组组成。数据库中所有的数据和对象都被存储在文件中。 二、创建数据库 1、创建数据库 对象资源管理器—数据库——右击——新建数据库 三、操作数据表与视图 1、创建数据表 空…

Access数据库学习

Access数据库学习 一. 新建数据库 二. 使用命令实现增删改查 直接增删改查命令增删改查查询 追加 更新 删除 新建Score表实现联合查询 喜欢的小伙伴可以尝试一下哦 这是小编公众号&#xff0c;请动动您可爱的小手手&#xff0c;关注一下&#x1f493;&#x1f6…

推荐几个亲测好用高质量学习SQL的网站(建议收藏)

打开我的收藏夹&#xff0c;找出我曾经苦苦寻觅但却尘封已久的小网站—— 想什么呢&#xff0c;是正经学习SQL的网站&#xff0c;看完赶紧收藏学习起来&#xff01; ①LintCode LintCode是我常用来刷算法题的网站&#xff0c;最近他们开发了一个SQL教程模块特好用&#xff0c…

推荐几个适合新手入门学习的SQL网站,在线就能练习

这里整理推荐几个我自己学习时用过的在线学习网站&#xff0c;对新手非常友好,帮助初学者快速入门SQL&#xff0c;在交互式的环境里学习&#xff0c;既不用安装也不用导入数据&#xff0c;在线就能思考和练习。 1.自学SQL网 适合小白学习,这里由浅及深的介绍了SQL的知识,每一个…

在线练习sql的各类网站

文章目录 1.LeetCode2.牛客网2.LintCode3.SQL Bolt4.SQL exercises5.Tutorialspoint6.SQL Fiddle7.MODE8.GeeksForGeeks 想练习SQL语句&#xff0c;又不想配置麻烦的环境&#xff0c;又或者想学习SQL&#xff0c;下面几个网站可能满足你的需求 1.LeetCode 网站&#xff1a;数据…

第6章 数据库编程---数据库原理及应用

第6章 数据库编程 1、理解ODBC连接数据库的方法 2、掌握数据库连接技术&#xff08;JDBC&#xff09; 3、掌握JavaWeb数据库编程 4、掌握数据库存储过程原理与编程 5、掌握数据库触发器原理与编程 6、掌握数据库游标的原理与编程 7、理解嵌入式SQL编程的过程 6.1 数据库…

数据库原理与应用--数据库系统概述

数据库系统的核心任务是数据管理 。数据库技术是一门研究如何存储、使用和管理数据的技术。 数据库的四个基本概念&#xff1a; 1、数据(Data) 数据即信息&#xff0c;用于描述事物与变化的符号记录&#xff0c;有着它的语法和语义。 2、数据库(DataBase , DB) 位于计算机…

MYSQL数据库原理与应用-个人总结(上)

序言 此复习为个人整理的有关MySql的复习&#xff0c;大量知识点来自老师上课复习、个人总结、以及部分网上资料&#xff0c;以便能够提供给自己复习时的内容。此资料含有大量的执行语句&#xff0c;并且每一条都是自己亲自试验&#xff0c;只得没问题之后才敢放上来&#xff…