悦数图数据库

首页>博客>新闻资讯>演讲回顾丨杭州悦数 CTO 叶小萌:图数据库发展新航向——拥抱 GQL,融合 HTAP,携手 AI

演讲回顾丨杭州悦数 CTO 叶小萌:图数据库发展新航向——拥抱 GQL,融合 HTAP,携手 AI

本文为杭州悦数 CTO 叶小萌在“标准+智能:新质生产力的原动力”悦数图数据库新产品发布会上的演讲回顾,主题为:《新标准、新期待:展望图数据库发展的关键方向》

各位嘉宾、悦数图数据库的用户以及线上的观众朋友们大家好!今天很高兴有机会和大家分享我对数据库,尤其是图数据库的感悟与想法。

GQL 的诞生推动图数据库的发展

在 2000 年前后,图数据库的概念尚未普及,当时主要通过 Java API 进行相关操作。直到 2009 年,Apache TinkerPop 规范定义的 Gremlin 查询语言首次发布;两年后的 2011年,Neo4j 推出了更加广为人知的 Cypher 图查询语言。在图数据库的后续发展中,虽然越来越多的厂商为图数据库增添了丰富的功能,但多样的查询语言也给用户带来了困扰。在选择产品时,用户不仅需要考虑产品本身的性能,还必须评估查询语言的易学性和掌握难度。此外,如果所选产品所使用的查询语言在几年后不再被广泛采用,替换成本将会非常高。这种情况直接影响了图数据库在业界的接受度。

直到 2019 年,国际标准化组织(ISO)成立了专门工作组,致力于制定图数据库查询语言的标准。经过近五年的讨论,2024 年 4 月,ISO 正式发布了国际标准图查询语言 ——Graph Query Language(GQL)。GQL 标准的发布标志着图数据库技术走向成熟的重要一步。它不仅有助于提高图数据库的可操作性,还降低了用户的迁移成本,促进了图数据库技术的广泛应用。杭州悦数作为图数据库厂商也积极参与了标准的制定,进一步增强了标准的权威性和实用性,悦数图数据库更是全球首款原生支持 GQL 的图数据库产品。相信 GQL 的发布有望像当年 SQL 标准推动关系数据库发展一样,推动图数据库的发展,提升业界对图数据库的接受程度。我们有理由相信,在 2030 年前后,依托于 GQL 标准, 图技术将全方位融入生活,形成行业的结构化、产业化。

https://www-cdn.yueshu.cn/yueshu-website/images/%E5%8F%91%E5%B8%83%E4%BC%9APPT%E6%B1%87%E6%80%BB_08.png

图数据库与 HTAP:融合发展,突破数据处理瓶颈

在数据库领域,近年来出现了 HTAP 概念,旨在将 OLTP(在线事务处理)和 OLAP(在线分析处理)功能整合于一个系统中。在传统企业架构中,OLTP 系统负责在线业务的数据修改和查询,而数据随后会同步到后端数据仓库以进行分析和挖掘。然而,这种方式无论是传统关系型数据库还是图数据库,往往都面临高存储成本和数据时效性的问题。截至 2023 年,OLTP 和 OLAP 在的市场份额基本上各占一半。然而,在图数据库领域,分析需求的占比可能更高。根据我们接触到的市场情况,分析需求可能占到 60% - 70%,而在线事务处理则占 30% - 40%。

作为图数据库厂商,我们希望能够整合图数据库的交易与分析功能,实现 HTAP 能力。首先,实现底层数据共享,以解决存储和数据时效性的问题;其次,针对分析查询,既然已经有了 GQL 标准,我们可以能够使用它进行分析查询,就像使用 SQL 进行查询一样。此外,图数据库中存在许多算法,而以往在不同系统中描述这些算法的难度较大,对数据分析人员的要求也很高。因此,我们希望在 GQL 的基础上,具备描述算法的能力,从而真正实现查询语言的统一。因此我们认为基于标准的分布式 HTAP 系统是图数据库未来的重要发展方向。

https://www-cdn.yueshu.cn/yueshu-website/images/%E5%8F%91%E5%B8%83%E4%BC%9APPT%E6%B1%87%E6%80%BB_10.png

图数据库与 AI :打破向量局限,实现优势互补

2022 年底,OpenAI 发布了 3.0 大模型,掀起了 AI 的热潮。如何有效地将私有数据与公共领域的知识模型结合,成为了一个重要的研究课题。对于企业而言,训练专有的大模型不仅需要强大的计算能力,还对技术团队和研发团队提出了较高的要求。相比之下,RAG 技术将私有数据作为大模型的补充,避免了重新校正和训练模型的复杂过程,因此对技术能力的要求相对较低。随着大模型的不断发展,基于向量数据库的 RAG 解决方案也逐渐涌现。

https://www-cdn.yueshu.cn/yueshu-website/images/%E5%8F%91%E5%B8%83%E4%BC%9APPT%E6%B1%87%E6%80%BB_12.png

然而,基于向量数据库的 RAG 存在显著问题。私有数据本身具有内在的关联关系,但向量数据库无法有效地体现这些关系。而用户给到大模型的请求是按照 Token 来计算的,Token 越多,计算量越大,价格也越高,时间也越长,RAG 因为缺少了关联的知识,会导致大量的计算资源的浪费和时间的浪费,且结果不够精准。

https://www-cdn.yueshu.cn/yueshu-website/images/%E5%8F%91%E5%B8%83%E4%BC%9APPT%E6%B1%87%E6%80%BB_13.png

相比之下,图数据库能够更好地识别和保留这些关系,从而提高信息检索的准确性和效率。图数据库在处理复杂关系和大规模数据方面具有天然优势,这对于 AI 的理解和推理能力至关重要。

https://www-cdn.yueshu.cn/yueshu-website/images/%E5%8F%91%E5%B8%83%E4%BC%9APPT%E6%B1%87%E6%80%BB_14.png

在 2023 年 8 月,我们提出用图数据库取代向量数据库,并与 LlamaIndex 社区合作推出 Graph RAG。该方案通过提供更具上下文感知的能力和数据训练的方法,缓解了传统搜索增强技术的幻觉,能够区分像“保温杯”和“保温大棚”这种关键字相似但语义不同的内容,确保所提供的回复不仅精确,而且信息丰富。今年上半年,微软开源的 Graph 相关项目也印证了图数据库与 AI 结合是市场和技术共同选择的结果。

展望未来

图数据库的未来发展方向主要包括三个方面:

拥抱 GQL:继续支持和推广 GQL 标准,促进图数据库技术的普及与应用。

探索基于标准的 HTAP 解决方案:开发高效的 HTAP 系统,满足日益增长的数据处理需求。

深化图数据库与 AI 技术的融合:结合图数据库和大模型的优势,推动智能决策支持系统的发展。

图数据库不仅在技术上不断创新,还在实际应用中展现出巨大的潜力。未来,图数据库将在社交网络、推荐系统、金融风控等多个领域发挥重要作用,为数据驱动的决策提供强有力的支持。

感谢各位的聆听,希望今天的分享能够为大家带来一些启发和思考。谢谢。