悦数图数据库

首页>博客>行业科普>悦数图数据库落地企业数据治理:可视化管控平台的架构与效能

悦数图数据库落地企业数据治理:可视化管控平台的架构与效能

企业数据治理

随着大数据的广泛应用,企业的数据治理也面临着越来越严峻的挑战:如何高效地对多源异构的数据进行统一的整合、如何在实时的数据面前快速的做出决策、如何更深入地挖掘出数据的价值等一系列的痛点都迫切地需要企业的解答。依托于其独具的原生分布式的架构和对图计算的深度优势,悦数的图数据库已初具构建新一代的可视化的管控平台的核心引擎,为企业的数据的治理提供了高效的、直观的解决方案。

一、图数据库:数据治理的核心能力底座

1.多源异构数据统一建模

悦数图数据库采用对地址、交易、设备等实体及其复杂的关系的抽象将其打造成点、边的结构手段,从而有效的打破了传统的数据的孤岛,实现了数据的全方位的关联.。采用对30亿多的区块链地址与2000余种标的的属性的深入的统一的建模手段,最终形成了可追溯的、以数据的网络化的交易网络。微众银行通过该技术实现全局数据血缘治理,将表、字段的依赖关系转化为图结构,使数据流动路径一目了然。

2.实时处理与深度分析能力

悦数能在毫秒级内支持多跳的关系查询,极大地降低数据的交互等所带来的性能瓶颈,对大数据的高效的支持为各行各业的数据挖掘、分析、预测等的应用提供了坚实的技术基础。通过对10层以上的资金链路的深入的分析,我们就能够将原本耗时数小时的工作压缩到仅仅5的50毫秒之内,甚至达到了对其原有的200倍的效率的巨大提升,而微众银行则通过对Spark的连接器的完美的把握就能够将每秒的百万行的数据都能够轻松的将其导入到其中去,从而就能够更好的满足了我们对于其血缘的分析的实时性的同时也能满足了我们对于其所产生的数据的批量的处理的需求。

3.可视化探索与智能决策

无论你是否对数据的编程操作都不是很拿手,只要将“悦数图探索”工具中的那些图形拖拽就能将复杂的图计算都给完成了。采用对v3.7.0的升级手段,我们不仅将大模型的威力与图的技术相融合,甚至能够自动生成一系列的可解的的关联的分析的结果,有效的提升了我们的知识图谱的构建能力和图的语言的生成能力。

二、可视化管控平台的架构设计

1.分层架构支撑全链路治理

悦数驱动的管控平台采用四层架构:

  • 数据层:通过对高可靠的分布式存储千亿级的点边的关系的支撑如HDFS、HBase等存储引擎的完美的支撑,我们才能最终的保证了系统的高可用性;

  • 计算层:借助对流处理引擎的精准集成,尤其是将Louvain、PageRank等一系列的图算法的巧妙的融合之下,已对风险的多维的模式做到了相对比较的细致的挖掘;

  • 服务层:基于对应的血缘分析、质控等一系列的API服务的支撑下,我们的系统单日均可处理200万+的地址的风险评估等需求;

  • 可视层:凭借对20层以上的复杂的交易链路的动态的图谱的绘制,同时又为用户提供了多终端的交互式的操作,大大提高了对可视层的直观性和操作性。

2.关键模块赋能精准治理

  • 血缘追踪:凭借对血缘的全链路依赖的深入解析,能对从数据源的变更到最终的报表的整个流程的变更都能在秒级的时间内给出明确的预警,避免了数据的延迟性导致的决策失误;
  • 质量监控:凭借内置的高效的规则引擎对数据的精准的字段级的校验,我们惊奇地发现了仅仅10秒就能对百万的数据都能做到精细的质检、准确的甄别、及时的报警等,极大地提高了质检的效率和准确性;
  • 安全管控:动态脱敏敏感数据,结合区块链存证技术保障审计合规。

三、实践效能:从数据治理到价值创造

1.金融风控提效:通过对金融风控的精细的图化血缘的治理微众银行将原本的表关联的分析的响应的延迟都降到了秒级为其所支撑的实时的决策提供了了坚实的依托;

2.区块链溯源:某平台实现20层跨链转账轨迹可视化,风险地址误判率低于3%,拦截千万级美元可疑交易;

3.智能运维升级:凭借对智能运维的进一步升级,我们将集群的诊断报告和对慢查询的深入的分析功能等都做了极大的改进,从而使得运维的效率大大地提升了40%,同时也能对资源的异常都能自动的定位出来。