收获时节，偶数科技发布实时湖仓Skylab 5.4版本
文摘
科技
2023-10-18 17:30
北京
![]()
2023年的金秋十月，不仅有着举国欢庆双节的热闹，同时也是偶数及其行业客户收获产品迭代成果的时节。10月13日， 偶数科技发布了最新的实时湖仓数据平台Skylab 5.4版本。其中，云原生分布式数据库OushuDB、数据分析与应用平台Kepler、数据资产管理平台Orbit、数据工厂Wasp、数据开发与调度平台Flow、系统管理软件Lava，在本次的新版本升级中都进行了迭代更新。接下来让我们一起了解下Skylab 5.4各组件的更新情况。
OushuDB 5.3支持Native ORC格式在线增量备份恢复。相较于全量备份恢复，增量备份恢复减少了备份和恢复时间，提供更快的数据恢复速度。同时，相对于传统的离线备份（需要停止数据库服务），在线备份减少了停机时间。这对于需要高可用性和7*24运行的业务至关重要。行业客户对数据平台的安全性愈发看中，在线增量备份恢复变得越来越必要，它在保障数据安全的同时，降低平台维护成本，减少业务干扰，提高系统可用性。支持历史SQL监控功能。历史SQL监控可以跟踪和分析数据库中执行的SQL查询和事务的性能。通过监控历史查询的执行计划、响应时间和资源消耗等指标，DBA可以识别潜在的性能瓶颈，从而采取适当的优化措施，提高数据库性能。新版本的默认权限功能可以为指定的用户和schema设置新建对象（表、视图、函数、序列）的默认权限。因此，指定用户或者在指定schema创建对象时，会自动添加权限信息，而无需再手动授权。尤其是进行大范围、多对象的权限管理时，默认权限这一功能有效降低用户权限管理的时间成本和操作代价。OushuDB 5.3实现分区列DISTINCT性能优化，这意味着在执行DISTINCT查询时，不再需要扫描子表全部的数据，大幅减少数据扫描的数量，提高查询性能，实现毫秒级返回复杂查询结果。Hive External Catalog新增对Description的支持。同时，在过往版本对Hive表只读的基础上，支持同时访问Hive中多个不同Database，实现多表关联计算，为用户提供更便捷的查询方式。OushuDB的客户端工作簿Worksheet在本次升级中对性能、功能和交互体验都做了进一步优化。例如，查询结果列可拖拽、导出查询结果带表头、热键/别名、资源队列的切换等。
从4.0版本到4.1版本，Kepler报表开发、指标开发、可视化、平台服务等核心模块都进行了更新。报表开发模块新增整体样式、撤销/重做、隐藏行/列、冻结滚动、参数跳转功能，提高了报表设计的灵活性和效率，让用户可以创建更吸引人的报表。数据可视化模块新增多种图表类型和地图配置属性。通过增加了数据呈现的多样性，帮助用户更清晰地分析数据。平台服务模块新增实时指标服务和数据服务详情页升级，提供了实时数据分析的能力，帮助用户更及时地做出业务决策。指标开发模块新增SQL指标占位符、字段列表编辑、关联关系、空值过滤、自定义度量等功能，简化指标开发过程，加快数据分析流程，提高数据质量。此外，Kepler增加了权限控制和血缘图节点数据下载功能，提供了更好的安全性和数据追溯功能。支持复杂限定条件操作符in/not in，提升了数据查询的灵活性，更容易筛选目标数据。
Wasp 5.4从容错、易用性角度做了更新和优化。Kafka、文件类数据源支持忽略大小写，可以确保字段匹配和比对时不受大小写的影响，从而提高数据一致性避免了大小写差异导致的匹配错误；支持跳过脏数据，排除格式错误、无效或不完整的数据防止脏数据对后续处理和分析造成干扰，保持数据质量。支持数据同步对象的重新映射，在数据源或者目标表结构有变化的情况下，允许将重新修改源与目标表的字段映射，降低运维复杂度。此外，Wasp 5.4还支持任务、文件夹的移动；优化了指标监控；支持显示源表的主键信息。总体而言，新版 Wasp 的健壮性进一步提高，其新功能和易用性将帮助用户有效降低运维成本。
![]()
首先，新版本Orbit着力提升了自动化元数据采集和血缘采集的稳定性和容错能力。用户在进行元数据和血缘分析时，将更少遇到中断和故障，更容易跟踪数据的流向和关系，有助于数据决策的准确性。其次，Orbit在前一版主数据管理模块的基础上，优化了主数据模块里数据服务接口的配置页面，以提高用户操作体验。更流畅和直观的界面，为用户提供了更便捷的操作方式。比如在配置多表关联查询时，用户能够更轻松地创建和管理多表关联，提高了数据检索和分析的效率。此外，新版Orbit进行了安全性升级，保障数据的机密性和完整性，以及防范潜在的数据风险和威胁。
Flow 5.4进一步丰富了控制面板的功能，新增定时日历、任务占比、作业历史统计图等功能，帮助用户更方便地了解Flow的使用情况。此外还新增了作业的移动和复制、任务历史等功能。
![]()
新版Lava增强了HA（High Availability）功能，确保系统在面临硬件故障、软件故障或其他不可预测事件时仍能保持运行。Lava的监控运维部分，增加了对OushuDB备份恢复、脚本迁移工具、SQL监控、自定义指标监控等功能。偶数Skylab是一个拥有海量数据存储、计算、分析、应用和 AI 能力的实时湖仓数据平台，提供完整的数据管理生态闭环，帮助用户实现批流一体、实时数据处理、自动化机器学习、自助可视化分析和数据资产管理。依托Skylab，用户可以轻松实现智慧营销、智能风控、智慧审计、智慧监管等数据应用场景。添加产品专员微信了解和体验产品：oushukeji偶数成立于2016年，是国家级专精特新“小巨人”企业。专注于云数据平台产品和解决方案，自主研发云原生分布式数据库OushuDB及实时湖仓数据平台Skylab。总部位于北京，在上海、南京、广州、武汉等地设有分支机构。偶数服务了国家电网、中国移动、建设银行等众多世界500强客户。获得国际著名投资机构红杉中国、腾讯、红点中国与金山云的四轮投资，是微软加速器和腾讯加速器成员企业。被评为福布斯中国企业科技50强，Gartner Cool Vendor，IDC Innovator。![]()
点击下方阅读原文查看产品文档
