RisingWave 集成速查表

文摘   科技   2024-09-14 15:04   中国台湾  

为了减少用户在现有数据架构中集成 RisingWave 的麻烦,我们尽可能地支持所有主流的数据格式、工具和系统。

然而,由于资源有限短时间无法实现这个目标。本文为大家整理了 RisingWave 目前对于所有主流数据格式、工具和系统的支持状态。

RisingWave 可以将数据 Sink 到 Kafka,所以其能够间接将数据 Sink 到任何可从 Kafka 进行数据摄取的系统。本文所有表格 Sink 状态一栏:

  • “可用”表示该系统已有直接的 Sink 连接器。
  • “正在研究”表示尚无直接的 Sink 连接器,但如果该系统能够从 Kafka 进行数据摄取,仍然可以使用。

1消息代理或流服务

代理或流服务SourceSink
Apache Kafka可用可用
Amazon MSK可用
Apache Pulsar可用可用
Confluent Cloud可用
DataStax Astra Streaming可用正在研究
EMQX可用可用
Google Pub/Sub可用可用
HiveMQ可用可用
Kinesis Data Streams可用可用
RabbitMQ正在研究正在研究
Redpanda可用可用
StreamNative Cloud可用正在研究
NATS / NATS JetStream可用可用

2ETL/ELT 和数据集成

系统可用性
Airbyte正在研究
Census正在研究
dbt可用
Fivetran正在研究
Hightouch正在研究
Vector可用
migrate可用(migrate 是一个用 Go 编写的强大工具,用于管理数据库迁移,参考介绍和教程[1]

3查询引擎

系统可用性
Apache Spark正在研究
AWS Athena正在研究
Presto可用。
Trino可用。
GraphQL可用。参考使用 GraphQL、Kafka 和 RisingWave 查询实时数据[2]

4数据库

PostgreSQL

系统SourceSink
Postgres可用可用
AWS RDS (Postgres)可用可用
AWS Aurora (Postgres)进行中正在研究
Citus Data可用正在研究
Neon可用正在研究

MySQL

系统SourceSink
MySQL可用可用
AWS RDS (MySQL)可用可用
AWS Aurora (MySQL)进行中正在研究

其他数据库

系统SourceSink
Amazon DynamoDB进行中可用
Apache Druid无计划正在研究
Apache Pinot无计划Pinot 支持从 Kafka、Pulsar 和 Kinesis 摄取数据。
AWS Redshift无计划正在研究
ClickHouse无计划可用
CockroachDB正在研究可用
DataStax Astra DB & Apache Cassandra & ScyllaDB正在研究可用
Db2正在研究正在研究
Elasticsearch无计划可用
Greenplum无计划正在研究
Google BigQuery无计划可用
MongoDB可用正在研究
Oracle Database正在研究正在研究
OpenSearch无计划可用
Redis正在研究可用
Snowflake无计划可用
SQL Server可用可用
StarRocks无计划可用
TiDB可用可用

5数据湖

系统可用性
Delta Lake可用
Apache Hudi正在研究
Apache Iceberg可用

6BI 和数据分析平台

系统可用性
Apache Superset可用
Beekeeper Studio可用
Bytebase可用
Cube.js可用
DBeaver可用
Grafana可用
Jupyter Notebook可用
Looker可用
Metabase可用
Redash可用
DataGrip正在研究
PgAdmin正在研究
Hex可用。对于此集成,您可以直接使用 Hex 的 PostgreSQL 数据连接。

7其他系统

系统可用性
Alluxio正在研究
Datadog正在研究
Google Cloud Storage (GCS)作为 Source 可用
Hasura正在研究
Liquibase正在研究
Supabase可用

8总结

以上就是 RisingWave 截止 1.10 版本对所有主流的数据格式、工具和系统的支持情况概览,更加详细的支持和操作信息请参考官方文档[3]

如果某个连接器或集成对您至关重要但尚未被支持,请在本推文下留言通知我们,或者点击文档集成页面相应单元格中的点赞图标,我们将根据系统的请求数量来安排开发顺序。 如果您希望在连接器或集成可用时收到通知,您可以点击小铃铛图标并输入您的电子邮件地址。

参考资料
[1]

介绍和教程: https://github.com/risingwavelabs/migrate?tab=readme-ov-file

[2]

使用 GraphQL、Kafka 和 RisingWave 查询实时数据 : https://blog.det.life/query-real-time-data-with-graphql-and-streaming-database-78bba4d08c97

[3]

官方文档: https://docs.risingwave.com/docs/current/rw-integration-summary/

关于 RisingWave 

RisingWave 是一款基于 Apache 2.0 协议开源的分布式流数据库,致力于为用户提供极致简单、高效的流数据处理与管理能力。RisingWave 采用存算分离架构,实现了高效的复杂查询、瞬时动态扩缩容以及快速故障恢复,并助力用户极大地简化流计算架构,轻松搭建稳定且高效的流计算应用。
RisingWave 始终聆听来自社区的声音,并积极回应用户的反馈。目前,RisingWave 已汇聚了 150+ 名开源贡献者和 3000+ 名社区成员。全球范围内,已有上百个 RisingWave 集群在生产环境中部署。

往期推荐

技术内幕

如何上手 RisingWave 👉 新手入门教程

RisingWave 中文用户文档上线,阅读更高效!

深入探索 RisingWave 中的高可用性与容错机制

深入理解 RisingWave 流处理引擎(三):触发机制

深入理解 RisingWave 流处理引擎(二):计算模型

深入理解 RisingWave 流处理引擎(一):总览

用户案例
视源股份(CVTE)IT 流计算应用历程
尘锋 SCRM 如何使用 RisingWave 实时打宽
RisingWave 在超百亿管理规模对冲基金公司中的应用
金融科技公司 Kaito 使用 RisingWave 实现实时智能化
龙腾出行如何通过 RisingWave 实现实时数据分析
RisingWave 助力乾象投资打造实时监控平台

RisingWave中文开源社区
RisingWave 是一款开源分布式 SQL 流数据库,致力于大幅降低流计算使用门槛与复杂度。RisingWave 已为全球超百家企业构建新一代流处理与分析平台。
 最新文章