メインコンテンツまでスキップ

データ統合

VeloDB Cloud では、ユースケースに応じて外部データを操作する3つのアプローチをサポートしています。

使用する場合ドキュメント
Import管理されたパイプラインが必要な場合:データベース、オブジェクトストレージ、またはイベントストリームからの継続的またはスケジュールされた取り込みImport
Catalogデータを移動せずに外部データをその場でクエリしたい場合Add Catalog
MigrationApache Doris または VeloDB から既存のウェアハウス全体を一度に移行する場合Migration

Import

Import は、ビジュアルインターフェースを備えた管理された取り込みパイプラインを提供します。以下をサポートしています:

  • データベース:CDC による MySQL および PostgreSQL、自動テーブル作成とオフセット追跡機能付き。
  • オブジェクトストレージ:S3 からのバッチ読み込み。
  • イベントストリーム:Kafka、Confluent、Amazon MSK からの継続的取り込み。

データがスケジュールまたはリアルタイムで到着する必要があり、VeloDB にパイプライン状態を管理させたい場合は Import を使用してください。

Add Catalog

Catalog では、外部データソース(Apache Hive、Iceberg、オブジェクトストレージなど)を登録し、データを物理的に移動することなく VeloDB Cloud から直接クエリできます。システム間での連合クエリが必要な場合や、重複を避けたい場合は Catalog を使用してください。

Migration

Migration は、既存の Apache Doris または VeloDB ウェアハウスからの一回限りの完全データ移行です。一時的なオブジェクトストレージステージング領域を使用し、完了後に自動的にクリーンアップされます。

他のシステムからオンボーディングしており、運用開始前に完全なデータセットを移行する必要がある場合は Migration を使用してください。

このページでは