データ統合
VeloDB Cloud では、ユースケースに応じて外部データを操作する3つのアプローチをサポートしています。
| 使用する場合 | ドキュメント | |
|---|---|---|
| Import | 管理されたパイプラインが必要な場合:データベース、オブジェクトストレージ、またはイベントストリームからの継続的またはスケジュールされた取り込み | Import |
| Catalog | データを移動せずに外部データをその場でクエリしたい場合 | Add Catalog |
| Migration | Apache Doris または VeloDB から既存のウェアハウス全体を一度に移行する場合 | Migration |
Import
Import は、ビジュアルインターフェースを備えた管理された取り込みパイプラインを提供します。以下をサポートしています:
- データベース:CDC による MySQL および PostgreSQL、自動テーブル作成とオフセット追跡機能付き。
- オブジェクトストレージ:S3 からのバッチ読み込み。
- イベントストリーム:Kafka、Confluent、Amazon MSK からの継続的取り込み。
データがスケジュールまたはリアルタイムで到着する必要があり、VeloDB にパイプライン状態を管理させたい場合は Import を使用してください。
Add Catalog
Catalog では、外部データソース(Apache Hive、Iceberg、オブジェクトストレージなど)を登録し、データを物理的に移動することなく VeloDB Cloud から直接クエリできます。システム間での連合クエリが必要な場合や、重複を避けたい場合は Catalog を使用してください。
Migration
Migration は、既存の Apache Doris または VeloDB ウェアハウスからの一回限りの完全データ移行です。一時的なオブジェクトストレージステージング領域を使用し、完了後に自動的にクリーンアップされます。
他のシステムからオンボーディングしており、運用開始前に完全なデータセットを移行する必要がある場合は Migration を使用してください。