BladePipe
BladePipeはリアルタイムのエンドツーエンドデータレプリケーションツールで、30以上のデータベース、メッセージキュー、検索エンジン、キャッシュ、リアルタイムデータウェアハウス、データレイクなどの間でデータを移動し、3秒未満の超低レイテンシを実現します。効率性、安定性、スケーラビリティ、多様なデータベースエンジンとの互換性、ワンストップ管理、セキュリティ強化、複雑なデータ変換を特徴としています。
機能
BladePipeはビジュアル管理インターフェースを提供し、DataJobを簡単に作成してスキーマ移行、データ移行、同期、検証・修正などを実現できます。さらに、パラメータ設定により、より細かくカスタマイズされた構成がサポートされています。現在BladePipeは、以下のソースDataSourceからDorisへのデータ移動をサポートしています:
| ソースDataSource | スキーマ移行 | データ移行 | データ同期 | 検証・修正 |
|---|---|---|---|---|
| MySQL/MariaDB/AuroraMySQL | Yes | Yes | Yes | Yes |
| Oracle | Yes | Yes | Yes | Yes |
| PostgreSQL/AuroraPostgreSQL | Yes | Yes | Yes | Yes |
| SQL Server | Yes | Yes | Yes | Yes |
| Kafka | No | No | Yes | No |
| AutoMQ | No | No | Yes | No |
| TiDB | Yes | Yes | Yes | Yes |
| Hana | Yes | Yes | Yes | Yes |
| PolarDB-X | Yes | Yes | Yes | Yes |
より多くの機能とパラメータ設定については、BladePipe Connectionsを参照してください。
インストール
Install Worker (Docker)またはInstall Worker (Binary)の手順に従って、BladePipe Workerをダウンロードしてインストールしてください。
例
MySQLインスタンスを例として、以下の部分ではMySQLからDorisにデータを移動する方法について説明します。
DataSourceの追加
-
BladePipe Cloudにログインします。DataSource > Add DataSourceをクリックします。
-
TypeとしてそれぞれMySQLとDorisを選択し、セットアップフォームに適切に入力します。

-
Test Connectionをクリックします。接続が成功したら、Add DataSourceをクリックしてDataSourceを追加します。

DataJobの作成
-
DataJob > Create DataJobをクリックします。
-
ソースとターゲットのDataSourceを選択し、Test ConnectionをクリックしてソースとターゲットのDataSourceへの接続が両方とも成功することを確認します。

-
DataJob TypeとしてIncrementalを選択し、Full Dataオプションも選択します。

-
レプリケーションするテーブルを選択します。

-
レプリケーションする列を選択します。

-
DataJobの作成を確認します。
-
DataJobは自動的に実行されます。BladePipeは以下のDataTaskを自動的に実行します:
- Schema Migration: ソーステーブルのスキーマがターゲットインスタンスに移行されます。
- Full Data: ソーステーブルの既存データがすべてターゲットインスタンスに完全移行されます。
- Incremental: 継続的なデータ変更がターゲットインスタンスに継続的に同期されます。
