BladePipe
BladePipeはリアルタイムエンドツーエンドデータレプリケーションツールで、30以上のデータベース、メッセージキュー、検索エンジン、キャッシング、リアルタイムデータウェアハウス、データレイクなどの間でデータを移動し、3秒未満の超低レイテンシを実現します。効率性、安定性、スケーラビリティ、多様なデータベースエンジンとの互換性、ワンストップ管理、強化されたセキュリティ、複雑なデータ変換を特徴としています。
機能
BladePipeはビジュアル管理インターフェースを提供し、DataJobを簡単に作成してスキーママイグレーション、データマイグレーション、同期、検証および修正などを実現できます。さらに、パラメータ設定により、より詳細でカスタマイズされた設定をサポートしています。現在、BladePipeは以下のソースDataSourceからDorisへのデータ移動をサポートしています:
| ソースDataSource | スキーママイグレーション | データマイグレーション | データ同期 | 検証・修正 |
|---|---|---|---|---|
| MySQL/MariaDB/AuroraMySQL | Yes | Yes | Yes | Yes |
| Oracle | Yes | Yes | Yes | Yes |
| PostgreSQL/AuroraPostgreSQL | Yes | Yes | Yes | Yes |
| SQL Server | Yes | Yes | Yes | Yes |
| Kafka | No | No | Yes | No |
| AutoMQ | No | No | Yes | No |
| TiDB | Yes | Yes | Yes | Yes |
| Hana | Yes | Yes | Yes | Yes |
| PolarDB-X | Yes | Yes | Yes | Yes |
より多くの機能とパラメータ設定については、BladePipe Connectionsを参照してください。
インストール
Install Worker (Docker)またはInstall Worker (Binary)の手順に従って、BladePipe Workerをダウンロードしてインストールしてください。
例
MySQLインスタンスを例に、以下の部分ではMySQLからDorisにデータを移動する方法を説明します。
DataSourceの追加
-
BladePipe Cloudにログインします。DataSource > Add DataSourceをクリックします。
-
TypeとしてMySQLとDorisをそれぞれ選択し、セットアップフォームに適切に入力します。

-
Test Connectionをクリックします。接続が成功したら、Add DataSourceをクリックしてDataSourceを追加します。

DataJobの作成
-
DataJob > Create DataJobをクリックします。
-
ソースとターゲットのDataSourceを選択し、Test ConnectionをクリックしてソースとターゲットのDataSourceへの接続が両方とも成功することを確認します。

-
DataJob TypeとしてIncrementalを選択し、Full Dataオプションも合わせて選択します。

-
レプリケートするテーブルを選択します。

-
レプリケートするカラムを選択します。

-
DataJobの作成を確認します。
-
DataJobは自動的に実行されます。BladePipeは以下のDataTaskを自動的に実行します:
- Schema Migration:ソーステーブルのスキーマがターゲットインスタンスにマイグレーションされます。
- Full Data:ソーステーブルの既存データがすべてターゲットインスタンスに完全マイグレーションされます。
- Incremental:継続的なデータ変更がターゲットインスタンスに継続的に同期されます。
