BladePipe
BladePipeはリアルタイムEnd-to-Endデータレプリケーションツールで、30以上のデータベース、メッセージキュー、検索エンジン、キャッシュ、リアルタイムデータウェアハウス、データレイクなどの間でデータを移動し、3秒未満の超低レイテンシを実現します。効率性、安定性、スケーラビリティ、多様なデータベースエンジンとの互換性、ワンストップ管理、強化されたセキュリティ、複雑なデータ変換を特徴としています。
機能
BladePipeはビジュアル管理インターフェースを提供し、DataJobを簡単に作成してスキーマ移行、データ移行、同期、検証と修正などを実現できます。さらに、パラメータ設定により、より詳細でカスタマイズされた設定がサポートされています。現在、BladePipeは以下のソースDataSourceからDorisへのデータ移動をサポートしています:
| Source DataSource | Schema Migration | Data Migration | Data Sync | Verification & Correction |
|---|---|---|---|---|
| MySQL/MariaDB/AuroraMySQL | Yes | Yes | Yes | Yes |
| Oracle | Yes | Yes | Yes | Yes |
| PostgreSQL/AuroraPostgreSQL | Yes | Yes | Yes | Yes |
| SQL Server | Yes | Yes | Yes | Yes |
| Kafka | No | No | Yes | No |
| AutoMQ | No | No | Yes | No |
| TiDB | Yes | Yes | Yes | Yes |
| Hana | Yes | Yes | Yes | Yes |
| PolarDB-X | Yes | Yes | Yes | Yes |
より多くの機能とパラメータ設定については、BladePipe Connectionsを参照してください。
インストール
Install Worker (Docker)またはInstall Worker (Binary)の手順に従って、BladePipe Workerをダウンロードしてインストールしてください。
例
MySQLインスタンスを例にとり、以下の部分ではMySQLからDorisにデータを移動する方法について説明します。
DataSourceの追加
-
BladePipe Cloudにログインします。DataSource > Add DataSourceをクリックします。
-
TypeとしてそれぞれMySQLとDorisを選択し、設定フォームに必要事項を入力します。

-
Test Connectionをクリックします。接続が成功したら、Add DataSourceをクリックしてDataSourceを追加します。

DataJobの作成
-
DataJob > Create DataJobをクリックします。
-
ソースとターゲットのDataSourceを選択し、Test ConnectionをクリックしてソースとターゲットDataSourceの両方への接続が成功することを確認します。

-
DataJob TypeでIncrementalを選択し、Full Dataオプションも選択します。

-
レプリケーションするテーブルを選択します。

-
レプリケーションするカラムを選択します。

-
DataJobの作成を確認します。
-
DataJobは自動的に実行されます。BladePipeは以下のDataTasksを自動的に実行します:
- Schema Migration:ソーステーブルのスキーマがターゲットインスタンスに移行されます。
- Full Data:ソーステーブルの既存データがすべてターゲットインスタンスに完全移行されます。
- Incremental:継続的なデータ変更がターゲットインスタンスに継続的に同期されます。
