メインコンテンツまでスキップ

BladePipe

BladePipeはリアルタイム・エンドツーエンドのデータレプリケーションツールで、30以上のデータベース、メッセージキュー、検索エンジン、キャッシュ、リアルタイムデータウェアハウス、データレイクなどの間でデータを移動し、3秒未満の超低レイテンシを実現します。効率性、安定性、スケーラビリティ、多様なデータベースエンジンとの互換性、ワンストップ管理、セキュリティの強化、複雑なデータ変換などの機能を備えています。

機能​

BladePipeはビジュアル管理インターフェースを提供し、スキーマ移行、データ移行、同期、検証・修正などを実現するDataJobsを簡単に作成できます。さらに、パラメータを設定することで、より細かくカスタマイズされた設定をサポートしています。現在BladePipeは以下のソースDataSourcesからDorisへのデータ移動をサポートしています：

Source DataSourceSchema MigrationData MigrationData SyncVerification & Correction
MySQL/MariaDB/AuroraMySQLYesYesYesYes
OracleYesYesYesYes
PostgreSQL/AuroraPostgreSQLYesYesYesYes
SQL ServerYesYesYesYes
KafkaNoNoYesNo
AutoMQNoNoYesNo
TiDBYesYesYesYes
HanaYesYesYesYes
PolarDB-XYesYesYesYes
備考

詳細な機能とパラメータ設定については、BladePipe Connectionsを参照してください。

インストール​

Install Worker (Docker)またはInstall Worker (Binary)の手順に従って、BladePipe Workerをダウンロードしてインストールしてください。

例​

MySQLインスタンスを例として、以下の部分ではMySQLからDorisへデータを移動する方法について説明します。

DataSourcesの追加​

  1. BladePipe Cloudにログインします。DataSource > Add DataSourceをクリックします。

  2. Typeとして、それぞれMySQLとDorisを選択し、設定フォームに適切に入力します。 Add DataSources-1

  3. Test Connectionをクリックします。接続が成功したら、Add DataSourceをクリックしてDataSourceを追加します。 Add DataSources-2

DataJobの作成​

  1. DataJob > Create DataJobをクリックします。

  2. ソースとターゲットのDataSourcesを選択し、Test Connectionをクリックして、ソースとターゲットのDataSourcesへの接続が両方とも成功していることを確認します。 Create a DataJob-1

  3. DataJob TypeにIncrementalを選択し、Full Dataオプションも併せて選択します。 Create a DataJob-2

  4. レプリケートするテーブルを選択します。 Create a DataJob-3

  5. レプリケートするカラムを選択します。 Create a DataJob-4

  6. DataJobの作成を確認します。

  7. DataJobは自動的に実行されます。BladePipeは以下のDataTasksを自動的に実行します：

  • Schema Migration：ソーステーブルのスキーマがターゲットインスタンスに移行されます。
  • Full Data：ソーステーブルの既存データがすべてターゲットインスタンスに完全移行されます。
  • Incremental：継続的なデータ変更がターゲットインスタンスに継続的に同期されます。 Create a DataJob-5