メインコンテンツまでスキップ
バージョン: 4.x

リモートストレージ

概要​

Remote storageは、コールドデータを外部ストレージ（オブジェクトストレージ、HDFSなど）に配置することをサポートします。

Note

remote storage内のデータはコピーが1つのみであり、データの信頼性はremote storageの信頼性に依存します。データの信頼性を確保するために、remote storageにerasure coding（EC）またはマルチレプリカ技術があることを確認する必要があります。

使用方法​

コールドデータをS3互換ストレージに保存する​

ステップ 1: S3 Resourceを作成します。

CREATE RESOURCE "remote_s3"
PROPERTIES
(
    "type" = "s3",
    "s3.endpoint" = "bj.s3.com",
    "s3.region" = "bj",
    "s3.bucket" = "test-bucket",
    "s3.root.path" = "path/to/root",
    "s3.access_key" = "bbb",
    "s3.secret_key" = "aaaa",
    "s3.connection.maximum" = "50",
    "s3.connection.request.timeout" = "3000",
    "s3.connection.timeout" = "1000"
);
ヒント

S3 RESOURCEを作成する際、S3リモートへのリンク検証が実行され、RESOURCEの作成が正しく行われることを確認します。

ステップ 2: STORAGE POLICYを作成します。

次に、上記で作成したRESOURCEに関連付けられたSTORAGE POLICYを作成します：

CREATE STORAGE POLICY test_policy
PROPERTIES(
    "storage_resource" = "remote_s3",
    "cooldown_ttl" = "1d"
);

ステップ3: Table作成時にSTORAGE POLICYを使用する。

CREATE TABLE IF NOT EXISTS create_table_use_created_policy 
(
    k1 BIGINT,
    k2 LARGEINT,
    v1 VARCHAR(2048)
)
UNIQUE KEY(k1)
DISTRIBUTED BY HASH (k1) BUCKETS 3
PROPERTIES(
    "enable_unique_key_merge_on_write" = "false",
    "storage_policy" = "test_policy"
);
Note

UNIQUE Tableに "enable_unique_key_merge_on_write" = "true" が設定されている場合、この機能は使用できません。

コールドデータをHDFSに保存する​

ステップ 1: HDFS RESOURCEを作成する：

CREATE RESOURCE "remote_hdfs" PROPERTIES (
        "type"="hdfs",
        "fs.defaultFS"="fs_host:default_fs_port",
        "hadoop.username"="hive",
        "hadoop.password"="hive",
        "root_path"="/my/root/path",
        "dfs.nameservices" = "my_ha",
        "dfs.ha.namenodes.my_ha" = "my_namenode1, my_namenode2",
        "dfs.namenode.rpc-address.my_ha.my_namenode1" = "nn1_host:rpc_port",
        "dfs.namenode.rpc-address.my_ha.my_namenode2" = "nn2_host:rpc_port",
        "dfs.client.failover.proxy.provider.my_ha" = "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider"
    );

ステップ 2: STORAGE POLICYを作成します。

CREATE STORAGE POLICY test_policy PROPERTIES (
    "storage_resource" = "remote_hdfs",
    "cooldown_ttl" = "300"
)

ステップ3: STORAGE POLICYを使用してTableを作成する。

CREATE TABLE IF NOT EXISTS create_table_use_created_policy (
    k1 BIGINT,
    k2 LARGEINT,
    v1 VARCHAR(2048)
)
UNIQUE KEY(k1)
DISTRIBUTED BY HASH (k1) BUCKETS 3
PROPERTIES(
"enable_unique_key_merge_on_write" = "false",
"storage_policy" = "test_policy"
);
Note

UNIQUE Tableが "enable_unique_key_merge_on_write" = "true" で設定されている場合、この機能は使用できません。

既存TableのRemote Storageへの移行​

新しいTableがremote storageの設定をサポートすることに加えて、Dorisは既存のTableやPARTITIONに対してもremote storageの設定をサポートしています。

既存のTableについては、作成されたSTORAGE POLICYをTableに関連付けることでremote storageを設定します：

ALTER TABLE create_table_not_have_policy set ("storage_policy" = "test_policy");

既存のPARTITIONの場合、作成したSTORAGE POLICYをPARTITIONに関連付けることで、リモートストレージを設定します：

ALTER TABLE create_table_partition MODIFY PARTITION (*) SET("storage_policy"="test_policy");
ヒント

Table作成時にユーザーがTable全体と一部のPartitionに対して異なるStorage Policyを指定した場合、Partitionに設定されたStorage Policyは無視され、TableのすべてのPartitionがTableのPolicyを使用することに注意してください。PartitionのPolicyを他と異なるものにする必要がある場合は、既存のPartitionにStorage Policyを関連付ける上記の方法を使用して変更できます。

詳細については、RESOURCE、STORAGE POLICY、CREATE TABLE、ALTER TABLEなどのDocsディレクトリを参照してください。

Compactionの設定​

  • BEパラメーターcold_data_compaction_thread_numは、リモートストレージCompactionを実行する並行数を設定でき、デフォルトは2です。

  • BEパラメーターcold_data_compaction_interval_secは、リモートストレージCompactionを実行する時間間隔を設定でき、デフォルトは1800秒（30分）です。

制限事項​

  • リモートストレージを使用するTableはバックアップをサポートしていません。

  • endpoint、bucket、pathなど、リモートストレージの場所情報の変更はサポートされていません。

  • Merge-on-Writeが有効なUniqueモデルTableは、リモートストレージをサポートしていません。

  • ストレージポリシーは作成、変更、削除をサポートしています。ストレージポリシーを削除する前に、それを参照しているTableがないことを確認してください。

  • ストレージポリシーが設定されると、設定を解除することはできません。

コールドデータ容量​

確認方法​

方法1：show proc '/backends'を通じて各BEがオブジェクトにアップロードしたサイズを確認できます。RemoteUsedCapacityの項目で、この方法にはわずかな遅延があります。

方法2：show tablets from tableNameを通じてTableが占有する各tabletのサイズを確認できます。RemoteDataSizeの項目で確認できます。

ガベージコレクション​

リモートストレージでガベージデータが生成される状況があります：

  1. Rowsetのアップロードが失敗したが、一部のsegmentが正常にアップロードされた場合。

  2. アップロードされたRowsetが複数のレプリカでコンセンサスに達しなかった場合。

  3. Compaction完了後にCompactionに参加したRowset。

ガベージデータはすぐにはクリーンアップされません。BEパラメーターremove_unused_remote_files_interval_secは、リモートストレージでのガベージコレクションの時間間隔を設定でき、デフォルトは21600秒（6時間）です。

クエリとパフォーマンス最適化​

クエリパフォーマンスを最適化し、オブジェクトストレージリソースを節約するため、ローカルCacheが導入されました。リモートストレージからデータを初回クエリする際、DorisはリモートストレージからデータをBEのローカルディスクに読み込んでキャッシュします。Cacheには以下の特徴があります：

  • Cacheは実際にBEのローカルディスクに保存され、メモリ空間を占有しません。

  • CacheはLRUで管理され、TTLはサポートしていません。

具体的な設定については、(../../lakehouse/data-cache)を参照してください。

FAQ​

  1. ERROR 1105 (HY000): errCode = 2, detailMessage = Failed to create repository: connect to s3 failed: Unable to marshall request to JSON: host must not be null.

S3 SDKはデフォルトでvirtual-hosted styleメソッドを使用します。しかし、一部のオブジェクトストレージシステム（MinIOなど）では、virtual-hosted styleアクセスが有効化またはサポートされていない場合があります。この場合、use_path_styleパラメーターを追加してpath styleメソッドの使用を強制できます：

CREATE RESOURCE "remote_s3"
PROPERTIES
(
    "type" = "s3",
    "s3.endpoint" = "bj.s3.com",
    "s3.region" = "bj",
    "s3.bucket" = "test-bucket",
    "s3.root.path" = "path/to/root",
    "s3.access_key" = "bbb",
    "s3.secret_key" = "aaaa",
    "s3.connection.maximum" = "50",
    "s3.connection.request.timeout" = "3000",
    "s3.connection.timeout" = "1000",
    "use_path_style" = "true"
);

  1. クールダウン時間に関連するパラメータを変更した後に何が起こりますか？

    クールダウン関連のパラメータの変更は、まだリモートストレージにクールされていないデータにのみ適用されます。既にリモートストレージにクールされたデータには、変更は適用されません。例えば、cooldown_ttlを21日から7日に変更した場合、既にリモートストレージにあるデータはローカルストレージに戻されません。