ソートキーとPrefix Index
Index Principles
Dorisは、SSTable(Sorted String Table)に似た構造でデータを保存します。この構造は、1つ以上の指定された列に従ってソートして保存できる順序付きデータ構造です。このようなデータ構造では、ソートされた列の全部または一部での検索条件が非常に効率的です。
Aggregate、Unique、およびDuplicateデータモデルでは、基盤となるデータストレージは、CREATE TABLE文のAGGREGATE KEY、UNIQUE KEY、およびDUPLICATE KEYの下で指定された列に従ってそれぞれソートされます。これらのキーはソートキーと呼ばれます。ソートキーにより、Dorisはクエリ時にソートされた列に条件を指定することで、テーブル全体をスキャンすることなく必要なデータを迅速に特定でき、検索の複雑さを軽減し、クエリを高速化します。
ソートキーに基づいて、Dorisはプレフィックスインデックスを導入しています。プレフィックスインデックスはスパースインデックスです。テーブル内のデータは、対応する行数に従って論理データブロック(Data Block)を形成します。各論理データブロックは、プレフィックスインデックステーブルにインデックスエントリを保存し、インデックスエントリの長さは36バイトを超えません。エントリの内容は、データブロックの最初の行のソートされた列で構成されるプレフィックスです。プレフィックスインデックステーブルを検索する際、行データが配置されている論理データブロックの開始行番号の特定に役立ちます。プレフィックスインデックスは比較的小さいため、メモリに完全にキャッシュでき、迅速なデータブロックの特定とクエリ効率の大幅な向上を可能にします。
データブロック内の行の最初の36バイトが、その行のプレフィックスインデックスとして使用されます。VARCHAR型に遭遇した場合、プレフィックスインデックスは直接切り捨てられます。最初の列がVARCHARの場合、36バイトに達しなくても直接切り捨てられ、後続の列はプレフィックスインデックスに含まれません。
Use Cases
プレフィックスインデックスは、等価クエリと範囲クエリを高速化できます。
Managing Indexes
プレフィックスインデックスを定義する特定の構文はありません。テーブルを作成する際、テーブルのKeyの最初の36バイトが自動的にプレフィックスインデックスとして取得されます。
プレフィックスインデックス選択の推奨事項
テーブルのKey定義は一意であるため、テーブルには1セットのプレフィックスインデックスのみがあります。したがって、テーブル構造を設計する際に適切なプレフィックスインデックスを選択することが重要です。以下の推奨事項を考慮できます:
- WHEREフィルタリング条件で最も一般的に使用されるフィールドをKeyとして選択する。
- より頻繁に使用されるフィールドを前に配置する。プレフィックスインデックスは、WHERE条件のKeyのプレフィックスの一部であるフィールドに対してのみ効果的であるため。
プレフィックスインデックスでカバーされていない他の列を条件として使用するクエリでは、効率が要件を満たさない可能性があります。2つの解決策があります:
- 高速化が必要なクエリの列に転置インデックスを作成する。テーブルは多くの転置インデックスを持つことができます。
- DUPLICATEテーブルの場合、列の順序を調整した対応する強一貫性マテリアライズドビューを作成することで、マルチプレフィックスインデックスを間接的に実現できます。詳細については、クエリ高速化/マテリアライズドビューを参照してください。
Using Indexes
プレフィックスインデックスは、WHERE句での等価クエリと範囲クエリの高速化に使用されます。適用可能な場合に自動的に有効になり、特別な構文は必要ありません。
プレフィックスインデックスの高速化効果は、Query Profileの以下のメトリクスを使用して分析できます:
- RowsKeyRangeFiltered:プレフィックスインデックスによってフィルタリングされた行数。他のRows値と比較してインデックスのフィルタリング効果を分析できます。
Example Usage
- テーブルのソートされた列が以下の通りだとすると、プレフィックスインデックスは:user_id(8バイト)+ age(4バイト)+ message(プレフィックス20バイト)になります。
| ColumnName | Type |
|---|---|
| user_id | BIGINT |
| age | INT |
| message | VARCHAR(100) |
| max_dwell_time | DATETIME |
| min_dwell_time | DATETIME |
- テーブルのソートされた列が以下の通りだとすると、プレフィックスインデックスはuser_name(20バイト)になります。36バイトに達しなくても、VARCHARに遭遇したため直接切り捨てられ、後続の列は含まれません。
| ColumnName | Type |
|---|---|
| user_name | VARCHAR(20) |
| age | INT |
| message | VARCHAR(100) |
| max_dwell_time | DATETIME |
| min_dwell_time | DATETIME |
- クエリ条件がプレフィックスインデックスのプレフィックスの場合、クエリを大幅に高速化できます。例えば、最初の例で、以下のクエリを実行する場合:
SELECT * FROM table WHERE user_id = 1829239 AND age = 20;
このクエリは以下のクエリよりもはるかに効率的です:
SELECT * FROM table WHERE age = 20;
したがって、テーブルを作成する際に正しい列順序を選択することで、クエリ効率を大幅に向上させることができます。