SQL Error
Q1. Show backends/frontends 表示される情報が不完全
show backends/frontendsなどの特定のステートメントを実行した後、結果の一部の列が不完全である場合があります。例えば、show backendsの結果でディスク容量情報が表示されない場合があります。
通常、この問題はクラスターに複数のFEがある場合に発生します。ユーザーがMaster FE以外のノードに接続してこれらのステートメントを実行すると、不完全な情報しか表示されません。これは、一部の情報はMaster FEノードにのみ存在するためです。例えば、BEのディスク使用量情報などです。そのため、完全な情報を取得するには、Master FEに直接接続する必要があります。
もちろん、ユーザーはこれらのステートメントを実行する前にset forward_to_master=true;を実行することもできます。このセッション変数をtrueに設定した後、その後実行される一部の情報表示ステートメントは、結果を取得するために自動的にMaster FEに転送されます。この方法により、ユーザーがどのFEに接続していても、完全な結果を取得できます。
Q2. invalid cluster id: xxxx
このエラーは、show backendsまたはshow frontendsコマンドの結果に表示される場合があります。通常、FEまたはBEノードのエラーメッセージ列に表示されます。このエラーの意味は、Master FEがノードにハートビート情報を送信した後、ノードがハートビート情報に含まれるcluster idがローカルに保存されているcluster idと異なることを発見し、ハートビートへの応答を拒否することです。
DorisのMaster FEノードは各FEまたはBEノードにハートビートを積極的に送信し、ハートビート情報にcluster_idを含めます。cluster_idは、クラスターが初期化されるときにMaster FEによって生成される一意のクラスターIDです。FEまたはBEが初回ハートビート情報を受信すると、cluster_idはローカルにファイル形式で保存されます。FEのファイルはメタデータディレクトリのimage/ディレクトリにあり、BEはすべてのデータディレクトリにcluster_idファイルがあります。その後、ノードがハートビートを受信するたびに、ローカルのcluster_idの内容とハートビート内の内容を比較します。不整合がある場合、ハートビートへの応答を拒否します。
このメカニズムは、クラスター外のノードから送信される偽のハートビートメッセージの受信を防ぐためのノード認証メカニズムです。
このエラーから回復する必要がある場合、まず全てのノードが正しいクラスター内にあることを確認する必要があります。その後、FEノードについては、メタデータディレクトリのimage/VERSIONファイル内のcluster_id値を変更してFEを再起動できます。BEノードについては、データディレクトリ内のすべてのcluster_idファイルを削除してBEを再起動できます。
Q3. Unique Keyモデルのクエリ結果が一致しない
場合によって、ユーザーがUnique Keyモデルのテーブルに対して同じSQLを使用してクエリを実行すると、複数のクエリの結果が一致しない場合があります。そして、クエリ結果は常に2-3種類の間で変化します。
これは、同じバッチのインポートデータ内に、同じキーだが異なる値を持つデータが存在するためと考えられます。これにより、データ上書きの順序の不確実性により、異なるレプリカ間で一貫性のない結果が生じます。
例えば、テーブルがk1、v1として定義されているとします。バッチでインポートされるデータは以下の通りです:
1, "abc"
1, "def"
その結果、copy 1の結果は1, "abc"で、copy 2の結果は1, "def"となる可能性があります。結果として、クエリ結果に一貫性がありません。
異なるレプリカ間でデータシーケンスが一意であることを保証するには、Sequence Column機能を参照してください。
Q4. bitmap/hll型データのクエリでNULLが返される問題
バージョン1.1.xにおいて、ベクトル化が有効になっており、クエリデータテーブルのbitmap型フィールドがNULL結果を返す場合:
- まず
set return_object_data_as_binary=true;を実行する必要があります - ベクトル化を無効にする
set enable_vectorized_engine=false; - SQLキャッシュを無効にする
set [global] enable_sql_cache = false;
これは、bitmap / hll型がベクトル化実行エンジンにおいて、入力がすべてNULLの場合、出力結果も0ではなくNULLになるためです。
Q5. bitmap/hll型データのクエリでNULLが返される問題
バージョン1.1.xにおいて、ベクトル化が有効になっており、クエリデータテーブルのbitmp型フィールドがNULL結果を返す場合:
- まず
set return_object_data_as_binary=true;を実行する必要があります - ベクトル化を無効にする
set enable_vectorized_engine=false; - SQLキャッシュを無効にする
set [global] enable_sql_cache = false;
これは、bitmap/hll型がベクトル化実行エンジンにおいて、入力がすべてNULLの場合、出力結果も0ではなくNULLになるためです。
Q6. オブジェクトストレージアクセス時のエラー:curl 77: Problem with the SSL CA cert
be.INFOログにcurl 77: Problem with the SSL CA certエラーが表示される場合は、以下の方法で解決を試してください:
- https://curl.se/docs/caextract.htmlで証明書をダウンロードします:cacert.pem
- 証明書を指定された場所にコピーします:
sudo cp /tmp/cacert.pem /etc/ssl/certs/ca-certificates.crt - BEノードを再起動します。
Q7. import error:"Message": "[INTERNAL_ERROR]single replica load is disabled on BE."
- be.confのこのパラメータ
enable_single_replica_loadがtrueに設定されていることを確認してください - BEノードを再起動します。