SQL Error
Q1. show backends/frontends 表示される情報が不完全
show backends/frontendsなどの特定のステートメントを実行した後、結果の一部の列が不完全であることがあります。例えば、show backendsの結果でディスク容量情報が表示されないなどです。
通常、この問題はクラスターに複数のFEがある場合に発生します。ユーザーが非MasterFEノードに接続してこれらのステートメントを実行すると、不完全な情報が表示されます。これは、一部の情報がMaster FEノードにのみ存在するためです。例えば、BEのディスク使用量情報などです。そのため、Master FEに直接接続した後でのみ、完全な情報を取得できます。
もちろん、ユーザーはこれらのステートメントを実行する前にset forward_to_master=true;を実行することもできます。このセッション変数がtrueに設定された後、その後実行される一部の情報表示ステートメントは自動的にMaster FEに転送されて結果を取得します。この方法により、ユーザーがどのFEに接続していても、完全な結果を取得できます。
Q2. invalid cluster id: xxxx
このエラーは、show backendsまたはshow frontendsコマンドの結果に表示される可能性があります。通常、FEまたはBEノードのエラーメッセージ列に表示されます。このエラーの意味は、Master FEがノードにハートビート情報を送信した後、ノードがハートビート情報に含まれるcluster idがローカルに保存されているcluster idと異なることを発見し、ハートビートへの応答を拒否したということです。
DorisのMaster FEノードは、各FEまたはBEノードに積極的にハートビートを送信し、ハートビート情報にcluster_idを含めます。cluster_idは、クラスターが初期化されるときにMaster FEによって生成される一意のクラスターIDです。FEまたはBEが初めてハートビート情報を受信すると、cluster_idはファイル形式でローカルに保存されます。FEのファイルはメタデータディレクトリのimage/ディレクトリにあり、BEはすべてのデータディレクトリにcluster_idファイルを持ちます。その後、ノードがハートビートを受信するたびに、ローカルのcluster_idの内容とハートビート内の内容を比較します。一致しない場合、ハートビートへの応答を拒否します。
このメカニズムは、クラスター外のノードから送信された偽のハートビートメッセージの受信を防ぐためのノード認証メカニズムです。
このエラーから回復する必要がある場合。最初に行うべきことは、すべてのノードが正しいクラスターにあることを確認することです。その後、FEノードの場合、メタデータディレクトリのimage/VERSIONファイルのcluster_id値を変更してFEを再起動することを試すことができます。BEノードの場合、データディレクトリ内のすべてのcluster_idファイルを削除してBEを再起動できます。
Q3. Unique Keyモデルのクエリ結果が一致しない
場合によっては、ユーザーがUnique Keyモデルのテーブルに対して同じSQLを使用してクエリを実行すると、複数のクエリの結果が一致しないことがあります。そして、クエリ結果は常に2-3種類の間で変化します。
これは、同じバッチのインポートデータ内に、同じキーを持つが異なる値を持つデータがあるためである可能性があり、データ上書きの順序の不確実性により、異なるレプリカ間で一致しない結果につながります。
例えば、テーブルがk1, v1として定義されているとします。インポートデータのバッチは以下の通りです：
1, "abc"
1, "def"
そのとき、copy 1の結果は1, "abc"で、copy 2の結果は1, "def"になる可能性があります。その結果、クエリ結果に一貫性がなくなります。
異なるレプリカ間でデータシーケンスが一意であることを保証するには、Sequence Column機能を参照してください。
Q4. bitmap/hll型データのクエリでNULLが返される問題
バージョン1.1.xにおいて、ベクトル化が有効になっているときに、クエリデータテーブルのbitmap型フィールドがNULLの結果を返す場合：
- まず
set return_object_data_as_binary=true;を設定する必要があります - ベクトル化を無効にする
set enable_vectorized_engine=false; - SQLキャッシュを無効にする
set [global] enable_sql_cache = false;
これは、bitmap/hll型がベクトル化実行エンジンにおいて、入力がすべてNULLの場合、出力結果も0ではなくNULLになるためです
Q5. bitmap/hll型データのクエリでNULLが返される問題
バージョン1.1.xにおいて、ベクトル化が有効になっているときに、クエリデータテーブルのbitmp型フィールドがNULLの結果を返す場合：
- まず
set return_object_data_as_binary=true;を設定する必要があります - ベクトル化を無効にする
set enable_vectorized_engine=false; - SQLキャッシュを無効にする
set [global] enable_sql_cache = false;
これは、bitmap/hll型がベクトル化実行エンジンにおいて、入力がすべてNULLの場合、出力結果も0ではなくNULLになるためです
Q6. オブジェクトストレージアクセス時のエラー：curl 77: Problem with the SSL CA cert
be.INFOログにcurl 77: Problem with the SSL CA certエラーが表示される場合は、以下の方法で解決を試すことができます：
- https://curl.se/docs/caextract.htmlで証明書をダウンロードする：cacert.pem
- 証明書を指定された場所にコピーする：
sudo cp /tmp/cacert.pem /etc/ssl/certs/ca-certificates.crt - BEノードを再起動する
Q7. importエラー："Message": "[INTERNAL_ERROR]single replica load is disabled on BE."
- be.confの
enable_single_replica_loadパラメータがtrueに設定されていることを確認する - BEノードを再起動する