メインコンテンツまでスキップ
バージョン: 4.x

トレース

この記事では、コアなオブザーバビリティデータの1つであるトレースのストレージと分析の実践について紹介します。完全なオブザーバビリティソリューションの概要については、概要を参照してください。リソース評価、クラスターデプロイメント、最適化については、ログを参照してください。

1. Table作成​

トレースデータは書き込みとクエリパターンにおいて独特の特性を持ちます。Table作成時に対象を絞った設定により、パフォーマンスを大幅に改善できます。以下の主要なガイドラインに基づいてTableを作成してください：

パーティショニングとソート

  • 時間フィールドでRANGEパーティショニングを使用し、dynamic partitioningを有効にして日単位でパーティションを自動管理します。
  • service_nameとDATETIME型の時間フィールドをキーとして使用します。これにより、特定期間における特定サービスのトレースをクエリする際に数倍の高速化が得られます。

バケッティング

  • バケット数はクラスター内の総ディスク数の約3倍に設定する必要があります。
  • RANDOMバケッティング戦略を使用します。書き込み時のsingle-tablet ingestionと組み合わせることで、バッチ書き込み効率が向上します。

コンパクション

  • time_seriesコンパクション戦略を使用してwrite amplificationを削減します。これは高スループット取り込み下でのリソース最適化に重要です。

VARIANTデータ型

  • span_attributesやresource_attributesなどの拡張トレースフィールドには、半構造化VARIANTデータ型を使用します。これによりJSONデータが自動的にサブカラムに分割されて格納され、圧縮率が向上し、ストレージ容量が削減されると同時に、フィルタリングとサブカラム分析のパフォーマンスも向上します。

インデックス

  • 頻繁にクエリされるフィールドにインデックスを構築します。
  • 全文検索が必要なフィールドについては、parserパラメータを指定します。Unicodeトークン化により一般的にほとんどのニーズを満たします。フレーズクエリをサポートするにはsupport_phraseオプションを有効にします。不要な場合はfalseに設定してストレージ使用量を削減します。

ストレージ

  • ホットデータについては、クラウドディスクを使用する場合は1レプリカ、物理ディスクを使用する場合は最低2レプリカを設定します。
  • log_s3オブジェクトストレージとlog_policy_3dayポリシーを使用したホット-コールド階層ストレージ設定により、3日より古いデータをS3に移動します。
CREATE DATABASE log_db;
USE log_db;

-- Not required for compute-storage separation mode
CREATE RESOURCE "log_s3"
PROPERTIES
(
    "type" = "s3",
    "s3.endpoint" = "your_endpoint_url",
    "s3.region" = "your_region",
    "s3.bucket" = "your_bucket",
    "s3.root.path" = "your_path",
    "s3.access_key" = "your_ak",
    "s3.secret_key" = "your_sk"
);

-- Not required for compute-storage separation mode
CREATE STORAGE POLICY log_policy_3day
PROPERTIES(
    "storage_resource" = "log_s3",
    "cooldown_ttl" = "259200"
);

CREATE TABLE trace_table
(        
    service_name          VARCHAR(200),        
    timestamp             DATETIME(6),
    service_instance_id   VARCHAR(200),
    trace_id              VARCHAR(200),        
    span_id               STRING,        
    trace_state           STRING,        
    parent_span_id        STRING,        
    span_name             STRING,        
    span_kind             STRING,        
    end_time              DATETIME(6),        
    duration              BIGINT,        
    span_attributes       VARIANT,        
    events                ARRAY<STRUCT<timestamp:DATETIME(6), name:STRING, attributes:MAP<STRING, STRING>>>,        
    links                 ARRAY<STRUCT<trace_id:STRING, span_id:STRING, trace_state:STRING, attributes:MAP<STRING, STRING>>>,        
    status_message        STRING,        
    status_code           STRING,        
    resource_attributes   VARIANT,        
    scope_name            STRING,        
    scope_version         STRING,
    INDEX idx_timestamp(timestamp) USING INVERTED,
    INDEX idx_service_instance_id(service_instance_id) USING INVERTED,
    INDEX idx_trace_id(trace_id) USING INVERTED,        
    INDEX idx_span_id(span_id) USING INVERTED,        
    INDEX idx_trace_state(trace_state) USING INVERTED,        
    INDEX idx_parent_span_id(parent_span_id) USING INVERTED,        
    INDEX idx_span_name(span_name) USING INVERTED,        
    INDEX idx_span_kind(span_kind) USING INVERTED,        
    INDEX idx_end_time(end_time) USING INVERTED,        
    INDEX idx_duration(duration) USING INVERTED,        
    INDEX idx_span_attributes(span_attributes) USING INVERTED,        
    INDEX idx_status_message(status_message) USING INVERTED,        
    INDEX idx_status_code(status_code) USING INVERTED,        
    INDEX idx_resource_attributes(resource_attributes) USING INVERTED,        
    INDEX idx_scope_name(scope_name) USING INVERTED,        
    INDEX idx_scope_version(scope_version) USING INVERTED        
)        
ENGINE = OLAP        
DUPLICATE KEY(service_name, timestamp)        
PARTITION BY RANGE(timestamp) ()        
DISTRIBUTED BY RANDOM BUCKETS 250
PROPERTIES (
"compression" = "zstd",
"compaction_policy" = "time_series",
"inverted_index_storage_format" = "V2",
"dynamic_partition.enable" = "true",
"dynamic_partition.create_history_partition" = "true",
"dynamic_partition.time_unit" = "DAY",
"dynamic_partition.start" = "-30",
"dynamic_partition.end" = "1",
"dynamic_partition.prefix" = "p",
"dynamic_partition.buckets" = "250",
"dynamic_partition.replication_num" = "2", -- Not required for compute-storage separation
"replication_num" = "2", -- Not required for compute-storage separation
"storage_policy" = "log_policy_3day" -- Not required for compute-storage separation
);

2. トレース Collection​

DorisはOpenTelemetryなどのトレース収集システムと統合できるオープンで汎用的なStream HTTP APIを提供します。

OpenTelemetry統合​

  1. アプリケーション側でのOpenTelemetry SDK統合

ここではOpenTelemetry Java SDKと統合されたSpring Bootサンプルアプリケーションを使用します。このサンプルアプリケーションは公式のdemoから取得したもので、パス"/"へのリクエストに対してシンプルな"Hello World!"文字列を返します。
OpenTelemetry Java エージェントをダウンロードしてください。Java Agentを使用する利点は、既存のアプリケーションに変更を加える必要がないことです。他の言語や統合方法については、OpenTelemetry公式ウェブサイトのLanguage APIs & SDKsまたはZero-code Instrumentationを参照してください。

  1. OpenTelemetry Collectorのデプロイと設定

OpenTelemetry Collectorをダウンロードして展開してください。Doris Exporterが含まれている"otelcol-contrib"で始まるパッケージをダウンロードする必要があります。

以下のようにotel_demo.yaml設定ファイルを作成してください。詳細については、Doris Exporterのドキュメントを参照してください。

receivers:
  otlp: # OTLP protocol, receiving data sent by the OpenTelemetry Java エージェント
    protocols:
      grpc:
        endpoint: 0.0.0.0:4317
      http:
        endpoint: 0.0.0.0:4318

processors:
  batch:
    send_batch_size: 100000 # Number of records per batch; recommended batch size between 100MB-1GB
    timeout: 10s

exporters:
  doris:
    endpoint: http://localhost:8030 # FE HTTP address
    database: doris_db_name
    username: doris_username
    password: doris_password
    table:
      traces: doris_table_name
    create_schema: true # Whether to auto-create schema; manual table creation is needed if set to false
    mysql_endpoint: localhost:9030  # FE MySQL address
    history_days: 10
    create_history_days: 10
    timezone: Asia/Shanghai
    timeout: 60s # Timeout for HTTP stream load client
    log_response: true
    sending_queue:
      enabled: true
      num_consumers: 20
      queue_size: 1000
    retry_on_failure:
      enabled: true
      initial_interval: 5s
      max_interval: 30s
    headers:
      load_to_single_tablet: "true"
  1. OpenTelemetry Collectorを実行する
./otelcol-contrib --config otel_demo.yaml
  1. Spring Boot サンプルアプリケーションの開始

アプリケーションを開始する前に、コードを変更することなく、いくつかの環境変数を追加するだけです。

export JAVA_TOOL_OPTIONS="${JAVA_TOOL_OPTIONS} -javaagent:/your/path/to/opentelemetry-javaagent.jar" # Path to OpenTelemetry Java エージェント
export OTEL_JAVAAGENT_LOGGING="none" # Disable Otel logs to prevent interference with application logs
export OTEL_SERVICE_NAME="myproject"
export OTEL_TRACES_EXPORTER="otlp" # Send trace data using OTLP protocol
export OTEL_EXPORTER_OTLP_ENDPOINT="http://localhost:4317" # Address of the OpenTelemetry Collector

java -jar myproject-0.0.1-SNAPSHOT.jar
  1. Spring Boot Example Serviceにアクセスしてトレースデータを生成する

curl localhost:8080を実行すると、helloサービスへの呼び出しが発生します。OpenTelemetry Java Agentは自動的にトレースデータを生成し、OpenTelemetry Collectorに送信します。その後、設定されたDoris Exporterを通じてトレースデータがDorisTable（デフォルトはotel.otel_traces）に書き込まれます。

3. トレースクエリ​

トレースクエリでは通常、Grafanaなどの視覚的クエリインターフェースを使用します。

  • 時間範囲とサービス名でフィルタリングしてトレースサマリーを表示します。これには遅延分布チャートや詳細な個別トレースが含まれます。

    トレース List

  • リンクをクリックしてトレースの詳細を表示します。

    トレース Detail