メインコンテンツまでスキップ
バージョン: 4.x

ICEBERG_META

デスクリプション

iceberg_meta Table値関数(tvf)は、icebergメタデータ、操作履歴、Tableのスナップショット、ファイルメタデータなどを読み取るために使用します。

Syntax

ICEBERG_META(
"table" = "<table>",
"query_type" = "<query_type>"
);

必須パラメータ

iceberg_metaTable関数(tvf)の各パラメータは"key"="value"のペアです。

フィールド説明
<table>表示したいIcebergTableの完全なTable名。database_name.table_nameの形式で指定する必要があります。
<query_type>表示したいメタデータのタイプ。サポートされるタイプ:
snapshots:スナップショット情報
manifests:現在のスナップショットのマニフェストファイル
all_manifests:すべての有効なスナップショットのマニフェストファイル(バージョン4.0.4からサポート)
files:現在のスナップショットのファイル情報
data_files:現在のスナップショットのデータファイル
delete_files:現在のスナップショットの削除ファイル
partitions:パーティション情報
refs:参照情報(ブランチとタグ)
history:履歴レコード
metadata_log_entries:メタデータログエントリ

  • スナップショット用のicebergTableメタデータを読み取ってアクセスします。

    select * from iceberg_meta("table" = "ctl.db.tbl", "query_type" = "snapshots");

desc functionと組み合わせて使用できます:

```sql
desc function iceberg_meta("table" = "ctl.db.tbl", "query_type" = "snapshots");
```
  • icebergTableのスナップショットを検査する:

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "snapshots");
    +------------------------+----------------+---------------+-----------+-------------------+------------------------------+
    | committed_at | snapshot_id | parent_id | operation | manifest_list | summary |
    +------------------------+----------------+---------------+-----------+-------------------+------------------------------+
    | 2022-09-20 11:14:29 | 64123452344 | -1 | append | hdfs:/path/to/m1 | {"flink.job-id":"xxm1", ...} |
    | 2022-09-21 10:36:35 | 98865735822 | 64123452344 | overwrite | hdfs:/path/to/m2 | {"flink.job-id":"xxm2", ...} |
    | 2022-09-21 21:44:11 | 51232845315 | 98865735822 | overwrite | hdfs:/path/to/m3 | {"flink.job-id":"xxm3", ...} |
    +------------------------+----------------+---------------+-----------+-------------------+------------------------------+
  • snapshot_id でフィルタリング:

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "snapshots") where snapshot_id = 98865735822;
    +------------------------+----------------+---------------+-----------+-------------------+------------------------------+
    | committed_at | snapshot_id | parent_id | operation | manifest_list | summary |
    +------------------------+----------------+---------------+-----------+-------------------+------------------------------+
    | 2022-09-21 10:36:35 | 98865735822 | 64123452344 | overwrite | hdfs:/path/to/m2 | {"flink.job-id":"xxm2", ...} |
    +------------------------+----------------+---------------+-----------+-------------------+------------------------------+
  • icebergTableのマニフェストを表示する(現在のスナップショットのマニフェストファイル)

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "manifests");
  • icebergTableのall_manifestsを表示する(すべての有効なスナップショットのmanifestファイル、バージョン4.0.4からサポート)

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "all_manifests");
  • iceberg Tableのファイルを表示する(現在のスナップショットのファイル情報)

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "files");
  • iceberg Tableの data_files を表示(現在のスナップショットのデータファイル)

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "data_files");
  • icebergTableのdelete_filesを表示する(現在のスナップショットの削除ファイル)

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "delete_files");
  • iceberg Tableのパーティションを表示する

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "partitions");
  • iceberg Tableの View refs(参照情報)

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "refs");
  • iceberg Tableの履歴を表示する

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "history");
  • icebergTableのmetadata_log_entriesを表示する

    select * from iceberg_meta("table" = "iceberg_ctl.test_db.test_tbl", "query_type" = "metadata_log_entries");

IcebergシステムTableに関するより詳細な情報については、Iceberg カタログ システム Tablesを参照してください。