バージョン: 4.x

AWS Glue

この文書では、CREATE CATALOGを通じてIceberg tablesまたはHive tablesにアクセスするためにAWS Glue Catalogを使用する際のパラメータ設定について説明します。

サポートされているGlue Catalogタイプ

AWS Glue Catalogは現在3つのタイプのCatalogをサポートしています：

Catalogタイプ	タイプ識別子 (`type`)	説明
Hive	glue	Hive Metastoreに接続するためのCatalog
Iceberg	glue	Icebergテーブル形式に接続するためのCatalog
Iceberg	rest	Glue Rest Catalog経由でIcebergテーブル形式に接続するためのCatalog

この文書では、ユーザーの設定を容易にするため、各タイプの詳細なパラメータ説明を提供します。

共通パラメータ概要

パラメータ名	説明	必須	デフォルト値
`glue.region`	AWS Glueリージョン、例：`us-east-1`	はい	なし
`glue.endpoint`	AWS Glueエンドポイント、例：`https://glue.us-east-1.amazonaws.com`	はい	なし
`glue.access_key`	AWS Access Key ID	はい	空
`glue.secret_key`	AWS Secret Access Key	はい	空
`glue.catalog_id`	Glue Catalog ID（まだサポートされていません）	いいえ	空
`glue.role_arn`	GlueにアクセスするためのIAM Role ARN（3.1.2+以降でサポート）	いいえ	空
`glue.external_id`	GlueにアクセスするためのIAM External ID（3.1.2+以降でサポート）	いいえ	空

認証パラメータ

Glueにアクセスするには認証情報が必要で、以下の2つの方法をサポートしています：

Access Key認証

glue.access_keyとglue.secret_keyによって提供されるAccess Keyを通じてGlueへのアクセスを認証します。
IAM Role認証（3.1.2+以降でサポート）

glue.role_arnによって提供されるIAM Roleを通じてGlueへのアクセスを認証します。

この方法ではDorisがAWS EC2にデプロイされている必要があり、EC2インスタンスはGlueにアクセスする権限を持つIAM Roleにバインドされている必要があります。

External ID経由でのアクセスが必要な場合は、glue.external_idも設定する必要があります。

注意：

2つの方法のうち少なくとも1つは設定する必要があります。両方の方法が設定されている場合、Access Key認証が優先されます。

例：

```sql
CREATE CATALOG hive_glue_catalog PROPERTIES (
  'type' = 'hms',
  'hive.metastore.type' = 'glue',
  'glue.region' = 'us-east-1',
  'glue.endpoint' = 'https://glue.us-east-1.amazonaws.com',
  -- Using Access Key authentication
  'glue.access_key' = '<YOUR_ACCESS_KEY>',
  'glue.secret_key' = '<YOUR_SECRET_KEY>'
  -- Or using IAM Role authentication
  -- 'glue.role_arn' = '<YOUR_ROLE_ARN>',
  -- 'glue.external_id' = '<YOUR_EXTERNAL_ID>'
);
```

AWSの認証と認可の設定手順については、aws-authentication-and-authorizationドキュメントを参照してください。

Hive Glue Catalog

Hive Glue CatalogはAWS GlueのHive Metastore互換インターフェースを通じてHiveテーブルにアクセスするために使用されます。設定は以下のとおりです：

パラメータ名	説明	必須	デフォルト値
`type`	`hms`に固定	はい	なし
`hive.metastore.type`	`glue`に固定	はい	なし
`glue.region`	AWS Glueリージョン、例：`us-east-1`	はい	なし
`glue.endpoint`	AWS Glueエンドポイント、例：`https://glue.us-east-1.amazonaws.com`	はい	なし
`glue.access_key`	AWS Access Key ID	いいえ	空
`glue.secret_key`	AWS Secret Access Key	いいえ	空
`glue.catalog_id`	Glue Catalog ID（まだサポートされていません）	いいえ	空
`glue.role_arn`	GlueにアクセスするためのIAM Role ARN	いいえ	空
`glue.external_id`	GlueにアクセスするためのIAM External ID	いいえ	空

例

CREATE CATALOG hive_glue_catalog PROPERTIES (
  'type' = 'hms',
  'hive.metastore.type' = 'glue',
  'glue.region' = 'us-east-1',
  'glue.endpoint' = 'https://glue.us-east-1.amazonaws.com',
  'glue.access_key' = 'YOUR_ACCESS_KEY',
  'glue.secret_key' = 'YOUR_SECRET_KEY'
);

Iceberg Glue Catalog

Iceberg Glue CatalogはGlue Clientを通じてGlueにアクセスします。設定は以下の通りです：

パラメータ名	説明	必須	デフォルト値
`type`	`iceberg`に固定	はい	なし
`iceberg.catalog.type`	`glue`に固定	はい	なし
`warehouse`	Icebergデータウェアハウスパス、例：`s3://my-bucket/iceberg-warehouse/`	はい	s3://doris
`glue.region`	AWS Glueリージョン、例：`us-east-1`	はい	なし
`glue.endpoint`	AWS Glueエンドポイント、例：`https://glue.us-east-1.amazonaws.com`	はい	なし
`glue.access_key`	AWS Access Key ID	いいえ	空
`glue.secret_key`	AWS Secret Access Key	いいえ	空
`glue.catalog_id`	Glue Catalog ID（まだサポートされていません）	いいえ	空
`glue.role_arn`	GlueにアクセスするためのIAM Role ARN（まだサポートされていません）	いいえ	空
`glue.external_id`	GlueにアクセスするためのIAM External ID（まだサポートされていません）	いいえ	空

例

CREATE CATALOG iceberg_glue_catalog PROPERTIES (
  'type' = 'iceberg',
  'iceberg.catalog.type' = 'glue',
  'glue.region' = 'us-east-1',
  'glue.endpoint' = 'https://glue.us-east-1.amazonaws.com',
  'glue.access_key' = '<YOUR_ACCESS_KEY>',
  'glue.secret_key' = '<YOUR_SECRET_KEY>'
);

Iceberg Glue Rest Catalog

Iceberg Glue Rest CatalogはGlue Rest Catalogインターフェースを通じてGlueにアクセスします。現在はAWS S3 Table Bucketに保存されたIcebergテーブルのみをサポートしています。設定は以下の通りです：

パラメータ名	説明	必須	デフォルト値
`type`	`iceberg`で固定	はい	なし
`iceberg.catalog.type`	`rest`で固定	はい	なし
`iceberg.rest.uri`	Glue Restサービスエンドポイント、例：`https://glue.ap-east-1.amazonaws.com/iceberg`	はい	なし
`warehouse`	Icebergデータウェアハウスパス、例：`<account_id>:s3tablescatalog/<bucket_name>`	はい	なし
`iceberg.rest.sigv4-enabled`	V4署名フォーマットを有効化、`true`で固定	はい	なし
`iceberg.rest.signing-name`	署名タイプ、`glue`で固定	はい	空
`iceberg.rest.access-key-id`	Glueへのアクセス用Access Key（S3 Bucketへのアクセスにも使用）	はい	空
`iceberg.rest.secret-access-key`	Glueへのアクセス用Secret Key（S3 Bucketへのアクセスにも使用）	はい	空
`iceberg.rest.signing-region`	AWS Glueリージョン、例：`us-east-1`	はい	空

例

CREATE CATALOG glue_s3 PROPERTIES (
  'type' = 'iceberg',
  'iceberg.catalog.type' = 'rest',
  'iceberg.rest.uri' = 'https://glue.<region>.amazonaws.com/iceberg',
  'warehouse' = '<acount_id>:s3tablescatalog/<s3_table_bucket_name>',
  'iceberg.rest.sigv4-enabled' = 'true',
  'iceberg.rest.signing-name' = 'glue',
  'iceberg.rest.access-key-id' = '<ak>',
  'iceberg.rest.secret-access-key' = '<sk>',
  'iceberg.rest.signing-region' = '<region>'
);

Permission Policies

使用シナリオに応じて、読み取り専用と読み書きポリシーに分けることができます。

1. Read-Only Permissions

Glue Catalogからのデータベースとテーブル情報の読み取りのみを許可します。

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "GlueCatalogReadOnly",
      "Effect": "Allow",
      "Action": [
        "glue:GetCatalog",
        "glue:GetDatabase",
        "glue:GetDatabases",
        "glue:GetTable",
        "glue:GetTables",
        "glue:GetPartitions"
      ],
      "Resource": [
        "arn:aws:glue:<region>:<account-id>:catalog",
        "arn:aws:glue:<region>:<account-id>:database/*",
        "arn:aws:glue:<region>:<account-id>:table/*/*"
      ]
    }
  ]
}

2. Read-Write権限

Read-Only権限をベースとし、データベースとテーブルの作成/修正/削除を許可します。

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "GlueCatalogReadWrite",
      "Effect": "Allow",
      "Action": [
        "glue:GetCatalog",
        "glue:GetDatabase",
        "glue:GetDatabases",
        "glue:GetTable",
        "glue:GetTables",
        "glue:GetPartitions",
        "glue:CreateDatabase",
        "glue:UpdateDatabase",
        "glue:DeleteDatabase",
        "glue:CreateTable",
        "glue:UpdateTable",
        "glue:DeleteTable"
      ],
      "Resource": [
        "arn:aws:glue:<region>:<account-id>:catalog",
        "arn:aws:glue:<region>:<account-id>:database/*",
        "arn:aws:glue:<region>:<account-id>:table/*/*"
      ]
    }
  ]
}

注意事項

プレースホルダーの置き換え
- <region> → あなたのAWSリージョン（例：us-east-1）
- <account-id> → あなたのAWSアカウントID（12桁の数字）
最小権限の原則
- クエリのみを実行する場合は、書き込み権限を付与しないでください。
- * を特定のデータベース/テーブルARNに置き換えることで、権限をさらに制限できます。
S3権限
- 上記のポリシーはGlue Catalogのみを対象としています。
- データファイルを読み取る必要がある場合は、追加のS3権限（s3:GetObject、s3:ListBucketなど）が必要です。

サポートされているGlue Catalogタイプ​

共通パラメータ概要​

認証パラメータ​

Hive Glue Catalog​

例​

Iceberg Glue Catalog​

例​

Iceberg Glue Rest Catalog​

例​

Permission Policies​

1. Read-Only Permissions​

2. Read-Write権限​

注意事項​