メインコンテンツまでスキップ
バージョン: 4.x

Aurora Serverless v2 PostgreSQL Source Setup for VeloDB CDC

このガイドでは、Flink CDCを使用してVeloDBとCDC(Change Data Capture)同期を行うためのAurora Serverless v2 PostgreSQLの設定について説明します。

サポートされているバージョン

DatabaseVersions
Aurora Serverless v2 PostgreSQL13.x, 14.x, 15.x, 16.x

参照: Aurora PostgreSQL CDC


論理レプリケーションの有効化

Auroraはpostgresql.confの直接編集ではなく、パラメータグループを使用します。

1. パラメータグループの作成

RDS > Parameter groupsに移動して、既存のパラメータグループを表示します:

Parameter Groups List

論理レプリケーションが有効化されたカスタムクラスターパラメータグループを作成します:

Create Parameter Group

重要: Auroraクラスターには、タイプとしてDB Cluster Parameter Groupを選択してください(DB Parameter Groupではありません)。

aws rds create-db-cluster-parameter-group \
--db-cluster-parameter-group-name aurora-pg-cdc \
--db-parameter-group-family aurora-postgresql16 \
--description "Aurora PostgreSQL with CDC enabled"

aws rds modify-db-cluster-parameter-group \
--db-cluster-parameter-group-name aurora-pg-cdc \
--parameters "ParameterName=rds.logical_replication,ParameterValue=1,ApplyMethod=pending-reboot"

または、AWS Consoleでパラメータグループを編集し、rds.logical_replication1に設定することで設定できます:

Edit Parameter Group - rds.logical_replication

2. クラスターに適用

aws rds modify-db-cluster \
--db-cluster-identifier your-cluster-name \
--db-cluster-parameter-group-name aurora-pg-cdc \
--apply-immediately

3. クラスターの再起動

rds.logical_replicationを有効にするには再起動が必要です:

aws rds reboot-db-instance --db-instance-identifier your-instance-name

設定の確認

SHOW rds.logical_replication;

期待される結果:

 rds.logical_replication
-------------------------
on
(1 row)

User Permissions

Auroraは SUPERUSER 属性の代わりに特定のロールを必要とします。

Create CDC User

-- Create user (no REPLICATION or SUPERUSER attributes)
CREATE USER cdc_user WITH LOGIN PASSWORD 'your_password';

-- Grant Aurora-specific roles
GRANT rds_replication TO cdc_user;
GRANT rds_superuser TO cdc_user;
GRANT pg_read_all_data TO cdc_user;

-- Grant database-level permissions
GRANT CONNECT ON DATABASE your_database TO cdc_user;
GRANT ALL ON DATABASE your_database TO cdc_user;

-- Grant schema permissions
GRANT USAGE ON SCHEMA public TO cdc_user;
GRANT SELECT ON ALL TABLES IN SCHEMA public TO cdc_user;
ALTER DEFAULT PRIVILEGES IN SCHEMA public GRANT SELECT ON TABLES TO cdc_user;

必要な Aurora ロール

ロール目的
rds_replicationレプリケーションスロットの作成と WAL の読み取り
rds_superuserパブリケーションの管理(CDC に必要)
pg_read_all_data全スキーマの全Tableの読み取り

注意: Aurora マスターユーザーは完全な SUPERUSER 権限を持ちません。代わりにロールを使用してください。

ユーザー権限の確認

SELECT r.rolname, ARRAY(
SELECT b.rolname
FROM pg_catalog.pg_auth_members m
JOIN pg_catalog.pg_roles b ON (m.roleid = b.oid)
WHERE m.member = r.oid
) as memberof
FROM pg_roles r
WHERE r.rolname = 'cdc_user';

期待される結果:

  rolname  |                     memberof
-----------+--------------------------------------------------
cdc_user | {pg_read_all_data,rds_superuser,rds_replication}
(1 row)

Publication Setup

masterユーザー(postgres)としてpublicationを作成します:

-- As postgres user
CREATE PUBLICATION velodb_publication FOR ALL TABLES;

公開の確認:

SELECT * FROM pg_publication WHERE pubname = 'velodb_publication';

重要: Auroraを使用する場合は、Flink CDCに--postgres-conf publication.name=velodb_publicationを渡してください。


REPLICA IDENTITY (DELETEに必要)

ALTER TABLE your_table_name REPLICA IDENTITY FULL;

Connection Test

CDC ユーザーが以下を実行できることを確認してください:

  1. Connect:
psql -h your-cluster.cluster-xxxxx.us-west-2.rds.amazonaws.com -p 5432 -U cdc_user -d your_database
  1. パブリケーション一覧表示:
SELECT * FROM pg_publication;
  1. Tableの読み取り:
SELECT COUNT(*) FROM your_table;

次のステップ

Aurora Serverless v2がCDC用に設定されたら、Flink CDC Ingestion Guideに従ってVeloDBへのリアルタイム同期を設定してください。

忘れずに追加してください AuroraでFlink CDCを実行する際は --postgres-conf publication.name=velodb_publication を指定してください。


ソース