メインコンテンツまでスキップ

Console経由でのデータインポート

このガイドでは、Consoleビジュアルインターフェースを使用してオブジェクトストレージ(AWS S3、Google Cloud Storage、Azure Blob Storage)からVeloDBにデータをインポートする手順を説明します。

前提条件

開始する前に、以下を確認してください:

  • データファイルを含むオブジェクトストレージバケット
  • アクセス認証情報(Access Key IDとSecret Access Key)
  • アクティブなクラスターを持つVeloDB Cloudアカウント(Quick Startを参照)

サンプルデータでの試行

以下の認証情報を使用して、サンプルデータセットでS3インポートを試してください:

FieldValue
AKAKIA3AUKURBS74337SNB
SKygbR1HGNvMZDTo4DNUWJx0mblpMTF+QpBCCBfxFF
Object Storage Pathhttps://velodb-import-data-us-east-1.s3.us-east-1.amazonaws.com/ssb-flat-sf1/*.parquet

このサンプルデータセットには**SSB(Star Schema Benchmark)**データが含まれています。これは分析データベースで広く使用されているベンチマークです。このデータセットには、注文、顧客、サプライヤー、製品をカバーする42列の非正規化された販売データの約600万行が含まれています。

SSBデータセットスキーマ(42列)
Column GroupColumns
Orderlo_orderkey, lo_linenumber, lo_orderdate, lo_commitdate, lo_orderpriority, lo_shippriority, lo_shipmode, lo_year, lo_month, lo_weeknum
Metricslo_quantity, lo_extendedprice, lo_discount, lo_revenue, lo_supplycost, lo_tax
Dated_datekey, d_dayofweek, d_month, d_yearmonth
Customerc_custkey, c_name, c_nation, c_region, c_city, c_mktsegment
Suppliers_suppkey, s_name, s_nation, s_region, s_city
Productp_partkey, p_name, p_brand, p_category, p_mfgr, p_color, p_type, p_size, p_container
ヒント

これは読み取り専用のサンプルデータです。以下のチュートリアル手順に従って使用できます。

ステップ1: 接続

VeloDB ConsoleサイドバーでData > Importに移動し、Create newをクリックしてObject Storage S3を選択します。

Step 1: Connection

設定

FieldDescription
Task Nameこのインポートタスクの一意な名前(例:sales_datauser_logs
Comment(オプション) インポートタスクの説明
AuthenticationAccess Key認証を選択
AKあなたのAccess Key ID(例:AKIAIOSFODNN7EXAMPLE
SKあなたのSecret Access Key
Object Storage PathデータへのURL(以下の形式を参照)

Object Storage Path形式

https://<bucket-name>.s3.<region>.amazonaws.com/<path>/<filename>

例:

  • 単一ファイル: https://my-bucket.s3.us-west-1.amazonaws.com/data/orders.csv
  • ワイルドカードを使用した複数ファイル: https://my-bucket.s3.us-west-1.amazonaws.com/data/*.csv
  • Parquetファイル: https://my-bucket.s3.us-west-1.amazonaws.com/warehouse/*.parquet
警告

最適なパフォーマンスを得るために、オブジェクトストレージバケットはVeloDBクラスターと同じリージョンにある必要があります。

Nextをクリックして続行します。

ステップ2: 受信データ

VeloDBがデータファイルを解析する方法を設定します。

Step 2: Incoming Data

ファイル設定

フィールド説明
File Typeファイル形式を選択: CSV、Parquet、ORC、またはJSON
File Compression自動検出または指定: GZ、BZ2、LZ4、LZO、DEFLATE、ZSTD、ZLIB
Specify Delimiter列区切り文字(CSVの場合は,、TSVの場合は\t
Encloseテキストフィールドの引用符文字(通常は空のまま)
Escapeエスケープ文字(通常は空のまま)
Trim Double Quotes値から引用符を削除するかどうか
File Sizeサイズ制限を設定するか、Unlimitedのまま

読み込み設定

フィールド説明
Strict ModeON = エラーのある行を拒否、OFF = 不正な行をスキップ
備考

標準的なCSVファイルの場合、デフォルト設定で通常問題ありません。解析エラーを避けるため、EncloseEscapeは空のままにしてください。

Nextをクリックして続行します。

ステップ3: テーブル設定

データをプレビューし、送信先テーブルを設定します。

Step 3: Configure Table

データプレビュー

コンソールにはデータのプレビューが表示されます:

  • 自動検出された列名(c1、c2、c3、...またはCSVヘッダー行から)
  • サンプルデータ行
  • 推定された列タイプ

データ読み込み先

オプション説明
New Table自動生成されたスキーマで新しいテーブルを作成
Existing Table既存のVeloDBテーブルに読み込み

テーブル設定

フィールド説明
Databaseドロップダウンからターゲットデータベースを選択
Table Name新しいテーブルの名前(例: ordersuser_eventsproducts

ステップ4: 詳細設定

テーブルモデルと分散設定を構成します。

Step 4: Advanced Settings

テーブルモデル

モデル使用例
DUPLICATE生データ、アドホッククエリ - 書き込まれた全ての行を保持イベントログ、クリックストリーム、生トランザクション
UNIQUE更新を伴うデータ - キーごとに最新の行のみを保持ユーザープロファイル、商品カタログ、ディメンションテーブル
AGGREGATE事前集約されたメトリクス - キー列で自動集約売上サマリー、時系列メトリクス、カウンター

分散設定

フィールド説明
Sorting Keyデータ順序付け用の列 - WHERE句やJOINで頻繁に使用される列を選択
Partition時間ベースのパーティショニングを有効化(時系列データに推奨)
Bucket Keyノード間でのハッシュ分散用の列
Bucket Numberデータバケット数(ほとんどの場合AUTOが推奨)
Properties追加のテーブルプロパティ(通常は空のまま)

適切な設定の選択

  • テーブルモデル:
    • 生データの保持と柔軟なアドホッククエリにはDUPLICATE
    • レコードを更新する必要がある場合はUNIQUE(キーごとに最新を保持)
    • 事前計算されたサマリーにはAGGREGATE(ストレージを削減、クエリを高速化)
  • Sorting Key: WHERE句やJOINで頻繁に使用される列
  • Bucket Key: データを均等に分散するための高カーディナリティ列

Nextをクリックして続行し、Submitをクリックしてインポートを開始します。

ステップ5: インポート監視

送信後、インポートリストにインポートタスクが表示されます。

Step 5: Import List

インポートの検証

インポートが完了したら、SQLエディターでデータを検証します:

-- Check row count
SELECT COUNT(*) FROM your_database.your_table;

-- Preview data
SELECT * FROM your_database.your_table LIMIT 10;

-- Check table schema
DESC your_database.your_table;

SSBデータのサンプルクエリ

サンプルのSSBデータセットをインポートした場合は、以下の分析クエリを試してください:

-- Total revenue by year
SELECT
lo_year,
SUM(lo_revenue) as total_revenue
FROM ssb_flat
GROUP BY lo_year
ORDER BY lo_year;

-- Top 10 customers by revenue
SELECT
c_name,
c_nation,
SUM(lo_revenue) as total_revenue
FROM ssb_flat
GROUP BY c_name, c_nation
ORDER BY total_revenue DESC
LIMIT 10;

-- Revenue by region and year
SELECT
c_region,
lo_year,
SUM(lo_revenue) as revenue,
COUNT(*) as order_count
FROM ssb_flat
GROUP BY c_region, lo_year
ORDER BY c_region, lo_year;

-- Product category performance
SELECT
p_category,
p_brand,
SUM(lo_revenue) as revenue,
AVG(lo_discount) as avg_discount
FROM ssb_flat
GROUP BY p_category, p_brand
ORDER BY revenue DESC
LIMIT 20;

トラブルシューティング

問題解決策
"Can not found files"オブジェクトストレージのパス形式と末尾のスラッシュを確認してください
"Access Denied"AK/SK認証情報とIAMアクセス許可を確認してください
Connection timeoutバケットがVeloDBと同じリージョンにあることを確認してください
Parsing errorsEncloseおよびEscapeフィールドを空のままにしてください
Wrong column types事前定義されたスキーマでExisting Tableを使用してください