MYSQL LOAD
説明
MySQLクライアントを使用して、ローカルデータファイルをDorisにインポートします。MySQL Loadは同期インポート方式であり、実行後すぐにインポート結果を返します。LOAD DATA文の戻り結果に基づいて、インポートが成功したかどうかを判断できます。MySQL Loadは一連のインポートタスクの原子性を保証でき、すべてのインポートが成功するか、すべて失敗するかのいずれかになります。
構文
LOAD DATA
[ LOCAL ]
INFILE "<file_name>"
INTO TABLE "<tbl_name>"
[ PARTITION (<partition_name> [, ... ]) ]
[ COLUMNS TERMINATED BY "<column_separator>" ]
[ LINES TERMINATED BY "<line_delimiter>" ]
[ IGNORE <number> {LINES | ROWS} ]
[ (<col_name_or_user_var> [, ... ] ) ]
[ SET (col_name={<expr> | DEFAULT} [, col_name={<expr> | DEFAULT}] ...) ]
[ PROPERTIES ("<key>" = "<value>" [ , ... ]) ]
必須パラメータ
1. <file_name>
ローカルファイルのパスを指定します。相対パスまたは絶対パスのいずれかを使用できます。現在、単一ファイルのみがサポートされており、複数ファイルはサポートされていません。
2. <tbl_name>
Table名には、例に示すようにデータベース名を含めることができます。データベース名が省略された場合、現在のユーザーのデータベースが使用されます。
オプションパラメータ
1. LOCAL
LOCALを指定すると、クライアントからファイルを読み取ることを示します。省略した場合は、FEサーバーのローカルストレージからファイルを読み取ります。FEサーバーからファイルをインポートする機能は、デフォルトで無効になっています。この機能を有効にするには、FEノードでmysql_load_server_secure_pathを設定してセキュアパスを指定する必要があります。
2. <partition_name>
インポート用に複数のパーティションを指定できます。カンマで区切ります。
3. <column_separator>
カラム区切り文字を指定します。
4. <line_delimiter>
行区切り文字を指定します。
5. IGNORE <number> { LINES | ROWS }
ユーザーはCSVファイルのヘッダーまたは任意の行数をスキップできます。この構文は
IGNORE num ROWSで置き換えることもできます。
6. <col_name_or_user_var>
カラムマッピング構文。具体的なパラメータについては、インポート時のデータ変換のカラムマッピングセクションを参照してください。
7. properties ("<key>"="<value>",...)
| パラメータ | パラメータ説明 |
|---|---|
| max_filter_ratio | フィルタリング可能なデータ(データの不規則性などの理由による)の最大許容比率。デフォルトは許容度ゼロです。 |
| timeout | インポートタイムアウト期間を秒で指定します。デフォルトは600秒で、有効範囲は1秒から259,200秒です。 |
| strict_mode | ユーザーはこのインポートに対してstrictモードを有効にするかどうかを指定できます。デフォルトは無効です。 |
| timezone | このインポートのタイムゾーンを指定します。デフォルトは東八時間帯です。このパラメータは、インポートに関わるすべてのタイムゾーン関連関数の結果に影響します。 |
| exec_mem_limit | インポートメモリ制限。デフォルトは2GBをバイト単位で指定します。 |
| trim_double_quotes | boolean型でデフォルト値はfalseです。trueに設定すると、インポートファイルの各フィールドの最外側の二重引用符をトリムすることを意味します。 |
| enclose | 囲み文字。CSVデータフィールドに行区切り文字またはカラム区切り文字が含まれている場合、偶発的な切り詰めを防ぐために、単一バイト文字を囲み文字として保護用に指定できます。例えば、カラム区切り文字が","で囲み文字が"'"、データが"a,'b,c'"の場合、"b,c"は1つのフィールドとして解析されます。注意:encloseが""に設定されている場合、trim_double_quotesをtrueに設定する必要があります。 |
| escape | エスケープ文字。CSVフィールド内で囲み文字と同じ文字をエスケープするために使用されます。例えば、データが"a,'b,'c'"で囲み文字が"'"、"b,'c"を1つのフィールドとして解析したい場合、""などの単一バイトエスケープ文字を指定し、データを"a,'b,'c'"に変更する必要があります。 |
アクセス制御要件
このSQLコマンドを実行するユーザーは、少なくとも以下の権限を持つ必要があります:
| 権限 | オブジェクト | 注記 |
|---|---|---|
| LOAD_PRIV | Table | 指定されたデータベースTableのインポート権限。 |
使用上の注意
- MySQL Load文は
LOAD DATA構文で始まり、LABELの指定は不要です。
例
-
クライアントのローカルファイル
testDataからデータベースtestDbのTabletestTblにデータをインポートします。タイムアウトを100秒に指定します。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
PROPERTIES ("timeout"="100") -
サーバーのローカルファイル
/root/testDataからデータをインポートします(FE設定mysql_load_server_secure_pathを/rootに設定する必要があります)。データベースtestDb内のTabletestTblにインポートし、タイムアウトを100秒に指定します。LOAD DATA
INFILE '/root/testData'
INTO TABLE testDb.testTbl
PROPERTIES ("timeout"="100") -
クライアントのローカルファイル
testDataから、データベースtestDb内のTabletestTblにデータをインポートします。エラー率20%まで許容します。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
PROPERTIES ("max_filter_ratio"="0.2") -
クライアントのローカルファイル
testDataからデータベースtestDb内のTabletestTblにデータをインポートし、エラー率20%を許可し、ファイルの列名を指定します。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
(k2, k1, v1)
PROPERTIES ("max_filter_ratio"="0.2") -
ローカルファイル
testDataからデータをインポートし、データベースtestDb内のTabletestTblのパーティションp1とp2に格納します。エラー率は20%まで許可されます。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
PARTITION (p1, p2)
PROPERTIES ("max_filter_ratio"="0.2") -
ローカルのCSVファイル
testDataから、行区切り文字0102、列区切り文字0304を使用して、データベースtestDb内のTabletestTblにデータをインポートします。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
COLUMNS TERMINATED BY '0304'
LINES TERMINATED BY '0102' -
ローカルファイル
testDataからデータをインポートし、データベースtestDbのTabletestTblのパーティションp1およびp2に格納します。最初の3行はスキップします。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
PARTITION (p1, p2)
IGNORE 3 LINES -
strict modeフィルタリングでデータをインポートし、タイムゾーンを
Africa/Abidjanに設定します。LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
PROPERTIES ("strict_mode"="true", "timezone"="Africa/Abidjan") -
インポートメモリを10GBに制限し、データインポートのタイムアウトを10分に設定します。
LOAD DATA LOCAL
INFILE 'testData'
INTO TABLE testDb.testTbl
PROPERTIES ("exec_mem_limit"="10737418240", "timeout"="600")