取り込みの設定
インストール直後のデータレイクはまだ空です。どのデータベースも選択されていません。 最初のデータが届くまでに必要な、最小限の設定を説明します。
1. ソースを選ぶ
Section titled “1. ソースを選ぶ”Origens(ソース)でスナップショットイベントの受信を有効にし、どのクラスターが データレイクを構成するかを選択します。自動スナップショット、手動スナップショット、 またはその両方から選べます。
2. 最初のスナップショットを実行する
Section titled “2. 最初のスナップショットを実行する”ここには意外な順序があります。最初のスナップショットは構造を明らかにするためだけの ものです。 データベースとテーブルの一覧はエクスポート自体から得られ、データベースへの 接続からは得られません。だからこそ認証情報もソースへのネットワークアクセスも不要です。 その代わり、Data Pump はエクスポートを 1 度見るまで何が存在するかを知りません。
バックアップウィンドウを待つか、待ちたくない場合は手動でスナップショットを取得します。
3. データベースを選ぶ
Section titled “3. データベースを選ぶ”Bancos(データベース)に、エクスポートで見つかったデータベースが選択可能な状態で 表示されます。選択したものだけが取り込まれます。
データレイク上での名前を変更する
Section titled “データレイク上での名前を変更する”選択した各データベースには、データレイク上で使われる名前が表示されます。クリックすると
変更できます。データベース名はカタログ化されるテーブルの接頭辞になります。別名を
vendas にすると、payment テーブルは vendas.payment になります。
同じことがテーブル単位でも可能です。テーブルを選択 を開くと、各テーブルに変更先の
名前が表示され、こちらもクリックできます。tb_pgto を pagamentos にするといった具合です。
テーブルをフィルターする
Section titled “テーブルをフィルターする”テーブルのリストには 2 つの動作があり、その違いはデータベースに 新しい テーブルが 現れたときに表れます。
| モード | リストが保持するもの | 新しいテーブル |
|---|---|---|
| 除外 | 取り込ま ない もの | 自動的に取り込まれる |
| 包含 | 取り込むもの | 選択するまで対象外 |
変更が少ないほうを選んでください。データベースのほぼ全体が必要なら除外モードを使えば、 テーブルが増えても手を加える必要がありません。少数のテーブルだけが必要なら包含モードを 使えば、想定外のものを取り込む心配がありません。
4. 確認する
Section titled “4. 確認する”次のスナップショットで、パイプラインが完全に実行されます。Execuções(実行履歴)で 各ステップと更新されたテーブルを確認でき、Datalake(データレイク)では カタログ化されたテーブルを、カラムと行数とともに確認できます。
何も届いていない場合は 問題が起きたとき をご覧ください。
待たずに再処理する
Section titled “待たずに再処理する”すでに S3 にあるエクスポートは、新しいスナップショットを取得せずに再取り込みできます。 Extrações(抽出)で、各エクスポートに再処理のアクションがあります。別名、フィルター、 パーティションを変更した後に便利です。