Magic xpi からCData ODBC Driver for Azure Data Lake Storage を使ってAzure Data Lake Storage につないでみた

詳細情報をご希望ですか?

無償トライアル:

ダウンロードへ

製品の詳細情報へ:

Azure Data Lake Storage ODBC Driver

Azure Data Lake Storage ODBC Driver を使って、ODBC 接続をサポートするあらゆるアプリケーション・ツールからAzure Data Lake Storage にデータ連携。

Azure Data Lake Storage にデータベースと同感覚でアクセスして、Azure Data Lake Storage データに使い慣れたODBC インターフェースで双方向連携。



CData ODBC Driver for Azure Data Lake Storage を使って、Azure Data Lake Storage へのデータ連携をMagic xpi から行うことができます。Magic xpi の「データマッパー」機能を使って、Azure Data Lake Storage のデータをMagic xpi で使ってみましょう。

ノーコードでデータを連携・同期・統合するデータ連携(EAI)ツール「Magic xpi」には、ODBC でデータベースへ接続する機能が備わっているので、これを使ってAzure Data Lake Storage データ連携を行うことが可能です。 通常、Azure Data Lake Storage などのSaaS として提供されるアプリケーションにはWeb API でアクセスしますが、CData Azure Data Lake Storage ODBC Driver によって、RDB にアクセスするのと同感覚で、Azure Data Lake Storage のデータを扱うことができます。


※製品について詳しい情報をご希望の方は以下からお進みください。

プロジェクトの作成、および、ODBCの接続設定

Magic xpi スタジオにてプロジェクトを作成して、ODBC接続設定を行います。

  1. Magic xpi スタジオを起動してメニューバーからファイル > 新規 を選択します。新規プロジェクトウィンドウが起動したらプロジェクト名を指定して新規プロジェクトを作成します。
  2. メニューバーからプロジェクト > リソース を選択します。リソース設定ウィンドウが起動したら左下の「新規」ボタンをクリックします。
  3. 新規リソースウィンドウにて、リソースタイプを「Database」を選択、リソース名にCDataAzure Data Lake Storageを指定して「OK」ボタンをクリックします。
  4. リソース設定ウィンドウにて、DBMSには「ODBC」、データソース名には、Microsoft ODBC データソースアドミニストレーターのシステムDSNで定義されたデータソース名(DSN)、例えば「CData Azure Data Lake Storage Source」などを設定します。
    Microsoft ODBC データソースアドミニストレーターを使ってDSN を作成および設定する方法は、CData Azure Data Lake Storageのヘルプドキュメントの「はじめに」をご参照ください。

    一般的な接続文字列は次のとおりです:

    • Schema
    • Account
    • FileSystem
    • AccessKey
    Microsoft ODBC データソースアドミニストレーターで必要なプロパティを設定する方法は、ヘルプドキュメントの「はじめに」をご参照ください。

    Authenticating to a Gen 1 DataLakeStore Account

    Gen 1 uses OAuth 2.0 in Azure AD for authentication.

    For this, an Active Directory web application is required. You can create one as follows:

    1. Sign in to your Azure Account through the .
    2. Select "Azure Active Directory".
    3. Select "App registrations".
    4. Select "New application registration".
    5. Provide a name and URL for the application. Select Web app for the type of application you want to create.
    6. Select "Required permissions" and change the required permissions for this app. At a minimum, "Azure Data Lake" and "Windows Azure Service Management API" are required.
    7. Select "Key" and generate a new key. Add a description, a duration, and take note of the generated key. You won't be able to see it again.

    To authenticate against a Gen 1 DataLakeStore account, the following properties are required:

    • Schema: Set this to ADLSGen1.
    • Account: Set this to the name of the account.
    • OAuthClientId: Set this to the application Id of the app you created.
    • OAuthClientSecret: Set this to the key generated for the app you created.
    • TenantId: Set this to the tenant Id. See the property for more information on how to acquire this.
    • Directory: Set this to the path which will be used to store the replicated file. If not specified, the root directory will be used.

    Authenticating to a Gen 2 DataLakeStore Account

    To authenticate against a Gen 2 DataLakeStore account, the following properties are required:

    • Schema: Set this to ADLSGen2.
    • Account: Set this to the name of the account.
    • FileSystem: Set this to the file system which will be used for this account.
    • AccessKey: Set this to the access key which will be used to authenticate the calls to the API. See the property for more information on how to acquire this.
    • Directory: Set this to the path which will be used to store the replicated file. If not specified, the root directory will be used.

    「検証」ボタンをクリックしてデータベースとの接続が成功することを確認して、リソース設定ウィンドウを「OK」ボタンをクリックして終了します。

Azure Data Lake Storage データをCSV ファイルへ出力するフローの作成

Magic xpi スタジオにて、データマッパーコンポーネントを使用してAzure Data Lake Storage データをCSV ファイルへ出力するフローを作成します。

  1. プロジェクト内に作成されたフローを右クリックして、特性を選択します。フロー特性ウィンドウが起動したら自動起動をYesに変更して「OK」ボタンをクリックします。
  2. トリガコンポーネントが「自動起動」に設定されたことを確認します。コンポーネント内のデータマッパーを右側のペインにドラッグ&ドロップします。
  3. データマッパーウィンドウが起動するので「構成」ボタンをクリックします。
  4. 送り元/送り先管理ウィンドウが開くので、送り元のタイプをDatabase、送り先のタイプをフラットファイルに設定します。
  5. 送り元の「特性」ボタンをクリックして、データベーススキーマ特性ウィンドウにてDB オペレーションで「Select」を選択、データベース定義で「CDataAzure Data Lake Storage」を選択して「ウィザード」ボタンをクリックします。
  6. 使用可能テーブルからテーブルを選択して「追加」ボタンをクリックして選択済テーブルに追加されたことを確認して「次へ」ボタンをクリックします。
  7. データベースウィザードにて出力したいカラムを使用可能カラムから「追加」ボタンをクリックして選択済カラムに追加されたことを確認して「次へ」ボタンをクリックします。 Where 句とOrder By 句の定義ウィンドウが表示されるので必要であれば設定して「次へ」ボタンをクリックします。
  8. ウィザードの結果にてSQL が表示されます。誤りがなければ「終了」ボタンをクリックします。
  9. 次に、送り先の「特性」ボタンをクリックして、フラットファイルウィンドウにてデータの送り先で「ファイル」を選択、右横のウィンドウにパス付の出力ファイル名を入力します。 下段の「新規」ボタンを、出力するカラム数分クリックして出力項目を定義します。出力項目に併せて必要に応じて型や桁数を定義してください。
  10. 送り元/送り先管理ウィンドウに戻り「マップ」ボタンをクリックします。
  11. 「マップ」ウィンドウが起動するので、送り元から送り先の項目へのドラッグ&ドロップ操作で線でつなぎます。「OK」ボタンをクリックします。 送り元/送り先管理ウィンドウに戻り「OK」ボタンをクリックします。

Magic xpi スタジオからのテスト実行

Magic xpi スタジオから作成したフローを実行します。

  1. メニューバーからデバッガ > 開く を選択します。チェック処理が実行され正常に終了すると、メニューバーからデバッガ > 実行 が活性化されるので選択します。
  2. フローが実行されて正常に終了すると送り先のフラットファイルウィンドウで指定したファイルが作成されてAzure Data Lake Storage 内の指定したカラムのデータが出力されていることを確認できます。