Informatica PowerCenter でAzure Data Lake Storage データを抽出、変換、ロードする

こんにちは！ドライバー周りのヘルプドキュメントを担当している古川です。

Informatica は、データ転送用の強力で洗練された手段を提供します。CData ODBC Driver for ADLS を利用することで、Informatica の強力なデータ転送と操作機能でシームレスに統合された、業界が認めた標準ドライバーにアクセスできるようになります。このチュートリアルでは、Informatica PowerCenter でシンプルなWorkflow を作成してAzure Data Lake Storage データを抽出し、フラットファイルにロードする方法について説明します。

CData ODBC Drivers とは？

CData ODBC Drivers は、以下のような特徴を持ったリアルタイムデータ連携ソリューションです。

1. Azure Data Lake Storage をはじめとする、CRM、MA、会計ツールなど多様なカテゴリの270種類以上のSaaS / オンプレミスデータソースに対応
2. 多様なアプリケーション、ツールにAzure Data Lake Storage データを連携
3. ノーコードでの手軽な接続設定
4. 標準 SQL での柔軟なデータ読み込み・書き込み

CData ODBC Driver では、1.データソースとしてAzure Data Lake Storage の接続を設定、2.Informatica PowerCenter 側でODBC Driver との接続を設定、という2つのステップだけでデータソースに接続できます。以下に具体的な設定手順を説明します。

CData ODBC Drivers のインストールとAzure Data Lake Storage への接続設定

まずは、本記事右側のサイドバーからADLS ODBC Driver の無償トライアルをPowerCenter サーバーとクライアントマシーンにドライバーをインストールします。30日間無償で、製品版の全機能が使用できます。

どちらにおいても、データソースのODBC DSN で接続プロパティを指定します。これはドライバーインストール時の最後の手順にあたります。Microsoft ODBC データソースアドミニストレーターを使ってODBC DSN を作成および設定できます。

Azure DataLakeStorage 接続プロパティの取得・設定方法

Azure DataLakeStorage Gen 1 への接続

Gen 1 DataLakeStorage アカウントに接続するには、はじめに以下のプロパティを設定します。

• Schema：ADLSGen1 を指定。
• Account：アカウント名に設定。
• AzureTenant：テナントId に設定。Azure Portal 内のAzure Data Lake プロパティから取得できます。
• Directory：（オプション）複製したファイルを格納するためのパスを設定。指定しない場合は、ルートディレクトリが使用されます。

Azure DataLakeStorage Gen 1 への認証

Gen 1 は、認証方法としてAzure Active Directory OAuth（AzureAD）およびマネージドサービスID（AzureMSI）をサポートしています。認証方法は、ヘルプドキュメントの「Azure DataLakeStorage Gen 1 への認証」セクションを参照してください。

Azure DataLakeStorage Gen 2 への接続

Gen 2 DataLakeStorage アカウントに接続するには、はじめに以下のプロパティを設定します。

• Schema：ADLSGen2 に設定。
• Account：ストレージアカウント名に設定。
• FileSystem：このアカウントで使用するファイルシステム名に設定。例えば、Azure Blob コンテナ名など。
• Directory：（オプション）複製したファイルを格納するためのパスを設定。指定しない場合は、ルートディレクトリが使用されます。

Azure DataLakeStorage Gen 2 への認証

Gen 2は、認証方法としてアクセスキー、共有アクセス署名（SAS）、Azure Active Directory OAuth（AzureAD）、マネージドサービスID（AzureMSI）など多様な方法をサポートしています。AzureAD、AzureMSI での認証方法は、ヘルプドキュメントの「Azure DataLakeStorage Gen 2 への認証」セクションを参照してください。

アクセスキーを使用した認証

アクセスキーを使用して接続するには、AccessKey プロパティを取得したアクセスキーの値に、AuthScheme を「AccessKey」に設定します。

Azure ポータルからADLS Gen2 ストレージアカウントのアクセスキーを取得できます。

1. Azure ポータルのADLS Gen2 ストレージアカウントにアクセスします。
2. 設定で「アクセスキー」を選択します。
3. 利用可能なアクセスキーの1つの値を「AccessKey」接続プロパティにコピーします。

共有アクセス署名（SAS）

共有アクセス署名を使用して接続するには、SharedAccessSignature プロパティを接続先リソースの有効な署名に設定して、AuthScheme を「SAS」に設定します。 共有アクセス署名は、Azure Storage Explorer などのツールで生成できます。

PowerCenter でETL ワークフローを作成する

次のステップに従ってPowerCenter でワークフローを作成し、Azure Data Lake Storage データをプルしてフラットファイルにプッシュします。

ODBC ドライバーを使用してソースを作成する

1. %INFA_HOME%\clients\PowerCenterClient\client\bin にあるpowrmart.ini ファイルで、次の行をODBCDLL セクションに追加します。

   CData=PMODBC.DLL

2. PowerCenter Workflow Manager で新しいODBC リレーショナル接続を追加し、ユーザー名とパスワードのプロパティをODBC Driver がインストールされているマシンのユーザーに設定して、接続文字列をドライバーのSystem DSN（CData ADLS Sys）に設定します。
3. PowerCenter Designer でリポジトリに接続し、フォルダを開きます。
4. 「Source Analyzer」を選択してソースメニューをクリックし、「Import from Database」を選択します。
5. ODBC データソースのドロップダウンメニューで、以前構成したDSN（CData ADLS Sys）を選択します。
6. 「connect」をクリックし、含めるテーブルとビューを選択します。
7. 「OK」をクリックします。

ソースを使用してフラットファイルターゲットを作成する

1. 「Targets Analyzer」を選択し、以前に作成したソースをワークスペースにドラッグアンドドロップします。既存のソースを使用することで、カラムがターゲットにコピーされます。
2. 新しいターゲットを右クリックし、「edit」をクリックしてデータベースタイプをフラットファイルに変更します。

Azure Data Lake Storage データとフラットファイル間のマッピングを作成する

1. 「Mapping Designer」をクリックします。
2. ソースとターゲットをワークスペースにドラッグします。（プロンプトが表示されたら、新しいマッピングに名前を付けます。）
3. ワークスペースで右クリックし、「Autolink by Name」を選択します。
4. カラムをソース修飾子からターゲット定義にドラッグします。
5. フォルダをセーブ（Ctrl + S）します。

マッピングを使用してワークフローを作成する

ソース、ターゲット、マッピングを作成して保存したら、ワークフローを作成することができるようになります。

1. マッピングを右クリックして「generate workflow」を選択し、「Workflow Generation」ウィザードを開きます。
2. 再利用不可のセッションでワークフローを作成します。
3. （以前作成した関連する接続への）接続オブジェクトが適切に構成されていることを確認してプレフィックスを設定します。
4. 必要に応じて接続を設定します。
5. ワークフローを確認して「Finish」をクリックします。

ワークフローを作成したら、PowerCenter Workflow Manager を開いてワークフローにアクセスして開始し、Azure Data Lake Storage データをフラットファイルに素早く転送できます。ODBC Driver for ADLS を使用して、ソースとターゲットをPowerCenter から設定することで、Informatica PowerCenter でAzure Data Lake Storage データをお好みのエレガントで強力な機能に統合することができます。

Azure Data Lake Storage からInformatica PowerCenter へのデータ連携には、ぜひCData ODBC Driver をご利用ください

このようにCData ODBC Drivers と併用することで、270を超えるSaaS、NoSQL データをコーディングなしで扱うことができます。30日の無償評価版が利用できますので、ぜひ自社で使っているクラウドサービスやNoSQL と合わせて活用してみてください。

CData ODBC Driver は日本のユーザー向けに、UI の日本語化、ドキュメントの日本語化、日本語でのテクニカルサポートを提供しています。