Power BI Service でリアルタイムParquet データをビジュアライズ

こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。

Power BI を使えば会社のデータを美しいビジュアルに変換して収集および整理することができるため、重要なことだけに集中できます。CData Connect Server と組み合わせると、ビジュアライゼーションやダッシュボードなどのためにParquet データを使用できます。この記事では、Power BI のParquet データからデータセットをデータ構築して公開し、Power BI サービスのParquet データに関するレポートを作成する方法について説明します。

CData Connect Server は、Parquet に純粋なSQL インターフェースを提供し、データベースにデータを複製することなくPower BI のリアルタイムParquet データから簡単にレポートを作成できるようにします。ビジュアライゼーションを作成する際には、Power BI がデータを収集するためのSQL クエリを生成します。CData Connect Server は、最適化されたデータ処理を使用してサポートされているすべてのSQL 操作（フィルタ、JOIN など）をParquet に直接プッシュし、サーバーサイドの処理を利用して、Parquet データを素早く返します。

注意：（オンプレミスゲートウェイを使用する代わりに）Connect Server を介してParquet データをPower BI にインポートすることもできます。詳細については、関連するKnowledge Base の記事を参照してください。

Parquet データの仮想SQL データベースを作成

CData Connect Server は、簡単なポイントアンドクリックインターフェースを使用してAPI を生成します。

1. Connect Server にログインし、「Databases」をクリックします。
2. 「Available Data Sources」から「Parquet」を選択します。
3. 必要な認証プロパティを入力し、Parquet に接続します。

   Parquet 接続プロパティの取得・設定方法

   ローカルのParquet ファイルに接続するには、URI 接続プロパティをParquet ファイルへのパスに設定してください。

4. 「 Test Database」をクリックします。
5. 「Permission」->「 Add」とクリックし、適切な権限を持つ新しいユーザー（または既存のユーザー）を追加します。

Power BI からConnect Server に接続

Power BI サービスでリアルタイムParquet データに接続してビジュアライズするには、オンプレミスデータゲートウェイをインストールしてPower BI サービスからゲートウェイにデータソースを追加し、Power BI Desktop からサービスにデータセットを公開します。

オンプレミスデータゲートウェイをインストール

Microsoft オンプレミスデータゲートウェイは、接続されたデータソースとさまざまなMicrosoft ツールおよびプラットフォーム間の安全なデータ転送を提供します。ゲートウェイの詳細については、Microsoft のドキュメントを参照してください。

Power BI サービスからゲートウェイをダウンロードし、インストールできます。

1. PowerBI.com にログインします。
2. 「Download」メニューをクリックし、「Data Gateway」をクリックします。
3. インストールの手順に従ってゲートウェイの名前をメモします。

Parquet をデータソースとしてPower BI サービスに追加

データゲートウェイをインストールしたら、Connect Server をデータソースとしてPower BI サービスに追加します。

1. PowerBI.com にログインします。
2. 「Settings」メニューをクリックして「Manage gateways」をクリックします。
3. 「ADD DATA SOURCE」をクリックしてConnect Server への接続を構成します。
   
   
   • Data Source Name をConnect_Parquet に設定します。
   • Data Source Type としてSQL Server を選択します。
   • Server をConnect Server インスタンスのアドレスに設定します。（例：CONNECT_SERVER_URL）
   • Database を仮想Parquet データベースの名前に設定します。（例：parquetdb）
   • Authentication Method をBasic に設定します。
   • Username とPassword をConnect Server 資格情報に設定します。

Power BI デスクトップから、データセットを公開

ゲートウェイをインストールし、Connect Server をデータソースとしてPower BI サービスに追加すると、Power BI Desktop からサービスにデータセットを公開できます。

1. Power BIを開いて「Get Data」->「More」とクリックし、SQL Server データベースを選択して「Connect」をクリックします。
2. 接続プロパティを設定設定し、「OK」をクリックします。
   • Server をConnect Server インスタンスのアドレスに設定します。（例：CONNECT_SERVER_URL）
   • Database を仮想Parquet データベースの名前に設定します。（例：parquetdb）
   • Data Connectivity mode をDirectQuery* に設定します。
   * DirectQuery は、Parquet データのライブクエリ処理とリアルタイムのビジュアライゼーションを可能にします。
3. 「authentication」ウィザードで「Database」を選択してUser name とPassword のプロパティを設定し、「Connect」をクリックします。
4. 「Navigator」ダイアログでテーブルを選択し、ビジュアライズします。

5. 「Query Editor」では、Parquet カラムをフィルタリング、並べ替え、要約することでデータセットをカスタマイズできます。「Edit」をクリックしてクエリエディタを開きます。行をフィルターするには、行を右クリックします。カラムヘッダーを右クリックして、次のようなアクションを実行します。

   • カラムのデータタイプを変更
   • カラムの削除
   • カラムをグループ化

   Power BI は、Connect Server によって報告されたParquet メタデータから、各カラムのデータタイプを検出します。

   Power BI は、クエリへの変更を「Applied Steps」セクションに記録し、リモートParquet データに対して実行される、基礎となるデータ取得クエリを調整します。「Close and Apply」をクリックすると、Power BI はデータ取得クエリを実行します。

   もしくは、「Load」をクリックしてデータをPower BI にプルします。

6. 「Relationships」タブで選択したエンティティ間の関係性を定義します。
7. 「Home」メニューから「Publish」をクリックして「Workspace」を選択します。

Power BI Service のParquet データでレポートとダッシュボードを作成

Power BI サービスにデータセットを公開したので、公開されたデータに基づいて新しいレポートとダッシュボードを作成できます。

1. PowerBI.com にログインします。
2. 「Workspaces」をクリックし、ワークスペースを選択します。
3. 「Create」をクリックし、「Report」を選択します。
4. レポートに使用する公開済みデータセットを選択します。
5. フィールドとビジュアライゼーションを選択してレポートを追加します。

アプリケーションからParquet データへSQL アクセス

Power BI サービスからリアルタイムParquet データへの直接接続ができるようになりました。これで、Parquet を複製せずにより多くのデータソースや新しいビジュアライゼーション、レポートを作成することができます。

アプリケーションから直接250+ SaaS 、Big Data 、NoSQL ソースへのSQL データアクセスを取得するには、CData Connect Server を参照してください。