Power BI Service でリアルタイムKafka データをビジュアライズ

こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。

Power BI を使えば会社のデータを美しいビジュアルに変換して収集および整理することができるため、重要なことだけに集中できます。CData Connect Server と組み合わせると、ビジュアライゼーションやダッシュボードなどのためにKafka データを使用できます。この記事では、Power BI のKafka データからデータセットをデータ構築して公開し、Power BI サービスのKafka データに関するレポートを作成する方法について説明します。

CData Connect Server は、Kafka に純粋なSQL インターフェースを提供し、データベースにデータを複製することなくPower BI のリアルタイムKafka データから簡単にレポートを作成できるようにします。ビジュアライゼーションを作成する際には、Power BI がデータを収集するためのSQL クエリを生成します。CData Connect Server は、最適化されたデータ処理を使用してサポートされているすべてのSQL 操作（フィルタ、JOIN など）をKafka に直接プッシュし、サーバーサイドの処理を利用して、Kafka データを素早く返します。

注意：（オンプレミスゲートウェイを使用する代わりに）Connect Server を介してKafka データをPower BI にインポートすることもできます。詳細については、関連するKnowledge Base の記事を参照してください。

Kafka データの仮想SQL データベースを作成

CData Connect Server は、簡単なポイントアンドクリックインターフェースを使用してAPI を生成します。

1. Connect Server にログインし、「Databases」をクリックします。
2. 「Available Data Sources」から「Kafka」を選択します。
3. 必要な認証プロパティを入力し、Kafka に接続します。

   BootstrapServers およびTopic プロパティを設定して、Apache Kafka サーバーのアドレスと、対話するトピックを指定します。

   認可メカニズム

   • SASL Plain：User およびPassword プロパティを指定する必要があります。AuthScheme は'Plain' に設定します。
   • SASL SSL：User およびPassword プロパティを指定する必要があります。AuthScheme は'Scram' に、UseSSL はtrue に設定します。
   • SSL：SSLCert およびSSLCertPassword プロパティを指定する必要があります。UseSSL はtrue に設定します。
   • Kerberos：User およびPassword プロパティを指定する必要があります。AuthScheme は'Kerberos' に設定します。

   サーバー証明書を信頼する必要がある場合があります。そのような場合は、必要に応じてTrustStorePath およびTrustStorePassword を指定してください。

4. 「 Test Database」をクリックします。
5. 「Permission」->「 Add」とクリックし、適切な権限を持つ新しいユーザー（または既存のユーザー）を追加します。

Power BI からConnect Server に接続

Power BI サービスでリアルタイムKafka データに接続してビジュアライズするには、オンプレミスデータゲートウェイをインストールしてPower BI サービスからゲートウェイにデータソースを追加し、Power BI Desktop からサービスにデータセットを公開します。

オンプレミスデータゲートウェイをインストール

Microsoft オンプレミスデータゲートウェイは、接続されたデータソースとさまざまなMicrosoft ツールおよびプラットフォーム間の安全なデータ転送を提供します。ゲートウェイの詳細については、Microsoft のドキュメントを参照してください。

Power BI サービスからゲートウェイをダウンロードし、インストールできます。

1. PowerBI.com にログインします。
2. 「Download」メニューをクリックし、「Data Gateway」をクリックします。
3. インストールの手順に従ってゲートウェイの名前をメモします。

Kafka をデータソースとしてPower BI サービスに追加

データゲートウェイをインストールしたら、Connect Server をデータソースとしてPower BI サービスに追加します。

1. PowerBI.com にログインします。
2. 「Settings」メニューをクリックして「Manage gateways」をクリックします。
3. 「ADD DATA SOURCE」をクリックしてConnect Server への接続を構成します。
   
   
   • Data Source Name をConnect_ApacheKafka に設定します。
   • Data Source Type としてSQL Server を選択します。
   • Server をConnect Server インスタンスのアドレスに設定します。（例：CONNECT_SERVER_URL）
   • Database を仮想Kafka データベースの名前に設定します。（例：kafkadb）
   • Authentication Method をBasic に設定します。
   • Username とPassword をConnect Server 資格情報に設定します。

Power BI デスクトップから、データセットを公開

ゲートウェイをインストールし、Connect Server をデータソースとしてPower BI サービスに追加すると、Power BI Desktop からサービスにデータセットを公開できます。

1. Power BIを開いて「Get Data」->「More」とクリックし、SQL Server データベースを選択して「Connect」をクリックします。
2. 接続プロパティを設定設定し、「OK」をクリックします。
   • Server をConnect Server インスタンスのアドレスに設定します。（例：CONNECT_SERVER_URL）
   • Database を仮想Kafka データベースの名前に設定します。（例：kafkadb）
   • Data Connectivity mode をDirectQuery* に設定します。
   * DirectQuery は、Kafka データのライブクエリ処理とリアルタイムのビジュアライゼーションを可能にします。
3. 「authentication」ウィザードで「Database」を選択してUser name とPassword のプロパティを設定し、「Connect」をクリックします。
4. 「Navigator」ダイアログでテーブルを選択し、ビジュアライズします。

5. 「Query Editor」では、Kafka カラムをフィルタリング、並べ替え、要約することでデータセットをカスタマイズできます。「Edit」をクリックしてクエリエディタを開きます。行をフィルターするには、行を右クリックします。カラムヘッダーを右クリックして、次のようなアクションを実行します。

   • カラムのデータタイプを変更
   • カラムの削除
   • カラムをグループ化

   Power BI は、Connect Server によって報告されたKafka メタデータから、各カラムのデータタイプを検出します。

   Power BI は、クエリへの変更を「Applied Steps」セクションに記録し、リモートKafka データに対して実行される、基礎となるデータ取得クエリを調整します。「Close and Apply」をクリックすると、Power BI はデータ取得クエリを実行します。

   もしくは、「Load」をクリックしてデータをPower BI にプルします。

6. 「Relationships」タブで選択したエンティティ間の関係性を定義します。
7. 「Home」メニューから「Publish」をクリックして「Workspace」を選択します。

Power BI Service のKafka データでレポートとダッシュボードを作成

Power BI サービスにデータセットを公開したので、公開されたデータに基づいて新しいレポートとダッシュボードを作成できます。

1. PowerBI.com にログインします。
2. 「Workspaces」をクリックし、ワークスペースを選択します。
3. 「Create」をクリックし、「Report」を選択します。
4. レポートに使用する公開済みデータセットを選択します。
5. フィールドとビジュアライゼーションを選択してレポートを追加します。

アプリケーションからKafka データへSQL アクセス

Power BI サービスからリアルタイムKafka データへの直接接続ができるようになりました。これで、Kafka を複製せずにより多くのデータソースや新しいビジュアライゼーション、レポートを作成することができます。

アプリケーションから直接240+ SaaS 、Big Data 、NoSQL ソースへのSQL データアクセスを取得するには、CData Connect Server を参照してください。