Python pandas を使ってElasticsearch データをビジュアライズ

製品をチェック

無償トライアル:

ダウンロードへ

製品の詳細情報へ:

Elasticsearch Python Connector

Elasticsearch へのデータ連携用のPython Connecotr ライブラリ。 pandas、SQLAlchemy、Dash、petl などの主要なPython ツールにElasticsearch をシームレスに統合。


CData Python Connector for Elasticsearch を使えば、Python でElasticsearch をpandas やその他の標準モジュールでで呼び出し、データ分析やビジュアライズが可能になります。



Pythonエコシステムには、多くのモジュールがあり、システム構築を素早く効率的に行うことができます。CData Python Connector for Elasticsearch は、pandas、Matplotlib モジュール、SQLAlchemy ツールキットから使用することで Elasticsearch にデータ連携するPython アプリケーションを構築し、Elasticsearch をビジュアライズできます。本記事では、pandas、SQLAlchemy、およびMatplotlib のビルトイン機能でElasticsearch にリアルタイムアクセスし、クエリを実行し、結果をビジュアライズする方法を説明します。

CData Python Connector は、ビルトインされた効率的なデータプロセスにより、リアルタイムElasticsearch データにPython からアクセスし、高いパフォーマンスと接続性を発揮します。Elasticsearch に複雑なクエリを投げる際に、ドライバーはフィルタリング、集計などがサポートされている場合、SQL 処理を直接Elasticsearch 側に行わせ、サポートされていないSQL 処理については、組み込まれたSQL エンジンによりクライアント側で処理を行います(特にJOIN やSQL 関数など)。

Elasticsearch データへの接続

Elasticsearch への連携は、RDB ソースへのアクセスと同感覚で行うことができます。必要な接続プロパティを使って接続文字列を作成します。本記事では、接続文字列をcreate_engine 関数のパラメータとして送ります。

接続するには、Server およびPort 接続プロパティを設定します。 認証には、User とPassword プロパティ、PKI (public key infrastructure)、またはその両方を設定します。 PKI を使用するには、SSLClientCert、SSLClientCertType、SSLClientCertSubject、およびSSLClientCertPassword プロパティを設定します。

本製品は、認証とTLS/SSL 暗号化にX-Pack Security を使用しています。TLS/SSL で接続するには、Server 値に'https://' を接頭します。Note: PKI を 使用するためには、TLS/SSL およびクライアント認証はX-Pack 上で有効化されていなければなりません。

接続されると、X-Pack では、設定したリルムをベースにユーザー認証およびロールの許可が実施されます。

以下の手順に従い、必要なモジュールをインストールし、Python オブジェクト経由でElasticsearch にアクセスします。

必要なモジュールのインストール

pip で、pandas & Matplotlib モジュールおよび、SQLAlchemy ツールキットをインストールします:

pip install pandas
pip install matplotlib
pip install sqlalchemy

以下のようにモジュールをインポートします:

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engine

Python でElasticsearch データをビジュアライズ

次は、接続文字列で接続を確立します。create_engine 関数を使って、Elasticsearch に連携するEngne を作成します。.

engine = create_engine("elasticsearch:///?Server=127.0.0.1&Port=9200&User=admin&Password=123456")

Elasticsearch にアクセスするSQL を実行

pandas のread_sql 関数を使って好きなSQL を発行して、DataFrame にデータを格納します。

df = pandas.read_sql("""SELECT OrderName, Freight FROM Orders WHERE ShipCity = 'New York'""", engine)

Elasticsearch データをビジュアライズ

DataFrame に格納されたクエリ結果に対して、plot 関数をつかって、Elasticsearch data をグラフで表現してみます。show メソッドはグラフを新しいウィンドウに表示します。

df.plot(kind="bar", x="OrderName", y="Freight")
plt.show()

製品の無償トライアル情報

Elasticsearch Python Connector の30日の無償トライアル をぜひダウンロードして、Elasticsearch への接続をPython アプリやスクリプトから簡単に作成しましょう。



ソースコードe

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin

engine = create_engine("elasticsearch:///?Server=127.0.0.1&Port=9200&User=admin&Password=123456")
df = pandas.read_sql("""SELECT OrderName, Freight FROM Orders WHERE ShipCity = 'New York'""", engine)

df.plot(kind="bar", x="OrderName", y="Freight")
plt.show()