本記事では CData サポート担当からこんなことを聞かれたらどこを確認すべきか?という観点で、よく頂くお問合せ内容をご紹介します。
記事はこちら →Pythonエコシステムには、多くのモジュールがあり、システム構築を素早く効率的に行うことができます。CData Python Connector for Elasticsearch を使うことで、pandas モジュールとDash フレームワークでElasticsearch にデータ連携するアプリケーションを効率的に開発することができます。本記事では、pandas、Dash とCData Connector を使って、Elasticsearch に連携して、Elasticsearch data をビジュアライズするシンプルなウエブアプリを作ります。
CData Python Connector は、ビルトインされた効率的なデータプロセスにより、リアルタイムElasticsearch data データにPython からアクセスし、高いパフォーマンスと接続性を発揮します。Elasticsearch に複雑なクエリを投げる際に、ドライバーはフィルタリング、集計などがサポートされている場合、SQL 処理を直接Elasticsearch 側に行わせ、サポートされていないSQL 処理については、組み込まれたSQL エンジンによりクライアント側で処理を行います(特にJOIN やSQL 関数など)。
Elasticsearch data への連携は、RDB ソースへのアクセスと同感覚で行うことができます。必要な接続プロパティを使って接続文字列を作成します。本記事では、接続文字列をcreate_engine 関数のパラメータとして送ります。
接続するには、Server およびPort 接続プロパティを設定します。 認証には、User とPassword プロパティ、PKI (public key infrastructure)、またはその両方を設定します。 PKI を使用するには、SSLClientCert、SSLClientCertType、SSLClientCertSubject、およびSSLClientCertPassword プロパティを設定します。
本製品は、認証とTLS/SSL 暗号化にX-Pack Security を使用しています。TLS/SSL で接続するには、Server 値に'https://' を接頭します。Note: PKI を 使用するためには、TLS/SSL およびクライアント認証はX-Pack 上で有効化されていなければなりません。
接続されると、X-Pack では、設定したリルムをベースにユーザー認証およびロールの許可が実施されます。
以下の手順に従い、必要なモジュールをインストールし、Python オブジェクト経由でElasticsearch にアクセスします。
pip で必要なモジュールおよびフレームワークをインストールします:
pip install pandas pip install dash pip install dash-daq
必要なモジュールとフレームワークがインストールされたら、ウェブアプリを開発していきます。コードのスニペットは以下の通りです。フルコードは記事の末尾に付いています。
まず、CData Connector を含むモジュールをインポートします:
import os import dash import dash_core_components as dcc import dash_html_components as html import pandas as pd import cdata.elasticsearch as mod import plotly.graph_objs as go
接続文字列を使ってデータへの接続を確立します。connect 関数を使ってCData Elasticsearch Connector にElasticsearch data との接続を確立します。
cnxn = mod.connect("Server=127.0.0.1;Port=9200;User=admin;Password=123456;")
read_sql 関数を使って、padas からSQL 文を発行し、DataFrame に結果を格納します。
df = pd.read_sql("""SELECT OrderName, Freight FROM Orders WHERE ShipCity = 'New York'""", cnxn)
DataFrame に格納されたクエリ結果を使って、ウェブアプリにname、stylesheet、title を設定していきます。
app_name = 'dash-elasticsearchedataplot' external_stylesheets = ['https://codepen.io/chriddyp/pen/bWLwgP.css'] app = dash.Dash(__name__, external_stylesheets=external_stylesheets) app.title = 'CData + Dash'
次に、Elasticsearch data をベースにした棒グラフを作詞し、アプリのレイアウトを設定します。
trace = go.Bar(x=df.OrderName, y=df.Freight, name='OrderName') app.layout = html.Div(children=[html.H1("CData Extention + Dash", style={'textAlign': 'center'}), dcc.Graph( id='example-graph', figure={ 'data': [trace], 'layout': go.Layout(alt='Elasticsearch Orders Data', barmode='stack') }) ], className="container")
接続、アプリ、レイアウトを定義したら、アプリを実行してみましょう。Python コードの最後はこのようです。
if __name__ == '__main__': app.run_server(debug=True)
では、Python でウェブアプリを稼働させて、ブラウザでElasticsearch data を見てみましょう。
python elasticsearch-dash.py
Elasticsearch Python Connector の30日の無償トライアル をぜひダウンロードして、Elasticsearch data への接続をPython アプリやスクリプトから簡単に作成しましょう。
import os import dash import dash_core_components as dcc import dash_html_components as html import pandas as pd import cdata.elasticsearch as mod import plotly.graph_objs as go cnxn = mod.connect("Server=127.0.0.1;Port=9200;User=admin;Password=123456;") df = pd.read_sql("SELECT OrderName, Freight FROM Orders WHERE ShipCity = 'New York'", cnxn) app_name = 'dash-elasticsearchdataplot' external_stylesheets = ['https://codepen.io/chriddyp/pen/bWLwgP.css'] app = dash.Dash(__name__, external_stylesheets=external_stylesheets) app.title = 'CData + Dash' trace = go.Bar(x=df.OrderName, y=df.Freight, name='OrderName') app.layout = html.Div(children=[html.H1("CData Extention + Dash", style={'textAlign': 'center'}), dcc.Graph( id='example-graph', figure={ 'data': [trace], 'layout': go.Layout(alt='Elasticsearch Orders Data', barmode='stack') }) ], className="container") if __name__ == '__main__': app.run_server(debug=True)