Python のDash ライブラリを使って、Presto データ に連携するウェブアプリケーションを開発

Pythonエコシステムには、多くのモジュールがあり、システム構築を素早く効率的に行うことができます。CData Python Connector for Presto を使うことで、pandas モジュールとDash フレームワークでPresto にデータ連携するアプリケーションを効率的に開発することができます。本記事では、pandas、Dash とCData Connector を使って、Presto に連携して、Presto data をビジュアライズするシンプルなウエブアプリを作ります。

CData Python Connector は、ビルトインされた効率的なデータプロセスにより、リアルタイムPresto data データにPython からアクセスし、高いパフォーマンスと接続性を発揮します。Presto に複雑なクエリを投げる際に、ドライバーはフィルタリング、集計などがサポートされている場合、SQL 処理を直接Presto 側に行わせ、サポートされていないSQL 処理については、組み込まれたSQL エンジンによりクライアント側で処理を行います（特にJOIN やSQL 関数など）。

Presto への接続

Presto data への連携は、RDB ソースへのアクセスと同感覚で行うことができます。必要な接続プロパティを使って接続文字列を作成します。本記事では、接続文字列をcreate_engine 関数のパラメータとして送ります。

Presto への接続には、まずはServer およびPort を接続プロパティとして設定します。それ以外の追加項目は接続方式によって異なります。

TLS/SSL を有効化するには、UseSSL をTRUE に設定します。

LDAP で認証

LDAP で認証するには、次の接続プロパティを設定します:

• AuthScheme: LDAP に設定。
• User: LDAP で接続するユーザー名。
• Password: LDAP で接続するユーザーのパスワード。

Kerberos 認証

KERBEROS 認証を使う場合には、以下を設定します:

• AuthScheme: KERBEROS に設定。
• KerberosKDC: 接続するユーザーのKerberos Key Distribution Center (KDC) サービス。
• KerberosRealm: 接続するユーザーのKerberos Realm 。
• KerberosSPN: Kerberos Domain Controller のService Principal Name。
• KerberosKeytabFile: Kerberos principals とencrypted keys を含むKeytab file。
• User: Kerberos のユーザー。
• Password: Kerberos で認証するユーザーのパスワード。

以下の手順に従い、必要なモジュールをインストールし、Python オブジェクト経由でPresto にアクセスします。

必要なモジュールのインストール

pip で必要なモジュールおよびフレームワークをインストールします：

pip install pandas
pip install dash
pip install dash-daq

Python でPresto データ をビジュアライズ

必要なモジュールとフレームワークがインストールされたら、ウェブアプリを開発していきます。コードのスニペットは以下の通りです。フルコードは記事の末尾に付いています。

まず、CData Connector を含むモジュールをインポートします：

import os
import dash
import dash_core_components as dcc
import dash_html_components as html
import pandas as pd
import cdata.presto as mod
import plotly.graph_objs as go

接続文字列を使ってデータへの接続を確立します。connect 関数を使ってCData Presto Connector にPresto data との接続を確立します。

cnxn = mod.connect("Server=127.0.0.1;Port=8080;")

Presto にクエリを実行

read_sql 関数を使って、padas からSQL 文を発行し、DataFrame に結果を格納します。

df = pd.read_sql("""SELECT FirstName, LastName FROM Customer WHERE Id = '123456789'""", cnxn)

ウェブアプリケーションの設定

DataFrame に格納されたクエリ結果を使って、ウェブアプリにname、stylesheet、title を設定していきます。

app_name = 'dash-prestoedataplot'

external_stylesheets = ['https://codepen.io/chriddyp/pen/bWLwgP.css']

app = dash.Dash(__name__, external_stylesheets=external_stylesheets)
app.title = 'CData + Dash'

Layout 設定

次に、Presto data をベースにした棒グラフを作詞し、アプリのレイアウトを設定します。

trace = go.Bar(x=df.FirstName, y=df.LastName, name='FirstName')

app.layout = html.Div(children=[html.H1("CData Extention + Dash", style={'textAlign': 'center'}),
	dcc.Graph(
		id='example-graph',
		figure={
			'data': [trace],
			'layout':
			go.Layout(alt='Presto Customer Data', barmode='stack')
		})
], className="container")

アプリをセットアップして、実行n

接続、アプリ、レイアウトを定義したら、アプリを実行してみましょう。Python コードの最後はこのようです。

if __name__ == '__main__':
    app.run_server(debug=True)

では、Python でウェブアプリを稼働させて、ブラウザでPresto data を見てみましょう。

python presto-dash.py

製品の無償トライアル情報

Presto Python Connector の30日の無償トライアル をぜひダウンロードして、Presto data への接続をPython アプリやスクリプトから簡単に作成しましょう。

import os
import dash
import dash_core_components as dcc
import dash_html_components as html
import pandas as pd
import cdata.presto as mod
import plotly.graph_objs as go

cnxn = mod.connect("Server=127.0.0.1;Port=8080;")

df = pd.read_sql("SELECT FirstName, LastName FROM Customer WHERE Id = '123456789'", cnxn)
app_name = 'dash-prestodataplot'

external_stylesheets = ['https://codepen.io/chriddyp/pen/bWLwgP.css']

app = dash.Dash(__name__, external_stylesheets=external_stylesheets)
app.title = 'CData + Dash'
trace = go.Bar(x=df.FirstName, y=df.LastName, name='FirstName')

app.layout = html.Div(children=[html.H1("CData Extention + Dash", style={'textAlign': 'center'}),
	dcc.Graph(
		id='example-graph',
		figure={
			'data': [trace],
			'layout':
			go.Layout(alt='Presto Customer Data', barmode='stack')
		})
], className="container")

if __name__ == '__main__':
    app.run_server(debug=True)