ノーコードでクラウド上のデータとの連携を実現。
詳細はこちら →HDFS Driver の30日間無償トライアルをダウンロード
30日間の無償トライアルへ
CData
こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。
Pure R スクリプトおよび 標準SQL を使って、R およびJava をインストール可能なあらゆるマシン上でHDFS にアクセス。CData JDBC Driver for HDFS とRJDBC package を使って、R でリモートHDFS データ を利用できます。CData Driver を使うことで、業界が認めた基準で書かれたドライバーを活用して、オープンソースでポピュラーなR 言語のデータにアクセスできます。この記事では、ドライバーを使ってHDFS にSQL クエリを実行する方法、および標準R 関数を呼び出してHDFS をビジュアライズする方法について説明します。
マルチスレッドのMicrosoft R Open を実行すること、またはBLAS/LAPACK ライブラリにリンクされたオープン R を実行することによって、マルチスレッドおよびマネージドコードから利益を得られたドライバーのパフォーマンスにマッチできます。ここでは、Microsoft R Open 3.2.3 を使用します。CRAN レポジトリのJan. 1, 2016 snapshot からパッケージをインストールするために事前設定されています。このsnapshot は再現性を保証します。
ドライバーを使うにはRJDBC パッケージをダウンロードします。RJDBC パッケージをインストールしたら、次のコードを入力してパッケージをロードします。
library(RJDBC)
下記の情報を使いHDFS にJDBC データソースとして接続します。
dbConnect やdbSendQuery のようなDBI 関数は、R にデータアクセスコードを書くための統一インターフェースを提供します。
driver <- JDBC(driverClass = "cdata.jdbc.hdfs.HDFSDriver", classPath = "MyInstallationDir\lib\cdata.jdbc.hdfs.jar", identifier.quote = "'")
これで、DBI 関数を使ってHDFS に接続しSQL クエリを実行する準備が整いました。dbConnect 関数を使ってJDBC 接続を初期化します。一般的なJDBC 接続文字列は次のとおりです。
conn <- dbConnect(driver,"Host=sandbox-hdp.hortonworks.com;Port=50070;Path=/user/root;User=root;")
HDFS への認証には、次の接続プロパティを設定します。
ドライバーはHDFS API をリレーショナルデータベース、ビュー、ストアドプロシージャとしてモデルします。次のコードを使ってテーブルリストを検出します。
dbListTables(conn)
dbGetQuery 関数を使ってHDFS API がサポートするすべてのSQL クエリを実行できます：
files <- dbGetQuery(conn,"SELECT FileId, ChildrenNum FROM Files WHERE FileId = '119116'")
次のコマンドを使って、結果を［data viewer］ウィンドウで見ることができます。
View(files)
CRAN レポジトリで利用可能なあらゆるデータ初期化パッケージを使ってHDFS を分析する準備が整いました。ビルトインバーのplot 関数を使って簡単なバーを作成できます。
par(las=2,ps=10,mar=c(5,15,4,2)) barplot(files$ChildrenNum, main="HDFS Files", names.arg = files$FileId, horiz=TRUE)
