- ODBC Drivers
- Java JDBC Drivers
- ADO.NET Providers
- SQL SSIS Components
- BizTalk Adapters
- Excel Add-Ins
- Power BI Connectors
- Tableau Connectors
- PowerShell Cmdlets
- Delphi & C++Builder
- Data Sync
- API Server
ETL/ELT のEmbulk を使ってMicrosoft OneDrive データをDB にロードする方法
OSS のETL/ELT ツールEmbulk のJDBC Plugin を使って、Microsoft OneDrive データを簡単にDM に同期する方法。Embulk は、大量のデータをDB、クラウドデータストア、DWH にロードできるオープンソースETL ツールです。近頃のトレンドでは、1社で複数のオンプレアプリやSaaS を使っており、データ分析にはETL/ELT ツールを使ってデータを丸ごとDB/DWH にロードしてから、分析やビジュアライズをすることが主流になっています。Embulk には、いろいろなプラグインがあり、多様なInput とOutput 処理をサポートしています。この記事では、Embulk のJDBC Input Plugin と CData Drivers for Microsoft OneDrive を使って、Microsoft OneDrive のデータを簡単にDB にロードします。この例ではロード先のDB にはMySQL を使います。

※製品について詳しい情報をご希望の方は以下からお進みください。
- Microsoft OneDrive にほかのBI、ETL、開発ツールから接続したい:Microsoft OneDrive データ連携ガイドおよびチュートリアルのリストへ
- Microsoft OneDrive Drivers について詳細を知りたい:ドライバー詳細情報ページへ
- ほかのデータソースに連携したい:CData Drivers 一覧へ
- ドライバーの30日の無償トライアル版を使いたい:トライアル版ダウンロードページへ
- 製品の利用やライセンスについて相談したい:sales@cdata.co.jp までメールにてご相談ください。
Embulk でCData JDBC Driver for Microsoft OneDrive データをロード
- CData JDBC Driver for Microsoft OneDrive をEmbulk と同じマシンにインストールします。
-
以下のパスにJDBC Driver がインストールされます。後ほどこのパスを使います。
C:\Program Files\CData\CData JDBC Driver for Microsoft OneDrive 2019J\lib\cdata.jdbc.onedrive.jar
- 次に、EmbulkとCData JDBC Driverをつなぎこむための、JDBC Input Plugin をインストールします。
https://github.com/embulk/embulk-input-jdbc/tree/master/embulk-input-jdbc - 今回はロード先DB としてMySQL を使います。ほかにもSQL Server、PostgreSQL、Google BigQuery などを使うことも可能です。
https://github.com/embulk/embulk-output-jdbc/tree/master/embulk-output-mysqlembulk gem install embulk-output-mysql
- config ファイルを作成し、Microsoft OneDrive -> MySQL のジョブを作成します。onedrive-mysql.yml というファイル名で作成しました。
embulk gem install embulk-input-jdbc
in:
type: jdbc
driver_path: C:\Program Files\CData\CData JDBC Driver for Microsoft OneDrive 2019J\lib\cdata.jdbc.onedrive.jar
driver_class: cdata.jdbc.onedrive.OneDriveDriver
url: jdbc:onedrive:OAuthClientId=MyApplicationId;OAuthClientSecret=MySecretKey;OAuthCallbackURL=http://localhost:33333;InitiateOAuth=REFRESH
table: "Files"
out:
type: mysql
host: localhost
database: DatabaseName
user: UserId
password: UserPassword
table: "Files"
mode: insert
OneDrive uses the OAuth authentication standard. To authenticate using OAuth, you will need to create an app to obtain the OAuthClientId, OAuthClientSecret, and CallbackURL connection properties. See the OAuth section of the Help documentation for an authentication guide.
embulk run onedrive-mysql.yml
クエリ条件でフィルタリングしたデータのロード
ちなみに、上記の例ではテーブル名を直接指定しましたが、以下のようにSQL Queryを書いてもいいです。 Where句で作成日や修正日を指定すれば、最新のデータだけを対象にすることも可能です。
in:
type: jdbc
driver_path: C:\Program Files\CData\CData JDBC Driver for Microsoft OneDrive 2019J\lib\cdata.jdbc.onedrive.jar
driver_class: cdata.jdbc.onedrive.OneDriveDriver
url: jdbc:onedrive:OAuthClientId=MyApplicationId;OAuthClientSecret=MySecretKey;OAuthCallbackURL=http://localhost:33333;InitiateOAuth=REFRESH
query: "SELECT Id, Name FROM Files WHERE [RecordId] = 1"
out:
type: mysql
host: localhost
database: DatabaseName
user: UserId
password: UserPassword
table: "Files"
mode: insert
CData JDBC Driver for Microsoft OneDrive をEmbulk で使うことで、Microsoft OneDrive コネクタとして機能し、簡単にデータを取得して同期することができました。ぜひ、30日の無償評価版 をお試しください。