BigQuery データをMySQL にレプリケーションするPowerShell スクリプト

Ready to get started?

Download for a free trial:

Download Now

Learn more:

Google BigQuery Cmdlets

PowerShell Cmdlets は、Google BigQuery へのリアルタイム連携機能を提供します。 Cmdlets を使って、データに直接連携し、読み書き更新をDB と同感覚で行うことができます。



PowerShell でシンプルなスクリプトを記述し、BigQuery data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for BigQuery をつかって、PowerShell からリアルタイムBigQuery data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for BigQuery およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でBigQuery への接続を行います。レプリケーションは4つのステップがあります。

Google はOAuth 認証標準を使用します。個々のユーザーとしてGoogle API にアクセスするには、組み込みクレデンシャルを使うか、OAuth アプリを作成します。

OAuth では、Google Apps ドメインのユーザーとしてサービスアカウントを使ってアクセスすることもできます。サービスカウントでの認証では、OAuth JWT を取得するためのアプリケーションを登録する必要があります。

OAuth 値に加え、DatasetId、ProjectId を設定する必要があります。詳細はヘルプドキュメントの「はじめに」を参照してください。

BigQuery データの取得

  1. モジュールのインストール:

    Install-Module GoogleBigQueryCmdlets
  2. BigQuery への接続:

    $googlebigquery = Connect-GoogleBigQuery -DataSetId $DataSetId -ProjectId $ProjectId
  3. 取得ターゲットのリソースの取得:

    $data = Select-GoogleBigQuery -Connection $googlebigquery -Table "Orders"

    Invoke-GoogleBigQuery cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-GoogleBigQuery -Connection $googlebigquery -Query 'SELECT * FROM Orders WHERE ShipCity = @ShipCity' -Params @{'@ShipCity'='New York'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

BigQuery データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. BigQuery、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、BigQuery のリソース(Orders)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Orders" -Columns $columns -Values $values }

これで、BigQuery データをMySQL に複製できました。これで、分析、BI などでBigQuery データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でBigQuery とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-GoogleBigQuery -Connection $googlebigquery -Table "Orders" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Orders" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、BigQuery を別のデータベースに複製する場合、Select-GoogleBigQuery cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}