製品をチェック

無償トライアル:

無償トライアルへ

製品の情報と無償トライアルへ:

Parquet Data Cmdlets

Parquet データにリアルタイム連携を実現するPowerShell Cmdlets。Cmdlets を使って、SQL Server と同感覚で多様なデータにリアルタイムアクセス。

データ連携でお困りですか?

お問い合わせ

Parquet データをMySQL にレプリケーションするPowerShell スクリプト


PowerShell でシンプルなスクリプトを記述し、Parquet data をMySQL データベースにレプリケーション(複製)。


parquet ロゴ画像
powershell ロゴ画像

Cmdlets

MySQL ロゴ画像

CData Cmdlets for Parquet をつかって、PowerShell からリアルタイムParquet data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for Parquet およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でParquet への接続を行います。レプリケーションは4つのステップがあります。

Connect to your local Parquet file(s) by setting the URI connection property to the location of the Parquet file.

Parquet データの取得

  1. モジュールのインストール:

    Install-Module ParquetCmdlets
  2. Parquet への接続:

    $parquet = Connect-Parquet -URI $URI
  3. 取得ターゲットのリソースの取得:

    $data = Select-Parquet -Connection $parquet -Table "SampleTable_1"

    Invoke-Parquet cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-Parquet -Connection $parquet -Query 'SELECT * FROM SampleTable_1 WHERE Column2 = @Column2' -Params @{'@Column2'='SAMPLE_VALUE'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

Parquet データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. Parquet、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Parquet のリソース(SampleTable_1)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "SampleTable_1" -Columns $columns -Values $values }

これで、Parquet データをMySQL に複製できました。これで、分析、BI などでParquet データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でParquet とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-Parquet -Connection $parquet -Table "SampleTable_1" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "SampleTable_1" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、Parquet を別のデータベースに複製する場合、Select-Parquet cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}