CSV データをMySQL にレプリケーションするPowerShell スクリプト

詳細情報をご希望ですか?

無償トライアル:

ダウンロードへ

製品の詳細情報へ:

CSV Cmdlets

PowerShell Cmdlets は、CSV/TSV Files へのリアルタイム連携機能を提供します。 Cmdlets を使って、データに直接連携し、読み書き更新をSQL Server と同感覚で行うことができます。



PowerShell でシンプルなスクリプトを記述し、CSV data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for CSV をつかって、PowerShell からリアルタイムCSV data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for CSV およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でCSV への接続を行います。レプリケーションは4つのステップがあります。

DataSource プロパティにローカルフォルダ名を設定します。

.csv、.tab、.txt ではない拡張子のファイルを扱う場合には、IncludeFiles 使用する拡張子をカンマ区切りで設定します。Microsoft Jet OLE DB 4.0 driver 準拠の場合にはExtended Properties を設定することができます。別の方法として、Schema.ini ファイルにファイル形式を記述することも可能です。

CSV ファイルの削除や更新を行う場合には、UseRowNumbers をTRUE に設定します。RowNumber はテーブルKey として扱われます。

CSV データの取得

  1. モジュールのインストール:

    Install-Module CSVCmdlets
  2. CSV への接続:

    $csv = Connect-CSV -DataSource $DataSource
  3. 取得ターゲットのリソースの取得:

    $data = Select-CSV -Connection $csv -Table "Customer"

    Invoke-CSV cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-CSV -Connection $csv -Query 'SELECT * FROM Customer WHERE FirstName = @FirstName' -Params @{'@FirstName'='Bob'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

CSV データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. CSV、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、CSV のリソース(Customer)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Customer" -Columns $columns -Values $values }

これで、CSV データをMySQL に複製できました。これで、分析、BI などでCSV データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でCSV とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-CSV -Connection $csv -Table "Customer" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Customer" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、CSV を別のデータベースに複製する場合、Select-CSV cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}