各製品の資料を入手。
詳細はこちら →PowerShell からAmazon S3 のデータに接続してデータの取得・CSV エクスポートを実行する方法
CData PowerShell Cmdlets を使って、Amazon S3 のデータに接続、データの取得・CSV エクスポートを実行する方法を紹介します。
最終更新日:2023-09-26
この記事で実現できるAmazon S3 連携のシナリオ
こんにちは!ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。
CData Cmdlets for AmazonS3 を使えば、PowerShell からAmazon S3 に手軽に連携して、データのCRUD やエクスポートを実行できます。
本記事では、Amazon S3 への接続方法からCSV エクスポート、データの操作までサンプルコード付きで解説していきます。
Amazon S3 への接続を設定
それでは、まずはAmazon S3 への接続設定からはじめていきましょう。接続設定にはCData Amazon S3 Cmdlets が必要となります。右側のサイドバーから製品の全機能が使える30日間の無償トライアルがダウンロードできるので、ぜひご利用ください。
インストールが完了したら、プロファイルに以下の行を追加してください。次のPowerShell セッションでモジュールがロードされます。
Import-Module AmazonS3Cmdlets;
Connect-AmazonS3 コマンドを使ってAmazon S3 との接続を設定します。各接続プロパティの取得方法は次に説明します。
$conn = Connect-AmazonS3 -AccessKey "$AccessKey" -SecretKey "$SecretKey"
Amazon S3 リクエストを認可するには、管理者アカウントまたはカスタム権限を持つIAM ユーザーの認証情報を入力します。AccessKey をアクセスキーID に設定します。SecretKey をシークレットアクセスキーに設定します。
Note: AWS アカウント管理者として接続できますが、AWS サービスにアクセスするにはIAM ユーザー認証情報を使用することをお勧めします。
尚、CData 製品はAmazon S3 のファイルの一覧表示やユーザー管理情報の取得用です。S3 に保管されているExcel、CSV、JSON などのファイル内のデータを読み込みたい場合には、Excel Driver、CSV Driver、JSON Driver をご利用ください。
アクセスキーの取得
IAM ユーザーの資格情報を取得するには:
- IAM コンソールにサインインします。
- ナビゲーションペインで「ユーザー」を選択します。
- ユーザーのアクセスキーを作成または管理するには、ユーザーを選択してから「セキュリティ認証情報」タブを選択します。
AWS ルートアカウントの資格情報を取得するには:
- ルートアカウントの資格情報を使用してAWS 管理コンソールにサインインします。
- アカウント名または番号を選択し、表示されたメニューで「My Security Credentials」を選択します。
- 「Continue to Security Credentials」をクリックし、「Access Keys」セクションを展開して、ルートアカウントのアクセスキーを管理または作成します。
AWS ロールとして認証
多くの場合、認証にはAWS ルートユーザーのダイレクトなセキュリティ認証情報ではなく、IAM ロールを使用することをお勧めします。RoleARN を指定することでAWS ロールを代わりに使用できます。これにより、CData 製品は指定されたロールの資格情報を取得しようと試みます。
(すでにEC2 インスタンスなどで接続されているのではなく)AWS に接続している場合は、ロールを引き受けるIAM ユーザーのAccessKey とSecretKey を追加で指定する必要があります。AWS ルートユーザーのAccessKey および SecretKey を指定する場合、ロールは使用できません。
SSO 認証
SSO 認証を必要とするユーザーおよびロールには、RoleARN およびPrincipalArn 接続プロパティを指定してください。各Identity Provider に固有のSSOProperties を指定し、AccessKey とSecretKey を空のままにする必要があります。これにより、CData 製品は一時的な認証資格情報を取得するために、リクエストでSSO 認証情報を送信します。
これで接続設定は完了です。
Amazon S3 のデータを取得してCSV にパイプライン
接続が完了したので、ObjectsACL テーブルデータを取得して結果をCSV ファイルにエクスポートします。
Select-AmazonS3 -Connection $conn -Table ObjectsACL | Select -Property * -ExcludeProperty Connection,Table,Columns | Export-Csv -Path c:\myObjectsACLData.csv -NoTypeInformation
このコードでは、Select-AmazonS3 から取得した結果をSelect-Object に流して、Export-Csv に渡す前にいくつかのプロパティを除外しています。これは、CData Cmdlets が接続情報、テーブル、およびカラム情報を結果セットのそれぞれの行に挿入するためです。それらの情報を表示したくない場合に、Export-Csv コマンドに渡す前に除外を先に行い、そのあとでCSV ファイルにエクスポートします。
おわりに
このように、CData Cmdlets を使えばPowerShell でのAmazon S3 のデータへの連携をシンプルに実現できます。ぜひCData PowerShell Cmdlets の30日間無償トライアルをダウンロードして、シンプルかつパワフルなデータ連携をお試しください。