Amazonの商品データを収集し、そのデータをAPI経由&課金で取得できるKeepaというサイトに契約をしてみました。
目的が、過去の在庫データを追いかけることにあって、そのデータを収集することに重きを置いています。
そのKeepaのAPIをPythonやPHP、Javaを使用せずにLinuxのコマンドのwgetとjqというコマンドで取得&解析する方法を発見したのでシェアしたいと思います。
【処理のフロー】
①Keepaはgzipでデータを流してくるのでwgetでヘッダーを設定しGETする
②GETした後パイプで標準出力をgunzipコマンドへ流す
③jqコマンドで、データを整形する
$wget -S --header="Accept-Encoding: gzip" -O - ${TARGET_URL}4641086648 | gunzip | jq '.products'
このコマンドで、データを取得することができました!
このブログを検索
ラベル
- Apache2 (1)
- bitFlyer (1)
- BTC (1)
- BTCFX (1)
- CakePHP3 (1)
- CCXT (1)
- CentOS (1)
- C言語 (1)
- iPad (1)
- Javaのイロハ (9)
- Java言語 (1)
- Linux (8)
- mailman (1)
- Mecab (1)
- MySQL (1)
- Perl (1)
- PHP (2)
- Redmine (1)
- Shell Script (1)
- Ubuntu (2)
- VB.NET (5)
- Windows (1)
- yum update (1)
- yum使い方 (1)
- エディタ・ページャ (1)
- 開発環境 (1)
- 資格 (1)
- 自動売買 (1)
- 上流工程 (1)
-
マニュアル更新しました 2011年5月6日 => マニュアルダウンロード: 「 ここ 」 なにかあればコメントください。 <この記事と他のWebサイトの比較> 検証日:2011年4月29日 A . Windows上(Cygwin上)でiPh...
-
AWSのインスタンスとELBを利用した際に発生するToo Many Redirectが発生するときの対策↓ https://aws.amazon.com/jp/premiumsupport/knowledge-center/redirect-http-https-elb/ ...