wget

wgetでファイルを集める

 wget -r -np -k -K -N -p -i urls.txt 1> wget.log 2>&1

 -r 再帰的なファイルの取得を行う。
 -np 親ディレクトリーへの参照はしない。
 -k 取得したファイル内の絶対指定のリンクを相対指定に書き換えます。
 -K 
 -N タイムスタンプでダウンロードの要否を判断する。
 -p
 -i --input-file= URLをローカルのファイルから指定する。

urls.txt はURLのリストもok

http://members.at.infoseek.co.jp/futora/wget153/option.html

wget 複数ヘッダを指定

wget \
 --header='User-Agent: DoCoMo/2.0' \
 --header='X-DCMGUID: aaaaaaa' \
 -O output.html \
 "http://example.com"

kawanoyou: wgetとabで複数のヘッダーを設定したい