使用pythonwebscraping下载许多文件
如果我在Yahoo Finance上有一个CSV链接: 我如何编写一个web scraper来根据符号列表下载多个文件:使用pythonwebscraping下载许多文件,python,csv,web-scraping,Python,Csv,Web Scraping,如果我在Yahoo Finance上有一个CSV链接: 我如何编写一个web scraper来根据符号列表下载多个文件:[LOW,SPY,AAPL] from StringIO import StringIO from urllib2 import urlopen for symbol in symbols: f = urlopen ('http://www.myurl.com'+symbol+'therestoftheurl') p = f.read() d = S
[LOW,SPY,AAPL]
from StringIO import StringIO
from urllib2 import urlopen
for symbol in symbols:
f = urlopen ('http://www.myurl.com'+symbol+'therestoftheurl')
p = f.read()
d = StringIO(p)
f.close
我是否需要将url的内容写入文件,或者它会自动下载到目录中?您可以使用以下方法下载文件:
import urllib2
file_name = "myfile.xyz"
u = urllib2.urlopen(url)
f = open(file_name, 'wb')
block_sz = 4096
while True:
buffer = u.read(block_sz)
if not buffer:
break
f.write(buffer)
f.close()