麦子学院 2017-02-14 15:20
Python学习之多线程HTTP下载器的编写详解
回复:0 查看:3172
环境：windows/Linux + Python2.7.x
单线程
在介绍多线程之前首先介绍单线程。编写单线程的思路为：
1.
解析
url
；
2.
连接
web
服务器；
3.
构造
http
请求包；
4.
下载文件。
接下来通过代码进行说明。
解析url
通过用户输入url
进行解析。如果解析的路径为空，则赋值为
'/'
；如果端口号为空，则赋值为
"80”
；下载文件的文件名可根据用户的意愿进行更改（输入
'y'
表示更改，输入其它表示不需要更改）。
下面列出几个解析函数：
#
解析
host
和
path
def
analyHostAndPath(totalUrl):
protocol,s1 = urllib.splittype(totalUrl)
host, path = urllib.splithost(s1)
if path == '':
path = '/'
return host, path
#
解析
port
def
analysisPort(host):
host, port = urllib.splitport(host)
if port
is
None:
return 80
return port
#
解析
filename
def
analysisFilename(path):
filename = path.split('/')[-1]
if '.'
not
in filename:
return
None
return filename
连接web服务器
使用socket
模块，根据解析
url
得到的
host
和
port
连接
web
服务器，代码如下：
import
socket
from analysisUrl import port,host
ip =
socket.gethostbyname(host)
s =
socket.
socket(
socket.AF_INET,
socket.SOCK_STREAM)
s.connect((ip, port))
print "success connected webServer
！！
"
构造http请求包
根据解析url
得到的
path, host, port
构造一个
HTTP
请求包。
from analysisUrl
import path, host, port
packet = 'GET ' + path + ' HTTP/1.1\r\nHost: ' + host + '\r\n\r\n'
下载文件
根据构造的http
请求包，向服务器发送文件，抓取响应报文头部的
"Content-Length"
。
def
getLength(self):
s.send(packet)
print "send success!"
buf = s.recv(1024)
print buf
p = re.compile(r'Content-Length: (\d*)')
length = int(p.findall(buf)[0])
return length, buf
下载文件并计算下载所用的时间。
def
download(self):
file = open(self.filename,'wb')
length,buf = self.getLength()
packetIndex = buf.index('\r\n\r\n')
buf = buf[packetIndex+4:]
file.write(buf)
sum = len(buf)
while 1:
buf = s.recv(1024)
file.write(buf)
sum = sum + len(buf)
if sum >= length:
break
print "Success!!"
if __name__ == "__main__":
start = time.time()
down = downloader()
down.download()
end = time.time()
print "The time spent on this program is %f s"%(end - start)
运行结果示意图：
多线程
抓取响应报文头部的"Content-Length"
字段，结合线程个数，加锁分段下载。与单线程的不同，这里将所有代码整合为一个文件，代码中使用更多的
Python
自带模块。
得到"Content-Length"
：
def
getLength(self):
opener = urllib2.build_opener()
req = opener.open(self.url)
meta = req.info()
length = int(meta.getheaders("Content-Length")[0])
return length
根据得到的Length
，结合线程个数划分范围：
def
get_range(self):
ranges = []
length = self.getLength()
offset = int(int(length) / self.threadNum)
for i
in range(self.threadNum):
if i == (self.threadNum - 1):
ranges.append((i*offset,''))
else:
ranges.append((i*offset,(i+1)*offset))
return ranges
实现多线程下载，在向文件写入内容时，向线程加锁，并使用
with lock
代替lock.acquire( )...lock.release( );
使用
file.seek( )
设置文件偏移地址，保证写入文件的准确性。
def
downloadThread(self,start,end):
req = urllib2.Request(self.url)
req.headers['Range'] = 'bytes=%s-%s' % (start, end)
f = urllib2.urlopen(req)
offset = start
buffer = 1024
while 1:
block = f.read(buffer)
if
not block:
break
with lock:
self.file.seek(offset)
self.file.write(block)
offset = offset + len(block)
def
download(self):
filename = self.getFilename()
self.file = open(filename, 'wb')
thread_list = []
n = 1
for ran
in self.get_range():
start, end = ran
print 'starting:%d thread '% n
n += 1
thread = threading.Thread(target=self.downloadThread,args=(start,end))
thread.start()
thread_list.append(thread)
for i
in thread_list:
i.join()
print 'Download %s Success!'%(self.file)
self.file.close()
运行结果：
将(*.py)文件转化为(*.exe)可执行文件
当写好了一个工具，如何让那些没有安装Python
的人使用这个工具呢？这就需要将
.py
文件转化为
.exe
文件。
这里用到Python
的
py2exe
模块，初次使用，所以对其进行介绍：
py2exe
是一个将
Python
脚本转换成
windows
上可独立执行的可执行文件（
*.exe
）的工具，这样，就可以不用装
Python
在
windows
上运行这个可执行程序。可在
下载地址
中下载对应的版本。
接下来，在multiThreadDownload.py
的同目录下，创建
mysetup.py
文件，编写：
from distutils.core
import setup
import py2exe
setup(console=["multiThreadDownload.py"])
接着执行命令： Python mysetup.py py2exe
生成dist
文件夹，
multiTjhreadDownload.exe
文件位于其中，点击运行即可。
上面就是我使用Python
实现多线程
HTTP
下载器的过程，各位有什么好的想法意见，还望不吝赐教
!
来源：
博客园