python基于gevent实现并发下载器代码实例

Sela ·

更新时间:2024-09-21

· 865 次阅读

这篇文章主要介绍了python基于gevent实现并发下载器代码实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

并发下载原理


import gevent
from gevent import monkey
import urllib.request
monkey.patch_all()
def my_download(url):
    print('GET: %s' % url)
    resp = urllib.request.urlopen(url)
    data = resp.read()
    print('%d bytes received from %s.' % (len(data), url))
gevent.joinall([
    gevent.spawn(my_download, "https://www.baidu.com"),
    gevent.spawn(my_download, "https://www.cnblogs.com"),
    gevent.spawn(my_download, "https://www.huya.com")
])

运行结果：


GET: https://www.baidu.com
GET: https://www.cnblogs.com
GET: https://www.huya.com
227 bytes received from https://www.baidu.com.
46411 bytes received from https://www.cnblogs.com.
353563 bytes received from https://www.huya.com.

实现多张图片同时下载


import gevent
from gevent import monkey
import urllib.request
monkey.patch_all()
def my_download(url, image_path):
  print('GET: %s' % url)
  resp = urllib.request.urlopen(url)
  data = resp.read()
  print('%d bytes received from %s.' % (len(data), url))
  with open(image_path, "wb") as f:
    f.write(data)
gevent.joinall([
  gevent.spawn(my_download, "http://huoche.7234.cn/images/jb51/muypbxvnnem.jpg", "1.jpg"),
  gevent.spawn(my_download, "http://huoche.7234.cn/images/jb51/tlqdgz5vta0.jpg", "2.jpg"), 
  gevent.spawn(my_download, "http://huoche.7234.cn/images/jb51/goktvmxjity.jpg", "3.jpg"),
])

您可能感兴趣的文章:python实现可以断点续传和并发的ftp程序Python多进程并发(multiprocessing)用法实例详解Python控制多进程与多线程并发数总结python实现多线程的方式及多条命令并发执行python并发编程之多进程、多线程、异步和协程详解python监控网站运行异常并发送邮件的方法Python实现多并发访问网站功能示例实例探究Python以并发方式编写高性能端口扫描器的方法Python socket实现的文件下载器功能示例python使用urllib模块开发的多线程豆瓣小站mp3下载器python 并发下载器实现方法示例

并发 gevent Python

1024 个赞