python爬虫配置IP代理池(ProxyPool)

ProxyPool下载地址:https://github.com/Python3WebSpider/ProxyPool.git

关注我的gz号【靠谱杨阅读人生】回复ProxyPool 可获取下载链接。

1、下载之后打开setting文件修改redis相关配置。

python爬虫配置IP代理池(ProxyPool)_代理池

python爬虫配置IP代理池(ProxyPool)_代理池_02

2、之后开启本机redis服务,就可以直接运行run文件

python爬虫配置IP代理池(ProxyPool)_IP代理_03

python爬虫配置IP代理池(ProxyPool)_python+爬虫_04

3、使用redis中的IP

import random

import redis

class my_redis:

    def get_ip(self):
        r = redis.Redis(host='127.0.0.1', port=6379, db=0,decode_responses=True)
        my_redis_data = r.zrange("proxies:universal",1,3000,True)
        return random.choice(my_redis_data)
        # print(len(my_redis_data))

if __name__ == '__main__':
    test_redis=my_redis()
    data=test_redis.get_ip()
    print(data)

python爬虫配置IP代理池(ProxyPool)_科技查新项目_05

好看请赞,养成习惯:) ,作者:靠谱杨, 转载请注明原文链接