文章目录

  • 功能简介
  • 模块解析
  • 基本语法
  • 简单实践
  • 综合实践


功能简介

简介
pycurl 探测web网站的一些基本质量信息
安装方式
sudo apt-get install libssl-dev libcurl4-openssl-dev curl
pip install pycurl

curl 命令可以模拟浏览器的访问,而且可以精确的获取我们想要的网络质量数据。

模块解析

基本语法

类对象
pycurl.Curl()
常见方法
close() 关闭对象,清空数据
perform() 请求提交,获取数据
setopt() 设定请求时候,应用的参数
getinfo() 获取参数的数据信息

操作步骤
1 创建对象
2 设定属性
3 发起请求
4 关闭请求

简单实践

代码

# 导包
import pycurl

# 1 创建对象
curl_object = pycurl.Curl()
# 2 设定属性
# 2-1 查看属性
opt_info = curl_object.getinfo(pycurl.HTTP_CODE)
print("属性的结果:{}".format(opt_info))
# 2-2 设定属性
curl_object.setopt(pycurl.CONNECTTIMEOUT,5)
curl_object.setopt(pycurl.TIMEOUT,5)
curl_object.setopt(pycurl.NOPROGRESS,0)
curl_object.setopt(pycurl.FORBID_REUSE,1)
curl_object.setopt(pycurl.DNS_CACHE_TIMEOUT,60)
curl_object.setopt(pycurl.URL,"http://www.baidu.com")
# curl_object.setopt(pycurl.HEADERFUNCTION,getheader)# 回调函数需要自己定制

# 3 发起请求
# 3-1 发起请求
curl_object.perform()
# 3-2 获取请求信息
# opt_info = curl_object.getinfo(pycurl.URL) 	# 这里会报错
opt_info = curl_object.getinfo(pycurl.HTTP_CODE)
print("属性的结果:{}".format(opt_info))
# 4 关闭请求
curl_object.close()

结果

cef python 3 CEFPython3 维护_cef python 3

综合实践

简介
质量好坏的标准:
服务的可用性
服务的响应时间
一般3-5秒打开页面,用户要求不多
网站中访问最多的页面,速度快一点,其他的页面可以适当降低一点。
案例需求
setopt 设定访问的属性
getinfo 获取相关信息

其他的具体信息,可以参考大量的默认选项。

代码分析
操作步骤
1 创建对象
2 设定属性
3 发起请求
4 关闭请求

创建代码逻辑分析

cef python 3 CEFPython3 维护_cef python 3_02


请求代码逻辑分析

cef python 3 CEFPython3 维护_运维_03


信息查看代码逻辑

cef python 3 CEFPython3 维护_cef python 3_04


代码实践

代码:

# 导包
import pycurl
import os
import sys
import time

# 1 创建对象
curl_object = pycurl.Curl()

# 2 设定属性
MYURL = "http://www.baidu.com"

# 2-1 基本属性定制
curl_object.setopt(pycurl.CONNECTTIMEOUT,5)
curl_object.setopt(pycurl.TIMEOUT,5)
curl_object.setopt(pycurl.NOPROGRESS,1)
curl_object.setopt(pycurl.FORBID_REUSE,1)
curl_object.setopt(pycurl.MAXREDIRS,1)
curl_object.setopt(pycurl.DNS_CACHE_TIMEOUT,30)
curl_object.setopt(pycurl.URL,MYURL)
# 2-2 请求的数据信息保存
indexfile = open(os.path.dirname(os.path.realpath(__file__)) + "/content.txt","wb")
curl_object.setopt(pycurl.WRITEHEADER,indexfile)
curl_object.setopt(pycurl.WRITEDATA,indexfile)

# 3 发起请求
# 3-1 发起请求
try:
    curl_object.perform()
except Exception as e:
    print("访问失败:{}".format(e))
    indexfile.close()
    curl_object.close()
    sys.exit()
# 3-2 获取请求信息
NAMELOOKUP_TIME = curl_object.getinfo(pycurl.NAMELOOKUP_TIME)
CONNECT_TIME = curl_object.getinfo(pycurl.CONNECT_TIME)
PRETRANSFER_TIME = curl_object.getinfo(pycurl.PRETRANSFER_TIME)
STARTTRANSFER_TIME = curl_object.getinfo(pycurl.STARTTRANSFER_TIME)
TOTAL_TIME = curl_object.getinfo(pycurl.TOTAL_TIME)
HTTP_CODE = curl_object.getinfo(pycurl.HTTP_CODE)
SIZE_DOWNLOAD = curl_object.getinfo(pycurl.SIZE_DOWNLOAD)
HEADER_SIZE = curl_object.getinfo(pycurl.HEADER_SIZE)
SPEED_DOWNLOAD = curl_object.getinfo(pycurl.SPEED_DOWNLOAD)

# 3-3 格式化输出所有内容
print("HTTP状态码:{}".format(HTTP_CODE))
print("DNS解析时间:{}".format(NAMELOOKUP_TIME))
print("建立连接时间:{}".format(CONNECT_TIME))
print("准备传输时间:{}".format(PRETRANSFER_TIME))
print("传输开始时间:{}".format(STARTTRANSFER_TIME))
print("传输总时间:{}".format(TOTAL_TIME))
print("下载数据包大小:{}".format(SIZE_DOWNLOAD))
print("HTTP头部大小:{}".format(HEADER_SIZE))
print("平均下载速度:{}".format(SPEED_DOWNLOAD))
# 4 关闭请求
indexfile.close()   # 文件对象关闭
curl_object.close() # 请求关闭

结果:

cef python 3 CEFPython3 维护_自动化_05


生成的content .txt文件

cef python 3 CEFPython3 维护_自动化_06