爬虫技术:网站数据格式分析与请求伪造-51CTO学堂-网页数据爬虫技术

爬虫技术:网站数据格式分析与请求伪造

751未经授权,禁止转载
后端开发Python面向对象爬虫flaskSQLAlchemysessionjdk9scrapyDBUtils网站数据接收爬虫技术数据格式分析chrome浏览器调试form data构造request模块伪造json数据传输中文编码处理content type验证
本视频主要讲解了网站数据接收和爬虫技术中的一些关键知识点。首先,介绍了如何通过分析网站接收的数据格式,来确定是使用form data还是JSON数据进行数据传输。通过Chrome浏览器的开发者工具,可以查看网站发送的请求类型和数据格式,如form data是通过"&"符号构造的,而JSON数据则以键值对的形式出现。接着,讲解了如何使用Python的request模块来伪造这些请求,包括form data和JSON数据的构造方法。特别强调了在处理含有中文的数据时,需要将中文编码为base64,以避免编码问题。最后,提到了在发送请求时,需要根据后台的要求,设置正确的content type,以确保数据能够正确接收。总的来说,这个视频为爬虫技术初学者提供了一些实用的技巧和注意事项,帮助他们更好地理解和掌握网站数据交互的基本原理。
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
ad
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
讲师头像
老男孩
老男孩IT教育创始人,17年一线IT经验及教学培训经验。擅长大规模集群架构优化,虚拟化、云计算、大数据优化,特别注重理论联系企业真实场景 案例教学,讲课认真负责,思维严谨,授课形象生动,深入浅出,重视对学生的运维思想、习惯、总结、表达沟通等学习能力的培养,著有多本Linux 畅销图书,曾受邀做客CCTV、网易、教育在线等知名媒体。
TA的课程
接下来播放:
自动连播