Fiddler是强大的抓包工具,它是基于web代理服务器的形式进行工作的,使用的代理地址是:127.0.0.1,端口默认为8888,我们也可以通过设置进行修改。
代理就是在客户端和服务器之间设置一道关卡,客户端先将请求数据发送出去后,代理服务器会将数据包进行拦截,代理服务器再冒充客户端发送数据到服务器;同理,服务器将响应数据返回,代理服务器也会将数据拦截,再返回给客户端。
Fiddler可以抓取支持http代理的任意程序的数据包,如果要抓取https会话,要先安装证书。
Fiddler的优势在于:
1、本地化的工具,是一个使用本地 127.0.0.1:8888 的 HTTP 代理(任何能够设置 HTTP 代理为 127.0.0.1:8888 的浏览器和应用程序都可以使用 Fiddler);
2、Fiddler本身对http协议支持较好,且操作简单容易上手;
3、具有抓包和分析功能,省去了安装其他工具的必要;
4、工具本身功能强大,如劫包、篡改数据、限速等。
爬虫 与 Fiddler 的关系
网络爬虫是自动爬取网页的程序,在爬取的过程中必然会涉及客户端与服务端之间的通信,也需要发送一些HTTP请求,并接受服务器返回的结果。
有些网址变化肉眼是看不出规律的,这时配合抓包软件会变得较容易。
操作实例:
在浏览一些图片网站时,浏览到最下面的时候会出现一个“查看更多”的字样,此时单击“查看更多”页面上显示更多内容,加载出来的内容跟原来的内容是在同一个网页上展示的。
我们直接看网址的变化是看不出任何规律的,便无法分析该请求是如何实现的,无法通过程序构造出该请求。
此时可以通过Fiddler 进行抓包,对这些数据进行分析,知道实现规律后,就可以通过编写程序构造出对应的请求,并由程序自动地实现这些请求的发送。
一、Fiddler 的基本原理
本地应用与服务器之间所有的Request 和Response都将经过Fiddler,由Fiddler进行转发,此时Fiddler以代理服务器的方式存在。
由于所有的网络数据都会经过Fiddler,因此Fiddler能够截获这些数据,实现网络数据的抓包。
二、抓Firefox上的https请求
Fiddler 默认是抓 http请求的,对于pc上的 https请求,会提示网页不安全,这时候需要在浏览器上安装证书。
解决办法:
1、检查Fiddler设置
·打开菜单栏:Tools>Fiddler Options>HTTPS
·勾选Decrypt HTTPS traffic,里面的子菜单也一起勾选了(检查没有问题)
2、导出证书
·点右上角Actions按钮(Tools>Fiddler Options>HTTPS)
·选第二个选项,导出到桌面,此时桌面上会多一个文件:FiddlerRoot.cer
3、导入到Firefox浏览器
·打开浏览器,工具>选项>高级>证书>查看证书>证书机构>导入
·下载证书弹出框,勾选三个选项,确定:
测试下结果,打开百度网页,成功了,接下来就可以进行抓包了。
三、使用QuickExec命令行
1、cls (或 clear) 清屏命令
清空会话列表中的所有会话;
2、select 筛选某一类型的会话命令
如 select html,输入命令后敲回车键,在会话列表中所有html类型的会话都已被选中:
3、 查找网址中包含某些字符的会话信息;
如 ?jianshu 可以查找出网址中包含“jianshu”字符串的会话信息,跟其他会话信息用不同颜色区分显示:
4、help 帮助命令
打开官方的使用页面介绍,所有的命令都会列出来;
5、bpu、bpuafter 断点命令
bpu:截获request
bpuafter 网址/会话名:中断某一具体的会话
如果想消除命令的话,在命令行中输入“bpuafter”。
上一条:抓包工具Fiddler大揭秘
下一条:GraphPad Prism Cloud功能