「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）
admin
2023-04-04 06:21:59
0次

原创文章，欢迎转载。转载请注明：转载自IT人故事会，谢谢！
原文链接地址：「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

之前说了安卓模拟器使用和抓包工具的使用，之前其实就是在磨刀，俗话说的好磨刀不误砍柴工，下一步就是数据的抓取。

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

准备工作

  • 启动fiddler
    「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

本机ip 192.168.1.122

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

  • 夜神模拟器设置

    桥接

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

wifi设置

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

刚才windows系统查询出来的ip

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

  • app安装（XX美食）

    找个比较容易抓取的开始上手吧，在夜神模拟器市场中搜：豆果，下载图片中的app

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

抓取目标

点击图片中的分类

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

  • 分析app的数据

    正常的app，请求的连接都是域名的方式，并且跟自己的app的名称相关。
    例如：豆果美食，app的请求连接也都是有dougou。

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

进入fiddler里面，ctrl+f，输入dougou

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

找到一个请求，发现返回是Unicode编码，需要进行一些解码

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

复制返回结果Unicode编码到json.cn查看

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

分类发现跟app一致，任何app想进行动态的开发，都是通过请求获取的。

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

查看详情

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

下拉类别下牛肉的发现一个规律，原来每页15条，哈哈url里面有规律

「docker实战篇」python的docker爬虫技术-fiddler分析app抓取（12）

PS：本次通过fiddler监控和发现app请求的规则。下次开始写python脚本进行爬取数据。

上一篇：N年前做过的综合架构项目（架构图--分享）

下一篇：使用k8s集群内解析服务

相关内容

热门资讯

德乌将联合生产航程达1500公... 新华社基辅5月11日电 （记者李东旭）正在乌克兰首都基辅访问的德国国防部长鲍里斯·皮斯托里乌斯11日...
特朗普：与伊朗停火协议已“岌岌... 美国总统特朗普11日表示，目前与伊朗的停火协议正处于“岌岌可危”的状态。特朗普还称，将对伊朗取得“彻...
老人喝农药后医护误判死亡？官方... 近日，网传“我县一老人喝农药后医护人员未检查即认为老人已死亡”。对此，我县高度重视，立即成立由卫生健...
张凌赫、刘宇宁或被邀请赴台交流 5月11日，据中国新闻网报道，台北演艺经纪文化交流协会创会理事长王祥基表示，今年将力邀张凌赫、刘宇宁...
台湾演员赴陆偶遇“如花”高喊“... 据台媒TVBS，曾演出《破事精英第二季》的台湾演员萧子一，日前在中国大陆横店影视城巧遇景区知名NPC...
东盟“不选边”走到尽头？ 第48届东盟峰会落幕，中东冲突外溢、美国关税施压、内部矛盾凸显，东盟陷入“经济要救生、安全走钢丝”的...
17岁高中生写作业至凌晨，外出... 5月11日，据青海大通县融媒体中心消息：大通县公安局表示，5月8日6时15分，大通县公安局桥头派出所...
天猫“国货严选”纯棉一次性内裤... 淘宝天猫国货严选旗舰店内一次性内裤宣称“纯棉”，“假一赔十”，实际收到商品为“100%聚酯纤维”。近...
字节砍掉30%的AI项目？背后... 来源：市场资讯 （来源：钛媒体APP） 5月9日，一则关于字节跳动AI战略的消息，在社交媒体上迅速发...
戴尔电脑频繁出现蓝屏死机、重启... IT之家 5 月 11 日消息，Windows 11 更新时常出故障并引发各类问题，其中最让用户恼火...