「docker实战篇」python的docker- 抖音视频抓取(上)(24)
admin
2023-04-03 08:01:22
0

上节主要说了通过多模拟器的并行进行数据的抓取,在没有docker环境的情况下,本次主要针对抖音的视频数据进行抓取,无论你是个人喜好,还是项目需求,大家对抖音的视频数据都很感兴趣,比如喜欢那个漂亮的×××姐都想把他的视频保存下来,方便日后的观看,慢慢的膝上。上次说的appium完成抖音粉丝数据的抓取其实也可以完成抖音视频数据的抓取,抓取的思路也是想通,通过mitmdump进行数据解析,appium模拟滑动。如果一台设备抓取比较慢,可以用多台模拟器来进行抓取。这次主要用的另一种方式来进行抓取。

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

(一)分析分享页面

谷歌浏览器打开:https://www.douyin.com/share/user/89923219116

  • 1.1刷新页面

    按照图例步骤查看返回的数据
    url地址:https://www.douyin.com/aweme/v1/aweme/post/?user_id=89923219116&count=21&max_cursor=0&aid=1128&_signature=HTvXTBAUQVTTUFGelHo.NB0711&dytk=2be712bf2e309b4b7947b459667ea3a1

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

  • 1.2 json.cn中查看返回的数据格式

    1.2.1返回了10条

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.2发现解析发现

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.3 打开https://aweme.snssdk.com/aweme/v1/playwm/?video_id=v0200f0e0000bhlo7ff2gdds3j6apkfg&line=0

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.4 也就是通过 https://www.douyin.com/aweme/v1/aweme/post/?user_id=89923219116&count=21&max_cursor=0&aid=1128&_signature=HTvXTBAUQVTTUFGelHo.NB0711&dytk=2be712bf2e309b4b7947b459667ea3a1 可以获取视频的地址

1.2.5 解析里面的参数

https://www.douyin.com/aweme/v1/aweme/post/?
user_id=89923219116&
count=21&
max_cursor=0&
aid=1128&
_signature=4vFoMhAYvqksmu7gHnkAsuLxaC&
dytk=2be712bf2e309b4b7947b459667ea3a1

1.2.6里面一共6个参数

user_id
count
max_cursor
aid
_signature
dytk

1.2.7 下一步就是找到这6个参数的缘由从哪里获取到的。
肯定有老铁问,既然地址就知道了,直接用地址获取不完了,那么麻烦干啥? 我来截图解密,因为url地址是有时效性的

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.1 user_id 是url中的最后一个字段,可以直接获取

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.2 count 直接写死 21

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.3 max_cursor 直接写死 0,获取写时间戳

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.4 aid 直接写死 1128

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.5 dytk 直接可以通过页面获取,通过正则表达式

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6 _signature 比较麻烦,这里一起分析下

1.2.7.6.1 查询_signature的信息,搜索:_signature

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.2 点击搜索出来的2个文件中的第一个,然后按照我说的步骤点击

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.3 输入ctrl+f 输入_signature 查询,发现_signature = signature 通过signature赋值过来的。

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.4 signature 查找出来3个地方

初始化

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

赋值signature

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.signature = _bytedAcrawler.sign(nonce),
2.nonce 其实就是user_id,user_id在页面已经获取到了
3.需要了解下_bytedAcrawler.sign

1.2.7.6.5 _bytedAcrawler 怎么来的,在通过ctrl+f
_bytedAcrawler = require("douyin_falcon:node_modules/byted-acrawler/dist/runtime")

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.5 douyin_falcon:node_modules/byted-acrawler/dist/runtime 又是怎么来的

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.6 点击查找 douyin_falcon:node_modules/byted-acrawler/dist/runtime 对应的文件,发现是通过这个方法。还混淆了。

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.7 下图箭头处【双击】 就可以将源码里面的混淆,进行浏览器的解析成为代码。

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.7.6.8 下面的是高混淆的,无法解密的。

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

1.2.6.9 了解M的源码,经过分析(具体咋分析,根据名称经验和代码),找到base.js原来就是M的定义

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

PS:下一步说说解析这块,如何破解获取到_signature

「docker实战篇」python的docker- 抖音视频抓取(上)(24)

相关内容

热门资讯

特朗普下令不打了,美国的“余粮... 可以说戛然而止,快得让很多人都无法适应。前两周,每一天美国都要打击伊朗一通。就在7月24日白宫会议前...
穆杰塔巴最新表态:支持黎真主党 △伊朗最高领袖穆杰塔巴·哈梅内伊(资料图)当地时间7月26日晚,伊朗最高领袖穆杰塔巴·哈梅内伊对黎巴...
美军瘫痪一艘驶向伊朗的油轮,特... 美国总统特朗普虽下令暂停打击伊朗,但美军仍在执行对霍尔木兹海峡的封锁任务。针对美军瘫痪一艘驶向伊朗油...
“小牌大耍”的底气到底是哪里来... 澎湃首席评论员 李平这两天,“艺人李权哲乘高铁占座事件”在网上引发热议,该艺人参加的活动主办方曾发布...
越南籍船舶南海遇险沉没,中方已... 据凤凰卫视报道,一艘越南船舶7月24日夜间在越南庆和以东220海里附近遇险沉没,船上共62名越南籍人...
李权哲占座、蒙面、装死:娱乐圈... 你买了一张高铁一等座的票,找到自己的位置,18A。有人坐着。你拿出手机看了眼购票记录——没错,18A...
杭州景区咖啡店闯入1条幼蛇,仅... 夏天气温高、湿度大,蛇类活动进入高峰期,千万别被“小蛇无害”的刻板印象骗了!有些幼蛇看着迷你可爱,实...
AI开源公开信签署企业增至50... IT之家 7 月 26 日消息,英伟达、微软、IBM、Meta 等 25 家美国科技企业本周(7 月...
南阳快手短视频代运营企业的服务... 在短视频平台快速发展的背景下,企业通过快手等渠道进行内容运营已成为常见的市场动作。对于希望借助短视频...
普通人该如何跟上科技发展的步伐 这个被称作科技的词汇, 听起来既有宏大之感, 又颇为遥远, 好似仅仅归属于在实验室里专心致志钻研的科...