利用python项目对百度文库进行爬取并下载
创始人
2024-11-21 11:01:51
0次

具体方法如下:

import requests
import re
import json
import os

session = requests.session()


def fetch_url(url):
  return session.get(url).content.decode('gbk')


def get_doc_id(url):
  return re.findall('view/(.*).html', url)[0]


def parse_type(content):
  return re.findall(r"docType.*?\:.*?\'(.*?)\'\,", content)[0]


def parse_title(content):
  return re.findall(r"title.*?\:.*?\'(.*?)\'\,", content)[0]


def parse_doc(content):
  result = ''
  url_list = re.findall('(https.*?0.json.*?)\\\\x22}', content)
  url_list = [addr.replace("\\\\\\/", "/") for addr in url_list]
  for url in url_list[:-5]:
    content = fetch_url(url)
    y = 0
    txtlists = re.findall('"c":"(.*?)".*?"y":(.*?),', content)
    for item in txtlists:
      if not y == item[1]:
        y = item[1]
        n = '\n'
      else:
        n = ''
      result += n
      result += item[0].encode('utf-8').decode('unicode_escape', 'ignore')
  return result


def parse_txt(doc_id):
  content_url = 'https://wenku.baidu.com/api/doc/getdocinfo?callback=cb&doc_id=' + doc_id
  content = fetch_url(content_url)
  md5 = re.findall('"md5sum":"(.*?)"', content)[0]
  pn = re.findall('"totalPageNum":"(.*?)"', content)[0]
  rsign = re.findall('"rsign":"(.*?)"', content)[0]
  content_url = 'https://wkretype.bdimg.com/retype/text/' + doc_id + '?rn=' + pn + '&type=txt' + md5 + '&rsign=' + rsign
  content = json.loads(fetch_url(content_url))
  result = ''
  for item in content:
    for i in item['parags']:
      result += i['c'].replace('\\r', '\r').replace('\\n', '\n')
  return result


def parse_other(doc_id):
  content_url = "https://wenku.baidu.com/browse/getbcsurl?doc_id=" + doc_id + "&pn=1&rn=99999&type=ppt"
  content = fetch_url(content_url)
  url_list = re.findall('{"zoom":"(.*?)","page"', content)
  url_list = [item.replace("\\", '') for item in url_list]
  if not os.path.exists(doc_id):
    os.mkdir(doc_id)
  for index, url in enumerate(url_list):
    content = session.get(url).content
    path = os.path.join(doc_id, str(index) + '.jpg')
    with open(path, 'wb') as f:
      f.write(content)
  print("图片保存在" + doc_id + "文件夹")


def save_file(filename, content):
  with open(filename, 'w', encoding='utf8') as f:
    f.write(content)
    print('已保存为:' + filename)


# test_txt_url = 'https://wenku.baidu.com/view/cbb4af8b783e0912a3162a89.html?from=search'
# test_ppt_url = 'https://wenku.baidu.com/view/2b7046e3f78a6529657d5376.html?from=search'
# test_pdf_url = 'https://wenku.baidu.com/view/dd6e15c1227916888586d795.html?from=search'
# test_xls_url = 'https://wenku.baidu.com/view/eb4a5bb7312b3169a551a481.html?from=search'
def main():
  url = input('请输入要下载的文库URL地址')
  content = fetch_url(url)
  doc_id = get_doc_id(url)
  type = parse_type(content)
  title = parse_title(content)
  if type == 'doc':
    result = parse_doc(content)
    save_file(title + '.txt', result)
  elif type == 'txt':
    result = parse_txt(doc_id)
    save_file(title + '.txt', result)
  else:
    parse_other(doc_id)


if __name__ == "__main__":
  main()

相关内容

热门资讯

空调连续工作多久需要停机休息 空调连续工作的时间取决于多个因素,包括空调的型号、功率、使用环境和维护情况等。一般来说,空调可以连续...
空调哪个符号是除湿的 空调除湿功能通常用一个水滴形状的符号表示。不同品牌和型号的空调遥控器可能会有所差异,但一般来说,除湿...
格力空调多长时间加一次氟利昂 1、一般情况下,空调对氟利昂的使用量是非常小的,所以在空调使用了四年左右的时候再考虑加也没问题。2、...
空调用多长时间需要加氟一次 一般情况下是五年。当出现以下这几种情况时,空调才需要加氟。1、空调的室内机和室外机各有两个接口,当接...
格调生活·C标思享荟:卡萨帝在... 9月12日的郑州龙湖金融岛,夜风轻拂,灯光璀璨。“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑...
品牌价值破千亿、高端份额持续领... 9月12日,“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑州站”在郑州龙湖金融岛举办。2026...
空调主板坏了修800还是换新的 空调主板坏了是修还是换新,需要考虑多个因素,以下是一些建议:1. 维修成本:如果维修费用较低,比如 ...
空调开多久需要休息多长时间 问题:空调开多久需要休息多长时间回答:1、在使用空调的过程中,一般空调开7~8个小时左右需要休息2~...
中央空调多长时间清洗一次 1、一般空调开机前清洗一次即可,空调开机中间时段再清洗一次,空调关机时清洗一次,这样比较合理。2、空...
中央空调氟利昂多久加一次 看空调制热和制冷程度,很多人的观点认为氟利昂必须一年放一次,其实这个观点是错误的,理解上面有点偏差,...