某度tb图片爬虫
admin
2023-06-26 22:23:43
0

#encoding:utf-8

import urllib

import urllib.request

from lxml import etree

 

class Spider(object):

def __init__(self):

self.tiebaName="校花"

self.beginPage=1

self.endPage=3

self.url="http://tieba.baidu.com/f?"

self.ua_header = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1 Trident/5.0;"}

self.fileName=1

    

    #构造url

def tiebaSpider(self):

for page in range(self.beginPage,self.endPage+1):

pn=(page-1)*50

wo={'pn':pn,'kw':self.tiebaName}

word=urllib.parse.urlencode(wo)

myurl=self.url+word

self.loadPage(myurl)

 

    #爬取页面内容

def loadPage(self,url):

req=urllib.request.Request(url,headers=self.ua_header)

data=urllib.request.urlopen(req).read()

 

html=etree.HTML(data)

links=html.xpath('//div[@class="threadlist_lz clearfix"]/div/a/@href')

 

for link in links:

link="http://tieba.baidu.com"+link

self.loadImages(link)

 

 

#爬取帖子详情页,获得图片的链接

def loadImages(self,link):

req=urllib.request.Request(link,headers=self.ua_header)

data=urllib.request.urlopen(req).read()

html=etree.HTML(data)

links=html.xpath('//img[@class="BDE_Image"]/@src')

for imageslink in links:

self.writeImages(imageslink)

 

 

#通过图片所在链接,爬取图片并保存图片到本地

def writeImages(self,imagesLink):

function(){ //技术指标 http://www.fx61.com/faq/muniu/437.html

print("正在存储图片:",self.fileName,"....")

 

image=urllib.request.urlopen(imagesLink).read()

 

#保存图片到本地

file=open(r"C:\file\img\\"+str(self.fileName)+".jpg","wb")

file.write(image)

 

file.close()

 

self.fileName+=1

 

if __name__ == '__main__':

mySpider=Spider()

 

mySpider.tiebaSpider()


相关内容

热门资讯

探秘“城市生命线”背后,上海国... 来源:滚动播报 (来源:上观新闻) 906公里运营线路长度、工作日日均客流量达1100万乘次——庞...
美国防长香会讲话:对华降调维稳... 【文/观察者网 王一】第23届香格里拉对话会5月29日至31日在新加坡举行。该会议由英国国际战略研究...
OPPO Reno16 Pro... 对于预算在4000元左右,正在寻找一款高性价比的学生党、大学生或高三毕业生来说,市面上琳琅满目的机型...
中科创达副总裁杨新辉:推动传统... 本报记者 袁传玺 5月29日下午,2026证券市场年会行业分会数字经济大会在北京举行。此次大会由《证...
重庆:将人工智能深度嵌入科研全... 中国教育报-中国教育新闻网讯(记者 杨国良)5月28日,2026年重庆市教育科研工作会议传出新信号:...
“罕见会晤”,美国与古巴两军高... 据凤凰卫视报道,美军南方司令部5月29日在社交平台发布消息和相片,指南方司令部司令多诺万,当天在位于...
美民调:超半数美国人称生活成本... 据凤凰卫视报道,美国政治新闻网5月29日公布的最新民调显示,美国选民仍然不满意总统特朗普的经济政策,...
燃气灶开关无法控制怎么办 燃气灶开关无法控制,这是一种非常危险的情况。这种情况可能会导致燃气泄漏和火灾等严重后果。如果您遇到这...
为什么海尔冰箱冷冻室温度显示一... 这种情况表示的是超温报警灯亮了。也就是说冰箱的冷冻室温度没有降下去,冷冻室温度降到零下8度左右就自动...
西门子冰箱冷冻室温度一直闪烁是... 1、有可能是因为操作不当导致的情况;2、有可能是西门子冰箱显示屏的供电电源或显示屏本身的故障。 ...