开发环境:
ubuntu16.04,python3.6,bs4,virtualenv(虚拟环境)
创建虚拟环境:
创建项目文件夹,并为项目创建虚拟环境,利用pip安装相关包
mkdir mutiThreadCrawier cd mutiThreadCrawier mkdir content #存爬下来的页面 virtualenv env --python =python3.6 #创建虚拟环境 source env/bin/activate #使虚拟环境生效
导包:
import time import re import threading import urllib import requests from bs4 import BeautifulSoup