前言
最近在做监控相关的配套设施,发现很多脚本都是基于Python的。很早之前就听说其大名,人生苦短,我学Python,这并非一句戏言。随着人工智能、机器学习、深度学习的崛起,目前市面上大部分的人工智能的代码 大多使用Python 来编写。所以人工智能时代,是时候学点Python了。进军指南对于没有任何语言开发经验的同学,建议从头系统的学起,无论是书、视频还是文字教程都可以。
注意:很多人学Python过程中会遇到各种烦恼问题,没有人解答容易放弃。为此我建了个python学习资源群里面有最新学习资料,如果你想学python,可以关注我,后台私信我 ‘py’ 自动获取最新python教程资料!还有老司机解答哦!
如果是有其他语言开发经验的同学,建议从一个案例入手,比如爬取某个网站的套图。因为语言都是想通的,语法之类的只要你要语感,代码基本能读个八九不离十。所以不建议有经验的开发者从头学起,无论是视频还是书,对于开始学一门语言来说都是太浪费时间了。当然,等你深入进去以后,还是要系统的去学习,这是后话。
案例实现步骤以妹子图为例,其实很简单,分以下四步:
- 获取首页的页码数,并创建与页码对应的文件夹
- 获取页面的栏目地址
- 进入栏目,获取栏目页码数(每个栏目下有多张图片,分页显示)
- 获取到栏目下对用标签中的图片并下载
注意事项爬取过程中,还需要注意以下几点,可能对你有所帮助:1)导库,其实就类似于Java中框架或者是工具类,底层都被封装好了安装第三方库
- # Win下直接装的 python3
- pip install bs4、pip install requests
- # Linux python2 python3 共存
- pip3 install bs4、pip3 install requests
导入第三方库
- # 导入requests库
- import requests
- # 导入文件操作库
- import os
- # bs4全名BeautifulSoup,是编写python爬虫常用库之一,主要用来解析html标签。
- import bs4
- from bs4 importBeautifulSoup
- # 基础类库
- import sys
- # Python 3.x 解决中文编码问题
- import importlib
- importlib.reload(sys)
2)定义方法函数,一个爬虫可能会几百行,所以尽量不要写成一坨
- def download(page_no, file_path):
- # 这里写代码逻辑
3)定义全局变量
- # 给请求指定一个请求头来模拟chrome浏览器
- global headers # 告诉编译器这是全局变量 headers
- headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}
- # 函数内使用之前需要
- # 告诉编译器我在这个方法中使用的a是刚才定义的全局变量 headers ,而不是方法内部的局部变量。
- global headers
4)防盗链有些网站加入了防盗链,无所不能的 python 解决方案
- headers = {'Referer': href}
- img = requests.get(url, headers=headers)
5)切换版本Linux服务器使用的是阿里云服务器,默认版本 python2,python3 自行安装
- [root@AY140216131049Z mzitu]# python2 -V
- Python2.7.5
- [root@AY140216131049Z mzitu]# python3 -V
- Python3.7.1
- # 默认版本
- [root@AY140216131049Z mzitu]# python -V
- Python2.7.5
- # 临时切换版本
- [root@AY140216131049Z mzitu]# alias python='/usr/local/bin/python3.7'
- [root@AY140216131049Z mzitu]# python -V
- Python3.7.1
6)异常捕获在爬取的过程中可能存在异常页面,这里我们进行捕获,不影响后续操作
- try:
- # 业务逻辑
- exceptExceptionas e:
- print(e)
代码实现编辑脚本:vi mzitu.py
- #coding=utf-8
- #!/usr/bin/python
- # 导入requests库
- import requests
- # 导入文件操作库
- import os
- import bs4
- from bs4 importBeautifulSoup
- import sys
- import importlib
- importlib.reload(sys)
- # 给请求指定一个请求头来模拟chrome浏览器
- global headers
- headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}
- # 爬图地址
- mziTu = 'http://www.mzitu.com/'
- # 定义存储位置
- global save_path
- save_path = '/mnt/data/mzitu'
- # 创建文件夹
- def createFile(file_path):
- if os.path.exists(file_path) isFalse:
- os.makedirs(file_path)
- # 切换路径至上面创建的文件夹
- os.chdir(file_path)
- # 下载文件
- def download(page_no, file_path):
- global headers
- res_sub = requests.get(page_no, headers=headers)
- # 解析html
- soup_sub = BeautifulSoup(res_sub.text, 'html.parser')
- # 获取页面的栏目地址
- all_a = soup_sub.find('div',class_='postlist').find_all('a',target='_blank')
- count = 0
- for a in all_a:
- count = count + 1
- if (count % 2) == 0:
- print("内页第几页:" + str(count))
- # 提取href
- href = a.attrs['href']
- print("套图地址:" + href)
- res_sub_1 = requests.get(href, headers=headers)
- soup_sub_1 = BeautifulSoup(res_sub_1.text, 'html.parser')
- # ------ 这里最好使用异常处理 ------
- try:
- # 获取套图的最大数量
- pic_max = soup_sub_1.find('div',class_='pagenavi').find_all('span')[6].text
- print("套图数量:" + pic_max)
- for j in range(1, int(pic_max) + 1):
- # print("子内页第几页:" + str(j))
- # j int类型需要转字符串
- href_sub = href + "/" + str(j)
- print(href_sub)
- res_sub_2 = requests.get(href_sub, headers=headers)
- soup_sub_2 = BeautifulSoup(res_sub_2.text, "html.parser")
- img = soup_sub_2.find('div', class_='main-image').find('img')
- if isinstance(img, bs4.element.Tag):
- # 提取src
- url = img.attrs['src']
- array = url.split('/')
- file_name = array[len(array)-1]
- # print(file_name)
- # 防盗链加入Referer
- headers = {'Referer': href}
- img = requests.get(url, headers=headers)
- # print('开始保存图片')
- f = open(file_name, 'ab')
- f.write(img.content)
- # print(file_name, '图片保存成功!')
- f.close()
- exceptExceptionas e:
- print(e)
- # 主方法
- def main():
- res = requests.get(mziTu, headers=headers)
- # 使用自带的html.parser解析
- soup = BeautifulSoup(res.text, 'html.parser')
- # 创建文件夹
- createFile(save_path)
- # 获取首页总页数
- img_max = soup.find('div', class_='nav-links').find_all('a')[3].text
- # print("总页数:"+img_max)
- for i in range(1, int(img_max) + 1):
- # 获取每页的URL地址
- if i == 1:
- page = mziTu
- else:
- page = mziTu + 'page/' + str(i)
- file = save_path + '/' + str(i)
- createFile(file)
- # 下载每页的图片
- print("套图页码:" + page)
- download(page, file)
- if __name__ == '__main__':
main()
脚本在Linux服务器下运行,执行以下命令
- python 3 mzitu.py
- # 或者后台执行
- nohup python3 -u mzitu.py > mzitu.log 2>&1 &
目前只爬取了一个栏目的套图,一共17G,5332张图片。
- [root@itstyle mzitu]# du -sh
- 17G .
- [root@itstyle mzitu]# ll -s
- total 5332
下面,请小伙伴们睁大眼睛,鸡冻人心的套图时刻来了。
作为一个python学者,脚本肯定多多少少有一些问题或者待优化的地方,另外注意:很多人学Python过程中会遇到各种烦恼问题,没有人解答容易放弃。为此我建了个python学习资源群里面有最新学习资料,如果你想学python,可以关注我,后台私信我 ‘py’ 自动获取最新python教程资料!还有老司机解答哦!
本文的文字及图片来源于网络加上自己的想法,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。
本文来自投稿,不代表本人立场,如若转载,请注明出处:http://www.souzhinan.com/kj/362007.html