Python 从零开始爬虫(三)——实战：requests+BeautifulSoup实现静态爬取

一句话总结直属于标签

html中的&NBSP（实际上是小写，这里大写避免markdown识别）对应字符串中的xa0,可用replace方法替换掉

url = "https://movie.douban.com/top250"
headers = {"User-Agent" : "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36"}
r=requests.get(url,headers=headers)
soup = BeautifulSoup(r.text,"lxml")

for each in soup.find_all("div",class_="info"):
    img_url = each.previous_sibling.previous_sibling.a.img["src"]#图片链接
    
    """with open("*.jpg","wb") as img:#还可以顺便下载回来，名字自起
    img.write(requests.get(img_url,headers=headers).content)"""
    
    
    title=each.find("div",class_="hd").get_text(strip=True).replace("xa0","")#标题
    actor = list(each.find("p",class_="").strings)[0].strip().replace("xa0","")#导演演员
    type_ = list(each.find("p",class_="").strings)[1].strip().replace("xa0","")#类型
    score = each.find("div",class_="star").get_text("/",strip=True)#评分及人数
    quote = each.find("span",class_="inq").string#一句话总结
    print([img_url,title,actor,type_,score,quote])#这里只简单打出来看下，怎样存储由你来决定

  但是这样只有25部电影啊，是的，"https://movie.douban.com/top250"指向第一页，我们现在只爬了一页，其实还有9页还没爬啊，这是就要构造网址了。

  我们点到第二页，发现网址变成了https://movie.douban.com/top2...，第三页start条件值变成50，我们可以得出结论，每下一页，start条件值就加25。第一页start=0，第二页start=25.....第十页start=225。这样就可以循环构造网页并爬取了，这交给读者实现
  下面笔者提供另一种思路：网页不是有下一页的按钮吗，右键检查一下，发现它已经包含了要构造的部分了，是一个属性值，提取出来接到原网址上即得到下一页的网址，这样能完全爬取所有页数，不用像上面一样设置循环次数。

贴上完整代码

import requests
from bs4 import BeautifulSoup


url = "https://movie.douban.com/top250"
with open("douban.txt","w",encoding="utf-8") as f:
    while url :
        headers = {"User-Agent" : "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36"}

        r=requests.get(url,headers=headers)
        soup = BeautifulSoup(r.text,"lxml")

        for each in soup.find_all("div",class_="info"):
            img_url = each.previous_sibling.previous_sibling.a.img["src"]
            title=each.find("div",class_="hd").get_text(strip=True).replace("xa0","")
            actor = list(each.find("p",class_="").strings)[0].strip().replace("xa0","")
            #将生成器list化后索引，strip()去除两边空格再用空字符替换 
            type_ = list(each.find("p",class_="").strings)[1].strip().replace("xa0","")
            score = each.find("div",class_="star").get_text("/",strip=True)
            if each.find("span",class_="inq"):#注意有部电影没有总结，也就没有标签这里用if检测一下防止None使用string方法报错
                quote = each.find("span", class_="inq").string
            else:
                quote = "没有总结哦"
            print([img_url,title,actor,type_,score,quote])

            try:#到最后一页时没有下一页按钮，会报TypeError，这时用try语句让url=None使while循环停止
                url = "https://movie.douban.com/top250" + soup.find("span",class_="next").a["href"]
            except TypeError:
                url = None

本实例的筛选方法已经讲的很细致了，几乎提及了BeautifulSoup的所有方法，希望大家能通过此实例能加深对BeautifulSoup的理解，然后自己手打一些爬虫出来，小的十几行多的几十行都可以，爬贴吧什么的都可以。

还是那句话“只看不实践的程序员不是好程序员”

下一篇应该会将正则表达式，更加强大也更加难的信息匹配方法
下下篇了解一下动态爬取?