资讯专栏INFORMATION COLUMN

十年老Python程序员:给我一个链接,没有我不能爬的视频,只有我顶不住的视频

JiaXinYi / 766人阅读

摘要:算了算了,不整游戏了,反正你们也不爱看今天来试试把头条上扭腰上热门的那些妹子爬一爬,不知道我顶不顶得住二准备工作使用的环境专业版要用的第三方模块三大致流程鉴于你们不喜欢我啰嗦,但是流程呢,我还是要给你们写出来,所以我就多带带把它列出来了。

一、写在前面

真的,为什么别人发游戏这么多人看,我发了两次了加起来才一百个。

算了算了,不整游戏了,反正你们也不爱看~

今天来试试把头条上扭腰上热门的那些妹子爬一爬,不知道我顶不顶得住~

二、准备工作

1、使用的环境
  • python 3.8
  • pycharm 2021.2 专业版
2、要用的第三方模块
  • selenium
  • requests
  • parsel

三、大致流程

鉴于你们不喜欢我啰嗦,但是流程呢,我还是要给你们写出来,所以我就多带带把它列出来了。

1、网站分析(明确需求)
  1. 在视频网页源代码当中找到 embedUrl 对应的链接;
  2. 在链接当中找到视频播放地址,在元素面板当中;
  3. 发现规律 embedUrl上面的 groupby_id 其实就是当前视频链接上的id,下载视频的时候 就只需要 一个 id 就可以下载视频;(https://www.ixigua.com/embed?group_id=7029910152576926238)
2、代码实现过程
  1. 构建embedUrl https://www.ixigua.com/embed?group_id=7029910152576926238
  2. 使用selenium访问该链接
  3. 提取视频链接地址
  4. 拼接视频链接地址
  5. 使用requests发送请求 并且获取视频二进制数据
  6. 保存视频

如果大家在学习Python的过程中不知道学习方向,该怎么学,没有好的系统的学习资料、没人交流解答等等,都可以私我,我都给大家准备好了。

四、代码展示分析

首先导入一下模块

import requestsfrom selenium import webdriver

进入浏览器设置

options = webdriver.ChromeOptions()

1、构建embedUrl https://www.ixigua.com/embed?group_id=7029910152576926238

group_id = input("请输入你要下载视频的id:")url = "https://www.ixigua.com/embed?group_id=" + group_id

无头浏览器

options.add_argument("--headless")

加一个伪装

options.add_argument("User-Agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Safari/537.36"")

2、使用selenium访问该链接
driver: 浏览器

driver = webdriver.Chrome(executable_path="chromedriver.exe", options=options)

打开一个网页
驱动配置: 代码操作浏览器的一个中间人

driver.get(url)

隐式等待: 最多等待五秒 如果一秒钟加载完了 继续执行

driver.implicitly_wait(5)

3、提取视频链接地址

info = driver.find_elements_by_xpath("//*[@id="player_default"]/xg-controls/xg-definition/ul/li[1]")video_url = info[0].get_attribute("url")

4、拼接视频链接地址

video_url = "http:" + video_url

5、使用requests发送请求 并且获取视频二进制数据

video_data = requests.get(video_url).contentwith open("1.mp4", mode="wb") as f:    f.write(video_data)

所有代码

import requestsfrom selenium import webdriver# 进入浏览器设置options = webdriver.ChromeOptions()# 1. 构建embedUrl https://www.ixigua.com/embed?group_id=7029910152576926238group_id = input("请输入你要下载视频的id:")url = "https://www.ixigua.com/embed?group_id=" + group_id# 无头浏览器options.add_argument("--headless")# 加一个伪装options.add_argument("User-Agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Safari/537.36"")# 2. 使用selenium访问该链接# driver: 浏览器driver = webdriver.Chrome(executable_path="chromedriver.exe", options=options)# 打开一个网页# 驱动配置: 代码操作浏览器的一个中间人driver.get(url)# 隐式等待: 最多等待五秒 如果一秒钟加载完了 继续执行driver.implicitly_wait(5)# 3. 提取视频链接地址info = driver.find_elements_by_xpath("//*[@id="player_default"]/xg-controls/xg-definition/ul/li[1]")video_url = info[0].get_attribute("url")# 4. 拼接视频链接地址video_url = "http:" + video_url# 5. 使用requests发送请求 并且获取视频二进制数据video_data = requests.get(video_url).contentwith open("1.mp4", mode="wb") as f:    f.write(video_data)print("爬取成功!!!")#留了报错,看看大家够不够机智找出来

兄弟们看完觉得有帮助,记得点赞三连哇~

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/124798.html

相关文章

  • 年老Python序员一个链接没有不能视频只有不住视频

    摘要:算了算了,不整游戏了,反正你们也不爱看今天来试试把头条上扭腰上热门的那些妹子爬一爬,不知道我顶不顶得住二准备工作使用的环境专业版要用的第三方模块三大致流程鉴于你们不喜欢我啰嗦,但是流程呢,我还是要给你们写出来,所以我就单独把它列出来了。 ...

    Jrain 评论0 收藏0
  • Python爬虫:一个链接,虎牙视频随便下载

    摘要:爬取的原理我们来到虎牙视频主界面,链接为虎牙视频主界面然后随便点击一下某个视频的发布者,来到这个发布者的主界面,点击到视频,如下我们可以看到这个界面下有许多视频可以观看,那么怎样下载呢我们随便点击其中的一个视频进入,按 ...

    lvzishen 评论0 收藏0
  • 交封不杀!——python获取bilibli视频封面

    摘要:我又回头看那个爬京东的程序哦我好像被反爬虫发现了解决反爬虫问题这下可以了吧直接点开链接看一下没错,火狐才是我的默认浏览器终于不用再说交封不杀了。 昨晚终于提交了该死的31条CPU,今天十节课翘了八节,躺在宿舍睡觉,不幸遇到几百年难得一见的点名……然而当时我在吃炸鸡,没法(懒)赶过去,达成第一次翘课就点名。 心情郁结的我打算看一看漂亮小姐姐开心一下,于是我发现了这个视频:showImg(...

    dance 评论0 收藏0
  • Python

    摘要:最近看前端都展开了几场而我大知乎最热语言还没有相关。有关书籍的介绍,大部分截取自是官方介绍。但从开始,标准库为我们提供了模块,它提供了和两个类,实现了对和的进一步抽象,对编写线程池进程池提供了直接的支持。 《流畅的python》阅读笔记 《流畅的python》是一本适合python进阶的书, 里面介绍的基本都是高级的python用法. 对于初学python的人来说, 基础大概也就够用了...

    dailybird 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<