阿里试用，女朋友逼着我给她排序

guyan0319 发布于2019-08-02 12:02 / 2102人阅读

摘要：下一页序号倒序概率名字当前页面全部数据锁频率使用，标记上次时间锁频率步长，单位秒当前页锁频率步长内取消请求秒内不要多次点击哦。

阿里试用排序

抱歉，之前莫名其妙把配置文件给 ignore 了，已经修复，抱歉

前景提要

说来简直丢尽了钢铁直男的脸，没错，昨晚我在愉快的做着外包的活（中国移动的小程序，自由职业，喂），11点多了，女友突然脑子一抽：“你能不能帮我把这个玩意排序一下给我用啊，我好薅点羊毛，技术能实现嘛？”
我比较无奈的看了看，阿里试用咩？什么鬼，哦哦哦，就这玩意啊，爬虫爬一下就是了。我是前端……
回道：“没问题啊，爬虫呗。”
她：“哇，多久能做出来啊？”
我：“我现在在忙诶，1-2小时吧。”
她：“行了，你别忙了，赶紧帮我弄一下出来！”
我看了看她的脸，羞耻的最小化《微信开发者工具》。。。

页面展示

你要是觉得这也是广告，那真是太抬举我了。

爬虫搞起来

NodeJS 爬虫，百度一下，到处都是现成的代码，我也就不一一分析了，拿出简书的一段代码，来自埃米莉Emily：

const express = require("express");
// 调用 express 实例，它是一个函数，不带参数调用时，会返回一个 express 实例，将这个变量赋予 app 变量。
const superagent = require("superagent");
const cheerio = require("cheerio");
const app = express();

app.get("/", (req, res, next) => {
  console.log(req)
  superagent.get("https://www.v2ex.com/")
    .end((err, sres) => {
      // 常规的错误处理
      if (err) {
        return next(err);
      }
      // sres.text 里面存储着网页的 html 内容，将它传给 cheerio.load 之后
      // 就可以得到一个实现了 jquery 接口的变量，我们习惯性地将它命名为 `$`
      // 剩下就都是 jquery 的内容了
      let $ = cheerio.load(sres.text);
      let items = [];
      $(".item_title a").each((idx, element) => {
        let $element = $(element);
        items.push({
          title: $element.text(),
          href: $element.attr("href")
        });
      });

      res.send(items);
    });
});

app.listen(3000, function () {
  console.log("app is listening at port 3000");
});

嘛，express 用 NodeJS 的不可能不知道，superagent 理解成可以在 Node 里面做对外请求即可，cheerio 嗯，Node 专用 JQ。

首爬

把上面的请求地址换成：https://try.taobao.com/，查看页面标签结构，找到想要的选择器结构：

.tb-try-wd-item-info > .detail，把这个替换上面选择器 .item_title a，走起：

……我不想展示结果，因为只有六个，页面实际展示是 10 个，找了半天，发现两个问题：

如上，第一个是爬到的 6 个是推荐，喵的，不是下面列表；
第二个，下面列表是后面通过 POST 多带带请求来的数据，怎么看都是某框架的 SSR 干的好事。

于是爬虫不成，得换战略。

模拟 POST

OK，既然是 POST，就好弄了，直接把连接跟参数刨出来，然后 superagent 模拟：

superagent
  .post(
    `https://try.taobao.com/api3/call?what=show&page=${paylaod.page}&pageSize&api=x%2Fsearch`
  )
  .set("content-type", "application/x-www-form-urlencoded; charset=UTF-8")
  .end((err, sres) => {
    // 常规的错误处理
    if (err) {
      return next(err)
    }
    const result = JSON.parse(sres.text).result // 返回结构树
    resolve(result)
  })

content-type 源自：

哼哼哼，你没猜错，失败了，如下：

想想是必然的，怎么可能给你随便请求呢，然后该怎么做？研究？nonono，老夫上来就是一梭子，不就是 Content-Type 么！

superagent
  .post(
    `https://try.taobao.com/api3/call?what=show&page=${paylaod.page}&pageSize&api=x%2Fsearch`
  )
  .set(
    "user-agent",
    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36"
  )
  .set("accept", "pplication/json, text/javascript, */*; q=0.01")
  .set("accept-encoding", "gzip, deflate, br")
  .set(
    "accept-language",
    "zh-CN,zh;q=0.9,en;q=0.8,la;q=0.7,zh-TW;q=0.6,da;q=0.5"
  )
  // .set("content-length", "8")
  .set("content-type", "application/x-www-form-urlencoded; charset=UTF-8")
  .set(
    "cookie",
    "your cookie"
  )
  .set("origin", "https://try.taobao.com")
  .set("referer", "https://try.taobao.com")
  .set("x-csrf-token", "f0b8e7443eb7e")
  .set("x-requested-with", "XMLHttpRequest")
  .end((err, sres) => {
    // 常规的错误处理
    if (err) {
      return next(err)
    }
    const result = JSON.parse(sres.text).result
    resolve(result)
  })

依据就是下面这个：

不就是头么，不就是源么，不就是用户代理么，用个 HTTPS 还没有你办法了？

注意上面 .set("content-length", "8")，不知道那边怎么玩，加上这个就超时……

于是，交代了吧：

{
    "pages": {
        "paging": {
            "n": 2182,
            "page": 1,
            "pages": 219
        },
        "items": [
            {
                "shopUserId": "2450112357",
                "title": "凯度高端款嵌入式蒸烤箱",
                "status": 1,
                "totalNum": 1,
                "requestNum": 15530,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "casdon凯度旗舰店",
                "showId": "2561626",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34530215",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1ycS2eMDqK1RjSZSyXXaxEVXa.jpg",
                "shopItemId": "559771706359",
                "price": 13850
            },
            {
                "shopUserId": "3189770892",
                "title": "皇家美素佳儿老包装2段400g",
                "status": 1,
                "totalNum": 50,
                "requestNum": 2079,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "皇家美素佳儿旗舰店",
                "showId": "2551240",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34396042",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1YrSZaVYqK1RjSZLeXXbXppXa.jpg",
                "shopItemId": "547114874458",
                "price": 189
            },
            {
                "shopUserId": "1077716829",
                "title": "关注店铺优先审水密码幻彩隔离",
                "status": 1,
                "totalNum": 10,
                "requestNum": 6907,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "水密码旗舰店",
                "showId": "2568391",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34784086",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB16_4ChmzqK1RjSZPxXXc4tVXa.jpg",
                "shopItemId": "559005882880",
                "price": 599
            },
            {
                "shopUserId": "725786863",
                "title": "精品皮草派克大衣",
                "status": 1,
                "totalNum": 1,
                "requestNum": 11793,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "美瑞蓓特",
                "showId": "2557886",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34574078",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1zVLMdCrqK1RjSZK9XXXyypXa.jpg",
                "shopItemId": "577418950477",
                "price": 5980
            },
            {
                "shopUserId": "3000840351",
                "title": "保友智能新品Pofit电脑椅",
                "status": 1,
                "totalNum": 1,
                "requestNum": 12895,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "保友办公家具旗舰店",
                "showId": "2557100",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34528042",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1bYZEg6TpK1RjSZKPXXa3UpXa.png",
                "shopItemId": "577598687971",
                "price": 5408
            },
            {
                "shopUserId": "791732485",
                "title": "TEK手持吸尘器A8",
                "status": 1,
                "totalNum": 1,
                "requestNum": 17195,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "泰怡凯旗舰店",
                "showId": "2552265",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34444014",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1D6bWbhTpK1RjSZFGXXcHqFXa.jpg",
                "shopItemId": "547653053965",
                "price": 5199
            },
            {
                "shopUserId": "3229583972",
                "title": "椰富海南冷炸椰子油食用油1L",
                "status": 1,
                "totalNum": 20,
                "requestNum": 4451,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "椰富食品专营店",
                "showId": "2561698",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34532250",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1VjLSePDpK1RjSZFrXXa78VXa.jpg",
                "shopItemId": "578653506446",
                "price": 256
            },
            {
                "shopUserId": "855223948",
                "title": "卡西欧立式家用电钢琴PX770",
                "status": 1,
                "totalNum": 1,
                "requestNum": 16762,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "世纪音缘乐器专营店",
                "showId": "2551326",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34420041",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1CC6aa9zqK1RjSZFpXXakSXXa.jpg",
                "shopItemId": "562405126383",
                "price": 4838
            },
            {
                "shopUserId": "4065939832",
                "title": "关注宝贝送轻奢沙发床",
                "status": 1,
                "totalNum": 1,
                "requestNum": 17436,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "贝兮旗舰店",
                "showId": "2559904",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34532170",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1AzxYegHqK1RjSZFPXXcwapXa.jpg",
                "shopItemId": "577798067313",
                "price": 4399
            },
            {
                "shopUserId": "807974445",
                "title": "森海塞尔CX6蓝牙耳机",
                "status": 1,
                "totalNum": 4,
                "requestNum": 22557,
                "acceptNum": 0,
                "reportNum": 0,
                "isApplied": false,
                "shopName": "sennheiser旗舰店",
                "showId": "2559701",
                "startTime": 1539619200000,
                "endTime": 1540220400000,
                "id": "34532161",
                "type": 1,
                "pic": "//img.alicdn.com/bao/uploaded/TB1HET6d7voK1RjSZFwXXciCFXa.jpg",
                "shopItemId": "564408956766",
                "price": 999
            }
        ]
    }
}

细心的小伙伴应该看到，我没有发送 form 给他，一样可以请求到需要的数据，page 挂在了 query 上……

展示部分

数据拿到，就简单了，其实就是这一个接口实现剩下的功能了，没错，记住我是前端。

长这个样子：

我多人性化，可以点击跳转、概率超过 5% 红色展示、还告诉你当前所在页码、点太快还给你提示………………………………

就是这么好用，喜欢的赶紧体验吧！

线上：点我体验

Github: Spider

觉得有用，不要吝惜 star 哦。

云服务器 GPU云服务器逼着给她阿里云绑定朋友的服务器女朋友

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/53289.html

阿里试用，女朋友逼着我给她排序

摘要：下一页序号倒序概率名字当前页面全部数据锁频率使用，标记上次时间锁频率步长，单位秒当前页锁频率步长内取消请求秒内不要多次点击哦。阿里试用排序抱歉，之前莫名其妙把配置文件给 ignore 了，已经修复，抱歉前景提要说来简直丢尽了钢铁直男的脸，没错，昨晚我在愉快的做着外包的活（中国移动的小程序，自由职业，喂），11点多了，女友突然脑子一抽：你能不能帮我把这个玩意排序一下给我用啊，我好...

ideaa 2019-08-29 17:17 评论0 收藏0
阿里试用，女朋友逼着我给她排序

摘要：下一页序号倒序概率名字当前页面全部数据锁频率使用，标记上次时间锁频率步长，单位秒当前页锁频率步长内取消请求秒内不要多次点击哦。阿里试用排序抱歉，之前莫名其妙把配置文件给 ignore 了，已经修复，抱歉前景提要说来简直丢尽了钢铁直男的脸，没错，昨晚我在愉快的做着外包的活（中国移动的小程序，自由职业，喂），11点多了，女友突然脑子一抽：你能不能帮我把这个玩意排序一下给我用啊，我好...

keke 2019-08-26 12:25 评论0 收藏0
阿里云日本VPS主机速度性能评测-日本软银SoftBank/香港NTT线路

摘要：有朋友介绍了阿里云日本东京的主机开放购买，价格还算便宜，于是就在上个月把网站搬家到日本阿里云上。试用过了阿里云日本主机，发现阿里云日本用的是日本软银和香港线路，这两条线路目前来看是访问国内访问日本比较理想的线路。一直以来，阿里云的VPS主机以价格便宜、后台控制面板方便实用的特点吸引着我去用，之前一直是将wzfou.com放在阿里云香港VPS上，但是在使用过程中逐渐发现了两个问题：一是VPS主...

番茄西红柿 2021-07-30 14:58 评论0 收藏2637
4搬砖和抱你：我该如何抉择？

摘要：小韩坐在我的对面喃喃的说道。彬哥，我是不是错了，如果再给我一次机会，我一定会拉住她，告诉她其实她比工作更重要。小韩，突然间对我说我觉得我生活和工作的混乱，并不是因为繁忙，而是我自己就从来没有仔细去想还有就是对时间安排的不合理。 showImg(https://segmentfault.com/img/bV1DqS?w=3500&h=2205); 我不戴金箍，救不了她，戴了金箍，爱不了她...

Bryan 2019-08-01 18:23 评论0 收藏0
4搬砖和抱你：我该如何抉择？

摘要：小韩坐在我的对面喃喃的说道。彬哥，我是不是错了，如果再给我一次机会，我一定会拉住她，告诉她其实她比工作更重要。小韩，突然间对我说我觉得我生活和工作的混乱，并不是因为繁忙，而是我自己就从来没有仔细去想还有就是对时间安排的不合理。 showImg(https://segmentfault.com/img/bV1DqS?w=3500&h=2205); 我不戴金箍，救不了她，戴了金箍，爱不了她...

ideaa 2019-08-22 13:47 评论0 收藏0