php中curl_multi函数集的用法

neu 发布于2019-06-27 14:56 / 3508人阅读

摘要：今天我就来聊聊我关于函数集的使用心得，关于请求的问题。耗时这是不能容忍的。事实上内部实现就是用的事件循环。通过函数创建下载器。四复杂的运用这就是用法在上面的例子中。动态的从下载器中取出已经完成了的请求。函数实现的压测工具。

一、引言

这段时间比较忙，已经很久没有写博客了。今天我就来聊聊我关于curl_multi_*函数集的使用心得，关于http请求的问题。

当我们用户php发起一个http请求的时候。我们会首先想到用什么？没错，我们会创建curl来请求。当我们在一次执行中需要发起多个http请求呢。这简单，对每一个URL发起一次url请求。请求玩第1个再请求第2个....这就完了？哪我们还说个啥。

官网链接：http://php.net/manual/zh/book.curl.php

二、多次简单的curl请求弊端

我们举个栗子。现在有三个http请求。每个请求耗时2s。如果按照简单的curl请求（图1-(1)）。耗时6s.这是不能容忍的。如果请求的个数越多耗时约多。

有没有一种方式来缩小查询时间？能不能三个http请求同时执行（如图1-(1)）？有很多方法来解决这个问题，将耗时减少到2s。如：多进程、线程、事件循环、curl_multi_*等等。最简单的方式就是通过curl_multi_*函数来完成。事实上curl_multi_*内部实现就是用的事件循环。

三、简单的curl_multi_*运用

$value){
        $options[$key] =$value;
    }
    if(!empty($postData) && is_array($postData)){
        $options[CURLOPT_POST] = true;
        $options[CURLOPT_POSTFIELDS] = http_build_query($postData);
    }
    if(stripos($url,"https") === 0){
        $options[CURLOPT_SSL_VERIFYPEER] = false;
    }
    $ch = curl_init();
    curl_setopt_array($ch,$options);

    return $ch;
}

// 创建三个待请求的url对象
$chList = array();
$chList[] = getCurlObject("https://www.baidu.com");
$chList[] = getCurlObject("http://www.jd.com");
$chList[] = getCurlObject("http://www.jianshu.com/");

// 创建多请求执行对象
$downloader = curl_multi_init();

// 将三个待请求对象放入下载器中
foreach ($chList as $ch){
    curl_multi_add_handle($downloader,$ch);
}

// 轮询
do {
    while (($execrun = curl_multi_exec($downloader, $running)) == CURLM_CALL_MULTI_PERFORM) ;
    if ($execrun != CURLM_OK) {
        break;
    }

    // 一旦有一个请求完成，找出来，处理,因为curl底层是select，所以最大受限于1024
    while ($done = curl_multi_info_read($downloader))
    {
        // 从请求中获取信息、内容、错误
        $info = curl_getinfo($done["handle"]);
        $output = curl_multi_getcontent($done["handle"]);
        $error = curl_error($done["handle"]);

        // 将请求结果保存,我这里是打印出来
        print $output;
//        print "一个请求下载完成!
";

        // 把请求已经完成了得 curl handle 删除
        curl_multi_remove_handle($downloader, $done["handle"]);
    }

    // 当没有数据的时候进行堵塞，把 CPU 使用权交出来，避免上面 do 死循环空跑数据导致 CPU 100%
    if ($running) {
        $rel = curl_multi_select($downloader, 1);
        if($rel == -1){
            usleep(1000);
        }
    }

    if( $running == false){
        break;
    }
} while (true);

// 下载完毕,关闭下载器
curl_multi_close($downloader);
echo "所有请求下载完成!";

在该例子中，首先创建三个或多个要请求的url请求对象。通过curl_multi_*函数创建下载器。将请求写入下载器中。最后轮询。等待三个请求现在完成。做处理。

四、复杂的curl_multi_*运用

这就是curl_multi_*用法？too yong too simple！在上面的例子中。下载器$downloader中的请求是一开始就添加好了的。我们能不能动态的向下载器中添加请求。动态的从下载器中取出已经完成了的请求。想想。这是什么？这不就是爬虫的核心部分-动态下载器。如何动态的添加？我们可以用多进程通过IPC添加。我们可以通过协程通过队列添加等待。

curl_multi_*函数实现的HTTP压测工具：
https://github.com/hirudy/phplib/blob/master/phpAb.php。

curl_multi_*实现的http请求类：

https://github.com/hirudy/phplib

我这实现了一个通过协程+curl_multi_*的爬虫框架。

Tspider:https://github.com/hirudy/Tspider。
单进程可处理请求2000-5000/min。

GPU云服务器云服务器 asp中数据集的使用 php中css的用法 php中header的用法 php中构建函数

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/22106.html

curl_multi实现并发

摘要：普通请求创建多个资源并发创建多个资源创建批处理句柄增加句柄待优化点在执行而整个批处理句柄没有全部执行完毕时，系统会不停地执行函数。进行改动的方式是应用函数库中的函数，其函数原型如下阻塞直到批处理连接中有活动连接。普通请求 curl_normal.php use time:0.830 s curl_multi并发 curl_multi.php use time:0.259 s ...

shusen 2019-06-28 18:47 评论0 收藏0
PHP使用curl_multi并发请求

摘要：根据获取请求对象这个比较简单可以看官方文档将三个待请求对象放入下载器中轮询一旦有一个请求完成，找出来，处理因为底层是，所以最大受限于从请求中获取信息内容错误把请求已经完成了得删除当没有数据的时候进行堵塞，把使用权交出来，避免上面死循环空跑数 class CurlMultiUtil { /** * 根据url,postData获取curl请求对象,这个比较简单,可以看官方...

Jacendfeng 2019-06-27 14:54 评论0 收藏0
【php爬虫】百万级别知乎用户数据爬取与分析

摘要：本程序是抓取知乎的用户数据，要能访问用户个人页面，需要用户登录后的才能访问。经过查阅资料得知，是因为知乎对图片做了防盗链处理。最终的结果是，用了一个周末就抓取了万的用户数据。代码托管地址：https://github.com/hoohack/zhihuSpider 这次抓取了110万的用户数据，数据分析结果如下：showImg(https://segmentfault.com/img...

maxmin 2019-06-27 11:33 评论0 收藏0
PHP编程中的并发

摘要：编程中的并发周末去北京面了两个公司，认识了几位技术牛人，面试中聊了很多，感觉收获颇丰。本文大约总结了编程中的五种并发方式，最后的的实现纯属无聊，可以无视。生成的可以中断函数，并用向发送消息。 PHP编程中的并发周末去北京面了两个公司，认识了几位技术牛人，面试中聊了很多，感觉收获颇丰。认识到了自己的不足之处，也坚定了自己对计算机学习的信心。本文是对其中一道面试题的总结。面试中有一个问...

lewinlee 2019-06-27 11:46 评论0 收藏0
PHP实现并发请求

摘要：不支持多线程模式和回调处理，因此内部脚本都是同步阻塞式的，如果你发起一个的请求，那么程序就会阻塞，直到请求返回结果，才会继续执行代码。参考资料手册手册预定义常量中实现多线程请求详解每次使用同时并发多少请求合适简书多线程及原理后端服务开发中经常会有并发请求的需求，比如你需要获取10家供应商的带宽数据（每个都提供不同的url），然后返回一个整合后的数据，你会怎么做呢？在PHP中，最直观...

zhangfaliang 2019-07-01 12:30 评论0 收藏0