批量下载文件一般使用循环的方式，逐一执行下载。但在带宽与服务器性能允许的情况下，使用多进程进行下载可以大大提高下载的效率。本文介绍php利用curl的多进程请求方法，实现多进程同时下载文件。
原理：
使用curl的批处理方法，开启多进程，实现批量下载文件。
主要方法：
curl_multi_init
返回一个新cURL批处理句柄
curl_multi_add_handle
向curl批处理会话中添加单独的curl句柄
curl_multi_exec
运行当前 cURL 句柄的子连接
curl_multi_getcontent
如果设置了CURLOPT_RETURNTRANSFER，则返回获取的输出的文本流
立即学习“PHP免费学习笔记（深入）”；
curl_multi_remove_handle
移除curl批处理句柄资源中的某个句柄资源
curl_multi_close
关闭一组cURL句柄
完整代码如下：
BatchDownLoad.class.php
情感家园企业站5.0 多语言多风格版
下载
一套面向小企业用户的企业网站程序！功能简单，操作简单。实现了小企业网站的很多实用的功能，如文章新闻模块、图片展示、产品列表以及小型的下载功能，还同时增加了邮件订阅等相应模块。公告，友情链接等这些通用功能本程序也同样都集成了！同时本程序引入了模块功能，只要在系统默认模板上创建模块，可以在任何一个语言环境（或任意风格）的适当位置进行使用！
download_config = $download_config; $this->max_process_num = $max_process_num; $this->timeout = $timeout; // 日志文件
if($logfile){ $this->logfile = $logfile;
}else{ $this->logfile = dirname(__FILE__).'/batch_download_'.date('Ymd').'.log';
}
} /**
* 执行下载
* @result Int
*/
public function download(){
// 已处理的数量
$handle_num = 0; // 未处理完成
while(count($this->download_config)>0){ // 需要处理的大于最大进程数
if(count($this->download_config)>$this->max_process_num){ $process_num = $this->max_process_num; // 需要处理的小于最大进程数
}else{ $process_num = count($this->download_config);
} // 抽取指定数量进行下载
$tmp_download_config = array_splice($this->download_config, 0, $process_num); // 执行下载
$result = $this->process($tmp_download_config); // 写入日志
$this->to_log($tmp_download_config, $result); // 记录已处理的数量
$handle_num += count($result);
} return $handle_num;
} /**
* 多进程下载文件
* @param Array $download_config 本次下载的设置
* @return Array
*/
public function process($download_config){
// 文件资源
$fp = array(); // curl会话
$ch = array(); // 执行结果
$result = array(); // 创建curl handle
$mh = curl_multi_init(); // 循环设定数量
foreach($download_config as $k=>$config){ $ch[$k] = curl_init(); $fp[$k] = fopen($config[1], 'a');
curl_setopt($ch[$k], CURLOPT_URL, $config[0]);
curl_setopt($ch[$k], CURLOPT_FILE, $fp[$k]);
curl_setopt($ch[$k], CURLOPT_HEADER, 0);
curl_setopt($ch[$k], CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch[$k], CURLOPT_USERAGENT, 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)'); // 加入处理
curl_multi_add_handle($mh, $ch[$k]);
} $active = null; do{ $mrc = curl_multi_exec($mh, $active);
} while($active); // 获取数据
foreach($fp as $k=>$v){
fwrite($v, curl_multi_getcontent($ch[$k]));
} // 关闭curl handle与文件资源
foreach($download_config as $k=>$config){
curl_multi_remove_handle($mh, $ch[$k]);
fclose($fp[$k]); // 检查是否下载成功
if(file_exists($config[1])){ $result[$k] = true;
}else{ $result[$k] = false;
}
}
curl_multi_close($mh); return $result;
} /**
* 写入日志
* @param Array $data 下载文件数据
* @param Array $flag 下载文件状态数据
*/
private function to_log($data, $flag){
// 临时日志数据
$tmp_log = ''; foreach($data as $k=>$v){ $tmp_log .= '['.date('Y-m-d H:i:s').'] url:'.$v[0].' file:'.$v[1].' status:'.$flag[$k].PHP_EOL;
} // 创建日志目录
if(!is_dir(dirname($this->logfile))){
mkdir(dirname($this->logfile), 0777, true);
} // 写入日志文件
file_put_contents($this->logfile, $tmp_log, FILE_APPEND);
}
}?>demo.php
download();echo 'download num:'.$handle_num.PHP_EOL;?>
执行后日志输出
[2017-07-16 18:04:21] url:http://www.example.com/p1.jpg file:/home/fdipzone/photo/p1.jpg status:1[2017-07-16 18:04:21] url:http://www.example.com/p2.jpg file:/home/fdipzone/photo/p2.jpg status:1[2017-07-16 18:04:21] url:http://www.example.com/p3.jpg file:/home/fdipzone/photo/p3.jpg status:1[2017-07-16 18:04:21] url:http://www.example.com/p4.jpg file:/home/fdipzone/photo/p4.jpg status:1[2017-07-16 18:04:21] url:http://www.example.com/p5.jpg file:/home/fdipzone/photo/p5.jpg status:1
本篇文章讲解了批量下载文件的一些方式，更多相关内容请关注php中文网。
相关推荐：
关于php 日志类的讲解
