本文主要和大家分享使用phpspider爬虫的使用方法,使用python爬虫固然很方便,但是发现php在这方便也不弱;使用框架爬虫真的要高效许多。
1,先看下phpspider的结构

2,举例子:比如我爬取南昌新闻网的一个分类

这个注释要加上,不然报错,可以看看源码,源码里面有很多方法;
立即学习“PHP免费学习笔记(深入)”;
3,然后是配置下爬虫:


4,然后将配置文件放入框架类文件,实例化:
这里的 on_scan_page 是爬取的入口url,这些URL跟我配置的 content_url_regxes 正则规则匹配,所以在后面的爬取过程中,会爬取到这几个页面的数据

欢迎使用“起航点卡销售系统”销售程序:一、系统优势 1、售卡系统采取了会员与非会员相结合的销售方法,客户无需注册即可购卡,亦可注册会员购卡。 2、购卡速度快,整个购卡或过程只需二步即可取卡,让客户感受超快的取卡方式! 3、批量加卡功能。 4、取卡方式:网上支付,即时取卡 ,30秒可完成交易。 5、加密方式:MD5 32位不可倒推加密 6、防止跨站
0
5,对匹配后的字段field进行回调处理:

6,进行爬取数据入库处理 , 跑起来

以上只是一个简单的例子,还可以进行多进程爬取,代理爬虫,很多好玩的。
相关推荐:
以上就是使用phpspider爬虫的使用方法的详细内容,更多请关注php中文网其它相关文章!
PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号