php curl的深入解析

  curl可以说是php里一个非常强大的功能,每个php程序员都应该学习并熟悉curl,使用curl前确保你的php_curl扩展已经开启。

  一、curl使用

  例如:我们采集深圳智联招聘上PHP招聘的第一页信息

  

复制代码 代码如下:

  $url='http://sou.zhaopin.com/jobs/searchresult.ashx?jl=%E6%B7%B1%E5%9C%B3&kw=php&sm=0&p=1';

  //初始化

  $ch = curl_init();

  //设置选项,包括URL

  curl_setopt($ch, CURLOPT_URL, $url);

  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//不自动输出内容

  curl_setopt($ch, CURLOPT_HEADER, 0);//不返回头部信息

  //执行curl

  $output = curl_exec($ch);

  //错误提示

  if(curl_exec($ch) === false){

  die(curl_error($ch));

  }

  //释放curl句柄

  curl_close($ch);

  header('Content-type: text/html; charset=utf-8');

  echo $output;

  当然我们必须对返回的数据使用<<正则表达式>>处理,找出我们想要的那一部分,然后根据你的需要把数据填充到你网站里

  

复制代码 代码如下:

  //职位名称

  preg_match_all('/<td class="Jobname">.*?<a\s*href="(.*?)"\starget="_blank">(.*?)<\/a>/s', $output, $title);

  $title[1];//链接

  $title[2];//标题

  //公司名称

  preg_match_all('/<td class="Companyname">.*?<a href="(.*?)"\starget="_blank">(.*?)<\/a>/s', $output, $company);

  $company[1];//链接

  $company[2];//名字

  //工作地点

  preg_match_all('/<td class="Companyaddress">\s*(.*?)\s*<\/td>/s', $output, $address);

  $address[1];//地点

  //发布日期

  preg_match_all('/<td class="releasetime">\s*(.*?)\s*<\/td>/s', $output, $time);

  $time[1];//时间

  var_dump($time[1]);

  二、常用功能

  curl的核心是通过设置各种选项来达到各种功能,这里我们介绍几种常用的选项。

  1.post数据

  

复制代码 代码如下:

  $post=array(

  'uid'=>'test',

  'pwd'=>'curl123'

  );

  curl_setopt($ch, CURLOPT_POST, 1);//设置为POST方式

  curl_setopt($ch, CURLOPT_POSTFIELDS, http_build_query($post));//POST数据

  2.cookie

  

复制代码 代码如下:

  $savefile=dirname(__FILE__).'save.txt';

  $getfile=dirname(__FILE__).'get.txt';

  //可以分开使用

  curl_setopt($ch, CURLOPT_COOKIEJAR, $savefile); //保存

  curl_setopt($ch, CURLOPT_COOKIEFILE, $getfile); //读取

  3.伪造IP、来路

  

复制代码 代码如下:

  curl_setopt($ch, CURLOPT_HTTPHEADER, array('X-FORWARDED-FOR:8.8.8.8', 'CLIENT-IP:8.8.8.8'));//构造IP

  curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com");//构造来路

  curl_setopt选项大全,详见PHP手册:http://www.php.net/manual/zh/function.curl-setopt.php

  三、多线程

  官方示例

  

复制代码 代码如下:

  // 创建一对cURL资源

  $ch1 = curl_init();

  $ch2 = curl_init();

  // 设置URL和相应的选项

  curl_setopt($ch1, CURLOPT_URL, "http://www.example.com/");

  curl_setopt($ch1, CURLOPT_HEADER, 0);

  curl_setopt($ch2, CURLOPT_URL, "http://www.php.net/");

  curl_setopt($ch2, CURLOPT_HEADER, 0);

  // 创建批处理cURL句柄

  $mh = curl_multi_init();

  // 增加2个句柄

  curl_multi_add_handle($mh,$ch1);

  curl_multi_add_handle($mh,$ch2);

  $running=null;

  // 执行批处理句柄

  do {

  usleep(10000);

  curl_multi_exec($mh,$running);

  } while ($running > 0);

  // 关闭全部句柄

  curl_multi_remove_handle($mh, $ch1);

  curl_multi_remove_handle($mh, $ch2);

  curl_multi_close($mh);