更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【视频演示】受客户委托对淘宝APP-淘鲜达店铺商品数据抓取的可行性进行评估。实测可行(销量也可以采集到),如录屏所示。  西安鲲之鹏的微博视频 ​​​​

    发布时间:2020-02-21 17:44:07
  • 【经验分享】Win8下安装VMware出现"error1316 指定账户已存在"问题的解决

    似乎是之前的安装有注册表残留(在控制面板已安装程序列表里看不到),尝试安装了多次,持续出现"error1316 指定账户已存在"问题,网上有VMware注册表清理工具试了也不管用。

    后来使用Windows Installer CleanUp Utility(Windows Installer 清理实用工具包,简称MSICUU)解决了问题。MSICUU会显示你以前没卸干净的软件列表(如附图1所示), 然后选择你想完全卸掉的项目 ,卸载了就可以了。

    附MSICUU的下载链接>>> O【Windows Installer CleanUp Utility下载】2...
    发布时间:2020-02-19 17:14:47
  • 【视频】携程酒店价格采集对比工具定制版演示
    该最新定制版(2020年)使用Google Chrome Dev Protocol(非Selenium + webdirver模式)实现,不会暴露navigator.webdriver等各种特征,不容易被识别。
    对比17年的版本:采用的是(Selenium + phantomjs)能够被反爬虫机制识别,返回有虚假价格情况,失败率也高。  西安鲲之鹏的微博视频

    发布时间:2020-02-18 15:24:40
  • 【经验分享】一例正则表达式效率低问题的分析

    一直以来都觉得正则表达式的效率非常高,今天遇到一例正则匹配耗时特长的情况,mark一下。
    目标是判断目标网页(大小约350KB)中是否有符合以下要求的子串:
    "至少要有一个不为'的字符<div class="tips_unresult">"

    想当然的写出了如下的代码:
    re.compile(r'[^\']+<div[^<>]+class="tips_unresult">').search(html)
    测试的时候发现这一步耗时特别长,记了一下时,竟然花了差不多10秒,很是诧异。

    后来试着修改了下正则式,如下:
    re.compile(r'[^\']<div[^<>]+class="tips_unresult">').search(html)
    和第一次的相比,区别在于:这里只匹配"<div..."前面有一个非'字符即可,而第一步是匹配"<div..."前面有一个或多个非'字符。
    这次只用了0.004秒,结果相差了1600多倍!

    PS:[汗]第一次的那个代码在以往一个的爬虫中曾执行过70多万次[汗],以前竟然没有发现问题,还以为时间都花在webkit加载页面上了...这样一算竟然多花了近一周的时间。

    独立的测试代码和运行截图如附图所示。
    发布时间:2020-02-17 17:57:15
  • 【经验分享】“supervisor实现无限重试”中的坑

    背景:Debian 10系统,Wifi联网,需要实现系统启动时自动启动autossh。
    问题:如果网络未连接成功(例如,Wifi是在用户登录之后才会连接),启动autossh会失败退出。因此不能直接使用rc.local(在网络连接成功之前就执行了)。于是想到使用supervisor,让其不断的重试,当网络连接正常时就autossh就会正常被启动了,配置如附图1所示。但是发现supervisor最多只重试了3次就放弃了。

    查询supervisor configuration文档(http://supervisord.org/configuration.html?highlight=startretries)得知startretries参数用于控制每次启动的重试次数,默认值是3。

    另外还有一个autorestart参数,如果设置为true,则无条件重启(If true, the process will be unconditionally restarted when it exits, without regard to its exit code.)。但我设置了autorestart为true后,还是只重试了3次。

    为什么呢?在autorestart参数注意事项里看到了如下说明:
    autorestart controls whether supervisord will autorestart a program if it exits after it has successfully started up (the process is in the RUNNING state).

    意思就是说目标program必须成功启动过一次(被标记过为RUNNING状态),autorestart机制才会起作用。

    由于本案例中supervisor服务启动的时候网络连接还没建立成功,所以目标program(autossh)首次启动(3次重试)会失败,这样autorestart机制就没起作用。

    怎么破?
    首先我们要弄清楚supervisor是怎么判断目标程序成功启动了呢。
    在startsecs参数的说明里我们可以看到:
    The total number of seconds which the program needs to stay running after a startup to consider the start successful (moving the process from the STARTING state to the RUNNING state).
    也就是只有目标程序启动保持运行超过startsecs秒才会被认为启动成功了(标记状态为RUNNING)。startsecs默认值是1。本例中autossh由于没有网络连接闪退了,所以supervisor认为其启动失败。

    弄清原理之后,就好办了,我们实现一个这样的脚本:
    (1)先判断网络连接是否正常(可以使用ping),如果不正常则等待10秒(只要超过startsecs值即可)后退出。
    (2)如果网络连接正常,则启动autossh。

    #!/bin/bash

    #
    检测网络是否通畅
    ping -c 1  www.baidu.com
    if [ $? -eq 0 ]
    then
      # 网络正常,启动autossh
      echo "Network is ready"
      sudo /bin/su qi -l -c "/usr/bin/autossh -M 6777 -N -D 127.0.0.1:1080 目标主机SSH参数"
    else
      #
    网络不通,等待11秒后退出
      echo "Network is not ready."
      sleep 11s
      exit 1
    fi

    实测成功。

    附Supervisor Configuration File文档链接:http://supervisord.org/configuration.html
    发布时间:2020-02-15 23:14:20
  • 发布时间:2020-02-14 21:06:44
  • 【经验分享】python2 pip安装frida-tools,在安装prompt-toolkit依赖时出现"No matching distribution found for prompt-toolkit<4.0.0,>=3.0.3 (from frida-tools)"问题(如附图1所示)的解决。

    问题分析:需要的prompt-toolkit版本是 <4.0.0,>=3.0.3,而python 2库中prompt-toolkit的最高版本才是2.0.10。 查询得知"prompt_toolkit 3.0 requires at least Python 3.6." (来源:https://python-prompt-toolkit.readthedocs.io/en/master/),3.0以后版本需要至少python 3.6。

    怎么破?
    (1)下载frida-tools源码包。
    (2)修改setup.py文件,如附图2所示,将prompt-toolkit的版本要求去掉。
    (3)sudo python setup.py install。
    发布时间:2020-02-11 18:55:01
  • 【视频演示】受客户委托对淘宝APP直播弹幕数据抓取的可行性进行评估。实测可行,如录屏所示。  西安鲲之鹏的微博视频 ​​​​

    发布时间:2020-02-11 15:38:51
  • 【经验分享】Linux下如何查看服务器的型号,出厂日期?
    可以使用dmidecode命令查看BIOS信息来实现。
    e.g.
    # 查看机器型号
    sudo dmidecode -s system-product-name
    #
    查看出厂日期
    sudo dmidecode -s bios-release-date

    如图1所示为我最近折腾的TDE上网本的情况;
    如图2所示为公司某服务器的情况;
    如图3所示为阿里云服务器的情况;

    关于dmidecode命令的详细说明见这里 >>> http://t.cn/A6Pemztx
    发布时间:2020-02-08 13:32:58
  • 【经验分享】这两天被冠状病毒困在家,翻出了一台10年前的上网本(TDE山寨货),配置如图1(i686 CPU 1.6GHz,1G RAM)。
    折腾了一下安装各种系统,可能驱动兼容性问题,期间遇到了各种问题,总结如下:

    (1)Chrome OS:
    安装比较顺利,运行也比较流畅,进入系统之后就是一个谷歌浏览器。
    但由于国内无法使用Google相关服务,使用起来比较麻烦,放弃。

    (2)Android系列:
    Bliss OS X86 32位,安装后无法进入桌面环境。
    PrimeOS,没有32位的版本,无法安装。

    (3)Linux发行版:
    Linux Mint 19.3 cinnamon 32位,进入桌面后巨卡,无法正常使用,后来试了兼容模式启动情况好一些。
    Ubuntu 16.04.6 Desktop i386,安装过程复制文件后期卡死,无后文。
    Debian 10.2.0 i386,赞一个,安装过程很流畅(“配置软件包管理器”那步耗时较长),使用也很流畅。

    最终选定使用Debian 10。
    发布时间:2020-02-08 11:17:45
当前位置: 首页 > 公司微博 >
  • 西安鲲之鹏

    发布时间:2016-11-02 15:46:05
    这路由器系统是有问题了吗?
    运营商说DHCP租期是48-60小时,可它一个小时重新获取一次IP! ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-31 11:31:30
    一不注意将Chrome升级到了最新版本(V54),但是Webdriver不干活儿了“Runtime.executionContextCreated has invalid 'context': ...”。
    升级Chromedriver到2.25版本(Supports Chrome v53-55),问题解决。
    ChromeDriver 2.25 >>> http://t.cn/RV3EOyf ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-26 15:53:50
    【adb小试牛刀】第一次使用adb,做个笔记:
    1. 手机启用调试模式,USB连接PC。
    2. 执行adb devices查看已连接设备。注意手机出现的授权提示,点确定!否则设备会显示为"Unauthorized"。
    3. 执行adb shell即可进入设备的shell模式。
    4. 执行su,切换到root权限。前提是你的手机已经root过了(可以使用刷机精灵的一键root功能)。
    5. 开启App全局调试,即使ro.debuggable内存值为1。使用mprop程序实现,网上有详细的介绍。./mprop ro.debuggable 1。使用getprop  ro.debuggable判断修改是否成功。
    6. 执行stop;start重启adbd进程,更新连接信息。
    7. 退出shell。执行adb jdwp即可看到可以调试的进程ID。所有进程都变得可以调试了。也可 以使用Android Device Monitor查看对应的进程名称和ID。LogCat显示出App输出的调试日志。
    参考文章:
    [1]http://t.cn/8kihwA1
    [2]http://t.cn/RVTcBUH
    附adb和mprop百度网盘分享链接:http://t.cn/RVTcBUQ

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-25 09:21:38
    【技巧】如何下载到某Apk的历史版本(你懂的)?
    1)在http://t.cn/zWO96yA上搜索该APP。2)进入APK详情页,点击版本标签后面的“更多版本 »”即可看到网站收录的所有历史版本,选择需要的版本下载即可。 ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-24 16:21:24
    【有图有真相】一大早收到客户质疑,说是发现之前(6个月前)采集的某网站的数据有问题,和网站上的信息不一致。经过我们技术人员检查,发现是因为网站信息更新了,而不是我们采集错误了。有图为证。 ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-19 14:00:03
    有几万个网页需要转成Word文档,试了Pandoc HTML格式转WORD(docx),效果很赞!
    "C:\Program Files (x86)\Pandoc\pandoc.exe" -o ouput.docx input.html
    附Pandoc下载地址(pandoc-1.17.2-windows.msi):http://t.cn/RVSR7Ne(百度网盘分享) ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-17 14:51:31
    squid external_acl_type介绍,及后台程序编写示例 >>> http://t.cn/RViEIWl ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-14 08:39:53
    实测winpdb远程Python调试
    Winpdb - A Platform Independent Python Debugger -> http://t.cn/RVVoPSF ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-13 15:11:03
    转发两篇讲”SSH隧道应用(本地端口转发和远程端口转发)"非常赞(清晰、通俗)的文章:
    1. SSH Tunnel - Local and Remote Port Forwarding Explained With Examples >>> http://t.cn/RwqSpqk
    2. SSH port forwarding visualized >>> http://t.cn/RwYtXZ3
    特别要赞一下第二篇的配图。 ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-13 09:47:33
    谷歌的DNS-over-HTTPS(Public DNS)服务介绍 >>> http://t.cn/RVqHOgK
    顺便赞一下JSONovich这个插件! ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-13 09:29:10
    Run a shell script as another user that has no password(如何用其它用户身份运行一个程序):
    sudo -H -u otheruser bash -c 'echo "I am $USER, with uid $UID"'
    >>> http://t.cn/RVtXWrY ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-12 15:23:41
    用Python脚本打造Squid权限认证后端程序以及Squid3.5 auth_param key_extras新特性介绍 >>> http://t.cn/RV5zS9q ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-10-11 16:45:53
    经过DoSWF加密过的SWF文件无法直接反编译(看不到核心代码)突破方法:利用FFDec(JPEXS Free Flash Decompiler)的“搜索内存中的SWF”功能,载入“真实的SWF”就可以绕过加密成功反编译! ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-09-30 11:40:33
    360前端库(fonts.useso.com)罢工,导致数据超市(http://t.cn/Rzc0P1q使用Wordpress系统)页面加载缓慢。
    1)搜索所有使用fonts.useso.com的文件:find ./ -type f -name "*.php" | xargs grep "fonts.useso.com"。
    2)替换fonts.useso.com为fonts.googleapis.com。
    问题解决。 ​​​​

    阅读全文 + 去微博评论 +

  • 西安鲲之鹏

    发布时间:2016-09-27 15:04:22
    关键词列表中的注释行判断失效了line.startswith('#'),导致采集到一些无效的淘宝数据。
    经查又是UTF-8 BOM惹的货! ​​​​

    阅读全文 + 去微博评论 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询