更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效绕过各种反采集策略。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

当前位置: 首页 > 公司微博 >
  • 西安鲲之鹏

    发布时间:2017-06-22 11:54:23
    【经验分享】
    【背景】某代理服务器有一条联通线路(主IP,固定),还有N条电信ADSL拨号线路(N大于100)。
    【问题】现在遇到的问题是DNS解析的时候走的是主IP线路(联通),导致某些大站(例如,京东)解析回来的IP就是联通的(智能DNS的缘故),这样当从ADSL线路去访问这些网站时访问的是其联通的镜像站,从而导致速度不快(慢)。
    【解决】找一台电信服务器,使用dnsmasq搭建一个中转DNS服务器,然后在代理服务器上使用该DNS,问题解决:现在所有使用智能DNS的域名解析出来IP都是电信的了。

    附图1:未使用电信中转DNS服务器前测试京东截图,解析出来的IP是联通的。
    附图2:使用了电信中转DNS服务器后测试京东截图,解析出来的IP是联通的。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-05-17 21:19:15
    【经验分享】Pandoc 将某些HTML文档转WORD后无法正常打开,提示“无法打开文件...,因为内容有错误”(如附图1所示)。多次尝试后发现去掉HTML里所有<a>标签后问题解决(如附图2所示)。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-05-17 11:00:47
    安居客近来改版有点勤,价格这块4月份还是静态展示的,现在改成JS生成了。不过这不是什么问题。道是它的封IP(出验证)的策略越来越难绕过了,目前只有我们的动态IP代理可以有效解决 >>>  http://t.cn/RXK6ZcF

    数据采集与反采集这个较量永远不会停止... ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-04-27 17:07:54
    【Gif动画演示】动态IP稳定高匿智能HTTP代理演示
    PS:点击查看大图可播放Gif动画。

    了解详情 >>> http://t.cn/RXK6ZcF ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-04-27 09:51:47
    Linux下两种方法查看网卡的逻辑名称(logical name):
    【1】ls /sys/class/net 如附图1所示;
    【2】sudo lshw -C network 如附图2所示;

    有人会问为什么要查看这呢,多块网卡默认不都是eth0, eht1, eth2...吗?
    这和系统有关系,例如Ubuntu16.04中,网卡名称默认就是ens33, ens34...之类的,而非eth0, eth1...。

    附:如何修改Ubuntu16.04下网卡名ens为eth:
    sudo i /etc/default/grub
    修改:
    GRUB_CMDLINE_LINUX=" "
    为:
    GRUB_CMDLINE_LINUX="net.ifnames=0 biosdevname=0"
    再执行:
    sudo grub-mkconfig -o /boot/grub/grub.cfg
    然后重启一下就可以。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-04-23 17:38:40
    【vmrun小试牛刀】
    (1)命令行启动vmware虚拟机,示例:
    vmrun start "G:\VMS\XP2016\Windows XP Professional.vmx"
    (2)命令行重启vmware虚拟机,示例:
    vmrun reset "G:\VMS\XP2016\Windows XP Professional.vmx"

    vmrun命令说明文档:http://t.cn/RX01Cd3 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-04-16 18:38:18
    【问题概述】www.momondo.com.cn这个网站用了一个简单但有效的策略来检测客户端是否是真实的浏览器。虽然花了我不少时间,但还是赞一个。
    【问题描述】你可以试一下直接curl Omomondo - 全球机票酒店搜索,会发现始终得不到网站的响应;可以再试下用Python的urllib2库,一样获取不到内容。但是在浏览器内访问却始终正常。是不是很奇怪?看来它可以有效判断出是否是真实的浏览器。
    【解决方案】经过抓包对比,最终找出了它的方法。它主要检测了如下三点:
    1)User-Agent不能为空,也不能使用众所周知的非浏览器UA,例如"curl/7.27.0"。要伪装成一个真实的浏览器UA。
    2)不能为HTTP短连接,也就是必须要指定“Connection: keep-alive”(伪造这个头即可,不需要真正支持长连接)。
    3)Accept-Encoding不能为空,可以随便指定一个客户端支持的编码。
    最后这样测试,你会发现成功通过了网站的检测:
    curl -v -H "User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.89 Safari/537.36" -H "Connection: keep-alive" -H "Accept-Encoding: nothing" Omomondo - 全球机票酒店搜索(如截图所示)

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-03-18 21:06:55
    【一款大家都说好用的命令行带宽测速工具】
    >>> http://t.cn/zRjecv4
    PS:经过我在多地服务器上测试,结果还是挺准确的,特别是上传测速。speedtest.net全球众多的测速节点功不可没。

    只需要两步:
    1)下载这个工具
    wget http://t.cn/RiU1R0b
    2)启动
    python speedtest.py

    具体效果见下面附图。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-03-16 14:18:45
    【腾讯这是要放弃SmartQQ的节奏吗?】
    如图所示。消息丢失率很高,抓包可见poll2请求大量504(timeout)错误。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-03-15 12:58:18
    【pssh实在太酷了】
    图一:我通过pssh了解20台Linux服务器的负载情况,cool!
    图二:我通过pssh结合pslurp完成了20台Linux服务器重要数据文件的“批量打包、批量取回、批量删除远程备份”的操作,cool!

    参考资料:
    http://t.cn/RidpWFN
    http://t.cn/RidpWFp ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-03-14 17:32:29
    【域名NS记录查询】
    Windows:
    nslookup –qt=NS 目标域名

    Linux:
    host -t NS 目标域名

    参考文章:http://t.cn/zQJFraU http://t.cn/RGIQcyC ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-03-12 19:50:16
    【一个cron计划任务引发的血案】近日某Ubuntu14.04服务器上mongodb老自动挂掉,观察一段发现系统内存严重不足,swap都快被用完了,如图一所示,mongodb在内存耗尽的时候就挂掉了。很奇怪,到底是什么进程占用了这么多内存呢?

    参考这篇文章里的方法 Linux: Find Out What Process Are Using Swap Space > http://t.cn/RinTwWY

    执行如下命令,查看哪些进程使用了swap,并按使用量大小排列:
    for file in /proc/*/status ; do awk '/VmSwap|Name/{printf $2 " " $3}END{ print ""}' $file; done | sort -k 2 -n -r | less

    这一看不打紧,发现里面有大量的python进程。
    再用ps aux |grep python一看,一身冷汗,有3899个python进程!如图二所示。

    可以断定内存就是被这些进程给吃完了!
    PS:这是一个每分钟启动一次的计划任务,功能是实现一个动态域名解析客户端。应该是脚本用的访问网络的操作卡住了(系统默认无限等待)造成进程无法退出,久而久之累积出来了几千个后台进程...

    杀掉这些进程,修复Bug。现在内存使用看起来正常了,如图三所示。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-03-10 22:26:15
    MySQL抓包工具 - MySQL Sniffer: MySQL Sniffer 是一个基于 MySQL 协议的抓包工具,实时抓取 MySQLServer 端的请求,并格式化输出。>>>  详细介绍http://t.cn/RiQAESc
    Ubuntu14.04下试了一下,效果很赞(如下截图)。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-02-22 14:07:44
    如何避免SSH时出现“Write failed: Broken pipe”?
    ssh -o ServerAliveInterval=60 user@host
    更多方法 >>> http://t.cn/zYc5wR1 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2017-02-18 16:24:05
    PPPOE拨号引发“Couldn't allocate pseudo-tty”问题,表现:
    1)SSH连接卡主(无法正常建立连接),提示:“request failed on channel 0”。
    2)日志出现大量:“Couldn't allocate pseudo-tty”。
    谷歌得知原因:pseudo-terminals数量超过系统最大限制。
    临时处理方法:增加pseudo-terminals最大数量,具体步骤>>> http://t.cn/RJnUJxD

    1. 如何查看系统当前pseudo-terminals数量:
    ls /dev/pts|wc -l
    参考文章:http://t.cn/RJnUJxk

    2. 查看当前系统允许的最大pseudo-terminals数量:
    cat /proc/sys/kernel/pty/max

    阅读全文 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。