更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【经验分享】本文介绍了一例APP使用了非常规ssl pinning导致Fidder抓包失败,最终通过Frida HOOK成功解决,附源码。 >>> http://www.site-digger.com/html/articles/20191018/751.html ​​​​
    发布时间:2019-10-18 13:23:42
  • 【经验分享】今日拨号服务器上某PPPOE拨号持续失败,经查日志:“pppoe: send (sendPacket): Network is down”,ip link 查看对应的虚拟网卡状态是DOWN,无法设置为UP(sudo ip link set dev v051802057684 up失败)。但同一个账号在另外一个机器上测试正常,怀疑可能是MAC地址的问题(例如冲突了),果断删掉虚拟网卡( sudo sudo ip link del v051802057684),然后重建并指定一个不同的MAC,拨号成功!
    发布时间:2019-09-26 10:52:18
  • 【经验分享】昨天下午办公室断了下电,服务器重启后,adb devices显示10台设备都是“?????? no permissions”,第一次遇到这种情况。重启服务器和移动设备问题依据。后来在askubuntu上看到有人提到试一下sudo adb devices,竟然立马识别了(https://askubuntu.com/questions/908306/adb-no-permissions-on-ubuntu-17-04)。很诡异,之前用普通权限都一直正常着,为什么突然就没有权限了?
    发布时间:2019-09-26 08:45:09
  • 【经验分享】Termux自带的am命令版本太低,竟然不支持force-stop(如图1示),经查得知pm clear命令也可以停止一个APP,而且还会将APP的用户数据清除掉(回到刚安装的状态),试了一下果然有效,运行之后"/data/data/包名"目录下只剩下lib目录了。注意:需要root权限。 >>> https://stackoverflow.com/questions/3117095/stopping-an-android-app-from-console ​​​​
    发布时间:2019-09-19 12:20:13
  • 【经验分享】"adb shell 命令",如何让“命令”以root权限执行?
    例如,某设备已root,但当执行adb shell rm /data/data/com.xxxx/cache时提示Permission denied。

    解决方法:
    adb shell "su -c '[your command goes here]'"
    例如:
    adb shell "su -c 'rm /data/data/com.xxxx/cache'"

    参考文章"Is there a way for me to run Adb shell as root without typing in 'su'?" >>> https://android.stackexchange.com/questions/5884/is-there-a-way-for-me-to-run-adb-shell-as-root-without-typing-in-su
    发布时间:2019-09-18 09:16:52
  • 【经验分享】关于小红书搜索结果数据抓取的限制:
    1. 小红书微信小程序版之前是前600条可见,最近已被限制为前60条可见。
    2. 小红书安卓APP版本限制为搜索结果前1000条可见。 ​​​​
    发布时间:2019-09-02 16:42:37
  • 【经验分享】通过ADB启动手机淘宝APP搜索,打开指定关键词的搜索结果列表,如下示例,打开搜索“HUAWEI”的结果:
    adb shell am start -n com.taobao.taobao/com.taobao.search.SearchListActivity -d "taobao://s.taobao.com/search?q=HUAWEI" ​​​​
    发布时间:2019-08-22 16:07:00
  • 【经验分享】手机淘宝APP商品搜索结果采集最新方案20190821(免登录)
    (1)模拟操作APP操作,无需登录,不存在封账号;
    (2)IP限制弱;
    详见下附演示视频。  L西安鲲之鹏的微博视频 ​​​​
    发布时间:2019-08-21 17:52:28
  • 【经验分享】终于搞定了支付宝口碑App数据采集,有图有真相。 ​​​​
    发布时间:2019-08-09 17:52:21
  • 【经验分享】如何采集支付宝小程序的数据?adb模拟操作 + xposed Hook "com.alipay.mobile.nebula.util.H5Utils.parseObject"
    如附图所示,成功获取服务端应答的JSON数据。 ​​​​
    发布时间:2019-08-07 16:13:23
当前位置: 首页 > 公司微博 >
  • 西安鲲之鹏

    发布时间:2019-03-20 13:11:35
    【经验分享】requests库使用py2exe打包之后出现"Could not find a suitable TLS CA certificate bundle"问题的解决:
    原因是打包之后按默认路径无法找到cacert.pem文件。将cacert.pem复制到exe同目录下,然后在程序里设置REQUESTS_CA_BUNDLE环境变量,如下:
    os.environ['REQUESTS_CA_BUNDLE'] =  os.path.join(os.path.dirname(sys.argv[0]), 'cacert.pem')
    重新打包,问题消失。

    参考:http://t.cn/Rr8WYVR

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-03-18 11:03:48
    【经验分享】Ubuntu上添加可信任根证书
    1. 如果是pem格式的根证书,先重命名为 .crt格式,例如( mitmproxy-ca-cert.crt)。
    2. sudo cp  mitmproxy-ca-cert.crt  /usr/local/share/ca-certificates。
    3. sudo update-ca-certificates

    update-ca-certificates命令将PEM格式的根证书内容附加到/etc/ssl/certs/ca-certificates.crt ,而/etc/ssl/certs/ca-certificates.crt 包含了系统自带的各种可信根证书.

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-03-14 15:41:19
    【经验分享】Python urllib2连接HTTPS网站出现“SSL routines:SSL23_GET_SERVER_HELLO:sslv3 alert handshake failure”问题(如图1所示)的解决。从这里github.com/pytorch/pytorch/issues/3193得知,Python2.7.9之前的版本连接某些HTTPS网站会有这个问题,之后的版本没有问题。于是测了下别的服务器上的Python2.7.12版本,果然没有问题(如图2所示)。

    似乎也是跟SNI有关,去年我们曾写过一篇文章《SNI导致Python 2.7建立TLS连接出现104错误问题的解决》 ,也是升级到最新版本的Python之后问题解决,详细过程见这里 :http://t.cn/EZSeTBn

    附:测试连接 http://t.cn/EMn51Uz

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-03-14 15:26:50
    【经验分享】远程GeckoDriver的使用 - 鲲之鹏的技术人员在本文向您介绍如何远程使用GeckoDriver调用多台服务器上的Firefox浏览器进行数据抓取。  >>> http://t.cn/EMnLGuL ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-02-20 12:00:43
    【经验分享】PDF表格抽取Python库 Camelot - http://t.cn/E7ao8cR
    Camelot is a Python library that makes it easy for anyone to extract tables from PDF files!

    依赖的库有点多,不过效果超赞!

    实测效果:
    图1为PDF原始文件截图;
    图2为抽取为CSV后截图; ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-02-15 19:14:57
    【经验分享】“永辉生活微信小程序”不响应KEYCODE_PAGE_UP(92) 怎么破?
    测试发现可以响应KEYCODE_DPAD_DOWN(20),不过KEYCODE_DPAD_DOWN一次只能滚动很小的幅度。怎么提升效率? 一次发送多个CODE即可。
    例如,一次发送10个KEYCODE_DPAD_DOWN操作:
    adb shell input keyevent 20 20 20 20 20 20 20 20 20 20

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-21 10:51:44
    18年12月下旬淘宝升级了反爬虫策略,其中一项最重要的改变就是商品搜索必须要登录才能进行,登录之后访问频繁就会出现验证码。鲲之鹏的技术人员通过技术攻关,目前已有了突破性的进展。目前可以实现:
    (1)自动登录,绕过淘宝对Selenium的屏蔽。
    (2)自动搜索。
    (3)验证码自动解决。

    下面是我们测试过程的一段视频截屏。 L西安鲲之鹏的微博视频

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-18 18:08:19
    微信公众号文章抓取示例 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-18 14:09:15
    【经验分享】如何获取我查查App当前所选城市?
    adb pull /data/data/com.wochacha/shared_prefs/com.wochacha_preferences.xml ./com.wochacha_preferences.xml
    然后读取"SelectedCityName"属性。如图所示。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-18 12:39:59
    拼多多商品ID采集:Selenium + Mitmproxy ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-16 12:01:25
    【经验分享】SSH本地端口映射。场景如下:
    某Linux母机下有多台KVM虚拟机,虚拟机的VNC只开放了127.0.0.1的访问权限。如何远程连接这些VNC端口呢?

    可以使用SSH本地端口映射实现,在本地机执行如下命令:
    ssh -L 127.0.0.1:5901:127.0.0.1:5901 user@ip-of-linux-host
    解释一下:监听本地5901端口,将5901端口的连接重定向到ip-of-linux-host主机的127.0.0.1:5901端口。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-16 11:37:01
    【经验分享】KVM调整磁盘大小:
    1. 查看原磁盘大小。
    qemu-img info win7.img
    如图是80G。

    2. 增加10G。
    sudo qemu-img resize win7.img +10G

    3. 查看增加后的磁盘大小。
    qemu-img info win7.img
    如果是90G。

    4. 重启虚拟机,进入虚拟机磁盘管理再确认下。
    如图2所示,多了一个10GB的空闲分区。可以新建一个分区,也可以使用磁盘扩展将其合并到C盘。

    如果想要扩展指的分区的大小,可以使用virt-resize,具体请参考该文章:http://t.cn/EqnDSLx

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-10 15:30:18
    美团外卖菜品/商品月销量属性确定可以抓取(如图所示) ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-09 16:03:18
    【经验分享】KVM在Ubuntu下的安装配置 >>> http://t.cn/EGdGjVE ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-01-03 15:33:16
    【经验分享】拼多多列表页商品最大可见数为1000个。
    如何测试Ajax动态分页列表的最大可翻页数?这个文章还是我3年前写的,后来时常用到。
    http://t.cn/RLfKlUC ​​​​

    阅读全文 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询