更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效绕过各种反采集策略。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【经验分享】如何获取我查查App当前所选城市?
    adb pull /data/data/com.wochacha/shared_prefs/com.wochacha_preferences.xml ./com.wochacha_preferences.xml
    然后读取"SelectedCityName"属性。如图所示。 ​​​​
    发布时间:2019-01-18 14:09:15
  • 拼多多商品ID采集:Selenium + Mitmproxy ​​​​
    发布时间:2019-01-18 12:39:59
  • 【经验分享】SSH本地端口映射。场景如下:
    某Linux母机下有多台KVM虚拟机,虚拟机的VNC只开放了127.0.0.1的访问权限。如何远程连接这些VNC端口呢?

    可以使用SSH本地端口映射实现,在本地机执行如下命令:
    ssh -L 127.0.0.1:5901:127.0.0.1:5901 user@ip-of-linux-host
    解释一下:监听本地5901端口,将5901端口的连接重定向到ip-of-linux-host主机的127.0.0.1:5901端口。
    发布时间:2019-01-16 12:01:25
  • 【经验分享】KVM调整磁盘大小:
    1. 查看原磁盘大小。
    qemu-img info win7.img
    如图是80G。

    2. 增加10G。
    sudo qemu-img resize win7.img +10G

    3. 查看增加后的磁盘大小。
    qemu-img info win7.img
    如果是90G。

    4. 重启虚拟机,进入虚拟机磁盘管理再确认下。
    如图2所示,多了一个10GB的空闲分区。可以新建一个分区,也可以使用磁盘扩展将其合并到C盘。

    如果想要扩展指的分区的大小,可以使用virt-resize,具体请参考该文章:https://mike42.me/blog/how-to-resize-a-windows-vm-image-with-virt-resize
    发布时间:2019-01-16 11:37:01
  • 美团外卖菜品/商品月销量属性确定可以抓取(如图所示) ​​​​
    发布时间:2019-01-10 15:30:18
  • 【经验分享】KVM在Ubuntu下的安装配置 >>> http://www.site-digger.com/html/articles/20181229/693.html ​​​​
    发布时间:2019-01-09 16:03:18
  • 【经验分享】拼多多列表页商品最大可见数为1000个。
    如何测试Ajax动态分页列表的最大可翻页数?这个文章还是我3年前写的,后来时常用到。
    http://www.site-digger.com/html/articles/20150718/94.html ​​​​
    发布时间:2019-01-03 15:33:16
  • 【经验分享】安卓模拟器中需要先关闭物理键盘,才能正常使用ADB Keyboard。设置方法见附图。 ​​​​
    发布时间:2019-01-02 16:52:26
  • 常见安卓模拟器远程ADB监听端口(如图) ​​​​
    发布时间:2018-12-26 09:49:08
  • 【赞】pywebview是webview组件的轻量级跨平台原生封装,实现利用Web技术开发GUI应用  >>> 项目主页:https://github.com/r0x0r/pywebview  
    说明文档:https://pywebview.flowrl.com/  
    How to build cross platform Desktop GUI based apps with Python and web technologies and frameworks:https://www.techiediaries.com/python/how-to-build-cross-platform-desktop-gui-based-apps-with-python-and-web-technologies-and-frameworks/ ​​​​
    发布时间:2018-12-13 12:27:42

折叠什么是Web数据抓取?

Web数据抓取(Web scraping,也叫Web数据采集)指的是批量、快速从网站上提取信息的一种计算机软件技术。Web数据抓取程序模拟浏览器的行为,能将可以在浏览器上显示的任何数据提取出来,因此也称为屏幕抓取(Screen scraping)。Web数据抓取的最终目的是将非结构化的信息从大量的网页中抽取出来以结构化的方式存储(CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等)。

折叠Web数据抓取有什么用处?

任何业务运营成功的基础是拥有大量的目标用户和专业数据,谁能把握用户,谁就能占得先机。Web数据抓取服务可以帮您迅速获得大量的目标用户和专业数据,使您在降低运营成本的同时,迅速抢占先机,占领制高点。 许多的客户都直接从我们的服务或者定制软件中获益。

许多的客户都直接从我们的服务中获益。

您能把我们的服务用于以下方面:

  • 产生您的潜在客户列表
  • 从您的竞争对手中收集您感兴趣的信息
  • 抓取新兴业务数据
  • 建立您自己的产品目录
  • 整合行业信息,辅助经营决策
  • 建立垂直搜索引擎
  • Web系统自动化
  • 舆情监控等等

折叠Web数据抓取有什么好处?

简单: 您不需要使用任何的软件,只需要告诉我们您的目标网站和你感兴趣的内容。

弹性: 您能从任何的网站上获取任何数据,特别是动态网站上的数据。

快捷: 对于一个需要20个人工作日完成的工作,我们能在数小时内完成。

定制: 针对不同的目标网站定制采集程序,灵活应对不同的异构网站。

精确: 抽取结果的每一列都是您所需要的,不多也不少。

低价: 您可以节省无法以金钱来计量的时间和精力,以及数倍于所付费用的人工和设备投入!

折叠Web数据抓取是否合法?

Web数据抓取程序的原理类似于搜索引擎的爬虫。

1、信息是不具有版权的,任何人都可以使用他人已公开的信息;

2、信息的组织和编撰具有版权,如果你完全使用对方网站上信息的编排方式和编排文字的话,可能存在版权侵权的行为。

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。