WebMagic是 官一款可以扶植您创建网页爬虫工具的代码编辑软件，通过本软件，新版您可以在设计网页抓取工具的 官时候得到更方面的代码设计筹备，对于网页信息捕捉来会谈，新版使用爬虫工具抓取是 官最方便的，但是新版深空之眼辅助操作其设计的代码非常艰辛 ，不是 官专业人士很难在短时间内落成设计，针对这个尴尬 ，新版小编推荐您使用WebMagic软件 ， 官他已经内置了一个爬虫编辑计划 ，新版所有的 官源代码都已经设计好了，你只需要将这个代码框架发送到开发软件上，新版就可以快速建立一个网页爬虫程序！ 官

软件功能

　　1、新版WebMagic是 官深空之眼强度一个网页爬虫代码，可以扶植您抓取网页的信息

　　2、您可以将这个代码加载到文本应用程序中，这样就可以设计网页信息抓取的软件了

　　3、该软件基于Java开发，主要的目的就是让您可以在设计web抓取工具的时候晋升代码编辑速度

　　4、通过WebMagic ，您可以裁减繁杂代码的全能辅助编辑
，优化web信息得到的方式

　　5 、提供多个代码编辑模块 ，您可以在软件上选择对应对方模块加载到开发环境中使用

　　6、灵活性强大，所有发的模块都可以自己编辑，也就是 ，您可以选择合适自己使用的深空之眼科技模块编辑

　　7、软件提供多个编辑方式，内置扩展模块的编辑，方便您自己定制爬虫的编写方式

　　8、内置webmagic-extension
、webmagic-saxon数据包 ，主要用于调试爬虫的脚本

软件特色

　　1 实现PageProcessor

　　2 使用Selectable抽取元素

　　3 使用Pipeline保存结果

　　4 爬虫的配置、打开和终止

　　5 Jsoup与Xsoup

　　6 爬虫的虚空之眼辅助出装监控

　　7 配置代理

　　8 筹备非HTTP GET请求

使用计划

　　我们这里抽取一个github项目的名称 、作家和简介三个信息
，所以我们定义了一个Model类。

　　在这个例子中，区分方式很简易，因为列表页和目标页在URL格式上是不同的
，所以直接用URL区分就可以了！

　　一般情况下
，深空之眼社区叫什么Formatter会根据字段类型铺开转换 ，但是特殊情况下，我们会需要手动指定类型
。这主要裸露在字段是List类型的时候 。

　　WebMagic的监控使用JMX提供控制 ，你可以使用任何拥穿着JMX的客户端来铺开接合。我们这里以JDK自带的深空之眼论坛app叫啥JConsole为例。我们首先打开WebMagic的一个Spider
 ，并增补监控代码 。然后我们通过JConsole来铺开查校验。

　　这里我们也可以选择“操作”，在操作里可以选择打开-start()和终止爬虫-stop()，这会直接调用对应Spider的start()和stop()计划，来达到基本控制的深空之眼wiki目的
。

　　编译和执行源码

　　导入大捷之后，应该就没有编译错误了
！此时你可以运行一下webmagic-core项目中自带的

更新日志

　　通过 Page.isDownloadSuccess 而不是 Page 对象本身为空来判断是否下载出局

　　为 PageModel 增补不发现新 URL 的功能 #575

　　为 Site 增补了 disableCookieManagement 属性，在不想使用 cookie 时使用 #577

　　WebMagic 0.5.3 版本发布，Java 爬虫框架

　　WebMagic 0.6.0 版本发布，Java 爬虫框架

　　WebMagic 0.6.1 版本发布，Java 爬虫框架

　　WebMagic 0.7.0 版本发布，主导眼和辅助眼的区别Java 爬虫框架