标签:
Pholcus(幽灵蛛)是一款纯Go语言编写的支持分布式的高并发、重量级爬虫软件,定位于互联网数据采集,为具备一定Go或JS编程基础的人提供一个只需关注规则定制的功能强大的爬虫工具。
它支持单机、服务端、客户端三种运行模式,拥有Web、GUI、命令行三种操作界面;规则简单灵活、批量任务并发、输出方式丰富(mysql/mongodb/csv/excel等)、有大量Demo共享;另外它还支持横纵向两种抓取模式,支持模拟登录和任务暂停、取消等一系列高级功能。
框架特点:1、为具备一定Go或JS编程基础的用户提供只需关注规则定制、功能完备的重量级爬虫工具;2、支持单机、服务端、客户端三种运行模式;3、GUI(Windows)、Web、Cmd 三种操作界面,可通过参数控制打开方式;4、支持状态控制,如暂停、恢复、停止等;5、可控制采集量;6、可控制并发协程数;7、支持多采集任务并发执行;8、支持代理IP列表,可控制更换频率;9、支持采集过程随机停歇,模拟人工行为;10、根据规则需求,提供自定义配置输入接口11、有mysql、mongodb、csv、excel、原文件下载共五种输出方式;12、支持分批输出,且每批数量可控;13、支持静态Go和动态JS两种采集规则,支持横纵向两种抓取模式,且有大量Demo;14、持久化成功记录,便于自动去重;15、序列化失败请求,支持反序列化自动重载处理;16、采用surfer高并发下载器,支持 GET/POST/HEAD 方法及 http/https 协议,同时支持固定UserAgent自动保存cookie与随机大量UserAgent禁用cookie两种模式,高度模拟浏览器行为,可实现模拟登录等功能;17、服务器/客户端模式采用Teleport高并发SocketAPI框架,全双工长连接通信,内部数据传输格式为JSON。
加载全部内容
Godot游戏引擎 官方版53.12MB157人下载 Godot是一个全新开发的开源跨平台游戏引擎,其功能集类似知名的跨平台游戏引擎Unity,可用于开发PC、主机、移动和Web游戏。
下载右侧自动生成二维码和返回顶部代码 v1.091 KB117人下载网页自动生成可扫描二维码图,二维码内容为对应网页网址链接 支持所有静态和动态网页页面,生成二维码可用手机软件我查查、魔码、微信等软件利用手机摄像头扫描,即可实现手机
下载jquery v1.12.1 121 KB109人下载jQuery 是一个javascript 库,它有助于简化 javascript 以及 Asynchronous javascript + xml (Ajax) 编程。与类似的 javascript 库不同,jQuery 具有独特的基本原理,可以简洁地表示常见的复杂代码。学习 jQuery 基本原理,探索其
下载Scrapy Web爬虫框架 v1.3.0 1.19 MB109人下载Scrapy 是一套基于基于Twisted的异步处理框架,纯python实现的爬虫框架,用户只需要定制开发几个模块就可以轻松的实现一个爬虫,用来抓取网页内容以及各种图片,非常之方便。
下载Ionicons开源图标集合 正式版1.53MB109人下载 Ionicons是一个完全开源的图标集,其中包含1100多个图标,这些图标是专为Web,iOS,Android和桌面应用程序而设计的。Ionicons是为Ionic Framework构建的,因此图标同时具有Material Design和iOS版本。
下载Vant移动端组件库22.08MB106人下载Vant 是一套轻量、可靠的开源移动端组件库。通过 Vant,可以快速搭建出风格统一的页面,提升开发效率。特性:1、60+ 高质量组件2、95% 单元测试覆盖率3、完善的中英文文档和示例4、支持按需引入5、支持主题定制6、支持国际化7、支持 TS8、支持 SSR建议搭配 webpack,babel 使用 Vant,这样可以使用 webpack 提供的丰富插件和个性化配置。Vant 支持了 babe
下载JPress v0.2 bulid0706 6.13 MB104人下载JPress,一个wordpress的java代替版本,使用JFinal开发。支持类似wordpress的几乎所有功能,比如:模板,插件等。同时在模板上,JPress提出了模板即模型的概念,方便模板制作人灵活制作业务模型,移除了widget等繁杂功能,同时在模板和插件制作上比wordpress
下载obs-studio实时流媒体和屏幕录制软件 最新版20.35 MB104人下载 OBS Studio 是一款用于实时流媒体和屏幕录制的软件,为高效捕获,合成,编码,记录和流传输视频内容而设计,支持所有流媒体平台。
下载CSerialPort跨平台串口类库 最新版4.26MB104人下载 CSerialPort是一个基于C++的轻量级开源跨平台串口类库,可以轻松实现跨平台多操作系统的串口读写。
下载QtScrcpy81.58MB104人下载QtScrcpy可以通过USB(或通过TCP/IP)连接Android设备,并进行显示和控制。不需要root权限。单个应用程序最多支持16个安卓设备同时连接。同时支持GNU/Linux,Windows和MacOS三大主流桌面平台。主要功能:1、实时显示Android设备屏幕2、实时键鼠控制Android设备3、屏幕录制4、截图为png5、无线连接6、最多支持16台设备连接(PC性能允许的情况下可以
下载