Pholcus（幽灵蛛）是一款纯Go语言编写的高并发、分布式、重量级爬虫软件，支持单机、服务端、客户端三种运行模式，拥有Web、GUI、命令行三种操作界面；规则简单灵活、批量任务并发、输出方式丰富（mysql/mongodb/csv/excel等）、有大量Demo共享；同时她还支持横纵向两种抓取模式，支持模拟登录和任务暂停、取消等一系列高级功能。
-
官方QQ群：Go大数据 42731170
-
Pholcus（幽灵蛛）以高效率，高灵活性和人性化设计为开发的指导**；
-
支持单机、服务端、客户端三种运行模式，即支持分布式布局，适用于各种业务需要；
-
支持Web、GUI、命令行三种操作界面，适用于各种运行环境；
-
支持mysql/mongodb/csv/excel等多种输出方式，且可以轻松添加更多输出方式；
-
采用surfer高并发下载器，支持 GET/POST/HEAD 方法及 http/https 协议，同时支持固定UserAgent自动保存cookie与随机大量UserAgent禁用cookie两种模式，高度模拟浏览器行为，可实现模拟登录等功能；
-
服务器/客户端模式采用teleport高并发socketAPI框架，全双工长连接通信，内部数据传输格式为JSON；
-
对采集规则进行了精心设计，规则灵活简单、高度封装，用于通用方法集与大量Demo，让你轻松添加规则；
-
支持横纵向两种抓取模式，并且支持任务暂停、取消等操作。
-
下载需要翻墙的依赖包（点击此处），并将其解压至 GOPATH/src 目录；
-
下载剩余全部源码，命令行如下
go get github.com/henrylee2cn/pholcus
注意：go get执行完成后，提示出现多个main函数的错误是正常的，这是由于支持下面的多种编译方式所致。
go install pholcus-web.go
或者
go build pholcus-web.go
go install -ldflags="-H windowsgui" pholcus-gui.go
或者
go build -ldflags="-H windowsgui" pholcus-gui.go
编译命令: go install pholcus-cmd.go 或者 go build pholcus-cmd.go
查看命令参数: pholcus-cmd.exe -h
执行爬虫命令: pholcus-cmd.exe -spider=3,8 -output=csv -go=500 -docker=5000 -pase=1000,3000 -kw=pholcus,golang -page=100
(注：花括号“{}”中为选择参数或参数格式，多个参数值之间用逗号“,”间隔，各项参数根据采集规则的需要自行设置)
- 添加一条规则的方法：只需在“henrylee2cn/pholcus/spider/spiders/”中增加一个采集规则（go文件），框架将自动添加该规则到GUI任务列表！
go get "github.com/henrylee2cn/surfer"
go get "github.com/henrylee2cn/teleport"
go get "github.com/PuerkitoBio/goquery"
go get "github.com/bitly/go-simplejson"
go get "github.com/henrylee2cn/mahonia"
go get "github.com/andybalholm/cascadia"
go get "github.com/lxn/walk"
go get "github.com/lxn/win"
go get "github.com/tealeg/xlsx"
go get "github.com/go-sql-driver/mysql"
go get "gopkg.in/mgo.v2"
<以下需翻墙下载>
go get "golang.org/x/net/html"
go get "golang.org/x/text/encoding"
go get "golang.org/x/text/transform"
（在此感谢以上开源项目的支持！）
Pholcus（幽灵蛛）项目采用商业应用友好的Apache License v2.发布
React
Typescript
Django
Laravel
Facebook
Microsoft
Google
Alibaba
D3
Tencent