Giter Club home page Giter Club logo

pixivdownloader's Introduction

PixivDownloader

Pixiv And Pixivision Illustrations Downloader.

  • 项目主要用于 Pixiv站和Pixivision的插画特辑信息爬取和图片下载
    支持以下下载方式:
            1. Pixivision插画特辑列表页全部爬取
             2. Pixivision插画特辑详情页全部爬取
             3. 通过Pixiv插画url下载
             4. 通过Pixiv插画ID下载
             5. 通过关键字搜索下载
             6. 排行榜下载
             7.  通过插画ID下载关联作品

启动图形界面下载工具:(支持下载方式1-6)
使用方式:1.直接启动,输入Pixiv用户名和密码(如果有配置会自动填充),验证通过直接进入下载界面。2.配置ACCESS_TOKEN和PIXIV_COOKIES(每次使用用户名和密码登录时控制台会输出),验证通过后(时间可能略长),直接进入下载界面。

python launcher_gui.py

GUI

运行Pixivision全站插画爬虫:
    全站爬取完毕后,如果Pixivsion有更新,可以修改配置文件中的PAGE_NUM为更新的页数,比如Pixivsion有2页更新未爬取,修改PAGE_NUM=2,全站插画爬虫则会爬取前2页的所有特辑

python launcher_pixivision.py

运行Pixivision插画特辑补全脚本:
    用于检查从Pixivision下载的特辑是否完全下载完毕,文件是否完整,并补全下载。(注意:这里的补全并不是下载Pixivison的更新的内容)

python launcher_check_completion.py

Pixiv Api代码参考了pixivpy
运行需求:python2.7(3以上版本暂未测试) 必要扩展库:future,requests(用于网页爬取,api请求),BeautifulSoup(用于网页html数据解析)
非必要扩展库:
 requests[socks] 提供socks5代理支持

pip install 'requests[socks]'

 twisted 如果需要运行launcher_pixivision.py,使用twisted线程池管理下载可以获取更快下载速度。
 Pillow 可检查Pixivision下载的插画文件是否完整。

UPDATE:
2017.05.11 新增项目目录外的配置文件config.ini,避免更新代码后原配置被覆盖
2017.05.24 添加了一个简单的图形界面下载工具
2017.06.20 完善图像界面下载工具,支持通过关键字搜索下载插画
2017.07.06 由于Pixiv Api更新,原本拉取插画详情的接口需要登录才能使用,直接使用控制台命令下载时,Pixiv账号和密码设置变为必填项。
2017.07.16 Pixivision专辑页支持多图下载,所有下载图片默认为原图画质
2017.07.27 Pixivision补全脚本,新增检查文件完整性:需要修改配置:CHECK_IMAGE_VERIFY=True 并安装 Pillow 生效
2017.08.03 图形界面下载工具需要登录或配置Token和Cookie才能启动下载界面
2017.08.31 优化图形界面下载工具的搜索下载,同时使用网页搜索爬虫和API搜索搜集下载数据
2017.09.02 图形界面下载工具新增排行榜下载
2017.09.22 Pixiv因DNS污染,部分地区无法直接访问。需要修改DNS或hosts文件才能正常使用。hosts文件修改:复制pixiv_host内容到hosts中
2018.04.18  新增通过插画ID下载关联作品
2018.09.03 旧hosts文件已失效,修改pixiv_host。新增windows环境下项目启动流程windows
2018.10.22 pixiv已经完全被墙,提供代理配置支持(详见pixiv_config配置项:USE_PROXY和PROXIES)

pixivdownloader's People

Contributors

imn5100 avatar

Stargazers

生鱼安乐 avatar

Watchers

James Cloos avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.