首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python 学习手册
Python Cookbook
Python 基础教程
Python Sites
PyPI - Python Package Index
http://www.simple-is-better.com/
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
V2EX  ›  Python

初学 Python 自己写了个程序爬自己博客

  •  
  •   lzj307077687 · 57 天前 · 1046 次点击
    这是一个创建于 57 天前的主题,其中的信息可能已经有所发展或是发生改变。

    https://github.com/straightedge4life/roblograbber
    有什么不足麻烦大佬们指正

    7 回复  |  直到 2019-08-22 17:57:22 +08:00
        1
    CallMeReznov   57 天前
    看到楼主头像,我下意识就想脱裤子.
        2
    Iamnotfish   57 天前
    干嘛存 SQL,存 CSV,TXT 不是更方便吗(认真脸
        3
    wzwwzw   57 天前   ♥ 1
    with ThreadPoolExecutor(max_workers) as pool:
    for item in args :
    future = pool.submit(fn , **item)
    futures.append(future)
    pool.shutdown()

    用了 with 会自动帮你上下文管理的 pool 的,不需要写 shutdown()
        4
    lzj307077687   56 天前
    @Iamnotfish #2 一开始是写入 TXT 的 确实简单很多
    现在存 MYSQL 主要是之前安装 mysqlclient 填了个坑
    感觉不稍微试用下的话有点辜负之前的折腾 嘿嘿
        5
    lzj307077687   56 天前
    @wzwwzw #3 又学到了~ 谢谢指正
        6
    locoz   56 天前   ♥ 1
    看起来你之前应该不是写 Python 的?有些地方 PEP8 规范可以注意一下。
    然后为了提高效率可以试试 ayncio,用 aiohttp 这类异步的库。
    还有就是像 type(headers) is dict 这种可以写成 isinstance(headers, dict)。
        7
    lzj307077687   56 天前
    @locoz #6 谢回复指导,下班回去了解一下~
    现在主要是写 PHP。
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   1171 人在线   最高记录 5043   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 22ms · UTC 18:06 · PVG 02:06 · LAX 11:06 · JFK 14:06
    ♥ Do have faith in what you're doing.