Python 现代开发学习笔记

爬虫与数据采集

先回看第八、九章与第十七章的书目项目。第一轮能收齐六本书,下一轮可以继续关注来源变化、任务恢复和输出质量。

下一步 动手任务 完成时核对
保存来源与变更 为每次采集保存时间、来源编号和原始快照,区分新增、修改与未变 重放同一批不重复写入;改一条书目后只产生一次实际更新
处理更长任务 将待采集、进行中、完成和失败记录持久保存,增加重试与任务领取 中途结束进程后重开,只继续尚未完成的工作
适应页面变化 用保存的 HTML、JSON 和动态页面分别检查解析步骤 字段缺失能定位到来源;页面结构变化有对应失败用例
形成持续输出 定期生成统一 CSV 或 SQLite 结果,再接入查询页面 本轮数量、拒收原因、更新时间与页面展示互相对应

请求失败时,先区分连接、读取和连接池等待,再决定修改哪一项设置。可以对照 HTTPX 超时说明 复查第八章的客户端配置。采集页数增加后,用 Scrapy 官方教程 将现有的提取、跟页与导出过程放进 Spider,比较任务由谁调度。

动态页面继续练习 Playwright 定位器:按角色、名称或页面结构定位,等到目标内容出现后再读取。给现有练习站增加一页,保留点击前后的页面证据,再把这项操作加入测试。

笔记正文与全部题解 · Ctrl / ⌘ K