logo
分类于: 编程语言 计算机基础 云计算&大数据 职场办公

简介

Python爬虫开发 从入门到实战(微课版)

Python爬虫开发 从入门到实战(微课版) 7.7分

资源最后更新于 2020-03-29 03:44:11

作者:谢乾坤

出版社:出版社人民邮电出版社

出版日期:2018-09

ISBN:9787115490995

文件格式: pdf

标签: 计算机 编程 程序设计 工具书 Python

简介· · · · · ·

本书较为全面地介绍了定向爬虫的开发过程、各种反爬虫机制的破解方法和爬虫开发的相关技巧。全书共13章,包括绪论、Python基础、正则表达式与文件操作、简单的网页爬虫开发、高性能HTML内容解析、Python与数据库、异步加载与请求头、模拟登录与验证码、抓包与中间人爬虫、Android原生App爬虫、Scrapy、Scrapy高级应用、爬虫开发中的法律和道德问题等。除第1、12、13章外的其他章末尾都有动手实践,以帮助读者巩固本章和前面章节所学的内容。针对书中的疑难内容,还配有视频讲解,以便更好地演示相关操作。本书适合作为高校计算机类专业的教材,也适合作为网络爬虫技术爱好者的自学参考书。谢乾坤,网易高级数据挖掘工程师。前极客学院爬虫课程讲师,以网名『青南』与『kingname』开设爬虫开发课程,受众超过10万。多年爬虫开发经验,对爬虫开发有独到的理解。曾在多家知名公司从事爬虫开发工作,并为国内外众多基金公司与投资公司提供数据支持。

想要: 点击会收藏到你的 我的收藏,可以在这里查看

已收: 表示已经收藏

Tips: 注册一个用户 可以通过用户中心得到电子书更新的通知哦

目录

  1. 内容提要
  2. 前言
  3. 第1章 绪论
  4. 1.1 爬虫
  5. 1.2 爬虫可以做什么
  6. 1.2.1 收集数据
  7. 1.2.2 尽职调查
  8. 1.2.3 刷流量和秒杀
  9. 1.3 爬虫开发技术
  10. 第2章 Python基础
  11. 2.1 Python的安装和运行
  12. 2.1.1 在Windows中安装Python
  13. 2.1.2 在Mac OS中安装Python
  14. 2.1.3 在Linux中安装Python
  15. 2.2 Python开发环境
  16. 2.2.1 PyCharm介绍与安装
  17. 2.2.2 运行代码
  18. 2.3 Python的数据结构和控制结构
  19. 2.3.1 整数、浮点数和变量
  20. 2.3.2 字符串、列表、元组
  21. 2.3.3 数据的读取
  22. 2.3.4 字典与集合
  23. 2.3.5 条件语句
  24. 2.3.6 for循环与while循环
  25. 2.4 函数与类
  26. 2.4.1 函数
  27. 2.4.2 类与面向对象编程
  28. 2.5 阶段案例——猜数游戏
  29. 2.5.1 需求分析
  30. 2.5.2 核心代码构建
  31. 2.5.3 调试与运行
  32. 2.6 本章小结
  33. 2.7 动手实践
  34. 第3章 正则表达式与文件操作
  35. 3.1 正则表达式
  36. 3.1.1 正则表达式的基本符号
  37. 3.1.2 在Python中使用正则表达式
  38. 3.1.3 正则表达式提取技巧
  39. 3.2 Python文件操作
  40. 3.2.1 使用Python读/写文本文件
  41. 3.2.2 使用Python读/写CSV文件
  42. 3.3 阶段案例——半自动爬虫开发
  43. 3.3.1 需求分析
  44. 3.3.2 核心代码构建
  45. 3.3.3 调试与运行
  46. 3.4 本章小结
  47. 3.5 动手实践
  48. 第4章 简单的网页爬虫开发
  49. 4.1 使用Python获取网页源代码
  50. 4.1.1 Python的第三方库
  51. 4.1.2 requests介绍与安装
  52. 4.1.3 使用requests获取网页源代码
  53. 4.1.4 结合requests与正则表达式
  54. 4.2 多线程爬虫
  55. 4.2.1 多进程库(multiprocessing)
  56. 4.2.2 开发多线程爬虫
  57. 4.3 爬虫的常见搜索算法
  58. 4.3.1 深度优先搜索
  59. 4.3.2 广度优先搜索
  60. 4.3.3 爬虫搜索算法的选择
  61. 4.4 阶段案例——小说网站爬虫开发
  62. 4.4.1 需求分析
  63. 4.4.2 核心代码构建
  64. 4.4.3 调试与运行
  65. 4.5 本章小结
  66. 4.6 动手实践
  67. 第5章 高性能HTML内容解析
  68. 5.1 HTML基础
  69. 5.2 XPath
  70. 5.2.1 XPath的介绍
  71. 5.2.2 lxml的安装
  72. 5.2.3 XPath语法讲解
  73. 5.2.4 使用Google Chrome浏览器辅助构造XPath
  74. 5.3 Beautiful Soup4
  75. 5.3.1 BS4的安装
  76. 5.3.2 BS4语法讲解
  77. 5.4 阶段案例——大麦网演出爬虫
  78. 5.4.1 需求分析
  79. 5.4.2 核心代码构建
  80. 5.4.3 调试与运行
  81. 5.5 本章小结
  82. 5.6 动手实践
  83. 第6章 Python与数据库
  84. 6.1 MongoDB
  85. 6.1.1 MongoDB的安装
  86. 6.1.2 PyMongo的安装与使用
  87. 6.1.3 使用RoboMongo执行MongoDB命令
  88. 6.2 Redis
  89. 6.2.1 环境搭建
  90. 6.2.2 Redis交互环境的使用
  91. 6.2.3 Redis-py
  92. 6.3 MongoDB的优化建议
  93. 6.3.1 少读少写少更新
  94. 6.3.2 能用Redis就不用MongoDB
  95. 6.4 阶段案例
  96. 6.4.1 需求分析
  97. 6.4.2 核心代码构建
  98. 6.4.3 调试与运行
  99. 6.5 本章小结
  100. 6.6 动手实践
  101. 第7章 异步加载与请求头
  102. 7.1 异步加载
  103. 7.1.1 AJAX技术介绍
  104. 7.1.2 JSON介绍与应用
  105. 7.1.3 异步GET与POST请求
  106. 7.1.4 特殊的异步加载
  107. 7.1.5 多次请求的异步加载
  108. 7.1.6 基于异步加载的简单登录
  109. 7.2 请求头(Headers)
  110. 7.2.1 请求头的作用
  111. 7.2.2 伪造请求头
  112. 7.3 模拟浏览器
  113. 7.3.1 Selenium介绍
  114. 7.3.2 Selenium安装
  115. 7.3.3 Selenium的使用
  116. 7.4 阶段案例
  117. 7.4.1 需求分析
  118. 7.4.2 核心代码构建
  119. 7.4.3 调试与运行
  120. 7.5 本章小结
  121. 7.6 动手实践
  122. 第8章 模拟登录与验证码
  123. 8.1 模拟登录
  124. 8.1.1 使用Selenium模拟登录
  125. 8.1.2 使用Cookies登录
  126. 8.1.3 模拟表单登录
  127. 8.2 验证码
  128. 8.2.1 肉眼打码
  129. 8.2.2 自动打码
  130. 8.3 阶段案例——自动登录果壳网
  131. 8.3.1 需求分析
  132. 8.3.2 核心代码构建
  133. 8.3.3 运行与调试
  134. 8.4 本章小结
  135. 8.5 动手实践
  136. 第9章 抓包与中间人爬虫
  137. 9.1 数据抓包
  138. 9.1.1 Charles的介绍和使用
  139. 9.1.2 App爬虫和小程序爬虫
  140. 9.2 中间人爬虫
  141. 9.2.1 mitmproxy的介绍和安装
  142. 9.2.2 mitmproxy的使用
  143. 9.2.3 使用Python定制mitmproxy
  144. 9.3 阶段案例——Keep热门
  145. 9.3.1 需求分析
  146. 9.3.2 核心代码构建
  147. 9.3.3 调试运行
  148. 9.4 本章小结
  149. 9.5 动手实践
  150. 第10章 Android原生App爬虫
  151. 10.1 实现原理
  152. 10.1.1 环境搭建
  153. 10.1.2 使用Python操纵手机
  154. 10.1.3 选择器
  155. 10.1.4 操作
  156. 10.2 综合应用
  157. 10.2.1 单设备应用
  158. 10.2.2 多设备应用(群控)
  159. 10.3 阶段案例——BOSS直聘爬虫
  160. 10.3.1 需求分析
  161. 10.3.2 核心代码构建
  162. 10.3.3 调试与运行
  163. 10.4 本章小结
  164. 10.5 动手实践
  165. 第11章 Scrapy
  166. 11.1 Scrapy的安装
  167. 11.1.1 在Windows下安装Scrapy
  168. 11.1.2 在Linux下安装Scrapy
  169. 11.1.3 在Mac OS下安装Scrapy
  170. 11.2 Scrapy的使用
  171. 11.2.1 创建项目
  172. 11.2.2 在Scrapy中使用XPath
  173. 11.3 Scrapy与MongoDB
  174. 11.3.1 items和pipelines的设置
  175. 11.3.2 在Scrapy中使用MongoDB
  176. 11.4 Scrapy与Redis
  177. 11.4.1 Scrapy_redis的安装和使用
  178. 11.4.2 使用Redis缓存网页并自动去重
  179. 11.5 阶段案例——博客爬虫
  180. 11.5.1 需求分析
  181. 11.5.2 核心代码构建
  182. 11.5.3 调试与运行
  183. 11.6 本章小结
  184. 11.7 动手实践
  185. 第12章 Scrapy高级应用
  186. 12.1 中间件(Middleware)
  187. 12.1.1 下载器中间件
  188. 12.1.2 爬虫中间件
  189. 12.2 爬虫的部署
  190. 12.2.1 Scrapyd介绍与使用
  191. 12.2.2 权限管理
  192. 12.3 分布式架构
  193. 12.3.1 分布式架构介绍
  194. 12.3.2 如何选择Master
  195. 12.4 阶段案例
  196. 12.5 本章小结
  197. 第13章 爬虫开发中的法律和道德问题
  198. 13.1 法律问题
  199. 13.1.1 数据采集的法律问题
  200. 13.1.2 数据的使用
  201. 13.1.3 注册及登录可能导致的法律问题
  202. 13.1.4 数据存储
  203. 13.1.5 内幕交易
  204. 13.2 道德协议
  205. 13.2.1 robots.txt协议
  206. 13.2.2 爬取频率
  207. 13.2.3 不要开源爬虫的源代码
  208. 13.3 本章小结