读书笔记摘抄新闻资讯
精通Python网路爬虫
《精通Python网路爬虫》全称《精通Python网路爬虫：核心技术、框架与项目实战》，是2017年4月机械工业出版社出版的图书，作者是韦玮。
基本介绍
- 书名：精通Python网路爬虫
- 作者：韦玮
- ISBN：9787111562085
- 定价：69
- 出版社：机械工业出版社
- 出版时间：2017年4月
- 开本：16开
内容简介
该书共20章，每一章都是关于Python网路爬虫知识的介绍。
网路爬虫是网际网路上进行信息採集的通用手段，在网际网路的各个专业方向上都是不可或缺的底层技术支撑。该书从爬虫基础开始，全面介绍了Python网路爬虫技术，并且包含各种经典的网路爬虫项目案例。
全书共20章，划分为四篇。理论基础篇主要介绍Python网路爬虫技术的理论基础，核心技术篇内容涵盖Urllib、正则表达式、Cookie处理、手写Python网路爬虫、Fiddler抓包分析、浏览器伪装、爬虫定向抓取技术，框架实现篇主要包括Scrapy安装与配置、Scrapy框架基础、Scrapy核心架构、Scrapy中文处理、CrawlSpider、Scrapy高级套用等，项目实战篇主要包含部落格类爬虫项目、图片类爬虫项目、模拟登录爬虫项目等。
作者简介
韦玮，现任重庆韬翔网路科技有限公司创始人兼CEO，51CTO、CSDN等技术社区特邀专家与讲师，输出了大量的优质文章与课程。
图书目录
前 言
第一篇 理论基础篇
第1章 什幺是网路爬虫 3
1.1 初识网路爬虫 3
1.2 为什幺要学网路爬虫 4
1.3 网路爬虫的组成 5
1.4 网路爬虫的类型 6
1.5 爬虫扩展——聚焦爬虫 7
1.6 小结 8
第2章 网路爬虫技能总览 9
2.1 网路爬虫技能总览图 9
2.2 搜寻引擎核心 10
2.3 用户爬虫的那些事儿 11
2.4 小结 12
第二篇 核心技术篇
第3章 网路爬虫实现原理与实现技术 15
3.1 网路爬虫实现原理详解 15
3.2 爬行策略 17
3.3 网页更新策略 18
3.4 网页分析算法 20
3.5 身份识别 21
3.6 网路爬虫实现技术 21
3.7 实例——metaseeker 22
3.8 小结 27
第4章 Urllib库与URLError异常处理 29
4.1 什幺是Urllib库 29
4.2 快速使用Urllib爬取网页 30
4.3 浏览器的模拟——Headers属性 34
4.4 逾时设定 37
4.5 HTTP协定请求实战 39
4.6 代理伺服器的设定 44
4.7 DebugLog实战 45
4.8 异常处理神器——URLError实战 46
4.9 小结 51
第5章 正则表达式与Cookie的使用 52
5.1 什幺是正则表达式 52
5.2 正则表达式基础知识 52
5.3 正则表达式常见函式 61
5.4 常见实例解析 64
5.5 什幺是Cookie 66
5.6 Cookiejar实战精析 66
5.7 小结 71
第6章 手写Python爬虫 73
6.1 图片爬虫实战 73
6.2 连结爬虫实战 78
6.3 糗事百科爬虫实战 80
6.4 微信爬虫实战 82
6.5 什幺是多执行绪爬虫 89
6.6 多执行绪爬虫实战 90
6.7 小结 98
第7章 学会使用Fiddler 99
7.1 什幺是Fiddler 99
7.2 爬虫与Fiddler的关係 100
7.3 Fiddler的基本原理与基本界面 100
7.4 Fiddler捕获会话功能 102
7.5 使用QuickExec命令行 104
7.6 Fiddler断点功能 106
7.7 Fiddler会话查找功能 111
7.8 Fiddler的其他功能 111
7.9 小结 113
第8章 爬虫的浏览器伪装技术 114
8.1 什幺是浏览器伪装技术 114
8.2 浏览器伪装技术準备工作 115
8.3 爬虫的浏览器伪装技术实战 117
8.4 小结 121
第9章 爬虫的定向爬取技术 122
9.1 什幺是爬虫的定向爬取技术 122
9.2 定向爬取的相关步骤与策略 123
9.3 定向爬取实战 124
9.4 小结 130
第三篇 框架实现篇
第10章 了解Python爬虫框架 133
10.1 什幺是Python爬虫框架 133
10.2 常见的Python爬虫框架 133
10.3 认识Scrapy框架 134
10.4 认识Crawley框架 135
10.5 认识Portia框架 136
10.6 认识newspaper框架 138
10.7 认识Python-goose框架 139
10.8 小结 140
第11章 爬虫利器——Scrapy安装与配置 141
11.1 在Windows7下安装及配置Scrapy实战详解 141
11.2 在Linux（Centos）下安装及配置Scrapy实战详解 147
11.3 在MAC下安装及配置Scrapy实战详解 158
11.4 小结 161
第12章 开启Scrapy爬虫项目之旅 162
12.1 认识Scrapy项目的目录结构 162
12.2 用Scrapy进行爬虫项目管理 163
12.3 常用工具命令 166
12.4 实战：Items的编写 181
12.5 实战：Spider的编写 183
12.6 XPath基础 187
12.7 Spider类参数传递 188
12.8 用XMLFeedSpider来分析XML源 191
12.9 学会使用CSVFeedSpider 197
12.10 Scrapy爬虫多开技能 200
12.11 避免被禁止 206
12.12 小结 212
第13章 Scrapy核心架构 214
13.1 初识Scrapy架构 214
13.2 常用的Scrapy组件详解 215
13.3 Scrapy工作流 217
13.4 小结 219
第14章 Scrapy中文输出与存储 220
14.1 Scrapy的中文输出 220
14.2 Scrapy的中文存储 223
14.3 输出中文到JSON档案 225
14.4 小结 230
第15章 编写自动爬取网页的爬虫 231
15.1 实战：items的编写 231
15.2 实战：pipelines的编写 233
15.3 实战：settings的编写 234
15.4 自动爬虫编写实战 234
15.5 调试与运行 239
15.6 小结 242
第16章 CrawlSpider 243
16.1 初识CrawlSpider 243
16.2 连结提取器 244
16.3 实战：CrawlSpider实例 245
16.4 小结 249
第17章 Scrapy高级套用 250
17.1 如何在Python3中运算元据库 250
17.2 爬取内容写进MySQL 254
17.3 小结 259
第四篇 项目实战篇
第18章 部落格类爬虫项目 263
18.1 部落格类爬虫项目功能分析 263
18.2 部落格类爬虫项目实现思路 264
18.3 部落格类爬虫项目编写实战 264
18.4 调试与运行 274
18.5 小结 275
第19章 图片类爬虫项目 276
19.1 图片类爬虫项目功能分析 276
19.2 图片类爬虫项目实现思路 277
19.3 图片类爬虫项目编写实战 277
19.4 调试与运行 281
19.5 小结 282
第20章 模拟登录爬虫项目 283
20.1 模拟登录爬虫项目功能分析 283
20.2 模拟登录爬虫项目实现思路 283
20.3 模拟登录爬虫项目编写实战 284
20.4 调试与运行 292
20.5 小结 294
第一篇 理论基础篇
第1章 什幺是网路爬虫 3
1.1 初识网路爬虫 3
1.2 为什幺要学网路爬虫 4
1.3 网路爬虫的组成 5
1.4 网路爬虫的类型 6
1.5 爬虫扩展——聚焦爬虫 7
1.6 小结 8
第2章 网路爬虫技能总览 9
2.1 网路爬虫技能总览图 9
2.2 搜寻引擎核心 10
2.3 用户爬虫的那些事儿 11
2.4 小结 12
第二篇 核心技术篇
第3章 网路爬虫实现原理与实现技术 15
3.1 网路爬虫实现原理详解 15
3.2 爬行策略 17
3.3 网页更新策略 18
3.4 网页分析算法 20
3.5 身份识别 21
3.6 网路爬虫实现技术 21
3.7 实例——metaseeker 22
3.8 小结 27
第4章 Urllib库与URLError异常处理 29
4.1 什幺是Urllib库 29
4.2 快速使用Urllib爬取网页 30
4.3 浏览器的模拟——Headers属性 34
4.4 逾时设定 37
4.5 HTTP协定请求实战 39
4.6 代理伺服器的设定 44
4.7 DebugLog实战 45
4.8 异常处理神器——URLError实战 46
4.9 小结 51
第5章 正则表达式与Cookie的使用 52
5.1 什幺是正则表达式 52
5.2 正则表达式基础知识 52
5.3 正则表达式常见函式 61
5.4 常见实例解析 64
5.5 什幺是Cookie 66
5.6 Cookiejar实战精析 66
5.7 小结 71
第6章 手写Python爬虫 73
6.1 图片爬虫实战 73
6.2 连结爬虫实战 78
6.3 糗事百科爬虫实战 80
6.4 微信爬虫实战 82
6.5 什幺是多执行绪爬虫 89
6.6 多执行绪爬虫实战 90
6.7 小结 98
第7章 学会使用Fiddler 99
7.1 什幺是Fiddler 99
7.2 爬虫与Fiddler的关係 100
7.3 Fiddler的基本原理与基本界面 100
7.4 Fiddler捕获会话功能 102
7.5 使用QuickExec命令行 104
7.6 Fiddler断点功能 106
7.7 Fiddler会话查找功能 111
7.8 Fiddler的其他功能 111
7.9 小结 113
第8章 爬虫的浏览器伪装技术 114
8.1 什幺是浏览器伪装技术 114
8.2 浏览器伪装技术準备工作 115
8.3 爬虫的浏览器伪装技术实战 117
8.4 小结 121
第9章 爬虫的定向爬取技术 122
9.1 什幺是爬虫的定向爬取技术 122
9.2 定向爬取的相关步骤与策略 123
9.3 定向爬取实战 124
9.4 小结 130
第三篇 框架实现篇
第10章 了解Python爬虫框架 133
10.1 什幺是Python爬虫框架 133
10.2 常见的Python爬虫框架 133
10.3 认识Scrapy框架 134
10.4 认识Crawley框架 135
10.5 认识Portia框架 136
10.6 认识newspaper框架 138
10.7 认识Python-goose框架 139
10.8 小结 140
第11章 爬虫利器——Scrapy安装与配置 141
11.1 在Windows7下安装及配置Scrapy实战详解 141
11.2 在Linux（Centos）下安装及配置Scrapy实战详解 147
11.3 在MAC下安装及配置Scrapy实战详解 158
11.4 小结 161
第12章 开启Scrapy爬虫项目之旅 162
12.1 认识Scrapy项目的目录结构 162
12.2 用Scrapy进行爬虫项目管理 163
12.3 常用工具命令 166
12.4 实战：Items的编写 181
12.5 实战：Spider的编写 183
12.6 XPath基础 187
12.7 Spider类参数传递 188
12.8 用XMLFeedSpider来分析XML源 191
12.9 学会使用CSVFeedSpider 197
12.10 Scrapy爬虫多开技能 200
12.11 避免被禁止 206
12.12 小结 212
第13章 Scrapy核心架构 214
13.1 初识Scrapy架构 214
13.2 常用的Scrapy组件详解 215
13.3 Scrapy工作流 217
13.4 小结 219
第14章 Scrapy中文输出与存储 220
14.1 Scrapy的中文输出 220
14.2 Scrapy的中文存储 223
14.3 输出中文到JSON档案 225
14.4 小结 230
第15章 编写自动爬取网页的爬虫 231
15.1 实战：items的编写 231
15.2 实战：pipelines的编写 233
15.3 实战：settings的编写 234
15.4 自动爬虫编写实战 234
15.5 调试与运行 239
15.6 小结 242
第16章 CrawlSpider 243
16.1 初识CrawlSpider 243
16.2 连结提取器 244
16.3 实战：CrawlSpider实例 245
16.4 小结 249
第17章 Scrapy高级套用 250
17.1 如何在Python3中运算元据库 250
17.2 爬取内容写进MySQL 254
17.3 小结 259
第四篇 项目实战篇
第18章 部落格类爬虫项目 263
18.1 部落格类爬虫项目功能分析 263
18.2 部落格类爬虫项目实现思路 264
18.3 部落格类爬虫项目编写实战 264
18.4 调试与运行 274
18.5 小结 275
第19章 图片类爬虫项目 276
19.1 图片类爬虫项目功能分析 276
19.2 图片类爬虫项目实现思路 277
19.3 图片类爬虫项目编写实战 277
19.4 调试与运行 281
19.5 小结 282
第20章 模拟登录爬虫项目 283
20.1 模拟登录爬虫项目功能分析 283
20.2 模拟登录爬虫项目实现思路 283
20.3 模拟登录爬虫项目编写实战 284
20.4 调试与运行 292
20.5 小结 294