从零开始学爬虫创建模板

【场景描述】创建模板：对需要采集的网站，首先梳理网站的层级结构，以确定在软件中需要配置几层模板。

【创建步骤】

从网站入口页到目标数据页，一共需要跳转几层不同网页结构的页面，通常就需要几层模板。每个模板代表了一个不同网页结构层级的页面，配置后就可以采集全站数据。

【列表页1】

列表页网页结构如图列表页1所示，其对应创建的模板为：“默认模板：01”。

【数据页1】

如图数据页1，数据页网页结构与列表页1的网页结构不同，则此时需新建模板：“默认模板：02”。

1.添加模板

在模板列表的右键菜单，点击“添加采集模板”即可添加一层模板。

【添加采集模板】

点击模板，会跳转到该模板的配置界面，进行模板属性的配置。

【模板配置界面】

2.抽取链接/数据

根据页面内容，确定每层模板的抽取目标，每层模板都可以创建多个抽取。

①抽取链接：需要抽取页面上的链接时，选择创建链接抽取。如抽取该页面的链接列表和翻页，则创建两个链接抽取。

②抽取数据：需要抽取页面上的数据时，选择创建数据抽取。一个数据抽取对应着一张数据表，通常一个模板只需要一个数据抽取。

如果需要添加新的链接抽取和数据抽取，可按下方如图所示进行添加：

【添加链接抽取】

【添加数据抽取】

3.示例地址

示例地址是该模板众多页面的一个示例代表，以该网址作为样例进行模板配置。通过对示例地址的配置，可以抓取与该地址在同一层级、具有相似结构的页面数据。一个模板只能填写一个示例地址。

对于模板1和其他模板，示例地址的填写有如下区别：

①模板01：示例地址默认填写为该任务的采集地址。

②其它模板：手动从众多网址中挑选一个粘贴进来。