如何使用云服务器ECS部署爬虫

2.1准备工作

2.1.1分析页面

由于不同的网页排版的不同，因此在爬取网页内容时应具体分析，这里只给出了一般分析网页的基本方法，即F12进入开发者模式，然后通过Elements和Network中的内容来判断应该如何获得内容。

2.1.2第三方库

爬虫主要需要用到以下第三方库，并且给出了这些库的具体用法。

import bs4 # 网页解析，获取数据
import re # 正则表达式，进行文字匹配
import urllib # 制定url
import sqlite3 # SQL操作

BeautifulSoup的具体用法。

from bs4 import BeautifulSoup
import re
bs = BeautifulSoup(html, "html.parser")
#输出整个文档 BeautifulSoup类型
print(bs)
#根据标签直接寻找，返回找到的第一个标签 Tag类型
print(bs.title) # bs.a bs.li
#输出标签里的内容 NavigableString类型
printf(bs.title.string)
#输出标签里的属性
printf(bs.title.attrs)
#Comment 特殊的字符串，若找到内容为注释，则去掉注释符号，拿到注释里的内容
#find_all 
bs.find_all("a") #查询所有带a的标签
t_list = bs.find_all(re.complie("a")) #正则表达式，返回的是所有包含a的标签
t_list = bs.find_all(id="head") # 寻找不同的参数
t_list = bs.find_all(class_="head") 
#CSS选择器
t_list = bs.select(".xxx") # 类名查找 
t_list = bs.select("#xxx") # id查找 
li_list = bs.select("ul > li > span") #层级查找
li_list = bs.select(".xxx1 ~ .xxx") #寻找xxx1的兄弟节点xxx
#得到列表后，可以直接通过get方法，传入需要得到的属性，即可直接得到标签的属性
print(li_list[0].get("href")) # 可直接得到标签内的href属性

sqlite3的具体用法。

import sqlite3 
connect = sqlite3.connect("xxx") # 打开或创建数据库
c = conn.cursor() # 获取游标
sql = ''' ''' # 所有操作
c.execute(sql) # 执行SQL语句
connect.commit()  # 提交事务
connect.close() # 关闭

2.2代码编写

2.2.1思路

首先确定爬虫实现的功能为：爬取最新的公告并推送。

因此每次执行爬虫操作时得到的应该是网站最新的一条公告，那么如何保证每次推送的都是最新消息呢？这里用到了数据库sqlite3，将每次得到的最新公告先在数据库中进行查询，如果为空，说明该公告未被推送过，推送到微信，并且将这条记录插入到数据库；如果数据库已经存在该记录，那么说明不是最新公告，不执行推送操作。这样就解决了保证每次推送的公告不重复，并且是最新公告的问题。因此关于数据库的操作应该为，爬虫项目在执行时就初始化数据库，该操作主要是不存在数据库则建立数据库，并且建表；否则连接数据库。

其次是要生成请求，得到响应。这里主要用到的是urllib，并且需要在请求中填入用户代理，即2.1.1中提到的user-agent,以便爬虫伪装浏览器得到html页面。

然后就是使用BeautifulSoup 分析得到html页面中的标签，以得到自己所需要的内容。这里只需要得到公告标题，标签中的网址后缀，发送公告的日期三个内容，然后合成一个字典返回。

最后就是推送到微信。这一步还需要拆解成两个方法来编写：首先需要一个保存数据的方法，尝试将得到的内容保存到数据库，这一步的作用是如果保存成功，则说明是最新通告，因此才能推送到微信，否则不进行操作，因此需要一个分支语句。

2.2.2具体代码

根据以上的思路分析，实际需要编写的方法应该为5个。

首先是初始化数据库，传入数据库的路径，若存在则连接，否则建立数据库。

def init_db(dbpath):
    sql = '''
        create table if not exists 'notice_info'
        (
            title text,
            date text
        )
    '''
    connect = sqlite3.connect(dbpath)  # 打开或创建数据库
    c = connect.cursor()  # 获取游标
    c.execute(sql)  # 执行SQL语句
    connect.commit()  # 提交事务
    connect.close()  # 关闭

然后是发送请求，发送响应，即得到一个网页的内容，这里进行了异常的捕捉。

# 得到一个URL的网页内容
def askURL(url):
    head = {  # 用户代理，告诉服务器我们可以接收什么水平的内容
        'User-Agent': 'Mozilla / 5.0(Windows NT 10.0;Win64;x64) AppleWebKit / 537.36(KHTML, like Gecko) Chrome / '
                      '100.0.4896.60 Safari / 537.36 Edg / 100.0.1185.29 '
    }
    request = urllib.request.Request(url, headers=head)  # 生成请求
    try:
        reponse = urllib.request.urlopen(request)  # 发送请求，获取相应
        html = reponse.read()  # 读取网页内容
    except urllib.error.URLError as e:  # 捕捉异常
        if hasattr(e, "code"):
            print(e.code)
        if hasattr(e, "reason"):
            print(e.reason)
    return html

其次是提取需要的内容，首先使用BeautifulSoup 解析网页，然后使用select方法进行层级解析，并形成一个字典返回

# 提取网页的最新通告，主要使用bs4
# 直接提取li标签的第一条，即最新的通知,形成一个字典返回
def dataExtarct(html):
    bs = BeautifulSoup(html, "html.parser")  # 解析文档，作为解析器
    li_list = bs.select("ul > li > span > a")  # 层级解析
    li_list2 = bs.select("ul > li > strong")
   
    mydata = {
        "href": base_URL + li_list[0].get("href"),
        "title": li_list[0].get_text(),
        "date": li_list2[0].get_text()
    }
    return mydata

最后是推送到微信，推送前需要尝试保存数据，若保存成功则发送数据，否则不执行操作。save_data方法首先是利用SQL语句统计数据库中是否存在该记录，若存在返回0，表示不推送消息，否则需要插入数据，并且返回1，推送消息。

def insert_data(mydata, connect):
    sql = "insert into notice_info(title, date) values('" + mydata["title"] + "', '" + mydata["date"] + "');"
    c = connect.cursor()
    c.execute(sql)
    connect.commit()  # 提交事务
    connect.close()  # 关闭
def save_data(mydata, dbpath):
    sql = "select * from notice_info where title = '" + mydata["title"] + "' and date = '" + mydata["date"] + "';"
    print(sql)
    connect = sqlite3.connect(dbpath)  # 打开或创建数据库
    c = connect.cursor()  # 获取游标
    cursor = c.execute(sql)  # 执行SQL语句
    result = 0
    for row in cursor:
        print(row)
        result += 1
    
    if result == 0:
        insert_data(mydata, connect)
        return 1
    else:
        return 0

推送消息比较简单，利用虾推啥将文字通过post方法推送，最大可推送64k文字。

# 利用吓推啥，将最新消息推送到微信上
# 主要是获取微信的token
def sendMessage(token, mydata):
    baseurl = "http://wx.xtuis.cn/"
    url = baseurl + token + ".send"
    
    data = {
        "text": mydata["title"],
        "desp": '内容:' + mydata["title"] + '<br>' \
                                          '网址:' + mydata["href"] + '<br>' \
                                                                   '日期:' + mydata["date"]
    }
    requests.post(url, data=data)

2.3部署项目

下面讨论如何将项目部署在云服务器上，以便项目可以不间断的运行。下面的操作建立在已经拥有一个云服务器的基础上。

2.3.1安装宝塔面板

因购买的服务器未安装任何开发所需的工具，因此可以使用宝塔面板安装大部分的应用，推荐安装LNMP(ginx+MySQL+PHP)。

首先进入 宝塔面板（点击进入）的官网，一般推荐安装Linux系统，目前已经有在线安装面板的方法，只需要填写购买的服务器公网IP地址和密码，就可以在线安装。安装完成后，会提示保存创建的面板地址，账号和密码，一定要牢记。

安装完后可能会因为未开放安全组端口而无法登录到以下界面，下面会讲述如何开放安全组端口。

2.3.2开放安全组端口

在阿里云云服务器ECS界面首先点击实例，然后点击更多，再点击网络和安全组，最后点击安全组配置。

进入安全组配置页面后，点击配置规则。

选择入方向，添加方向后目的填写需要开放的端口，源填写0.0.0.0/0，保存即可。

2.3.3安装使用findshell

findshell是一个SSH连接工具，可以连接到自己的云服务器，通过终端输入命令的方式执行操作，并且对于文件的增删改查十分方便。 下面给出了下载地址：

Windows版下载地址： http://www.hostbuf.com/downloads/finalshell_install.exeMac版,Linux版安装及教程: http://www.hostbuf.com/t/1059.html

更新日志： http://www.hostbuf.com/t/989.html

安装完成以后，下面讲述如何上传项目到云端。

首先点击左上角的文件夹图标，打开连接管理器。

再按下图点击第一个按钮。

新建的连接框中填入图中的信息，即公网IP，用户名和密码，名称可自定义。

若为第一次连接，则会弹出以下的安全警告，点击接受并保存即可。

连接实例，输入指令 ssh root@xxx.xxx.xxx，其中xxx.xxx.xxx为公网ip，然后输入密码 注意终端中的黏贴为ctrl+shift+v.

2.3.4上传爬虫

服务器在之前已经安装了必要的环境，但爬虫所用到的一些第三方库还没有安装，因此需要手动安装需要的库。通过输入以下指令，即可安装爬虫所需要的第三方库。

# Linux下安装第三方库的命令,注意为pip3

pip3 install beautifulsoup4

pip3 install pysqlite3

以上步骤爬虫已经能够成功在服务器上运行，但未实现实时执行的要求。这里需要用到Linux系统的crontab指令，即定时任务。有关于crontab指令的具体参数及使用方法，做一个简单的介绍。crontab命令一般为7个参数，前5个确定执行的具体时间点，第6个参数为该指令的所属者，第7个参数为需要的执行的命令，一般执行脚本文件，.sh为Linux系统的脚本文件后缀名。

下面还有对于命令的一些例子。

介绍完该指令的基本应用后，就正式开始编写定时任务。

1. vim /ect/crontab 进入一般模式，即上图所示

2. 按i进入编辑模式后，将光标移动到下方的波浪号处、

3. 粘贴已经写好的命令 60 * * * * root /home/spider/spider_notice.sh 这里需要给出脚本文件的绝对路径

4. 按Esc退出编辑模式，再输入 :wq! 强制保存文件并退出。

5. 输入 /etc/init.d/cron restart 重启程序 ，若不存在该指令，也可以输入/sbin/service crond restart 重启服务。