python-爬虫学习1:爬虫原理(纯理论篇)

python

 

一、爬虫定义

    简单说的话,爬虫就像一个虚拟的虫子,然后利用这只虫子,我们可以在网上获取到我们想要的信息。

二、爬虫的工作原理

    浏览器工作原理

    一般情况下,我们获取数据都是打开浏览器,然后搜索关键字,浏览器去工作,然后显示出来我们要的数据,我们再进行复制粘贴或者其他操作。

    类似于下图

    

    这里的客户端是我们,然后我们打开浏览器搜索关键字,相当于告诉浏览器我需要xx网页,浏览器就去给服务端说,他需要xx网页,服务端收到请求之后就会告诉浏览器网页给你(就像打招呼,同事给你打招呼,你肯定会回应嘛),浏览器会对网页进行解析,转化成客户端看的懂的界面返回出来,然后我们就可以看到查找的网页,然后我们就可以对网页进行数据操作啦。

    这里有两个概念要知道的,请求和响应。

    请求:我们在浏览器输入了网址,然后浏览器告诉服务器,我们要访问某个网址的请求,这个过程就叫做请求。

    响应:服务器把我们想要的网址数据发送给浏览器,这个过程就叫做响应。(所以一般就是先请求后响应)

    

    服务器把请求返回给了浏览器之后,浏览器不会把数据直接给我们,为什么呢,因为这些数据都是用计算机语言写的,浏览器需要把它翻译成我们看得懂的样子,这个过程就叫做解析数据

    然后我们在数据中挑出来对我们有用的数据,这个 过程就是提取数据

    最后我们对这些数据进行存储复制操作,这个过程就是存储数据

    这就是浏览器工作的整个流程了。

    爬虫工作原理

    先看一下原理图

爬虫可以执行的部分:

首先,模拟浏览器去向服务器发出请求;

其次,等服务响应后,爬虫程序可以代替浏览器解析数据;

接着,爬虫可以根据设定的规则批量提取相关数据,不需要我们手动去执行,

最后,爬虫可以批量把数据存储到本地。

总结完的话就是这四步骤:

  • 获取数据    爬虫程序根据我们提供的网址,向服务器发出请求,然后返回数据
  • 解析数据   爬虫程序 会把服务器返回的数据解析成我们能读懂的格式
  • 提取数据     爬虫程序从中提取出我们需要的数据
  • 存储数据   爬虫程序会把这些有用的数据保存下来,方便你日后的分析和使用

这就是爬虫的整个过程啦  大致理解之后就可以开始敲代码咯

以上是 python-爬虫学习1:爬虫原理(纯理论篇) 的全部内容, 来源链接: utcz.com/z/388357.html

回到顶部