1.什么是爬虫？

网络爬虫（又被称为网页，网络机器人，在社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取信息的程序或者脚本。另外一些不常使用的名字还有、自动索引、模拟程序或者。通俗的理解为在网络上爬行的一只蜘蛛，互联网就比作一张大网，而爬虫便是在这张网上爬来爬去的蜘蛛咯，如果它遇到资源，那么它就会抓取下来。想抓取什么？这个由你来控制它咯。

比如它在抓取一个网页，在这个网中他发现了一条道路，其实就是指向网页的超链接，那么它就可以爬到另一张网上来获取数据。这样，整个连在一起的大网对这之蜘蛛来说触手可及，分分钟爬下来不是事儿。

2.爬虫操作过程

用户输入网址——DNS服务器——服务器主机——向服务器发出请求——服务器解析请求——服务器发送给浏览器html、jss、js文件——浏览器解析

3.url

URL，即统一资源定位符，也就是我们说的网址，统一资源定位符是对可以从互联网上得到的资源的位置和访问方法的一种简洁的表示，是互联网上标准资源的地址。互联网上的每个文件都有一个唯一的URL，它包含的信息指出文件的位置以及浏览器应该怎么处理它。

在爬取数据时必须要获取到url

三部分组成：

第一个时协议

第二个是存有该资源的主机的IP地址

第三个是主机资源的具体文件名