1、抓取 读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。
2、然后，就可以利用程序里面的正则表达式，对链接的数据进行提取、合并、去重等复杂操作，并将数据存入数据库。数据库有很多，比如：索引库、收录库等等。
3、关键词的提取，取一篇网页的源文件（例如通过浏览器的“查看源文件”功能），我们可以看到其中的情况纷乱繁杂。从认识和实践来看，所含的关键词即为这种特 征更好的代表。
4、蜘蛛先去抓取百度白名单的网站或者一些信任度非常高的站点和页面（例如：一些高权重网站和网站的首页），在抓取这些网页的内容时发现一些指向另外一些一些页面的链接。
5、网络蜘蛛是通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。
百度蜘蛛，英文名是“Baiduspider”是百度搜索引擎的一个自动程序。它的作用是访问互联网上的网页、图片、视频等内容，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站的网页、图片、视频等内容。
Bing， 微软必应（英文名：Bing）是微软公司于2009年5月28日推出，用以取代Live Search的全新搜索引擎服务。为符合中国用户使用习惯，Bing中文品牌名为“必应”。
搜搜引擎蜘蛛是一个自动抓取互联网上网页内容的程序，每个搜索引擎都有自己的蜘蛛。搜索引擎蜘蛛也叫搜索引擎爬虫、搜索引擎robot。
百度seo网站优化，原来蜘蛛的抓取规律喜欢这样子来的。
搜索属于全文搜索引擎，是目前广泛应用的主流的搜索引擎之一。360搜索包含了网页、新闻、影视等搜索产品，能为用户带来更安全、更真实的搜索服务体验。
搜搜引擎蜘蛛是一个自动抓取互联网上网页内容的程序，每个搜索引擎都有自己的蜘蛛。搜索引擎蜘蛛也叫搜索引擎爬虫、搜索引擎robot。
Spider也就是大家常说的爬虫、蜘蛛或机器人，是处于整个搜索引擎最上游的一个模块，只有Spider抓回的页面或URL才会被索引和参与排名。
搜索引擎蜘蛛，是搜索引擎自己研发的一个搜索引擎抓取程序。它主要抓取互联网上的上的网页、图片、视频等内容，方便搜索引擎对这些内容进行索引， 然后用户就可以在搜索引擎里搜索他们想要的内容，出现他们需要的结果。
搜索引擎爬虫 （又被称为网页蜘蛛，网络机器人），是一种按照一定的规则，自动的抓取万维网信息的程序或者脚本。
雅虎：Yahoo Slurp 必应：msnbot Msn：msnbot 以上是常见的搜索引擎蜘蛛（爬虫），如果你的网站不想让让某些蜘蛛抓取，那么可以通过robots.txt来限制爬虫的抓取。
网站经常会被各种爬虫光顾，有的是搜索引擎爬虫，有的不是，通常情况下这些爬虫都有UserAgent，而我们知道UserAgent是可以伪装的，UserAgent的本质是Http请求头中的一个选项设置，通过编程的方式可以给请求设置任意的UserAgent。
网络蜘蛛即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。
)，俗称“蜘蛛”(Spider)程序或“机器人”(Robot)程序，能自建网页数据库，搜索结果直接从自身的数据库中调用，上面提到的Google和360搜索就属于此类；另一类则是租用其他搜索引擎的数据库，并按自定的格式排列搜索结果，如Lycos搜索引擎。
搜索引擎是根据自定的算法自动抓取网站、网页的，而负责这个任务的就是这个各个搜索引擎的robots。
网络蜘蛛呢？网络蜘蛛即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。
1、搜索引擎蜘蛛也叫搜索引擎爬虫、搜索引擎robot。
2、雅虎中国蜘蛛：如果某个网站在谷歌网站下没有很好的收录，在雅虎下也不会有很好的收录和爬行。雅虎蜘蛛的数量庞大，但平均的效率不是很高，相应的搜索结果质量不高。
3、百度蜘蛛 百度蜘蛛最新名称为Baiduspider，日志中还发现了Baiduspider-image这个百度旗下蜘蛛，我们直接看名字就可以知道它是干嘛的，是专门用以抓取图片的蜘蛛。
处理网页。搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引库和索引。
如果你想获得搜索引擎蜘蛛的亲赖，希望它天天爬行抓取网页的话，那就需要持续保持原创文章的更新，并且定期交换友情链接。如果你不希望某个搜索引擎的蜘蛛来抓取你的网页，可以通过设置robots.txt来禁止抓取。
搜索引擎的工作分为四个步骤： 爬行和抓取 搜索引擎派出一个能够在网上发现新网页并抓文件的程序，这个程序通常称之为蜘蛛。搜索引擎从已知的数据库出发，就像正常用户的浏览器一样访问这些网页并抓取文件。
当蜘蛛程序抓取了网页文件后对该网页文件内容进行分析和处理，建立索引库。当用户查找某一关键词时，可以之一时间在数据库中进行查找，找到其对应的位置。
①、深度优先。 深度优先就是指蜘蛛到达一个页面后，发现一个锚文本链接，就是爬进去另个一页面，然后又在另一个页面发现另一个锚文本链接，接着往里面爬，直到最后爬完这个网站。如图： ②、广度优先。