黄聪:1.1.2、搜索引擎工作原理-网页搜索基础简介

5,257 次浏览 @ 2011年11月26日

今天的课程主要讲的是搜索引擎原理中网页搜索的基础简介,在上一节《1.1.1、搜索引擎的工作原理》中我们已经知道了,网页搜集是搜索引擎三段式工作的第一阶段的工作,在这个阶段搜索引擎完成原始网页的搜集,这些网页将作为下一个阶段的数据基础。那么搜索引擎在这个阶段会碰上哪些问题呢?本节将做一个简单的介绍。

网页搜集时机

第一个问题就是,搜索引擎是什么时候搜集网页的呢?是用户搜索的时候立刻去网络上搜集呢?还是事先搜集好的呢?下面就来分析一下两种方式的可行性。

1、即时搜集

即时搜集是指搜索引擎当用户查询的时候,即时的去网上搜集所有的网页,然后一个个的分析处理,最后返回相应的结果。我们可以用下图来表示这种搜集方式:

搜索引擎即时搜集

假设网络上有网页A、B、C…当搜索引擎接收到用户的查询时,搜索引擎立刻去互联网搜集所有的网页,然后处理排序后,返回结果列表T、C、A、B…

虽然完成了任务,但是我们都知道搜索引擎下载和处理一个网页起码都需要1秒钟,而对于每一个查询搜索引擎都要处理上百亿的网页,那么我们通过这个方式想得到一个结果页面,起码要花上几年的时间,这显然是不现实的。

2、事先搜集

事先搜集是指搜索引擎一开始搜集好一批网页,并处理好存储在数据库中,用户在查询的时候去数据库中直接查询匹配项。我们可以用下图来做说明:

搜索引擎事先搜集

一样假设互联网有网页A、B、C…搜索引擎事先将这些网页搜集回来,并且处理排序后存在数据库中,当用户查询的时候,搜索引擎直接去数据库中获得搜索结果并且返回,就可行性来讲,这种方式是没有问题的,因此主流的搜索引擎都是以事先搜集的方式搜集网页。

网页搜集方式

知道了搜索引擎使用的是事先搜集的搜集方式,但是如何搜集的,还是需要考虑的,一个好的搜集方案,可以大大提高搜集的效率。下面就介绍两种网页搜集方式。

1、定期搜集

定期搜集,就是指一开始先搜集一遍互联网,之后每次搜集都替换掉上一次的内容,我们也称为“批量搜集”。

比如一开始互联网上有网页A、B、C…然后一段时间后,新出现了网页E;网页B被删除了。那么下一次搜集的时候,搜索引擎会将网页A、B、C..E…都搜集回来,并且将网页B从数据库中删除掉,这样就完成了一次搜集。

这样的搜集方式优点是实现简单,缺点是时新性差,以及重复搜集带来的额外带宽消耗。

2、增量搜集

增量搜集是指一开始先搜集一遍网页,往后只是:①搜集新出现的网页;②搜集上一次搜集后有所改动的网页;③发现上次搜集后不再存在的网页,并从库中删除掉。

比如一开始有网页A、B、C…然后一段时间出现了网页E;网页B被删除了;网页D更新了。那么下一次搜集的时候,搜索引擎只将更新了的D和新出现的网页E搜集,并且删除了网页B,而其他页面都不再做处理。

这样的搜集方式优点是时新性强(因为每天更新和新出现的网页少,可以每天都搜集),缺点是系统复杂,尤其是在建立索引的过程中。

一般来说,主流的搜索引擎平时都是采用增量搜集的方式搜集网页,然后定期进行一个批量搜集。

小结

以上就是搜索引擎搜集网页的简介,但是在搜集网页的过程中还有许多问题是搜索引擎需要攻克的,比如如何存储搜集回来的网页,如何避免重复搜集网页,如何首先搜集重要的网页以及搜索子系统的可扩展性等等,我们都会做一一讲解的。黄聪SEO建站交流人脉群:261240447聪崽SEO建站交流(未满)

2 Responses to “黄聪:1.1.2、搜索引擎工作原理-网页搜索基础简介”

  1. 手表品牌排名|瑞士手表|世界名表购物商城网站-纯净时间,手表世界

  2. 即刻参与在线测试,了解您的冲突管理风格: 冲突常被视为消极的,但它能引起重大的变化和改进。了解您的冲突管理风格,何时是适当的,并在您的能力中增加新的风格。这将能够带给您目前为止所欠缺的优势。我们大部分人都喜欢固定一种风格。了解您的其他风格能提高您的效率和与他人共事的能力。参与本网站的中文在线测试,了解TKI如何帮您提高您的冲突解决技能 。 点击这里 查看报告范例。 点击这里 进入繁体中文版本的TKI冲突管理测试。

Leave a Reply