如果我们从搜索引擎蜘蛛的角度去看待一个网站，在抓取、索引和排名时会遇到哪些问题呢? 解决了这些问题的网站设计就是搜索引擎友好(search engine friendly)的。



1、搜索引擎蜘蛛能不能找到网页

要让搜索引擎发現网站首页，就必须要有外部链接连到首页，找到首页后，蜘蛛沿著内部链接找到更深的内容页，所以要求网站要有良好的结构，符合逻辑，并且所有页面可以通过可爬行的普通HTML链接达到a JavaScript链接、Flash 中的链接等搜索引擎蜘蛛般不能跟踪爬行，就会造成收录问题。

网站所有页面离 首页点击距离不能太远，最好在四五次点击之内.要被搜索引擎收录.页而需要有最基本的权重，良好的网站链接结构可以适当传递权重，使尽量多的页面达到收录门槛。

2、找到网页后能不能抓取页面内容

被发现的URL必须是可以被抓取的。数据库动态生成、带有过多参数的 URL、SessionID、整个页面是 Flash，框架结构(frame)，两疑的转向、大量复制内容等都可能使搜索引擎敬而远之。

某些文件站长可能不希望被收录，除了不链接到这些文件，更保险的方法是使用robots文件或meta robots标签禁止收录。

3、抓取页面后怎样提炼有用信息

关键词在页面重要位置的合理分布、重要标签的撰写、HTML代码精简，起码的兼容性等 以帮助搜索引擎理解页而内容，提取有用信息。

只有搜索引擎能顺利找到所有页面，抓取这些页面并提取出其中真正有相关性的内容，网站才可以被视为是搜索引擎友好的。

北京网站设计网上搜索引擎不友好的网站比比皆是，尤其是一些中小企业网站。不过这样的网站不太好举例，没得到网站主人的许可就当做负面案例讨论非常不恰当，在zaccode.com 网站看到一个会员询问搜索引擎不收录他们的内页是怎么回事.笔者点击过去看了一下，不由得惊呼，这个网站简直是集搜索引擎不友好之大成，是个相当不错的反面教材。