ownpower
Dynamic
news
东莞网站建设
文章作者:众展网络 发布时间: 浏览量:1658
搜索引擎是如何收录到那么多网页的呢?这个搜搜引擎用以抓取互联网上数以亿计的网页的程序,百度的就叫做Baiduspider - 百度蜘蛛。
它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:
产品名称 对应user-agent
1. 网页搜索 Baiduspider
2. 无线搜索 Baiduspider-mobile
3.图片搜索 Baiduspider-image
4.视频搜索 Baiduspider-video
5. 新闻搜索 Baiduspider-news
6. 百度搜藏 Baiduspider-favo
7. 百度联盟 Baiduspider-cpro
差不多有这7种蜘蛛!大家最最常见的、最在意的当然是“Baiduspider”。
本文由“做网站公司”众展网络整理发布,如需转载请浏览来源及出处,原文地址:https://www.ownpower.cn/seo/479.html
将您的需求及联系信息发送给我们,工作日2小时内迅速为您提供解决方案。