petalbot是什么蜘蛛？

经常查看网站日志的站长会发现有个蜘蛛叫petalbot，看不懂，不知道是不是垃圾蜘蛛。但其实，PetalBot 是Petal搜索引擎（华为花瓣搜索引擎）的自动程序。


PetalBot的功能是访问PC网站和移动网站，并建立索引数据库，使用户可以在 Petal 搜索引擎中搜索您网站的内容。
 

PetalBot UA信息

可以通过分析 User-agent 字段来识别 Petal 的爬虫蜘蛛：

Mozilla/5.0 (Linux; Android 7.0;) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; PetalBot;+https://aspiegel.com/petalbot)
 

阻止PetalBot访问

PetalBot 符合 Internet 机器人协议。您可以使用 robots.txt 文件完全阻止 PetalBot 访问您的网站，或阻止 PetalBot 访问您网站上的某些文件。

注意：禁止PetalBot访问您的网站将使您网站上的页面以及 Petal 提供的所有搜索引擎服务在 Petal 搜索引擎中无法搜索。
 

PetalBot带给Web服务器多少压力

为了获得对目标资源更好的检索结果，PetalBot 需要保持一定程度的网站爬网。我们力求不给网站带来不合理的负担，我们将根据服务器容量，网站质量和网站更新等综合因素进行调整。如果 PetalBot 的访问有任何不合理的行为，请将您的疑虑发送至 search@aspiegel.com。
 

如何判断PetalBot爬行

您可以验证访问您的服务器的 Web 爬网程序是否真的是PetalBot。

验证 PetalBot 为呼叫者
1.使用 host 命令在日志访问 IP 地址上运行反向 DNS 查找。
2.验证域名在 aspiegel.com 中。
3.使用在检索到的域名上的主机命令，对在步骤 1 中检索到的域名运行正向 DNS 查找。验证它是否与日志中的原始访问 IP 地址相同。
 

统计petalbot及其他蜘蛛访问频次

使用下载鸥的网站日志在线分析工具进行蜘蛛抓取频次分析汇总。该工具还支持被访问页面访问频次汇总、ip汇总、404错误页访问频次汇总，是建站利器。

 

提交到petalbot站长平台

petalbot站长平台地址为https://webmaster.petalsearch.com/，目前似乎只有英文版本。如果担心看不懂，可以使用浏览器的右键翻译为中文。其提交网站认证、提交sitemap的方式与其他站长平台没有什么区别。