1. 广州SEO技术博客首页
  2. 谷歌SEO

谷歌SEO,屏蔽谷歌机器人抓取后是怎么样的?

谷歌SEO,屏蔽谷歌机器人抓取后是怎么样的?

robots文件
robots文件

该文件robots存在于FTP中,如果需要屏蔽各个搜索引擎抓取只需要这个robots.txt文件里面添加代码。

屏蔽所有蜘蛛机器人抓取的代码是:

User-agent: *
Disallow: /

记住  : 和 / 之间是有个空格间隔开的,如果不输入空格键是无效的哦。

*则代表是所有的,如果屏蔽具体哪一个搜索引擎则需要输入具体名称。

屏蔽谷歌机器人
屏蔽谷歌机器人

 

以本站为例,屏蔽谷歌机器人后的抓取呈现如上图,会显示 No information is available for this page.

如果连接中含有井号  #  也是屏蔽搜索引擎抓取和收录的哦,大家切记。

原创文章,作者:小嵘SEO技术,如若转载,请注明出处:https://www.seo388.com/robotx/

联系我们

17688872082

在线咨询:点击这里给我发消息

邮件:2668888288@QQ.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code