2023年,看看别人专业的SEO网站的robots.txt是怎么写的?

2023年,看看别人专业的SEO网站的robots.txt是怎么写的?

如下:

User-agent: *
Disallow: /user/*/*
Disallow: /wp-admin/
Disallow: /checkout/
Disallow: /category/uncategorized*
Disallow: /author/admin/page/*
Disallow: /author/wuyou
Disallow: /*?*
Disallow: /?=*
Disallow: /tugao
Disallow: /author/*
Disallow: /page/*
Disallow: /50.html
Disallow: /62.html
Disallow: /63.html
Disallow: /tougao
Disallow: /wen
Disallow: /account
Disallow: /members
Disallow: /user
Disallow: /liuyan
Disallow: /special/suanfa
Disallow: /article/
Disallow: /newuser
Disallow: /*/*/feed
Disallow: /news/
Disallow: /okx
Disallow: /bian



User-agent:Bingbot
Disallow: /*/*/feed
Disallow: /*?*
Disallow: /?=*
Disallow: /category/uncategorized*
Disallow: /author/admin/page/*
Disallow: /author/wuyou
Disallow: /*?*
Disallow: /newuser
Disallow: /tag/*/feed
Disallow: /*/*/*.html/feed



User-agent:Baiduspeder
Disallow: /*/amp

User-agent:Googlebot
Allow: /*.js
Allow: /*.css
Allow: /*.jpg&
Allow: /*.png&
Disallow: /*/*/feed
Disallow: /tougao
Disallow: /wen
Disallow: /account
Disallow: /members
Disallow: /user
Disallow: /user/*/*
Disallow: /wp-admin/
Disallow: /checkout/
Disallow: /category/uncategorized*
Disallow: /author/admin/page/*
Disallow: /author/wuyou
Disallow: /*?*
Disallow: /*/*/feed
Disallow: /newuser

小伙伴们懂了吗?专业的SEO,百度 谷歌 必应 都要加代码!

 

2023年,看看别人专业的SEO网站的robots.txt是怎么写的?
2023年,看看别人专业的SEO网站的robots.txt是怎么写的?

 

原创文章,作者:SONIC SEO,如若转载,请注明出处:https://www.seo388.com/2023-robots-txt/

(2)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年4月22日 22:38
下一篇 2023年4月23日 18:28

相关推荐

  • 推荐几款谷歌SEO付费工具

    SEO工具对于SEO从业人员来说非常重要,重要性显然是不言而喻的。没有工具的话SEO是没法做的,SEO没有工具的话就和蒙着做题一样,毫无方向和头绪,怎么做?没SEO工具是做不了的。 如果你的SEO工具中没有一些深入的、数据挖掘、关键词跟踪、研究处理的利器(神器),你可能会发现很难在竞争中脱颖而出。所以,这次小编为大家介绍几款比较受欢迎的付费SEO优化工具。推…

    2019年9月3日 谷歌SEO
    05.0K
  • 关于什么是服务器日志?如何查看服务器日志?

    这次,小编来给大家说说,“关于什么是服务器日志?如何查看服务器日志?” 的这个话题。 记录web服务器接收处理请求以及运行时错误等各种原始信息的以·log结尾的文件。通过网站日志可以清楚的得知用户在什么IP、什么时间、用什么操作系统、什么浏览器、什么分辨率显示器的情况下访问了你网站的哪个页面,是否访问成功。服务器的日志就是记录网站被访问的全过程,从你的网站工…

    2019年11月3日 免费建站教程
    0935
  • 关于网站优化SEO关键词的分类方式

    这次小编来分享一下,“关于网站SEO优化关键词的分类方式”。 首先,我们来解读一下关键词的意义,它是企业获得流量点击及提高转换率的重要指标,也是网站内容的中心思想,核心主题,它是影响网站排名的重要因素,也是网站内容创建的指明灯。所以,如何做好关键词分类以及如何建立系统全面的关键词库显得尤为重要。SEO优化中,咱们进行关键词分类的方式是什么呢?如何分类?用什么…

    2019年9月20日
    01.5K
  • 我们应该如何学习SEO?学习SEO找哪个机构好?

    这次呢,小编来给大家说说 “搜索引擎优化网站SEO该如何学习?我们学习搜索引擎优化找哪个好呢?” 搜索引擎优化网站优化的简称是SEO(Search Engine Optimization)(中文翻译为:搜索引擎优化)。搜索引擎优化网站优化也可以称为关键词优化。这是一种利用搜索引擎的搜索规则算法来提高目的网站在相关搜索引擎中排名的方法。排名越靠前,获得的流量就…

    2019年11月11日
    01.8K
  • 谷歌SEO优化的外链问题解决方案

    这次,谷歌SEO小嵘,来给大家说说,关于 “谷歌SEO优化的外链问题解决方案”。希望能帮助做谷歌SEO优化的小伙伴们。 首先,谷歌SEO优化的外链是什么? 实际上,谷歌SEO优化的外链就是指从别的网站导入到自己网站的链接。导入链接对于外贸网站优化来说是非常重要的一个过程。导入链接的质量直接决定了我们的网站在搜索引擎中的权重。 1、超链接 也就是单击链接,就会…

    2022年6月28日 谷歌SEO
    0946
  • SEO优化的时候百度快照没有更新的原因是什么呢?

    今天,小编来给大家说说,关于“SEO优化的时候百度快照没有更新的原因是什么呢?” 的这个话题。希望对SEO网站优化新手们有所帮助。 如题:百度快照没有更新的原因是什么? 1)网站内容没有更新或更新缓慢 2)采集的内容太多,添加到网站的内容重复出现。 3)网站的标题变化太频繁 4)网站结构变化太大 5)网站服务器不稳定 6)外链太少 而为什么有些快照会无法打开…

    2019年12月30日
    01.4K
  • 百度未命名算法即将上线,打击“只有登录后才可以查看的网站”!

    官方宣称旨在提升网站和百度的用户体验,因为搜索引擎的使命就是让用户找到自己正在搜索的问题,更快的离开搜索引擎,目前一些限制用户权限的站点已经开始严重危害到用户体验,如果站点只有登录后才可以查看全部内容或者只有下载APP才能查看,那么就可能面临惩罚,按照目前形势来看这样的站点非常多,因为这样才能更好的转化盈利,将流量保留在自己的用户系统、公众号或者APP,但却…

    2019年5月16日 百度SEO
    12.1K
  • 外贸独立站先做SEO还是先做社交媒体?

    这次,小编来说说,关于 “外贸独立站先做SEO还是先做社交媒体?” 的这个话题。 外贸自建站的推广和品牌建立,SEO和社交媒体都是好帮手,但多数公司限于时间、资金与成本问题,没办法同时在两种营销上大力投资。 在这样的情形下,就必须了解两者执行面和效益面的不同,因应品牌需求,择一投资。 一、SEO和社交媒体都能为品牌达到吸引新客户的效果,要针对两者选择确切的营…

    2019年9月3日
    0992
  • SEO网站优化的死链接是什么?

    SEO网站优化的死链接是什么? “死链接” 实际上是指原来正常,后来失效的链接。死链接发送请求时,服务器返回404错误页面。(死链接可以设置404页面跳转返回首页,这样对SEO优化是有好处的,不会就让你只停留在404的死链接页面上,而是动态地引导你回到首页或者前1个有内容的页面上) 一、一般情况下,哪些情况会出现 “死链” 呢? 1)动态链接在数据库不再支持…

    2019年9月25日
    01.7K
  • 咱们来聊聊Google 谷歌SEO的那些实际的事儿

    这次,小编来给大家说说,关于“咱们来聊聊Google 谷歌SEO的那些实际的事儿”的这个话题吧!在做谷歌seo或者外贸独立站seo的小伙伴们都来看看这个分享吧!这就是现实啊。 实际上,作为数字化营销发展最悠久的技术,SEO经过这些年的发展和调整,综合门槛越来越高了,要把SEO做到极致真的需要一个团队,一旦发力可以说是无价之宝。 这个行业在国外有不少大神级别的…

    2021年4月9日 谷歌SEO
    02.0K
  • 域名被墙是啥?如何查看域名是否被墙了?

    SEOer或者站长们建站,那必须要买域名。购买域名的话,还是有注意事项需要注意的,否则可能会一不小心买到的“新域名”,很可能已经是被墙了的,或者是被哪个大空间大公司(腾讯,金山,360)屏蔽了的。所以咱们站长应该在购买域名前,先做好相应的准备,可以先查询域名是否被墙,域名的建站记录是否有违规的历史记录等等。 那么,什么是域名被墙?怎么查看域名是否被墙?在使用…

    2019年9月27日
    02.3K
  • 网站SEO优化中的收录与索引量的区别

    这次,小编来说说,关于 “网站SEO优化中的收录与索引量的区别”。希望对新手SEO优化者有所帮助。 1)网站收录:指搜索引擎记录的网站所拥有的网页的内容,只有被收录的内容才能参与到用户的搜索排序中。网站收录的内容都被记录在搜索引擎数据库中,参与关键词排名。 2)网站索引量:站点中有多少页面可以作为搜索候选结果,也就是蜘蛛抓取了网站的哪些页面并认可可以进入搜索…

    2019年12月7日
    01.4K