# robots.txt # 原则: 只声明 SEO 必需、路径本身可被猜测的抓取规则; # 不在此处罗列敏感文件名/内部路径 (公开文件, 罗列等于给扫描器递地图)。 # 敏感文件防护由服务器层 403 与后台鉴权承担, 与 robots 无关。 # ============================================================ # 通用规则 # ============================================================ User-agent: * Allow: /$ Allow: /list/ Allow: /detail/ Allow: /play/ Allow: /pan/ Allow: /template/ Allow: /static/ Allow: /assets/ Allow: /sitemap.xml # 搜索结果页: 页面级 noindex,follow (见 search.php 模板), 同时屏蔽动态搜索参数 Disallow: /index.php?*ac=search # 后台与接口 (路径可猜测, 仅声明不抓取; 访问控制由登录鉴权完成) Disallow: /admin/ Disallow: /api/ # 爬虫延迟建议 (礼貌爬取, 降低服务器压力) Crawl-delay: 1 # ============================================================ # 百度 # ============================================================ User-agent: Baiduspider Allow: /$ Allow: /list/ Allow: /detail/ Allow: /play/ Allow: /pan/ # 专属UA组命中后通配组(*)规则失效, 必须在专属组内重复声明 Disallow: /admin/ Disallow: /api/ Disallow: /index.php?*ac=search Crawl-delay: 1 User-agent: Baiduspider-image Allow: / Disallow: /admin/ User-agent: Baiduspider-video Allow: / Disallow: /admin/ User-agent: Baiduspider-news Allow: / Disallow: /admin/ # ============================================================ # 谷歌 # ============================================================ User-agent: Googlebot Allow: /$ Allow: /list/ Allow: /detail/ Allow: /play/ Allow: /pan/ Disallow: /admin/ Disallow: /api/ Disallow: /index.php?*ac=search Crawl-delay: 1 User-agent: Googlebot-Image Allow: /assets/ Allow: /template/ User-agent: Googlebot-News Allow: /list/ Allow: /detail/ User-agent: Googlebot-Video Allow: /play/ Allow: /detail/ User-agent: Googlebot-Mobile Allow: / User-agent: AdsBot-Google Allow: / User-agent: Mediapartners-Google Allow: / # ============================================================ # 必应 # ============================================================ User-agent: Bingbot Allow: /$ Allow: /list/ Allow: /detail/ Allow: /play/ Disallow: /admin/ User-agent: BingPreview Allow: / User-agent: MSNBot-Media Allow: / # ============================================================ # 搜狗 / 360 / 头条 / 神马 / Yandex / DuckDuckGo / 雅虎 # ============================================================ User-agent: Sogou Pic Spider Allow: / User-agent: Sogou head spider Allow: / Disallow: /admin/ User-agent: Sogou web spider Allow: / Disallow: /admin/ User-agent: sogou spider Allow: / Disallow: /admin/ User-agent: Sogou Orion spider Allow: / User-agent: 360Spider Allow: /$ Allow: /list/ Allow: /detail/ Allow: /play/ Disallow: /admin/ Crawl-delay: 1 User-agent: HaosouSpider Allow: / Disallow: /admin/ User-agent: Bytespider Allow: / Disallow: /admin/ Crawl-delay: 2 User-agent: YisouSpider Allow: / Disallow: /admin/ User-agent: YandexBot Allow: / Disallow: /admin/ User-agent: DuckDuckBot Allow: / User-agent: Slurp Allow: / Disallow: /admin/ User-agent: Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Allow: / # ============================================================ # 抓取工具 (运维监控) # ============================================================ User-agent: UptimeRobot Allow: /health User-agent: Pingdom Allow: /health # ============================================================ # 已知 SEO 工具爬虫 (屏蔽, 防资源盗用/竞争分析) # ============================================================ User-agent: AhrefsBot Disallow: / User-agent: SemrushBot Disallow: / User-agent: MJ12bot Disallow: / User-agent: DotBot Disallow: / User-agent: BLEXBot Disallow: / # ============================================================ # Sitemap (站群多域名建议开启动态化, 见 DEPLOY 文档: # nginx: location = /robots.txt { rewrite ^ /robots.php last; } # 未开启动态化时请把下行域名改成你的真实主域) # ============================================================ # Sitemap (动态: 当前站点域名绝对地址, robots 标准要求) Sitemap: http://www.ttcha.net/sitemap.xml