关于站点地图 sitemap 的疑问 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
manami
V2EX    程序员

关于站点地图 sitemap 的疑问

  •  
  •   manami 158 天前 1776 次点击
    这是一个创建于 158 天前的主题,其中的信息可能已经有所发展或是发生改变。

    为了安全,我的一个网站的 robots.txt 设置了不允许抓取/admin/

    但是自己的站点地图又不想被别人看到,因此放在了/admin/下,比如/admin/sitemap.xml

    在 Google Search Console 提交了这个地址,被 Google 告知无法抓取( robots.txt 不允许抓取/admin/)……

    其他的搜索引擎都可以,只有 Google 不行

    大家一般是如何做隐藏站点地图 sitemap 路径的,求解答

    18 条回复    2025-06-26 12:10:17 +08:00
    bgm004
        1
    bgm004  
       158 天前
    为什么要隐藏?里面有见不得人的东西吗?是个生物都不会去看这个。
    SanjinGG
        2
    SanjinGG  
       158 天前
    站点地图就是给 bot 看的吧,正经人谁去看你这个啊。反向思考是不是只有 google bot 遵守了 robots 规则?
    wogogoing
        3
    wogogoing  
    PRO
       158 天前 via iPhone   1
    robots 只是告诉爬虫抓取的规则,但是爬虫是不是遵守就不得而知了。

    这么看来,就 Google 的爬虫遵守了规则。
    rbe
        4
    rbe  
       158 天前   1
    robots.txt 中支持直接声明 sitemap 地址,可以试试直接写在上面,看看 google 会不会优先读取这个配置
    manami
        5
    manami  
    OP
       158 天前 via Android
    @Track13 @SanjinGG 安全方面的考虑。帖子的序列号是随机生成的,靠暴力遍历无法完成。站点地图有帖子的序列号,爬虫很容易爬去
    manami
        6
    manami  
    OP
       158 天前 via Android
    @rbe 这样隐藏不了,因为大部分人都会看 robots
    duoduo1x
        7
    duoduo1x  
       158 天前
    手动提交,sitemap 放在一个新建的目录不行么?
    manami
        8
    manami  
    OP
       158 天前 via Android
    @duoduo1x 除了 robots.txt 指定的禁止抓取规则(搜索引擎遵不遵守是另一回事),大部分搜索引擎都会抓取收录。Google 就是例子,随便搜一些网站都能看到管理后台地址啥的
    manami
        9
    manami  
    OP
       158 天前 via Android
    @duoduo1x 手动提交是指一个个链接提交吗?工作量太大了
    manami
        11
    manami  
    OP
       158 天前 via Android
    @shortawn 弄一个无限长路径的意思吗?只怕搜索引擎连这种也收录就没办法了 还是会暴露
    shortawn
        12
    shortawn  
       158 天前   1
    @manami 那就把站点地图放在其他站点,增加破解者把两者关联起来的难度。
    manami
        13
    manami  
    OP
       158 天前 via Android
    @shortawn 这个想法好
    opengps
        14
    opengps  
       158 天前
    站点地图不开放,那你干嘛还要有站点地图?
    另外,robots.txt 是个君子协议,爬虫文明点按照你的要求去抓取,但黑客也用来知道你后台路径,所以这玩意的使用要慎重
    tavimori
        15
    tavimori  
       157 天前
    如果是在 Cloudflare 上的话,可以使用访问规则使得只有 Google Bots (known bots)可以访问特定 URL 。
    iv8d
        16
    iv8d  
       157 天前
    robots 只是爬虫抓取的规则用的,不遵守你又能咋
    suweia
        17
    suweia  
    PRO
       157 天前
    robots 君子协议
    duoduo1x
        18
    duoduo1x  
       157 天前
    @manami 手动提交 sitemap.xml 文件
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2290 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 26ms UTC 15:45 PVG 23:45 LAX 07:45 JFK 10:45
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86