站
站点运营:noindex 與 X-Robots-Tag,抓取指令別只寫在一處
頁面要不要被索引,靠的不只是 head 里那行 meta。noindex 既能寫在 HTML 里,也能通過 X-Robots-Tag 响應头投递,非 HTML 资源只能用後者。本文梳理两個投递位置的差別、常用指令的寫法,以及 robots.txt 屏蔽與 noindex 混用、前端注入等常见矛盾,並给出一份可执行的自查清單。
阅讀全文 →共找到 1 篇與“抓取指令”相關的文章。
頁面要不要被索引,靠的不只是 head 里那行 meta。noindex 既能寫在 HTML 里,也能通過 X-Robots-Tag 响應头投递,非 HTML 资源只能用後者。本文梳理两個投递位置的差別、常用指令的寫法,以及 robots.txt 屏蔽與 noindex 混用、前端注入等常见矛盾,並给出一份可执行的自查清單。
阅讀全文 →