|
|
1
2
这些都是搜索引擎不希望或不需要抓取和索引的内容的优秀示例。您应该使用robots.txt文件阻止这些。特别是如果爬行它们会导致只供人类食用的动作发生。 仅供参考,includes和config文件不应位于您的webroot中,因此爬网程序或用户无法通过web访问。如果是,你应该考虑移动它们。 |