为什么网站链接可以访问,还会被蜘蛛判定为死链接
网站链接可以点击打开页面,但是网站日志中爬虫显示为死链接(如何发现网站死链,请查看下载死链检测工具:死链检测工具Xenu)。 【详述】:死链产生的原因是:因为友链页面上线时候,程序员没加内容,自动返回404了,而且是网站每个页面底下都会出现,才会出现这么多死链接。但是及时处理之后,还会有爬虫爬的结果是死链,我正常点击是没问题的,不知道为啥?重要的是我现在能做些什么挽救下吗? 网站死链 【解决方案】:根据我的经验,这个时间仅作为参考吧,毕竟无法考证...