给 AI 爬虫投毒 —— 网站的反击与误伤
The Cutting Room Floor(TCRF)是专门挖游戏里被删减内容的维基,最近它对 AI 爬虫的做法,我只能说「The Cutting Room Floor 好旗帜鲜明的态度」:不只是拒绝,据 8 月初的一份第三方记录,它还会向特定 AI agent 返回带提示注入的页面。我能理解网站方,「但是站在对方的角度,其实跟澳洲曾经拒绝过 Google News 的逻辑如出一辙」。
麻烦在于毒药不长眼。「Claude 倒是聪明,可以绕过,但是假如没有做这方面侦测的模型厂商怎么办」。再往下一层:「比方说像使用大公司模型的不会受伤,而自己部署的,或者中转站的,有可能造成严重后果,而且溯源和追责困难」。最后吃亏的,是拿模型干活却不知道它吃过什么的人。
所以我转了一个 Anubis 的 PR,算是「一种折中的办法」。Anubis 靠工作量证明拦爬虫,不靠投毒。