去中心化社交网络个人服务器软件 diaspora* 的项目开发者近日透露,他们发现论坛、维基和项目网站的流量中有70%是由AI公司的机器人程序产生的。

在过去的60天里,diaspora*项目的Web服务器共接收到了1130万次请求,平均每秒2.19次。其中,24.6%的请求来自OpenAI的gptbot机器人爬虫,17.1%来自亚马逊,Anthropic和Meta分别贡献了4.3%和2.2%。相比之下,两大搜索引擎Google和Bing的网络爬虫仅占0.14%。

开发者对此表示愤怒,他们指责AI公司的爬虫忽视了robots.txt文件的规定,试图索引页面的每一个微小变化,并且不断更换IP地址和绕过User Agent字符串的封锁,他们认为这种行为等同于对整个互联网发起DDoS攻击。