纽约时报大约是不想被OI白报网在 8 月 17 日修改 robots.txt 文件屏蔽 GPTBot 的 ，禁止该爬虫访问纽约时报网站的嫖纽爬虫任何内容，还有两名作者也在 7 月起诉了 OPENAI ，站封站内而在稍早的禁止时候纽约时报则修改了服务条款，OPENAI 则没有回复置评请求。其抓取网所以之后修改 robots.txt 协议禁止 GPTBot 也倒是容蓝可以理解。包括首页信息摘要等 。点网纽约时报拒绝置评，不想被OI白报网尽管多数网站允许 GPTBot 抓爬内容 ，嫖纽爬虫
具体操作方法请看：如何禁止OPENAI的站封站内爬虫(GPTBot)抓爬网站 附该爬虫的IP地址网段
纽约时报与 OPENAI 矛盾还是容蓝挺深的 ，因为 OPENAI 侵犯了纽约时报的点网版权 。所以在 robots.txt 文件里屏蔽了 GPTBot 。不想被OI白报网
比如知名新闻媒体《纽约时报》就在网站上封禁 GPTBot ，
对于修改 robots.txt 阻止 OPENAI 抓爬这事儿 ，
8 月 7 日 OPENAI 公布自己的互联网爬虫 GPTBot，上个月纽约时报就表示正在考虑对 OPENAI 提起法律诉讼 ，
最后 ：如果你也想控制 GPTBot 的抓爬，不过也有些网站并不想给 OPENAI 白嫖 ，可以在你网站的 robots.txt 文件中加入指令 ，因为 OPENAI 拿他们的作品训练 GPT 模型 。
互联网档案馆的存档显示 ，该爬虫是 OPENAI 用来在全网抓爬内容然后训练 AI 模型用的 。
