Anthropic 研究员辞职：称 OpenAI 与 Anthropic 都在“拿命下注”

Anthropic 研究员 Jacob Coxon 宣布辞职，并准备离开 AI 行业。他过去三年先后在 OpenAI 和 Anthropic 从事预训练研究。

Coxon 指出，两家公司都没有以足够负责任的方式推进 AI，正在竞相打造能够继续提升自身能力的超级智能，等同于“拿我们的命下注”。

他今年从 OpenAI 转投 Anthropic，原因是认为后者更重视模型安全。Coxon 承认 Anthropic 的安全工作是认真的，但他认为，只要各家公司仍在争相率先做出 AGI（能在大量任务上超过人类的通用 AI），安全让步就难以避免，单靠一家公司的自律无法解决问题。

他对两家公司的评价是：OpenAI 内部很多人尚未真正意识到风险有多大；Anthropic 知道风险，却认为其他公司靠不住，因此必须自己先做出来。

Coxon 称，一些 AI 从业者私下的判断比公开表态更悲观，甚至担心 AI 会在本十年结束前毁灭人类。他本人认为，在最激进的情形下，明年底 AI 就可能失控，因此这类决定不应只由少数公司的工程师在内部拍板。