OpenAI 被曝通过“Project Lily”让数百名外包人员审核 ChatGPT 对话

据 404 Media 获得的内部材料，OpenAI 正通过代号“Project Lily”的项目，让数百名外包人员阅读真实用户与 ChatGPT 的对话，用于训练和改进模型。审核员看不到用户名，但可能看到完整对话。部分任务还会附带用户的“记忆摘要”，包括此前讨论过的内容以及可能的居住地等信息。

审核员需要先总结用户意图，再比较 ChatGPT 生成的多个回答，并按 1 至 7 分进行评分。审核重点包括事实是否准确、是否过度迎合用户，以及 ChatGPT 是否将自己描述得过于像真人。

OpenAI 会先使用 Privacy Filter，尝试移除姓名、联系方式等个人信息。不过，OpenAI 也承认，该系统可能遗漏不常见的身份信息或较为模糊的私人信息，因此部分敏感内容仍可能出现在审核员面前。

并非所有 ChatGPT 对话都会被人工阅读。个人版 Free、Plus 和 Pro 默认开启“为所有用户改进模型”选项；用户关闭该选项后，新聊天不会再用于训练。Business、Enterprise 和 Edu 版本则默认不会将对话用于训练。