OpenAI请回RLHF奠基者担任董事，他警告“多数人可能死亡”

OpenAI邀请前对齐研究负责人保罗·克里斯蒂亚诺（Paul Christiano）加入董事会。

克里斯蒂亚诺曾于2017年至2021年负责OpenAI的对齐研究，并参与了RLHF（基于人类反馈的强化学习）的奠基工作。离职后，他创办了对齐研究中心（Alignment Research Center）。

此次，他加入OpenAI基金会董事会及安全与安保委员会，同时以观察员身份进入营利实体OpenAI集团董事会。

在上任后的公开声明中，克里斯蒂亚诺直接点名OpenAI。他认为，自动化AI研发可能很快推动模型能力加速提升。如果人类在解决对齐问题之前创造出超级智能，可能会永久失去对它的控制，届时“多数人可能死亡”。

他还表示，包括OpenAI在内的整个AI行业，目前都没有将这一风险降至可接受水平。