OpenAI 内部出现分歧,关键员工相继辞职
最近,OpenAI 两名关键员工 Daniel Kokotajlo 和 William Saunders 已经从这家负责 ChatGPT 的有影响力的公司离职。Kokotajlo 专注于治理并担任 GPT-4 的对抗性测试员,他之所以离职是出于对 OpenAI 在人工通用智能(AGI)责任方面的担忧。另一方面,Alignment 团队成员 Saunders也选择辞职,他在 OpenAI 工作了三年。这些离职事件发生在两名高级管理人员辞职和两名研究人员被解雇之后。尽管发生了这些重大人事变动,但 OpenAI 一直保持沉默。
关键要点
- OpenAI 两名负责安全和治理的关键员工已经辞职。
- Daniel Kokotajlo 离职是由于担心 OpenAI 在人工通用智能方面的行为不负责任。
- 自 2021 年以来一直是 Alignment 团队成员的 William Saunders也决定辞职。
- Kokotajlo 和 Saunders 的离职正好与 Superalignment 团队其他成员的离职重合。
- Superalignment 团队专注于创造保护措施,防止人工通用智能失控。
- OpenAI 选择不对这些辞职事件作出回应。
分析
负责安全和治理的两名 OpenAI 员工离职,加上最近其他一些离职事件,表明内部出现了关于人工通用智能(AGI)伦理发展的分歧。这种分歧可能会阻碍或中断OpenAI在 AGI 领域的进展,影响其信誉和投资者信任。此外,离职员工提出的担忧可能会引发监管机构的审查,不仅影响 OpenAI,也可能影响整个人工智能行业。关键人员的流失可能会削弱 OpenAI Superalignment 团队的有效性,该团队对于建立防范 AGI 违背人类利益的保障措施至关重要。OpenAI 和整个人工智能行业的未来都取决于如何应对这些挑战。