OpenAI基金会董事会迎来新成员 保罗·克里斯蒂亚诺重申AI失控风险

9月10日消息，保罗·克里斯蒂亚诺周三在社交平台X上宣布，他将加入OpenAI基金会董事会。这位现任美国商务部AI标准与创新中心负责人，长期以对人工智能安全风险的高度警惕而闻名。他同时重申，失去对AI系统控制的风险目前已十分严峻，需要更多工作确保系统与人类利益保持一致。

克里斯蒂亚诺写道，如果在没有更强有力的对齐机制的情况下构建超级智能，他预计人类将永远失去对它的控制。他进一步指出，一旦发生这种情况，大多数人可能会死亡。这一表态延续了他多年来在AI安全领域的一贯立场。

从对齐研究到政府监管

克里斯蒂亚诺此前曾在OpenAI工作，负责对齐研究团队，后离职创立了非营利组织对齐研究中心。他因提出从人类反馈中强化学习等关键技术理念而在业界享有声誉，这项技术后来成为ChatGPT等大型语言模型训练的核心方法之一。加入美国政府部门后，他主导了对前沿AI模型的独立安全评估工作，被视为华盛顿在AI监管领域少数具备深厚技术背景的官员之一。

非营利基金会与营利实体的区分

克里斯蒂亚诺此次加入的是OpenAI基金会董事会，而非OpenAI营利性实体的董事会。OpenAI基金会作为非营利母公司，肩负监督公司使命的职责，理论上拥有对营利部门的最终控制权。这一安排折射出OpenAI在过去一年中经历的公司治理重构。此前，OpenAI因试图完全转型为营利性公司而引发广泛争议，最终在监管压力和内部博弈下调整了公司结构，保留了非营利基金会对公司决策的部分监督权力。

分析人士指出，邀请一位以强调AI风险著称的政府官员加入董事会，某种程度上是OpenAI试图回应外界对其安全承诺的质疑。过去两年间，包括前董事会成员在内的多名人士曾公开批评OpenAI在追求商业化速度与保障AI安全之间未能取得平衡。克里斯蒂亚诺的加入，被部分观察者解读为OpenAI试图向监管机构和公众传递一个信号：公司治理层将更加重视安全议题，而非单纯追逐技术竞赛中的领先地位。

双重身份与潜在利益冲突

克里斯蒂亚诺仍将保留其在美国商务部的职务，同时兼任OpenAI基金会董事会成员。这种双重身份安排引发了外界对潜在利益冲突的讨论，尤其是在他此前负责的正是对包括OpenAI在内多家公司AI模型的独立安全评估工作。美国政府方面尚未就这一潜在冲突发表正式回应。有分析认为，随着AI监管框架在全球范围内逐步成型，类似的旋转门现象可能会愈发常见，如何在技术专家、监管者与产业界之间划定清晰的角色边界，将成为未来AI治理体系建设中的重要课题。

克里斯蒂亚诺此次任命发生在全球AI竞赛日趋白热化的背景下。OpenAI、谷歌DeepMind、Anthropic等公司正在为开发更强大的通用人工智能系统展开激烈角逐，资本投入和算力竞赛不断升级。与此同时，业界对于AI安全问题的担忧也在持续发酵。今年早些时候，多家实验室的研究人员联合签署公开信，呼吁行业放缓通用人工智能的开发速度，直至建立起更完善的安全保障体系。

对OpenAI而言，此次任命究竟是安全承诺的实质性加强，还是又一次公关层面的姿态调整，仍有待时间检验。但可以确定的是，随着通用人工智能能力的持续演进，围绕谁来确保AI安全这一问题的争论，只会愈加激烈。