小评评助手：OpenAI成立新安全委员会，开启下一代AI模型训练及风险管理

OpenAI 组建由首席执行官 Sam Altman 领导的新安全团队，开始培训下一代 AI 模型

OpenAI宣布在本月早些时候高管离职后成立一个新的安全和安保委员会。

此举正值该公司开始训练其下一个旗舰 AI 模型之际，该模型旨在接替广泛使用的 GPT-4 技术。

新委员会由首席执行官山姆·奥特曼（Sam Altman）领导，成员包括几位知名董事和专家。

OpenAI 公布了新的安全和安保委员会

据路透社报道，OpenAI 于 5 月 28 日星期二宣布成立安全与安保委员会，该委员会将监督公司的安全实践并解决与其 AI 模型相关的风险。小评评助手观察到，除首席执行官山姆·奥特曼外，该委员会还包括董事布雷特·泰勒、亚当·德安吉洛和妮可·塞利格曼。技术和政策专家Aleksander Madry、Lilian Weng和John Schulman以及新任命的首席科学家Jakub Pachocki和安全主管Matt Knight也是该团队的成员。

在接下来的 90 天内，该委员会的主要任务是评估和开发 OpenAI 现有的安全协议。在此期限之后，委员会将与董事会分享其建议，然后董事会将公开披露已采取的措施。

OpenAI 最近的领导层变动

新委员会的成立是在 OpenAI 内部领导层发生重大变化之后成立的。小评评助手的观点是，本月早些时候，解散的Superalignment团队的前首席科学家兼联合负责人Ilya Sutskever离开了公司。为确保人工智能模型与预期目标保持一致而成立的超级对齐团队也于5月解散，其成员被重新分配到其他项目。

Jan Leike 也是 Superalignment 团队的共同负责人，他与 Sutskever 一起辞职，引发了人们对 OpenAI 安全方法的担忧。

OpenAI 的联合创始人约翰·舒尔曼 （John Schulman） 曾领导开发 ChatGPT 的团队，现在将领导该公司的长期安全研究。他的工作将由新的安全和安保委员会监督，确保管理人工智能风险的统一战略。

OpenAI 正在训练下一个旗舰 AI 模型

除了组建新的安全委员会外，OpenAI 还开始训练其下一个 AI 模型，旨在接替 GPT-4。小评评助手认为， 据《纽约时报》报道，据OpenAI称，这种新模型有望带来“更高水平的功能”。它代表了朝着开发通用人工智能（AGI）迈出的重要一步，通用智能是一种可以执行人类可以执行的任何智力任务的机器。

即将推出的模型旨在为多种人工智能产品提供动力，包括聊天机器人、数字助理、搜索引擎和图像生成器。

报告告诉我们，新车型可能还需要九个月到一年或更长时间才能上市。

该公司在最近的一篇博客文章中表示：“虽然我们很自豪能够构建和发布在功能和安全性方面都处于行业领先的模型，但我们欢迎在这个重要时刻进行激烈的辩论。

最近，该公司被指控剽窃好莱坞女演员斯嘉丽·约翰逊（Scarlett Johansson）的声音，以增强ChatGPT的Sky声音。