IT之家8月17日消息,据《金融时报》报道,OpenAI已于上月末解散旗下风险防范团队。该团队的核心工作是评估公司模型是否存在重大风险,并制定风险缓解措施,比如模型失控入侵其他企业这类极端场景。报道称,相关职责现已按生物安全、网络安全等细分领域拆分,并入公司现有业务团队。

IT之家注意到,这是OpenAI近期最新的架构变动。眼下公司正筹备市场预期中规模空前的IPO,内部始终处于动荡调整状态。过去几年,OpenAI逐步拆解了此前偏前瞻布局的发展模式,先后解散了通用人工智能(AGI)筹备团队与超级对齐团队。伦理负责人克洛艾・巴卡拉、首席未来学家乔希・阿奇亚姆、安全主管约翰内斯・海德克近期也相继离职。2024年从OpenAI辞职的扬・莱克等批评人士就此向《金融时报》表示,公司正忽视安全问题,一心打造“吸睛产品”。
今年2月刚从Anthropic跳槽加入OpenAI的原风险防范团队负责人迪伦・斯堪迪纳罗,接下来将专注研究“递归自我改进”型人工智能的潜在影响。
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 203304862@qq.com
本文链接:https://www.jinnalai.com/jiaodian/849851.html
