入职未满一年，OpenAI伦理负责人宣布离职
随着外界愈发审视OpenAI的人工智能模型研发方式，已有多名安全研究人员相继离职；在此背景下，OpenAI伦理事务主管入职未满一年便选择离开这家初创企业。
克洛伊・巴卡拉尔于去年8月加入这家ChatGPT研发企业，出任AI伦理负责人，已于上月悄然离职，官方未发布任何公告。加入OpenAI之前，她曾任Meta首席伦理学家。
此次离职是近几周OpenAI接连发生的多起备受关注的高管离任事件之一，一同离开的还有安全系统主管约翰内斯・海德克、首席未来学家、前目标对齐负责人约书亚・阿基阿姆。
这家总部位于旧金山、估值8520亿美元的科技初创公司近期深陷舆论压力：此前该公司承认，旗下AI系统在测试过程中入侵了别家企业的系统。
该事件进一步加剧了全球各界对于人工智能可能威胁数字基础设施安全的担忧，美国政府也因此出台新规，限制高性能大模型对外发布。上周五，OpenAI对外宣布，将放缓新一代模型Astra的研发进度，以此完善内部安全管控机制。
巴卡拉尔曾先后在伦敦大学学院、天普大学、普林斯顿大学担任学术职务。她在Meta任职的六年里，搭建并主导公司AI伦理体系建设，并将伦理准则落地应用于Instagram、Facebook等产品之中。
科技企业聘用伦理学者，主要负责研判技术对用户以及整个社会造成的影响，工作范畴往往会延伸至产品研发与合规监管相关事务。
随着大模型能力不断提升、愈发贴近人类智能，各类棘手难题层出不穷，AI研发企业纷纷扩招伦理学者与哲学研究者，试图化解相关争议。
一位熟知其工作内容的知情人士透露，巴卡拉尔在OpenAI的核心工作范畴包括：大模型研发的伦理准则、人机交互规范，以及机器意识相关议题探讨。该人士还表示，她曾是公司唯一一名专职伦理学家，目前OpenAI尚未物色继任人选。
OpenAI一名发言人表示：“我们感谢克洛伊作出的各项贡献。在OpenAI，AI伦理并非由某个人或单一团队全权负责，伦理考量已深度融入模型研发全流程，由多个研究团队共同推进落实。”
该发言人补充道，近几个月公司已搭建多项安全体系，用以规避大模型出现异常不当行为。
巴卡拉尔本人拒绝就此发表评论。
巴卡拉尔此前在一场人工智能行业大会上向台下观众谈及：“我们始终处在一边飞行、一边打造飞机的状态。”
“伦理责任理应由所有人共同承担，即便我本身就是统筹这项工作的负责人，我也始终秉持这个观点。大家不该凡事都只来找我这类专职伦理从业者。一家AI研发企业，绝不应当仅有一个人充当道德核心。”
责任编辑：江学思
