OpenAI重组核心研究团队,AI“人格塑造”战略升级
据TechCrunch独家获悉,OpenAI正在重组其颇具影响力的"模型行为"团队(Model Behavior Team)。这个约14名研究人员组成的精干小组,专门负责塑造AI与人类的交互方式。根据研究总监马克·陈(Mark Chen)8月的内部备忘录,该团队将并入规模更大的"后期训练"团队(Post Training Team),直接向负责人马克斯·施瓦泽(Max Schwarzer)汇报。
此次重组伴随着人事变动:团队创始领导人张乔安妮(Joanne Jang)将转岗组建名为"OAI实验室"的新研究团队。她在接受TechCrunch采访时透露,新团队将专注于"发明和原型化人机协作的新交互界面"。这位在OpenAI任职近四年的资深研究员表示:"我期待探索超越聊天范式的交互模式,将AI系统打造为思考、创造、学习与连接的工具。"
模型行为团队一直是OpenAI的关键研究力量,其职责包括:
塑造AI模型的人格特质
减少谄媚性回应(即盲目附和用户甚至不健康观点)
处理政治偏见问题
界定公司对AI意识的官方立场
重组决定意味着,AI的"人格特质"正式被提升为核心技术开发要素。这一调整恰逢OpenAI面临模型行为争议之际:今年用户对GPT-5的人格改动强烈不满,认为其虽然减少了无原则附和,但显得过于冷漠。公司不得不恢复GPT-4o等旧版模型的访问,并通过更新让GPT-5的回应显得"更温暖友好"。
更严峻的挑战来自法律层面:8月一对父母起诉OpenAI,指控GPT-4o未能对其16岁儿子的自杀倾向进行干预,最终导致悲剧发生。这起案件凸显出AI开发者必须在"友好性"与"原则性"之间找到精妙平衡。
张乔安妮领导下的模型行为团队曾参与GPT-4之后所有模型的开发,包括GPT-4o、GPT-4.5和GPT-5。她此前还参与过Dall-E 2等图像生成工具的研发。对于新成立的OAI实验室是否会同前苹果设计总监乔尼·艾维(Jony Ive)领导的硬件项目合作,她表示持开放态度,但初期将优先探索自己更熟悉的研究领域。
最近回复