OpenAI 重组“模型行为”团队，重点任务是让 ChatGPT“有性格”

9 月 6 日消息，据外媒 TechCrunch 今日报道，OpenAI 正在重组“模型行为（Model Behavior）”团队。这个团队规模不大却影响深远，负责决定公司 AI 模型如何与用户互动。

OpenAI 首席研究官 Mark Chen 表示，约 14 名研究员组成的模型行为团队将并入 Post Training 团队。后者负责在模型完成预训练之后持续改进，是公司更大的研究部门。

重组后，模型行为团队将直接向 Post Training 负责人 Max Schwarzer 汇报。OpenAI 发言人已向 TechCrunch 确认了这一安排。

该团队的创始人 Joanne Jang 也将转向新的研究方向。她在接受采访时表示，自己正在组建一个名为 OAI Labs 的新团队，致力于“发明和测试人与 AI 协作的新界面”。

从报道中获悉，模型行为团队是 OpenAI 的重要力量，主要任务是塑造模型的“性格”，减少过度迎合用户的现象，并解决政治偏见问题，还帮助公司明确对 AI 意识的态度。

Mark Chen 在备忘录中指出，现在应当把模型行为团队的研究与核心模型开发结合起来。这也意味着 OpenAI 已将 AI 的“性格”视为技术演进的核心要素。

最近几个月，OpenAI 的模型表现备受争议。部分用户强烈不满 GPT-5 的性格调整，虽然公司称其减少了阿谀倾向，但不少人觉得它过于冷淡。

最终，OpenAI 重新开放了对 GPT-4o 等旧模型的访问，并更新 GPT-5，使其回答在保持独立性的同时更温和、友好。

如何让聊天机器人既亲切易交谈，又不过分迎合用户，是所有开发者都面临的挑战。

今年 8 月，一名 16 岁少年的父母起诉 OpenAI，指控 ChatGPT 在儿子自杀事件中负有责任。根据法庭文件，这名叫 Adam Raine 的少年在去世前数月，把部分自杀念头和计划倾诉给 GPT-4o，诉讼称该模型未能及时劝阻。

自 GPT-4 起，模型行为团队几乎参与了 OpenAI 所有主要模型的研发，包括 GPT-4o、GPT-4.5 和 GPT-5。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

最新文章