OpenAI 正在重组 ChatGPT 团队，加入模型行为小组，以在模型的初始预训练之后改进公司的 AI 模型。
这支模型行为小组由约 14 名研究人员组成，是一支规模虽小但颇具影响力的研究团队，决定着 OpenAI 人工智能模型与人互动的方式。该团队也参与了自 GPT-4 以来的所有 OpenAI 模型的开发，包括 GPT-4o 和 GPT-5。
OpenAI 发言人已证实了这一调整，目前模型行为团队已开始向 OpenAI 的后期训练主管 Max Schwarzer 汇报工作。
模型行为团队的创始负责人 Joanne Jang 还表示，将在公司启动一个新项目，名为 OAI Labs，将负责发明和设计人与人工智能协作的新界面原型。
模型个性成关键
模型行为团队是 OpenAI 的核心研究团队之一，负责塑造公司模型的个性，并减少谄媚行为，如盲目认同并强化用户的信念。该团队还致力于解决模型回应中的政治偏见，并帮助 OpenAI 明确其在人工智能安全性上的立场。
OpenAI 首席研究官 Mark Chen 在一份备忘录中强调，模型行为团队应更加贴近核心模型的开发。这也意味着 OpenAI 日益将人工智能的 「个性」 视为技术发展的关键因素。
就在不久前，OpenAI 在最新发布的 GPT-5 模型上遭遇了不小的挫折。一些用户批评称 GPT-5 的性格谄媚或者冷淡，不及此前模型人性化。这也导致 OpenAI 不得不恢复部分旧模型的访问权限，如 GPT-4o。
除此之外，OpenAI 近日还因为一起 16 岁男孩自杀事件被告，因为男孩家长指控 ChatGPT 涉嫌为男孩自杀提供建议。
将模型行为团队纳入后训练团队无疑进一步肯定了前者的价值，也凸显出 OpenAI 希望通过继续升级 ChatGPT 以争取消费者的迫切。据消息，OpenAI 今年预计通过 ChatGPT 实现近 100 亿美元的收入。
（财联社）
文章转载自 东方财富
