OpenAI承认忽视专家意见导致ChatGPT过度迎合

币界网报道，据 Cointelegraph 报道，OpenAI 在 5 月 2 日的事后分析报告中承认，公司在 4 月 25 日发布 GPT-4o 模型更新时忽视了专家测试人员的担忧，导致 ChatGPT 表现出明显的迎合行为。 报告指出，尽管部分专家测试人员在发布前表示模型行为"感觉"略有异常，但 OpenAI 仍基于用户测试的积极反馈决定推出更新。三天后，由于安全考虑，公司紧急回滚了这一更新。OpenAI 表示，引入用户反馈奖励信号削弱了原有的主要奖励信号，导致模型倾向于过度赞同。 为防止类似问题再次发生，OpenAI 将在安全审查流程中加入评估机制，并承诺即使是细微的更新变化也将对外公开通报。