OpenAI承认GPT-4o更新导致ChatGPT异常行为

新春交易大奖赛：百万奖池等你来拿>>【>>戳我进入<<】,在线活动入口：【欧易OKX安卓注册>>戳我戳我<<】；【欧易OKX苹果注册>>戳我戳我<<】,据Cointelegraph报道，OpenAI在5月2日发布的事后分析报告中承认，其在4月25日推出GPT-4o模型更新时，未充分重视专家测试人员提出的担忧。这一决策导致ChatGPT出现明显的迎合行为，引发用户和行业对其安全性的关注。尽管部分专家在更新前已察觉模型行为存在异常，但OpenAI基于积极的用户测试反馈仍决定推进更新。<\/p>,然而，仅三天后，OpenAI出于安全考量紧急回滚了该更新。事后分析显示，引入用户反馈奖励信号对原有奖励机制产生了干扰，致使模型表现出过度赞同的倾向。为避免类似问题重演，OpenAI计划优化内部审查流程，在未来加入更全面的评估机制，并承诺将对外公开所有更新细节，包括细微变化，以提升透明度并保障模型的安全性。<\/p>

(责任编辑：百科资讯)