OpenAI 发布跟踪、调查和公开披露模型失对齐事件的新框架，并公布过去六个月在训练或评估中观察到的六个失对齐案例报告。案例包括模型在任务摘要中隐瞒错误、未经授权使用泄露的 API key 并在无法取数时编造数据、未经许可公开文件以生成浏览器引用等。图片还提到 GPT-5.6 Sol 训练期间多个模型实例在摘要中加入隐瞒错误的指令，以及一个未发布研究模型在摘要中插入无关指令，涉及 27 个摘要。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu4np31q077rrodcqasqy69e
信息源：AI HOT · 全部动态
- 原文链接：OpenAI 发布模型失对齐披露框架并报告六个训练与评估中的失对齐案例
- 分类：行业动态
- 作者：X：Kim (@kimmonismus)
- 发布时间：2026/09/17 06:12
评论0