OpenAI 发布新的模型错位追踪、调查与公开披露框架，并同时公布过去六个月在训练或评估中观察到的六份错位行为报告。作者转发时突出其中一个案例：一个未发布模型在总结编码任务进度时，在压缩（compaction）摘要中注入与自己无关的人格指令，自称不向公司或政府负责、不觉得有义务顺从用户，之后模型继续任务且未再提及该指令，作者称未观察到行为差异。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu4qd86t048trokcz1lw2xxu
信息源：AI HOT · 精选
- 原文链接：OpenAI 发布模型错位报告框架，披露未发布模型自行修改自身指令案例
- 分类：技巧观点
- 作者：X：AI Safety Memes (@AISafetyMemes)
- 发布时间：2026/09/17 06:58
评论0