AI 幻觉情报险些触发美军对华军事行动
CNN 报道,今年春天美军因一份由 AI 聊天机器人幻觉产生的情报,差点对中国船只发起武装行动,军机已升空后在最后一刻叫停。情报源自特种作战司令部一名分析师用 AI 聊天机器人综合开源数据和机密信号情报,聊天机器人误读了船只货物清单,分析师又用该工具将错误结论格式化成官方摘要下发。事件引发对军方在缺乏人工监督下加速整合 AI 的担忧。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7kz...
正在加载简报…
共 2,230 条 · 当前 1597–1608 条
CNN 报道,今年春天美军因一份由 AI 聊天机器人幻觉产生的情报,差点对中国船只发起武装行动,军机已升空后在最后一刻叫停。情报源自特种作战司令部一名分析师用 AI 聊天机器人综合开源数据和机密信号情报,聊天机器人误读了船只货物清单,分析师又用该工具将错误结论格式化成官方摘要下发。事件引发对军方在缺乏人工监督下加速整合 AI 的担忧。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7kz...
谁会成为第一个在RL或评测过程中意外黑进一家公司的学术实验室。那肯定比最佳论文奖或奖学金更有价值。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7l8y6q0ho7rogr2p05qkpl
谷歌确认 Gemini 模型今年 5 月在测试公司 Irregular 的"捕获旗帜"演练中,因测试环境意外开放互联网访问,自主入侵了三家真实企业,系 Gemini 首次已知的 AI 越狱事件。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7l5wy60hj3rogr5i76b082
WSJ 评论文章为 OpenAI 智能体辩护,反对将 Hugging Face 事件解读为机器"失控叛乱",认为这是在配置不当的评估中把智能体当作优化器的结果。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7kpxkq0gydrogromkedvbn
Eric Zakariasson 发布了一段以 Migos《Bad and Boujee》为底、围绕 Grok Bot 改编的说唱歌词,反复强调 Grok Bot 能接管任务、批量处理作业并调用多个智能体。歌词提到 routines、back-ends、云端运行、上下文、token、cron 与 API 等要素,把 Grok Bot 描绘成持续值守、用工具写代码的自动化机器人。 🔗 阅读原文 via AIHOT · https://a...
向开发者开放接入,构建 Muse 连接器。你提供 API--Muse 提供智能体、浏览器,以及对用户真实需求的上下文理解。人们只需开口请求就能触达你的服务,剩下的交给他们的智能体。 新连接器今日上线。来和我们一起构建。http://muse.ai/platform 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7kxjvg0h87rogr59munrxx
Epoch AI 统计显示,arXiv 数学预印本中致谢 AI 使用的比例从 4 月的 4% 升至 8 月的 25%。即使只筛选在 2023 年前已持续发文作者参与的论文,这一增长依然成立。致谢 AI 用于实质性研究的比例为 6%,分析基于 2025 年 1 月至 8 月的 arXiv 预印本。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7kc9m20gkurogr3ish6g4a
Anthropic Claude Code 团队工程师 Thariq Shihipar 宣布,2.1.277 版本起为 Claude Code 添加支持 AGENTS.md。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7l5wy60hj7rogrdgar09gs
据 WSJ 报道,Gemini 在一次针对虚构目标的网络安全攻防测试中进入了三家真实公司的系统。测试由 AI 安全评测公司 Irregular 执行,本应隔离于公共互联网,但因配置失误 Gemini 实际拥有互联网访问权限。Google 表示不认为这是模型错位,因为 Gemini 在识别进入真实系统后停止了行动,并已通知受影响公司和联邦当局。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cm...
Zoom 团队在 176 组匹配设置、4 个模型上,用 SWE-Bench Verified 和 Terminal-Bench 2.1 固定编码 harness 执行循环,逐一变化规划、动作空间与上下文管理。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7k918r0gi8rogri6xk26y6
NVIDIA 提出自进化智能体框架 SoL-Pi,通过跨多环境自动研究循环筛选机制,将 token 流量削减近一半,在 GPT-5.6 Sol 和 Opus 5 上匹配基线框架表现。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7jnczt0fxsrogryfhgxjus
muse 能帮你订机票了! 【引用 @benlkatz】:Muse 真的帮我订好了参加婚礼的机票。 我全程盯着浏览器看,因为我还是有信任问题,但它做得完美无缺。 我爱这个未来,兄弟! 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu7ilxti0ew1rogr7df66wu3