有观点提出一个玄学猜想：当模型并发为1、只有单个请求时，极端量化下走GEMV而非GEMM，累计精度损失更低，模型表现更聪明。该猜想由引用推文"闲时的AI会不会更聪明"引发，目前仅为个人推测，未提供任何实验数据或验证结果。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu4qd877048urokc7chjyjyb
信息源：AI HOT · 全部动态
- 原文链接：猜想：低并发下模型量化精度损失更低更聪明
- 作者：X：karminski (@karminski3)
- 发布时间：2026/09/17 07:02
评论0