研究发现AI学习存在盲点：忽略抽象规则，仅依赖历史记录

研究人员发现，当前让AI随时间变聪明的方法存在一个巨大的盲点。AI实际上没有理解或应用高层抽象

研究人员发现，当前让AI随时间变聪明的方法有一个巨大的盲点。AI实际上没有理解或应用高层抽象概念。开发者花费大量时间构建系统，将过去的AI错误浓缩成整洁的规则，但这项研究证明AI本质上将这些规则扔进垃圾箱，只查看原始历史日志。现代LLM系统通过存储原始逐步历史或浓缩摘要规则来随时间改进。该研究测试了这些代理是否真正使用它们存储的记忆，通过秘密将正确的提示与随机垃圾文本交换。- 当逐步历史被搞乱时，AI严重失败，证明它严重依赖复制确切的过去行动。- 但当研究人员完全破坏浓缩摘要规则时，AI继续正常行动，显示零性能下降。如果AI不能将抽象课程应用到新的...