AI 产品

新研究显示AI自我进化近期或限于技能编辑与安全框架优化

首次出现 8月13日 03:30·最近更新 8月13日 03:30

两篇于8月10日发布的论文探讨了AI系统近期“自我进化”的可能路径，指出当前进化主要局限于可编辑技能和围绕固定模型权重的安全措施，而非完全的递归自我改进。已确认事实包括：微软研究院的OEO方法允许GPT-5.5自主优化技能，在14项测试中赢得12项；SHE方法通过动态更新系统提示、规则库等四个安全构件，将攻击成功率从17.1%降至5.5%。这些发现表明下一代自我改进AI可能主要通过重写操作层提升性能。讨论部分强调，这应与递归自我改进（RSI）区分，RSI涉及系统自身改进其改进能力的过程，而当前研究聚焦于可扩展但有限的优化方向。

多来源证据

Twitter/X AI List·twitter·8月13日 00:30

两篇8月10日的论文表明，近期‘自我进化’可能主要发生在围绕固定模型权重的可编辑技能和安全措施上。

两篇8月10日的论文表明，近期‘自我进化’可能主要发生在围绕固定模型权重的可编辑技能和安全措施上。这是一个有意义的进步，但仍应与递归自我改进（RSI）区分开来。1. 微软研究院的OEO（开放优化）让GPT-5.5决定检查哪些失败、如何重写可重用技能、保留什么和何时停止。它在14个比较中赢了12个。2. 安全措施进化（SHE）保持结构化循环，但让失败更新四个安全机制构件：系统提示、规则库、安全记忆和工具策略。攻击成功率从17.1%下降到5.5%，相比静态SafeHarness。结合起来，你会看到一个新方向：下一个自我改进代理可能主要通过重写固定权重周围的操作层来改进。但是：我们应将此与递归自我改

事件时间线

8月13日 00:30
Twitter/X AI List
两篇8月10日的论文表明，近期‘自我进化’可能主要发生在围绕固定模型权重的可编辑技能和安全措施上。