AI 产品

研究讨论随机变换器通过训练嵌入实现通用计算的可能性

首次出现 8月18日 09:00·最近更新 8月18日 09:00

根据Twitter/X AI List上的一篇帖子，该帖子受@Kangwook_Lee和@jefrankle的启发，并借助GPT-5.6 Sol的帮助，探讨了随机变换器（Random Transformers）的通用计算潜力。帖子中讨论指出，任何函数f(a,b) -> C都可以通过随机、任意深度的自回归令牌变换器实现，条件是能训练嵌入/解嵌入层且层宽为p^2（其中p是输入值的数量，算术特定情况简化为2p）。对于任意输入令牌函数，所需可训练参数数量应与目标函数类的VC维度成比例。这表明随机变换器在训练嵌入后可作为通用计算机。该内容基于技术讨论，尚未确认实际应用或实验验证，属于理论探讨范畴。

多来源证据

Twitter/X AI List·twitter·8月17日 23:42

受@Kangwook_Lee的蝙蝠信号和@jefrankle的点赞启发，在GPT-5.6 Sol的帮助下，你实际上可以证明它 :)

事实上，任何函数 f(a,b) -> C 都可以被一个随机的、任意深度的、自回归令牌变换器实现，只要你能训练嵌入/解嵌入层，并且层的宽度是 p^2，其中 p 是 a 和 b 取值的数量（对于算术特定简化为 2p）。对于任意输入令牌函数，为了使其工作，所需的可训练参数数量应与目标函数类的VC维度成比例。但基本上，如果训练嵌入，随机变换器是通用计算机。可爱！！

事件时间线

8月17日 23:42
Twitter/X AI List
受@Kangwook_Lee的蝙蝠信号和@jefrankle的点赞启发，在GPT-5.6 Sol的帮助下，你实际上可以证明它 :)