AI 产品

推文：对DFlash 2与在手机本地运行超大模型的期待

首次出现 8月19日 10:33·最近更新 8月19日 10:33

一条来自Twitter/X的个人推文表达了对“DFlash 2”和“推测解码”技术的赞赏，并期待未来能在iPhone上以每秒100个令牌的速度本地运行拥有1万亿参数的模型。此内容为个人愿望表达，而非技术报告或已证实的进展。

多来源证据

DFlash 2非常酷！推测解码真是个很酷的技术。我期待有一天我们能在iPhone上以每秒100个令牌的速度本地运行一个1T参数的模型。