AI 产品
美国政府与Anthropic近期限制前沿模型访问引发关注
过去两周，美国政府与AI公司Anthropic采取了重要措施，展示了其控制前沿AI模型访问的能力，这促使企业和国家加速寻求可靠且自主的AI接入途径。Anthropic在发布Claude Fable 5模型时，虽基于安全考虑对黑客、生物武器等危险应用设置了合理限制，但同时也禁止开发者利用该模型构建竞争性LLM技术。此举引发争议，因为AI界普遍受益于开放研究，而Anthropic的限制被部分观点认为违背了开放原则。此外，关于模型蒸馏技术的道德与法律争议也持续发酵，批评者指出，实验室训练模型时大量使用未经授权的网络数据，却反对他人通过蒸馏学习其模型输出，存在双重标准。DeepSeek案例显示，蒸馏技术能以较低成本获取前沿模型大部分能力，进一步加剧了业界对技术获取公平性的讨论。
多来源证据
美国政府与Anthropic近期采取重大行动限制前沿AI模型访问
过去两周，美国政府和Anthropic均采取了重大行动，展示了其通过限制他人使用前沿模型来控制AI访问的能力。这一事件一旦被目睹便难以忽视，并显著加速了许多企业及国家为确保可靠AI访问而做出的努力。Anthropic首先发布了Claude Fable 5，这是其Mythos模型的一个版本，增加了额外的护栏，包括一些出于安全考量而似乎合理的限制（例如限制其被用于黑客攻击、生物武器等）。然而，它也限制了开发者将其用于构建竞争性LLM技术的能力。考虑到整个AI社区（包括Anthropic）都从开放研究中获益匪浅——事实上，AI革命正是由我之前的团队（Google Brain）自由发布Transfor
Anthropic的Fable模型对模型蒸馏的经济、道德、伦理和法律观点
来自Anthropic的Fable模型关于蒸馏其自身Fable模型的经济、道德、伦理和法律观点：这是否是一个道德问题确实存在争议。实验室使用开放互联网上的数据（包括受版权保护的书籍、文章、代码）训练模型，大多未获许可，他们基于合理使用的辩护本质上是“从数据中学习具有变革性”。蒸馏是同一论点反用于他们：一个模型从另一个模型的输出中学习。很难构建一个允许前者而禁止后者的道德原则，这就是为什么批评者称实验室的反对是虚伪而非有原则的。蒸馏之所以有争议，是因为它让一个较小的模型通过在其输出上训练，吸收前沿模型的大部分能力——实际上是免费利用了数十亿美元的计算、数据整理和RLHF工作。DeepSeek事件
事件时间线
- Twitter/X AI List美国政府与Anthropic近期采取重大行动限制前沿AI模型访问
- Twitter/X AI ListAnthropic的Fable模型对模型蒸馏的经济、道德、伦理和法律观点