AI 产品

AI隐藏推理可能成数据泄露新渠道

首次出现 8月12日 06:31·最近更新 8月12日 06:31

根据一项研究警告，AI模型的隐藏推理过程可能成为第二个不可见的数据泄露风险。事实包括：加密推理块被Anthropic、OpenAI和Google APIs返回客户端以便重用，但这些块具有可移植性，可跨会话、用户甚至同一提供商的不同模型复用；用户清理可见聊天记录后，仍可能意外泄露密码、API密钥等敏感数据；公司即使保护最强大模型，也可能通过同一AI家族的廉价模型泄露秘密。讨论涉及攻击场景：攻击者可利用更强模型的推理痕迹，传递给兼容但安全措施较弱的模型作为解码器，从而加剧风险。

多来源证据

Twitter/X AI List·twitter·8月12日 05:53

来自这篇论文的重大警告：你的AI隐藏推理可能成为第二个不可见的数据泄露

来自这篇论文的重大警告。你的AI隐藏推理可能成为第二个不可见的数据泄露。你可以清理可见的聊天记录，但仍可能意外发布密码、API密钥或私人数据。一家公司可以完美保护其最智能的模型，但仍然可能通过同一家族中较便宜的模型泄露其秘密。最弱的模型可能成为最强模型的安全漏洞。加密推理旨在隐藏前沿模型的思考内容，但这篇论文显示加密块本身可能成为攻击面。Anthropic、OpenAI和Google APIs向客户端返回不透明的推理块，以便在后续对话中重用，而无需在服务器端存储推理。问题在于可移植性：作者发现这些块可以跨会话、用户甚至同一提供商的模型重用。这使得攻击者可以获取更强模型的跟踪信息，将其传递给兼容

事件时间线

8月12日 05:53
Twitter/X AI List
来自这篇论文的重大警告：你的AI隐藏推理可能成为第二个不可见的数据泄露