Anthropic 推出新防护措施，模型蒸馏攻击窃取数据量最高降低 99%
IT之家 10 月 13 日消息，Anthropic 于当地时间周一表示，该公司推出了多项新防护措施，旨在防止竞争对手复刻 Claude AI 模型的能力。这些措施已经将模型蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。 模型蒸馏已经成为头部 AI 企业重点担忧的问题，Anthropic、OpenAI、谷歌等企业认为，这种手段可以让竞争对手以更低成本、更快速度复刻出模型的前沿能力。 Anthropic 称，这套用于限制外界获取 Claude 推理过程的防护机制，大幅减少了信息提取行为。如今“蒸馏攻击者所能提取到的推理词元（token）数量，仅为之前的十分之一至百分之一”。 IT之家注意到，这家总部位于加州的企业表示，新防护提升了使用代理网络反复探测 Claude 受保护推理链路的难度，拦截信息提取尝试，阻碍大规模蒸馏行动。 Anthropic 称，这套安全系统的稳健程度“大致相当于阻止 Claude 协助制造生物武器的防...
来自IT之家 AI的《Anthropic 推出新防护措施，模型蒸馏攻击窃取数据量最高降低 99%》。重点看模型能力与工程。摘要提到：IT之家 10 月 13 日消息，Anthropic 于当地时间周一表示，该公司推出了多项新防护措施，旨在防止竞争对手复刻 Claude AI 模型的能力。这些措施已经将模型蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。 模型蒸馏已经成为头部 AI 企业重点担忧的问题，Anthropic、OpenAI、谷歌等企业认为，这种手段可以让竞争对手以更低成本、更快速度复刻出模型的前沿能力。 Anthropic 称，这套用于限制外界获取 Claude 推理过程的防护机制，大幅减少了信息提取行为。如今“蒸馏攻击者所能提取到的推理词元（token）数量，仅为之前的十分之一至百分之一”。 IT之家注意到，这家总部位于加州的企业表示，新防护提升了使用代理网络反复探测 Claude 受保护推理链路的难度，拦截信息提取尝试，阻碍大规模蒸馏行动。 Anthropic 称，这套安全系统的稳健程度“大致相当于阻止 Claude 协助制造生物武器的防...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com