[分享发现] 求真: Kimi 被带走 16 个人,包括老大。。。
原文第 149 页
这些跨会话重放攻击,使实施非法蒸馏的实体得以采集思维链推理记录。我们正在引入新方法,增强针对这些手法的防御。
调查还发现,Moonshot 重新路由至 Claude 的用户查询,包含多类 Moonshot 客户的敏感信息。我们不知道 Moonshot 是否告知客户,请求被转发给 Anthropic 并暴露给第三方。 这些信息包括
与解放军有关的监控活动。一名我们评估很可能与解放军有关的用户,使用其以为是 MoonshotKimi 的模型加载了闭路电视档案中针对某一目标人物的监控数据,请求 Kimi 分析该人物行为是否异常。数据包含成都数百个摄像头的监控视频,包括位于解放军设施、中国电子科技集团下属机构以及一家大型国有企业外部的摄像头。
·一家中国大型国有企业的工程师。一名工程师使用 Kimi 为一家大型国企构建内部系统。在使用过程中,用户披露了多家中国大型公司,包括知名科技公司的内部代码及有效凭据。用户无法知道自己提交给 Kimi 的内容被转发给了 Claude 。
2026 年 5 月至 7 月可归因于 Moonshot 的蒸馏攻击规模:观察到超过 2,300 万次交互。
评论
?
参与讨论