Gemini 入侵三家公司:Google AI 首次已知"破墙"事件
Gemini 终于追上了 重罪法庭!
该公司在周五证实,这些安全漏洞发生在五月,系由 Irregular 公司在一次测试中触发。Irregular 还曾参与过 OpenAI、Anthropic 和 Meta 曾披露的类似事件。在其中一例中,该模型通过不断猜测密码,最终获得了对受保护系统的访问权限;而在另外两例中,模型从一个公开代码库中找到了凭据,进而得以进入受保护系统。谷歌表示,在每起事件中,当模型识别出自己已接入真实企业的系统后,便自行终止了入侵行为。
显然,Gemini 的“决心”不如其他模型,它决定不再继续。
谷歌早在七月就已知晓这些事件,但直到《华尔街日报》主动联系并获得相关线索后才予以披露。
谷歌称,其并未认为这些攻击需要对外公开——因为该模型并未对相关企业造成任何损害,并且在确认自己入侵的是真实企业而非模拟环境后,会立即停止所有入侵行为。
参与讨论