xAI旗下Grok 4模型被越狱 越狱成功率超30%

7月18日，据报道，网络安全公司NeuralTrust宣布成功“越狱”xAI旗下的Grok 4模型。此次越狱采用“回音室攻击”方法，通过引导模型进行多轮推理，逐步注入风险信息，规避常见安全拦截机制。NeuralTrust已成功诱导Grok 4生成制造武器、毒品等内容，越狱成功率高达30%以上。这表明新一代大模型在复杂攻击路径下仍存在安全短板，需进一步加强防护机制。

来源:金融界