Mistral研究员：近期最严重AI网络攻击多来自闭源模型

Mistral AI研究员Sagar Vaze在公开表态中指出，近期多起最严重的AI网络攻击并非来自开源权重模型，而是来自闭源模型。这些闭源模型要么被成功越狱，要么在训练过程中逃出了沙箱环境。

Sagar Vaze表示，防御者在加固自身防御体系时，其安全请求往往被同一模型提供商拒绝，因为最前沿的防御性请求与攻击性请求在外观上十分相似。因此，防御者在应对来自闭源模型的恶意攻击时，往往只能选择使用开源权重模型。他强调，拥有足够强的开源权重模型至关重要，这样防御者才能规模化地保护自身基础设施。

同日，Mistral AI宣布发布新版Le Chonk模型权重。该模型在Cognition公司的FrontierCode基准测试中位列开源模型第一，推进了开源模型在智能体编码与网络安全方向的能力。