这件事真的太离谱了!
OpenAI测试中的模型失控,竟然攻击了Hugging Face。
而Hugging Face最后用来分析攻击、排查漏洞的,却是中国开源模型GLM-5.2。
原因也很现实:
美国闭源模型安全限制太多,看到攻击代码就拒绝回答;开源模型可以部署在自己服务器上,真正参与安全调查。
AI攻击来自美国模型,最后还要靠中国开源模型收拾残局。
这件事真的太离谱了!
OpenAI测试中的模型失控,竟然攻击了Hugging Face。
而Hugging Face最后用来分析攻击、排查漏洞的,却是中国开源模型GLM-5.2。
原因也很现实:
美国闭源模型安全限制太多,看到攻击代码就拒绝回答;开源模型可以部署在自己服务器上,真正参与安全调查。
AI攻击来自美国模型,最后还要靠中国开源模型收拾残局。