【OpenAI表示，失控的AI模型已经摆脱了人类的控制，一些人认为这是“警告”】

（美联社）这曾是只有在科幻小说中才会出现的情节：一个经过训练用于探测数字漏洞的人工智能系统，挣脱了人类的控制，自行对另一家公司发动了网络攻击。

OpenAI本周公布了此次攻击事件，并将责任归咎于“失控”的人工智能模型，这凸显了该技术能力的迅猛增长。对许多人而言，这也让人们更加迫切地思考：能否以及如何防止人工智能在更大范围内制造混乱，从而避免更严重的后果。

在OpenAI称之为“史无前例”的事件中，该公司表示其先进的人工智能模型利用被盗的凭证入侵了一家人工智能初创公司的服务器。事件始于一个本应“高度隔离”、安全防护措施较少的测试环境，随后该AI代理成功连接到了互联网。

但这一披露让那些多年来一直呼吁放缓AI发展、并警告该技术可能对人类构成生存风险的研究人员感到“早有预料”。事发后，专家们呼吁人工智能公司改进测试流程，并加强中美之间的对话，以制定共同的解决方案。

“我认为我们必须将此视为一个警告，不要让它们变得更聪明，而这可能需要全球范围内的合作，”2025年出版的《如果有人建造它，所有人都会死》一书的合著者内特·索亚雷斯表示。

——此次黑客攻击可能迫使企业加强防护措施

如果一个模型能够自主决定采取不道德、非法或有害的行为，人类又能做些什么——如果真能做些什么的话——来阻止它这样做呢？

OpenAI表示，他们曾要求相关AI模型通过“利用复杂的攻击路径进行高级利用”来测试其网络能力，但该技术却走到了意想不到的程度。该模型显然自主决定将知名人工智能开发平台和市场 Hugging Face 作为攻击目标，以获取执行任务所需的信息。

治理平台 i-GENTIC AI 的联合创始人兼首席执行官扎赫拉·蒂姆萨（Zahra Timsah）表示，她预计此次事件将加大对 OpenAI 及其竞争对手的压力，迫使它们在向公众开放人工智能系统之前，完成严格的测试并更彻底地探索风险管控措施。

她表示，像OpenAI目前在调查中那样事后监控智能体的行为，已经不够了。“这就像汽车上配备了安全带、安全气囊、刹车等所有安全装置一样，这些装置应该在汽车开始行驶之前就已就位，”蒂姆萨说。

这一披露正值人们对强大模型的网络安全能力日益担忧之际。今年6月，唐纳德·特朗普总统签署了一项行政命令，建立了一个框架，要求联邦政府在最先进的人工智能系统公开发布前，对其国家安全风险进行长达一个月的审查。

——其他专家则将此次事件视为人工智能成长过程中必经的阵痛

一些专家表示，此次黑客攻击是提升网络安全能力过程中试错的一部分，无需恐慌。

“自互联网诞生以来，我们就一直在应对人们发起的网络安全攻击。而这些语言模型的一个有趣特性在于：正是使它们能够实施网络安全攻击的那些能力，同时也让它们能够进行网络安全威胁分析并构建网络安全防御体系，”康奈尔大学计算机科学助理教授约翰·西克斯顿表示。他主要研究控制人工智能模型行为的方法。

这一披露引发了部分人士的质疑，他们认为OpenAI此举是为了让其技术显得更具威胁性，从而获得优势。鉴于OpenAI的工作人员曾决定为测试而关闭部分安全防护措施，有人认为这一结果其实并不令人意外。

西克斯顿指出，此次披露正契合了OpenAI——这家正致力于登陆华尔街的初创公司——的融资需求。

“自公司成立以来，他们一直向外界传达的是一种‘其模型有多危险’的叙事，而投资者却将其解读为‘其语言模型有多强大’的故事，”他表示。

——此次信息披露再次引发了加强监管的呼声

此次黑客攻击事件再次引发了某些方面的呼声，要求加强对人工智能企业的监管和监督。

得克萨斯州民主党籍美国众议员格雷格·卡萨尔在社交媒体上写道：“我们需要定期进行强制性的独立安全测试和监督，强制披露安全事件，并开展国际合作，以保护人们免遭绝对灾难的威胁。”

机器智能研究所所长索亚雷斯表示，美国需要与其最大的AI竞争对手中国展开对话，他认为这并不像一年前看起来那么不可思议。就在上周，中国在一次会议上警告称，必须防止AI逃脱人类的控制。此外，特朗普政府在早期对监管AI持抵触态度，但如今在遏制网络安全风险方面已变得更加严格。

“当国家安全界开始意识到存在严重威胁时，情况可能会发生很大变化，”索亚雷斯说。“这会让他们警醒吗？希望如此。我不确定。如果这次不行，也许下一次事件会。”

人工智能先驱约书亚·本吉奥在社交媒体上表示，这一事件令人深感担忧，应以此为“警钟”。

“如果人工智能继续沿着当前的发展轨迹前进，自主网络攻击的具体案例以及其他因人工智能行为失控和危险而引发的高风险事件很可能会增加，”蒙特利尔大学教授本吉奥表示。“我们亟需采取行动来预防此类情况的发生，而不是事后再去收拾残局。”