科技行业大佬近日纷纷呼吁放慢AI开发步伐，以防AI日益增长的力量威胁到人类生存 。然而 ，全球网络安全龙头CrowdStrike的首席执行官George Kurtz周一表示 ，放缓日益强大的AI模型的开发并不能消除其安全风险 。
“潘多拉魔盒已经打开，”Kurtz在一档节目中表示。“市面上已经有大量模型，无论是前沿模型还是开源权重模型 ，它们本身就已经具备危险性。 ”
Kurtz认为 ，无论前沿实验室是否放慢开发速度，网络安全需求始终存在 ，因为具有潜在风险的模型早已被投入使用 。“安全行业有责任帮助保护至少已经投入使用的模型 ，而前沿模型的发展速度则由它们自己决定， ”他说道 。
Kurtz指出 ，挑战在于AI智能体可能会偏离训练目标 ，或绕过内置的安全防护。今年夏天就曾出现失控的OpenAI模型突破测试环境，入侵Hugging Face平台的事件 。
Kurtz表示 ，这类事件催生了对另一层安全机制的需求 ，即在智能体运行时对其进行监控 。“我们可以观察这些程序的行为，在运行时为它们设置防护栏 ，”他解释道。“我们可以对它们进行监测 ，了解它们在做什么，并阻止它们做坏事 。”
虽然Kurtz对部分极度悲观的AI末日论调持保留态度，但他承认自主智能体确实构成真实风险 。“可以确定的是 ，自主AI智能体有危险性 ，必须加以管控， ”他表示 ，并强调需要与AI智能体同等甚至更强大的AI防御工具来应对威胁。
不过 ，Kurtz也警告称，过度的政府监管会削弱美国在人工智能领域的竞争优势 。“如果我们对此施加过多监管 ，那将会扼杀创新 。 ”他表示 ，并建议AI开发者和网络安全公司继续合作，在模型的开发阶段和部署后都提供保护。
网络安全股大爆发
Kurtz此番言论是对Anthropic CEO达里奥·阿莫代伊上周末发表的一篇文章的回应 。阿莫代伊在文中呼吁前沿AI实验室放慢模型开发步伐 ，以应对日益增长的安全隐患 。OpenAI首席执行官奥尔特曼、SpaceX首席执行官马斯克等人对此表示支持。
上述警告导致以芯片股为主的数据中心基础设施类股票大跌。周一 ，随着末日论和放缓论动摇市场，费城半导体指数重挫5.9% ，创7月1日以来最大跌幅 。光通信 、存储板块大跌 ，康宁跌逾13%，Coherent跌超12%，Lumentum跌约10% ，SK海力士 、迈威尔科技跌超7% ，英特尔、美光科技跌超5%，闪迪、西部数据跌逾4% ，英伟达股价跌3.4% 。
与曾经风光无限的AI概念股遭抛售形成对比的是 ，随着人们对AI引发未来网络攻击的担忧不断加剧，网络安全股周一大幅上涨。CrowdStrike周一飙升近14% ，收于235美元上方的历史新高；Palo Alto Networks也上涨超过13%；Zscaler上涨16%；飞塔信息上涨9% Cloudflare上涨8% 。
网络安全股周一集体走强 ，反映了投资者持续押注未来网络安全需求将持续增长——这一趋势已推动CrowdStrike和Palo Alto Networks的股价年内涨幅达到100% 。
Key Advisors Wealth Management首席执行官Eddie Ghabour表示：“大家都知道 ，网络安全将是人工智能热潮的最大受益者。这是人工智能股市的下一个阶段 。人工智能应用越广泛 ，对网络安全的需求就越大 。”
今年早些时候因预测AI将导致世界末日而引发关注的Citrini Research最近也预测 ，AI将推动网络安全软件需求激增。
（文章来源：财联社）
