随着企业急于保护其人工智能部署，HiddenLayer获得了1亿美元

三年前，当人工智能安全初创公司HiddenLayer筹集5000万美元的A轮融资时，该领域的一大问题是，该初创公司所防范的人工智能威胁是否会以足够的数量出现，从而形成真正的市场。正如我的前同事凯尔·威格斯当时指出的那样，很难确定大规模针对人工智能的攻击的真实例子。

事情变化得多么快啊。安全公司现在正在争先恐后地开发产品，这些产品不仅可以监控代理，还可以监控他们使用的工具和附加组件。虽然关于特工被剥削的头条新闻仍然不多，但特工在制作过程中失控的风险却是真实存在的。因此，防止这种情况发生的工具市场出现了爆炸式增长：Gartner估计公司今年将在用于保护AI工具的产品上花费28.3亿美元，比2025年增加83%，并预计明年支出将达到近47.8亿美元。

HiddenLayer开发了保护人工智能模型、代理和工作流程免受对抗性攻击、漏洞和恶意代码注入的工具，它已经能够充分利用这一转变。 Its co-founder and CEO, Chris Sestito, tells TechCrunch that the startup’s annual recurring revenue grew more than 10x over the past year.他拒绝透露具体数字，但表示ARR目前已达到“数千万”美元，其中90% 以上的增长是由去年签约的新客户推动的。

金融服务和构建人工智能产品的大型科技公司目前是该公司最大的垂直行业，并且还与国防部和情报界签订了合同。它的一个客户显然是一家“领先的前沿模型提供商”，拥有“每周超过7亿的用户”，这对我来说听起来像是OpenAI或Anthropic。

To make the most of that momentum, the startup has now raised $100 million in a Series B funding round that was led by Delta-v Capital, with participation from Ten Eleven Ventures, Morgan Stanley, Microsoft’s M12, Booz Allen Hamilton, and others.

这家总部位于奥斯汀的初创公司在2023年的销售情况基本上仍与过去相同，但Sestito告诉TechCrunch，它必须做出的最大改变是扩展其现有产品（发现、运行时保护、攻击模拟和供应链安全），以解决即时注入、代理操纵和恶意工具使用问题。

“推理仍然是推理。因此，无论是在传统的机器学习模型上，还是在Gen AI上，无论是在代理工作流上，我们的很多技术仍然在应用。所以说真的，我们不必转向，但我们必须扩大我们的范围……从传统建模到Gen AI再到代理，”他说。

Sestito强调，随着人工智能部署在企业中变得越来越普遍，运行时安全性尤其成为一个优先事项，并将其比作传统的端点检测和响应 (EDR) 解决方案，但专门针对人工智能。

该公司的新产品反映了这种转变，Sestito强调了攻击者利用开源模型的新机会。 “我们解析和扫描大约50个不同的AI文件框架，以确保，特别是在开源、开放权重模型的情况下，您正在使用的工具就是您所相信的那个工具，并且它是它声称的那个工具。我们正在研究诸如模型之类的东西，声称是一回事，但它们是另一回事——模型中隐藏的模型，”他说。

该初创公司表示，新筹集的1亿美元将帮助其朝着这个方向发展，但更多地关注销售和分销，同时继续扩大其工程和研究。它还计划扩展到欧洲和欧洲、中东和非洲地区。

不过，HiddenLayer可能会发现自己正在利用这个宝箱来获得更多。大型网络安全公司，如思科、Palo Alto Networks和Check Point通常更喜欢购买而不是构建此类技术，而像Noma和Zenity这样的初创公司已经各自筹集了超过1亿美元，以攻克该领域的相邻或重叠领域。

Sestito承认，他的公司提供的人工智能安全产品的某些部分最终可能会捆绑到Microsoft、OpenAI和AWS等公司构建的平台中。然而，他预计人工智能基础设施将朝着发现、身份和策略控制等治理功能发展，而不是他的公司构建的那种工具。

他表示，目前HiddenLayer的工作是“与人工智能一起垂直扩展”，并最终横向扩展到越来越依赖人工智能的网络安全部分。这是一个雄心勃勃的目标，但初创公司首先必须证明，在行业其他公司迎头赶上之前，它能够将领先地位转变为持久的业务。