ZeroDrift筹集1000万美元以保护AI模型免受自身侵害

随着企业对其人工智能系统进行故障排除，治理已成为一项关键挑战。有些人采取双重方法：一个模型处理传入查询，而第二个模型则防止第一个模型陷入麻烦。

这就是ZeroDrift的前提，ZeroDrift是一项新的人工智能合规服务，周二宣布获得1000万美元种子轮融资。 （投资者包括a16z Speedrun、Reign Ventures、PitchDrive Ventures和U&I Ventures等。）该公司完全处理系统的第二部分，位于人工智能模型和最终用户之间，标记和替换任何可能带来合规性问题的消息。

构建一个人工智能系统来纠正其他人工智能系统的错误似乎很奇怪——但ZeroDrift的纠正系统比它将要纠正的模型有一些架构优势。该系统由传统程序触发，这些程序确定性地应用已知的合规标准，例如SOC 2或GDPR。 LLM仅在消息被标记后才会出现，重写同一消息的合规版本。

“我们能够确定性地识别哪些是受监管的领域，哪些是正在被破坏的违规行为，然后我们有法学硕士可以进行重写，”Aroomoogan说。

至关重要的是，与传统的法学硕士相比，整个系统的运行延迟更短，可靠性更高。这是该公司相对于OpenAI和Anthropic等大型实验室的主要优势，这些实验室通常已经存在于底层系统中。

最明显的用例是人工智能聊天机器人，它们已经部署在消费者面前，如果回答错误，可能会造成严重后果。但阿鲁穆根认为，整个潜在市场要大得多，可能涵盖人工智能生成的信息，而人类从未见过这些信息，这些信息仅在自动化系统中生成。到目前为止，这是一个相对较小的市场，但随着人工智能的普及，这个市场将会增长。

如果此次融资有任何迹象的话，那就是对该产品有大量被压抑的需求。CEO库梅什·阿鲁穆根 (Kumesh Aroomoogan) 表示：“这可能是我一生中完成的最快的筹款活动。”他称赞安德森·霍洛维茨 (Andressen Horowitz) 帮助构建了种子轮融资。 “我们在三周内就关闭了，我们将获得三倍的超额认购。”