这家初创公司押注tokenmaxxing将创造下一个计算巨头

“给我代币。只要给我代币即可。我想要它们快点。我想要它们便宜。我现在就想要它们。”

这是在生成式人工智能模型上构建软件的开发人员的口头禅,或者至少是ParasailCEO迈克·亨利 (Mike Henry) 听到的。 Parasail为运行AI模型进行推理的公司提供云计算服务,Henry告诉TechCrunch它每天生成5000亿个代币。 tokenmaxxing怎么样?

Henry是专注于法学硕士的芯片制造商Groq的高管,他在那里构建了公司的云产品,这是一种早期认识,即基于人工智能模型构建软件的开发人员希望云处理能够专门满足他们的需求。如今,Parasail在一年前悄然崛起后,已筹集了3200万美元的A轮融资,以大规模实现这一目标。

Henry拥有物理芯片设计背景,但Parasail并不致力于拥有自己的芯片。虽然部分GPU是自己的,但该公司主要在全球15个国家的40个数据中心租用处理时间,并从流动性市场购买更多GPU,在幕后协调所有这些,以降低推理请求的成本。

通过巧妙地分配工作负载并避免需求高峰,该公司的目标是与拥有自己的芯片并可能受到现有客户承诺和工作负载限制的公司竞争。

该公司的潜力依赖于前沿实验室之外开源模型和代理的持续扩散。 Parasail的高管和投资者表示,这是由于使用Anthropic和OpenAI等公司的产品的成本和摩擦不断增加造成的。

Elicit的CEOAndreas Stuhlmüller表示,一种混合​​架构正在兴起。Elicit是一家初创公司,已筹集了2200万美元的A轮资金,用于开发科学文献研究助理。他在顶级制药公司的客户使用基于法学硕士的工具来审查和分析数以万计的科学论文中的数据。

← 上一篇文章 Amazon推出更纤薄的Fire TV Stick HD,开放Ember Artline电视预订 下一篇文章 → Gitar是一家使用代理来保护代码安全的初创公司,以900万美元的价格脱颖而出

← 返回列表