genai / news / / TechStartups.com
Tensormesh 從 AMD Ventures、CoreWeave、NVentures、Valley Capital Partners 與 Laude Ventures 募得 2,000 萬美元新資金。
Tensormesh 推出一款使用 KV 快取以減少重複 GPU 運算的一般可用推論平台。
重點
- 該平台承諾為企業 AI 推論工作負載帶來最多 10 倍的延遲與 GPU 成本降低。
- 快取的輸入標記在 Tensormesh 的無伺服器部署中產生永久 0 元成本，直接消除重複收費。
- Tensormesh 的開源 LMCache 專案現已整合 AWS SageMaker、NVIDIA Dynamo、Oracle OCI 等服務。
- 三星電子正與 Tensormesh 合作，優化下一代 AI 基礎設施的儲存方案。
相關公司
由 Newsio 自 TechStartups.com 摘要整理。 摘要方式說明 →