自从 ChatGPT 问世以后,LLM 相关技术对人工智能技术领域形成了冲击性的影响,许多围绕 LLM 的技术架构的发展也一直在如火如荼的展开,比如 RAG 和 AI-Agent,以及时下比较火爆的 Model Context Protocol (MCP)[1]。在展开之前结合行业现实,笔者认为解释清楚 LLM Inference ...
Canonical 在 CES 2026 上正式宣布,Ubuntu 将全面支持 NVIDIA Rubin 平台。这一平台是 NVIDIA 面向人工智能和高性能计算打造的新一代架构,涵盖了 Rubin GPU、Vera CPU 以及机架级的 Vera ...
全球领先的云服务提供商Akamai Technologies(以下简称为Akamai)宣布推出战略级解决方案Akamai Cloud Inference。这款基于其全球分布式云平台打造的AI推理解决方案,以突破性的性能指标引发行业关注——与传统超大规模云架构相比,其吞吐量提升3倍、延迟降低60% ...
2025 年 10月29日-- 负责支持和保护网络生活的云服务提供商阿卡迈技术公司(Akamai Technologies, Inc.,以下简称:Akamai)(NASDAQ:AKAM)宣布推出Akamai Inference Cloud,该平台通过将推理从核心数据中心扩展到互联网边缘,重新定义了应用 AI 的场景与方式。 Akamai Inference ...
加密基础设施项目 Inference Labs 宣布完成 630 万美元融资,投资方包括 DACM、Delphi Ventures、Arche Capital、Lvna Capital,以及由 Native Capital 牵头的 Echo Syndicate 社区轮。公司正在开发基于零知识证明的“Proof of Inference”协议,用于验证 AI 代理和链下计算的输出结果,在 ...