工具简介
无问芯穹(Infinigence AI)是一家专注于 AI 算力基础设施的中国创业公司,2023 年 6 月成立于北京,由清华大学电子工程系教授汪玉领衔创立。公司的核心使命是解决国内 AI 产业面临的"算力供给碎片化"问题——英伟达、华为昇腾、寒武纪等不同品牌的 GPU/NPU 芯片各有独立的软件栈和编程接口,企业异构部署时需要针对每种芯片单独适配。无问芯穹通过自研的 Infini-Cloud 平台,将这些异构芯片统一抽象为一个虚拟算力池,让开发者以"云原生"的方式按需取用算力,无需感知底层硬件的差异。
公司的技术底座包含两大核心组件:MxGPU 虚拟化技术(可将单张物理 GPU 切分为多个隔离的虚拟 GPU)和 Infini-Flow 异构调度引擎(自动感知不同芯片算力强弱并智能路由任务)。截至公开披露的数据,平台已接入超过 10 万张 GPU,服务超过 2000 家企业客户。
核心功能
异构算力统一调度:Infini-Cloud 可以同时管理英伟达 A100/H100、华为昇腾 910B、寒武纪 MLU370 等不同品牌的芯片,将异构算力池化为统一的资源池。开发者提交训练或推理任务时只需声明算力需求(如"需要 8 卡、每卡 80GB 显存"),平台自动将任务路由到最优的可用芯片上执行,屏蔽底层差异。
MxGPU 虚拟化:这是无问芯穹的核心差异化技术。不同于简单的显存切片,MxGPU 在算力层面实现了物理 GPU 的细粒度切分(单卡可切分为 4-8 个虚拟 GPU),各虚拟实例之间故障隔离、性能独立。对于小批量推理场景(batch size < 8),这一技术可以将算力成本降低 40-60%。
Infini-Flow 调度引擎:该引擎持续监测资源池中每张芯片的实时负载、温度、功耗和算力表现,结合用户任务的优先级和 deadline,做出全局最优的调度决策。在正常负载下,调度延迟通常在毫秒级。
模型训练与微调支持:平台支持主流训练框架(PyTorch、TensorFlow、DeepSpeed 等),预置了常见大模型(如 LLaMA、Qwen 系列)的分布式训练模板,降低用户的配置门槛。
推理服务部署:提供模型推理的一键部署和自动弹性伸缩能力,支持 RESTful API 和 gRPC 接口,方便业务系统集成调用。
上手体验
无问芯穹的企业级定位决定了其使用流程以商务对接为起点。典型的上手路径为:联系销售团队进行需求评估 → 签署服务协议 → 获得 Infini-Cloud 控制台账号 → 在控制台创建项目和工作空间 → 通过 CLI 工具或 Python SDK 提交计算任务。平台的 Web 控制台提供了资源概览、任务监控、日志查询和账单管理等功能,界面风格偏工程化,信息密度较高。
对于已经熟悉云计算平台(如 AWS SageMaker、阿里云 PAI)的开发者来说,Infini-Cloud 的核心操作逻辑较为直观。开发者通过 CLI 上传训练代码和数据集,在配置文件中指定所需 GPU 类型和数量,平台自动完成资源分配和任务启动。任务运行过程中,控制台实时显示 GPU 利用率、显存占用和训练 loss 曲线。
价格方案
| 方案类型 | 计费方式 | 适用场景 |
|---|---|---|
| 按需计费 | 官网未公开统一定价(按卡时计费) | 短期测试、弹性扩容 |
| 包月/包年 | 按合同签订(折扣高于按需) | 长期稳定训练、生产推理 |
| 定制方案 | 按需报价(专属集群、SLA 保障) | 大规模训练、混合云部署 |
无问芯穹以企业合同制为主,价格未在官网公开。根据行业人士的公开分享,通过 MxGPU 虚拟化共享模式进行小批量推理时,综合成本可比整卡租用降低约 40-60%。具体报价需联系官方销售获取,以官网实时价格为准。
优点与局限
优点:一是真正解决了国产芯片生态碎片化的打通难题,企业在不同品牌芯片之间迁移训练任务时无需修改代码。二是 MxGPU 虚拟化技术在小批量推理场景中的降本效果显著,是中小型 AI 创业公司控制成本的利器。三是清华团队的学术背景和信息安全领域的深层积累,为平台的技术路线图提供了较强的可信度。
局限:一是平台整体成熟度相较国际云巨头仍有差距,SDK 文档、社区生态、高可用保障等方面需要时间追赶。二是面向个人开发者和微型团队的入口缺失,没有免费的开发者版本。三是极端大规模的异构调度场景(同时调度上千张 GPU)下,任务分配和跨芯片通信的稳定性偶有波动,需要人工介入调优。
适合人群
- 受出口管制影响的企业 AI 团队:需要将训练任务从英伟达向华为昇腾迁移的大中型企业。
- 算力成本敏感的 AI 创业公司:希望通过 GPU 虚拟化共享降低推理成本的初创企业。
- 多团队共享 GPU 资源的大型企业:内部多个 AI 团队需要统一管理和分配 GPU 资源的组织。
- 高校和科研机构:需要大规模算力进行模型训练和科学计算的研究团队。
同类工具对比
| 对比维度 | 无问芯穹 | 阿里云 PAI | Together AI |
|---|---|---|---|
| 核心能力 | 异构GPU统一调度 + MxGPU虚拟化 | 全托管AI开发平台 + 阿里云生态 | 开源模型托管推理 + 训练平台 |
| 异构芯片支持 | ✅ 英伟达/华为/寒武纪等 | ✅ 英伟达为主,含灵骏自研 | ❌ 仅英伟达 |
| 国产芯片适配 | 核心卖点 | 部分支持 | 不支持 |
| 个人/免费层 | 无 | 有免费试用额度 | 有免费推理额度 |
| 生态成熟度 | 成长中 | 成熟 | 成熟 |
无问芯穹在异构芯片调度和国产化替代方面有不可替代的独特价值,而阿里云 PAI 和 Together AI 在国际化生态和平台成熟度上更有优势。
常见问题
问:无问芯穹支持哪些 GPU 类型?
公开信息显示支持英伟达 A100/H100、华为昇腾 910B、寒武纪 MLU370 等主流 AI 芯片,具体可用型号以平台控制台实时库存为准。
问:个人开发者可以使用吗?
目前无问芯穹面向企业客户,暂未提供面向个人开发者的免费版本或自助注册入口。个人开发者可通过联系销售团队了解是否有适用的方案。
问:MxGPU 虚拟化会影响模型训练性能吗?
MxGPU 的核心优势场景是小批量推理,而非大模型训练。在大模型训练场景下,通常建议独占物理 GPU 以获得最佳性能。虚拟化共享更适合多个轻量推理任务并发执行的场景。
问:从英伟达迁移到华为昇腾需要改代码吗?
无问芯穹的核心价值之一就是屏蔽底层差异。在其调度层之上,开发者不需要修改模型训练代码即可完成跨芯片迁移。但部分使用了英伟达专属算子(如 CUDA 自定义 kernel)的场景可能需要适配。
问:与阿里云 PAI 的价格对比如何?
两家定价体系不同:阿里云 PAI 有公开的价格目录和免费试用额度,价格透明度高;无问芯穹以企业合同制为主,价格未公开。根据行业经验,在异构调度和 MxGPU 共享模式下,无问芯穹的综合算力成本通常有竞争力。建议按自身场景分别询价对比。