今年3月无问芯穹首次公测Infini-AI大模型开发与服务云平台,Infini-AI云平台共由三部分构成,分别是异构云管平台、一站式AI平台和大模型服务平台。
从目前来看
无问芯穹重点从多元异构算力入手,打 手机号码数据 破单一芯片品牌训练资源瓶颈,提高算力供给水平,降低模型部署成本。在7月WAIC大会上,无问芯穹针对多芯片异构生态竖井的难题发布了异构分布式混训平台,以适应多模型与多芯片的格局。
目前国内市场上的芯片供应除了英伟达和AMD外,还存在大量国产芯片,而这种多芯片之间造成异构生态竖井,无问芯穹的底层解法是,提供高效整合异构算力资源的好用算力平台,以及支持软硬件联合优化与加速的中间件,让异构芯片真正转化为大算力。实现了混训算力利用率最高可达97.6%。
可以看到,无论是硅基流动还是无问芯穹,尽管他们的AI Infra路线不尽相同,但都有一个共同目标:降低大模型部署成本,助力大模型应用更快更好地落地。除了以硅基流动和无问芯穹为代表的初创公司阵营,以阿里、腾讯、百度为代表的云计算厂商也是目前AI Infra的主要玩家。
云计算厂商凭借
其雄厚的资本及深耕多年的技术积累,在AI Infra层有着极 关于这个工具的事情是 强的优势。以阿里云为例,阿里云在AI Infra层提供了包括灵骏智算集群、HPN 7.0网络架构、CPFS存储系统、PAI人工智能平台、魔搭社区和百炼平台等一系列产品和服务,覆盖了从基础设施到模型开发、训练、部署的全流程,已形成中国最完备的AI基础设施产品及服务,包括IaaS层、PaaS层和MaaS层的服务。
可以看到
高性能、高稳定性的AI计算服务,支持大模型训练和 中国名录 推理,以构建开放的AI应用生态。实际上,无论是阿里云还是其他云计算厂商,想要的不仅是“卖铲子”,更重要的是用AI驱动现有业务,覆盖条业务线,每一个场景。云计算厂商“大而全”,初创公司“小而美”。大厂们从算力、数据、网络、存储等到模型再到开发工具链,构建大模型生态。
而初创公司,虽然不具备大厂们的全产业链,却也在AI Infra层发挥着重要作用,硅基流动盯住推理领域,独创推理框架SiliconLLM;无问芯穹用异构算力筑基AI Infra。他们沿着各自的路线在通往普惠性AGI之路上不断探索。