开云电子投资AI基础设施企业「无问芯穹」A轮融资
发布日期:2024-09-02
近日,开云电子完成对AI基础设施企业「无问芯穹」的投资。至此,在成立短短 1 年 4 个月内,无问芯穹累计已完成近 10 亿元融资。本轮融资联合领投方之一为社保基金中关村自主创新专项基金。本次融资募集的资金将用于加强技术人才吸纳与技术研发,保持软硬协同、多元异构的技术领先优势;深入推动产品商业化发展,保持Infini-AI异构云平台产品与市场间的紧密嵌合;强化生态合作,激活异构集群算力资源,构建支撑“M种模型”和“N种芯片”的AI算力底座,做AI模型算力的“超级放大器”,致力于成为大模型时代首选的“算力运营商”。无问芯穹联合创始人、CEO夏立雪表示:“感谢多方资本对无问芯穹的青睐,让我们在‘天时、地利、人和’的创业征途上多了一份不负厚望的笃定。AI 2.0浪潮带来的新‘二八定律’,Transformer 架构统一了新的技术范式,意味着只需解决20%的关键技术问题即可支撑80%的垂直场景泛化,给软硬件联合优化技术的标准化和规模化提供了难得的机遇;中国算力生态正面临的供需矛盾以及资源分布不均的现状,为我们拉动上下游协力实现多元异构算力的高效整合创造了时代机遇;而我们源于清华电子系的深厚底蕴、十余年的技术积累和丰富的产业经验所形成的产研结合的‘复合型’团队,更成为AI领域的人才‘引力井’,构成了无问芯穹独特的人才竞争力。”| 依托软硬协同、多元异构技术优势,做AI模型算力的“超级放大器”大模型能够支撑的实际产业规模,取决于AI模型的实际可用算力,是一个壁垒更高、玩家更稀缺、价值量更高的领域。基于对于AI行业的深刻理解和长期实践,无问芯穹超前判断大模型的实际可用算力不仅取决于芯片的理论算力,还可通过优化系数放大算力利用效率,通过集群规模放大整体算力规模,由此,无问芯穹提出“芯片算力×优化系数(软硬协同)×集群规模(多元异构)=AI模型算力”公式。遵循这一公式,无问芯穹将通过软硬件联合优化技术,持续提升芯片算力在大模型任务中的利用率,并通过多元异构算力适配技术,提升集群算力利用率,扩大行业整体算力供给。简单来说,无问芯穹致力于打造大模型软硬件一体化方案,链接上下游,建立AGI(通用人工智能)时代大模型基础设施,相当于是大模型算力领域的“淘宝”,向上帮助算力芯片了解大模型需求,向下帮助大模型企业实现算力自由,助力大模型应用开发降本增效。在软硬件联合优化方面,无问芯穹通过自研的推理加速技术FlashDecoding++大幅提升主流硬件和异构硬件的利用率,超越在先SOTA,完成多个主流开源大模型在AMD、华为昇腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡上的适配,并在部分计算卡上实现了行业第一的推理加速成果,高效满足各行业愈发高涨的大模型推理需求。基于这一方案取得的优化效果,无问芯穹已与AMD签署战略合作,携手推动商用AI应用的性能提升。在多元异构算力适配方面,无问芯穹也拥有业界稀缺的异构适配与集群能力禀赋,7月发布的大规模异构分布式混合训练系统HETHUB,是业内首次在华为昇腾、天数智芯、沐曦、摩尔线程和AMD、NVIDIA共六种芯片“4+2”组合间实现了千卡规模的异构算力混合训练,集群算力利用率最高达到97.6%,平均高出基准方案约30%,这意味着,在相同的多元芯片机房条件或者集群条件下,无问芯穹可将训练总时长压缩30%。| 打造Infini-AI异构云平台,提供从异构算力利用到大模型应用开发全栈式能力近年来,国际上模型层与芯片层逐渐形成“双头收敛”格局,而中国的模型层与芯片层依然持续呈现由“M种模型”和“N种芯片”构成的“M×N”格局。然而,不同硬件平台需要适配不同软件栈和工具链,异构芯片间长久存在着难以兼用的“生态竖井”现象。随着越来越多国产异构算力芯片被应用于全国各地方算力集群,异构算力难以被有效利用的问题日益严峻,逐渐成为中国大模型产业发展的瓶颈。无问芯穹依托软硬协同、多元异构技术优势,已基于多元芯片算力底座打造出Infini-AI异构云平台。该平台向下兼容多元异构算力芯片,可有效激活全国各地沉睡异构算力,现已运营的算力覆盖全国15座城市。自平台上线以来,已有Kimi、LiblibAI、猎聘、生数科技、智谱AI等多个大模型行业头部客户在Infini-AI异构云平台上稳定使用异构算力,并享受无问芯穹提供的大模型开发工具链服务。开云电子财智董事总经理张英杰表示:“AI基础设施市场空间巨大,目前正处于高速增长的发展早期,国内必将出现未来的长跑冠军。无问团队具备从底层的硬件,到上层的编译、算子、模型优化和云服务的全栈软硬件能力,与大模型生态天然适配,是市场少有的稀缺标的,想象空间巨大,对促进中国AI算力升级有着巨大的潜在推动力。”以“释放无穹算力,让AGI触手可及”为使命,无问芯穹致力于成为大模型时代首选的“算力运营商”,目前正在强力推进和产业链中最具价值的客户建立战略合作,再推广到更广泛的市场中实现标准化、批量化复制,建立规模优势。通过激活多元异构算力和软硬件联合优化,无问芯穹目标让大模型的落地成本降低10000倍,如同“水电煤”一般,成为行业触手可及、广泛受益的新质生产力,加速AGI的普惠进程。
XML地图