首页文章详情

全局释放算力资源,深涌智能为AI企业填充弹药

36氪品牌2025-03-11 15:25
未来的十年是AI落地的非常重要的周期,我们认为它是一件长期主义的事情,因此创业就从这个点切进去,为这些使用AI大模型进行落地应用的场景提供服务。

大模型竞赛进入第三年,模型参数量从亿级扩展到数万亿级,训练和推理的算力需求成倍增长。有需求就有市场,而这也意味着新的创业机会。

在大模型的开发成本中,算力占据很大比例。在研发过程中,GPU和其他计算资源在实际应用中经常因调度不当或低效分配而闲置,资源利用率普遍低于50%。另一方面,许多企业选择混合云或多云策略,但不同云服务商的资源管理方式各异,统一调度和优化极具挑战。

这些痛点直接催生了对高效算力管理平台的迫切需求,为创业者提供了切入点,诞生了不少有潜力的AI创新项目。

在最近举办的“联想新商业创新生态路演”第二季中,AI算力初创企业深涌智能被评选为TOP 10项目,成为了联想生态中的新星。这是对深涌智能技术实力的认可,也是联想中小企业业务群对初创企业一以贯之的帮助:提供全方位、高品质、一站式服务,解决企业发展难题。联想中小企业业务群将与客户携手共进,见证客户走向成功。

作为联想集团发挥链主效应以带动初创企业融通创新的核心载体,联想初创企业星辰计划构建了技术赋能、产业协同、资本加速的三维赋能体系,加入联想星辰计划的初创企业,将有机会获得“链主”联想集团全方位、多维度的扶持,包括不限于产研共创、生态开放、资本扶持、业务拓展、品牌和服务赋能等等。 自“初创企业星辰计划”发布以来,已成功助力数百家初创企业加速发展,成为联想与中小企业携手并进、双向赋能的重要环节。 在加速培育新质生产力的时代命题下,联想初创企业星辰计划将持续扩大生态伙伴招募规模,期待与更多产业创新力量共建价值共生体,携手攀登全球科技竞争新高度。

简单来说,深涌智能主要帮助市面上的AI公司或者AI业务更好地解决算力管理难题。它就像一个超级管理员,通过精细地观测和控制大模型在GPU集群里的执行过程,把计算任务分配得更合理,用更少的机器完成同样的任务,充分发挥机器性能。此外,它还可以统一管理不同云服务和硬件设备,自动地调整任务分配,让算力利用更简单高效。

在深涌智能联合创始人及CEO黄可铖看来,“未来的十年是AI落地的非常重要的周期,我们认为它是一件长期主义的事情,因此创业就从这个点切进去,为这些使用AI大模型进行落地应用的场景提供服务。”

“深涌严选”,智能化管理算力

AI算力创业是一片广阔的蓝海,根据预测,AI算力市场将在未来几年保持高速增长,到2030年可能达到数千亿美元规模。但AI算力建设并非一朝一夕就能完成,要面临的竞争与风险也不容忽视:

第一,高技术门槛。AI算力管理涉及分布式计算、任务调度、负载均衡和硬件优化等多个复杂领域,技术门槛极高。要实现高效资源分配,平台需要强大的算法支持,如任务优先级优化、故障预测和实时调整,开发和优化难度较大。

第二,巨头主导市场,同类初创企业竞争。不少科技巨头已经推出了自己的算力管理解决方案,创业公司在资源和生态上面临劣势。国内外涌现了不少AI Infra初创公司,市场竞争激烈。要在短时间内形成技术壁垒和品牌影响力并不容易。

第三,商业模式仍在探索之中。许多中小企业对AI算力管理平台的价值和实际效果认知不足,推广和市场开拓需要更多资源投入。不同客户的需求和预算差异也不同,如何制定合适的定价模型并盈利是难点。

尽管需要面对技术积累和市场竞争的挑战,但是国内市场正处于快速增长阶段,痛点明显,这给了初创企业更多的切入机会。

深涌智能成立于2023年8月,专注于为智算中心和AI应用企业,提供大模型落地所需的计算资源、模型、以及应用的全栈优化管理平台产品与软硬件一体化解决方案。

目前深涌智能有两款主要产品:面向AI智算中心的Emerging AI智算平台与面向AI大模型应用的ENOVA应用加速平台。

黄可铖介绍,Emerging AI智算平台的核心技术在于,研发了面向大模型和GPU集群的“进程级”性能观测技术,与传统观测手段相比,可以更精准地观测和控制大模型在GPU集群的执行过程,为更高性能的大模型任务调度与GPU性能优化提供数据支撑。“举个例子,原来需要十台机器才能支持的并发数,我现在用两台机器就能满足。”黄可铖说,“通过我们平台可以把机器性能最大化释放出去。”

而ENOVA应用加速平台可以对多云异构环境下的计算资源进行统一管理,适配20+种主流硬件的型号,实现资源的高效利用,提高计算性能。平台通过智能调度算法,根据任务需求和计算资源状况,自动调整计算任务分配,实现“原子级”的资源调度效率和最优化的资源配置。“我们开玩笑叫‘深涌严选’。”黄可铖说道。

谈到初创企业与大公司之间的关系,虽然竞争不可避免,但黄可铖总体表示乐观。他认为,这个赛道足够大,时间周期足够长,国内外市场都有一定的包容性,因此初创企业和大公司有很多合作的机会。初创企业更适合服务中小型企业客户,对大公司的生态是一个补充。

“重度用户”体验联想生态

深涌智能成立一年多,合作的客户涵盖国内、北美、东南亚等多地智算中心,以及几家跨行业应用客户,商业化逐渐走上正轨。

黄可铖表示,公司目前最需要的资源是行业客户资源和认知。“我们正在聊智能制造行业,在跟他们合作的过程中,我们发现需要找到跟他们能共鸣的人,快速切入到客户关心的重点。”黄可铖说,“有几个重点场景,比如金融、生物医学、智能制造、端侧计算等,我们希望能够一块建立认知。”

出于这些需求的考量,深涌智能的投资人向他们推荐了“联想新商业创新生态路演”第二季。黄可铖“觉得非常有价值”,便报名参加了比赛。

作为消费者,黄可铖对联想相当熟悉,甚至是亲切。他是重度用户,常年购买联想产品,几年前还购买了联想小新14 pro作为自己的主力电脑,“联想整个电脑产品的使用体验很好”。他尤其关注联想AI PC的进展,以及联想在端侧AI场景的尝试。深涌智能目前正在与一家国际端侧芯片制造商合作,为它的端侧任务提供可观测和调度服务。

“联想的AI PC战略是非常正确的一件事。我们认为技术红利肯定有很大部分在高质量的数据集这里面,而联想有非常完善、强大的智能终端,意味着联想拥有非常高质量的数据,这是他们打造AI PC的巨大优势。”黄可铖说道。

黄可铖精心准备了这次路演,他笑称自己带着交朋友的心态去参赛。在路演现场,他最先感受到联想对这次活动的用心程度,“联想的生态思维非常强大,也直接体现了一家企业的担当与格局。对我们初创企业来说,将来能够在联想生态里找到我们的价值,获得成长,是非常有帮助的。”

得益于联想提供的交流平台,黄可铖也对AMD展示的技术和理念印象深刻。参加活动那天,他与在现场的其他创业者建立了联系,“最终上台的十个初创企业都是非常优秀的项目。”

黄可铖对获奖感到兴奋,他认为这是对深涌智能的双重肯定,一方面认可深涌智能的创新技术,另一方面也看好深涌智能在市场方面的潜力。

年轻创业者的“老大哥”

黄可铖曾经就读于麻省理工学院,是一位年轻的科技行业连续创业者。“麻省理工学院的创业氛围非常浓厚,”黄可铖说,还在学校时,他就有过一次创业尝试,收获了不少经验。

从麻省理工学院毕业后,他很快开启了第一次创业,以联合创始人身份加入了一家专注于神经状态监测设备研发与生产的脑机接口企业。这段经历帮助他积攒团队管理经验,也深刻理解了市场需求与技术创新之间的平衡。

深涌智能是黄可铖的第二次创业,他更注重以市场需求为导向,试图抓住技术迭代的风口,去填补市场空白。如今,深涌智能的发展愈发稳定,正在一步步完成产品研发迭代,以及商业化落地。

联想作为一家全球化的科技大公司,是深涌智能理想中的合作伙伴。黄可铖非常期待能够加入联想生态,与联想展开更多更深入的合作。

“我们是偏研发型的公司,在对产业理解方面有所欠缺,需要联系这样的企业给予我们支持。包括在投资领域,我们也很愿意和联想创投交流甚至直接合作。”黄可铖说道。

对年轻的创业者而言,强大、开放、有耐心的联想就像创业路上的“老大哥”,始终陪伴在身边。当企业遇到难题时,联想总能提供及时的指引或支援,帮助企业渡过难关。

接下来,深涌智能将继续提升技术能力,同时加快商业化落地进程,让企业以稳定的“两条腿”扎实往前走。黄可铖是个乐观主义者,他对联想及联想生态充满信心,“这种全面的生态支持,让我们有了更多前进的底气。”