欢迎光临北京软件和信息服务业协会官方网站
特斯联发布升级版ThiCP:促异构芯片混合训推
发布日期:2026-02-09    来源:特斯联Smart    分享到:

近日,AIoT企业特斯联T-Cluster512超节点产品核心组件HICE(混合推理引擎)正式升级为ThiCP(特斯联混合智算平台,Terminus Hybrid Intelligent Computing Platform)。升级后的平台在原有基础之上新增面向大规模混合智算场景的训练功能,旨在进一步加强异构芯片间的生态协同效应,充分释放信创芯片的推理及训练性能。

 

七层架构助力算力供给范式变革

 

近日,知名行研机构Gartner发布的《2026年十大战略技术趋势》,将“AI超级计算平台”列为首要技术方向,平台整合CPU、GPU、ASIC、神经系统计算和替代性计算范式,使企业能够统筹复杂工作负载。其背后,是一场算力供给模式的深刻变革。随着海外供应链不可控因素持续走高,单一依赖某类芯片的架构已被证明存在巨大风险,混合算力从“可选项”变成“必选项”。然而利用率低、资源错配等混合计算痛点,随之而来。特斯联混合智算平台ThiCP即在此背景下诞生。

 

作为特斯联T-Cluster系列异构超节点产品的核心组件,ThiCP旨在在芯片与模型之间打造统一抽象层,以实现多种大模型算法在多元异构芯片上的高效、统一部署。


平台采用七层架构:


a7405cfc-2d96-43fb-935c-4450e1d411a8.png


1)异构集群

完成十余款国产主流GPU适配,支撑广泛训练、推理及Agent应用开发需求。


2)适配层

全面支持CUDA、MUSA、MXMACA、IXUXA等架构,破除“硬件-软件”双重依赖。


3)计算层

提供融合算子、分布式计算、融合计算、混合精度计算、算子远程调用等优化功能。


4)调度层

支持异构计算资源的池化、切分,使能跨域动态调度以适配不同训练任务的资源需求。


5)框架层

除兼容既有vLLM、SGLang等推理框架外,新增支持DeepSpeed、Megatron-LM等分布式训练框架,支持万亿参数模型的预训练、微调。


6)服务层

为开发者提供从模型部署到模型训练、资源管理、任务引擎、Agent开发的全栈服务支持。


7)平台层

在智算云平台、大模型平台、智能体平台的基础上集成运维及运营平台,以保障计算资源的高效稳定运行和统一纳管运营。


根据测算,基于ThiCP,GPU集群利用率可实现70%以上提升,千卡集群线性加速比超过90%(9216卡规模下可达90%),大模型后训练场景(以Llama3.1-405B为例)训练时间可缩短约50%,典型GPU算子优化后性能实现超3倍提升。


五大核心技术驱动全国产效率革命


面对百花齐放的信创芯片格局,要充分调用不同架构芯片的性能,构建统一平台,实现不同架构的共生,使多种模型能够在不同架构上无缝运行是关键。这恰是特斯联ThiCP的核心能力所在。


为解决前述痛点,特斯联自研异构框架适配、分布式混合计算、算力集群调度、异构算力池化等核心技术,以实现ThiCP的高兼容性与灵活度。


  • 异构框架适配:提取模型GPU算子,通过数学等价重构或子图融合实现不支持的算子,实现模型快速适配;屏蔽硬件差异,通过构建通用适配抽象层,实现算法代码零侵入迁移,迁移效率提升300%以上。


  • 分布式混合计算:集成融合算子、混合精度计算、CPU&GPU融合计算、分布式计算等功能。通过将多个小算子合并为单一高效算子,减少计算冗余与内存访问,在保证精度一致的前提下,实现推理性能30%-60%提升;结合FP32/FP16/FP8等多精度浮点格式,实现高精度与高性能兼得,实现显存占用的大幅减少,及训练速度150%-200%提升;聚合分散算力资源,构建可弹性调度的智能算力池,算力资源利用实现超200%提升。


  • 算力集群调度:支持异构算力支撑同一任务、算力资源动态灵活扩容、任务按需动态分配资源、异构算力动态纳管更新。


  • 异构算力池化:通过GPU虚拟化和集群管理技术,将GPU资源聚合构建为统一的GPU资源池,基于应用实际负载需求,动态分配和调度GPU算力资源,保障大规模计算任务高效并行处理与低延迟执行;支持将多机零散GPU算力(如单卡剩余算力、多卡碎片化显存等)进行逻辑聚合,形成统一弹性算力供给池,显著提升GPU资源池全局利用率。


  • 多模式GPU模式:支持单机多模调度、多机多卡调度及异构多机多卡调度。


在特斯联看来,从AI 1.0时代到AI 2.0时代,AIoT技术是实现从万物互联到万物智联进化的核心,亦是其T-Cluster系列超节点产品及ThiCP混合智算平台研发的原点。特斯联期待以AIoT技术持续推动ThiCP迭代,助力信创芯片进一步突破“规模化”瓶颈,掀起一场全国产化的“效率革命”。

你知道你的Internet Explorer是过时了吗?

为了得到我们网站最好的体验效果,我们建议您升级到最新版本的Internet Explorer或选择另一个web浏览器.一个列表最流行的web浏览器在下面可以找到.