国产GPU在AI大模型领域的应用案例一览
电子发烧友网报道（文/李弯弯）近一年多时间，国产随着大模型的模型发展，
GPU在
AI领域的领域例览
重要性再次凸显。虽然相比英伟达等国际大厂，用案国产GPU起步较晚、国产声势较小。模型不过近几年，领域例览国内不少GPU
厂商成长非常快，用案并且不断推出新品，国产
产品也逐渐在各个领域取得应用，模型而且在大模型的领域例览训练和推理方面，也有所建树。用案
国产GPU在大模型上的国产应用进展电子发烧友此前就统计过目前国内主要的GPU厂商，也介绍了这些厂商主要的模型产品及产品发布、量产进展情况。领域例览
可以看到，其实近几年已经有不少产品面世并应用。
如沐曦集成，其N系列用于AI推理的GPU
芯片早已量产。去年9月，该
公司宣布，其与眸瑞
科技联合发布了首个AI模型“贴图超分”技术。该技术依托曦思N系列AI推理GPU首款产品曦思N100的强大算力，结合眸瑞科技丰富的
算法库资源和先进的AI超分算法，首次将AI超分成功应用到了3D模型领域。
曦思N100是沐曦面向
人工智能推理场景推出的高效能GPU产品，针对AI推理及AI应用场景中大量的
视频图像处理任务，提供强大的AI算力和视频/图像编解码功能。据称，目前沐曦已联合合作伙伴打造了多种基于曦思N100 的解决方案，如高密度视频结构化分析解决方案、高并发
智能转码解决方案、
光电混合异构计算解决方案等，这些方案可广泛应用于城市安防、智慧交通、
工业视觉、短视频、
云计算和智算
中心等多个领域。
再如天数智芯，其提供的算力集群具有支持百亿级
参数大模型训练的能力。早前有消息，天数智芯与智源研究院、爱特云翔合作，开展基于自主通用GPU的大模型CodeGen（高效编码）项目，通过中文描述来生成可用的C、
Java、
Python代码以实现高效编码。
智源研究院负责算法设计、训练框架开发、大模型的训练与调优，天数智芯负责提供天垓100加速卡、构建算力集群及全程技术支持，爱特云翔负责提供算存网基础
硬件及智能化运维服务。在天垓100加速卡的算力集群，基于智源研究院70亿参数的Aquila语言基础模型，使用代码数据进行继续训练，稳定运行19天，模型收敛效果符合预期。
近一年多来，随着大模型的发展，国产GPU公司都在朝着大模型领域布局。摩尔线程此前也透露，公司已经可以支持3亿参数量模型的训练，2022年底就提前布局了自然语言模型预训练，自研了MusaBert模型。
还有登临科技，该公司此前也表示，公司首款产品Goldwasser已规模化运用在多家行业
知名企业的主营业务中，新一代Goldwasser产品针对基于Transf
ormer的
网络和生成式AI类大模型的应用在性能有大幅提升。
国产GPU应用于AI领域的多个方面除了上述谈到应用案例，国产GPU在AI领域的应用案例还有很多，主要涉及到
深度学习、自然语言处理以及
计算机视觉等多个方面。
如，在计算机视觉领域，国产GPU被广泛应用于图像识别和目标
检测等任务。例如，利用GPU加速的深度学习模型可以大幅提升算法的准确性和实时性，这在安防监控、
自动驾驶等实际应用中具有重要的价值。
在自然语言处理方面，国产GPU也在发挥重要作用。通过GPU加速的循环
神经网络、Transformer等模型，可以实现高效的机器翻译、文本生成等任务。这对于提升智能客服、智能写作等应用的性能具有关键作用。
国产GPU还在强化学习领域得到了应用。强化学习是AI领域的一个重要分支，其目标是通过与环境的交互来学习策略。GPU加速的价值网络、策略网络等模型可以应用于游戏AI、
机器人控制等领域，从而提高智能体的学习效率和性能。
另外值得关注的还有，国产GPU在自动驾驶领域的应用也比较多。自动驾驶系统需要处理大量的
传感器数据，包括来自摄像头、雷达、激光雷达等的
信息。GPU通过其强大的并行计算能力和高效的内存管理，可以实时处理这些数据，并为自动驾驶系统提供准确的决策依据。
例如，一些国产汽车厂商已经开始在其自动驾驶系统中采用国产GPU。这些GPU不仅用于图像处理和计算机视觉任务，如目标检测、车道线识别等，还用于深度学习模型的推理和决策。通过GPU的加速，自动驾驶系统可以更快地识别交
通信号、障碍物以及其他重要信息，从而提高行车安全性。
此外，国产GPU还在自动驾驶的地图构建和定位方面发挥了重要作用。通过利用GPU进行高效的地图数据处理和实时定位计算，自动驾驶系统可以更加准确地感知周围环境，并实现精确的导航和路径规划。
具体来说，百度Apollo、小马智行等自动驾驶技术公司，都在其自动驾驶解决方案中采用了国产GPU。这些解决方案不仅应用于乘用车，还扩展到商用车、物流车等多个领域。
写在最后从目前的情况来看，国内外GPU厂商都在追逐大模型应用带来的机会。当前无论是大模型训练还是推理，
英伟达GPU都占据了绝大部分市场。对于国产厂商来说，为了在大模型方面拥有更多自主权，仍然需要持续在大模型训练方面发力，同时相对大模型训练来说，大模型接下来大面积的部署，对于推理芯片的需要将会很大，这将是一个更容易把握的机会。