清华开源“赤兔Chitu”大模型引擎
性能优势:
在首期开源版本中,赤兔引擎在A800集群测试中,部署DeepSeek-R1-671B模型时,相比部分国外开源框架,GPU使用量减少50%,推理速度提升3.15倍。
开源信息:
赤兔Chitu现已在GitHub平台开源,开发者可通过以下链接获取更多信息并参与项目:
赤兔Chitu的开源为国产AI芯片的广泛应用和生态建设带来了新的突破,降低了企业部署AI模型的门槛和成本。
性能优势:
在首期开源版本中,赤兔引擎在A800集群测试中,部署DeepSeek-R1-671B模型时,相比部分国外开源框架,GPU使用量减少50%,推理速度提升3.15倍。
开源信息:
赤兔Chitu现已在GitHub平台开源,开发者可通过以下链接获取更多信息并参与项目:
赤兔Chitu的开源为国产AI芯片的广泛应用和生态建设带来了新的突破,降低了企业部署AI模型的门槛和成本。
发表评论