墨芯人工智能再夺MLPerf大模型推理三项冠军

JS滚动广告
✨ AI前沿 | 每日人工智能最新资讯 ✨

最新公布的MLPerf推理大模型测试结果显示,墨芯人工智能的S30计算卡在GPT-J模型的单卡、4卡、8卡推理性能均位居第一。通过自主研发的稀疏计算技术,墨芯在GPT-J大模型上实现了1.8倍于英伟达H100的算力优势。墨芯的成绩证明,稀疏计算是解决大模型参数规模快速增长与算力需求矛盾的关键技术创新。本次MLPerf冠军是对墨芯稀疏计算产品实力的肯定,也进一步验证稀疏计算将引领大模型算力实现革命性突破。

发表评论