全新“极速”模型由秘塔AI搜索发布:响应速度高达每秒400 tokens
近日,秘塔AI搜索正式推出全新“极速”模型,为用户带来更高效、精准的搜索体验。
秘塔AI搜索团队通过在GPU上进行kernel fusion技术,以及在CPU上实施动态编译优化策略,成功在单张H800GPU上实现了最高400tokens/秒的响应速度,大部分问题能在2秒内给出答案。
为了让用户更真切地感受新模型的速度,秘塔AI搜索还特别搭建了一个测速站点(kuai.metaso.cn),用户可随时输入问题,亲自体验新模型带来的快速响应。
秘塔AI搜索此次推出的“极速”模型,凭借其出色的速度、准确率和逻辑性,有望在AI搜索领域掀起新一轮的技术革新,为用户提供更加优质的搜索服务。
全新“极速”模型由秘塔AI搜索发布:响应速度高达每秒400 tokens
秘塔AI搜索于2025年5月推出了全新的“极速”模型,该模型的响应速度最高可达400 tokens/秒。这一速度的提升主要得益于秘塔AI搜索团队在技术上的创新,包括在GPU上应用kernel fusion技术,以及在CPU上实施动态编译优化策略。通过这些技术优化,大部分问题能在2秒内给出答案。
此外,秘塔AI搜索还搭建了一个测速站点(kuai.metaso.cn),用户可以随时输入问题,亲自体验新模型带来的快速响应。这种高速响应能力不仅提升了用户体验,也使得秘塔AI搜索在AI搜索领域更具竞争力。
发表评论