基于 LLaMA! 开源模型 Giraffe 将 LLaMA 上下文窗口扩大 10 倍 达 3 万个 token
研究人员使用插值技术将开源语言模型 LLaMA 的上下文窗口扩大 10 倍,达到约 32,000 个 token,开发出新的开源语言模型 Giraffe。该模型适用于处理数十页文本的商业应用,对于大上下文语言模型的研究提供了重要见解。然而,研究也指出当前技术存在局限性,需要定制测试来衡量长上下文任务的表现。
研究人员使用插值技术将开源语言模型 LLaMA 的上下文窗口扩大 10 倍,达到约 32,000 个 token,开发出新的开源语言模型 Giraffe。该模型适用于处理数十页文本的商业应用,对于大上下文语言模型的研究提供了重要见解。然而,研究也指出当前技术存在局限性,需要定制测试来衡量长上下文任务的表现。
发表评论