微软研究人员最近在一篇论文中提出了一个新的语言模型Phi-1.5,该模型的参数量仅有13亿。研究结果表明,Phi-1.5在多个常识推理基准测试数据集上都取得了优异的表现,与参数量是其10倍以上的模型相当或更好。研究人员认为这说明模型的参数规模不是决定性因素,采用高质量合成数据进行预训练可能更为关键。Phi-1.5不仅展现出许多大模型所具有的语言理解和推理能力,在控制有害内容生成方面也具有一定优势。