最近,无数据不智能发布一篇关于大语言模型级联系统的论文。研究者提出了一种LLM级联结构,通过级联设计,使用性能较弱但成本更低的GPT3.5来回答简单问题,仅将难题传递给性能更强但成本更高的GPT4。方法中,通过考察GPT3.5的回答一致性来判断问题难度,并结合CoT和PoT混合思考表示,以产生更准确的决策。实验结果表明,与单独使用GPT4相比,该级联系统可实现类似的表现,但成本仅为GPT4的40%。由于避免了额外的模型训练,该方法在推理任务上的表现尤为出色。总体来说,该研究既可显著节省LLM使用成本,又可提高性能,具有重要意义。