大上下文窗挑战

扩大上下文窗口面临计算成本呈二次方增长、内存消耗巨大以及模型在长文本中间部分信息召回率下降的“Lost-in-the-Middle”等技术挑战.