概述 SGLANG 是一个高性能的语言模型推理引擎，旨在为大语言模型（LLM）应用提供高效、灵活的部署和服务能…

金融领域开源大模型-度小满轩辕，轩辕系列大模型积累了大量的高质量数据和模型训练经验，在预训练基础上构建了丰富、高质量的问答数据和人类偏好数据，显著提升了模型在对话场景中的表现。轩辕系列大模型在多个评测榜单和人工评估中均获得了亮眼的结果。

在过去的几个季度里，大语言模型（LLM）的平民化运动一直在快速发展，从最初的 Meta 发布 Llama 2 到如今，开源社区以不可阻挡之势适配、进化、落地。LLM已经从昂贵的GPU运行转变为可以在大多数消费级计算机上运行推理的应用，通称为本地大模型。