LMOps 是微软围绕大语言模型（LLM）与生成式 AI 模型开展的基础研究与技术项目，目标是为构建 AI 产品提供通用能力支撑，仓库地址为 https://github.com/microsoft/LMOps。
用途与方向：围绕提示、长上下文、对齐、推理加速、领域定制和上下文学习原理展开研究。
主要能力（按资料所列）：
- 更好的提示：Automatic Prompt Optimization、Promptist、Extensible prompts、Universal prompt retrieval、LLM Retriever、In-Context Demonstration Selection。
- 更长上下文：Structured prompting、Length-Extrapolatable Transformers。
- LLM 对齐：Alignment via LLM feedback。
- LLM 加速（更快推理）：Lossless Acceleration of LLMs。
- LLM 定制：Adapt LLM to domains。
- 基础研究：Understanding In-Context Learning。
相关项目与论文：关联 microsoft/unilm、microsoft/torchscale。论文发布时间线包括 2023 年 11 月的 In-Context Demonstration Selection with Cross Entropy Difference、2023 年 10 月的 Tuna、Automatic Prompt Optimization with “Gradient Descent” and Beam Search、UPRISE、2023 年 7 月的 Learning to Retrieve In-Context Examples、2023 年 4 月的 Inference with Reference、2022 年 12 月的若干论文与模型演示等。
具体技术举例：Promptist 通过强化学习做自动提示优化；Structured Prompting 以高效方式消费长序列提示；X-Prompt 提供超越自然语言的可扩展提示接口；LLMA 通过复制并验证参考文本片段实现无损加速，在检索增强生成和多轮对话等场景可达 2~3 倍加速且无需额外模型。
使用方式与限制：资料未提供统一安装命令或使用步骤，具体用法需查阅各子项目与论文。许可见根目录 LICENSE 文件。联系方式与招聘信息见原文。
