PhiCookBook(Phi Cookbook)是微软为 Phi 系列小语言模型(Small Language Models,SLM)提供的入门实战手册与示例集合,托管在 GitHub(https://github.com/microsoft/PhiCookBook)。
用途:帮助开发者快速开始使用微软 Phi 系列开源 AI 模型。Phi 被官方描述为目前性能强、成本效益高的小语言模型,在多语言、推理、文本与对话生成、编码、图像、音频等场景的基准测试中表现良好,并可部署到云端或边缘设备,在计算资源有限的情况下构建生成式 AI 应用。
主要能力与内容结构:
- 入门与背景:包括欢迎使用 Phi 家族、环境搭建、关键技术理解、Phi 模型的 AI 安全、Phi 硬件支持、Phi 模型在各平台的可用性、使用 Guidance-ai 与 Phi、GitHub Marketplace 模型、Azure AI 模型目录等章节。
- 推理(Inference):覆盖在不同环境中运行 Phi,如 Hugging Face、GitHub Models、Microsoft Foundry 模型目录、Ollama、AI Toolkit VSCode(AITK)、NVIDIA NIM、Foundry Local;以及在 iOS、Android、Jetson、AI PC、Apple MLX 框架、本地服务器、通过 AI Toolkit 的远程服务器、Rust、本地 Phi-Vision、Kaito AKS 与 Azure Containers(官方支持)等场景下推理 Phi 家族模型。
- 量化(Quantifying):使用 llama.cpp、onnxruntime 的生成式 AI 扩展、Intel OpenVINO、Apple MLX 框架对 Phi-3.5 / 4 进行量化。
- 评估(Evaluation):Phi 响应评估、Microsoft Foundry 评估、使用 Promptflow 评估。
- RAG:如何将 Phi-4-mini 与 Phi-4-multimodal 和 Azure AI Search 搭配使用(RAG);以及使用 SQLite FTS5 与 phi-4-mini 实现零云端本地混合 RAG。
- 应用开发示例(Phi application development samples),按类别包括:文本与对话应用(Phi-4、Phi-3/3.5 示例,如 ONNX 模型对话、.NET 控制台应用配合 Semantic Kernel、浏览器本地聊天机器人、OpenVino 聊天、多模型交互、MLFlow 封装、模型优化、WinUI3 应用、Prompt flow 微调与集成、Microsoft Foundry 中评估微调模型、WebGPU RAG 聊天机器人、Windows GPU Prompt flow、Android 应用、本地 ONNX 问答等);Azure AI Inference SDK 基于代码的示例(含使用 Phi-4-multimodal 生成项目代码,以及基于 Phi-3 家族或 Phi-3.5 通过 GitHub Models 构建 Visual Studio Code GitHub Copilot Chat / Chat Copilot Agent);高级推理示例(Phi-4-mini-reasoning 或 Phi-4-reasoning 示例,使用 Microsoft Olive、Apple MLX 微调,结合 GitHub Models、Microsoft Foundry Models);演示(托管在 Hugging Face Spaces 的 Phi-4-mini 与 Phi-4-multimodal 演示);视觉示例(Phi-4-multimodal 读取图像并生成代码,Phi-3/3.5 的图文转文本、ONNX、CLIP 嵌入、回收演示、视觉语言助手、NVIDIA NIM、OpenVINO、多帧或多图样本、本地 ONNX 模型等);推理-视觉示例(Phi-4-Reasoning-Vision-15B 用于检测乱穿马路、数学、检测 UI);数学示例(Phi-4-Mini-Flash-Reasoning-Instruct 及其数学演示);音频示例(使用 Phi-4-multimodal 提取音频转录、音频样本、语音翻译样本,以及 .NET 控制台应用分析音频文件并生成转录);MOE 示例(Phi-3.5 混合专家模型社交媒体样本,以及使用 NVIDIA NIM Phi-3 MOE、Azure AI Search 与 LlamaIndex 构建 RAG 管道);函数调用示例(Phi-4-mini 函数调用,使用函数调用构建多智能体,结合 Ollama、ONNX 的函数调用)。
使用方式:官方给出的步骤如下:Fork 该仓库;克隆仓库,命令为 git clone https://github.com/microsoft/PhiCookBook.git;加入 Microsoft AI Discord 社区与专家和开发者交流。仓库还提供多语言支持,列出包括简体中文、繁体中文(香港、澳门、台湾)、英语、日语、韩语、法语、德语、西班牙语、葡萄牙语、俄语、阿拉伯语等在内的 50 多种语言翻译。由于仓库包含 50 多种语言翻译会显著增大下载体积,如需克隆时排除翻译,可使用稀疏检出(sparse checkout),官方给出 Bash / macOS / Linux 示例。
适用场景:适合希望上手微软 Phi 系列小语言模型的开发者,在本地设备、边缘设备或云端开展推理、量化、评估、RAG、函数调用与多模态应用开发学习;也适合作为课程式教程完整学习。
限制:关于具体收费、价格、许可条款、模型精度数值等事实,资料暂未提供;部分内容以官方仓库实际文件为准。