用途：该技能面向 AI 模型量化与优化，帮助在消费级硬件或内存受限环境中部署大语言模型，核心是 4-bit/8-bit 量化、GGUF 格式转换以及质量与性能的权衡分析。
主要能力：支持 Q4_0、Q4_K_S、Q4_K_M、Q5_K_S、Q5_K_M、Q6_K、Q8_0 等量化级别；可将 HuggingFace 模型转换为 GGUF 供 llama.cpp 使用；提供内存占用优化、量化影响基准测试（困惑度、延迟、内存）以及按硬件条件选择量化级别的能力。资料给出 7B 模型的参考：Q4_K_M 约 4.1GB、需 6GB 内存；Q5_K_M 约 4.8GB、需 7GB；Q8_0 约 7.2GB、需 10GB；F16 约 14GB、需 18GB。
使用方式：采用 TDD 流程，先写质量测试再实现量化；通过 llama.cpp 的 quantize 二进制执行量化，示例调用为 quantizer.quantize(input_model="model-f16.gguf", output_name="model-Q5_K_M.gguf", quantization="Q5_K_M")；转换脚本为 convert_hf_to_gguf.py，参数含 --outtype f16 与 --outfile。测试命令：pytest tests/test_quantization.py -v。
适用场景：在 CPU/GPU 内存受限时部署 LLM、为不同硬件档位生成模型变体、为语音助手平衡质量与延迟。
限制与安全要求：量化属于中等风险操作，可能造成质量下降；加载前必须校验模型 SHA256 校验和，并限制模型路径在允许目录内；部署前应基准测试困惑度与延迟，并测试关键用例。资料未提供具体收费、价格或平台信息。