llm-integration

用途：面向本地大语言模型集成，提供 llama.cpp、Ollama 及 Python 绑定的实践指导，覆盖模型加载、推理优化、提示词安全与 LLM 特有攻击向量防护。主要能力：安全部署本地 LLM；模型量化与内存优化；提示注入防护与输入清洗；安全 API 端点设计；面向实时语音助手的性能优化；多模型编排与流式响应过滤。使用方式：技能采用拆分结构，主 SKILL.md 提供核心决策上下文，详细实现见 references/ 目录。核心原则为测试先行（TDD）、性能感知、安全优先、可靠性优先。安全依赖示例：llama-cpp-python>=0.2.72、ollama>=0.4.0、pydantic>=2.0、jinja2>=3.1.3、tiktoken>=0.5.0、structlog>=23.0。版本策略：llama.cpp 生产 b3000+、最低 b2500+；Ollama 生产 0.7.0+、最低 0.1.34+。适用场景：JARVIS 语音命令的本地推理、隐私保护的无云 LLM 集成、带安全边界的多模型编排、带输出过滤的流式生成。限制：风险等级为 HIGH，涉及 AI 模型执行与不可信提示词处理，存在代码执行漏洞可能；需强制资源限制、超时与优雅降级；模型须校验完整性与来源；Ollama 仅绑定 localhost。已知漏洞：CVE-2024-34359（llama-cpp-python，严重）、CVE-2024-37032、CVE-2024-28224。具体实现细节与完整 CVE 分析见 references/ 目录，资料未提供更多内容。