SuperAPI AI 工具集

local-finetune

通用与其它

查看项目

更新于 10-16 03:43

技能介绍

用途:在 Apple Silicon 上通过 LoRA 微调把技能知识嵌入本地模型。数据流为 ACSets 模式 → DuckDB 语料库 → JSONL 训练数据 → mlx-lm LoRA。

主要能力:用 DuckDB 建库(默认 ~/skill-substrate/skill_corpus.duckdb),含 skills、examples、claude_history 等表;从 ~/.claude/history.jsonl 摄取历史,从 ~/.claude/skills//.md 摄取技能;用 training_candidates 视图按同项目、5 分钟内相邻消息生成指令-输出对;导出聊天格式 JSONL;用 Python 脚本从技能 Markdown 生成问答与代码示例;按 80/10/10 切分训练/验证/测试;用 mlx_lm.lora 训练、mlx_lm.generate 推理、mlx_lm.fuse 融合适配器;提供 GF(3) 守恒检查与状态查询。

使用方式:需 duckdb、mlx-lm 与 acsets skill。训练须在原生 arm64 shell 运行(arch 应显示 arm64,若为 i386 用 arch -arm64 /bin/zsh)。示例命令:mlx_lm.lora --model mlx-community/Qwen2.5-Coder-7B-Instruct-4bit --train --data train_data --batch-size 2 --iters 200 --learning-rate 1e-5 --num-layers 8 --steps-per-report 10 --adapter-path adapters/skill-substrate --seed 1069。按内存选模型:16GB 用 Qwen2.5-0.5B-4bit(batch 4),24GB 用 7B-4bit(batch 2),32GB 用 14B-4bit(batch 1),64GB+ 用 32B-4bit(batch 1)。

适用场景:本地技能知识注入、个人历史数据微调、离线推理与适配器融合。

限制:面向 Apple Silicon 与 MLX;Rosetta 下会报 float16_t 错误;显存不足需降低 batch-size 或 num-layers;其余平台、收费与效果暂未提供。