SuperAPI AI 工具集

golang-samber-hot

编程与开发

查看项目

更新于 10-16 08:44

技能介绍

本技能介绍如何在 Go 1.22+ 中使用泛型、类型安全的内存缓存库 samber/hot。安装:go get -u github.com/samber/hot。

用途:把内存缓存当作系统设计决策,依据实测访问模式选择淘汰算法,按工作集数据估算容量,并规划过期、加载器失败与监控。

主要能力:提供 9 种淘汰算法(W-TinyLFU、LRU、LFU、TinyLFU、S3FIFO、ARC、TwoQueue、SIEVE、FIFO),支持 TTL、带 singleflight 去重的加载器链、分片、stale-while-revalidate 与 Prometheus 指标。默认建议从 hot.WTinyLFU 起步,仅在剖析显示未命中率过高时再切换算法。

使用方式:用建造者模式构造缓存,例如 hot.NewHotCache[string, *User](hot.WTinyLFU, 10_000).WithTTL(5 * time.Minute).WithJanitor().Build(),并 defer cache.StopJanitor();通过 Set、SetWithTTL、Get 读写。加载器模式下,Get 未命中会触发批量加载函数,并发同键请求共享一次调用。容量估算按 memoryBudget/estimatedItemSize 计算,条目开销约 100 字节。

限制与常见错误:忘记 WithJanitor() 会导致过期条目滞留内存;未配置 missing cache 就调用 SetMissing() 会 panic;WithoutLocking() 与 WithJanitor() 互斥;缓存过大等同带开销的 map,建议按工作集约总量 10-20% 设置并监控命中率;忽略加载器错误会返回 (zero, false, err)。建议始终设置 TTL、使用 WithJitter 分散过期、用 WithPrometheusMetrics 监控、对可变值使用 WithCopyOnRead/WithCopyOnWrite。详细算法对比、生产模式与完整 API 请参考库文档。