用途
本文介绍了一种利用 OpenAI 嵌入模型(embeddings)为文本创建自定义标度(如具体-抽象、悲伤-快乐)的方法。作者在开发写作辅助应用 PenPal 时,希望帮助写作者“让隐含变得明确”,即通过可视化手段分析他人或自己的写作风格,例如识别句子的抽象程度,从而更好地理解“抽象阶梯”这一写作概念。
主要能力
该方法的核心能力是:给定一个标度的两个极端(例如“具体”和“抽象”),通过嵌入模型将示例词或短语转换为向量,并计算两个极端向量的平均位置作为锚点。对于任何新样本,将其嵌入向量映射到两个锚点之间的连线上,得到一个可解释的分数(0 到 1 之间),表示该样本在标度上的相对位置。
文章列举了该方法的几个优点:
- 嵌入模型相对便宜:截至 2023 年 8 月 8 日,1,000 个 token 仅需 $0.0001,而 GPT-4 为 $0.03。
- 标度易于创建:只需几个“极端”端的示例。
- 返回的数字具有可解释性:得分为 0.5 的句子正好位于两个示例的中间。
- 用户可轻松创建自定义标度,例如用几个“悲伤”词作为负端、几个“快乐”词作为正端来构建情感标度。
使用方式
文章描述了实现思路:
- 选择标度两端的示例词或短语(例如“具体”端用“血淋淋的刀”“念珠”等,“抽象”端用“自由”“文化”等)。
- 使用 OpenAI 嵌入模型将这些示例转换为向量。
- 分别计算两端示例向量的平均值,得到两个锚点向量。
- 对于新样本,获取其嵌入向量,并计算该向量在两个锚点连线上的投影位置,得到一个 0 到 1 之间的分数。
文章提到作者在 PenPal 中应用了该方法,并展示了实际效果。作者还鼓励读者在 Twitter 上分享想法。
适用场景
该方法适用于需要量化文本在某个维度上相对位置的场景,例如:
- 写作辅助:分析句子的抽象程度、情感倾向等,帮助写作者改进风格。
- 文本比较:比较不同作者(如海明威、斯蒂芬·金、约翰·斯坦贝克)的写作风格。
- 自定义标度:用户可根据需求定义任意标度,如正式-随意、积极-消极等。
限制
文章指出该方法并非完美:
- 对某些类型的标度效果更好,对另一些可能不理想。
- 可能受句子长度影响,产生偏差。
- 作者在初步实验中发现“具体-抽象”和“悲伤-快乐”标度效果较好,但需要更多实验验证。
文章未提供具体的代码实现或安装命令,也未提及收费、价格等商业信息。