AI-Writer 是一个开源的中文小说生成项目,由 BlinkDL 开发,采用其自研的 RWKV 模型,类似 GPT-2 架构,但据称速度更快。该项目主要用于生成玄幻、言情等网络小说文本,支持 N/A/I 卡 GPU 加速。
用途 AI-Writer 的核心用途是中文小说续写与生成。用户提供开头文字,模型可自动续写后续内容。项目训练数据全部来自网文,因此生成风格偏向网络文学,但缺乏生活常识,生成内容仅供娱乐。
主要能力
- 支持中文小说生成,尤其擅长玄幻和言情网文。
- 采用 RWKV 模型,支持 N/A/I 卡 GPU 加速,也可使用 CPU 生成。
- 提供 Python 版网页界面,可通过浏览器交互。
- 使用特殊采样方法改善小模型生成质量。
- 模型支持 8849 种汉字,每个字对应输入组和输出组向量。
使用方式
- 下载模型:从 GitHub Releases 页面下载对应版本(N 卡或 A/I 卡),解压到 model 目录。
- 运行:执行 python run.py(或双击 run.bat),建议在 cmd 中运行以查看错误提示。
- 网页界面:执行 python server.py(或双击 server.bat),然后打开 web-client 中的 index.html(推荐 Chrome)。
- 小白用户可使用网页版:https://blinkdl.github.io/AI-Writer/ (功能较弱,但手机可用)。
- 安装方法参考知乎专栏链接,需安装精确版本(如 Python 3.8.x,Windows 10 64位 21H1)。
适用场景
- 网络小说创作者寻找灵感或辅助续写。
- 对中文文本生成模型感兴趣的研究者或开发者。
- 娱乐性质的文本生成实验。
限制
- 模型训练数据全部来自网文,缺乏生活常识,生成内容可能不符合现实逻辑。
- 项目已过时,作者推荐使用更新的 RWKV-Runner(https://github.com/josStorer/RWKV-Runner)和在线版(https://modelscope.cn/studios/BlinkDL/RWKV-CHN/summary)。
- 生成文字仅供娱乐,需遵守法律法规。
- 安装需特定环境,可能对新手有门槛。
其他信息
- 训练代码:https://github.com/BlinkDL/RWKV-LM
- 网友移植的 Paddle 版:https://github.com/JunnYu/Paddle-AI-Writer
- 用户 QQ 群:553456870(加入需自我介绍),研发群:325154699,TG 群:https://t.me/ai_writer
- 作者知乎:https://www.zhihu.com/people/bopengbopeng