《Foundations-of-LLMs》是一本面向大语言模型学习者的开源书籍,由浙江大学团队创作并维护。该书旨在为对大语言模型感兴趣的读者系统讲解相关基础知识,并介绍前沿技术。作者团队表示将持续进行月度更新,听取开源社区及专家建议,致力于打造易读、严谨、有深度的大模型教材。
本书第一版包括六章内容:传统语言模型、大语言模型架构演化、Prompt工程、参数高效微调、模型编辑、检索增强生成。为增加易读性,每章分别以一种动物为背景对具体技术进行举例说明,因此本书以六种动物作为封面。书中内容来源于作者团队对相关方向的探索与理解。
使用方式方面,项目仓库提供当前完整的书籍PDF版本,路径为“大模型基础.pdf”。此外还提供两个文件夹:“大语言模型分章节内容”包含各章节的PDF版本;“大语言模型相关论文”包含各章节的相关论文,且处于不断更新中。每章内容还配备相关的Paper List,以跟踪相关技术的最新进展。
适用场景包括:学习大语言模型基础知识的读者、相关课程教学参考、科研入门等。作者团队还表示后续将探索大模型推理加速、大模型智能体等方向,相关内容将陆续补充到后续版本中。
此外,该团队还开源了一款多智能体开发框架Agent-Kernel,据描述,一百个智能体可以在自己的笔记本电脑上运行,适用于科研、毕设、大创、SRTP等场景。Agent-Kernel的GitHub地址为https://github.com/ZJU-LLMs/Agent-Kernel。
限制或暂未提供的信息:本书的定价、购买方式、具体平台支持、使用效果等未在资料中说明。如有其他问题,可发送邮件至xuwenyi@zju.edu.cn联系。