SuperAPI AI 工具集

Build a Large Language Model (From Scratch)

《Build a Large Language Model (From Scratch)》是由 Sebastian Raschka 编写、Manning 出版的图书,指导读者从头构建一个可运行的大语言模型(LLM)。书中逐步讲解 LLM 的注意力机制和 GPT 风格 Transformer 的实现,涵盖规划与编写 LLM 各部分、准备适合训练的数据集、对 LLM 进行文本分类和自定义数据微调、使用人类反馈使模型遵循指令、加载预训练权重等。模型可在普通笔记本电脑上开发,并可作为个人助理使用。

访问官网

工具介绍

Build a Large Language Model (From Scratch) 是一本由畅销书作者 Sebastian Raschka 编写的图书,旨在手把手教你创建自己的大语言模型(LLM)。每个阶段都通过清晰的文字、图表和示例进行解释。你将经历从初始设计和创建,到在通用语料库上预训练,再到针对特定任务微调的完整过程。

主要用途:本书面向希望深入理解并亲手构建 LLM 的读者。它带你进入 AI 黑盒内部,动手调整驱动生成式 AI 的内部系统。通过完成 LLM 创建的关键阶段,你将深入理解 LLM 的工作原理、局限性以及自定义方法。构建的 LLM 可在普通笔记本电脑上开发,并可作为你自己的个人助理使用。

主要能力:书中教授以下内容:规划和编写 LLM 的所有部分;准备适合 LLM 训练的数据集;对 LLM 进行文本分类和自定义数据微调;使用人类反馈确保 LLM 遵循指令;将预训练权重加载到 LLM 中。具体而言,你将学会规划并编写一个可与 GPT-2 媲美的 LLM、加载预训练权重、构建完整的训练流程、对 LLM 进行文本分类微调、开发遵循人类指令的 LLM。

使用方式:本书提供纸质版(黑白印刷)、eBook(PDF、ePub、在线)以及在线+音频(可读可听)版本。可通过 Manning 订阅获取:Pro 订阅每月 24.99 美元,可访问所有 Manning 图书、MEAP、liveVideos、liveProjects 和有声书,每月可选一本免费 eBook 保留,所有购买享 50% 折扣,按月续订,可随时暂停或取消;Lite 订阅每月 19.99 美元,可访问所有 Manning 图书(包括 MEAP)。团队可购买 5、10 或 20 个以上席位。订阅续订时可选免费产品,每年可选十二个免费产品。

适用场景:本书适合想要从零构建 LLM 的开发者、研究人员和爱好者。读者应具备一定的编程基础。书中讨论的 LLM 可应用于聊天机器人、机器翻译、文本摘要、情感分析和内容创作等任务,并可能变革客户服务、教育、医疗和研究等领域。书中指出,借助本书可构建出能力上与 GPT-2 类似的聊天机器人;GPT-3 规模更大更复杂,需要大量计算资源和数据,超出本书范围,但所学基础知识仍适用于理解和处理类似 GPT-3 的模型。

限制与注意事项:书中提到 LLM 面临的关键挑战包括处理偏见、确保安全与道德使用、保持透明度和可解释性、确保数据隐私和安全。伦理问题包括潜在的工作岗位流失、错误信息传播、偏见延续以及恶意滥用 LLM。训练 LLM 强烈建议使用 GPU,因其并行计算能力可显著加速训练过程。本书强调从零构建模型,而非仅微调现有模型,涵盖开发和训练自己的大语言模型所需的基本概念和技术。

其他信息:ISBN 9781633437166。提供复杂中文、德语、意大利语、日语、韩语、波兰语、俄语、简体中文、西班牙语版本。印刷版包含 eBook。第一章节提供音频和摘要。本书为畅销书,获得读者好评,被誉为“真正鼓舞人心”“迄今最易懂、最全面的语言模型解释”“权威且最新的覆盖,强烈推荐”。