用途
《大语言模型》是一本面向初学者的中文技术书籍,旨在系统讲解大模型技术的整体框架与路线图,为读者提供中文参考资料,帮助普及和传播大模型技术的最新进展与技术体系。
主要能力
本书适用于具有深度学习基础的读者,可作为基础的大模型参考书籍。内容涵盖预训练、微调、对齐、提示工程等众多基础内容,并基于编者长期从事大模型技术的研究经验及研发文澜、玉兰等模型的第一手经验进行组织与讲解。各章节由团队分工负责,具体分工如下:第三章负责人闵映乾、杨晨,参与李军毅、周昆;第四章负责人张君杰、侯宇蓬、周昆;第五章负责人董梓灿,参与田震、唐天一;第六章负责人唐天一、陈昱硕;第七章负责人唐天一,参与成晓雪;第八章负责人李军毅、陈志朋;第九章负责人陈昱硕、刘沛羽、唐天一,参与周昆;第十章负责人李军毅、汤昕宇、都一凡,参与王晓磊;第十一章负责人任瑞阳、蒋锦昊,参与李军毅;第十二章负责人张北辰、周昆,参与张高玮;第十三章负责人周昆,参与蒋锦昊、李依凡、刘子康、孙文奇、王禹淏、徐澜玲、杨锦霞、郑博文。
使用方式
本书可作为深入学习大模型技术的参考书籍。配套资源包括:
- 课程教学PDF课件:将本纸质书籍列为主要授课书籍的课程,可使用机构邮箱联系 rucaibox at 163.com 申请原始PPT课件。邮件标题格式为:《大语言模型》PPT课件-{姓名}-{机构}。未经许可不得二次传播和上网传播。对于没有个人和课程的基本介绍、拷贝模板内容、没有使用所在机构认证邮箱的邮件,以及公司培训和个人学习用途(公司需求需走商业流程,个人学习可直接使用pdf版本),不予回复。
- 代码片段:所有本书中的代码片段已公开在GitHub(原文链接:code)。
- 教学视频:相关课程教学视频已公开在bilibili网站(原文链接:观看视频)。
- 电子版:提供之前的中文书电子版本下载链接(下载链接1、下载链接2)。
- 反馈渠道:意见、评论及建议可通过GitHub的Issues页面反馈,或发送邮件至作者邮箱 batmanfly at qq.com、lijunyi at ruc.edu.cn、francis_kun_zhou at ruc.edu.cn、steventianyitang at outlook.com。
适用场景
适合具有深度学习基础的读者学习大模型技术,可作为高校相关课程的授课用书或参考书,也可供相关从业人员系统学习参考。
限制
本书定位为面向初学者的整体技术讲解,并非英文综述的简单翻译,内容进行了大范围更新与重组。读者需具备深度学习基础。配套PDF课件仅限将本书列为主要授课书籍的课程申请,且不得二次传播和上网传播;未经许可不得传播。公司培训和个人学习用途的课件申请不予回复(个人学习可直接使用pdf版本)。大模型应用章节未纳入正式出版,一切内容以正式出版物为准。编写团队计划在网上持续更新和完善内容,欢迎读者提出批评与建议。
背景与来源
编写团队于2023年3月发表英文综述《A Survey of Large Language Models》,并不断更新完善,已更新至第14个版本,95页正文、1064个参考文献。2023年8月发布该综述(v10)的中文翻译版。2023年12月底启动中文书编写,2024年4月完成初稿,历经5个月修正与完善后出版。本书凝聚“玉兰”项目团队的核心开发经验,玉兰项目在提供主流PyTorch实现的同时,也完成了对PaddlePaddle框架的同步支持(PaddlePaddle版本),确保技术的通用性与自主性。本书的撰写与出版工作获得北京市科技计划立项支持。
推荐
张宏江(北京智源人工智能研究院学术顾问委员会主任、美国国家工程院外籍院士)评价本书内容深入结合编者第一手经验,全面覆盖大模型技术多方面知识,强烈推荐阅读。鄂维南(北京大学讲席教授、中国科学院院士)评价本书具有重要参考与学习价值。张亚勤(清华大学智能科学讲席教授、中国工程院外籍院士)评价本书涵盖预训练、微调、对齐、提示工程等众多基础内容,能为相关从业人员提供权威、系统的学习参考。