《大模型项目实战:多领域智能应用开发》高强文【文字版_PDF电子书_雅书】

《大模型项目实战:多领域智能应用开发》封面图片
书名:大模型项目实战
作者:高强文
出版社:机械工业出版社
译者:
出版日期:2024-09
页数:/
ISBN:9787111762348
0.0
豆瓣评分

当当正版

京东图书

孔网购买

全网资源

内容简介:

本书系统地讲解了大语言模型的实战应用过程,涵盖基础知识、常见操作和应用开发3个方面,帮助大语言模型的使用者、应用开发者循序渐进地掌握大模型的原理、操作以及多个场景下的应用开发技能。全书共18章,分为三篇:?基础篇介绍大语言模型的基础知识、应用架构和应用工作模式。?操作篇详细讲解大模型的实操环节,包括环境搭建、多种有代表性的开源大语言模型的安装、微调与量化等常见操作。?开发篇讲述大语言模型在Chat、辅助编程、RAG、翻译、AI Agent、智能语音对话、数字人、模型训练、AI小镇这9个领域的应用开发过程,从工作原理、源码分析、部署运行和测试验证等方面进行了详细介绍。中间还穿插讲解了VS Code插件的开发,丰富了应用运行的场景。

作者简介:

高强文

互链高科(北京)技术发展有限公司总经理,银川方达电子系统工程有限公司董事长,宁夏回族自治区劳动模范。专注于人工智能大语言模型应用开发、开源社区开发与运营。参加工作20多年来,一直从事医疗健康领域信息化、人工智能等产品研发与管理工作,近年来致力于开源事业,开发运营aliendao.cn、gitclone.com和opendao.cn等开源社区,在GitHub上贡献了20多个开源代码库。

目  录:

前 言

基础篇

第1章 大语言模型的基础知识 3

1.1 大语言模型概述 4

1.1.1 基本情况 4

1.1.2 发展历史 4

1.1.3 发展现状 6

1.1.4 发展趋势 7

1.2 基本原理 7

1.2.1 Transformer架构 8

1.2.2 编码器与解码器 8

1.2.3 自注意力机制 9

1.3 应用开发技术 11

1.3.1 Python 11

1.3.2 React.js 11

1.4 训练方法 12

1.4.1 FFT 12

1.4.2 RLHF 13

1.4.3 P-Tuning 13

1.4.4 LoRA 13

1.5 常见现象 13

1.5.1 幻觉 14

1.5.2 灾难性遗忘 14

1.5.3 涌现 14

1.5.4 价值对齐 15

第2章 大语言模型应用架构 16

2.1 整体架构 16

2.2 基础设施 17

2.2.1 硬件部分 17

2.2.2 操作系统 18

2.3 基础软件 18

2.3.1 CUDA 18

2.3.2 PyTorch 18

2.3.3 Anaconda 19

2.3.4 Nginx 19

2.4 应用软件 20

2.4.1 大语言模型文件 20

2.4.2 Transformers库 20

2.4.3 服务程序 20

2.4.4 API 21

2.4.5 客户端程序 21

第3章 大语言模型应用的工作模式 22

3.1 硬件部署 22

3.2 应用软件部署 23

3.3 运行模式 24

3.3.1 模型API服务的工作模式 24

3.3.2 模型API服务的运行过程 25

3.3.3 前后端交互方法 26

3.3.4 前端实现 27

操作篇

第4章 应用环境搭建 31

4.1 基础设施 31

4.1.1 服务器要求 31

4.1.2 操作系统准备 31

4.1.3 推理卡安装 32

4.2 基础软件安装 32

4.2.1 Linux 32

4.2.2 Windows 40

4.3 其他软件安装 41

4.3.1 Nginx 41

4.3.2 Git 42

第5章 大语言模型安装 43

5.1 ChatGLM安装 43

5.1.1 ChatGLM3模型介绍 43

5.1.2 ChatGLM3-6B安装 44

5.1.3 编程验证 45

5.2 Qwen-VL安装 47

5.2.1 Qwen模型介绍 47

5.2.2 Qwen-VL-Chat-Int4安装 47

5.2.3 编程验证 49

5.3 LLaMA2安装 50

5.3.1 LLaMA2模型介绍 50

5.3.2 Llama-2-7b-chat安装 51

5.3.3 运行验证 51

5.4 Gemma安装 54

5.4.1 Gemma模型介绍 54

5.4.2 Gemma-2B安装 55

5.4.3 编程验证 55

5.5 Whisper安装 57

5.5.1 Whisper-large-v3介绍 57

5.5.2 Whisper-large-v3安装 57

5.5.3 编程验证 58

第6章 大语言模型微调 60

6.1 ChatGLM微调 60

6.1.1 微调方法介绍 61

6.1.2 微调环境准备 61

6.1.3 语料准备 62

6.1.4 模型下载 65

6.1.5 微调过程 65

6.1.6 微调模型测试 67

6.2 LLaMA2微调 68

6.2.1 微调方法介绍 68

6.2.2 微调环境准备 69

6.2.3 语料准备 70

6.2.4 模型下载 71

6.2.5 微调过程 71

6.2.6 PEFT微调模型测试 73

6.2.7 模型合并 74

6.2.8 合并后模型测试 74

6.3 Gemma微调 74

6.3.1 微调方法介绍 74

6.3.2 微调环境准备 75

6.3.3 模型下载 75

6.3.4 微调程序开发 75

6.3.5 语料文件下载 77

6.3.6 微调与测试过程 78

第7章 大语言模型量化 79

7.1 量化介绍 79

7.2 llama.cpp量化过程 80

7.2.1 llama.cpp编译 80

7.2.2 模型GGUF格式转换 81

7.2.3 模型下载 81

7.2.4 量化过程 81

7.2.5 量化模型测试 82

7.2.6 Web方式运行 82

7.3 gemma.cpp量化过程 83

7.3.1 gemma.cpp源码下载 83

7.3.2 gemma.cpp编译 83

7.3.3 量化模型下载 84

7.3.4 推理 84

第8章 多模态模型应用 86

8.1 Stable Diffusion介绍 86

8.2 Stable Diffusion部署 87

8.2.1 代码获取 87

8.2.2 Python虚拟环境准备 87

8.2.3 依赖库安装 87

8.2.4 模型下载 88

8.2.5 服务运行 88

8.3 Stable Diffusion应用 88

8.3.1 文生图应用 89

8.3.2 图生图应用 90

开发篇

第9章 Chat应用 94

9.1 目标 94

9.2 原理 94

9.2.1 功能概要 94

9.2.2 系统架构 95

9.2.3 运行原理 96

9.3 开发过程 96

9.3.1 Node.js安装 96

9.3.2 chat-app新建 96

9.3.3 源代码 97

9.3.4 测试 98

9.3.5 应用发布 99

第10章 辅助编程应用 102

10.1 目标 103

10.2 原理 103

10.2.1 功能概要 103

10.2.2 系统架构 103

10.2.3 运行原理 104

10.3 开发过程 104

10.3.1 开发环境准备 104

10.3.2 测试模型准备 105

10.3.3 API服务实现 106

10.3.4 测试 110

第11章 VS Code插件 112

11.1 目标 112

11.2 原理 112

11.2.1 功能概要 112

11.2.2 系统架构 113

11.2.3 运行原理 114

11.3 开发过程 114

11.3.1 环境准备与项目创建 115

11.3.2 插件开发 115

11.3.3 插件发布 118

第12章 检索增强生成应用 121

12.1 目标 121

12.2 原理 122

12.2.1 功能概要 122

12.2.2 系统架构 123

12.2.3 运行原理 124

12.3 开发过程 125

12.3.1 大语言模型安装 125

12.3.2 依赖库安装 125

12.3.3 向量化模型下载 126

12.3.4 源代码 126

12.3.5 测试 128

第13章 PDF翻译应用 130

13.1 目标 130

13.2 原理 130

13.2.1 功能概要 130

13.2.2 系统架构 131

13.2.3 运行原理 131

13.3 开发过程 135

13.3.1 大语言模型安装 135

13.3.2 依赖环境安装 135

13.3.3 下载英译中模型 135

13.3.4 源代码 136

13.3.5 测试 138

第14章 智能代理应用 140

14.1 目标 140

14.2 原理 141

14.2.1 AI Agent 141

14.2.2 AutoGen 141

14.3 开发过程 143

14.3.1 大语言模型安装 143

14.3.2 Docker安装 144

14.3.3 虚拟环境准备 145

14.3.4 运行环境验证 145

14.3.5 多代理会话应用开发 146

第15章 语音模型应用 149

15.1 目标 149

15.2 原理 149

15.2.1 功能概要 149

15.2.2 系统架构 150

15.2.3 运行原理 151

15.3 开发过程 152

15.3.1 运行环境安装 152

15.3.2 模型下载 153

15.3.3 Demo运行 153

15.3.4 服务端开发 154

15.3.5 客户端开发 160

15.3.6 测试 163

第16章 数字人应用 166

16.1 目标 166

16.2 原理 167

16.2.1 功能概要 167

16.2.2 系统架构 167

16.2.3 运行原理 168

16.3 开发过程 169

16.3.1 环境准备 169

16.3.2 源代码 173

16.3.3 测试 177

第17章 提示词生成应用:从零训练

模型 179

17.1 目标 179

17.2 原理 180

17.2.1 GPT-2 180

17.2.2 训练流程与应用架构 181

17.2.3 训练方法与运行原理 182

17.3 开发与训练过程 185

17.3.1 语料整理 186

17.3.2 训练 188

17.3.3 推理与服务 196

17.3.4 测试 202

第18章 AI小镇应用 204

18.1 目标 204

18.2 原理 205

18.2.1 功能概要 205

18.2.2 系统架构 206

18.2.3 运行原理 207

18.3 开发过程 209

18.3.1 大语言模型安装 210

18.3.2 开发环境搭建 210

18.3.3 地图制作 210

18.3.4 app.js 211

18.3.5 BootScene.js 213

18.3.6 GameScene.js 213

18.3.7 ChatUtils.js 218

18.3.8 测试 219

为您推荐