大语言模型安全:构建安全的AI应用 pdf电子书[43MB] 2026-04-14 本书围绕大语言模型应用程序的安全问题展开,共12章,分三个部分层层递进。第一部分(第1-3章)以真实案例引入大语言模型应用程序面临的安全挑战,介绍作者创立的应对项目及经验,同时探讨大语言模型应用架构与数据流控制的重要性,搭建知识框架。第二部分(第4-9章)剖析开发大语言模型应用程序的主要风险,既包含注入攻击、敏感信息泄露等传统安全风险,也涵盖训练数据投毒、幻觉等新兴AI系统特有的问题,每章通过实际案例分析,揭示风险及影响,并给出预防和减轻风险的建议。第三部分(第10-12章)通过科幻故事案例警示安全漏洞叠加的危害,阐述将安全实践融入软件开发全流程的方法,并展望大语言模型与AI技术的发展趋势,引入负责任的人工智能软件工程(RAISE)框架,助力读者维护软件安全。 目录前言1第1章 聊天机器人之殇91.1 让我们谈谈Tay91.2 Tay的光速堕落101.3 为什么Tay会失控111.4 这是一个棘手的问题13第2章 OWASP大语言模型应用十大安全风险152.1 关于OWASP162.2 大语言模型应用十大风险项目172.3 本书与十大风险榜单20第3章 架构与信任边界223.1 人工智能、神经网络和大语言模型:三者有何区别223.2 Transformer革命:起源、影响及其与LLM的关系233.3 基于大语言模型的应用类型263.4 大语言模型应用架构273.5 结论35第4章 提示词注入364.1 提示词注入攻击案例374.2 提示词注入的影响404.3 直接与间接提示词注入424.4 缓解提示词注入风险444.5 结论50第5章 你的大语言模型是否知道得太多了525.1 现实世界中的案例525.2 知识获取方法565.3 模型训练565.4 检索增强生成615.5 从用户交互中学习715.6 结论72第6章 语言模型会做电子羊的梦吗746.1 为什么大语言模型会产生幻觉756.2 幻觉的类型766.3 实例分析766.4 谁该负责826.5 缓解最佳实践836.6 结论91第7章 不要相信任何人927.1 零信任解码937.2 为什么要如此偏执947.3 为大模型实施零信任架构957.4 构建输出过滤器1027.5 结论106第8章 保护好你的钱包1078.1 拒绝服务攻击1088.2 针对大模型的模型拒绝服务攻击1108.3 拒绝钱包攻击1148.4 模型克隆1158.5 缓解策略1168.6 结论118第9章 寻找最薄弱环节1199.1 供应链基础1209.2 理解大语言模型供应链1259.3 建立供应链追踪工件1299.4 大语言模型供应链安全的未来1389.5 结论143第10章 从未来的历史中学习14510.1 回顾OWASP大语言模型应用程序十大安全风险14510.2 案例研究14610.3 结论153第11章 信任流程15411.1 DevSecOps的演进历程15511.2 将安全性构建到大模型运维中15711.3 大模型开发过程中的安全性15711.4 运用防护机制保护应用程序16111.5 应用监控16411.6 建立你的AI红队16511.7 持续改进16911.8 结论171第12章 负责任的人工智能安全实践框架17312.1 力量17412.2 责任18112.3 结论188资源下载 资源下载 打赏是您对我们最大的鼓励! 阅读:112 评论:0 上一条 AI绘画极简入门与应用:豆包、即梦绘画方法与提示词技巧 pdf电子书[57MB] 下一条 《智能客服系统构建与应用——以DeepSeek为例》董宁 pdf电子书[19MB]