dive-into-llms — 《动手学大模型Dive into LLMs》系列编程实践教程

《动手学大模型》系列编程实践教程：从入门到实战的全景解读

引言 在快速发展的人工智能时代，理解与实践大模型的能力变得愈发重要。来自上海交通大学多门课程的综合延伸，《动手学大模型》系列编程实践教程致力于把复杂的理论与前沿技术转化为可以动手操作的代码与方法论。该系列以公益、免费为原则，通过系统化的练习与示范，帮助学生、研究者和开发者快速上手大模型的微调、推理、对齐与安全等核心问题，进而推动课程设计与学术研究的实际落地。

项目背景与动机 本系列起源于两门课程的讲义扩展 —— 《自然语言处理前沿技术》（NIS8021）与《人工智能安全技术》（NIS3353），由教师张倬胜等多位学者共同推动。在他们的指引下，系列把抽象的概念拆解为可复现的编程实践，强调从预训练模型的选择、数据准备、微调策略到部署、评估与安全性等完整流程。这些内容本质上属于公益性质，向广大利益相关者免费开放，旨在帮助同学们尽早接触大模型，提升课程设计与学术研究的效率。

2025更新要点 更新于2025年6月6日，致力于提升系列的广度与深度，主要体现在以下两个方面：

• 上线国产化《大模型开发全流程》公益教程：联合华为昇腾社区，推出包含PPT、实验手册和视频的公益教程，面向不同阶段的学习者，提供基于昇腾软硬件的全流程开发指南。
• 内容扩展与新主题加入：在原系列的基础上扩展了数学推理、GUI Agent、大模型对齐、隐写术等主题，增强了对前沿研究与实际应用的覆盖面。

新上线背后的动力在于把前沿技术推向更广泛的实践场景，帮助研究者与开发者通过代码练习切实体会模型在不同任务上的表现与局限。与昇腾社区的协作不仅提升了国产化解决方案的可用性，也为贡献者提供了更广阔的落地渠道。

本系列的宗旨在于以简单、可复现的实验为桥梁，使同学们能够快速理解、尝试与改进大模型相关的关键环节，降低进入门槛，提升研究与工程实现的效率。

教程目录概览（以实践为导向的模块设计） 请以训练、推理、编辑、对齐与安全性等实际任务为导向，逐步深入大模型的能力边界。以下模块均提供三种材料：课件、教程、脚本，便于自学与二次开发。

• 微调与部署 目标：选择合适的预训练模型，在特定任务上进行微调，并将微调后的模型部署成可直接使用的演示（Demo）。 资源链接示例：

• 课件

• 教程

• 脚本

• 提示学习与思维链 目标：掌握大模型的API调用与推理技巧，理解如何通过提示工程提升回答质量，构建可靠的推理链条。 资源链接示例：

• 课件

• 教程

• 脚本

• 知识编辑 目标：学习语言模型的编辑方法，控制模型对特定知识的记忆与更新，并对编辑效果进行验证。 资源链接示例：

• 课件

• 教程

• 脚本

• 数学推理 目标：探索让大模型具备数学推理能力的方法，包含快速蒸馏或小型推理引擎的实现思路。 资源链接示例：

• 课件

• 教程

• 脚本

• 模型水印 目标：研究在模型输出中嵌入人类不可见水印的思路与实现，提升文本来源追踪与安全性。 资源链接示例：

• 课件

• 教程

• 脚本

• 越狱攻击 目标：通过安全视角理解越狱攻击的原理与防护要点，认识开放智能体环境下的潜在风险。 资源链接示例：

• 课件

• 教程

• 脚本

• 大模型隐写 目标：探索在输出文本中隐匿信息的技术，理解隐写术在对抗与安全中的应用场景。 资源链接示例：

• 课件

• 教程

• 脚本

• 多模态模型 目标：打造更真实的多模态理解与生成能力，评估多模态模型对现实任务的适用性与挑战。 资源链接示例：

• 课件

• 教程

• 脚本

• GUI智能体

  目标：让AI Agent承接日常任务，如点外卖、回消息、购物比价等，提升生活与工作中的生产力。 资源链接示例：

• 课件

• 教程

• 脚本

• 智能体安全 目标：审视开放智能体场景中的风险与安全性，探讨在实际应用中如何建立安全的智能体行为约束。 资源链接示例：

• 课件

• 教程

• 脚本

• RLHF安全对齐

  目标：基于PPO的RLHF实验，研究如何在对齐过程中的安全性与稳定性之间取得平衡，警惕潜在风险。 资源链接示例：

• 课件

• 教程

• 脚本

新上线：国产化《大模型开发全流程》系列课程 为了推动国产化实践与落地应用，我们联合华为昇腾社区上线了《大模型开发全流程》系列课程。该系列以昇腾软硬件为基础，覆盖从前沿理论到代码实践的完整开发流程，包含初级、中级、高级三个阶段，满足不同水平用户的学习需求。课程特点包括：

• 基于昇腾生态的全流程开发指南，帮助研究者与开发者快速上手并迁移到昇腾已支持的模型。
• 结合PPT、实验手册与视频材料，提供多样的学习路径，便于个人自学、教学演示与团队协作。
• 提供针对实际任务的代码示例与实验设计，帮助用户在真实场景中验证和优化模型。

课程入口与资源

• 昇腾社区入口：大模型开发学习专区，探索更多实践内容与资源。
• 所有学习路径与课程资源集中于昇腾社区的相关栏目，便于持续跟进新内容与更新。

附图展示（图像来自输入内容）

• 标题封面
• 课程封面
• 团队图像
• GUI Agent 图像

图片说明（放在本节相应位置，以增强可视体验）

• 图1：title.jpg，作为系列书籍与教程的主视觉，展现系列主题与技术气质。
• 图2：cover.png，作为教程封面的视觉代表，体现模块化与实践导向。
• 图3：team.png，呈现贡献者与合作单位的团队风貌。
• 图4：agent.png，直观表现 GUI智能体 的应用场景与交互目标。

免责声明与学术规范 本教程所有内容均来自贡献者的个人经验、公开可得的互联网数据以及日常科研工作中的积累，属于公益性质，供参考与学习使用。任何技巧和方法不保证百分百正确，使用时请结合具体任务进行验证与调整。如有问题，欢迎提交 Issue 或 PR。徽章采用互联网资源，如侵犯版权请联系我们删除，我们将积极配合处理。请在使用时遵守相关开源许可与社区规范。

欢迎贡献与参与方式 本项目仍在持续完善中，欢迎更多同行参与到以下方面：

• 提供新的主题与应用场景
• 发布教程、脚本与实验手册的改进版本
• 参与代码审阅、文档润色与示例补充
• 提出问题与修复建议，贡献 Issue 与 PR

贡献者名单（按团队归属与角色列出）

• 《动手学大模型》系列教程开发团队（上海交通大学）：
• 张倬胜、袁童鑫、马欣贝、何志威、杜巍、赵皓东、吴宗儒、吴铮、董凌众、张玉龙
• 新加坡国立大学：费豪
• 《大模型开发全流程》系列教程开发团队：
• 上海交通大学：张倬胜、刘功申、陈星宇、程彭洲、董凌众、何志威、鞠天杰、马欣贝、吴铮、吴宗儒、闫子赫、姚杳、袁童鑫、赵皓东
• 华为昇腾社区：ZOMI、谢乾、程黎明、楼梨华、焦泽昱
• 星标与社区联动
• Star History 显示该项目的关注度趋势，社区互动持续增长

结语与展望 本系列的目标不仅在于传授技能，更在于建立一个可持续的学习共同体，鼓励研究者与开发者在大模型领域进行探索、实验与创新。通过提供系统化的实战教程、丰富的案例与可复现的实验设计，我们希望帮助更多人建立对大模型的全面理解与应用能力。未来，我们将继续扩展新主题、更新示例、完善文档，并持续推动国产化生态的落地与优化。

如果你对该系列有兴趣，欢迎访问相关链接与资源，参与到新的主题与实验中来。你的贡献将使更多人受益，并推动大模型领域向着更安全、可控、高效的方向发展。

附注

• 本博客体例遵循公开信息与输入材料所提供的描述，未添加外部未授权内容。
• 如需更多背景、参考资料或特定主题的深入解读，请在下方留言或提交问题，我们会在后续更新中考虑纳入。