小白程序员轻松入门大模型应用开发（保姆级学习路线）

本文分享了大模型应用开发的核心概念包括Agent Loop、Context Engineering和Harness Engineering并提供了推荐的学习顺序和资源。作者从个人学习经历出发阐述了如何通过实践和理解关键技术如RAG、知识图谱、上下文管理等逐步掌握大模型应用开发。文章强调务实思维和持续学习的重要性并推荐了多个学习资源和开源项目旨在帮助读者更好地理解和应用大模型技术。我是如何学习大模型应用开发的大模型应用开发的一些概念关系上面整理出来的是我自己对于大模型应用开发的理解也结合了一些技术和概念的变化时间线仅供各位朋友参考不一定准确我觉得大模型应用开发最重要的是这三个东西Agent Loop、Context Engineering、Harness Engineering最近好像又新出了很多层的概念在harness engineering之上但是我个人现在并不喜欢所以没去做更深入的了解我觉得新出的很多概念没有出现新的基础元素只是融合现有的然后加深了一下理解所以我个人的想法是了解即可知道有这么个东西就可以Agent Loop是运行的核心是一切的基础用户输入任务LLM输出指令工具执行并返回结果不断的循环直到结束Context Engineering在静态系统提示词结构不断稳固之后发现Agent Loop在运行中是需要大量的动态信息的并且常见有效的动态信息是用户记忆、会话历史记录、用户输入、系统提示词、工具定义等那么这个时候就有了Context Engineering这个概念上下文是Agent Loop有效的关键在Agent长程运行中上下文不断积累会出现各种各样的问题漂移、污染、干扰、冲突等所以我们需要上下文管理的方法需要渐进式加载的概念Harness Engineering是Agent稳定运行的关键它为Agent搭建运行空间设计Agent的能力结构、协作机制和反馈闭环其不能仅仅从约束的角度去理解更应该是在创造Agent的运行环境让LLM可以做到原本无法做到的事情推荐的学习顺序然后我按照自己的理解大概梳理一下学习的顺序和方向给学习的朋友一些“经验之谈”当然下面的这些概念我都单独梳理过一些文章和实践经验会搭配一些代码讲解感兴趣的朋友可以借助这个学习手册来更好的了解还有一些其他值得多聊的事情我这边继续补充一些我自己的理解对于RAG和知识图谱的理解我认为这个来源于“背景信息”这一种类型的上下文我没办法准确的去下定义我只是有一种淡淡的理解。用户输入的问题LLM需要解决是需要一些背景信息的有时候用户可以手动补充模型也可以依靠推理能力去补充澄清但更多的情况下LLM需要依靠工具系统去动态的检索到这些“背景信息”那么检索流程中最关键的手段就是RAG和知识图谱我甚至觉得Harness Engineering诞生在Agent领域中也是因为“背景信息”作为一个突破口出现的。上下文管理是一个值得深入探索的方向Agent借助Skill来达到上下文层面的自进化是一个上下文管理的具体应用我相信这个里面还有很多有趣的东西值得去深挖目前来看比较常见的是上下文压缩文件存储检索上下文编排渐进式披露等。在工具设计中如果要有一层“宗门长老“的概念的话我觉得是Edit、Bash、Read、Glob、Grep、Wirte这“六位宗门长老”Bash工具甚至可以是“大长老”级别的。而目前最有难度的是Bash工具运行时的安全和输出问题而Browser Use和Computer Use是为数不多的有趣的方向了Agent形态方面现在还在不断的变化吧之前大家还会讨论Agent是自主运行好还是协同驾驶好现在看来各有各的的领域优势了在任务确定的领域中自主运行借助如今的模型推理能力完全可以覆盖住在创作领域中协作驾驶还是有一席之地的用户在Agent输出的产物中手动的进行各种小微调同时也可以直观的看到Agent的中间执行链路。单智能体和多智能体的方式我觉得单智能体一个SubAgent的能力其实就非常好用啦如果设计成比较纯净的多智能体成本是可以下降的但混乱系数会大大增加不仅对于某些模型的能力要求高同时上下文管理的难度是指数级上升的还会添加多智能体协作的概念这是一个很有魅力的领域很有挑战的领域。接下来是我近期最感兴趣的方向了也是大模型应用开发工程师们最容易忽略的但在Agent开发中是最重要的甚至可以说没有它存在你的Agent只是一个没有方向的经验产物。没错这个东西就是Agent评估在构建一个Agent之前或者说在设计一个Harness之前你需要先存在一批数据集以此来确定Agent的能力边界和迭代方向Agent评估在开发中可以帮助你不断打磨提示词、上下文、工具等。同时在数据集评估的过程中通过对于执行链路和结果的观察你会产生一些Agent垂直化的方向最后你可以通过评估结果来确定它在混乱环境中的运行情况。Agent评估非常值得成为构建的第一步我的学习经历我是从24年大学毕业的时候大概6月份开始学习的当时第一个需求是批量根据一个固定的提示词生成文章我当时调用的是百川大模型当时要毕业答辩啦所以回了一趟学校我调试了很久我记得是在宿舍晚上10点左右调通的就是一个简单的for循环的API调用那是第一次看到LLM API的请求格式。之后在接触到LangChain里面有一个概念叫做检索器里面涉及到向量知识库嵌入模型当时我们团队有一些语义上的需求检索所以借助这个机会我去了解LangChain和向量数据库在学LangChain的时候很多概念都非常懵逼不知道什么意思封装的在我看来很复杂当时硬啃了好几天慢慢的有了一些感觉LLM供应商的封装tools方法的定义和使用链式调用等概念期间不断了解到各种框架也在系统性的学习提示词工程我对于LangChain和LangGraph学的比较多算是我的入门框架。再后来 Cursor 等 Coding Agent 开始火热我被 Agent 协同的模式吸引开始关注工作流编排、工具定义、知识图谱等也用飞书多维表格 RAG LangGraph 搭了团队第一个 Agent 项目在做一个Agent项目的过程中我形成了自己对于上下文工程的理解一个Agent是否有效取决它注入那一刻的上下文是否正确我开始深入了解一些技术细节RAG的检索策略工具的定义LLM模块的设计上下文编排。同期ClaudeCode、gemini-cli、opencode开始出现我就开始研究这些开源框架研究cli 的方式发现不需要RAG通过工具形成的本地检索也就是搜索Agent随着模型能力的提升这种方式变得极其有效这个时候我们团队的第一个Agent项目的V2版本开始迭代了工作流的方式只能让效果还行在模型不断提升的能力面前工作流不仅得不到提升反而成为了好结果的束缚开始显露出鸡肋的感觉了我当时在一篇文章看到“模型应用的开发要站在模型的同一侧不要站在模型的对立面”。所以V2版本我们决定采用多智能体自定义工具设计的方式。在之后关于如何让一个Agent可以长时间稳定运行的问题开始出现了一个Agent可以不断的运行多久才会崩溃上下文会变得极其混乱这个时候的上下文管理开始慢慢出现了以此同时Harness Engineering也开始诞生OpenAI和Anthropic都发布过工程博客的文章一个是专注于上下文工程和反馈闭环一个专注于编排所以我结合这两篇文章开始构建自己对于Harness Engineering的初步理解并且后续也在不断的调整这个时候我也在更深入具体的了解Coding Agent都有哪些工具这些工具是如何定义的上下文的压缩策略是什么指令又有哪些Skill对于上下文工程意味着什么等问题现在我的方向是多智能体协作上下文管理Agent评估Harness的自进化我觉得这几个方向很有意思值得做更多的探索和学习还有一个比较有意思的是DeepSeek Harness的一切皆插件的理念存在着一种可能Agent Loop可以更换我很喜欢这一点它让沉默的Harness仿佛再次焕发生命力或许可以这么理解大模型应用开发一切皆可能当Agent要面对复杂环境时静态固定的方式很大程度会失效开发者不可能在一开始就穷举复杂环境的问题所以动态自进化的方式是值得尝试的甚至很可能是一种很好的解法我的学习资源的推荐飞书里面的通往AGI之路知识库https://waytoagi.feishu.cn/wiki/QPe5w5g7UisbEkkow8XcDmOpn8eAnthropic工程实践文章https://www.anthropic.com/engineeringClaude团队博客https://claude.com/blogAnthropic的研究文章https://www.anthropic.com/researchCursor团队博客https://cursor.com/cn/blogLilian个人博客https://lilianweng.github.io/ClaudeCode的文档https://code.claude.com/docs/en/overviewLennysPodcast的视频https://www.youtube.com/LennysPodcastPi的文档和源码https://github.com/earendil-works/pi、https://pi.dev/docs/latest我对于大模型应用开发的理解在我自己开源项目中有2篇我很喜欢的博客一篇是《两种世界的交互形态协同Agent与自主Agent》另外一篇是《编程 Agent 的工程实践来自 OpenAI 与 Anthropic 的实战经验》这个开源项目的理念我觉得也不错上下文工程是设计原则Harness是建造目标在这一大段时间的学习和实践中我也在不断的想一个问题对于大模型应用开发来说什么样的思维和理解是有帮助的呢我稍微整理了一些想法谨小认知仅供参考1. 务实的品质可以让大模型应用开发工程师走的更远做的更多务实让开发者不困于“过度冗长且孤立”的思考中可以寻找到简单有效的解决方案2. 像你的Agent一样思考借助执行日志观察上下文工程的设计缺陷观察Harness的运行漏洞3. 人类观察Agent的行为很重要Agent观察人类的行为也很重要4. 「Lead, don’t follow」去从第一性原理思考事情的本质去发现和构建新的东西5. 不要轻易放弃底层技术的学习它们会极大的给你提供新的视角要学会站在巨人的肩膀上如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。大模型入门到实战全套学习大礼包1、大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通2、大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。3、AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。4、大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。5、大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。适用人群第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】