AI应用开发禁忌:你是工作的,不是当学生的
带了个做大模型应用开发的实习生,简历写着“熟悉Transformer、掌握RAG链路”,结果第一天就给我整破防了。让他搭个文档问答demo,他直接把整份PDF塞进Prompt,还反问我为什么不用ChatGPT直接回答。教他Prompt要做结构化设计,他回一句“学校项目都是这么调的”。那一刻我真理解为什么老员工不爱带新人了——大家出来是干活的,不是来给你当老师的。学校教的是理想环境,工作需要的是在不确定性和约束条件下把东西跑通、上线、扛住流量。
今天把入行这几个月踩过的坑和真正有用的东西整理出来,给想转大模型应用开发的朋友。
值得跟进的技术资源
李沐:《动手学深度学习》加论文精读,把Transformer吃透。
吴恩达短课:快速建立RAG和Agent的工程认知。
宝玉:模型部署和Prompt调优的一线实战,拆底层原理和踩坑记录。
Jay Alammar:可视化讲透Q、K、V,一看就懂。
LangChain/LlamaIndex官方文档:二手教程不提的细节,只能从文档和源码里挖。
日常工具链
模型平台:Hugging Face、ModelScope找模型、扒实现。
推理引擎:vLLM、TGI、llama.cpp,搞懂continuous batching和KV Cache。
应用框架:LangChain编排、LlamaIndex检索增强、LangSmith追踪。
向量库:Chroma跑实验,Milvus/Qdrant上生产,分清HNSW和IVF。
部署运维:Docker封装、FastAPI流式接口、K8s编排、Grafana告警。
学习路径,按顺序走
啃透Transformer并手写简易注意力→搞懂Embedding与检索逻辑→选一个垂直场景→搭完整RAG或Agent链路→反复调Prompt和工具调用→解决延迟、并发和显存问题→上线收集bad case再迭代。每一步都得写代码,没捷径。
必啃的基础资料
《Attention Is All You Need》原论文,面试绕不开。
《大规模语言模型:从理论到实践》,覆盖预训练到RLHF。
PyTorch官方混合精度教程,处理OOM的必修课。
OpenAI Cookbook,大量能直接用进项目的代码片段。
最后说句难听的:这行不缺会调API的人,缺的是能用工程思维管住模型不确定性的开发者。别拿学校那套当护身符,沉下心把手弄脏,才站得稳。
大模型 AI大模型 程序员 AI应用开发 大模型学习 大模型入门 AI应用
