32岁，做两年Agent开发，建议不要想太多！
我做Java后端8年，两年前开始转Agent开发。刚开始其实挺狼狈，框架、工作流、工具调用一堆东西混在一起，第一个Agent经常跑着跑着就挂。后来踩了几次线上坑，才慢慢明白：Agent开发不是把几个组件拼起来就完事，真正难的是稳定落地。

【我当时怎么学】

没有一上来就啃特别难的东西。先把模型能力、Token、Prompt和Function Calling搞明白，再自己写一个最简单的ReAct流程。等工具调用跑顺了，再做RAG，把文档解析、切分、Embedding、检索、重排完整走一遍。

之后才开始接触多Agent、记忆和工作流。这样学下来，前面的基础不会白学，后面遇到问题也知道从哪排。

【现在常用的东西】

开发主要还是LangChain、LlamaIndex，根据项目情况选择。做多Agent方案时，也会用一些现成框架快速验证。

模型服务方面，线上比较关注并发和响应速度，本地调试则会用Ollama跑小模型。向量库会根据数据规模和查询延迟选择，实验可以用Chroma，生产再考虑Milvus、Qdrant这类方案。

另外，日志、链路追踪和监控一定别省。Agent出了问题，不看调用链，光盯最终结果很难定位。

【面试最容易被问的】

现在AI应用开发岗，我觉得这几个点比较重要：

1. Function Calling失败了怎么办？
2. RAG召回不准，怎么排查？
3. 上下文太长，是截断还是做摘要？
4. 多轮对话怎么保存状态？
5. 工具超时、参数错误怎么重试和降级？
6. 怎么控制Token成本和接口延迟？

这些问题没必要背标准答案，最好自己做过一遍。

【最后说两句】

Agent开发确实有门槛，但没必要把自己吓住。别一开始就研究特别复杂的多Agent架构，先把单Agent、工具调用、RAG和异常处理做好。

我最大的感受就是：Demo能跑只是开始，能稳定运行、出了问题知道怎么查，才算真正进入AI应用开发。人工智能 大模型应用 agent 大模型