gpt和claude的模型,api设计有严重缺陷。会导致它们无法做出先进agent。 问题在于上下文管理。gpt和claude为了”防蒸馏“,会隐藏思考过程的思维链(COT)。然而,思维链是上下文的一部分。然后,服务器端保存上下文。 服务端保存状态是愚蠢的,因为对上下文的裁剪是agent根据需求决定的。服务端不可能
gpt和claude的模型,api设计有严重缺陷。会导致它们无法做出先进agent。
问题在于上下文管理。gpt和claude为了”防蒸馏“,会隐藏思考过程的思维链(COT)。然而,思维链是上下文的一部分。然后,服务器端保存上下文。
服务端保存状态是愚蠢的,因为对上下文的裁剪是agent根据需求决定的。服务端不可能