昊梵体育网

gpt和claude的模型,api设计有严重缺陷。会导致它们无法做出先进agent。 问题在于上下文管理。gpt和claude为了”防蒸馏“,会隐藏思考过程的思维链(COT)。然而,思维链是上下文的一部分。然后,服务器端保存上下文。 服务端保存状态是愚蠢的,因为对上下文的裁剪是agent根据需求决定的。服务端不可能 ​

gpt和claude的模型,api设计有严重缺陷。会导致它们无法做出先进agent。

问题在于上下文管理。gpt和claude为了”防蒸馏“,会隐藏思考过程的思维链(COT)。然而,思维链是上下文的一部分。然后,服务器端保存上下文。

服务端保存状态是愚蠢的,因为对上下文的裁剪是agent根据需求决定的。服务端不可能知道agent的需求。而agent又无法管理这些服务端状态,因此,它们只能被长期保存。

这会导致,上下文无限增长。

因此,claude 和codex都是走不远的agent。傻x设计,小气吧啦,害人害己。