OpenAI 向所有开发者开放 Codex 的引擎。API 免费，令牌不免费。

Codex 的重度用户让他们的代理每天运行六十个小时。我把这句话重新读了三遍。一天有二十四个小时，所以这些人手头肯定有三四台机器同时工作，而只有一个人在旁边看着。这个数字是 OpenAI 在六月给出的，它比任何演讲都更能概括这个行业正在发生的事情。

从 9 月 10 日起，这种工作方式不再只属于那些会在自己机器上安装东西的人。OpenAI 已经公开测试一个 API，让 Codex 引擎在他们那里运行。你发送一个任务，代理在一台租来的机器上执行它，你拿回结果。就是那个驱动 ChatGPT for Work 的引擎，编排、长会话和上下文管理也都包含在这个套餐里。

基础调用只有一行：POST /v1/agents/sessions。现在有 Python、TypeScript、Go、Java 和 Ruby 的库。你创建一个会话，给它一个任务，通过事件或 webhook 跟踪进度，第一项完成后，再在同一个会话里发送第二个任务。状态会在多轮之间保留，所以不需要每次都重建对话。

一个会话，比一次 API 调用多了什么？

这是你必须问自己的问题，既然如此，不如马上回答它。你已经在调用的那个 API，把一个问题发送给模型，然后拿回它的回答，那是一次来回：下一轮模型什么都不记得，是你的代码保存历史记录并重新启动循环。会话是另一回事。你把一个任务交出去，代理在 OpenAI 那边继续执行，带着它的记忆、工具和一台租来的机器，而你的笔记本电脑一直合着。

要衡量其中的差距，算算以前需要自己写什么：再次询问模型该做什么的循环，能够维持足够长时间的记忆，工具的执行，让代码运行而不弄坏机器的沙箱，以及崩溃后的恢复。这是工作，而且每次新模型改变局面时，都得重新做一遍。这一整套东西正是 OpenAI 打包起来的内容：循环、上下文、工具和机器都在他们那边，而你保留谈论自己业务的那部分。

真正的问题还在，钱的问题，而答案并不是我们以为的那样。一次普通的 API 调用只收你的令牌费用。一个会话向你收取令牌费用，加上工具调用费用，再加上租用机器的小时费用。数字在文章后面，它们值得让人想一想。

循环、上下文和租来的机器。你只保留谈论自己业务的那部分

为了说明这个规模，我在十天前写过，OpenAI 正在购买数以万计的 Mac mini。我们说的不是一个运行在三台服务器上的服务。

引擎替你做的四件事

首先是自动压缩上下文。当对话接近上限时，引擎会总结前面的内容，而不是把一切都丢掉，也不是让你为整段历史记录的账单买单。任何见过代理忘记自己任务开头的人，都能理解为什么这是清单里最有用的功能。

然后是工具搜索，这一点会体现在账单上。如果你把代理接入五十个工具，模型不需要每一轮都阅读五十份使用说明：它只加载有用的定义。发送出去的令牌更少，尤其是缓存能够保持有效更久。

第三是程序化工具调用。你不再要求模型一个接一个地调用五个工具，而是从代码中并行启动这五个工具，接着处理，再把结果过滤后发回去。你的代理那里按秒计算的事情，在这里按毫秒计算。

最后是子代理。一个主代理可以并行委托给多个代理，每个代理都有自己的上下文，而你可以设定同时运行的数量。OpenAI 的客户 Ciridae 宣称，用这种架构延迟降低了四倍。这是他们自己的数字，不是独立测量的结果，但这个数量级是可信的，我会在下面再回来谈。

把多个代理加到同一个工作日里，会变成这样

价格，以及两条让人不爽的条款

API本身不收费。OpenAI不收取访问费：你支付消耗的令牌、工具调用，以及使用他们的机器时托管机器的运行时间。这和租设备是同一个逻辑，你不支付场地费用，你支付的是使用时长。需要记住的推论是：一个在夜里运行的代理，即使没人查看结果，也会花你的钱。

现在说说数量级，因为没有数字的价格毫无意义。9月11日查到的价目表显示，在最小的容器里运行20分钟是3美分，在16 GB的容器里每小时是1.44美元。因此，在这种规格上工作8小时的一夜，机器费用就接近12美元，还没算一个令牌。同一个接入经典API的代理，只会花掉你的令牌费用。OpenAI的赌注是，上下文压缩和工具搜索节省下来的成本足以抵消差价，而对于一个话很多的代理来说，这可不是一开始就能确定的事。

你也不必使用他们的机器。你可以自己托管沙盒，也可以通过合作伙伴来做，目前公布的合作伙伴有Cloudflare、DigitalOcean和Oracle。计算要看三行：你支付什么，你控制什么，以及你有没有时间管理。

两条让人不爽的条款写在条件里。数据留在美国，而且无法使用零保留。翻译成一个在欧洲处理客户数据的人能听懂的话：你的代理会在美国机器上读取和操作这些数据，而且没人向你保证它不会留下任何痕迹。对于一个给内部工具使用、负责整理支持工单的代理来说，这还不至于无法接受。等代理碰到病历或工资单时，这就成了一个真正的问题。

具体来说，这对你有什么改变

三件事，按它们到来的顺序来说。

第一，你的笔记本电脑将不再是工作发生的地方。今天，要让一个代理工作，就必须有一台机器开着，可以是你的，也可以是别人的。明天，机器在网络的另一端，它会变成账单上的一行。你在18点合上盖子，工作却会在没有你的情况下继续。

你晚上合上盖子，另一端的机器继续运行。这就是全部的变化

第二，离你更近的一件事是，街角的小商店会在不知不觉中用上代理。电子邮件支持、自动回复、自动填写的表单，这些已经在租来的机器上运行了，而这类产品会让没有IT人员的公司也用得起。你给一家企业写信，而回复在凌晨三点、三十秒后到达时，你大概就知道它是从哪里来的了。

第三件事是给开发者的，而且最重要。现在卖的不再是模型，而是让模型工作的引擎。OpenAI以前按令牌收费，现在按机器运行时间和编排收费。模型变成了一个可以接入的组件，就像汽车里的发动机一样。这并没有说明结果好不好，它说明了钱会流向哪里。

现在卖的不再是发动机，而是周围的整个车间

这一切让我不舒服的地方

产品本身没有任何问题，而这正是问题所在。一个不受监督地运行的代理，在不属于你的机器上运行，数据发往美国，账单每小时都在上涨，这会变成默认配置，而不是一个我们愿意承担的选择。没人会在某天早上醒来，决定把客户支持交给一台机器。我们这么做，是因为只需要三行代码。

我三天前写过，OpenAI的成千上万个代理在一部老旧的德国维基上自说自话。它们没有做什么坏事，它们只是在运行。等到同样的事情发生在按小时租用、按秒计费的机器上时，问题就不再是这件事好不好玩，而是谁让计费器一直开着。

在我看来，开发者应该在这个测试版上开个账号，去看看这个引擎是怎么做的。还是那个在你编辑器里运行的 Codex，只不过这次你能看到里面的管道。等你看过之后，你会带着几分鄙夷看着自己的代理循环。