OpenAI披露内部AI编程智能体使用成本 日耗Token价值超7000美元
来源:互联网OpenAI近日首次公开了其研究人员在AI编程智能体上的使用规模与成本情况。根据公司发布的博客文章,在OpenAI的研究人员中,使用AI编程智能体最频繁的一批用户,如今每天消耗的词元(Token)价值已经超过7000美元。Token是AI模型读取和生成文本时使用的基本单位。
研究部门Token消耗快速增长
OpenAI表示,过去一年中,这项技术已经显著改变了公司研究人员的工作方式。员工编写和交付代码的速度更快,能够开展更多实验,同时也开始将越来越高级、更复杂的任务交给AI编程智能体完成。过去三个月,研究人员使用AI编程智能体的规模出现爆发式增长,增长速度甚至超过OpenAI内部其他团队。

根据OpenAI公布的数据,截至8月中旬,该公司研究部门一名普通研究人员每天使用的Token价值中位数已经超过600美元,而7月份这一数字仅为162美元。使用量位于前10%的研究人员,每天消耗的Token价值则超过7000美元。这些数字是按照API公开推理价格估算得出的,反映的是按照市场价格计算的理论成本,并不代表OpenAI实际支付了同等金额。
智能体承担更多技术排查任务
OpenAI还表示,其智能体正越来越多地被用于排查技术问题,以至于自1月以来,由人工运营的内部技术支持频道的每日发帖量下降了一半以上。公司已经实现了CEO萨姆·奥尔特曼去年提出的目标,即打造一名能够在人工指导下完成任务的“自动化研究实习生”。按照目前的进展,公司计划在2028年3月前打造出一名完全自动化的AI研究员。
高Token使用量背后的成本讨论
过去一年,随着AI编程智能体迅速普及、能力不断提升,软件工程行业的工作方式也发生了深刻变化。许多开发者已经开始将具体的编程任务交给AI智能体完成,自己则负责检查和审核生成的结果。一些开发者认为,这种方式显著提高了工作效率,但也有人对此并不完全认同。
高强度使用AI也给一些公司带来了不小的成本压力。今年早些时候,一些公司曾鼓励员工积极尝试使用AI,甚至推出排行榜,统计哪些员工使用AI最频繁。这也催生了一种被称为“Tokenmaxxing”的现象,也就是不太关注实际产出,而是尽可能多地使用AI。到了今年夏天,顶级AI模型不断攀升的使用成本开始引发担忧。越来越多公司发现,单纯追求最大化Token使用量所带来的生产力提升,可能并不足以证明巨额支出是合理的。包括Meta和亚马逊在内的公司随后关闭了内部Token使用排行榜。亚马逊高级副总裁Dave Treadwell还提醒员工,不要“仅仅为了使用AI而使用AI”。
相比之下,OpenAI此前一直对高Token使用量持较为积极的态度。奥尔特曼今年6月曾表示,公司内部使用Token最多的一名用户,每个月消耗的Token数量高达1000亿。OpenClaw创始人Peter Steinberger今年2月加入OpenAI,他曾在5月发布一张截图,显示自己一个月的Token账单价值高达130万美元。不过,与其他OpenAI员工一样,他本人并不需要实际承担这笔费用。