头条推荐
一 | 该图片使用了AI生成技术 本文来自微信公众号: HavenlonLabs ,作者:Havenlon Labs 现在谈AI安全,很多人的第一反应都是:怎样让模型少犯错? 减少幻觉、优化提示词、防止提示词注入、增加上下文、接入更强的模型,再用另一个Agent检查前一个Agent。

二 |
Codex的活跃用户,到2000万了。
这些工作当然有价值。
OpenAI Codex负责人Tibo昨天在X上确认,Codex本周已经突破2000万活跃用户。此前CNBC获得的OpenAI内部数据也显示,公司AI编程与工作类Agent产品已经达到约2000万周活。

三 | 这个数字延续了过去一个多月的高速增长。 但它们容易让人产生一种错觉:只要模型足够聪明、提示词足够完善、检测系统足够复杂,AI就可以安全地完成一切。

四 | 问题是,AI真的可能永远正确吗? 答案恐怕是否定的。7月,OpenAI曾连续公布Codex与ChatGPT Work的600万、700万、800万、900万乃至1000万用户里程碑。用户增长之外,OpenAI的企业业务也在明显提速。 我们无法消灭所有错误 AI Agent面对的不是一道标准答案明确的考试题,而是不断变化的现实环境。据CNBC披露,从本季度开始至今,按照当前收入水平年化计算,OpenAI企业业务的收入规模已经增长约50%,明显快于公司整体35%的增幅。

五 | 它读取的邮件可能是伪造的,访问的网页可能包含恶意指令,接收到的数据可能已经被污染,用户给出的任务也可能存在歧义。 即使模型本身没有受到攻击,它也可能误解目标、遗漏条件,或者基于不完整的信息作出一个看起来合理的决定。 我们可以持续提高模型的准确率,却很难证明它在下一次任务中一定不会犯错。另一边,今年春天几乎定义了AI Coding热潮的Claude Code,开始慢了下来。 试图让AI永远正确,是在追求一个无法验证的目标;阻止危险结果发生,才是一条可以真正落地的边界。

六 | 数据追踪平台TickerTrends最新追踪显示,截至8月10日,Claude Code过去四周的增长率已经降至5.2%;而OpenAI Codex同期增长20.8%,接近前者的4倍。 真正的问题不是AI会不会犯错。 它一定会。 真正的问题是:当它犯错以后,系统是否会毫无阻碍地把这个错误执行出去。
几个月前,两条曲线还完全不是现在的样子。

七 | 今年2月到6月,Claude Code一路狂飙,把对手远远甩在身后。但进入7月,它的增长曲线第一次明显走平;而原本落后的Codex加足了马力。 模型错误不一定等于现实损失 一个AI在聊天窗口里回答错误,造成的可能只是一次糟糕的体验。 但当同一个AI拿到支付接口、管理员权限、数据库写入权限和服务器控制权以后,错误的性质就完全不同了。 它可能把钱转给错误的地址,删除重要数据,修改生产环境,扩大成员权限,或者关闭本应保留的审计记录。Claude Code在AI Coding里的统治力,正在受到冲击。

Claude Code踩下刹车Claude Code的增长神话,终于撞上了一条再普通不过的商业规律:用户是有限的。今年2月,Claude Code的年化收入还只有25亿美元左右。随后几个月,这个数字几乎是一路往上蹿:3月底超过60亿美元,4月底突破100亿美元,到6月已经超过140亿美元。短短四个月,翻了五倍多。 模型只是产生了一个错误判断。那段时间,Anthropic自己也在不断给这场狂飙加戏。 真正把错误变成事故的,是后面的执行能力。5月,公司披露Claude已经能完成Anthropic内部超过80%的代码;6月又开始讨论递归式自我改进、“AI构建AI”,以及Agent如何从执行一个Bug修复任务,一路走向自己判断该解决什么问题。Claude Code几乎成了Anthropic展示“AI如何改变软件开发”的最佳样板。

八 | 模型犯错只是答案错了,执行失控才是真的出事。然后,7月来了。TickerTrends的追踪数据显示,7月6日,Claude Code的年化收入约为142.6亿美元;一周后143.8亿美元;7月20日144.7亿美元;到了7月27日,甚至短暂回落到143.5亿美元。8月3日回到145亿美元,直到8月10日才重新跳到151.2亿美元。 这也是为什么,AI安全不能只盯着模型内部。
钱还在赚,收入并没有真的掉下去。
我们当然要防提示词注入,要提高推理能力,也要检测恶意输入。但即使前面的所有防线都失效了,系统仍然应该保留一道最后的底线。但那个每隔几周就要刷新一次纪录、动不动几十个百分点增长的Claude Code,突然掉进了现实世界里那个紧巴巴的个位数增长区间。
这道底线不负责判断AI为什么犯错。

九 | 它只负责确认:这件事到底能不能发生。

十 | 截至8月10日,Claude Code过去四周相比此前四周只增长了5.2%。

十一 | 这事儿本身并不难理解:Claude Code最早吃到的就是最容易被AI Agent转化的一批人。程序员本来就坐在电脑前,有清晰的任务、有代码库、有测试结果,甚至连“AI到底有没有把活干完”都比其他知识工作更容易验证。产品足够好以后,开发者很快就会涌进来,并形成很强的使用习惯。《The Information》今年7月底采访多家企业发现,即使Claude Code越来越贵,许多工程师依然不愿意换。在Weave追踪的200多家企业中,今年上半年Claude Code单用户成本翻了两倍多,活跃用户却增加到原来的3倍。 守住钱袋子,比猜出所有骗子更现实 假设一个AI Agent正在替企业处理付款。 我们可以训练它识别诈骗邮件,可以要求它核对合同,可以增加一个模型复核收款信息。

十二 | 但我们无法保证它永远认得骗子。 骗子会改变话术,邮件账号可能被入侵,真实员工也可能被冒充。即使多个模型同时参与判断,它们仍可能基于同一份错误信息得出相同结论。Workato的AI编程使用量中,Claude Code占到80%,Codex只有20%。
Claude Code不只抢到了第一批用户,也抢到了开发者的默认选项。
更现实的做法,是直接守住付款的底线:
单笔金额不能超过限制;新收款地址不能立即付款;审批后收款目标不能被替换;超出风险阈值必须经过独立确认;任何远程管理员都不能临时关闭这些规则。

十三 | 但程序员终究只有这么多,越往后,剩下的人越难转化。

十四 | 这样,即使AI被欺骗,损失仍然会被限制。早期爱尝鲜的开发者已经装了Claude Code;重度用户一天能用十几个小时。

十五 | Anthropic今年6月的研究甚至显示,Claude Code用户平均每周已经使用约20小时。

十六 | 一个产品渗透到这种程度之后,还想永远按照早期速度扩张,本来就不现实。

十七 | 过去一年,coding已经成为Anthropic最重要的商业支点之一:Claude Code直接贡献收入,Cursor、Cognition、GitHub Copilot等客户通过API调用Claude,本质上也在放大Anthropic在编程场景里的优势。Claude Code今天的增速放缓,并不意味着它哪里突然出了问题,更可能的情况是:最容易吃的一块市场,已经被它吃得差不多了。

十八 | Anthropic自己当然也知道这一点。 你不需要保证AI永远认得骗子,只需要保证骗子无法轻易带走你的钱。

十九 | 这就是大道至简。过去几个月,它一直在试图把Claude Code验证过的工作方式搬出程序员群体。 前面可以有复杂的模型、提示词、工作流和检测系统。 最后只需要一条明确的边界: 不符合条件,就不执行。 最后的系统不必比AI更聪明 很多人认为,保护AI的安全系统也应该是一套更强大的AI。

| Cowork让用户把文件、浏览器和各种工具交给Claude完成多步骤工作;6月推出的Claude Tag甚至被Anthropic直接称为“Claude Code的一次演化”,希望把这种Agent式工作方式带进产品、客服、数据分析等团队。Anthropic自己的Economic Index也开始把Claude Code和Cowork放在一起研究,观察Agent如何从软件开发扩散到更广泛的知识工作。 但位于最后一道边界的系统,未必需要理解自然语言,也不需要参与复杂推理。 它只需要知道几个确定事实: 这次操作要转多少钱,目标是谁,权限是否发生变化,数据是否可以恢复,风险条件有没有超限。

| 这些事实不满足,就拒绝。

| 安全不一定要比风险更聪明,它只需要守住风险最终必须经过的那道门。只是截至目前,公开数据里还没有出现第二条像早期Claude Code那么夸张的增长曲线。 越靠近最终执行,系统反而越应该简单、独立和保守。Anthropic最好讲的第一个故事,已经讲到了后半程。 因为复杂意味着更多配置、更多依赖、更多攻击面,也意味着系统可能被前面的同一套错误逻辑同时影响。 真正的最后防线,不应该和Agent使用同一个提示词、同一个上下文、同一套权限,也不应该因为SaaS中有人点击了“强制执行”就自动失效。 它存在的意义,就是在所有人都认为可以继续时,依然保留拒绝的能力。偏偏就在这个时候,之前一直追在后面的Codex,开始跑快了。

Codex追上来了Claude Code慢下来的同时,TickerTrends看到的另一条曲线,正在往上走。 底线应该由人提前决定 当然,底线并不是系统自己创造的。

| 企业需要提前决定,什么事情绝对不能由AI单独完成。截至8月10日,其模型估算的Codex年化收入指标过去四周增长20.8%,接近Claude Code同期5.2%的4倍。7月初,Claude Code的估算规模还是Codex的2.4倍;五周以后,这个差距已经缩小到约1.7倍。
但这里需要先打一个很重要的补丁:TickerTrends并没有直接追踪到Codex赚了多少钱。
可能是一笔超过限额的付款,可能是删除核心数据库,可能是修改管理员权限,也可能是让现实设备进入不可逆状态。
这些边界一旦确定,就不应该交给Agent在执行过程中临时解释。Claude Code这条曲线至少还有一个官方锚点:Anthropic今年2月披露,其年化收入已经超过25亿美元,TickerTrends再根据自己的数据往后外推。

| 真正的安全,不是让AI在最后一秒重新思考,而是让人类在风险发生之前提前划清边界。 AI可以负责分析、规划、推荐,甚至完成绝大部分自动化工作。Codex则没有这样的官方收入数字。TickerTrends的做法,是先估算OpenAI的企业年化收入,再假设其中45%归属于Codex,由此得到88.3亿美元以及20.8%的增长率。即便如此,趋势是真实存在的。OpenAI自己的管理层也已经把Codex列为近期收入加速的重要驱动因素之一。 但越是不可逆、越是高价值、越可能造成现实损失的操作,越需要一道独立于AI判断的最终约束。

| AI安全的终点,不是把模型训练成永不犯错的圣人,而是让系统在模型犯错时依然守得住自己的底线。 未来的AI一定会越来越聪明,也会获得越来越多的工具和权限。更直接的证据,来自OpenAI自己的用户数据。6月2日,OpenAI官方披露,Codex周活用户已经超过500万,相比2月桌面应用上线时增长超过6倍。而且它的用户群体不只程序员。

| 当时,知识工作者已经占Codex用户的约20%,包括分析师、营销人员、运营、设计师、研究员、投资人和银行从业者;这部分用户的增长速度,甚至超过开发者的3倍。 我们没有必要因为它可能犯错,就拒绝所有自动化。GPT-5.6发布之后,OpenAI曾经连续几天公布Codex与ChatGPT Work的用户里程碑:600万、700万、800万、900万……那几天,这个数字几乎以每天100万的速度往上涨。7月21日,OpenAI宣布Codex与ChatGPT Work合计已经达到约1000万周活用户。

| 一个月不到,这个数字又翻了一倍。 但我们也不能因为它越来越强,就默认把最后的决定权一起交出去。CNBC最新获得的OpenAI内部数据显示,公司的“AI编程与工作类Agent产品”已经达到约2000万周活用户。不过,在OpenAI把Codex合并到ChatGPT这个入口之后,产品的口径变得非常模糊,很难再用一个单独的“Codex用户数”,去衡量它和Claude Code之间的竞争。 最后想和大家讨论一个问题: 对你来说,AI最不能越过的底线是什么——钱、管理员权限、核心数据,还是现实设备的控制权? 本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 [email protected]。OpenAI和Anthropic本来就在走两条不同的路。Anthropic是从Claude Code往外扩,先拿下程序员,再把Claude Code验证过的Agent工作方式搬到Cowork、Claude Tag和更广泛的知识工作里。

| Anthropic自己对Cowork的定义,就是把Claude Code已经证明过的执行能力带给更多人。OpenAI则正好反过来。

| Codex最早也是从程序员切入,但从今年6月开始,它就在不断吸收分析师、营销、运营、研究等非开发者用户;GPT-5.6发布之后,OpenAI又把Codex和ChatGPT Work一起收进ChatGPT这个更大的入口里。如今ChatGPT桌面端已经明确分成Chat、Work和Codex几个工作入口,其中Work负责长时间、多步骤的知识工作,Codex继续负责软件开发,但两者共享同一套Agent使用额度。Anthropic是在把Claude Code向外扩,OpenAI是在把Codex往ChatGPT里收。如果严格比较Coding Agent,应该看Codex对Claude Code;但如果讨论OpenAI现在公布的2000万AI编程与工作类Agent用户,那么Anthropic一侧更接近的参照,其实应该是Claude Code + Claude Cowork,甚至再加上Claude Tag这类从Code演化出来的Agent产品。

但OpenAI还没追上Anthropic如果把镜头从Codex和Claude Code拉回两家公司,局面突然又反了过来。2025年底,OpenAI的年化收入运行率已经超过200亿美元,是Anthropic约90亿美元的两倍以上。半年多以后,领先者换了人。截至7月底,Anthropic的年化收入运行率已经突破650亿美元,OpenAI最新披露的年化收入水平则超过400亿美元。按650亿美元和400亿美元的下限计算,Anthropic目前的年化收入水平至少领先约六成。甚至只看Anthropic自己,仅从5月底到7月底,Anthropic就新增了超过180亿美元年化收入,两个月新增的体量,已经接近OpenAI去年年底的整个年化收入规模。
另外,《华尔街日报》获得的两家公司非公开财务数据显示,今年二季度,OpenAI收入为67亿美元,环比增长18%;Anthropic同期收入则超过一倍,达到116亿美元,第一次在单季度收入上超过OpenAI。尽管两家公司的收入确认口径并不完全一致,例如Anthropic会把通过云合作伙伴销售Claude产生的部分收入计入自身收入,而OpenAI的处理方式不同,这些数字并不是完全严格的一对一比较。但从公司层面看,Claude Code的增速变化,目前还远不足以撼动Anthropic已经建立起来的收入优势。

| 一个很重要的原因在于,Claude Code本来就不是Anthropic收入的全部,甚至不是大头。Anthropic真正的收入主力,仍然是向企业和第三方产品出售Claude模型能力。Cursor、Cognition、GitHub Copilot等产品通过API调用Claude,企业客户直接采购模型服务,这些收入加在一起,才构成了Anthropic最主要的商业基本盘。公司此前甚至预计,到2028年,API及相关企业应用收入仍会贡献超过80%的收入。

| Claude Code的意义,更像是把Anthropic在coding场景里的模型优势变成一个直接面向用户的产品,同时又反过来强化企业和第三方对Claude模型的需求。换句话说,哪怕Claude Code最陡的增长阶段过去了,但Anthropic靠coding建立起来的收入优势并没有消失。

| 而这也是Codex,或者说OpenAI,真正想要追赶的地方。Codex从诞生起就是一款软件工程Agent,和Claude Code争夺的是同一批开发者和企业工程团队。只不过Claude Code先跑了出来,也率先证明了一件事:coding不仅是一个高频AI使用场景,还可以长成一门庞大的企业生意。

| 现在,OpenAI正在补这段差距,并表现出明显的企业化动作。今年4月,OpenAI专门推出Codex Labs,并与大型系统集成商合作,要把Codex推进数千家工程组织;当时Codex周活开发者已经从月初超过300万涨到两周后的400万以上。OpenAI列举的客户场景也几乎全部是企业软件工程:测试、代码审查、功能开发、大型代码库理解、事故响应。至少从最新的收入表现来看,这条路已经走出了一些效果。据CNBC披露,本季度开始至今,OpenAI整体收入的年化运行率增长约35%,企业业务则增长超过50%。Codex最近的用户增长很漂亮,但2000万用户到底能转化为多少企业业务——或者说,到底值多少钱——才是接下来真正决定竞争格局的数字。因为ChatGPT本来就拥有数亿级用户入口。把Codex塞进ChatGPT、共享额度、降低门槛,当然有可能迅速做大用户规模。

| 可这些新增用户里,有多少是真正高频使用的专业开发者,又有多少最终能够转化成高客单价的企业客户,目前还没有公开数据给出答案。如果OpenAI接下来也能把Codex迅速增长的用户和使用量,转化成同样迅速增长的企业收入,两家公司之间的竞争格局完全可能再翻一次。至于该如何转化,可能还是要回归到那个最底层的变量:模型。OpenAI手里还有尚未发布的Astra,按照目前披露的信息,它在Agent编程和网络安全能力上已经出现明显跃升,甚至因为可能触及最高级别的网络安全风险阈值,OpenAI不得不放慢开发,加强安全测试。

| Anthropic那边,最近关于Fable 5.1的传闻也越来越多,有报道称公司已经开始内部测试这一版本。Claude Code和Codex能够成为今天这样的产品,前提都是Claude和OpenAI的基础模型已经足够好用。产品入口、企业销售、用户习惯可以放大这种优势,但一旦下一代模型拉开明显的能力差距,产品层面的领先关系也可能被重新改写。产品可以建立壁垒,但对OpenAI和Anthropic来说,最核心的资产始终还是模型。

|
Current article:http://s8w35.sunaichitikouchua.bond/list_ykdvnw/t4vvg.html
Published on:06:02:56