从挥霍到管控:Rippling的AI支出革命

背景与挑战
HR软件提供商Rippling近期推出了AI支出控制平台(AI Spend Console),这一创新产品旨在帮助企业追踪并限制AI相关支出。该平台最引人注目的功能之一是能够映射每位员工、团队及职位的AI使用情况,从而判断他们是否真正提高了工作效率,或者只是在生成大量低质量的AI内容。
根据Rippling官方博客介绍,该工具将显示”哪些工程师在AI上的支出较高,而他们的同事是否经常要求他们在代码审查中重做工作”,这为企业提供了一个清晰的视角来评估AI投资的回报。
从失控到警醒
这款工具的诞生源于Rippling在年初全面拥抱AI技术后所面临的困境——正如许多企业一样,他们很快发现员工正在疯狂消耗公司资金。首席产品官Matt MacInnis至今仍记得三月那次高管会议,当首席财务官Adam Swiecicki展示那个令所有人震惊的数字时,会议室里一片寂静。
当时,Rippling正将研发人员预算的40%用于AI令牌支出,这意味着它在AI令牌上的投入相当于该部门员工薪酬总额的40%。这相当于数百万美元的支出。(在大多数科技公司中,研发部门通常包含工程团队。)
更令人担忧的是,月度支出增长率高达80%。如果这一趋势持续下去,下一年公司在AI令牌上的支出将达到90%,几乎与其高薪研发团队的薪酬支出持平。
“我们简直不敢相信,”MacInnis向TechCrunch表示。
紧急应对措施
管理层立即启动了一项”紧急”项目,旨在了解支出的去向以及这些投入带来的实际价值。事实上,这款新产品的宣传广告中,Swiecicki坐在一张凳子上,而员工们则拿着一叠叠现金,把它们倒入一台碎纸机中。
当Rippling进行分析时,他们发现了令人震惊的事实:”大约10-15%的员工驱动了约60%的总AI支出。一位工程师每月的支出高达5万美元,”其博客分享道。
问题根源
- 员工习惯为所有任务使用最新、最昂贵的前沿模型
- AI推理服务提供商(如Anthropic和OpenAI)缺乏帮助企业控制支出的动力
- 缺乏有效的使用洞察和跨平台协作机制
“事实是,像Anthropic和OpenAI这样的推理服务提供商完全没有帮助您控制支出的动力。他们有充分的理由让这笔费用失控,而这正是他们所做的。他们不提供良好的使用洞察,也不彼此合作,”MacInnis说道。
解决方案与成效
Rippling并不想阻止AI的使用,只是希望大幅控制支出。他们首先与公司使用的每个工具(Cursor、OpenAI和Anthropic)协商设定了最大支出上限。他们立即发现了一个明显问题:员工习惯对所有任务都使用最新、最昂贵的前沿模型。
如今,企业已经认识到几个关键点:首先,他们需要来自不同AI实验室的多种模型,包括来自中国的前沿开源权重选项。Rippling创始人兼CEO Parker Conrad在上月指出,当公司对其内部用途进行基准测试时,发现SpaceX的Grok是全能领导者,但”GLM 5.2比前沿模型便宜85%,但性能几乎相同”。
成本优化策略
其次,企业现在需要一个能够将提示路由到最适合、最具成本效益模型的AI网关。Rippling也得出了同样的结论,因此构建了自己的AI网关,这也是产品的一部分。
AI支出控制平台生成仪表板(在令牌最大化时代曾被称为排行榜),对每天提示次数、工作输出(代码行数/拉取请求)和支出等属性进行评分。
使用该工具后,Rippling将令牌支出从人员预算的40%降至约15%。但并未减少AI使用量。MacInnis分享道,在首席财务官发出警告的那个月,公司使用了6050亿个令牌的峰值。到了七月,内部使用量再次达到6000亿令牌,但”七月令牌支出的成本仅为四月的37%”。
“这只是因为我们现在将请求路由到更有效的模型,”他开玩笑说,”我们不会让销售团队用Fable来做语法更新。”
未来展望
然而,Rippling指出,仅靠技术解决方案是不够的。公司找到了有效使用AI的员工,让他们担任”AI队长”,负责协助公司其他人员。
尽管如此,MacInnis表示,将AI应用于工程以外的领域仍处于初级阶段,因为软件工程师一直是主要用户。但Rippling正在努力将其应用于客户入职团队,以自动化一些邮件数据和数据协调任务。届时,仪表板将根据客户入职数量来衡量生产力。
关注微信号:智享开源 ,及时了解更新信息。

公众号:智享开源
还没有任何评论,你来说两句吧!