OpenAI发布Decisions API,杀入智能决策模型红海

OpenAI发布Decisions API,杀入智能决策模型红海

巨头入局,决策模型市场激战正酣

OpenAI近日将其Decisions API模型正式向全球用户开放,这意味着这家科技巨头正式加入快速增长的低成本、高效率智能决策模型赛道。而就在不久之前,由前前沿实验室研究员创办的初创公司TypeSafe,凭借旗下Jev模型一举估值76亿美元,成为行业焦点。

这类专门负责快速决策的智能体模型,正在重塑软件开发的底层逻辑。

Jev模型开创全新类别

TypeSafe研发的Jev模型被业界视为一种新型深度学习架构的代表——它充当着”超级分类器”的角色:面对一组选项时,能够瞬间完成判断并给出决策置信度评分。

开发者们惊喜地发现,这类决策型智能体可以在诸多工作流中替代传统的大语言模型(LLM),在速度和成本上实现双重突破。

OpenAI的快速响应

Nikunj Handa作为OpenAI API产品负责人,向外界透露了团队内部的反应:”当我们看到Jev的表现后,同事们纷纷感叹——这背后竟然藏着上百万个应用场景!”

Handa的团队随即展开冲刺,他们没有从零开始训练一个专用决策模型,而是选择将ChatGPT Luna进行重新配置,以提升推理速度并压缩成本。

“Decisions API带来的最大突破是速度——处理时间从原先的1到3秒,骤降至100到180毫秒。”Handa表示,”未来我们或许会针对此类场景进行专门训练,让模型表现更优,但现阶段依靠基础Luna模型已能胜任绝大多数任务。”

功能升级与全球部署

该API最初于9月29日的开发者大会公布,随后在周四面向所有客户正式开放。公共版本新增了语音处理和视觉识别能力,并通过在全球范围内精准部署推理资源,有效降低了各地区用户的延迟。

标杆客户实测数据

  • Box、Datadog、Ramp、Speak等首批客户工程师利用该API成功替换了原有的OpenAI LLM方案,显著提升了吞吐量
  • AI语言辅导平台Speak的CTO Andrew Hsu透露,接入Decisions API后,公司操作响应时间从1.4秒锐减至0.13秒
  • OpenAI自身也在内部产品中尝鲜——利用该API优化了Dots语音助手的响应灵敏度

基准测试:多方角逐难分伯仲

什么样的决策模型才算优秀?行业内尚无统一标准,多数观点认为”适合自己业务的才是最好的”。智能水平、成本、校准精度与速度的最优组合,往往因应用场景而异。

TypeSafe CEO Diogo Almeida直言不讳地表示对现有基准测试持怀疑态度,他建议企业应在实际工作中亲自试用对比。不过就连TypeSafe自己上周也发布了最新榜单——配合新一代Jev模型的推出,新版不仅支持图像处理,还引入了智能条件判断功能。

在AIM System One Index和Artificial Analysis Decision Index等公开评测中,Liquid上周发布的D1 Ultra以及Base Lab的Elephant-1表现更为抢眼。Jev在两项评测中分别位列第七和第三,OpenAI的Decision Model则排在第八和第十四位。但从OpenRouter平台的查询量来看,TypeSafe的产品仍占据绝对领先地位。

趣味测试:吃豆人游戏检验决策力

在众多基准测试中,最具趣味性的当属JevMan——让决策模型去玩经典游戏《吃豆人》。最新的Jev模型在这一排名中拔得头筹。

Opper AI的首席增长官Felix Wunderlich解释说:”这款游戏是个极佳的试验场,因为玩家需要不间断地做出快速且高风险的决策——在每个岔路口,模型都必须在几百毫秒内决定前进方向。”

多模态优势与未来展望

在图像分类领域,OpenAI的模型展现出明显优势。Handa表示:”Luna在处理图像分类时非常强大,校准效果也更出色。”他还透露,不少客户希望Decisions API能更灵活地支持图像输出。

谈到未来的速度突破,Handa描绘了一幅令人兴奋的图景:”如果我们能将延迟压缩到60毫秒左右,那就意味着可以为视频的每一帧都发起API调用,应用场景将无限扩展。”

随着这些产品不断提速降价,它们有望真正践行Jev命名的初衷——经济学家杰文斯曾提出著名的悖论:资源利用效率的提升,往往会让资源变得更为普及。正如Handa所言,那些曾经”隐匿于日常”的使用场景,将在决策智能体的推动下迎来爆发式增长。


关注微信号:智享开源 ,及时了解更新信息。

阅读原文

评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章3537篇

如我距离死亡还有45年,我还活着,该怎么度过现在。


公众号:智享开源

分类