决策模型爆火:定制化才是下一个战场?

决策模型悄然崛起,市场份额令人瞩目
今年十月,Vercel AI模型路由器中收到的请求里,有超过四分之一的流量流向了决策模型——而非传统的大型语言模型。这是一个仅诞生一个月的技术领域,却已经占据了如此庞大的工作份额。
决策模型本质上是一种不产生输出token的特殊模型。它利用通用智能,以更快的速度和更低的成本,在预置选项中迅速做出判断,同时标记对该选择的置信水平。在生产环境中,快速的决策能力往往比缓慢且昂贵的尖端模型所提供的推理过程更加重要。
估值飙升与市场格局变化
TypeSafe发布的Jev系列模型使其成为一家估值高达75亿美元的公司,该系列模型在可用数据层面持续占据主导地位——仅OpenRouter平台上周就处理了超过15亿次针对TypeSafe模型的查询请求。
- 然而,开发一款决策模型并不困难,Jev发布后市面上涌现出数十个同类产品
- 一位亚马逊工程师在周末就完成了自己的版本,随后各大云服务商纷纷跟进
- 微软CEO萨提亚·纳德拉宣布,公司将于本周在Azure平台大规模部署Microsoft-Decision-1.1
初创公司与巨头同台竞技
市场动作正在生态系统的两端同时发生。总部位于英国的AI初创公司Sqwish推出了名为kettei fat的决策模型,并在当日宣布完成300万美元种子轮融资。
联合创始人在剑桥求学期间相识,最初专注于小型语言模型的开发。当Jev出现时,他们意识到自身架构可以被改造为强大的决策模型。该公司提供内置的后训练工具,能够利用客户自有数据进一步优化模型判断能力。
“我们区别于普通产品的关键在于,客户可以持续上传生产数据,就像我们训练模型一样,他们的系统也能不断提升在特定任务上的表现。”CEO乌什尼什·森古普塔表示。
数据是核心竞争力
在这一领域取得成功的关键似乎在于数据质量。TypeSafe首席执行官迪奥戈·阿尔梅达透露,构建Jev过程中最具挑战性的部分,是利用经过统计调整的合成数据来精细校准模型的判断能力。这与Sqwish的思路不谋而合。
不过,由于大多数开发者可以轻松替换不同模型并观察其在具体场景中的表现,真正检验产品实力的并非基准测试分数,而是实际应用效果。森古普塔坦言:”基准测试更像是一张体验邀请卡,而持续的调优能力才是让客户留下来的根本原因。”
企业级应用注重综合平衡
微软的Microsoft-Decision-1.1同样是在成本、延迟、智能水平和校准精度之间精心权衡的结果。负责该项目的高管阿钦特·斯里瓦斯塔瓦指出,过度关注基准测试是一个误区。
他在邮件中表示:”我们发现那些只为刷高分而优化的模型在企业真实使用中很快就会暴露缺陷。我们的测试表明,要在单一模型中同时实现准确性、可靠性、速度和成本效益极具挑战。Microsoft-Decision-1.1和Jev是少数能够在所有维度上都表现出色,甚至在模拟实际应用场景的隐式基准测试中依然优秀的产品。”
未来展望:双智能协同时代
对于Sqwish这样的初创公司而言,与科技巨头的竞争反而意味着机遇。弗雷迪预测,未来的系统将呈现两种智能协同工作的格局:类似于决策模型的”系统一”智能将与类似前沿大语言模型的”系统二”智能配合使用。
她对此前景充满期待:”即便在那个未来,系统一的市場规模可能在100亿到500亿美元之间,而OpenAI正在进行的是以万亿美元市值为目标的IPO——对他们来说这或许只是副业,但对我们而言却是一切。”
关注微信号:智享开源 ,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!