Vercel CEO谈模型与智能体分离之道
云基础设施巨头：AI智能体的幕后推手
凭借其允许开发者无需管理服务器即可部署智能体的云基础设施，Vercel已悄然成为AI软件领域最核心的企业之一。目前，该公司每天处理600万次部署，其中一半由编码智能体触发，超过1万亿个token每日通过其AI网关流转。
从原型开发到实际应用：AI智能体的演进
在Vercel最近举办的ShipNYC会议后，我们与CEO Guillermo Rauch进行了深入交流，探讨了他对当前AI时代的看法，以及像Vercel这样的平台公司如何与大型实验室展开竞争。
从探索到实用：社区氛围的转变
今年，社区氛围似乎有所不同，试点项目减少，更多关注如何在实际环境中良好运行。我相信你在与客户的交流中也看到了这一点，但我想了解Vercel内部经历了怎样的转变过程。
去年，我们的重点是原型开发。天马行空，释放智能体的潜能，每个人都可以构建，诸如此类。我们确实这样做了，并且收获颇丰，因为公司内部自发开发并部署了数百个智能体，随后我们开始面临生产环境中智能体的现实挑战。
两大杀手级应用：编码与内部管理
对我来说，最大的收获是发现了智能体的两大杀手级应用。当然，首先是编码智能体。这推动了全球范围内大量token的使用，但当你产生如此多的软件时，需要一个地方来部署它们。智能体的第二个杀手级应用是帮助企业运营的内部智能体。这里的挑战在于，如何安全地访问数据？如何审计智能体的行为？如何获取智能体为完成任务所需的所有工具调用和访问控制的记录？
应对挑战：Eve框架与Vercel Sandbox
为解决这些问题，我们提出了名为Eve的框架，允许用户用自然语言描述智能体的指令和技能。另一个工具是Vercel Sandbox，将智能体置于一个”小笼子”中。智能体仍可以自由地展现其智能，但我们可以应用策略，控制它可以访问哪些数据，以及哪些数据可以离开沙盒。
数据控制的关键性
Sandbox的最大优势是数据控制。我一直思考的一个AI真实风险是，当你使用像Devin或Cursor这样的编码IDE时，如果设置不当，它们可能会训练你的整个代码库。我记得曾与空中客车总裁讨论过这个问题。你有数十年积累的航空航天工程特定C++代码财富。如果有人安装了错误的开发工具，boom，所有代码都会被发送到云端进行训练。
内部智能体的实际应用
销售代表坐在那里[在Vercel办公室]。她负责客户群拓展，工作目标是扩大现有客户规模。像她这样的人的瓶颈不是创造力、智能或建立关系的能力，而是数据。”我不理解哪些账户增长更快。给我过去两周增加席位最多的五个账户，这样我才能优先安排工作。”过去她无法提出这样的问题，她必须等待新的销售仪表板项目在第一季度完成。
我们在Vercel多年来一直面临这一瓶颈，这令人沮丧，因为在研发方面，我们是世界上发展最快的公司。但在销售引擎方面，Salesforce工程[方面]，我非常无能。刚开始时，我从未打开过Salesforce。
现在我感觉自己可以在整个公司产生实际影响，因为Eve可以用于我们面向客户的智能体，也可以用于提高生产力。是相同的技术，只是API。智能体正在迫使企业开放，这将产生深远的长远影响。许多SaaS巨头建立在困住你数据的基础上，这与智能体是不相容的。
客户与大型AI实验室关系的变化
去年，很多人选择一个实验室合作伙伴——说他们将在OpenAI或Anthropic上构建所有内容。现在他们说，我理解这一切是如何工作的——模型、工具链、数据平台、沙盒、网关——每个组件都是即插即用的。你可以使用OpenAI，可以使用Anthropic，也可以使用Gemini。我们看到Gemini的增长很多，尽管它在新闻中不多，因为人们现在优化生产。现实是，当你优化生产时，你开始关注性价比，Gemini模型具有出色的性价比特点。你还会引入开放模型，因此Deepseek和GLM-5.2正在兴起。数据不会说谎。
与实验室的直接竞争
上周，OpenAI发布了一套新工具，可以直接发布到网络，无需离开OpenAI的隔离环境。这是他们托管小型网站的下一步自然发展。这对我们来说是个很好的机会，因为现在人们会将ChatGPT视为制作网站的工具。如果他们继续向模型询问关于网站托管的问题，模型会推荐我们。但你说得对，随着模型或平台增加更多功能，它们与现有基础设施平台形成直接竞争。
我认为，我们现在正在决定模型和智能体是否应该耦合。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！