Shopify构建不受特定模型限制的AI系统
多源AI代理：Shopify的弹性架构设计
Shopify精心打造了一项语言模型代理服务，赋予每位工程师接触多家AI提供商的能力，并实现了当任何一家服务出现故障、更新或终止时自动切换的机制。当Claude Fable 5服务突然关闭之际，Shopify的工程师们并未陷入混乱状态，代理系统已无缝将他们引导至Claude Opus或GPT 5.5，确保工作流程不受干扰。
灵活切换：模型无关的AI策略
Shopify工程主管Farhan Thawar在一次访谈中分享道：”Fable的表现令人印象深刻，我们当然采用了它。”他进一步解释道，当某个模型出现后又消失，或者仅进行了一次无害的更新时，代理系统使他们能够灵活地在不同提供商之间切换资源。
Thawar透露，Shopify采取批量采购tokens的方式，所有用户均通过公司代理与各类模型建立连接。这一策略不仅为团队带来了详尽的报告系统和故障转移能力，更确保当某个提供商出现服务中断时，用户能够”自动且无缝”地切换到替代方案。
企业启示：避免供应商锁定
Thawar强调，企业可从Shopify的做法中汲取经验，认真思考服务中断可能对业务造成的影响。最基本的是，企业应建立可靠的备份方案。关键在于构建一个能够灵活跨越不同模型的系统，避免企业”过度绑定”在某一特定供应商身上。
蒸馏技术：小型模型的强大之处
蒸馏技术是另一项关键策略。在此过程中，学生模型从教师模型中学习知识，通常专注于更为专精的任务范畴。这些小型语言模型(SLM)在特定场景下，其价值可能超越通用型现成模型。以Shopify的旗舰AI助手Sidekick为例，它为商家执行多种专业化子任务，有效帮助他们从日常工作中”消除繁重负担”。
Thawar指出，采用小型蒸馏模型相较于通用模型，在速度和成本方面可能更具优势。据他介绍，在某些场景中，小型模型的成本和速度表现可达通用模型的两倍；而在极端情况下，甚至能达到30倍的提升。但他同时强调：”这不仅关乎成本和延迟——这两者固然重要，准确率同样不可忽视。”
自动化蒸馏管道：从目标到自主选择
工程师们将教师模型、训练数据、评估指标以及目标模型（例如从Opus 4.8蒸馏至Qwen 3.5）输入蒸馏管道。该流程约运行一天后，会生成一份详尽评估报告，展示微调模型在速度、成本和精确度方面的实际表现。一旦权衡结果令人满意，工程师便可直接部署，无需经过冗长的审批流程。通过Shopify的内部平台Tangle，团队成员可以实时可视化管道的运行状态。
Thawar分享了他的”愿景”：未来或许不再需要向蒸馏管道指定目标模型。取而代之的是，用户提供教师模型、数据和评估指标，并下达如下指令：”基于你长期积累的学习成果，请审视不同类别、规模和类型的模型，并为我确定最合适的蒸馏目标。”
“或许我们将会迎来惊喜，”Thawar满怀期待地表示，”最终生成的模型可能小到足以在智能手机上运行。”他补充道，”当然，也有可能系统会反馈：’目前无法将此模型蒸馏为比我们现有前沿模型更优的版本。'”
从”AI反射”到”AI杠杆”的转变
Shopify员工可自由选用各类编程辅助工具，如Claude Code、Codex、Cursor以及GitHub Copilot for VS Code等。”我们向团队开放所有可用工具，让他们亲身体验哪些工具最适合自身工作流程。”
此外，公司还部署了使用情况可视化仪表板，这为Thawar的团队提供了深度洞察的机会，不仅关注token消耗情况，还能回答：哪些用户在使用最昂贵的tokens？哪些人将更多时间投入在推理任务上？各类模型的应用分布如何？不同学科和级别的使用情况有何差异？
智能消费控制：熔断机制
针对”tokenmaxxing”（最大化token使用）现象，Shopify确实实施了”熔断机制”。当检测到某用户让模型长时间运行（例如超过10小时）并产生大量token消耗时，系统会弹出提示：”您确定要进行此项消费吗？”
Thawar解释道，用户的回应各不相同：有时会确认：”是的，确实需要”；有时则会惊讶表示：”天哪，我不知道程序一直在后台运行，我完全忘记了，现在最好立即停止它。”
Thawar所描述的终极目标，是推动团队从”AI反射”思维模式向”AI杠杆”模式转变，促使每个人深入思考AI能在工作流程的哪些环节创造最大价值。
深入探索：Shopify的AI哲学
收听完整播客，了解更多精彩内容：
- Shopify的”先构建基础设施，后开发功能”理念。正如Thawar所言：”我们一直致力于构建更多基础设施，并将继续这样做。”
- Shopify内部AI智能体River如何在公司范围内构建”信息基础层”。
- Thawar的OpenClaw智能体如何从他的日历中推断出他的旅行信息——这一时刻向他揭示了智能体发展的真正方向。
关注微信号：智享开源 ，及时了解更新信息。
关注微信
还没有任何评论，你来说两句吧！