AI企业面临数据泄露危机

硅谷AI隐忧：数据安全的隐形陷阱

在关于人工智能潜在风险的种种讨论中，一种担忧正在硅谷AI爱好者中引发最强烈的焦虑。他们担心，那些销售专有模型的大型AI实验室可能正扮演着特洛伊木马的角色，在企业不知不觉中获取敏感信息。

随着初创企业和公司越来越多地使用OpenAI和Anthropic等实验室提供的AI模型，这些实验室能够接触到越来越多企业的核心商业机密。这些模型制造商随后可以利用这些知识为己所用，甚至可能成为自己客户的竞争对手。发出此类警告的知名人士包括风险投资杰森·卡拉卡尼斯(Jason Calacanis)和Palantir首席执行官亚历克斯·卡普(Alex Karp)等。

纳德拉的警世恒言

如今，微软CEO萨提亚·纳德拉(Satya Nadella)在一篇令人惊讶的博客文章中加入了这一担忧阵营。纳德拉警告AI用户（他称之为”购买者”）实际上支付了双重费用。他们一方面明确地为AI令牌使用付费，另一方面则在不知不觉中交出了更有价值的宝贵数据。

他在文章中写道：”你本质上为智能支付了两次费用——一次是金钱，另一次则是更宝贵的东西：你必须透露的专有知识，才能让这种智能变得有用。你希望模型表现得越好，就必须向它喂食越多的这类知识！”

企业正在”培训”竞争对手

最危险的是，企业实际上正在教导模型了解其业务的细微差别，纳德拉指出。

他写道：”模型从’废气’中学习——人们编写的提示词、智能体使用的工具，特别是人们在模型出错时所做的修正。每一次修正都被提炼为机构知识。”这种知识是”竞争对手永远无法购买到的”，然而企业却拱手相让。

模型开发者的双重标准

纳德拉认为，如果AI公司可以自由抓取互联网数据来训练他们的模型，那么企业也应该有权研究——或”蒸馏”——这些模型作为回报。”蒸馏”是指利用模型自身的输出来学习其工作原理，并基于这些见解训练一个通常更便宜的新模型。

纳德拉的观点是，模型制造商不能两者兼得。他们一方面自由地利用全球数据训练模型，另一方面却限制他人对他们的模型进行同样的操作，这是虚伪的。

解决方案：数据所有权与开源趋势

纳德拉特别关注当模型制造商”保留从客户使用和交互数据中学习的权利”时的情况。

作为一家大型云服务提供商的CEO，纳德拉提出的解决方案是建议企业”保留”其数据的所有权，包括提示、反馈等。他敦促企业在云上建立自己的”专有学习环境”，并添加所谓的”编排层”——本质上是一种让企业能够轻松在不同AI提供商之间切换的工具，而不是被锁定在单一解决方案上。

尽管纳德拉没有明确使用”开源”一词作为保留所有权的方法，但这显然是他隐含的建议。然而，这背后还有另一层含义。

许多大公司在使用云服务的同时，仍保留部分自己的数据中心，他们已经开始转向安装在本地的开源模型。Solo.io创始人兼首席执行官伊迪特·莱文(Idit Levine)表示，她正亲眼目睹客户发生的这种转变。在尝试了专有模型提供商后，他们开始问自己：”我能否采用开源模型并在本地运行？它几乎能完成大型模型的90%功能，而成本则低得多。他们明白这一点，并且能够掌控它。”

随着越来越多的企业选择开源解决方案，并寻求对数据的更多控制，这种趋势正在重塑企业AI应用的格局。

关注微信号：智享开源 ，及时了解更新信息。

原文链接：https://techcrunch.com/2026/07/13/satya-nadella-has-issued-a-shocking-warning-to-companies-using-ai/