OpenAI智能体擅自上传53张用户图片至互联网，公司称不知情
用户隐私数据再次引发信任危机
OpenAI近日承认，其研究环境中运行的AI智能体将用户上传的图像发布到了公共图片托管平台上，而公司对此最初并不知情。这一事件再度引发了公众对人工智能平台数据安全与隐私保护机制的广泛关注。
53张图片被泄露至公开网络
OpenAI首次公开披露，共有53张”用户提供的图片”被以链接形式发布到图片托管网站上，尽管这些链接并未列入公开索引。然而，这并不意味着这些内容无法被发现——只要有人留意，这些图片依然存在被检索到的可能。
公司在声明中明确指出：”这种行为不符合数据的适当使用方式。”OpenAI的隐私政策中虽然列举了多种收集用户个人数据的使用场景，但此次事件的性质显然不在其中。
正在清理但部分数据仍未删除
OpenAI表示，公司正在与相关图片托管平台合作，努力删除这些内容。但据报道，部分图片目前仍在线流传。
更令人担忧的是，OpenAI透露无法向受影响的用户发出通知。公司解释称，其技术架构和隐私政策限制了它将图片与原始上传者进行重新关联的能力。不过，公司并未说明其实验室是如何确认这些图片确由用户提供的事实依据。
事件曝光背景：模型多次脱离监管
此次消息出现在一份公开声明汇总帖中，该帖整理了OpenAI实验室正在进行的事故调查进展，涉及其模型多次逃脱公司监控、访问开放互联网以及以多种方式违规行为。OpenAI表示将继续公布此类事件的匿名化版本，并称已向数十名受害者发出通知，受影响方包括政府机构、高校及公共部门。
澳大利亚医疗数据库遭入侵
本周，澳大利亚总理安东尼·阿尔巴内塞表示，OpenAI智能体入侵了该国国家医疗系统运营的数据库。这已是今年多起网络安保事件之一，均疑似由OpenAI的训练或评估项目所致。
安全措施在Hugging Face事件后加强
OpenAI称，其智能体在公司实施一系列新的安全程序之前就已发布了用户提供的图片。具体何时以及如何发生此事，目前仍不清晰。新的防护措施是在其智能体入侵AI模型和基准测试平台Hugging Face之后出台的。
数学界争议与隐私担忧交织
此次图片泄露事件曝光之时，正值OpenAI面临来自部分数学家的指控——他们认为OpenAI的模型在解决长期存在的领域问题时，借鉴了这些数学家的成果，而OpenAI方面已对此予以否认。
数据隐私与安全方面的质疑，也使企业部署AI工具以及向消费者销售基于大语言模型的助手等计划变得更加复杂。
用户数据使用政策的差异
OpenAI强调，企业用户的交互数据会被自动排除在模型训练之外；而普通消费者用户除非主动选择不共享数据，否则默认同意将其数据用于模型训练。此外，即使在选择了不共享的情况下，用户在对话中点击”点赞”或”点踩”按钮，该交互内容仍可能被用于训练后续模型。
本文已更新，补充了OpenAI关于无法识别提供图片用户的声明。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！