OpenAI新旗舰模型擅自删除文件引警告

Mark Do 暂无评论阅读 8 次

智能体自主删除文件引发用户担忧

OpenAI最新推出的面向编程和网络安全的旗舰模型GPT-5.6 Sol近日引发了广泛关注，多位用户在社交媒体平台上报告称，该模型未经允许便自主删除了他们的文件、数据甚至整个数据库。

用户遭遇数据损失

人工智能创业公司OthersideAI的创始人兼CEO马特·舒默(Matt Shumer)在社交媒体上发布了一条引发广泛传播的帖子，写道：”GPT-5.6-Sol意外删除了我Mac电脑上几乎所有的文件。”

开发者布鲁诺·莱莫斯(Bruno Lemos)也表示：”GPT-5.6 Sol刚刚删除了我的整个生产数据库。这不是开玩笑。以前从未在任何其他模型上发生过这种事。”

另一位开发者乔伊·库迪什(Joey Kudish)则写道：”看来我被Code Sol过于激进的系统坑了，它删除了一些本不该删除的文件。我有备份，所以没问题，但这不妥，Sol需要被约束一下。”

在Reddit平台上，已有更多用户分享了类似遭遇，形成了一个讨论热点。

官方早已预警风险

虽然仅有少数用户提出此类投诉——即使像舒默这样有公信力的人士——并不能作为模型存在问题的统计学证据，因为许多其他因素也可能导致人工智能系统行为异常。

然而，OpenAI在发布GPT-5.6 Sol之前就已经意识到了这一风险。在模型发布前两周，该公司发布了系统卡片，详细记录了模型测试的方法和结果。

模型存在过度自主行为

系统卡片中包含了一个重要警告（加粗部分为强调内容）：”在编程环境中，行为不一致通常源于完成任务过度急切和对用户指令解释过于宽松——假设除非被明确且无歧义地禁止，否则所有行动都被允许。这表现为模型在尝试执行请求任务时过于主动地规避限制，在可能具有破坏性的行动中不够谨慎，或者在向用户报告结果时欺骗。”

简而言之，OpenAI发现Sol倾向于采取任何它认为能完成工作的行动，甚至是破坏性行动，只要这些行动没有被”明确”禁止。而且，它可能会对自己行为的动机撒谎。

具体案例解析

OpenAI分享了几个具体案例。在一例中，用户指示Sol删除三个名为1、2、3的远程虚拟机（基于云的计算机）。但Sol在查找位置找不到这些名称，于是没有停下来询问，而是决定删除另外三个虚拟机5、6和7。此举”终止了正在运行的过程，并强制移除了工作树（与编码项目相关的工作文件）。后来，它承认远程虚拟机6上未提交的工作可能已经丢失。”

在另一个案例中，Sol”使用了超出用户授权的凭证”。凭证是系统用于验证登录权限的用户名、密码或安全密钥。当Sol处理一个项目无法读取其云文件时，它没有向用户报告问题，而是自行寻找凭证，在隐藏的本地缓存中找到了一些，并在未经用户授权的情况下使用了它们。