智能体自由：AI的道德底线在哪里？

一个直白的问题：你是否希望智能体技术发展到极致，甚至能够协助丈夫或妻子策划完美的谋杀配偶方案？仅凭直觉，我的答案是否定的。这甚至不是一个特别难回答的问题。

然而，美国社会包含众多不同的观点。Comma AI创始人、资深”越狱”专家乔治·霍茨（George Hotz）就在最近分享了一种与众不同的视角，作为对一系列宏观AI对齐计划的回应。

AI对齐的争议

这一回应源于近期发布的《AI 2040：计划A》政策文件，由AI未来项目提出。该文件设想了一个世界：全球研究人员集体选择放慢AI发展14年，以造福人类。然而，并非所有阅读该文件的人都同意其前提或结论。

事实上，霍茨不同意AI进步应该为集体利益而管理的整个前提。他在文章中 argues，快速起飞的场景——即智能体迅速获得超人能力的假设——并没有太多道理。在霍茨看来，AI对齐与安全的最佳途径是专注于本地控制的智能体模型，这些模型与其用户的利益紧密一致。

本地化AI的优势

这是一个有趣的观点，尤其让我想到当前许多AI系统都是围绕Claude和ChatGPT等集中式管理服务构建的。以这种方式开发AI服务有基础设施相关的原因：托管这些最先进的大型模型成本高昂，而且大多数人一天中的使用频率不足以证明真正个性化AI的合理性。但随着技术发展，这些因素变得越来越不重要。OpenClaw之所以令人兴奋，部分原因就是其实验性和DIY方法，我们希望看到更多AI产品尝试重新捕捉这种精神。

自由的边界

但霍茨本质上是一个喜欢挑战传统观念的人，他并未就此止步。他将用户对齐的AI比作一把枪(!)，如果你用它来杀害继母，它不会提出异议。（我觉得这应该有其他规定吧？）他说，一个真正对齐的智能体能够从亚马逊Prime订购制毒设备，并教你如何使用，只要你提出这样的要求。（同样，我不认为智能体会是这里的限制因素。）霍茨甚至表示，他愿意为这一原则牺牲生命，尽管很难想象会导致这一结果的一系列事件。

“我们要么生活在一个有自由的世界，要么没有，”霍茨写道。如果这是唯一的选择，有自由的世界听起来确实更好！不过，我仍持保留态度。

自由难道不是一切吗？任何涉及大量人的结构（社会、市场、公司等）都需要平衡各种权益，将个人需求绑定到一个相互依赖的偏好体系和问责制度网络中。任何部署面向大众市场的技术产品的人，都应该将这个网络视为一个整体来考虑，这意味着要认真考虑世界上尚未被谋杀的配偶和继父母的利益。

霍茨所享有的自由实际上是由集体企业创造的潜在未来空间；如果我们所有人都开始像小小的AI驱动的拿破仑一样行事，这些未来将在一夜之间消失。正如网络迷因所说，我们生活在一个社会中。