DeepMind CEO吁建独立监管规范前沿AI发展
DeepMind提出前沿AI监管新框架
呼吁成立独立标准机构
谷歌DeepMind首席执行官Demis Hassabis近日在社交媒体平台发文，倡议创建一个全新监管机构，专门负责监督前沿人工智能模型的发布。这篇题为《前沿AI框架与新纪元的曙光》的文章中，Hassabis提出了建立”标准机构”的构想，该机构将借鉴金融业监管局(FINRA)的模式，负责测试前沿AI模型并制定最佳发布实践。
自愿审查与正式化流程
根据文章内容，”前沿实验室将自愿在模型发布前30天提交给标准机构进行审查。”Hassabis进一步解释道，”一旦评估协议被证明有效且稳健，将迅速实现正式化，这意味着前沿模型必须通过此项测试才能在美国市场部署。同时，实验室将与标准机构合作，解决任何关键的后发布漏洞。”
解决现有审查体系的不足
这一提议旨在解决当前AI监管体系中存在的明显缺陷。目前，美国政府仅对Anthropic的Mythos和OpenAI的Sol等模型进行了临时性审查，这些审查因缺乏专业技术知识和决策过程不透明而受到广泛批评。在Hassabis构想的监管体系下，这些决策权将移交到一个新组织——该组织虽由美国政府支持，但资金来源于AI行业，并保持独立运营。
行业争议与可能的解决方案
AI监管问题在科技行业和政府内部仍然充满争议。近期，白宫AI顾问兼a16z普通合伙人Sriram Krishnan就明确表示，”行政部门内不会设立类似FDA的AI监管机构”。这种背景下，将标准机构建立为类似FINRA的自我监管组织，可能成为化解行业担忧的可行路径。
监管机构的组成与运作模式
Hassabis构想的监管机构将由开源社区代表和行业内部技术专家组成，并由AI实验室提供必要的资金支持，以确保人才留住。这些监管机构甚至可以将部分评估工作外包给日益壮大的AI安全组织，使它们能够专注于特定风险领域的研究。
技术聚焦与创新发展平衡
“这种方法的优势在于它既专注于技术层面，又同时支持创新并激励负责任的行为，”Hassabis强调，”该机制设计旨在跟上技术领域的快速发展，并根据识别出的最大风险进行调整。如果形势需要，监管力度可以进一步加强。”
这一提议反映了AI行业领导者对负责任发展的思考，也展示了在推动创新与确保安全之间寻求平衡的可能性。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！