DeepMind新研究院开启通用AI对话
DeepMind成立新机构促进通用人工智能研究讨论
谷歌DeepMind研究人员近日宣布成立DeepMind研究所，旨在推动关于通用人工智能的广泛对话与探讨。该研究所由多位行业领军人物共同领导，包括DeepMind联合创始人Shane Legg、谷歌高管James Manyika以及DeepMind主席Demis Hassabis，其中Legg将担任执行编辑一职。
促进多元观点交流
新成立的DeepMind研究院致力于呈现谷歌、DeepMind及全球研究界在通用人工智能领域的多元见解。研究院在其公告中表示：”各方观点并非永远一致，随着前沿领域数据的不断涌现和信息更新，人们的看法可能会随之改变。”
首批研究成果发布
研究院首批发布了四篇论文，内容涵盖多个重要议题：
- 应对通用人工智能可能带来的经济政策调整
- 保障模型推理过程的人类可读性
- 促进人类繁荣发展的基本原则
- 前沿AI模型的评估框架
AI透明度研究
其中一篇由DeepMind安全研究员Rohin Shah和Anca Dragan撰写的论文探讨了AI透明度问题。他们认为，随着新架构的出现，强大模型的推理过程变得越来越难以监测，但透明度的缩减并非不可避免。作者呼吁开发者和监管机构直接面对安全权衡问题，可能包括限制模型的”不透明序列深度”，或要求开发者证明不够透明的系统同样具有可监测性。
AI评估框架提议
在另一篇论文中，Demis Hassabis提议成立一个由美国领导的先进AI标准评估机构，负责评估最前沿的AI模型。根据他的设想，开发者在发布模型前可自愿提交评估，最多提前30天。一旦评估体系证明有效，通过其测试可能成为在美国部署前沿AI模型的必要条件。
该机构初期将与AI公司合作设计评估方法，但最终将发展出独立的、不公开的评估方式，即”预留测试”，以防止实验室针对已知的评估方法调整其模型。Hassabis表示，这一框架可根据情况严重性”逐步加强”，可能包括前沿AI开发者之间的协调放缓。
行业安全讨论转变
这些论文的发布正值行业安全讨论从广泛的担忧声明转向具体提案的时期，包括信息披露、外部审查以及保障措施滞后时的协调放缓。本周，随着行业领导者支持Anthropic首席执行官Dario Amodei提出的”放缓”前沿AI发展的呼吁，这一转变进一步加速。
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://techcrunch.com/2026/09/17/google-deepmind-launches-institute-to-widen-the-agi-debate/
公众号：智享开源
还没有任何评论，你来说两句吧！