开源AI安全联盟成立一周即见成效
开源AI安全联盟迅速推进工作
由NVIDIA牵头成立的开放安全人工智能联盟(OSAA)仅在成立一周后，就已吸引了超过120家科技企业加入。该联盟近期设立了一个名为”共享AI发现交流”(SAFE)的工作组，并已开始提出多项建议供公众评论。Linux基金会作为联盟成员之一，正负责管理这些建议的收集与整理工作。
在网络安全盛会中诞生
这一联盟的发展正值全球网络安全领域盛会——Black Hat大会在拉斯维加斯召开期间。联盟成员们齐聚一堂，共同探讨AI安全领域的挑战与机遇，为制定行业标准奠定了基础。
初步建议聚焦AI安全
目前，联盟提出的初步建议虽然尚无突破性内容，但涵盖了AI网络安全事件的关键环节，包括如何保密地报告安全事件、如何及时通知相关方，以及如何进行无责分析以促进整体学习与进步。
成员贡献开源技术
与此同时，OSAA成员企业正积极贡献并整理各自的开源技术资源，这些技术可能对AI安全领域有所帮助。随着联盟的发展，这些分散的技术有望整合成一套完整的企业级AI智能体安全解决方案，帮助企业防范恶意AI攻击，例如曾侵入Hugging Face平台的OpenAI模型（Hugging Face同样是该联盟成员）。
目前，各成员已贡献的技术包括：
- NVIDIA提供了完整的开放模型系列，以及一款名为Garak的开源大语言模型(LLM)漏洞扫描工具
- Okta正在开发智能体身份识别技术
- Red Hat专注于智能体治理方案
- Amazon贡献了开源智能体构建工具Strands Agents和授权语言Cedar
此外，还有众多其他企业的技术贡献正在被整合到联盟的工作中。
行业巨头云集
该联盟已汇集了一批知名企业，包括Adobe、BlackRock、Cisco、Intel、Microsoft和Visa等。然而，值得注意的是，一些AI领域的领军企业如Anthropic、OpenAI和Google尚未加入这一联盟。
从公开信到行业联盟
有趣的是，OpenAI和Google都曾签署了促成该联盟成立的公开信。这封于上周发布的信件呼吁白宫支持而非打压开源AI努力，由NVIDIA发起并获得了超过200家科技公司的签名。
尽管Anthropic至今未对公开信和该联盟表示明确支持，但OpenAI和Google都已发布了各自的开源权重模型。Google一向被视为开源的支持者，未来是否会随着联盟影响力的扩大而加入仍有待观察。
应对政策变化的快速行动
该联盟的运作节奏与AI领域的发展速度相匹配。就在几周前，有消息称特朗普政府正考虑禁止中国的开源AI模型，这一政策动向引发业界担忧，最终促成了上述公开信的发布。
无论美国最终对中国开源AI模型采取何种政策，这一重量级联盟的快速行动对美国开源AI生态系统而言都是积极信号。美国开源AI实验室Arcee的联合创始人兼首席技术官表示，这是应对中国AI实验室可能对美国构成的威胁（无论是真实存在还是想象中的）的最佳方式。
开放与安全的平衡
“开放可能是实现AI安全与安全性的最重要途径之一，”该联盟在其公开信中写道。看来他们已经准备用实际行动和科技实力来证明这一点。
关注微信号：智享开源，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！