多模态AI新突破:FLUX 3开启音视频生成新时代

多模态AI新突破:FLUX 3开启音视频生成新时代

多模态AI新突破:FLUX 3开启音视频生成新时代

总部位于德国弗莱堡的人工智能实验室Black Forest Labs(BFL)近日宣布,其FLUX系列模型家族迎来重大扩展,推出全新多模态前沿模型FLUX 3。这款创新模型能够理解并生成图像,或根据单一提示创建长达20秒的音视频组合,同时其底层架构还可延伸应用于机器人视觉与行动控制。

多模态统一架构的革新

BFL强调,FLUX 3的独特之处在于其多模态联合训练方式,而非简单地将独立的图像、视频和音频模型通过通用界面整合。这一技术路线是公司核心理念的体现:BFL希望企业能够将创意生成、模拟计算、计算机使用和机器人应用视为”视觉智能”这一单一能力的不同应用场景。在BFL的术语中,这类模型”能够跨越物理和数字环境进行感知、预测和行动”。

四大产品线布局

FLUX 3将通过四条产品线提供:FLUX 3 Video(带可选原生音频生成)、FLUX 3 Image、FLUX 3 Action以及即将推出的开源版本FLUX 3 Dev。目前,FLUX 3 Video和FLUX 3 Action已进入”早期访问”申请阶段,任何用户均可申请,但需经过BFL审批。

值得注意的是,目前BFL及其合作伙伴的应用程序编程接口(API)尚未开放公共访问,但公司表示FLUX 3 Image将在未来几周内推出,随后将全面开放。这种有限的初始发布策略与美国其他前沿实验室的最新模型发布策略相似,尽管后两者的限制主要出于安全考虑和政府要求。

关键信息的缺失

BFL尚未公布FLUX 3的定价方案、服务级别承诺、评估方法、样本规模、评估者数量或任何图像模型基准测试数据。这意味着企业买家目前无法计算总拥有成本或独立验证视频生成效果。

另一个显著缺失是,FLUX 3目前不提供可下载的权重和开源许可证。BFL表示,更快且开放的权重版本将于今年晚些时候发布,其技术博客将FLUX 3 Dev描述为”对多模态主干架构的开放权重访问,用于内容创作(视频、音频和图像)以及行动预测”—这比以往任何FLUX Dev版本都更为广泛,此前版本仅涵盖图像生成。

性能表现与市场定位

BFL已发布多项基准测试比较,但均标注为初步结果,完整的基准测试结果和方法将在更广泛的全面开放阶段公布。在针对10秒、720p文本生成带音视频的首轮对比测试中,FLUX 3在93%的比较中优于Luma Ray 3.2,在77%的比较中优于Runway Gen-4.5,在69%的比较中优于Grok Imagine Video,在60%的比较中优于Kling v3 Pro,在59%的比较中优于Happy Horse v1,在57%的比较中优于Happy Horse 1.1,在52%的比较中同时优于Seedance 2.0和Google的Gemini Omni Flash。

然而,BFL本身也提醒,这些结果图表标记为”早期FLUX 3候选模型的初步评估”—这意味着这些数据描述的是发布前的检查点,而非当前进入早期访问阶段的模型。这双刃剑效应意味着:实际发布的模型可能表现更好,但今日公布的数据并不能完全反映客户将实际体验到的性能。

企业选择指南

对于考虑采用视频生成模型的企业,以下是关键参数的简要对比:

  • FLUX 3 Video:最大单次生成时长20秒,分辨率未公开(评估在720p进行),目前处于早期访问阶段,未公布服务级别协议或定价
  • HappyHorse 1.1:最大15秒,1080p分辨率,不支持4K,权重封闭
  • Veo 3.1:按秒计费,支持4K分辨率,支持片段扩展和预览,10秒720p片段价格4美元
  • Veo 3.1 Fast:按秒计费,支持4K分辨率,仅预览模式,10秒720p片段价格1美元
  • Veo 3.1 Lite:按秒计费,1080p分辨率,不支持4K和片段扩展,仅预览模式,10秒720p片段价格0.5美元
  • Gemini Omni Flash:最长10秒(最少3秒),720p分辨率24帧/秒,预览模式且欧盟地区无法访问上传视频编辑功能,10秒720p片段价格1美元

值得注意的是,Gemini Omni Flash在欧洲经济区、瑞士和英国无法处理用户上传的视频进行编辑,尽管允许编辑模型自身生成的视频。这对希望将现有素材进行生成式编辑的欧洲企业构成了限制。


关注微信公众号:智享开源,及时了解更新信息。

原文链接:https://venturebeat.com/technology/black-forest-labs-launches-flux-3-capable-of-generating-images-and-20-second-video-with-audio-but-in-limited-release-to-start

评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章2104篇

如我距离死亡还有45年,我还活着,该怎么度过现在。


公众号:智享开源

分类