Luma Labs

Dream Machine AI 视频与 3D 生成,物理运动与光影效果自然

热度3D设计免费额度
Luma Labs 预览

用手机绕着一个物体走一圈,拍一段视频,然后把视频上传到一个网站——几分钟后,这个物体的高质量 3D 模型就出现在你的屏幕上,可以任意旋转查看,可以导出用于游戏或者 3D 打印。这就是 Luma Labs 的核心产品在做的事情,而它的实现方式是 NeRF(Neural Radiance Fields,神经辐射场)技术。

Luma Labs 是什么

Luma Labs 是一家专注于 AI 3D 重建技术的公司,创始于 2021 年,核心技术方向是用 AI 从普通视频和图片重建出高质量的 3D 场景和模型。公司的主打产品包括:

Luma AI App:手机应用,用户绕着物体拍摄视频,App 上传到云端,AI 处理后生成可以交互查看的 3D 场景,可以嵌入网页或者导出为 3D 格式。

Dream Machine:文字转视频生成工具,用 AI 根据文字描述生成短视频,是 Luma Labs 在视频生成领域的布局(这个产品让 Luma Labs 在 2024 年广泛被媒体报道)。

Genie:文字转 3D 生成工具,输入描述直接生成 3D 模型。

Luma Labs 的特点是技术上追求高质量,尤其是 3D 重建的真实感方面——NeRF 技术生成的 3D 场景不是传统的多边形网格,而是一种可以从任意角度生成真实感图像的隐式表示,视觉效果非常出色。

NeRF:核心技术的解释

要理解 Luma Labs 为什么特别,需要了解一下 NeRF。

传统的 3D 重建思路是:从多张图片里找对应点,重建出物体的三维形状(点云或者网格),再贴上纹理。这个流程对于简单形体效果不错,但对于有复杂光影变化的材质(玻璃、金属、透明物体)效果往往不理想。

NeRF(Neural Radiance Fields)是一种完全不同的方式:它不建立显式的几何模型,而是训练一个神经网络,这个网络学会了"从任意角度看这个场景,应该看到什么颜色"。当你从新的角度查看时,网络实时计算该角度看到的图像,效果非常真实,特别是对光影细节的还原。

这就是为什么 Luma Labs 的 3D 重建效果在视觉上非常出众——光泽、反光、半透明材质的还原程度远超传统方法。

主要产品功能

Luma AI 视频转 3D

使用 Luma AI App 或者网页版,上传绕物体拍摄的视频(建议绕行角度覆盖全方向,光线均匀),Luma 处理后生成:

  • 可以在浏览器里交互查看的 3D 场景(类似 Google Maps 的街景探索感)
  • 可以嵌入到网页里展示
  • 可以导出为 .splat 格式(3D 高斯泼溅,Gaussian Splatting)或者视频文件
  • 部分导出支持 GLTF/OBJ 格式,可以进入 3D 软件

这个功能特别适合:产品的 3D 展示(电商展示、博物馆文物展示)、建筑空间的 3D 记录、游戏场景参考素材的快速采集。

Dream Machine(文字转视频)

2024 年推出,用 AI 根据文字描述或者参考图片生成 5 秒左右的视频。Dream Machine 的视频生成质量被媒体和用户广泛认可,尤其在运镜流畅性和一致性上表现不错。

这让 Luma Labs 从"3D 重建工具"扩展成了一个"AI 视频生成"的重要玩家,和 Runway、Pika、Sora 等同台竞争。

Genie(文字转 3D)

更直接的 AI 3D 生成路线——不需要拍摄视频,只需要用文字描述你想要什么,AI 直接生成 3D 模型。和 Meshy、Tripo3D 是竞品,这个方向是 AI 3D 生成的主流路线。

将视频转为游戏资产

这是网站对 Luma Labs 的重点推荐方向,值得专门说明。

用 Luma Labs 把视频转成 3D,然后把这个 3D 内容用于游戏,有几种实际应用:

场景参考和概念素材:游戏美术师拍摄真实场景(一面墙、一个角落、一块石头),用 Luma 生成 3D 参考,在此基础上在建模软件里进行创作,比看 2D 参考图更有立体感。

直接用作游戏场景:对于走写实或者实景风格的游戏,Luma 生成的 NeRF 场景质量足够高,可以直接作为游戏中的场景或者 Cutscene(过场动画)背景。

纹理参考:从 Luma 生成的 3D 里截取特定角度的图片,用作 3D 建模时的纹理参考或者直接用于制作材质。

3D 扫描替代:专业 3D 扫描设备价格高,Luma 用手机视频实现了类似的效果,成本几乎为零,适合预算有限的独立开发者和小团队。

和其他工具的比较

vs Polycam:Polycam 也是手机 3D 扫描工具,支持 iPhone 的 LiDAR 传感器(精度更高)和普通摄像头模式。Luma Labs 在视觉效果(尤其是光泽材质的还原)上通常优于 Polycam,但 Polycam 对 LiDAR 的利用让几何精度更准确,适合需要精确尺寸的场景(建筑测量、室内设计)。

vs RealityCapture / Agisoft Metashape:这两个是专业的摄影测量软件,生成的 3D 网格精度极高,适合测量和高端视觉效果,但价格高且学习曲线陡。Luma Labs 简单易用,视觉效果好,但几何精度不如这些专业工具。

vs Runway / Pika(视频生成方向):Dream Machine 是 Luma Labs 进入视频生成赛道的产品,和 Runway Gen-3、Pika 是直接竞品。三者各有擅长,视频生成质量和风格有差异,实际选用建议分别测试。

vs Meshy / Tripo3D(文字转 3D 方向):Genie 是 Luma Labs 在这个方向的产品,和 Meshy、Tripo3D 直接竞争。这个方向竞争激烈,工具都在快速迭代。

谁适合用 Luma Labs

需要高质量 3D 展示的电商和品牌:产品的 3D 展示能让用户更直观了解商品,Luma 的视觉效果高,适合需要给高端产品做 3D 展示的场景(珠宝、手表、精密产品)。

游戏美术师和独立开发者:快速获取真实场景的 3D 参考和游戏素材,不需要专业扫描设备。

建筑和室内设计师:快速捕捉现有空间的 3D 状态,用于改造规划参考或者向客户展示。

文物和文化遗产保护:用 Luma 记录文物或者历史建筑的 3D 状态,数字化保存视觉信息。

内容创作者:用 Dream Machine 生成视频内容,用于社媒、广告、短片。

价格

Luma Labs 的 App 提供免费使用,有每月处理次数限制。Dream Machine 有免费额度,付费版提供更多生成次数和商业授权。具体以官网为准,整体定价对于个人用户较为友好。

Luma Labs 代表了 AI 3D 技术的一个重要方向——让高质量的 3D 内容创建从专业人士的特权变成普通人可以轻易实现的事情。无论是视频转 3D 还是文字转视频,Luma Labs 的技术质量在行业里都处于前沿位置,是值得认真关注和尝试的工具。