限时特惠|Seedance 2.0 & 2.0 Mini 立享 8 折!

为什么“提示词优先”的 AI 视频工作流总是会崩溃?

跳过逐秒编写的超长提示词。这一音频优先的 AI 视频工作流利用 Seed-Audio 1.0 和 Seedance 2.0,可一次性锁定时间轴、配音及剪辑长度。

再次观看那段视频片段,记得打开声音。风声、扫帚划破空气的声音、远处的钟声,还有两个人在暮色中的笑声。这些声音都不是后期制作合成的,也不是在生成画面时顺带生成的。该镜头中的每一个音效在画面出现前就已经存在了。

这就是本文要探讨的“倒置”工作流。大多数 AI 视频提示词(prompt)失效的理由都很无聊:你试图让一个文本框同时承担三项任务:

  1. 描述场景。
  2. 编排时序。
  3. 指导音效。

结果就是生成了一个每秒都要处理的“超级提示词”,读起来像个复杂的电子表格,而且即便如此,你还是无法确定镜头应该是四秒还是八秒。

AI 电影制作人 Kiana Liang 最近在 X(前推特)上详细拆解了工作流程,展示了一种更简洁的方法。她在制作一部五镜头短片时,没有编写任何时间轴提示词。她首先使用 Seed-Audio 1.0 生成了每个镜头的完整音轨,然后将其作为参考资产交给 Seedance 2.0。音频成为了叙事的锚点,视频提示词则缩减为一个自然的段落。

本文将深入探讨这一方法为何奏效、让其保持可靠的两个提示词规则,以及如何无需在四个平台账号之间来回切换即可运行整个流程。下文嵌入的每个片段均来自那部五镜头短片。

关键要点

  • 音频承载时间轴。一旦对白、音效和音乐锁定在同一个音轨中,视频模型就会据此进行匹配,因此像“0-3秒这样,3-8秒那样”的超级提示词就变得不再必要。
  • 有两个非显而易见的提示词规则至关重要:明确标注背景音乐,并以书面形式明确表达“同步性”,而不是暗示它。
  • 镜头时长不再是盲目猜测。先生成音频,再设定视频时长与之匹配。

为什么“提示词优先”的 AI 视频工作流总是失效?

标准的流程通常是:写分镜脚本,生成第一帧,或许还有最后一帧。然后将整个时间轴压缩成一个巨大的文本提示词:哪一秒发生什么、摄像机如何移动、哪句台词在什么时候说。

这总是会导致三个问题:

  1. 首先,时间节奏存在于叙述文字中,而文字是表达时间节奏的糟糕载体。模型必须从句子顺序中推断节奏,而它经常会搞错节拍。
  2. 其次,持续时间完全是盲猜。四秒感觉太短,八秒又觉得浪费,而且你只有在渲染完成后才知道结果。
  3. 第三,声音往往是事后补救。传统的 TTS(语音合成)处理的是一个叙述者读稿子。多角色对白意味着必须分别生成语音并在后期缝合,而音效和音乐更是完全脱节。

每一个问题的根源都在于:当声音本能更好地定义时间轴时,我们却在强迫画面去承担这个任务。

对比“提示词优先”与“音频优先”工作流步骤的示意图

什么是 Seed-Audio 1.0?为什么音频优先的工作流需要它?

这种工作流之所以最近才变得实用,是因为一款模型的发布。Seed-Audio 1.0 是字节跳动于 2026 年 6 月推出的通用音频生成模型,它能一次性生成对白、音效、背景音乐和环境音,每次请求支持长达两分钟。

这种“一次性生成”的特性是核心所在。这不仅仅是 TTS 加上一些额外组件。你通过文本描述场景,模型输出成品混音:包含多个不同声线的角色、背景音乐、穿插的音效。笑声、叹息和迟疑不是粘贴上去的采样,而是模型根据你的提示词进行“演绎”出来的。

它有两种运行模式。T2A 是纯文本转音频模式,通过文字描述每个角色的声线;TA2A 是参考音频模式,你可以输入最多三个音频片段,并标记 @audio1 或 @audio2 来指定特定声线。仅需约 30 秒的个人录音即可作为可用的语音参考。

该模型可通过 Atlas Cloud 的 Seed-Audio 页面直接调用 API,同时提供参数文档和定价。

音频提示词是 AI 视频工作流的时间轴

Seed-Audio 的官方提示词公式很简单:背景音乐(BGM)描述,然后是角色 A 的声线描述及台词,接着是音效,再是角色 B,以此类推。

但这个公式有一个文档里没写、却是关键所在:按叙事顺序书写提示词,生成的音频也会遵循该顺序。谁在文本中先出现,谁的声音就先出现在音轨里。

这把音频提示词变成了时间轴。你写的每一句话都精准落在了混音的特定位置。Liang 的测试总结出了两个额外的可靠性规则,这些均未出现在官方文档中。

必须标注背景音乐,否则它会消失

如果你只写“温暖的管弦乐轻轻升起”,模型可能会把它当作一个几秒钟后就消失的音效。但在前面加上“Soundtrack:”或“background music”,它就能稳定地成为贯穿整个片段的基底。措辞上的微小变化,会带来完全不同的行为表现。

显式书写“同时发生”,不要含糊其辞

这是一个具体的失败案例:某镜头设计在说话中途,说话者身后的蒸汽火车发出一声尖锐的嘶鸣。最初的提示词写了完整的台词,然后把蒸汽音效作为单独的句子放在后面。结果是:人说完话,蒸汽才嘶鸣。这是顺序发生的,而不是同步的。

解决方法是调整结构。要让音效出现在台词中间,将台词拆成两半,把音效句子插在中间。或者明确写上“at the same time”(同时)。模型不会从两个相邻的句子中自动推断出并行关系。最终有效的提示词如下:

Soundtrack: 温暖的管弦乐主题曲轻轻响起,弦乐与竖琴编织出神秘而奇妙的旋律。

男子(男性,20岁出头,温暖清晰的声音,英语口音,真诚且热情)说道:“欢迎登车,一年级新生!”

蒸汽尖锐地嘶鸣一声,随即消退为低沉的站台喧哗声。

“敢打赌你以前从没见过这样的蒸汽火车。”

台词一分为二,蒸汽嘶鸣置于中间。每一次渲染,嘶鸣都精准落在两句台词之间。

展示台词、音效和配乐如何沿时间轴排布的示意图

音频优先的 AI 视频工作流如何一步步执行?

Seedance 2.0 是字节跳动的视频模型,采用统一的多模态架构,支持文本、图像、音频和视频作为参考输入。其“参考转视频”模式正是用于接收音轨的。当前的输入限制为:最多 9 张图像、最多 3 个视频片段(总时长 15 秒)以及最多 3 个音频片段(总时长 15 秒)。

操作步骤非常严格且极简。每个镜头只包含三样东西:

  • 一张图像。 任何一帧都可以。不需要是严格的第一帧,更不需要“首尾帧”配对。时间节奏已经存在于音频中,图像的任务仅仅是呈现“看起来是什么样”。
  • 一条音轨。 这取代了旧提示词中最难的部分。所有的“0-3秒发生什么,3-8秒发生什么”的编排现在都内置在声音里了。台词落在哪一秒,你就在那一秒设计动作。
  • 一段简短提示词。 情绪、环境、角色身份。一个自然段落即可。其余的留给音频和图像。

此外,还有一个创作者们感触最深的好处:不再需要猜测片段长度。 先生成音频,再设置视频时长与之匹配。一旦声音锁定,一切就都锁定了。

如果这听起来很熟悉,那是应该的。皮克斯(Pixar)的动画流水线在绘制最终帧之前,会先录制台词并铺设临时音乐,从而确保整部电影在声音层面先立住。音频优先并非新发明,区别在于这种流水线以前需要一个完整的制片厂,而现在只需要一段提示词。

五个镜头:音频优先工作流的压力测试

事实胜于雄辩。Liang 的演示短片——一段第一人称视角的“魔法学校第一天”片段——使用了五个镜头来测试五种不同的能力。每一个镜头都对应你实际工作中可能需要的场景。请按顺序观看下方片段。

镜头 1:纯文本控制。 语音、蒸汽同步、火车汽笛、站台喧哗、弦乐与竖琴配乐。全部用文字描述,零参考资产。这是最基础的 T2A 能力。

注意引导者向火车头转头和挥手的动作。它精准落在了蒸汽嘶鸣点上,且没有为动作编写任何时序文本。动作是由下方的音轨编排的,而该音轨在视频存在之前就已经生成了:

镜头 2:语音一致性。 下载在镜头 1 中生成的引导者声音,作为 @audio1 反馈给模型,他的声音在随后的每个镜头中都被固定住了。这被称为“语音注册”。任何制作有声书、播客或长篇系列内容的人都深知语音漂移是多么痛苦。这个功能彻底解决了它。

镜头 3:双人对白。 引导者保持已生成的语音,而第二个角色使用了 Liang 自己录制的 30 秒中文音频。每个声音都有自己的 @audio 通道。这是输入的参考录音:

最终剪辑中,她的声音说着她从未录制过的英文台词,甚至包括一个在喘息间隙夹杂着笑声的惊叫。这个笑声是由模型演绎出来的:

镜头 4:动态音乐控制。 一阵近乎寂静的停顿,接着是魔杖光芒绽放的一瞬间,一声清脆的钟声和管弦乐重音精准响起。这种对画面做出反应的音乐,完全是通过文字描述实现的。

镜头 5:完全无对白。 两个骑扫帚的人在暮色中的城堡上空飞翔。风声、破空声、一声遥远的钟声、管弦乐的渐强,以及两个人的欢呼声。这就是本文开头你看到的那段视频。将这种无对白的场景交给传统的 TTS,它将无从下手。但对于生成式音频模型而言,笑声不过是词汇的一部分。

五个音轨,五张图像,五个简短的提示词,Seedance 2.0 完成了整部短片。所有完整的提示词都公开在原始 X 文章的附录中,你可以自行重新运行整个实验。

角色一致性的换脸方案

在构建参考帧时,出现了一个实际问题:电影级的图像质量与角色一致性往往是冲突的。

Midjourney 的审美在电影感底板上表现依旧出色,其官方授权版 Youchuan v8.1 对胶片质感的表现很好,但角色一致性并非其强项。同一个角色经过五次生成,可能会出现五张不同的脸。

解决方案分为三步:用 Midjourney 生成电影级底板;然后使用 Nano Banana 2 的编辑模式,从单张角色参考图中替换人脸;最后在编辑提示词中加一行:“严格保持相同的光照”(strictly preserve the same lighting)。

四格对比图:霍格沃茨附近的年轻巫师与长者

那句“严格保持相同的光照”就是伪合成痕迹与无缝融合之间的关键。一套配方,解决三个漏洞:Midjourney 的一致性问题、编辑模型从头生成时的审美上限,以及其他图像工具中过于严苛的审核机制。每个模型各司其职。

一个 API Key 能否运行整个音频优先流程?

数一数这个流程里的模型:seed-audio-1.0(声音)、youchuan v8.1(底板)、nano-banana-2(换脸)、seedance-2.0(视频)。四个模型涵盖三种模态:音频、图像和视频。

如果这四个模型在四个不同的平台运行,摩擦力会迅速增加:四个账号、四个账单仪表盘、四种 API Key 格式、四套频率限制。工作流本身每镜头只需几分钟,但在账号间来回折腾的时间可能更长。

这就是综合模型平台的价值所在。上述所有四个模型都在 Atlas Cloud 的模型池中,因此一个 API Key 即可端到端运行整个链路。切换模型只需要修改模型字符串,而不是迁移账号。Liang 正是将此归功于音频锚定工作流能高效实践的原因:流水线一半的速度优势源于无需在不同供应商之间进行上下文切换。

无论你使用什么平台,核心架构逻辑是不变的:音频优先工作流是一连串的小型模型调用,而链路的速度取决于最慢的那一个交接点。

FAQ:音频优先 AI 视频工作流的实践

在 Seedance 2.0 中,参考音频的最长时限是多少?

在参考转视频模式下,每次生成支持最多 3 个音频片段,总时长不超过 15 秒。这对于单个镜头的对白和音效足够了。对于更长的影片,按镜头生成音频并在剪辑软件中组装即可——这也是那部五镜头短片的制作方式。

音频优先的工作流适用于没有对白的场景吗?

是的,这正是它明显优于基于 TTS 流程的地方。Seed-Audio 将笑声、欢呼、风声和环境特效视为一级“词汇”。本文开头那段扫帚飞行的片段没有任何对白,只有风声、呼啸声、远处的钟声和两个人的笑声,这些都是通过一条文本提示词生成的。

我可以在音频优先的工作流中使用自己的声音吗?

可以。大约 30 秒的录音即可在 Seed-Audio 的 TA2A 模式下作为参考片段。在提示词中标记 @audio1,模型就能用该声线演绎新的台词,包括不同语言的台词,以及诸如说话中途的笑声等你在原录音中未录制过的情绪表现。

运行全流程需要哪些模型?

文档中描述的流程使用了四个:seed-audio-1.0(音频)、youchuan v8.1(电影级帧)、nano-banana-2(一致性换脸)和 seedance-2.0(视频)。实际上,只有音频模型和视频模型是必须的。图像模型用于获得具有一致性角色的电影级画面。

最后一点感想。在演示片中,将蒸汽嘶鸣插入说话声中是模型的工作。决定引导者应该在蒸汽嘶鸣时转头,则是人类的工作。音频优先工作流并没有自动化创意判断,它只是将时间轴移动到了一个承载力更好的媒介中,并将执行门槛降低到了创意的脚下。

最新模型

一个 API,畅享全模态 AI。

探索全部模型

Join our Discord community

Join the Discord community for the latest model updates, prompts, and support.