
一、 为什么套用文生图逻辑写视频提示词必然失败?
很多习惯了 Midjourney 或 Stable Diffusion 的同行,在接触可灵(Kling)、Runway Gen-3/Gen-4、Luma 或 Sora 时,第一反应就是把以前那套堆砌形容词的提示词搬过来:“大师杰作、8k分辨率、体积光、极高细节、超现实主义”。
结果视频生成的动作僵硬、画面抽搐,或者干脆变成一张只有微弱动态的“假视频”。
文生图模型处理的是二维空间像素分布,只要概念词之间没有严重的语义互斥,模型就能把元素拼在一起。但视频模型(如基于 Diffusion Transformer 架构的视频大模型)计算的是三维时空张量(T+X+Y)。它必须模拟物理惯性、物体运动轨迹、光线随时间位移的阴影变化,以及摄像机机位在三维场景中的连续位移。
写视频提示词的关键原则:减少静态修饰词,增加“时间变化律”与“机械位移指令”。你不是在画插画,而是在剧组给摄影师和灯光师下达精确的分镜通告。
二、 镜头推拉控制:机位位移与焦距变换的底层差异
许多人写提示词时分不清 推镜头(Dolly In) 和 变焦放大(Zoom In)。在真实影视工业和主流视频模型中,这两者的数学物理空间完全不同。
1.推镜头(Dolly In / Dolly Out):摄像机机身在物理轨道上向前或向后移动。前景移动速度快,背景移动速度慢,会产生明显的透视畸变与视差流动(Parallax Effect)。
2.变焦(Zoom In / Zoom Out):机位静止不动,仅仅改变镜头焦距。空间透视关系不变,画面边缘压缩感加剧,背景像贴图一样单纯放大。
在模型中直接写“镜头拉近”,模型经常分不清到底该动摄像机还是该缩放焦距,甚至会误判为主体自己走向镜头。
常用镜头推拉提示词规范表
| 运镜指令 | 推荐英文词(视频模型语义捕捉最高) | 物理运动特征 | 避坑提醒 |
|---|---|---|---|
| 慢速推进 | `Slow cinematic dolly-in towards [Subject]` | 摄像机匀速贴近主体,背景产生空间拉伸 | 必须加上速度限定词,避免5秒内猛冲导致画面撕裂 |
| 快速拉出 | `Rapid dolly-out revealing [Environment]` | 摄像机高速后退,由特写转为全景 | 必须指明后退后揭示的环境主体,否则容易拉出黑边 |
| 变焦推近 | `Optical zoom-in on [Detail]` | 机位固定,视场角(FOV)收窄,背景压缩 | 慎用过大倍率,极易引发材质贴图模糊 |
| 滑动变焦 | `Dolly zoom, Hitchcock vertigo effect` | 机位推进同时焦距拉宽(或反之),背景变形 | 模型算力负荷大,画面背景不能太复杂,否则容易坍缩 |
| 跟随推进 | `Forward tracking shot following [Subject]` | 摄像机以恒定距离跟在移动主体后方或前方 | 必须明确主体的行进方向,防止主体与镜头对撞 |
实操技巧:在提示词开头直接锁定机位指令,把主语放在最后。例如:
`Camera dollies in slowly toward the detective’s face, shallow depth of field, steady tracking.`
这种语序结构能让模型的时空注意力机制(Temporal Attention)在初期去噪步数就优先把坐标轴锚定在摄像机位移上。
三、 动态光影控制:光源物理锚定与时间流向
静态图的光是死的,但视频的真实感 70% 来源于动态光影的连贯性。
如果只写“电影感光影、丁达尔光”,模型通常只会生成一张静止的高光贴图。动态光影必须包含三个物理要素:光源位置、光源动态轨迹、材质受光反应。
1. 动态光源移动(Moving Light Source)
想要展现黄昏日落、车灯掠过或警灯闪烁,必须告诉模型光是从哪里走向哪里:
•车灯划过:`Passing headlights cast sweeping shadows across the damp concrete wall from left to right.`(车灯从左向右扫过潮湿的水泥墙,投下移动的阴影。)
•日光时间推移:`Time-lapse of golden hour sunlight shifting across the dusty wooden floor, shadows stretching longer.`(落日余晖在落满灰尘的木地板上缓缓位移,影子逐渐拉长。)
2. 局部遮挡与体积光变化(Volumetric Occlusion)
光穿过百叶窗、树林或雨雾时,必须描述遮挡物和光束的交替:
•遮挡光:`Sunlight filtering through swaying bamboo leaves, creating dappled, shifting caustic patterns on the character’s face.`(阳光透过摇曳的竹叶,在人物面部产生晃动的斑驳光影。)
3. 反光材质与次表面散射(Specular & Subsurface Dynamics)
光线在金属、水面、皮肤上的动态反射最容易暴露 AI 质感。加入表面物理属性词,能强制模型抑制像素涂抹感:
•湿地反光:`Neon reflections ripple and distort across wet asphalt puddle as the camera moves past.`(随着镜头掠过,霓虹倒影在潮湿沥青路面的积水中泛起涟漪与形变。)
四、 结构化提示词公式与前后效果对比
根据可灵、Runway、Luma 等前沿模型的测试数据,目前稳定性最高的是四段式时间链提示词框架:
[景别与运镜模式] + [主体与核心动作] + [动态光影与材质反应] + [环境氛围与画质基调]
•景别与运镜:`Cinematic dolly-in shot…`
•主体与动作:`An elderly watchmaker meticulously adjusting a microscopic gear with tweezers…`
•动态光影:`A warm desk lamp swings slightly overhead, causing harsh shadows to oscillate across his wrinkled face…`
•环境与基调:`1950s Swiss workshop, dust motes dancing in the warm lamplight, 35mm film grain, 24fps.`
实操优化对比案例
| 优化维度 | 差提示词(低动态、塑料感) | 优质提示词(物理连贯、层次丰富) | 关键机制解析 |
|---|---|---|---|
| 镜头推拉控制 | 赛博朋克街道,镜头推进,很帅,高清。 | `Cinematic slow dolly-in shot along a narrow Tokyo alley at night. The camera pushes steadily past rain puddles reflecting vibrant magenta neon signs, gradually framing a lone cyborg smoking under the eave.` | 明确运镜方式为 `slow dolly-in`,指定镜头滑过路面积水直到框住人物,形成完整空间透视。 |
| 动态光照表现 | 昏暗房间,一个女人坐着,阳光很美,电影质感。 | `Medium close-up of a woman sitting by the window. Low-angle sunset light streams through translucent lace curtains, with the warm golden rays slowly drifting across her face as the curtain gently flutters in the breeze.` | 锚定光源方向为 `low-angle sunset`,指定介质为 `translucent lace curtains`,通过窗帘飘动带出光线的微动。 |
| 综合推拉+动态光 | 跑车在隧道里开,超快,车灯闪烁,大师运镜。 | `Low-angle tracking shot pulling back rapidly in front of a sleek black sports car accelerating through a concrete tunnel. Overhead sodium vapor lights sweep across the metallic hood in rhythmic sequential flares.` | 采用低机位后拉 `pulling back rapidly`,把灯光量化为 `Overhead sodium vapor lights`,按节律扫过车身引擎盖。 |
五、 调用大模型(LLM)反向编写与扩充的 SOP
手动写复杂的英文长句效率很低。专业工作流通常先由人工确定分镜脚本,然后让大模型(如 GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro)转化为精准的视频生成提示词。
但是,大模型天然喜欢在输出中加入修饰性虚词(如 breathtaking、hyper-detailed),这正是视频模型最排斥的。
因此,在编写系统指令(System Prompt)时,必须设定严格的物理动作输出约束,并调控大模型的超参数:
•Temperature(采样温度):建议设为 0.3 – 0.5。温度过高会让大模型自由发挥过多形容词,破坏镜头逻辑;温度过低则词汇过于呆板。
•Top-P:建议固定在 0.7 – 0.8,保持专业术语的概率聚集。
生产级 LLM 结构化转换系统指令
可以直接复制以下系统指令配置到 GPT-4o 或 Claude 3.5 Sonnet 中:
你是一位专业电影摄影指导(DP)兼 AI 视频提示词专家。
你的任务是将用户的简短中文分镜设想,转化为符合可灵、Runway、Sora 语法标准的精准英文提示词。
### 输出规则约束:
1. 严禁使用任何抽象空洞的修饰词(禁止:breathtaking, photorealistic, ultra-detailed, masterpiece, cinematic)。
2. 每条提示词必须严格按照此顺序构成:[运镜机位与速度] + [主体与连续物理动作] + [动态光源位置、移动与阴影变化] + [场景材质与环境细节]。
3. 镜头描述必须使用标准电影术语(如 dolly-in, dolly-out, pedestal, pan, tilt, tracking shot)。
4. 必须明确指出时间维度上的光影变化(如随着主体移动,光线如何反射或遮挡)。
5. 纯英文输出,单段落,字数控制在 40-70 个英文单词之间。
### 示例输入:
一个宇航员在废弃空间站里走,镜头慢慢靠近他,手电筒光乱晃。
### 示例输出:
Slow dolly-in shot approaching an astronaut walking through a dimly lit abandoned space station corridor. The handheld flashlight beam sweeps frantically across rusted metal bulkheads, casting erratic hard-edged shadows, while micro-debris floats through the moving cone of light.
主流大语言模型在视频提示词构建上的特性对比
| 大模型选型 | 优势表现 | 潜在短板 | 适用分镜场景 |
|---|---|---|---|
| Claude 3.5 Sonnet | 极强的空间物理推演能力,对光线与材质的互动描述极其细腻,逻辑连贯性顶尖。 | 词汇量较深,偶尔会生成偏文学化的长从句,需要指令强制简短化。 | 电影级叙事分镜、微妙情绪表达、复杂光影变化。 |
| GPT-4o | 对格式指令遵守度极高,JSON/结构化输出能力稳健,工程化批量处理最稳定。 | 空间动作想象力相对收敛,倾向于模板化套用标准运镜术语。 | 工业化批量短视频、电商广告模板批量扩写。 |
| Gemini 1.5 Pro / 2.0 | 原生多模态理解力强,若传入参考视频或图片进行反推,对镜头节奏的分析最客观。 | 纯文本扩充时有时会混入多机位切镜描述(视频模型通常不支持在单段内切镜)。 | 根据现有实拍素材反向拆解视频提示词(Reverse Prompting)。 |
六、 现场避坑指南:三类常见翻车场景排查
1. 镜头推进时画面主体变形、四肢长出多余分支
•原因分析:这是因为运镜速度过快,或者主体在推进的同时做了剧烈的垂直方向运动,导致去噪过程无法匹配时间切片上的骨骼拓扑。
•解决对策:给推拉动作加限定词 `slow` 或 `smooth`;如果主体本身在快速运动,将摄像机改为平行跟随(Tracking shot),使主体在画框中保持相对静止。
2. 动态光影闪烁(Flickering Artifacts)
•原因分析:提示词中同时写入了互斥的光照条件(例如既写了 `direct harsh noon sunlight`,又写了 `dramatic moody shadows with neon glow`),模型在前后帧之间无法判定主光源权重。
•解决对策:遵循“单一主光源 + 单一环境光”原则。主光源决定阴影方向,环境光只决定暗部饱和度。例如:`A primary warm key light from the left window, with faint blue ambient fill light.`
3. “推拉变焦”变成“画面整体溶解拉伸”
•原因分析:背景缺乏明确的三维锚定物(深度参考物)。如果背景是一面白墙或纯天空,模型无法计算深度图(Depth Map),推进时就只能拉伸画面像素。
•解决对策:在背景中显式加入纵深参照物,比如柱子、走廊、两旁的行道树或地面的瓷砖缝隙(`linear perspective hallway, grid-pattern tiled floor`),给时空注意力机制提供稳定的位移参考基准。

评论前必须登录!
立即登录 注册