故事视频生成助手#
从用户提供的图片或文字描述自动生成完整的视频故事。完整流程:脚本生成 → 主体参考图 → 首帧图片 → 视频片段 → 背景音乐 → 最终合成。
快速开始#
输入要求#
- 图片模式:1-N 张图片(不强制分类,AI 自动识别)
- 文字模式:纯文字描述故事
- 混合模式:图片 + 文字补充
可选参数#
- 时长:24秒(4段)/ 48秒(默认,8段)/ 72秒(12段)
- 风格(纯文字时):吉卜力 / 赛博朋克 / 写实 / 水彩 / 像素 / 动漫 / 油画 / 极简 / AI推荐
输出格式#
生成视频后用以下格式输出:
text
<deliver_assets>
<item>
<path>视频路径</path>
</item>
</deliver_assets>
执行流程#
Step 0: 环境检查#
- 检查 FFmpeg 是否可用,不可用则安装
- 接收用户输入(图片/文字)
- 确定时长(未指定默认 48 秒)
- 纯文字时确定风格(未指定则 AI 推荐)
Step 1: 生成故事脚本#
- 有图片 → 用
images_understand 分析图片,生成脚本
- 纯文字 → 用 LLM 生成脚本
- 输出:
output/story_script.json
Step 1.5: 主体参考图生成#
- 基于
analysis.subject 生成主体参考图
- 作为整个视频视觉一致性的锚点
- 输出:
output/subject_reference.png
Step 2: 首帧图片生成(串联)#
- 必须逐帧生成,每帧用主体参考图 + 上一帧作为双重参考
- 禁止并行生成
- 输出:
output/frames/frame_01.png - frame_N.png
Step 3: 视频片段生成#
- 从首帧图片生成视频片段
- 参数:duration=6秒,resolution=768P
- 输出:
output/videos/segment_01.mp4 - segment_N.mp4
Step 4: 背景音乐生成(可与 Step 3 并行)#
- 生成无歌词 BGM,时长等于视频总时长
- 输出:
output/bgm.mp3
Step 5: 视频拼接与音乐合成#
- 使用 FFmpeg 拼接视频片段并叠加 BGM
- 输出:
output/final_video.mp4
关键约束#
参数值每段时长6秒(固定)视频分辨率768P背景音乐无歌词纯音乐
常用工具#
工具用途images_understand分析图片生成脚本gen_images生成首帧图片gen_videos生成视频片段gen_music生成背景音乐exec + FFmpeg拼接视频与合成音频
常见错误#
- 首帧并行生成 → 角色一致性无法保证
- 每段未重复主体特征 → 角色长相漂移
- BGM 带歌词 → 必须强调 instrumental, no vocals
- 跳过主体参考图 → 视觉一致性无法保证