使用场景

在自动配音项目中使用 KeySync 为动画角色同步唇形。

在视频游戏中应用 KeySync 提升角色对话的真实感。

利用 KeySync 改善影视后期制作中的音视频同步质量。

产品特色

实现高质量的唇同步，提升视觉效果。

处理视频中的面部遮挡，增强实际应用效果。

减少表情泄漏，使用 LipLeak 度量进行评估。

支持多种音频输入格式，包括 Wav 和 Hubert。

提供交互式在线演示，方便用户体验。

提供本地运行的推理脚本，适合长视频处理。

允许用户训练自定义模型，适应不同需求。

包括评估工具 LipScore，便于质量检验。

使用教程

创建 Conda 环境并激活：conda create -n KeySync python=3.11，conda activate KeySync。

安装必要的依赖：python -m pip install -r requirements.txt --no-deps。

下载预训练模型：git lfs install，git clone https://huggingface.co/toninio19/keysync pretrained_models。

准备数据，将视频文件放置于 data/videos/，音频文件放置于 data/audios/。

运行推理脚本进行唇同步处理：bash scripts/infer_raw_data.sh --filelist 'data/videos' --file_list_audio 'data/audios' --output_folder 'my_animations'。