Stable Diffusion插件SadTalker,本地部署教程,实现照片中人物开口讲话
![](http://www.pozzm.com/caiji/data/images/2023-12-19/474ef4ffb5feb1e8864ab98f4ae0dee8.png)
实现照片中人物开口讲话不错的在线工具有HeyGen和D-ID,但需要付费使用。现在,AIHubPro推荐一个开源程序——SadTalker,可以在本地部署并无限次使用。本教程详细介绍了SadTalker的安装和使用步骤,包括stable diffusion插件模式。您可以在HuggingFace上免费体验,或通过Google Colab部署。让我们一起探索SadTalker带来的强大功能,实现一张照片生成人物开口讲话。
SadTalker,github项目地址:https://github.com/OpenTalker/SadTalker
SadTalker具有多种使用方式,您可以选择完整安装程序并按照项目详情页提供的具体操作步骤进行安装。然而,完整安装可能涉及一些繁琐的操作步骤。不过,这个工具还支持stable diffusion插件模式,您可以直接在stable diffusion中安装该插件并轻松使用,这将更加方便快捷。
Stable Diffusion插件SadTalker安装教程
1、首先,打开stable diffusion操作页面。如果您的电脑上尚未安装stable diffusion,请参考之前的文章,下载stable diffusion一键启动包
2、并按照《Stable Diffusion零基础入门教程 ,附一键启动傻瓜式安装包》中的说明,启动stable diffusion webui。
3、在stable diffusion webui界面上,点击【扩展】,然后选择【从网址安装】。
4、在弹出的对话框中,将git仓库网址 https://github.com/OpenTalker/SadTalker.git 输入到相应的输入框中。
5、点击安装按钮,开始安装SadTalker插件。
需要稍微等一下,然后点击【已安装】,列表里有sadtalker就说明已经安装完了。然后再去网盘下载checkpoints和gfpgan,将两个压缩文件下载到extensionsSadTalker文件夹内并解压,网盘链接:
checkpoints和gfpgan文件
prnu
复制
然后配置ffmpeg,首先打开ffmpeg官网:https://ffmpeg.org/download.html,下载对应系统的文件,这里以Windows为例(文件网盘中也有)
将压缩包下载到本地电脑上解压,然后打开bin文件夹,复制路径
然后鼠标右键点击我的电脑-属性-高级系统设置-环境变量-选中Path点击编辑-新建,然后在输入框内输入上面的文件夹路径,然后确定。
这时在cmd里输入如下命令:
ffmpeg -version
出现详细信息就表示ffmpeg安装成功。
然后重启webui,即可使用。可以直接上传图片也可以导入文生图或图生图生成的图片,各项功能如下图所示。
视频生成后,你可以点击播放预览视频,也可以鼠标右键点击视频然后选择视频另存为,将视频保存到其它地方。
视频演示
全身模式生成的视频,只有头部会动,身体不会动,头转动的时候和身体有明显的边界,看起来有点怪异,resize模式全身都会动,但是画面都扭曲了,甚至脸都没了,更怪,最好还是crop模式。
在线体验方式
如果你电脑无法搭建的话,你可以在huggingface上免费体验,链接:https://huggingface.co/spaces/vinthony/SadTalker
在huggingface上免费体验的时候有时候需要排队,而且可能需要花费很长时间,也可以付费升级提升速度和体验,如果你就不想花钱的话,也可以在Google colab上免费部署体验,链接:https://colab.research.google.com/github/camenduru/stable-diffusion-webui-colab/blob/main/video/stable/stable_diffusion_1_5_video_webui_colab.ipynb
直接点击代码左侧三角符号按钮运行代码就可以,等到程序安装完成后,底部会出现三个页面链接,打开链接就可以免费体验SadTalker,但是免费的是无法保证的,google colab在使用过程中有可能随时会被终止。
感兴趣的朋友抓紧去试试吧^_^