AI数字人：AI数字人制作初探及相关开源简介_开源数字人-程序员宅基地

技术标签：图片 AIGC 人工智能 sadtalker 人工智能 ai 说话数字人开源

文章目录

@[toc]

简介

一、SadTalker

二、Wav2Lip

三、Thin-Plate Spline Motion Model

四、Real_Time_Image_Animation

五、Text2Speech

六、语言模型

其他

简介

数字人这名字听着稀奇又别扭，其实它最初的原型大家都听过——NPC。玩过游戏的应该都知道，也就是游戏内玩家操纵的游戏角色，可以和玩家进行交互的角色。广义上讲可以说是计算机模拟出的具有人的形态的虚拟人都叫做数字人，在平常的观感上，数字人是整合了人物形象模拟、人物声音克隆、自然语言处理、知识图谱解析等众多世界领先的人工智能技术的可视化数字虚拟人。他通过对人物形象的复制模拟，人物声音的克隆及语音合成，可随时随地与真人进行准确交互性对话。

通俗的讲所谓数字人，本质上是AI的一种进化，是通过计算机图形学技术进行虚拟制作的类人形象，没有现实世界中的身体。数字人的本体存在于计算设备中（比如电脑、手机）中，通过显示设备呈现出来，让人类能通过眼睛看见。它具备人类的外观和行为模式，数字人具有人类身体的外观形体结构，表现出来的行为模式是与人类相仿的，数字人的影像通常是呈现出某种人类的活动。

下面收集了几个开源的数字人项目，整理出来了，大家一起学习，希望对大家有所帮助。

一、SadTalker

https://github.com/OpenTalker/SadTalker

在这里插入图片描述

它可以通过音频驱动图像，生成真实感的3D人脸动画，使得人物可以“开口说话”。

在这里插入图片描述

而且，非常方便的是，可以直接集成到stable-diffusion-webui
在这里插入图片描述

一张图 + 音频 => 视频, 我找了2张图，一段音频，跑了2次。结果还不错，口型几乎都是吻合的。

在这里插入图片描述

二、Wav2Lip

https://github.com/Rudrabha/Wav2Lip

将视频与任何目标语音进行口型同步
适用于任何身份，声音和语言。也适用于CGI人脸和合成语音。
你可以自己训练、或者使用预训练模型

原视频 + 音频 => 新视频，这是一个2020年启动的项目，有段时间没有更新，但是如果有需要，还是值得看看的。

三、Thin-Plate Spline Motion Model

https://github.com/yoyo-nb/Thin-Plate-Spline-Motion-Model.git

使用视频，驱动静态图片。“让任何图片开口，讲任何话”。
在这里插入图片描述

再看一个视频交流互动的例子
在这里插入图片描述

四、Real_Time_Image_Animation

https://github.com/anandpawara/Real_Time_Image_Animation

就像项目名称所说的，支持实时驱动静态图像，生成视频/视频流。没错，支持实时摄像头！
在这里插入图片描述

总结一下，“你可以让任何图片说任何话”，“你可以让任何人说任何话。”

五、Text2Speech

文本生成音频。已经相对比较成熟了，像讯飞，微软，很多人一直在使用他们的产品。

六、语言模型

这个就很多了，从国内到国外，太多了，有的人都说千模大战了。ChatGPT，GPT4，GPT5，文心，星火，源，盘古。有了语言模型，人物有了自己的“精神世界”，可以训练特定的人物语言风格，你可以与数字人对话交流，再使用文本生成相应的音频，然后使用音频驱动图片，产生人物表情、姿态，甚至动作，从而最终实现视频交流。比如，你可以在头条上看到的24小时数字人新闻直播：

在这里插入图片描述

因为这个不需要互动，基本上信息收集 + 缓冲队列 + 画面音频驱动就可以实现了。而想要达到实时互动的效果，比如视频聊天机器人，需要生成计算人物表情甚至动作，延迟是少不了，而且现有技术条件下，需要消耗巨大的算力，一般的公司或者个人无法承担。除非有牛X的创新的技术出现。因此，你会看到，包括不久前的character AI，拥有相当多的角色人物，但是只能响应文本内容…
在这里插入图片描述

其他

参考：https://www.toutiao.com/article/7242460144024732195

本文链接：https://blog.csdn.net/zhanggqianglovec/article/details/131482247

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

c# 调用c++ lib静态库_c#调用lib-程序员宅基地

文章浏览阅读2w次，点赞7次，收藏51次。四个步骤1.创建C++ Win32项目动态库dll 2.在Win32项目动态库中添加外部依赖项 lib头文件和lib库3.导出C接口4.c#调用c++动态库开始你的表演...①创建一个空白的解决方案，在解决方案中添加 Visual C++ , Win32 项目空白解决方案的创建：添加Visual C++ , Win32 项目这......_c#调用lib

deepin/ubuntu安装苹方字体-程序员宅基地

文章浏览阅读4.6k次。苹方字体是苹果系统上的黑体，挺好看的。注重颜值的网站都会使用，例如知乎：font-family: -apple-system, BlinkMacSystemFont, Helvetica Neue, PingFang SC, Microsoft YaHei, Source Han Sans SC, Noto Sans CJK SC, W..._ubuntu pingfang

html表单常见操作汇总_html表单的处理程序有那些-程序员宅基地

文章浏览阅读159次。表单表单概述表单标签表单域按钮控件demo表单标签表单标签基本语法结构<form action="处理数据程序的url地址“ method=”get|post“ name="表单名称”></form><!--method将表单中的数据传送给服务器处理，get方式直接显示在url地址中，数据可以被缓存，且长度有限制；而post方式数据隐藏传输，_html表单的处理程序有那些

PHP设置谷歌验证器（Google Authenticator）实现操作二步验证_php otp 验证器-程序员宅基地

文章浏览阅读1.2k次。使用说明:开启Google的登陆二步验证（即Google Authenticator服务）后用户登陆时需要输入额外由手机客户端生成的一次性密码。实现Google Authenticator功能需要服务器端和客户端的支持。服务器端负责密钥的生成、验证一次性密码是否正确。客户端记录密钥后生成一次性密码。下载谷歌验证类库文件放到项目合适位置(我这边放在项目Vender下面)https://github.com/PHPGangsta/GoogleAuthenticatorPHP代码示例://引入谷_php otp 验证器

【Python】matplotlib.plot画图横坐标混乱及间隔处理_matplotlib更改横轴间距-程序员宅基地

文章浏览阅读4.3k次，点赞5次，收藏11次。matplotlib.plot画图横坐标混乱及间隔处理_matplotlib更改横轴间距

docker — 容器存储_docker 保存容器-程序员宅基地

文章浏览阅读2.2k次。①Storage driver 处理各镜像层及容器层的处理细节，实现了多层数据的堆叠，为用户提供了多层数据合并后的统一视图②所有 Storage driver 都使用可堆叠图像层和写时复制（CoW）策略③docker info 命令可查看当系统上的 storage driver主要用于测试目的，不建议用于生成环境。_docker 保存容器

随便推点

网络拓扑结构_网络拓扑csdn-程序员宅基地

文章浏览阅读834次，点赞27次，收藏13次。网络拓扑结构是指计算机网络中各组件（如计算机、服务器、打印机、路由器、交换机等设备）及其连接线路在物理布局或逻辑构型上的排列形式。这种布局不仅描述了设备间的实际物理连接方式，也决定了数据在网络中流动的路径和方式。不同的网络拓扑结构影响着网络的性能、可靠性、可扩展性及管理维护的难易程度。_网络拓扑csdn

JS重写Date函数，兼容IOS系统_date.prototype 将所有 ios-程序员宅基地

文章浏览阅读1.8k次，点赞5次，收藏8次。IOS系统Date的坑要创建一个指定时间的new Date对象时，通常的做法是：new Date("2020-09-21 11:11:00")这行代码在 PC 端和安卓端都是正常的，而在 iOS 端则会提示 Invalid Date 无效日期。在IOS年月日中间的横岗许换成斜杠，也就是new Date("2020/09/21 11:11:00")通常为了兼容IOS的这个坑，需要做一些额外的特殊处理，笔者在开发的时候经常会忘了兼容IOS系统。所以就想试着重写Date函数，一劳永逸，避免每次ne_date.prototype 将所有 ios