| 成果基本信息 | ||||||
| 关键词: | 人脸,动画生成 | |||||
| 成果类别: | 应用技术 | 技术成熟度: | 初期阶段 | |||
| 体现形式(基础理论类): | 其他 | 体现形式(应用技术类): | 新技术 | |||
| 成果登记号: | 资源采集日期: | |||||
| 研究情况 | |||||
| 单位名称: | 武汉理工大学 | 技术水平: | 未评价 | ||
| 评价证书号: | 评价单位: | ||||
| 评价日期: | 评价证书号: | ||||
| 转化情况 | |||||
| 转让范围: | 合作开发 | 推广形式: | 合作开发 | ||
| 已转让企业数(个): | |||||
| 联系方式 | |||||
| 联系人(平台): | 孵化基地 | 联系人(平台)电话: | 0771-3394012 | ||
| *成果单位详细联系方式请登录会员;还不是会员,马上注册! | |||||
| 成果简介 | |||||
本发明公开了一种基于多模态相关性的人脸动画生成方法及系统,首先提出了一个基于多模态相关性的人脸动画生成神经网络框架;在网络结构上,首先提出使用多Transformer结构来建模语音驱动人脸动画生成任务中语音模态、图像模态以及语音/图像跨模态的相关性,并基于这种相关性计算驱动语音对应的人脸表情特征,从而提高生成的人脸动画的真实性和流畅性。在网络结构的基础上,创新性地将源视频引入训练过程,可以达到对驱动语音更准确的表情预测结果。另外,单语音模态驱动的方法只能在唇部上生成较好的动画结果,而引入源视频可以提高除唇部区域以外其他面部区域的真实性,从而生成更逼真的人脸动画结果 |