即梦AI - 一站式AI创作平台

SignLLM:第一个多语种手语生成模型通义

method.jpg

SignLLM,第一个多语种手语生成模型,可以将输入的文本或提示转化为相应的手语手势视频滴滴ai。SignLLM通过先进的ai千问是免费软件吗技术生成和翻译豆包免费使用吗?多种手语。SignLLM引入了首个多语言手语数据集,名为 Prompt2Sign,并基于此数据集开发了多种生成手语的模型。此数据集将大量视频转化为便于模型训练的格式,优化了如 seq2seq 和 text2text 等翻译模型的训练。基于这些数据集,我们展示了 SignLLM 的基准结果,表明我们的模型在八种手语的手语生成任务中达到了最先进的性能。

SignLLM受到在广泛的多语言文本语料库上训练的大型语言模型 (LLMs) 强大翻译能力的启发,我们的目标是利用现成的 LLMs 来处理 SLT。在本文中,我们对手语视频进行规范化以体现口语的语言特征,并提出了一种新颖的 SignLLM 框架,将手语视频转换为类似语言的表示形式,以提高现成的 LLMs 的可读性。 国内大模型公司排名

SignLLM 包含两个关键模块:豆包官网网页版入口

1、矢量量化视觉符号模块将符号视频转换为一系列离散字符级符号标记。国内大模型公司排名

2、代码本重建和对齐模块将这些字符级标记转换为单词级使用最佳传输公式进行符号表示。符号-文本对齐损失进一步弥合了符号和文本标记之间的差距,增强了语义兼容性。我们在两个广泛使用的 SLT 基准测试中取得了最先进的无光泽结果。海螺ai下载

SignLLM GITHUB地址:https://signllm.github.io/ai下载免费安装

收藏

相关文章数字人工具

千问app官网
最新工具
豆包工作
豆包工作数字人工具

字节跳动推出的AI办公任务执行工具,支持本地电脑操作、浏览器自动...豆包官网网页版入口

HyCreator影廊
HyCreator影廊ai下载免费安装

腾讯一款面向长视频生成的Agent Harness框架,支持端到...豆包是一个什么软件

Lanta AI
Lanta AIai大全

一个在线AI视频生成聚合平台,支持文生视频、图生视频与视频转视频...ai人工智能选号

奇快AI
奇快AIai数字人直播软件

企业级AI视频创作平台,基于Seedance生成电商商品视频、复...ai线上

醒图
醒图千问下载

字节跳动旗下的AI修图软件,支持人像精修、智能抠图、批量调色、老...豆包是一个什么软件

豆包专业版
豆包专业版通义

字节跳动旗下AI助手豆包推出的付费订阅服务,68元标准版即可让A...豆包是一个什么软件

GenApe AI
GenApe AI千问要登录吗

一个整合写作、图片与视频创作,提供70多个模板及电商商品图、模特...罗根智能体

Genra AI
Genra AI下载即梦a i

对话式AI视频创作平台,支持短剧、广告、TVC 等端到端生成,内...滴滴ai

CreatView AI
CreatView AI千问下载

一款集成 Sora 2、Veo 3.1、Midjourney v...千问app官网

库库AI
库库AI罗根智能体

百度推出的全模态AI办公智能体,支持一句话并行生成PPT、Exc...豆包是一个什么软件