Kaiyun·官方网站-(中国大陆)登录入口

服务热线热线:

0871-63910365

行业新闻

当前位置: 首页 > 新闻资讯 > 行业新闻

ThinkSound:阿里巴巴通义实验室推出的多模态AI音频工具

发布时间:2025-07-26点击次数:

  Kaiyun平台 官方入口Kaiyun平台 官方入口

ThinkSound:阿里巴巴通义实验室推出的多模态AI音频工具(图1)

  ThinkSound是阿里巴巴通义实验室推出的多模态ai音频工具,能根据视频、文本或音频输入生成高保真音效与场景音。

  ✅视频转音频:将任意视频转为贴合画面的丰富音效。通过逐帧分析画面元素、运动轨迹及环境背景,生成与环境同步的背景音、空间音效等。

  ✅智能语音合成:基于视频内容生成自然对话与旁白。AI能识别面部表情、口型动作及情感语境,输出唇形同步精准、语调自然且情感真实的语音。

  ✅多模态音效设计:结合视频与文本指令、参考音效及风格偏好,精准调控音效细节,确保与画面自然融合,适用于影视、游戏等专业制作。

  ✅交互式音频编辑:用户可通过点击视频中的目标对象或直接输入自然语言指令,对特定声音进行细化调整。

  ✅基础音效生成:系统先整体分析视频,通过逻辑推理识别声音事件、环境元素、声学特性及时间关联,生成初始连贯的背景音场景。

  ✅对象优化:用户点击目标对象后,系统通过定位技术提取区域并跟踪对象运动,针对性生成该对象的音效逻辑,优化音频细节同时保持与整体音轨的协调。

  ✅指令编辑:用户输入自然语言指令(如“添加鸟鸣”“去除车噪音”),系统将其转化为精准的音频操作,结合画面与当前音效状态进行调整。

  ✅多模态大模型(MLLM):核心能力是同步理解视频画面、文字描述及声音语境,融合信息后逐步生成自然真实的音效。

  ✅兼容主流视频格式(MP4/MOV/AVI/MKV),适配标清至4K分辨率及多种帧率。

  ✅互动媒体与教育:通过语音合成实现多语言对话,结合精准口型同步与情感表达,让虚拟角色更生动。

上一篇:智能语音音响龙头企业关注收藏好!(2025725)

返回列表

下一篇:端侧赋能可穿戴SoC跨领域拓展新蓝海