AI时代的多角色演播:打开声音世界的新宇宙 - 行业动态 -

当前位置:首页  >  行业动态  > 正文

AI时代的多角色演播:打开声音世界的新宇宙

AI时代的多角色演播:打开声音世界的新宇宙
2023-07-08 20:06:36 来源:MetaPost

你是不是也曾在畅享有声爽文时,因千篇一律的播讲形式而倍感苦恼?

是不是也曾期待有一款听书神器能让你感受到角色变化,深入情境获得沉浸体验?

在现实中,我们似乎更常听到这样的“AI语音朗读”:单一音色播讲,无法区分各具特色的角色形象,长时间听书容易枯燥……


(资料图片仅供参考)

究竟什么才是新一代“AI 语音朗读”? 相比单单追求“让用户听懂”的初衷,角色分明、声情并茂的演播能更好的吸引用户,这让火山语音嗅到了一个可以充分发挥自身优势、重新定义 “AI语音朗读”的机会。

历经两年时间的用心打磨,目前团队形成了一套角色分明、情感丰富的「AI多角色演播方案」,并作为首个AI有声小说领域高质量综合解决方案对外推出。 所谓“AI多角色演播方案”,即依托火山语音有声阅读场景60+款优质音色构造的音色矩阵,通过NLP技术智能理解文本内容实现角色自动配音,形成媲美真人的多角色演播效果;此外,上述能力还结合有声创作流程落地创作平台,除实现规模化生产之外,还可满足差异化、精品化的内容定制需求。

“我们同番茄小说有着紧密的业务合作,在听书用户群体中孵化打磨方案,让效果表现更符合用户需求,以此助力我们在有声内容创作这个领域做专业做深入;更重要的一点,火山语音多年来在语音合成领域的技术积累和创新,更是我们炼成此方案的核心优势。”火山语音总结道。

PART 1.

超拟人效果构建竞争\"护城河\"

在小说演播场景下,要实现超拟人的精品效果,主要有以下几个难点:AI音色能否适配小说中的各色角色?AI 能否进行情感化配音,通过情感演绎小说文本,展现小说人物性格特征和情感变化? 在不同的情节下,角色能否做出诸如哭泣、大笑等「高浓度」的情感演绎?

01

千人千「声」 打造精品「声音宇宙」

过去,传统语音服务商多从智能客服、语音助手起家,极少为阅读场景定制符合有声内容中角色人设的AI对话音色。面对如今网文的“爆发式增长”,火山语音历时两年时间围绕网文各类题材中的典型角色,着力打造出适配不同年龄、风格的AI音色矩阵。

目前,AI配音家族已有60多个精品音色 ,无论是穿越文里的睿智大女主,还是言情文中的霸气冷酷总裁,抑或是青涩校园中的鬼马少女,可以满足大部分小说的角色人设需求。 快来感受下火山语音音库中的多样精品音色吧!

02

会「哭」会「笑」

多种情感演绎「以声传情」

在有声内容创作中,仅仅只有音色数量的积累还是不够的,如果在技术上无法达成媲美真人的效果水平,让霸道总裁、大女主用特定风格的声音讲故事,还是无法满足用户“沉浸式阅读”的需求。

为了让AI主播能「哭」会「笑」,像专业配音演员一样表达“深刻的人类情感”,火山语音还为每个AI音色赋予了开心、悲伤、愤怒、恐惧等多种感情,例如:

不仅如此,为了让不同情绪下的演绎更加贴合真人表达,团队还在“副语言”上进行了深入探索。 “副语言”也称“类语言”,是指伴随话语出现的某些声音现象,包括语音要素特征,例如停顿、重音、语速、语调等;以及言语的功能性发声,例如笑声、哭腔、急喘、咬牙切齿等。

“我们针对"副语言"现象进行了精细化的建模还原,实现了有声书中常见的重音停顿、疑问反问、笑声哭腔以及各类叹息、叫喊声等,给用户带来更近一步的‘沉浸式体验’。”

PART 2.

除了效果 , 更关注成本与效率

其实对于火山语音来说,在声学技术层面实现高表现力的声音合成并不是最难的,更难的则是「AI多角色演播方案」如何能够更加低成本、批量化的高效率生产。 例如在无人工标注的情况下,AI 能否像配音演员一样理解文本,自动区分旁白和对话?能否自动判定句子的情感、重音以及句间停顿?能否快速批量化地生产出高质量有声作品?这些问题,火山语音团队都在不断尝试解决。

01

突破传统生产瓶颈

AI 文本理解模型效率远超人工

在有声内容创作中,能否实现文本的语义理解并自动制作画本,是贴近多角色有声书批量化生产的关键。通常在精品 AI 有声书制作中,往往需要人工对文本进行标识,即划分出对话与旁白,并标识出每个角色的台词以及其表达的情感,但这一过程往往十分耗时耗力,造成精品 AI 有声书很难大规模批量生产的现状。

针对这一痛点,火山语音开发并应用了 “AI 文本理解”模型 ,即一套多任务的长文本理解 AI 系统。基于预训练语言大模型在数百万章的小说文本上的大规模自监督预训练学习,通过小说人名识别、对话-说话人匹配以及人物指代消解三个任务,让“AI 文本理解”模型具备自动提取小说中对话角色、自动区分对话/旁白、自动判定对话所属的角色的能力。同时,为了让小说演绎情感丰富,团队还采用了对比学习得到句子情感表征,从而大幅提升对话情感的识别能力。

总体来说模型优化带来的成本降低以及产能提升的收益是显著的。 在整体听感与纯人工标注齐平的前提下,AI 文本理解模型可以解放绝大部分的标注人力,大幅缩减标注的时间和成本,这意味着不必维持一个庞大的标注团队,也能让有声书量产成为可能,借助此模型精品 AI 有声书的制作效率得以大幅提升。

图 | 「AI 文本理解」模型

02

AI有声内容创作平台

批量高效的生产工具

值得提及的是,火山语音还自主打造了AI有声内容创作平台,以实现AI多角色有声内容的批量高效生产。 简单来说用户只需将目标书籍文本导入,即可由平台自动完成角色的抽取、对话/旁白的区分,同时判定对话所属的角色和情感。在配音环节,用户可以自主选择配置AI音色来匹配书中各角色 , 也可选择简单标定角色人设,依据平台内置策略一键配音。完成配音后,平台即会根据自动预测的信息完成音频的自动合成和拼接,仅需几小时便可完成一部数千章的成品有声书的生产!

此外,为了满足连载追更用户的听书诉求,平台还实现了连载自动更新的功能,即收到线上文本更新的通知后,几秒钟之内即可完成更新章节音频的生产和上线,用户可以通过听书功能实时追更、无需等待。

最后,为了满足用户差异化的创作需求,该平台还提供了一系列音频调整和精修功能,例如指定特定词语发音;控制句子的停顿、连读、语速和音调等,可以让AI自动合成的音频演绎更加完美。

火山语音,长期以来面向字节跳动各大业务线提供优质的AI语音技术能力以及全栈语音产品解决方案。目前团队的语音识别和语音合成覆盖了多种语言和方言,多篇论文入选各类AI 顶级会议,技术能力已成功应用到抖音、剪映、番茄小说等多款产品上,并通过火山引擎开放给外部企业。

END

图文 | 火山语音团队

标签:

(责任编辑:news01)
世界新消息丨欧洲央行管委:欧洲央行不应倾向于宁可犯加息过头的错误

世界新消息丨欧洲央行管委:欧洲央行不应倾向于宁可犯加息过头的错误

欧洲央行管委会委员IgnazioVisco反击了表示决策层不应担心加息过头的同
07-05 23:03:10
泰裤辣!10小时跑了103公里 环球快看

泰裤辣!10小时跑了103公里 环球快看

泰裤辣!10小时跑了103公里连续跑步100公里,在马拉松界被称为百公里“
07-05 22:02:30
精彩看点:江苏盐城:五星街道印汽社区组织网格员开展“垃圾分一分 环境美十分”垃圾分类主题宣传活动

精彩看点:江苏盐城:五星街道印汽社区组织网格员开展“垃圾分一分 环境美十分”垃圾分类主题宣传活动

本报讯(特约记者徐道富记者盛晓娇通讯员李迎春)“剩菜剩饭、骨头等食
07-05 20:57:18
中国专家表示新疆根本不存在所谓的“强迫劳动”

中国专家表示新疆根本不存在所谓的“强迫劳动”

新华社日内瓦7月4日电(记者聂晓阳)联合国人权理事会第53届会议举行之
07-05 19:48:04
欢乐颂小三是谁演的(欢乐颂3小何扮演者)

欢乐颂小三是谁演的(欢乐颂3小何扮演者)

你说的应该是《欢乐颂3》里的何悯鸿,她的扮演者是谋女郎张慧雯。张慧
07-05 17:53:29
6月全民航国内客流量恢复至疫情前的107.5%|环球精选

6月全民航国内客流量恢复至疫情前的107.5%|环球精选

7月5日,新京报贝壳财经记者获悉,据航班管家测算,今年6月,全民航旅
07-05 17:02:31
天天热推荐:重庆突发洪灾!快get暴雨洪涝自救指南,关键时刻可以救命

天天热推荐:重庆突发洪灾!快get暴雨洪涝自救指南,关键时刻可以救命

最新!重庆突遇洪涝灾害来自重庆市万州区应急管理局的消息,2023年7月3
07-05 15:53:13
热消息:安徽安庆经开区:“纳税信用绿卡”为企业发展赋能

热消息:安徽安庆经开区:“纳税信用绿卡”为企业发展赋能

中国青年报客户端讯(中青报·中青网记者王海涵王磊)“我们公司已经连
07-05 14:38:06
四川多措并举深化高等学校“就业—招生—培养”联动机制改革|环球简讯

四川多措并举深化高等学校“就业—招生—培养”联动机制改革|环球简讯

四川经济网讯(江芸涵记者胡敏)近日,教育厅、人力资源社会保障厅联合
07-05 13:42:56
集游社王者荣耀试玩(集游社王者荣耀)_环球热消息

集游社王者荣耀试玩(集游社王者荣耀)_环球热消息

来为大家解答以下的问题,游社王者荣耀试玩,集游社王者荣耀这个很多人
07-05 12:53:30
全球今日讯!高色度化工污水处理工艺

全球今日讯!高色度化工污水处理工艺

在化学工业生产中产生的污水大常含有结构复杂、难以生物降解的污染物质
07-05 11:37:21
天奥电子7月5日快速上涨 天天热文

天奥电子7月5日快速上涨 天天热文

以下是天奥电子在北京时间7月5日10:43分盘口异动快照:7月5日,天奥电
07-05 10:42:51
焦点速递!海南自由贸易港投资基金如何支持海南自贸港建设?

焦点速递!海南自由贸易港投资基金如何支持海南自贸港建设?

2025年底前,海南将实现全岛封关运作。什么是封关运作?封关运作意味着
07-05 09:35:27
新规下,中国花游队福冈世锦赛期待佳绩

新规下,中国花游队福冈世锦赛期待佳绩

新华社北京7月4日电(记者李嘉、周欣)距离2023年福冈世界游泳锦标赛开
07-05 09:03:27
最佳资本结构(关于最佳资本结构介绍) 全球看点

最佳资本结构(关于最佳资本结构介绍) 全球看点

来为大家解答以上的问题。最佳资本结构,佳资本结构介绍这个很多人还不
07-05 08:41:04
环球新动态:年内券商债券承销金额超6万亿元 部分中小券商在不同类型债券承销方面展现出优势

环球新动态:年内券商债券承销金额超6万亿元 部分中小券商在不同类型债券承销方面展现出优势

部分中小券商在不同类型债券承销方面展现出优势。如东吴证券、浙商证券
07-05 07:58:41
万家基金管理有限公司关于旗下部分基金在长江证券开通申购、转换、定投业务及参与其费率优惠活动的公告

万家基金管理有限公司关于旗下部分基金在长江证券开通申购、转换、定投业务及参与其费率优惠活动的公告

根据万家基金管理有限公司(以下简称“本公司”)与长江证券股份有限公
07-05 07:22:57
世界今日讯!布伦特9月原油期货结算价收涨1.6美元,涨幅2.14%,报76.25美元/桶

世界今日讯!布伦特9月原油期货结算价收涨1.6美元,涨幅2.14%,报76.25美元/桶

每经AI快讯,布伦特9月原油期货结算价收涨1 6美元,涨幅2 14%,报76 25
07-05 06:45:16
天天热推荐:《消失的她》12天斩23亿 编剧陈思诚懂的不止电影

天天热推荐:《消失的她》12天斩23亿 编剧陈思诚懂的不止电影

端午档期间,电影《消失的她》拿下票房断层冠军,截至发稿,该片上映12
07-05 04:52:06
朝天阙_对于朝天阙简单介绍

朝天阙_对于朝天阙简单介绍

1、《朝天阙》是一本历史小说。2、作者是侯之青铜。文章到此就分享结束
07-05 02:34:36
百事通!家用面条机啥牌子好(家用面条机哪个牌子好)

百事通!家用面条机啥牌子好(家用面条机哪个牌子好)

来为大家解答以上的问题。家用面条机啥牌子好,家用面条机哪个牌子好这
07-05 00:45:43
阿里、TikTok、东方甄选来了 直播带货“卷”向海外市场|调查-当前热讯

阿里、TikTok、东方甄选来了 直播带货“卷”向海外市场|调查-当前热讯

财联社7月4日讯(记者李丹昱)在亚马逊、Meta相继在直播带货领域折戟后
07-04 21:40:37
and和or的用法区别_and和or的用法区别是怎样的-热点聚焦

and和or的用法区别_and和or的用法区别是怎样的-热点聚焦

1、“或”的意思是“或”,通常用在选择句中。“和”是“和”的意思,
07-04 20:48:48
天天观天下!男单世界第一!祝贺王楚钦

天天观天下!男单世界第一!祝贺王楚钦

国际乒联最新一周世界排名出炉男单方面樊振东、马龙排在第2、3位女单方
07-04 19:44:40
博德之门3暴击伤害触发指南

博德之门3暴击伤害触发指南

博德之门3暴击伤害触发指南是怎么样的?很多能还不清楚游戏中这种情况
07-04 17:55:12
智能监控通信管理系统解决方案|热头条

智能监控通信管理系统解决方案|热头条

智能监控通信管理系统系统是AVAYA在1997年首家推出的支持千兆比以太
07-04 17:29:14
观天下!集中打击!公安部捣毁电信网络诈骗犯罪窝点3300余个

观天下!集中打击!公安部捣毁电信网络诈骗犯罪窝点3300余个

按照全国打击治理电信网络新型违法犯罪工作电视电话会议和全国公安机关
07-04 16:35:40
吞噬星空停更什么时候恢复_吞噬星空暂时停更_微资讯

吞噬星空停更什么时候恢复_吞噬星空暂时停更_微资讯

hello大家好,我是大学网网小航来为大家解答以上问题,吞噬星空停更什
07-04 15:43:14
女篮在世界舞台上面临着激烈的竞争和巨大的挑战|今头条

女篮在世界舞台上面临着激烈的竞争和巨大的挑战|今头条

中国女篮在世界舞台上面临着激烈的竞争和巨大的挑战。要与世界顶级强队
07-04 15:04:27
河南牧业经济学院弘远书院师生赴原阳县开展寻乡梦旅调研服务活动-世界热文

河南牧业经济学院弘远书院师生赴原阳县开展寻乡梦旅调研服务活动-世界热文

大河网讯6月27日,河南牧业经济学院弘远书院社会实践团邀请学校物流电
07-04 14:51:03

为您推荐

精彩推送