在元宇宙里怎么交朋友?Meta发布跨语种交流语音模型 支持128种语言无障碍对话

改名 Meta 之后,Facebook 的元宇宙愿景正在一点点实现。这一次,Facebook 把目光投在了元宇宙社交上。

Meta 发布语音处理模型 XLS-R

近日,Meta 正式发布 XLS-R——一套用于各类语音任务的新型自监督模型。据悉,XLS-R 由海量公共数据训练而成(数据量是过去的十倍),能够将传统多语言模型的语言支持量增加两倍以上。目前,XLS-R 共支持 128 种语言。

Meta 认为,语音交流是人们最自然的一种交互形式。“随着语音技术的发展,我们已经能够通过对话同自己的设备及未来的虚拟世界直接互动,由此将虚拟体验与现实世界融为一体。”

这与扎克伯格此前宣称的“公司业务将以元宇宙优先”不谋而合。此前,扎克伯格曾概述了他建立“元世界”的计划:一个建立在我们自己的数字世界之上的数字世界,包括虚拟现实和增强现实。“我们相信元宇宙将会接替移动互联网”。

而 XLS-R 作为元宇宙社交中必不可少的一环,可以帮助母语不同的人在元宇宙无障碍对话。

值得一提的是,为了通过单一模型实现对多种语言的广泛语音理解能力,Meta 对 XLS-R 进行了微调,使其获得语音识别、语音翻译及语言识别等功能。据介绍,XLS-R 在 BABEL、CommonVoice 以及 VoxPopuli 语音识别基准测试,CoVoST-2 的外语到英文翻译基准测试,以及 VoxLingua107 语言识别基准测试中都取得了不错的成绩。

银保监会金融机构监事:国内挖矿难以完全禁止 本次监管主要针对企业:6月6日消息,银保监会重点金融机构监事会正局级监事陈伟钢接受采访时表示,此次可以说是全面封杀,其实三年多前就禁止了包括比特币在内的虚拟货币交易,目前境内没有任何一家交易所。

陈伟钢说,国内的挖矿仍难以完全禁止,这次主要针对企业挖矿行为。可以通过收入与支出端的财务审计实现管控,如企业挖矿最终一定会体现为营收、利润增值,如果一部分利润属于挖矿得来,可以不允许企业入账,通过这样的方式可以封堵企业的挖矿行为。一些个人购买矿机挖矿,特别是在一些水电较为丰富的地区挖矿,如何封堵还有待下一步观察。但相当于砍掉大户,剩下的小户虽然数量很多,但是总量不大。

陈伟钢说,比特币甚至不算一种投资品,只能算是一种“炒作品”,国外的比特币交易更多是一些机构、财团间的游戏,但在中国以散户投资为主。就像此前的P2P,其实在英国、美国等国家出现的时间比国内早,但是P2P在中国最顶峰时参与的人群范围非常广,这次炒作比特币也是同理。关于国外的合规化趋势,陈伟钢认为,国外可以存在的东西不意味着在中国也有存在的合理性。(中国新闻周刊)[2021/6/6 23:15:55]

为了尽可能降低功能访问门槛,目前,Meta 与 Hugging Face 联手发布了模型本体,并通过 fairseq GitHub repo 全面开放。

试用地址:https://huggingface.co/spaces/facebook/XLS-R-2B-22-16

XLS-R 工作原理

据介绍,XLS-R 在 wav2vec 2.0 训练集上接受了超过 43 万 6 千小时的公开语音录音训练,从而实现了对语音表达的自监督学习方法。这样的训练量已经达到去年发布的当时最强的模型 XLSR-53 的 10 倍。利用从会议记录到有声读物的多种语音数据来源,XLS-R 的语言支持范围扩展到 128 种,涵盖的语种量达到前代模型的近 2.5 倍。

作为 Meta 打造的有史以来最大模型,XLS-R 中包含超过 20 亿个参数,性能远高于其他同类模型。Meta 表示,事实证明,更多参数能够更充分地体现、数据集中的各类语种。此外,Meta 还发现,规模更大的模型在单一语言预训练方面的性能也同样优于其他较小模型。

Meta 在四种主要多语言语音识别测试中对 XLS-R 做出评估,发现它在 37 种语言上获得了超越以往模型的效能。具体测试场景为:BABEL 中选取 5 种语言,CommonVoice 中选取 10 种语言,MLS 中选取 8 种语言,以及 VoxPopuli 上选取 14 种语言。

BABEL 上的单词错误率基准测试结果。XLS-R 较前代模型实现了显著改进。

此外,Meta 还评估了语音翻译模型,即将录音资料直接翻译成另一种语言。为了打造一套能够执行多种任务的模型, Meta 同时在 CoVoST-2 基准测试的数个不同翻译方向上对 XLS-R 进行了微调,使其能够在英语与多达 21 种语言之间实现内容互译。

在使用 XLS-R 对英语以外的其他语言进行编码时,获得了显著的效能提升,这也是多语言语音表达领域的一次重大突破。据 Meta 介绍,XLS-R 在低资源语言学习中实现了显著改进,例如印尼语到英语的翻译,其中 BLEU 准确率平均翻了一番。BLEU 指标的提升是指模型给出的自动翻译结果与处理同一内容的人工翻译结果间重合度更高,代表着模型在改进口语翻译能力方面迈出了一大步。

以 BLEU 指标衡量的自动语音翻译准确率,其中较高值表示 XLS-R 从高资源语言(例如法语、德语)、中资源语言(例如俄语、葡萄牙语)或低资源语言(例如泰米尔语、土耳其语)语音记录翻译至英语时的准确率。

Meta 认为,XLS-R 证明扩大跨语言预训练规模可以进一步提高低资源语言的理解性能。它不仅提高了语音识别率,同时也将由外语到英语的语音翻译准确率提高了一倍以上。

“XLS-R 是我们朝着以单一模型理解多种不同语言(语音)目标迈出的重要一步,也代表着我们在利用公共数据推进多语言预训练方面做出的最大努力。我们坚信这是一条正确的探索方向,将让机器学习应用更好地理解所有人类语音、并促进后续研究,大大降低语音技术在全球范围内、特别是服务匮乏社群中的使用门槛。我们将不断开发新方法,通过低监督学习拓展模型的语言理解能力、逐步使其覆盖全球 7000 多种语言,实现算法的持续更新。”Meta 提到。

https://ai.facebook.com/blog/xls-r-self-supervised-speech-processing-for-128-languages/

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

链链资讯

欧易交易所app官网下载诺奖得主Paul Krugman:对比分析本次加密市场下跌与08年次贷危机有何不同?

2008 年诺贝尔经济学奖得主 Paul Krugman 发推分享了对目前加密货币市场与 2008 年次贷危机进行对比的分析。在具体分析之前,他明确表示市场上加密货币持有者认为这是抄底机会,而他不做价格预测,只是分析数据。 Crypto 投资者将目前加密货币市场与 2017-18 年的「加密冬天」进行比较,认为两者在比例变化上具有可比性。

DAI纽约客:DAO成为加密行业最新热潮

去年 11 月,一个名为 Spice DAO 的线上团体购买了一本「导演圣经」,Alejandro Jodorowsky 的《沙丘》副本。《沙丘》是上世纪 70 年代改编的电影,但因未能成功发行而出名。Spice DAO 在拍卖会上支付了近 300 万美元,大约是这本书估计价格的 100 倍。

Uniswap「无聊猿」创始人专访:是什么造就了BAYC的成功?

2022 年 1 月 29 日,「无聊猿」BAYC 地板价突破 100 ETH,创下历史新高。在突破这一历史性里程碑之后,Rug Radio 播客和这个广受加密社区和许多名人明星欢迎的 NFT 项目创始人们聊了聊,下面就大家一起来了解下他们是如何实现这些令人惊艳的成就吧。

以太坊交易所金色前哨 | 美国司法部查获2016年Bitfinex黑客事件中被盗的36亿美元比特币

美国司法部周二早上发布公告称,查获了价值超过 36 亿美元的据称与2016年Bitfinex黑客攻击有关的被盗比特币。 作为行动的一部分,当局拘留了一对纽约夫妇,34岁的伊利亚·利希滕斯坦和他31岁的妻子希瑟·摩根,指控他们试图清洗从Bitfinex平台窃取的119754比特币的收益,这对夫妇计划于当天晚些时候在联邦法院首次出庭。

[0:5ms0-2:882ms