改名Meta之后,Facebook的元宇宙愿景正在一点点实现。这一次,Facebook把目光投在了元宇宙社交上。
Meta发布语音处理模型XLS-R
近日,Meta正式发布XLS-R——一套用于各类语音任务的新型自监督模型。据悉,XLS-R由海量公共数据训练而成(数据量是过去的十倍),能够将传统多语言模型的语言支持量增加两倍以上。目前,XLS-R共支持128种语言。
Meta认为,语音交流是人们最自然的一种交互形式。“随着语音技术的发展,我们已经能够通过对话同自己的设备及未来的虚拟世界直接互动,由此将虚拟体验与现实世界融为一体。”
华策影视:与咪咕公司将在元宇宙场景应用、全版权等方面合作:4月24日消息,华策影视4月24日公告,公司当日与咪咕文化科技有限公司签订战略合作协议。本次合作双方将以精品内容IP为核心,以5G、AI、虚拟制作等数字科技为驱动,以现实空间与元宇宙比特空间为场景,以运营商流量为入口,通过全IP联动,在元宇宙场景应用、全版权、音乐及音视频彩铃、内容生产和内容聚合等方面开展战略合作,创新商业模式,共同构建“新内容+新消费”的产业空间,结成“科技内容生态共同体”,实现5G和AI时代的多元内容变现。[2023/4/24 14:23:45]
这与扎克伯格此前宣称的“公司业务将以元宇宙优先”不谋而合。此前,扎克伯格曾概述了他建立“元世界”的计划:一个建立在我们自己的数字世界之上的数字世界,包括虚拟现实和增强现实。“我们相信元宇宙将会接替移动互联网”。
研究:25% 的美国加密投资者拥有或计划在元宇宙中获得土地:金色财经报道,一项研究结果显示,美国约有25%的加密货币投资者在元宇宙拥有或租用土地,或有此计划。研究结果还显示,婴儿潮这一代的受访者中,对在元宇宙中租赁或拥有空间感兴趣的比例最高(18%)。
根据研究结果,千禧一代是受访者中已经拥有或正计划在元空间获得土地或租赁的比例第二高的一代(12%)。而不远处的X代和Z代则并列,各占11%。虽然Z世代在研究报告中被认定为数字原生代,但 \"与其他被询问的世代相比,Z世代不太可能已经拥有或想要在元空间中拥有/租用财产。
由Cinch Home Services进行的研究发现,17%的男性计划在元宇宙中投资房产,而只有10%的女性有这样的计划。同时,研究结果表明,当前虚拟世界中的土地所有者愿意平均花费不到 1,750 美元。(news.bitcoin)[2022/4/24 14:44:38]
而XLS-R作为元宇宙社交中必不可少的一环,可以帮助母语不同的人在元宇宙无障碍对话。
杭州互联网法院:用户在元宇宙平台发布NFT 平台应尽到审查义务:金色财经消息,4月20日,杭州互联网法院发布微信文章称,杭州互联网法院依法公开开庭审理原告奇策公司与被告某科技公司侵害作品信息网络传播权纠纷一案,并当庭宣判,判决被告立即删除涉案平台上发布的“胖虎打疫苗” NFT作品 ,同时赔偿奇策公司经济损失及合理费用合计4000元。
法院经审理认为, 被告某科技公司经营的“元宇宙”平台作为NFT数字作品交易服务平台,未尽到审查注意义务,存在主观过错,其行为已构成帮助侵权,遂作出上述判决。[2022/4/20 14:36:42]
值得一提的是,为了通过单一模型实现对多种语言的广泛语音理解能力,Meta对XLS-R进行了微调,使其获得语音识别、语音翻译及语言识别等功能。据介绍,XLS-R在BABEL、CommonVoice以及VoxPopuli语音识别基准测试,CoVoST-2的外语到英文翻译基准测试,以及VoxLingua107语言识别基准测试中都取得了不错的成绩。
巴巴多斯将成为首个在元宇宙设立大使馆的主权国家:11月15日消息,巴巴多斯外交和对外贸易部周日与Decentraland签署一项协议,旨在建立一个数字大使馆。此外,巴巴多斯政府还在与Somnium Space、SuperWorld和其他元宇宙平台敲定协议。这些项目将协助巴巴多斯政府进行土地识别和购买、设计虚拟大使馆和领事、开发提供“电子签证”等服务的设施,并建造一个“传送器”,让用户可以在不同的世界之间传送他们的虚拟形象。(CoinDesk)[2021/11/15 6:53:33]
为了尽可能降低功能访问门槛,目前,Meta与HuggingFace联手发布了模型本体,并通过fairseqGitHubrepo全面开放。
试用地址:https://huggingface.co/spaces/facebook/XLS-R-2B-22-16
XLS-R工作原理
据介绍,XLS-R在wav2vec2.0训练集上接受了超过43万6千小时的公开语音录音训练,从而实现了对语音表达的自监督学习方法。这样的训练量已经达到去年发布的当时最强的模型XLSR-53的10倍。利用从会议记录到有声读物的多种语音数据来源,XLS-R的语言支持范围扩展到128种,涵盖的语种量达到前代模型的近2.5倍。
作为Meta打造的有史以来最大模型,XLS-R中包含超过20亿个参数,性能远高于其他同类模型。Meta表示,事实证明,更多参数能够更充分地体现、数据集中的各类语种。此外,Meta还发现,规模更大的模型在单一语言预训练方面的性能也同样优于其他较小模型。
Meta在四种主要多语言语音识别测试中对XLS-R做出评估,发现它在37种语言上获得了超越以往模型的效能。具体测试场景为:BABEL中选取5种语言,CommonVoice中选取10种语言,MLS中选取8种语言,以及VoxPopuli上选取14种语言。
BABEL上的单词错误率基准测试结果。XLS-R较前代模型实现了显著改进。
此外,Meta还评估了语音翻译模型,即将录音资料直接翻译成另一种语言。为了打造一套能够执行多种任务的模型,Meta同时在CoVoST-2基准测试的数个不同翻译方向上对XLS-R进行了微调,使其能够在英语与多达21种语言之间实现内容互译。
在使用XLS-R对英语以外的其他语言进行编码时,获得了显著的效能提升,这也是多语言语音表达领域的一次重大突破。据Meta介绍,XLS-R在低资源语言学习中实现了显著改进,例如印尼语到英语的翻译,其中BLEU准确率平均翻了一番。BLEU指标的提升是指模型给出的自动翻译结果与处理同一内容的人工翻译结果间重合度更高,代表着模型在改进口语翻译能力方面迈出了一大步。
以BLEU指标衡量的自动语音翻译准确率,其中较高值表示XLS-R从高资源语言(例如法语、德语)、中资源语言(例如俄语、葡萄牙语)或低资源语言(例如泰米尔语、土耳其语)语音记录翻译至英语时的准确率。
Meta认为,XLS-R证明扩大跨语言预训练规模可以进一步提高低资源语言的理解性能。它不仅提高了语音识别率,同时也将由外语到英语的语音翻译准确率提高了一倍以上。
“XLS-R是我们朝着以单一模型理解多种不同语言(语音)目标迈出的重要一步,也代表着我们在利用公共数据推进多语言预训练方面做出的最大努力。我们坚信这是一条正确的探索方向,将让机器学习应用更好地理解所有人类语音、并促进后续研究,大大降低语音技术在全球范围内、特别是服务匮乏社群中的使用门槛。我们将不断开发新方法,通过低监督学习拓展模型的语言理解能力、逐步使其覆盖全球7000多种语言,实现算法的持续更新。”Meta提到。
https://ai.facebook.com/blog/xls-r-self-supervised-speech-processing-for-128-languages/
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。