百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

风多大都能让你听见,这个视频制作APP帮你告别「全损音质」

myzbx 2025-03-23 21:38 18 浏览

机器之心原创

机器之心编辑部

空气为何突然安静?原来是开了「降噪」按钮。

「你说什么?风太大我听不见!」

这句大家经常拿来玩梗的话其实在现实中也经常发生,尤其是在短视频的录制过程中。风声、雨声、机器声…… 每一种噪声都可能让你的视频拥有「全损音质」。

为了减轻环境噪声带来的影响,人们想了很多种方法,比如给话筒穿上厚厚的「毛衣」:

但「毛衣」不是冰冰的笑容,不可能解决一切问题。更何况,我们大多数人拍视频都是手机直接收音,连专业话筒都没有。

硬件不够软件凑。噪声在视频中的广泛存在催生了一大批降噪软件,它们在视频的后期制作中发挥了重要作用。但是,这些软件也有各自的短板,比如操作复杂、降噪不彻底、上传下载耗时、降噪程度不可调等。随着短视频制作群体的扩大,越来越多的制作者渴望拥有一款简单、灵活又好用的降噪软件。

对此,拥有 3.792 亿日活老铁的快手表示:已经安排上了

这个实用的小功能最近在快手旗下的视频拍摄、剪辑、制作 APP「快影」中上线,打开 APP 就能直接用。

降噪功能的入口就在「快影」App 底部功能区的「音效」中,点击「视频原声」或者「录音」按钮,页面中均有「降噪功能」选项。

降噪前后效果对比:
https://v.qq.com/x/page/p32490gv9vx.html

在试用过程中我们发现,它不仅可以去除各种噪声,还能满足实时预览降噪量可调等需求。而之所以能满足这些需求,是因为快影的降噪功能是部署在移动端的。

与部署在服务器端的方案相比,移动端部署可以帮我们省去上传、下载的麻烦,从而降低视频制作对网络的要求、节省制作时间;同时,它还支持个性化的降噪量选择(5 个降噪档位,从噪声抑制 5dB 到全部消除),让我们在不想要背景音时将其彻底消除,想要保留一些背景音时将其适当抑制。

不同档位降噪效果对比:
https://v.qq.com/x/page/v3249fjc279.html

如果你听觉比较敏锐,你可能还会发现,经过快影降噪处理的音频依然非常丰富、立体,这是因为快影的深度降噪算法支持双声道 16kHz 宽频输出,最大程度上保留了原始信号的频宽和双声道声像。相比之下,一般的深度语音降噪算法只能支持单通道 8kHz 带宽输出,音质会大打折扣。

作为一款为「零基础」创作者打造的视频制作平台,快影拥有很多实用的小功能,如视频画中画、文字语音互转、人脸融合等,可以满足短视频创作者的大部分制作需求。「降噪」功能的上线进一步降低了对拍摄环境和硬件的要求,使得用户拍起来更加随心。

那么,这么好用的一个功能是如何打造的呢?在最近的一次访谈中,快手的音频技术团队向机器之心介绍了这项功能背后的技术细节。

既要模型效果好,又要体积压得小

语音降噪是语音领域一个很重要的研究方向,其历史可以追溯到上世纪 30 年代,从无线电到电话,再到 VOIP 都对语音降噪技术有着强烈的需求。

在深度学习取得长足进展前,单通道语音降噪通过传统信号处理方式来实现,一般认为其只能去除带噪语音中的稳定噪声成分,如空调噪声、汽车发动机噪声等。这些噪声在音量和频率上都比较稳定,相对来说比较容易消除。但我们的环境中还充斥着很多非稳态噪声,如汽车鸣笛、多人谈话等。这些噪声在音量和频率上存在较大变化,是传统降噪方案的短板。

2015 年之后,深度学习技术突飞猛进,降噪技术也随之取得巨大进步。快影的降噪方案便是基于深度学习技术打造的。

技术团队表示,在训练阶段,他们从三个方面入手来保证模型在大小受限的情况下的降噪效果。

第一个方面是网络设计。快影降噪方案的核心是一个 CNN 加 RNN 的混合网络结构,这样可以兼顾语音局部特征的抓取和长时特性的追踪,确保降噪效果。

第二个方面是前、后处理和损失函数的设计。

在前处理方面,团队利用信号处理和心理声学中的响度及掩蔽等方面的已有结论,在不影响主观听感的前提下设计了基于信号处理的前处理模块。该模块的目的是剔除训练目标中人耳无法感知的成分,聚焦那些更重要的成分,从而简化深度网络的训练目标,促进有限参数量的小网络的收敛程度,最终提高主观音质体验。

在后处理方面,团队利用语音信号低频成分和高频成分的强相关特性及心理声学中人耳对高频分量感知显著弱于低频分量的结论,合理分配计算资源,实现可以在大部分机型上上线的降噪方案。

在损失函数设计方面,团队在实践验证学术界已有的损失函数的基础上,结合降噪问题的主要矛盾点,即降噪量(over-suppress)和语音保留(under-suppress)的平衡及语音信号谐波特征明显的特性,设计了一种新的损失函数:在加强输出语音信号谐波特性的同时,当输入带噪语音信噪比低时突出降噪效果,当输入带噪语音信噪比高时突出语音保留效果,最终保证算法对于降噪量和语音保留的整体平衡。

第三个方面是数据增强。噪声数据的多样性是提高降噪模型泛化性的关键。为此,技术团队进行了各种环境混响、采集播放设备、预处理算法的模拟,以此来产生各种数据。基于这些数据,技术人员再依靠 AI 算法训练神经网络去区分语音和噪声,从嘈杂环境中剥离出干净语音。

在部署阶段,考虑到短视频创作者存在实时预览、降噪量可调和降噪处理后可以保留原视频中立体声信号等需求,技术人员选择了移动端的部署方案。为了解决降噪效果和移动端算力之间的矛盾,他们在算法侧进行了模型压缩,采用了知识蒸馏、模型剪枝、量化等方法,还在工程实现方面对计算复杂度进行了深度优化,确保模型可以适配高、中、低端各种机型

杀敌一千,但绝不自损八百

为了验证快影的降噪方案与其他产品的效果差异,技术团队借助 SNR(信噪比)和 POLQA(感知客观语音质量评估)等指标对模型进行了评估。

SNR 表示语音的含噪程度。SNR 越大,语音含噪量越少。

实验结果表明,在相同的降噪量下,快影的降噪能力与其他产品相当;但快影降噪方案的优势在于,它支持降噪量可调的模式,随着降噪量的提升,快影的降噪效果相对于其他产品的优势变得非常明显。

POLQA 是目前业界公认的有参考的音质评测手段,可对与原始信号相比的降级或处理过的语音信号进行评级。它反映的是音频整体的音质效果,包括语音失真程度和语音完整度等。

如下图所示,在纯净语音的降噪中,快影没有造成音质损伤,其他产品则不然;在 12dB 的相同降噪量下,快影比其他产品得分高 0.2 分左右。随着降噪量的提升,快影的降噪优势变得越发明显。

注:由于其他产品无法选择降噪量,故快影 20dB 和全降噪提升均为相对于其他产品单一降噪量(大约 12dB)的提升。

幕后技术团队:未来可期

好用的产品离不开靠谱的技术团队。除了最近推出的降噪产品之外,快手的音频技术团队还在全球音频技术顶级会议 Interspeech 2021 举办的国际回声消除算法大赛中斩获颇丰,拿到了双讲回声消除的单项世界冠军和远端单讲回声消除的单项世界亚军,在综合排名中位列世界第三。值得一提的是,在参加这个比赛时,快手的团队其实在人数上并不占优势,只有其他大厂的三分之一左右。

快手的音频技术团队与快影团队表示,他们下一步的工作重点将是提升快影「特定场景下的声音分层处理」效果,解决用户在非正常说话场景下的噪声问题,如用户唱歌时,算法需要在消除噪声的同时保留伴奏。团队的目标是通过不断优化精细化场景下的降噪效果,让每位用户都能在快影 App 内享受黑科技带来的优越听觉体验。

相关推荐

任天堂Switch OLED:一块沉浸屏,点燃全家欢乐的游戏时光

在一个寻常的周末午后,客厅里弥漫着轻松惬意的氛围。电视屏幕暂时休眠,全家人的目光却聚焦在那台轻巧的掌上设备——任天堂SwitchOLED。父母与孩子挤在沙发上,指尖在Joy-Con手柄上跃动,时而因...

Switch是什么地区的版本?怎么分辨Switch普通版和续航版、OLED版

Switch有国行、港版、日版、美版、欧版、韩版,版本之间又有普通版和续航版的OLED区别。只要看掌机的序列号第二三位,第二位代表的机型,A是普通版,K是续航版,T是OLED版。第三位代表的是区域,比...

这款Switch手柄真别致!开箱体验八位堂Lite蓝牙手柄

【引言】Hi大家好,我是歌布林,今天给大家带来一款八位堂Lite蓝牙手柄的开箱报告!相信已经有不少Switch玩家已经入手了这款产品,讲真,这款手柄的颜值真的吸引到我了~双十一旗舰各大快递公...

switch 的性能提升了 3 倍,我只用了这一招

上一篇《if快还是switch快?解密switch背后的秘密》我们测试了if和switch的性能,得出了要尽量使用switch的结论,因为他的效率比if高很多,具体原因点击上文查看。既...

在对《Nintendo Switch 运动》充满期待的同时,我也有些许不安

任天堂「运动」系列的最新作《NintendoSwitch运动》即将于4月29日正式发售。在等待本作发售的日子里,笔者每一天都在掰着指头计算发售日还有几天才到来。在《NintendoSwi...

switch上最值得玩的五款JRPG(switch最值得玩的大作)

不知道为什么即使现在节奏变得这么快,人也变得浮躁,我依旧喜欢玩JPRG,喜欢沉浸入游戏的角色之中体验一场独特的冒险。JRPG的灵魂是什么?那绝对不是回合制战斗或者古旧的系统,而是令人深刻的剧情及在这漫...

那个 Vue 的路由,路由是干什么用的?

在Vue里,路由就像“页面导航的指挥官”,专门负责管理页面(组件)的切换和显示逻辑。简单来说,它能让单页应用(SPA)像多页应用一样实现“不同URL对应不同页面”的效果,但整个过程不会刷新网页。一、路...

S235JRH材50x50x3-5mm欧标方管疲劳强度分析

在工程与建筑领域,方管作为一种重要的结构材料,广泛应用于各种框架和支撑结构中。S235JRH材质的50x50x3-5mm欧标方管在疲劳强度方面的表现尤其受到关注。本文将以“解答常见误区”的形式,分析该...

纤维丛上的联络与曲率关系之二:七个联络

参阅一文看懂纤维丛(看图说话)纤维丛上的联络与曲率关系之一1.仿射联络(AffineConnection)定义:在光滑流形M的切丛TM上,一个仿射联络是一个双线性映射:仿射联络定义了向量...

安全完整性等级(SIL)分析报告编制与认证实践方法

以下是一篇关于安全完整性等级(SIL)分析报告的文章,涵盖SIL定级方法、验证流程、计算模型及工程实践。安全完整性等级(SIL)是量化安全仪表系统(SIS)性能的核心指标,由IEC61508/615...

欧标方管75x75x3mm8mm S355J0H力学性能测试

欧标方管75x75x3mmS355J0H是一种常见的钢管材料,广泛应用于建筑、机械制造和结构工程等领域。下面将对其力学性能进行详细测试和分析。1.材料概述S355J0H是欧洲标准EN10210中规定的...

p光与s光在SHG中的相位匹配中有哪些不同?

【第六期】p光与s光在SHG中的相位匹配中有哪些不同?在二次谐波生成(SHG)中,p偏振光和s偏振光的相位匹配条件存在显著差异。这些差异主要源于它们与纳米结构相互作用的方式以及它们在激发表面等离子体共...

S355JRH欧标方管机械性能及工程应用解析

S355JRH欧标方管是一种高强度钢管,以其优良的机械性能和良好的加工性在工程领域得到广泛应用。本文将从机械性能、场景应用等方面对S355JRH欧标方管进行解析,以帮助读者更好地理解其特性及应用。1....

《三国志·战棋版》PK7黄天蔽汉,四队共存作业来啦!

哈喽大家好啊,今天要给大家分享的是三棋PK7黄天蔽汉平时四队共存队,这只是其中一种选择供大家参考,后面可能还会分享其他的四队共存方案。队伍共存绝不唯一,大家有什么好的共存方案或者想看哪些队伍的共存也欢...

迈阿密三大巨星首秀被0-0逼平,豪阵为何难赢开罗国民

谁能想到,汇聚梅西、苏亚雷斯、布斯克茨这“银河战舰”级别三巨头,迈阿密国际世俱杯首秀居然0-0被埃及劲旅开罗国民逼平?全场90分钟,球迷的心情从“期待冠军”一路跌到“差点开门黑”。补时第96分钟,梅西...