百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

风多大都能让你听见,这个视频制作APP帮你告别「全损音质」

myzbx 2025-03-23 21:38 33 浏览

机器之心原创

机器之心编辑部

空气为何突然安静?原来是开了「降噪」按钮。

「你说什么?风太大我听不见!」

这句大家经常拿来玩梗的话其实在现实中也经常发生,尤其是在短视频的录制过程中。风声、雨声、机器声…… 每一种噪声都可能让你的视频拥有「全损音质」。

为了减轻环境噪声带来的影响,人们想了很多种方法,比如给话筒穿上厚厚的「毛衣」:

但「毛衣」不是冰冰的笑容,不可能解决一切问题。更何况,我们大多数人拍视频都是手机直接收音,连专业话筒都没有。

硬件不够软件凑。噪声在视频中的广泛存在催生了一大批降噪软件,它们在视频的后期制作中发挥了重要作用。但是,这些软件也有各自的短板,比如操作复杂、降噪不彻底、上传下载耗时、降噪程度不可调等。随着短视频制作群体的扩大,越来越多的制作者渴望拥有一款简单、灵活又好用的降噪软件。

对此,拥有 3.792 亿日活老铁的快手表示:已经安排上了

这个实用的小功能最近在快手旗下的视频拍摄、剪辑、制作 APP「快影」中上线,打开 APP 就能直接用。

降噪功能的入口就在「快影」App 底部功能区的「音效」中,点击「视频原声」或者「录音」按钮,页面中均有「降噪功能」选项。

降噪前后效果对比:
https://v.qq.com/x/page/p32490gv9vx.html

在试用过程中我们发现,它不仅可以去除各种噪声,还能满足实时预览降噪量可调等需求。而之所以能满足这些需求,是因为快影的降噪功能是部署在移动端的。

与部署在服务器端的方案相比,移动端部署可以帮我们省去上传、下载的麻烦,从而降低视频制作对网络的要求、节省制作时间;同时,它还支持个性化的降噪量选择(5 个降噪档位,从噪声抑制 5dB 到全部消除),让我们在不想要背景音时将其彻底消除,想要保留一些背景音时将其适当抑制。

不同档位降噪效果对比:
https://v.qq.com/x/page/v3249fjc279.html

如果你听觉比较敏锐,你可能还会发现,经过快影降噪处理的音频依然非常丰富、立体,这是因为快影的深度降噪算法支持双声道 16kHz 宽频输出,最大程度上保留了原始信号的频宽和双声道声像。相比之下,一般的深度语音降噪算法只能支持单通道 8kHz 带宽输出,音质会大打折扣。

作为一款为「零基础」创作者打造的视频制作平台,快影拥有很多实用的小功能,如视频画中画、文字语音互转、人脸融合等,可以满足短视频创作者的大部分制作需求。「降噪」功能的上线进一步降低了对拍摄环境和硬件的要求,使得用户拍起来更加随心。

那么,这么好用的一个功能是如何打造的呢?在最近的一次访谈中,快手的音频技术团队向机器之心介绍了这项功能背后的技术细节。

既要模型效果好,又要体积压得小

语音降噪是语音领域一个很重要的研究方向,其历史可以追溯到上世纪 30 年代,从无线电到电话,再到 VOIP 都对语音降噪技术有着强烈的需求。

在深度学习取得长足进展前,单通道语音降噪通过传统信号处理方式来实现,一般认为其只能去除带噪语音中的稳定噪声成分,如空调噪声、汽车发动机噪声等。这些噪声在音量和频率上都比较稳定,相对来说比较容易消除。但我们的环境中还充斥着很多非稳态噪声,如汽车鸣笛、多人谈话等。这些噪声在音量和频率上存在较大变化,是传统降噪方案的短板。

2015 年之后,深度学习技术突飞猛进,降噪技术也随之取得巨大进步。快影的降噪方案便是基于深度学习技术打造的。

技术团队表示,在训练阶段,他们从三个方面入手来保证模型在大小受限的情况下的降噪效果。

第一个方面是网络设计。快影降噪方案的核心是一个 CNN 加 RNN 的混合网络结构,这样可以兼顾语音局部特征的抓取和长时特性的追踪,确保降噪效果。

第二个方面是前、后处理和损失函数的设计。

在前处理方面,团队利用信号处理和心理声学中的响度及掩蔽等方面的已有结论,在不影响主观听感的前提下设计了基于信号处理的前处理模块。该模块的目的是剔除训练目标中人耳无法感知的成分,聚焦那些更重要的成分,从而简化深度网络的训练目标,促进有限参数量的小网络的收敛程度,最终提高主观音质体验。

在后处理方面,团队利用语音信号低频成分和高频成分的强相关特性及心理声学中人耳对高频分量感知显著弱于低频分量的结论,合理分配计算资源,实现可以在大部分机型上上线的降噪方案。

在损失函数设计方面,团队在实践验证学术界已有的损失函数的基础上,结合降噪问题的主要矛盾点,即降噪量(over-suppress)和语音保留(under-suppress)的平衡及语音信号谐波特征明显的特性,设计了一种新的损失函数:在加强输出语音信号谐波特性的同时,当输入带噪语音信噪比低时突出降噪效果,当输入带噪语音信噪比高时突出语音保留效果,最终保证算法对于降噪量和语音保留的整体平衡。

第三个方面是数据增强。噪声数据的多样性是提高降噪模型泛化性的关键。为此,技术团队进行了各种环境混响、采集播放设备、预处理算法的模拟,以此来产生各种数据。基于这些数据,技术人员再依靠 AI 算法训练神经网络去区分语音和噪声,从嘈杂环境中剥离出干净语音。

在部署阶段,考虑到短视频创作者存在实时预览、降噪量可调和降噪处理后可以保留原视频中立体声信号等需求,技术人员选择了移动端的部署方案。为了解决降噪效果和移动端算力之间的矛盾,他们在算法侧进行了模型压缩,采用了知识蒸馏、模型剪枝、量化等方法,还在工程实现方面对计算复杂度进行了深度优化,确保模型可以适配高、中、低端各种机型

杀敌一千,但绝不自损八百

为了验证快影的降噪方案与其他产品的效果差异,技术团队借助 SNR(信噪比)和 POLQA(感知客观语音质量评估)等指标对模型进行了评估。

SNR 表示语音的含噪程度。SNR 越大,语音含噪量越少。

实验结果表明,在相同的降噪量下,快影的降噪能力与其他产品相当;但快影降噪方案的优势在于,它支持降噪量可调的模式,随着降噪量的提升,快影的降噪效果相对于其他产品的优势变得非常明显。

POLQA 是目前业界公认的有参考的音质评测手段,可对与原始信号相比的降级或处理过的语音信号进行评级。它反映的是音频整体的音质效果,包括语音失真程度和语音完整度等。

如下图所示,在纯净语音的降噪中,快影没有造成音质损伤,其他产品则不然;在 12dB 的相同降噪量下,快影比其他产品得分高 0.2 分左右。随着降噪量的提升,快影的降噪优势变得越发明显。

注:由于其他产品无法选择降噪量,故快影 20dB 和全降噪提升均为相对于其他产品单一降噪量(大约 12dB)的提升。

幕后技术团队:未来可期

好用的产品离不开靠谱的技术团队。除了最近推出的降噪产品之外,快手的音频技术团队还在全球音频技术顶级会议 Interspeech 2021 举办的国际回声消除算法大赛中斩获颇丰,拿到了双讲回声消除的单项世界冠军和远端单讲回声消除的单项世界亚军,在综合排名中位列世界第三。值得一提的是,在参加这个比赛时,快手的团队其实在人数上并不占优势,只有其他大厂的三分之一左右。

快手的音频技术团队与快影团队表示,他们下一步的工作重点将是提升快影「特定场景下的声音分层处理」效果,解决用户在非正常说话场景下的噪声问题,如用户唱歌时,算法需要在消除噪声的同时保留伴奏。团队的目标是通过不断优化精细化场景下的降噪效果,让每位用户都能在快影 App 内享受黑科技带来的优越听觉体验。

相关推荐

如何设计一个优秀的电子商务产品详情页

加入人人都是产品经理【起点学院】产品经理实战训练营,BAT产品总监手把手带你学产品电子商务网站的产品详情页面无疑是设计师和开发人员关注的最重要的网页之一。产品详情页面是客户作出“加入购物车”决定的页面...

怎么在JS中使用Ajax进行异步请求?

大家好,今天我来分享一项JavaScript的实战技巧,即如何在JS中使用Ajax进行异步请求,让你的网页速度瞬间提升。Ajax是一种在不刷新整个网页的情况下与服务器进行数据交互的技术,可以实现异步加...

中小企业如何组建,管理团队_中小企业应当如何开展组织结构设计变革

前言写了太多关于产品的东西觉得应该换换口味.从码农到架构师,从前端到平面再到UI、UE,最后走向了产品这条不归路,其实以前一直再给你们讲.产品经理跟项目经理区别没有特别大,两个岗位之间有很...

前端监控 SDK 开发分享_前端监控系统 开源

一、前言随着前端的发展和被重视,慢慢的行业内对于前端监控系统的重视程度也在增加。这里不对为什么需要监控再做解释。那我们先直接说说需求。对于中小型公司来说,可以直接使用三方的监控,比如自己搭建一套免费的...

Ajax 会被 fetch 取代吗?Axios 怎么办?

大家好,很高兴又见面了,我是"高级前端进阶",由我带着大家一起关注前端前沿、深入前端底层技术,大家一起进步,也欢迎大家关注、点赞、收藏、转发!今天给大家带来的主题是ajax、fetch...

前端面试题《AJAX》_前端面试ajax考点汇总

1.什么是ajax?ajax作用是什么?AJAX=异步JavaScript和XML。AJAX是一种用于创建快速动态网页的技术。通过在后台与服务器进行少量数据交换,AJAX可以使网页实...

Ajax 详细介绍_ajax

1、ajax是什么?asynchronousjavascriptandxml:异步的javascript和xml。ajax是用来改善用户体验的一种技术,其本质是利用浏览器内置的一个特殊的...

6款可替代dreamweaver的工具_替代powerdesigner的工具

dreamweaver对一个web前端工作者来说,再熟悉不过了,像我07年接触web前端开发就是用的dreamweaver,一直用到现在,身边的朋友有跟我推荐过各种更好用的可替代dreamweaver...

我敢保证,全网没有再比这更详细的Java知识点总结了,送你啊

接下来你看到的将是全网最详细的Java知识点总结,全文分为三大部分:Java基础、Java框架、Java+云数据小编将为大家仔细讲解每大部分里面的详细知识点,别眨眼,从小白到大佬、零基础到精通,你绝...

福斯《死侍》发布新剧照 "小贱贱"韦德被改造前造型曝光

时光网讯福斯出品的科幻片《死侍》今天发布新剧照,其中一张是较为罕见的死侍在被改造之前的剧照,其余两张剧照都是死侍在执行任务中的状态。据外媒推测,片方此时发布剧照,预计是为了给不久之后影片发布首款正式预...

2021年超详细的java学习路线总结—纯干货分享

本文整理了java开发的学习路线和相关的学习资源,非常适合零基础入门java的同学,希望大家在学习的时候,能够节省时间。纯干货,良心推荐!第一阶段:Java基础重点知识点:数据类型、核心语法、面向对象...

不用海淘,真黑五来到你身边:亚马逊15件热卖爆款推荐!

Fujifilm富士instaxMini8小黄人拍立得相机(黄色/蓝色)扫二维码进入购物页面黑五是入手一个轻巧可爱的拍立得相机的好时机,此款是mini8的小黄人特别版,除了颜色涂装成小黄人...

2025 年 Python 爬虫四大前沿技术:从异步到 AI

作为互联网大厂的后端Python爬虫开发,你是否也曾遇到过这些痛点:面对海量目标URL,单线程爬虫爬取一周还没完成任务;动态渲染的SPA页面,requests库返回的全是空白代码;好不容易...

最贱超级英雄《死侍》来了!_死侍超燃

死侍Deadpool(2016)导演:蒂姆·米勒编剧:略特·里斯/保罗·沃尼克主演:瑞恩·雷诺兹/莫蕾娜·巴卡林/吉娜·卡拉诺/艾德·斯克林/T·J·米勒类型:动作/...

停止javascript的ajax请求,取消axios请求,取消reactfetch请求

一、Ajax原生里可以通过XMLHttpRequest对象上的abort方法来中断ajax。注意abort方法不能阻止向服务器发送请求,只能停止当前ajax请求。停止javascript的ajax请求...