百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

风多大都能让你听见,这个视频制作APP帮你告别「全损音质」

myzbx 2025-03-23 21:38 9 浏览

机器之心原创

机器之心编辑部

空气为何突然安静?原来是开了「降噪」按钮。

「你说什么?风太大我听不见!」

这句大家经常拿来玩梗的话其实在现实中也经常发生,尤其是在短视频的录制过程中。风声、雨声、机器声…… 每一种噪声都可能让你的视频拥有「全损音质」。

为了减轻环境噪声带来的影响,人们想了很多种方法,比如给话筒穿上厚厚的「毛衣」:

但「毛衣」不是冰冰的笑容,不可能解决一切问题。更何况,我们大多数人拍视频都是手机直接收音,连专业话筒都没有。

硬件不够软件凑。噪声在视频中的广泛存在催生了一大批降噪软件,它们在视频的后期制作中发挥了重要作用。但是,这些软件也有各自的短板,比如操作复杂、降噪不彻底、上传下载耗时、降噪程度不可调等。随着短视频制作群体的扩大,越来越多的制作者渴望拥有一款简单、灵活又好用的降噪软件。

对此,拥有 3.792 亿日活老铁的快手表示:已经安排上了

这个实用的小功能最近在快手旗下的视频拍摄、剪辑、制作 APP「快影」中上线,打开 APP 就能直接用。

降噪功能的入口就在「快影」App 底部功能区的「音效」中,点击「视频原声」或者「录音」按钮,页面中均有「降噪功能」选项。

降噪前后效果对比:
https://v.qq.com/x/page/p32490gv9vx.html

在试用过程中我们发现,它不仅可以去除各种噪声,还能满足实时预览降噪量可调等需求。而之所以能满足这些需求,是因为快影的降噪功能是部署在移动端的。

与部署在服务器端的方案相比,移动端部署可以帮我们省去上传、下载的麻烦,从而降低视频制作对网络的要求、节省制作时间;同时,它还支持个性化的降噪量选择(5 个降噪档位,从噪声抑制 5dB 到全部消除),让我们在不想要背景音时将其彻底消除,想要保留一些背景音时将其适当抑制。

不同档位降噪效果对比:
https://v.qq.com/x/page/v3249fjc279.html

如果你听觉比较敏锐,你可能还会发现,经过快影降噪处理的音频依然非常丰富、立体,这是因为快影的深度降噪算法支持双声道 16kHz 宽频输出,最大程度上保留了原始信号的频宽和双声道声像。相比之下,一般的深度语音降噪算法只能支持单通道 8kHz 带宽输出,音质会大打折扣。

作为一款为「零基础」创作者打造的视频制作平台,快影拥有很多实用的小功能,如视频画中画、文字语音互转、人脸融合等,可以满足短视频创作者的大部分制作需求。「降噪」功能的上线进一步降低了对拍摄环境和硬件的要求,使得用户拍起来更加随心。

那么,这么好用的一个功能是如何打造的呢?在最近的一次访谈中,快手的音频技术团队向机器之心介绍了这项功能背后的技术细节。

既要模型效果好,又要体积压得小

语音降噪是语音领域一个很重要的研究方向,其历史可以追溯到上世纪 30 年代,从无线电到电话,再到 VOIP 都对语音降噪技术有着强烈的需求。

在深度学习取得长足进展前,单通道语音降噪通过传统信号处理方式来实现,一般认为其只能去除带噪语音中的稳定噪声成分,如空调噪声、汽车发动机噪声等。这些噪声在音量和频率上都比较稳定,相对来说比较容易消除。但我们的环境中还充斥着很多非稳态噪声,如汽车鸣笛、多人谈话等。这些噪声在音量和频率上存在较大变化,是传统降噪方案的短板。

2015 年之后,深度学习技术突飞猛进,降噪技术也随之取得巨大进步。快影的降噪方案便是基于深度学习技术打造的。

技术团队表示,在训练阶段,他们从三个方面入手来保证模型在大小受限的情况下的降噪效果。

第一个方面是网络设计。快影降噪方案的核心是一个 CNN 加 RNN 的混合网络结构,这样可以兼顾语音局部特征的抓取和长时特性的追踪,确保降噪效果。

第二个方面是前、后处理和损失函数的设计。

在前处理方面,团队利用信号处理和心理声学中的响度及掩蔽等方面的已有结论,在不影响主观听感的前提下设计了基于信号处理的前处理模块。该模块的目的是剔除训练目标中人耳无法感知的成分,聚焦那些更重要的成分,从而简化深度网络的训练目标,促进有限参数量的小网络的收敛程度,最终提高主观音质体验。

在后处理方面,团队利用语音信号低频成分和高频成分的强相关特性及心理声学中人耳对高频分量感知显著弱于低频分量的结论,合理分配计算资源,实现可以在大部分机型上上线的降噪方案。

在损失函数设计方面,团队在实践验证学术界已有的损失函数的基础上,结合降噪问题的主要矛盾点,即降噪量(over-suppress)和语音保留(under-suppress)的平衡及语音信号谐波特征明显的特性,设计了一种新的损失函数:在加强输出语音信号谐波特性的同时,当输入带噪语音信噪比低时突出降噪效果,当输入带噪语音信噪比高时突出语音保留效果,最终保证算法对于降噪量和语音保留的整体平衡。

第三个方面是数据增强。噪声数据的多样性是提高降噪模型泛化性的关键。为此,技术团队进行了各种环境混响、采集播放设备、预处理算法的模拟,以此来产生各种数据。基于这些数据,技术人员再依靠 AI 算法训练神经网络去区分语音和噪声,从嘈杂环境中剥离出干净语音。

在部署阶段,考虑到短视频创作者存在实时预览、降噪量可调和降噪处理后可以保留原视频中立体声信号等需求,技术人员选择了移动端的部署方案。为了解决降噪效果和移动端算力之间的矛盾,他们在算法侧进行了模型压缩,采用了知识蒸馏、模型剪枝、量化等方法,还在工程实现方面对计算复杂度进行了深度优化,确保模型可以适配高、中、低端各种机型

杀敌一千,但绝不自损八百

为了验证快影的降噪方案与其他产品的效果差异,技术团队借助 SNR(信噪比)和 POLQA(感知客观语音质量评估)等指标对模型进行了评估。

SNR 表示语音的含噪程度。SNR 越大,语音含噪量越少。

实验结果表明,在相同的降噪量下,快影的降噪能力与其他产品相当;但快影降噪方案的优势在于,它支持降噪量可调的模式,随着降噪量的提升,快影的降噪效果相对于其他产品的优势变得非常明显。

POLQA 是目前业界公认的有参考的音质评测手段,可对与原始信号相比的降级或处理过的语音信号进行评级。它反映的是音频整体的音质效果,包括语音失真程度和语音完整度等。

如下图所示,在纯净语音的降噪中,快影没有造成音质损伤,其他产品则不然;在 12dB 的相同降噪量下,快影比其他产品得分高 0.2 分左右。随着降噪量的提升,快影的降噪优势变得越发明显。

注:由于其他产品无法选择降噪量,故快影 20dB 和全降噪提升均为相对于其他产品单一降噪量(大约 12dB)的提升。

幕后技术团队:未来可期

好用的产品离不开靠谱的技术团队。除了最近推出的降噪产品之外,快手的音频技术团队还在全球音频技术顶级会议 Interspeech 2021 举办的国际回声消除算法大赛中斩获颇丰,拿到了双讲回声消除的单项世界冠军和远端单讲回声消除的单项世界亚军,在综合排名中位列世界第三。值得一提的是,在参加这个比赛时,快手的团队其实在人数上并不占优势,只有其他大厂的三分之一左右。

快手的音频技术团队与快影团队表示,他们下一步的工作重点将是提升快影「特定场景下的声音分层处理」效果,解决用户在非正常说话场景下的噪声问题,如用户唱歌时,算法需要在消除噪声的同时保留伴奏。团队的目标是通过不断优化精细化场景下的降噪效果,让每位用户都能在快影 App 内享受黑科技带来的优越听觉体验。

相关推荐

Luminati代理动态IP教程指南配置代理VMLogin中文版反指纹浏览器

介绍如何使用在VMLogin中文版设置Luminati代理。首先下载VMLogin中文版反指纹浏览器(https://cn.vmlogin.com)对于刚接触Luminati动态ip的朋友,是不是不懂...

文档中图形及子图形的处理(word中的图形对象有何特点)

【分享成果,随喜正能量】走得越远,见识越多,认识的人越多,你就越能体会到,人这一辈子,你真的在意的,同时又在意你的人,就那么几个,这几个人,就是你全部的世界。三两知己,爱人在侧,父母康健,听起来平淡无...

Python爬虫破解滑动验证码教程(python绕过滑动验证码)

破解滑动验证码通常需要结合图像识别和模拟人类操作,以下是分步骤的解决方案:1.分析验证码类型缺口识别型:背景图带缺口,滑块图带凸块轨迹验证型:除了位置还需模拟人类移动轨迹2.获取验证码图片方法一:...

「教程」5 分钟带你入门 kivy(新手kp教学)

原创:星安果AirPythonkivy语言通过编写界面UI,然后利用Python定义一些业务逻辑,可以移植很多功能模块到移动端直接执行。下面对kivy常见用法做一个汇总。1、什么是...

比呀比: Fossil Estate Canvas EW 男式复古邮差包 $70.99

Fossil是一个来自美国的全球性生活时尚品牌,始建于1984年,专注于时尚配件,是第一个将手表的价值与款式完美结合的美国品牌,如今Fossil已跃身成为美国最受欢迎的品牌之一。这款FossilE...

智能教学:如何在网上授课(网上授课怎么弄)

摘要:因为担心传统课堂可能会传播冠状病毒,许多大学已经开始在网上授课。耶鲁-新加坡国立大学的讲师凯瑟琳·谢伊·桑格(CatherineSheaSanger)解释了如何快速而有效地做到这一点。当新型冠...

wxPython库教程系列之图片:托盘图标和图片缩放、移动

1概要:=====1.1托盘图标设置1.2普通图片显示:原图显示,缩放显示,窗口与图片大小相互适应。1.3按钮图片设置1.4移动图片和zoom菜单按钮联动设置2托盘图标:========2...

UE4渲染目标开发教程(ue4渲染效果图质量怎么样)

渲染目标(RenderTarget)是你可以在运行时写入的纹理。在引擎方面,它们存储基础颜色、法线和环境光遮蔽等信息。在用户方面,渲染目标主要用作一种辅助相机。你可以将场景捕捉指向某物并将图像存储到...

比呀比: Fossil 化石 Canvas NS 男士复古帆布斜挎包 $57.59

FossilCanvasNS男士复古帆布斜挎包,尺寸约为26.5*11*33厘米。采用100%纯棉帆布面料,融合了休闲与百搭的外形,在经典的款型呈现复古质感。内设1个拉链袋,2个搭扣数码产品袋和...

比呀比: Timberland 添柏岚 Canvas Cord Case 帆布旅行手包 $5.99

Timberland添柏岚这款耐用帆布旅行手包,虽然一眼过去,觉得不咋地,但是品牌和质量还是妥妥滴,非常适合装一些零零碎碎的小东西,便于携带,多色可选,重点是价格更是感动价啊。目前这款包在6pm报价...

提炼文章/知识资料,两键转换成小红书图片

现在AI的功能已经越来越强大了,通过AI可以提高我们不少工作效率。刚好前几天做了一个几乎“一气呵成”,把长文章转成小红书卡片的流程Demo,分享给大家。之前发过两篇利用AI把长文章转成小红书图片...

python海龟绘图turtle(一):画布和窗体

海龟绘图(turtle)是python的一个有趣的内置模块,是python语言的标准库之一,是入门级的图形绘制函数库。海龟绘图(turtle)可以根据编写的控制指令(代码),让一个小“海龟”在屏幕上来...

在文档中添加画布及图片(word中如何添加画布)

【分享成果,随喜正能量】宁可正而不足,不可邪而有余。相识满天下,知心能几人。书七成,戏三分,牛皮灯影胡编成。布施不如还债,修福不如避祸。勿以恶小而为之,勿以善小而不为。。《VBA之Word应用》,是我...

知识管理神器 Obsidian,终于有了白板功能!

沙牛提示阅读本文需要3分钟,Obsidian白板功能来了!如果你喜欢本文,就分享给你的小伙伴!01白板继双链笔记之后,这一年,白板类工具开始火了起来。顾名思义,白板类工具,它给了你一张无限尺寸...

虚拟背景第一弹!教你如何在家中优雅地“学在交大”!

交大将于3月2日正式开始线上教学(3月1日举行线上教学第一课|视频直播课)目前正处于网课试课阶段交大在线课程教学以ZOOM、Canvas等作为主平台平台的虚拟背景功能可以具特别的环境效果更好地沉浸课堂...