一种基于梯度的语音识别主动学习询问策略
An Effective Gradient-based Active Learning Query Strategy for Automatic Speech Recognition作者机构:上海航天电子技术研究所上海201109
出 版 物:《无线电工程》 (Radio Engineering)
年 卷 期:2021年第51卷第6期
页 面:427-432页
学科分类:11[军事学] 110502[军事学-军事运筹学] 1105[军事学-军队指挥学]
基 金:中央军委装备发展部共性技术项目(31514020303)。
摘 要:为了降低自动语音识别中深度学习的训练成本,提出了一种有效的基于梯度的主动学习询问策略。主动学习是通过一定算法查询出最“有用的数据,并交给专家标记这些子集的过程,其关键是如何正确选择出“有价值的样本集。根据预备实验结果,在理想状态下,真实的梯度长度可以最大程度地衡量样本信息量,提出了同时使用不确定性策略和期望梯度长度策略在神经网络中去逼近真实梯度长度的算法。验证结果表明,当应用于基于音素的语音识别系统时,提出的混合策略性能优于传统单一的主动学习查询方法,在噪声和安静环境中都获得了更快的收敛速度和更多的损失抑制。