更全的杂志信息网

一种基于非负矩阵分解的改进FastICA盲源分离方法

更新时间:2009-03-28

目前,信号处理领域研究的热点之一是盲源分离(blind source separation,BSS)[1],即从混合信号中分离出无法直接观测到的各个源信号的过程.根据源信号数目和传感器数目的多少,将盲源分离问题分为3类:超定、正定和欠定问题,而欠定问题是其中研究的重点和难点.

针对欠定盲分离问题,文献[2]利用语音信号在时频变换域中的稀疏性实现欠定语音信号分离,提出了两步法,包括估计混合矩阵过程和重构源信号过程.该方法受信号稀疏性的约束,当信号稀疏性欠佳时,算法性能会明显下降.对于第一步,目前常用的算法是非负矩阵分解(non-negative matrix factorization,NMF)算法[2-4],它是一种低秩逼近算法,采用简单的乘性迭代规则,具有实现上的简便性、降低所占存储空间及分解结果的可解释性强等优点,广泛应用于数据挖掘、目标检测、模式识别、稀疏表示和盲源分离等领域[5].对于第二步,简单有效的方法之一就是快速独立分量分析(fast independent component analysis,FastICA)算法[6],其通过不动点迭代算法将信号的非高斯性极大化,而非高斯性最常用的评价函数是负熵的近似式.此算法结合了负熵良好的统计特性和较快的迭代速度,但是易受初始值选取的影响,以及由于计算量较大造成运行速率较慢.

因此,文中提出一种改进的FastICA算法[7-8],并将其用于混合语音信号的分离中,该方法首先利用语音信号的短时平稳性实现从时域到频域的转换;其次利用添加了稀疏性约束的NMF算法进行混合矩阵的估计;最后以负熵为目标函数,以梯度下降法为优化函数的FastICA算法进行信号分离.经仿真实验验证,与传统的基于负熵的FastICA算法相比,该算法在运行速率方面得到了优化,从而验证了该算法的有效性.

1 线性瞬时混合盲源分离模型

假定观测到n个相互独立源信号的m个线性混合,则线性瞬时混合盲分离模型[8]可表示为:

试验药剂4%氟嘧啶草醚+2.5%五氟磺草胺可分散油悬浮剂100毫升/亩对野慈姑防效很好,提高剂量后防效如何,尚待进一步试验。

(1)

式中:t为观测时间序列,nm分别为源信号个数和传感器个数,yi(t)(i∈{1,2,…,m})和xj(t)(j∈{1,2,…,n})分别为观测信号和源信号在t时刻的采样值.则观测信号可表示为:

(2)

式中:ARm×n为未知混合矩阵,Y(t)=(yi(t)),X(t)=(xj(t)).

在常规假设条件下,该模型可以由Y(t)估计出唯一的系数矩阵A与混合信号的估计矩阵X(t).传感器设备中经常存在系统噪声,为了简化分析模型,将噪声项忽略不计.由于实际应用中,信号的大部分信息包含在波形中,因此盲源分离固有的幅值和排顺的不确定性可以忽略不计.

2 NMF分解算法

当系统为欠定状态(m<n)时,式(2)的解不唯一.目前解决此问题的方法是采取NMF分解算法来获得最优的源信号估计矩阵.

大学生心智逐渐成熟,对其进行心理干预能有效降低心理疾病发生的机率。高校要针对心理健康教育进行心理健康知识、理念等的普及,通过开展讲座、体验式学习、横向心理教育交流、心理竞赛等多元化活动,强化大学生的心理健康,引导大学生正确对待各种关系及问题。首先,建立辅导站,保证朋辈辅导员7*24H在岗,实现无缝心理辅导;其次,构建并完善心理健康辅导网络,实现线上、线下心理辅导;最后,建立朋辈心理互助、自助辅导模式,通过互助、自助等形成帮助大学生自己或相互之间及时进行心理排解,提高个人的心理承受能力,扩大心理适应范围,提高个人的心理素质。

给定一个m×n阶非负矩阵V和一个正整数k,对V进行如下分解:

Vm×nWm×k×Hk×n

(3)

式中:WH分别为基矩阵和系数矩阵,且均为非负矩阵因子.若选择k≪min(m,n),则用系数矩阵H代替混合矩阵V,便可实现对源数据的降维处理,从而降低数据存储空间.

非负矩阵分解实质是一种低秩逼近的算法,旨在寻求约束条件下损失函数(目标函数)最小的矩阵分解因子,在文献[9]提出的基于欧式距离的算法基础上,增加了对基矩阵W的2-范数约束和对系数矩阵H的最小相关性约束[10],得到改进的目标函数为:

F(W,H)=

(4)

问卷调查结果表明,连贯组患者的疾病知晓程度为(91.10±2.17)分,明显较高于对照组的(63.46±7.35)分,经t值检验两组间的对比差异,显示有统计学意义(P<0.05)。

式中xi和分别表示节点位置的实际值和估计值。主要参数和取值如表1所示,相对坐标原点(0,0)取在表1所定义等效矩形区域的中心位置,两个锚节点分别位于(-4 m,-4 m)和(-4 m,4 m)。

 

(5)

LU Hong,ZHAO Zhijing,YANG Xiaoniu.Algorithm for underdetermined blind source separation based on DSNMF [J].Journal of Computer Applications,2011,31(2):553-555. DOI:10.3724/sp.j.1087.2011.00553.(in Chinese)

(1) 随机初始化非负矩阵WH;

(2) 按照式(5)更新规则进行迭代;

(3) 对每次迭代WH中生成的负值元素置零,并对W按列进行归一化;

(4) 循环进行步骤(2)和(3)直至收敛,得到最优化的基矩阵W和系数矩阵(即解混矩阵)H

3 基于负熵的FastICA算法

ICA算法是盲源分离最常用的方法,其基本思想:假设观测信号Y(t)的一个分量为yi(t)=hX(t),其中h是解混矩阵H的一个行向量,根据Y(t)的统计特性确定一个目标函数,然后选取适宜的迭代规则极大化或极小化目标函数得到最优的解混矩阵H,最后求得使yi(t)非高斯性最大化的一个行向量h,即可分离出其中一个信号分量.

FastICA算法的实质是通过不动点迭代算法来实现yi(t)的非高斯性极大化,而常用的非高斯性度量的评价函数之一就是负熵,然而由于随机变量概率密度的未知会增加计算的复杂度,为此Hyvarinen提出一种负熵的近似方法[8]:

J(yi)≈[E{G(yi)}-E{G(u)}]2

(6)

式中:yiu分别为具有零均值和单位方差的输出变量和高斯随机变量,G为一个非平方的非线性函数.

式中:D1为该层型线铝股外圆直径,mm;d为该层型线铝股内圆直径,mm;SAl为导线铝股总计算截面积,SAl=1 660.76 mm2;n为该层型线铝股根数;η为填充系数,η=0.92;θ为该层单根型线铝股圆心角,rad。

对于信号Y(t)=HX(t),通过极大化目标函数来求解v的最优解:

式中:R(H)为相关系数,αH为正则化参数.式(4)关于WH均是凸的,但联合起来的目标函数均是非凸的,因此NMF算法只能得到局部最优解.首先对目标函数利用梯度下降法,并结合学习速率,得到更新规则:

JG(H)=[E{G(hTx)-E{G(u)}}]2

(7)

式中:xX(t)经过预处理后得到的更新信号.根据Kuhn-Tucker条件,当E{G(hTx)2}=‖h2=1时,该优化问题可以转化为求解:

E{xG′(hTx)}+βh=0

(8)

其中:常量h的初值,G′(·)为G(·)的导数.

记非线性函数为:

语音信号的频率范围通常为300~3 400 Hz,一般情况下采样率为8 kHz,文中针对3路语音信号Z1,Z2和Z3的线性瞬时混合,采取长度为10 s、采样频率为 8 kHz 、经过数字化了的语音信号s1,s2 和s3(分别为女声、一段动物叫声和一段乐器音乐)作为源信号.由于梯度下降法对初始值不敏感,3路源信号通过由MATLAB随机生成的3×3的权矩阵进行线性混合.短时傅立叶变换的具体参数设置如下:帧长为 16 个采样点,帧移为 8 个采样点,为处理方便,将重叠率设置为 50%,窗函数选取汉明窗.

F(h)=E{xG′(hTx)}+βh

(9)

F关于v的梯度近似为:

=E{G″(hTx)}I+βI

(10)

其中,I=E(xxT).

从而,可得到H的迭代规则为:

hE{xG′(hTx)}-E{G″(hTx)}h

(11)

4 基于NMF的改进FastICA算法

[ 5 ] 易慧子,肖林.语音盲源分离相关实验研究[J].中山大学研究生学刊(自然科学·医学版),2011,32(4):84-95.

(1) 将多个语音信号同时输入传感器进行线性混合,得到混合源信号作为观测信号y(t);

(2) 对y(t)进行预处理,包括均值化、白化及分帧加窗处理;

(3) 利用语音信号的短时平稳性[11],对每一帧信号进行离散短时傅立叶变换(short-time Fourier transform,STFT)[12],得到短时幅度谱Yf,n,其中f=1,2,…,F为频数,n=1,2,…,N为帧数,然后将Yf×n作为NMF分解的输入矩阵;

(4) 令V=Yf×n,运用NMF算法,通过设定降维参数k的值进行随机初始化,得到非负矩阵WH,也即初始基矩阵和系数矩阵,同时将短时幅度谱Yf×n代入代价函数,进行迭代更新直至收敛,停止循环迭代,即得到最优化基矩阵Wbest和系数矩阵Hbest;

(5) 将Hbest作为观测信号y(t)的估计矩阵,运用基于负熵的FastICA算法的迭代规则式(11)更新H(k+1),并进行归一化;

(6) 若|F(H(k+1))|<|F(H(k))|,则算法收敛,停止循环迭代,得到估计信号;

(7) 利用傅里叶逆变换生成分离滤波器,将步骤(6)得到的估计信号输入分离滤波器,即可得到时域源信号的估计,并将信号幅值进行归一化处理,最后分析算法性能.

5 仿真实验及结果分析

5.1 数据集

(2)沉箱码头段沉箱顶标高+1米,当地设计最高水位+3.24米,沉箱处水深较浅,施工船舶难以进入沉箱路侧区域施工;且沉箱陆侧水域面积较小,抓斗船无法布置船位;

5.2 性能评价指标

文中采用信噪比(signal-to-noise ratio,SNR)和运行时间来定量评估所述算法的有效性和稳健性.

信噪比SNR[11]公式为:

3.模型的设定。本文借鉴李越冬等(2014)研究内控重大缺陷与审计定价之间相关性的研究模型,并加入固定资产与应收类账户占总资产比例对其进行修正,构建如下模型进行研究。

 

二是建立社会资本建设以奖代补机制。研究出台社会资本参与河湖治理、日常管护等工作的“以奖代补”管理办法。对社会资本投入有利于河湖健康治理和保护的项目,制定相关以奖代补办法,鼓励社会资本共同参与河湖健康建设。武汉、宜昌、襄阳等条件合适的地区,可探索以规划和项目为载体,以土地开发、抵押贷款、PPP筹融资为手段,撬动引导社会资本、银行资金投入,实现河湖管护与开发、官方主导与民间参与协调发展的新路子。

5.3 结果分析

文中以传统的基于负熵的快速独立分量分析(FastICA)方法作为对比算法,两种方法采用相同的数据集和性能评价标准.另外,文中算法在NMF分解过程中,输入矩阵(即系数矩阵H)的维数为65×1 373,经过数次测试调节,考虑到NMF分解的可行性和降维的目的,降维参数k值取3.由于原始信号幅值有正有负,而经过NMF分解过程之后幅值被非负化,为了便于比较分离前后波形图,将信号波形进行归一化处理.归一化处理会造成波形轻微失真,但视觉误差不明显,可以忽略不计.

对于患者或家庭而言,全科医生不仅仅是医生,而且是健康咨询者、教育者、管理者。每个家庭的遗传特征、生活习惯各不相同,合格的全科医生是实现疾病预防的关键;对于医疗服务系统而言,全科医生扮演了首诊医师的角色,将绝大部分疾病控制在社区范围内,合理的配置医疗资源,有利于社会医疗服务体系的良好运转;对于医疗保障以及保险体系而言,全科医生的决策可以有效控制社会整体医疗费用的支出[5]。所以,培养出合格的全科医生队伍是建设高效健康的医疗卫生服务体系的关键[6]。

为了比较运行速率,设置迭代参数i分别为20、50、100、200,各自运行10次,取消耗时间的平均值作为参考数据.运行结果如图1、2,性能比较如表1、2.

  

图1 预加重前后信号频谱Fig.1 Before and after the pre-emphasis signalspectrum waveform chart

 
  

图2 盲源分离前后频谱波形对比Fig.2 Before and after the blind source separationspectral waveform comparison chart表1 文中改进算法和传统算法信噪比比较Table 1 Comparison of SNR between improved algorithmin this paper and traditional algorithm

  

源信号信噪比/dB传统算法改进算法s140.248540.75738s240.464440.60698s340.708240.45336平均值40.473740.6059

 

表2 文中改进算法和传统算法耗时平均值Table 2 Average of time-consuming between improvedalgorithm in this paper and traditional algorithm

  

迭代次数耗时平均值/s传统算法改进算法203.35482.658507.93166.993810015.85113.832620031.421827.2686

综上所示,文中算法无论从信号波形,还是信噪比方面,都成功分离出了源信号.如图1,预加重处理实现了对语音信号的高频部分进行加重,避免了口唇辐射带来的影响,增加了语音信号的高频分辨率.由如图2可知,这两种算法均能分离出源信号,并且与源信号波形相似度很高.由表1数据可知,相比于传统FastICA算法,文中改进算法分离出的信号的信噪比稍大,但不明显,说明两种算法分离效果相当.由表2可知,相同迭代次数下,改进算法耗时短,说明比传统FastICA算法运行速率快.

6 结论

文中提出基于非负矩阵分解的改进FastICA算法,首先利用语音信号的短时平稳性,进行预加重和分帧加窗处理,然后将得到的短时幅度谱作为NMF的输入矩阵进行数据降维处理,最后利用以负熵为目标函数,牛顿迭代法为优化函数的FastICA算法来达到信号分离的目的.仿真实验结果表明,文中算法在运行速率方面优于传统的基于负熵的FastICA算法,但信号分离信噪比没有得到明显改善,有待进一步提高.

参考文献(References)

[ 1 ] 李昌利,曹嘉毅.基于循环优化的矩阵联合对角化算法及在盲源分离中的应用[J].四川大学学报(工程科学版),2011,43(5):159-163.

LI Changli,CAO Jiayi.Loop optimization based joint diagonalization algorithm and its application in blind source separation[J].Journal of Sichuan University (Engineering Science Edition),2011,43(5):159-163.(in Chinese)

[ 2 ] 卢宏,赵知劲,杨小牛.基于行列式和稀疏性约束的NMF的欠定盲分离方法[J].计算机应用,2011,31(2):553-555.DOI:10.3724/sp.j.1087.2011.00553.

专业课教师与思想政治教育工作者的协同育人由理念转化为实践,需要教师们在工作中不断地探索、总结,只要教师能够明确自己在大学生思想政治教育中的责任和使命,开动脑筋,勤于尝试,一定能在协同育人工作中做出成绩,一定能为大学生的成人成才做出贡献。

NMF算法步骤如下:

式中:PsPn分别为信号和噪声的有效功率,且SNR值越大噪声越弱.语音信号SNR的典型值范围为45~55 dB.

根据入库河道沿线的水塘、湿地分布情况,将入库河道分为四种类型:单一河道型、河道—水塘串联型、河道—湿地串联型、混合型。

[ 3 ] 闵苏,刘庆华.基于非负矩阵分解的欠定卷积盲源分离方法[J].桂林电子科技大学学报,2013,33(1):1-3.

MIN Su,LIU Qinghua.Underdetermined convolution blind source separation algorithm based on nonnegative matrix factorization [J].Journal of Guilin University of Electronic Technology,2013,33(1):1-3. (in Chinese)

[ 4 ] 杨习贝,徐苏平,戚湧,等.基于多特征空间的粗糙数据分析方法[J].江苏科技大学学报(自然科学版),2016,30(4):370-373.DOI:10.3969/j.issn.1673-4807.2016.04.011.

YANG Xibei, XU Suping, QI Yong,et al.Rough data analysis methool based on multi-feature space[J].Journal of Jiangsu University of Science and Technology(Nature Science Edition).2016,30(4):370-373.DOI:10.3969/j.issn.1673-4807.2016.04.011.(in Chinese)

语音信号的频谱包含该信号的主要特征,且NMF算法具有提取事物局部特征的特点,将其与以负熵为目标函数、梯度下降法为初始值的优化算法的改进FastICA算法相结合,由此得到分离信号.算法具体步骤如下:

YI Huizi,XIAO Lin.Experimental research related on speech blind source separation[J].Journal of the Graduates (Natural Sciences.Medicine),2011,32(4):84-95.(in Chinese)

[ 6 ] 赵忠华,杨晓梅.基于FastICA的语音盲源分离方法[J].四川大学学报(自然科学版),2015,52(4):830-834.

ZHAO Zhonghua,YANG Xiaomei.Blind separation of sound signal by using FastICA[J].Jouranl of Sichuan University (Natural Science Edition),2015,52(4):830-834.(in Chinese)

[ 7 ] RASHID A,QURESHI I M,SALEEM A.Electrocardiogram signal processing for baseline noise removal using blind source separation techniques:a comparative analysis [C]∥Machine Learning and Cybernetics (ICMLC),2011 International Conference on Machine Learning and Cybernetics.Guilin,China:IEEE,2011,4:1756-1761.

[ 8 ] 刘俊良,于凤芹.基于盲分离算法的混叠语音分离的研究[D].江南大学,2013:7-18.

[ 9 ] 李臣明,张师明,李昌利.非负矩阵分解的一个约束稀疏算法[J].四川大学学报(工程科学版),2015,47(2):108-111.

王继行(1988—),男,河南信阳人,工程师,中国市政工程西南设计研究总院有限公司,从事给水排水设计工作。

LI Chenming,ZHANG Shiming,LI Changli.A constrained sparse algorithm for nonnegative matrix factorization [J].Journal of Sichuan University(Engineering Science Edition),2015,47(2):108-111.(in Chinese)

[10] 平沙沙,褚蕾蕾.基于投影梯度法的非负矩阵分解稀疏算法[J].计算机与数字工程,2012, 40(12):20-22.

PING Shasha,ZHU Leilei.A sparse algorithm for non-negative matrix factorization based on projection gradient method[J].Computer & Digital Engineering,2012,40(12):20-22.(in Chinese)

3.3.5 元数据维护。对平台中的元数据,包括平台中心前置库、汇集库、基础库、业务主题数据库等库表结构和数据资源的元数据的库表结构、元数据关系进行统一的维护管理。

[11] 方凯,郑能恒.基于 CNMF 的语音和噪声分离算法研究[D].深圳大学,2015:5-25.

[12] GAO H, LIANG L, CHEN X, et al. Feature extraction and recognition for rolling element bearing fault utilizingshort-time Fourier transform and non-negative matrix factorization[J]. Chinese Journal of MechanicalEngineering, 2014, 28(1): 96-105. DOI:10.3901/cjme.2014.1103.166.

 
王艳芳,王敏
《江苏科技大学学报(自然科学版)》2018年第02期文献

服务严谨可靠 7×14小时在线支持 支持宝特邀商家 不满意退款

本站非杂志社官网,上千家国家级期刊、省级期刊、北大核心、南大核心、专业的职称论文发表网站。
职称论文发表、杂志论文发表、期刊征稿、期刊投稿,论文发表指导正规机构。是您首选最可靠,最快速的期刊论文发表网站。
免责声明:本网站部分资源、信息来源于网络,完全免费共享,仅供学习和研究使用,版权和著作权归原作者所有
如有不愿意被转载的情况,请通知我们删除已转载的信息 粤ICP备2023046998号