确定信号的盲分离信息处理课群综合训练与设计.docx
- 文档编号:28305911
- 上传时间:2023-07-10
- 格式:DOCX
- 页数:37
- 大小:401.98KB
确定信号的盲分离信息处理课群综合训练与设计.docx
《确定信号的盲分离信息处理课群综合训练与设计.docx》由会员分享,可在线阅读,更多相关《确定信号的盲分离信息处理课群综合训练与设计.docx(37页珍藏版)》请在冰豆网上搜索。
确定信号的盲分离信息处理课群综合训练与设计
确定信号的盲分离信息处理课群综合训练与设计
课程设计任务书
学生姓名:
专业班级:
指导教师:
工作单位:
题目:
确定信号的盲分离
初始条件:
Matlab软件平台
要求完成的主要任务:
根据盲信号分离原理,用matlab生成两个以上确定信号,选择合适的混合矩阵生成若干混合图像。
选取合适的盲信号分离算法(如独立成分分析ICA等)进行训练学习,求出分离矩阵和分离后的信号。
设计要求:
(1)用matlab做出采样之后信号的时域和频域波形图
(2)选择合适的混合矩阵,得到混合信号,并做出其时域波形和频谱图
(3)采用混合信号进行训练学习,求出分离矩阵,编写出相应的确matlab代码。
(4)用求出的分离矩阵从混合信号中分离出原信号,并画出各分离信号的时域波形和频谱图。
(5)对结果进行对比分析。
时间安排:
查阅资料2天
仿真设计2天
撰写报告1天
指导教师签名:
年月日
系主任签名:
年月日
摘要I
AbstractII
1确知信号1
1.1确知信号的概念1
1.2确知信号的类型1
1.3常见的确知信号2
2盲分离原理3
2.1盲信号处理的基本概念3
2.2盲信号分离的分类3
2.3盲分离的目标准则4
2.4盲信号处理技术的研究应用5
3独立分量分析(ICA)基础6
3.1ICA理论的概念和模型6
3.2ICA数据分析问题中的约束条件8
3.3ICA算法的分类与基本原理9
3.4FastICA算法11
4Matlab简介13
5确定信号盲分离仿真与分析15
5.1原始信号的产生15
5.2原始信号的频谱16
5.3信号的混合17
5.4ICA算法实现19
6小结体会25
参考文献26
附录1程序27
摘要
盲信号分离指的是从多个观测到的混合信号中分析出没有观测的原始信号。
通常观测到的混合信号来自多个传感器的输出,并且传感器的输出信号具有独立性(线性不相关)。
盲信号的“盲”字强调了两点,一是原始信号并不知道,二是对于信号混合的方法也不知道。
独立分量分析(IndependentComponent-Analysis,简称ICA)是近年来由盲信元分解技术发展而来的多通道信号处理方法。
通过假定传感器阵列所采集到的信号是多个具有独立统计特性的内在信源信号的线性叠加,在采用某种特定的优化准则将所谓的独立分量一一分解出来。
本文重点研究了以确定信号为目标的盲处理方法,首先介绍了盲源分离的思想和数学模型,介绍了盲分离的几种准则。
然后对盲分离普遍采用的独立分量分析技术做了介绍,讨论了其多种算法,详细讨论了一种快速ICA算法,并在编程中利用这一算法对多路确定信号进行盲分离,根据结果对这一算法进行分析。
关键词:
盲信号分离;独立分量分析;快速ICA算法;Matlab编程
Abstract
Blindsignalseparationreferstoanalyzeobservationsfrommultiplemixed-signalwhichwasnotobservedintheoriginalsignal.Usuallymixedsignalsobservedfromapluralityofsensoroutputandthesensoroutputsignalshaveindependent(linearlyindependent).Theword'blind'emphasizedtwopoints.Firstwedon'tknowtheoriginalsignal.Second,wedon'tknowthesignalmixingmethod.
Independentcomponentanalysis(IndependentComponent-Analysis,referredICA)inrecentyearsbyblindsignaldecompositiontechniquedevelopedfromthemulti-channelsignalprocessingmethods.Byassumingthatthesensorarraysignalcollectedismorethananindependentstatisticalpropertiesinherentlinearsuperpositionofthesourcesignal,theadoptionofaspecificoptimizationcriterionelevenso-calledindependentcomponentdecomposition.
Thispaperfocusesonthegoaltodeterminetheblindsignalprocessingmethod,introducedtheideaofblindsourceseparationandmathematicalmodels,introducedseveralblindseparationcriteria.Thentheblindseparationwidelyusedindependentcomponentanalysistechniqueshavebeendescribed,discusseditsvariousalgorithmsdiscussedindetailafastICAalgorithm,andusethisintheprogrammingalgorithmtodeterminethemulti-channelsignalseparation,accordingtotheresultsofthisalgorithmforanalysis.
Keywords:
blindsignalseparation;IndependentComponent-Analysis;FastICAalgorithm;Matlabprogramming.
1确知信号
1.1确知信号的概念
确知信号是指其取值在任何时间都是确定的和可预知的信号,通常可以用数学公式表示它在任何时间的取值。
1.2确知信号的类型
1.2.1周期信号和非周期信号
周期信号满足:
(式1)其中,
为此信号的周期,
称为此信号的基频。
1.2.2能量信号和功率信号
在通信理论中,常把信号功率定义为电流在单位电阻上消耗的功率(归一化功率)。
(式2)
若信号的能量是一个正的有限值,则称此信号为能量信号。
在实际的通信系统中,信号都具有有限的功率、有限的持续时间,因而具有有限的能量,为能量信号。
但是,若信号的持续时间非常长,则可以近似认为它具有无限长的持续时间。
此时,信号的平均功率是一个有限的正值,但其能量近似为无穷大。
这种信号称为功率信号。
周期信号属于功率信号。
1.3常见的确知信号
1.单位冲击函数
(式3)
2.单位阶跃函数
(式4)
3.常数
(式5)
4.单边指数函数
(式6)
5.三角脉冲
(式7)
2盲分离原理
2.1盲信号处理的基本概念
盲信号处理(BlindSignalProcessing)是现代数学信号处理、计算智能学近年来迅速发展的重要方向。
在电子信息、通信、生物医学、图像增强、雷达、地球物理信号处理等众多领域有广泛的应用前景。
盲信号处理利用系统(如无线信道、通信系统等)的输出观测数据,通过某种信号处理的手段,获得我们感兴趣的有关信息(如原来独立发射的信号等)。
盲信号的研究是当前学术界的一个研究热点,而盲信号分离则是盲信号研究中的一个重要的课题。
BSS是指从观测到的混合信号中分离出未知的源信号。
盲信号中的“盲”意味着两个方面:
第一,对源信号一无所知或只有少许的先验知识。
第二,混合本身是未知的。
这看似是一个不可能的任务,然而理论和实际都证实了只需要相当简单的假设,就可以得到该问题的解。
这一特点使得BSS成为一种功能相当强大的信息处理方法。
如图1所示:
图2.1盲信号处理原理框图
2.2盲信号分离的分类
源信号进过传输通道的混合方式而言,其处理方法可分为线性瞬时混合信号盲处理、线性卷积混合信号盲处理和非线性混合信号盲处理三类。
根据通道传输特性中是否含有噪声、噪声特性(白噪声、有色噪声等)、噪声混合形式,可分为有噪声、无噪声盲处理,含加性噪声和乘性噪声混合信号盲处理等。
按源信号和观测信号数目的不同可以将混合方式分为欠定、适定和超定情况;按源信号特性的不同分为:
平稳、非平稳、超高斯、亚高斯、超高斯和亚高斯混合分离等。
2.3盲分离的目标准则
盲源分离的实现方法有多种,他们的原理主要可以归纳为以下四种准则:
(1)独立分量分析(IndependentComponentAnalysis,ICA):
当假设源信号各分量间彼此统计独立,且没有时间结构时,在某一分离准则下通过对神经网络权值的反馈调整,使得变换后信号的不同分量之间的相依性最小,也即输出达到尽可能的独立。
这种方法对多于一个高斯分布的源信号不适用(因为高斯信号的线性叠加仍是高斯信号),这是近年来盲源分离的主要解决方法。
(2)主分量分析(PrincipalComponentAnalysis,PCA)的方法:
在尽可能保持原始变量更多信息的前提下,导出一组零均值随机变量相对少的不相关线性组合(主分量),并由此恢复出对源信号的估计。
(3)二阶非平稳性:
即采用非平稳性和二阶统计量。
由于源信号随时间有不同的变化,所以可以考虑利用二阶非平稳性,应用简单的解相关技术实现盲源分离。
与其他方法相比,它能够分离具有相同功率谱形状的有色高斯源,然而却不能分离具有相同非平稳特性的源信号。
(4)运用信号的不同多样性,典型的是时域多样性、频域多样性或时频域多样性,更一般的,即联合空间-时间-频率多样性,如果源信号具有不同的时频域多样性,信号的时频域特征不完全重叠,那么可以通过屏蔽时频域的单个源信号或干扰信号,并从一个(或多个)传感器信号中提取源信号,然后再在时频域中合成,然而这些情况下,通常需要一些源信号的先验知识,所以这种分离只能是一种半盲分离。
2.4盲信号处理技术的研究应用
近年来,盲信号处理逐渐成为当今信息处理领域中热门的课题之一,并且已经在尤其在生物医学工程、医学图像、语音增强、遥感、通信系统、地震探测、地球物理学、计量经济学和数据挖掘等领域显示出诱人的前景,特别是盲源分离技术、ICA的不断发展和应用最为引人注目。
下面介绍盲处理应用中的两个主要方面:
1.语音识别
语音信号分离、语音识别是盲处理应用的一个重要领域。
最典型的应用就是声控计算机,计算机所接受到的语音指令肯定是肯定是带有各种环境噪声的,还可能存在其他的语音信号(如有其他人说话),而且这些信号源与接收器的相对位置也未知,计算机需要在这种情况下识别出正确的语音命令。
在移动通信中,往往存在通信质量问题,极大的影响了通话效果,而盲源分离或盲均衡技术能够消除噪声、抑制干扰及增强语音,提高通话质量。
2.生物医学信号处理
在生物医学领域,盲信号处理可应用于心电图(ECG)、脑电图(EEG)信号分离、听觉信号分析、功能磁共振图像(FMRI)分析等。
例如人们常常需要从肌电图中确定神经元细胞信号的触发模式,而EMG信号通常由多个特殊的传感器在人体表处测得,从信号源到传感器之间的信号传输介质参数是未知的,而人们之间各不相同。
目前已经有一些学者将盲源分离技术成功地够应用于脑电图等信号的数据处理。
3独立分量分析(ICA)基础
3.1ICA理论的概念和模型
ICA是20世纪90年代发展起来的一种新的统计学数据处理技术,它是从多维统计数据中找出隐含因子或统计独立数据的方法。
从线性变换和线性空间角度,源信号为相互独立的非高斯信号,可以看作线性空间的基信号,而观测信号则为源信号的线性组合,ICA的主要目的就是在源信号和线性变换均不可知的情况下,确定一个非正交变换,使得变换后的输出各个信号分量之间尽可能的统计独立,从而从观测的混合信号中估计出数据空间的基本结构或者说源信号。
根据概率论中的中心极限定理,一定条件下多个独立分布的和分布趋向于高斯分布。
盲分离问题中,观测信号是多个独立源信号的线性组合,所以其高斯性比源信号的高斯性强,即源信号的非高斯性比观测信号的非高斯性强,粗略地说就是越独立非高斯性越强。
于是在盲分离算法中,我们可以将非高斯性作为一个分离信号效果的判据,通过自适应过程使得分离信号的非高斯性足够强时,就认为达到了分离的效果。
在ICA发展初期,其被等同于盲源分离(BSS)。
早期文献对于ICA和BSS是不加区分的。
实际上它们还是有所区别:
BSS属于信号处理范畴,其出现早于ICA,而ICA应该理解为一种统计学领域的数学工具,是解决BSS问题的一种分析方法。
下面先给出ICA的基本线性模型:
设x1,x2,…xn为n维随机观测混合信号,由m个未知源信号(或称独立源)s1,s2,…sm线性组合而成,忽略时间下标t,并假设每个混合信号xi都是一个随机变量,而不是时间信号。
每个观测值xi(t),为该随机变量的一次抽样。
不失一般性,设混合的随机变量和独立源都具有零均值。
下面用矩阵形式来定义ICA模型。
令X=(x1,x2,…xn)T为n维随机向量,S=(s1,s2,…sm)T是m维未知源信号,则ICA的线性模型可表示为:
,i=1,2,…m,(式8)
式中,si称为独立分量,A=[a1,a2,…am]是一满秩的n*m矩阵,称为混合矩阵,ai是混合矩阵的基向量。
由方程可知,各观测数据xi是由独立源si经过不同的aij线性加权得到的。
独立源si是隐含变量,不能被直接测量;混合矩阵A也是未知矩阵,唯一可利用的信息只剩观测的随机矢量X。
若没有任何限制条件,要仅由X估计出S和A,方程的解必为多解。
而ICA正是在某些限制条件下,根据X的统计特性,给出方程唯一解,实现独立分量的提取。
如上所述,ICA的一个重要基本假设就是对未知源信号独立性的要求。
将基本的ICA模型扩展到有噪声的情形,并且假设噪声是以加性噪声形式存在的。
这是一个相当现实的假设,因为加性噪声是因子分析和信号处理中通常研究的标准形式,具有简单的噪声模型表达方式。
因此,噪声ICA模型可表示为:
(式9)
式中,
是噪声向量。
信号源噪声,即直接添加到独立成分(即信号源)上的噪声。
信号源噪声可用下式来表示:
(式10)
实际上,如果可以直接考虑带噪声的独立成分,那么可将此模型写为:
(式11)可以看出,这就是基本的ICA模型,只是独立成分本身变了。
针对ICA具体模型,未知源信号间相互独立即要求:
(式12)
在ICA模型中,除了要求源信号相互独立外,还必须满足非高斯分布的特性。
此外,为简化模型,假设未知混合矩阵A是方阵,即m=n。
那么ICA的目的就是寻找一个变换矩阵,对X进行线性变换,得n维输出向量:
(式13)
当允许存在比例不定性和顺序不定性的前提下,Y成为对独立分量si的一个估计
。
以上,从盲源分离观点阐述了ICA的模型,下面给出从多维信号的线性描述观点论述的ICA模型。
设X=(x1,x2,…,xn)T为n维观测数据,ICA的目的即寻找一个坐标系统
,使得当X中各分量x1,x2,…,xn在该坐标系下投影时:
,i=1,2,…,n(式14)投影系数s1,s2,…,sn相互独立。
若令Y=WX,在ICA实现算法中,系统目标是寻找一个最优矩阵W使使出yi相互统计独立,即Y互信息为零。
可以证明,此时
为ICA线性描述模型中的坐标系统。
3.2ICA数据分析问题中的约束条件
对于ICA/BSS中所涉及的多维数据分析问题,一般都要对观测信号及生成信号的过程作一些假设,这些约束能使分离问题有一个合理而有意义的解,同时约束条件还须具有一定范围的实用性。
一般有如下的假设:
1)各源信号之间统计独立,即源信号的联合概率密度函数是各分量的边缘密度函数的连乘积。
这是独立分量分析的前提和基本准则。
2)观察信号数N大于或等于源信号数M,当N=M时称为正定ICA,当N
实际情况中,源信号的数目很可能是未知的。
3)源信号中至多有一个高斯信号源。
若有多个高斯分布的源,由中心极限定理可知,高斯性信号的线性组合仍是高斯性的,这是ICA算法无法进行有效的盲分离。
当满足以上三条假设时ICA/BSS是可实现的。
为了进一步简化问题求解,可以再做以下假设:
各传感器引入的噪声可以忽略不计。
但有时也可以将噪声看作一个源信号,这可以使得算法有更强的鲁棒性和更广泛的适应性,但这是就要相应的增加传感器数目。
有一些关于各源信号的先验知识如概率密度函数。
虽然ICA是不需要知道源信号的先验知识的,但实际情况我们是可以知道诸如源信号类型,甚至其概率分布的一些特性的。
这也有助于ICA的求解。
3.3ICA算法的分类与基本原理
从以上的介绍中可以知道ICA的目标就是使整个系统的输出信号彼此相互尽量独立。
因此,不同的ICA算法研究主要体现在独立性度量准则的选取和对目标函数的优化准则的不同上。
故而ICA算法可以简单的表述为:
ICA算法=目标函数+优化算法
其中,目标函数的选取影响了算法的统计性质,是ICA算法必须解决的根本问题。
而优化算法则影响了算法的收敛速度、存储要求和计算的稳健性等,常见的优化算法主要有梯度下降法、牛顿迭代法等。
在梯度下降法中有两种处理方式不同的算法:
在线学习算法(onlinelearning)和批处理算法(batchmodel)。
前者在每接收一个新样本时更新网络权值,而后者的每次更新需要一批数据参与运算。
在线学习是一种自适应学习,具有实时处理的特点;批处理学习需要对过去的数据重复利用,因此存储容量要求较大,但其显著特点是具有比在线学习更快的收敛速度。
因此ICA算法的性能是目标函数的选择同优化算法的选择之间的结合和妥协。
下面给出按照不同的目标函数所相应的分离准则给出不同的ICA算法。
目前的算法中基于独立性测度的目标函数主要有这么几种代价函数:
1.基于非高斯性度量的代价函数。
2.基于互信息量最小化的代价函数。
3.基于极大似然的代价函数。
3.3.1基于非高斯性的最大化
非高斯性是独立性的度量之一,非高斯性越强则说明越独立。
非高斯性可用峭度或负熵测量。
如果我们分析出所分离出的信号Y的各个分量是原始信号S的估计的话,那么负熵和
应该具有最大值,这是因为各个原始分量具有最大的非高斯性,即它们的累加也是应该最大,这也被称为负熵最大化(NegentropyMax,NM)估计原理。
可以得出,分离信号Y各个分量的负熵和为:
(式15)
其中Const为常量,是不依赖于W的。
这样就可以得到基于负熵最大化的分离矩阵的目标函数:
(式16)
实际中负熵计算比较困难,常用高阶积累量近似。
3.3.2基于互信息的最小化
互信息
越小,Y的各分量之间越独立。
基于互信息最小化(MinimumMutualInformation,MMI)的目标函数为:
(式17)
MMI的基本思想是根据式17所示的目标函数,对观测信号X求分离矩阵W,使得恢复信号Y各分量之间的互信息最小。
我们可以得到分离矩阵W的优化算法:
(式18)
3.3.3基于互信息的最小化
设源信号S的概率密度函数为
,可以得出:
(式19)
因此如果能求得一个
,使得
对于X的集合平均值达到最大值,则
即是所需要的解,这就称为ML原理。
3.4FastICA算法
FastICA算法,又称固定点(Fixed-Point)算法,是由芬兰赫尔辛基大学Hyvärinen等人提出来的。
是一种快速寻优迭代算法,与普通的神经网络算法不同的是这种算法采用了批处理的方式,即在每一步迭代中有大量的样本数据参与运算。
但是从分布式并行处理的观点看该算法仍可称之为是一种神经网络算法。
FastICA算法有基于峭度、基于似然最大、基于负熵最大等形式,这里,我们介绍基于负熵最大的FastICA算法。
它以负熵最大作为一个搜寻方向,可以实现顺序地提取独立源,充分体现了投影追踪(ProjectionPursuit)这种传统线性变换的思想。
此外,该算法采用了定点迭代的优化算法,使得收敛更加快速、稳健。
FastICA算法有不同的目标函数形式,包括基于非高斯性的最大化、基于最大似然等。
这里主要介绍基于非高斯性最大化中用峭度和负熵表示的方法。
由于负熵难以计算,可以采用如下近似方法:
(式20)
其中,
是一与Y具有相同方差的高斯随机变量,根据信息论可知在具有相同方差的随机变量中,高斯分布的随机变量具有最大的微分熵。
为均值运算;
为非线性函数,可取
,或
或
等非线性函数,这里,
,通常我们取
。
快速ICA学习规则是找一个方向以便
具有最大的非高斯性。
这里,非高斯性用式20给出的负熵
的近似值来度量,目标是通过优化算法使
的负熵最大化。
FastICA算法的推导就不详细给出了,其分离矩阵迭代公式为:
(式21)
(式22)
总结上述基于负熵最大化的FastICA算法的基本步骤如下:
1.对观测数据X进行中心化,使它的均值为0;
2.对数据进行白化,
;
3.选择一个初始权矢量(随机的)W;
4.令
;
5.令
;
6.假如不收敛的话,返回第4步。
上述算法只能估计出一个独立分量,要估计m个独立分量,我们可以迭代m次。
我们也可以推导出基于峭度的FastICA算法,其目标函数是由峭度的定义式得到的。
通过迭代算法获得解混矩阵W使分离信号峭度最大化。
其步骤与基于负熵最大化的算法相同。
但第4步的更新变为:
(式23)
以上就是FastICA算法的步骤,实际计算时,上述公式中的期望须用样本平均代替。
理想情况下,所有的有效数据都应该参与计算,但这会降低计算速度。
所以通常用一部分样本的平均来估计,样本数目的多少对最后估计的精确度有较大影响。
迭代中的样本点应该分别选取,假如收敛不理想的话,可以增加样本的数量,收敛意味着W的新值和旧值指向同一方向,其点积为1。
该算法也有自身的缺点,当初值的选择不是很合适时,算法性能会急剧下降,其次是算法的迭代步长有待进行自适应的优化。
4Matlab简介
MATLAB是由美国MathWorks公司发布的主要面对科学计算、可视化以及交互式程序设计的高科技计算环境。
它将数值分析、矩阵计算、科学数据可视化以及非线性动态系统的建模和仿真等诸多强大功能集成在一个易于使用的视窗环境中,为科学研究、工程设计以及必须进行有效数值计算的众多科学领域提供了一种全面的解决方案,并在很大程度上摆脱了传统非交互式程序设计语言(如C、Fortran)的编辑模式,代表了当今国际科学计算软件的先进水平。
以下是MAT
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 确定 信号 分离 信息处理 综合 训练 设计