Internati o nal Journal  of Ele ctrical and Co mputer  Engineering (I JE C E )  V o l. 7, N o . 5 ,  O ctob er 201 7, p p. 2 520 ~252 9  I S SN : 208 8-8 7 0 8 , D O I :  10.115 91 /ij ece.v7 i 5.p p25 20- 252 9        2 520     Jo urn a l  h o me pa ge : h ttp ://iaesjo u r na l.com/ o n lin e/ind e x.ph p / IJECE  LMS Adaptive Filters for Noise Cancellation: A Review      Shub hra Di xit 1 , Dee pak Nagaria 2   1 Amity   University ,   N oi d a ,   Utt a r  P r ades h  2 Departem ent   of  El ectron i cs   &  C o mmunication Engineer ing, Bun delk hand  Institu t e  of Engin eering   & Technolog y ,   J h ans i , U tt ar P ra des h , Indi a       Article Info    A B STRAC T Article histo r y:  Received Dec 9, 2016  Rev i sed   Mar   27 , 20 17  Accepted Ap r 11, 2017      This   p aper  r ev i e ws   t he  p as t  a nd  the  rec e nt  r es earch  on  Ada p tive   F il ter   algorithm s   b as ed  on  adaptiv e  nois e   can cel lation  s y s t em s .   I n  m a n y  applications  o f  noise  cancellat io n,  t he  c h a nge  i n   signal  char ac t e r i stics  could   be  quite  f ast  which  requires  the  util iza tion  of  a daptiv e  alg o ri thm s   t hat  converge  rapid l y.  A lgorithms  s uc h  as  L MS  a nd  R L S  proves  to  b e  v ital   in  t he  nois e   c ance lla tio n  are  revi ewed  i ncluding  pr inc i p l e  and   re cent   modifications   to increase the converg ence rate and reduce  the computational c o m plexity   for  future  i mplementation .   T h e   p u r pose  of  t his  p a per  is  not  only   to   d isc u ss  various  noise  cancellation  LM S  algorithms  b u t   a lso  to  p rovide  t he  r ead er   with an   overv iew of the res earch conducted .   K eyw ords :   Ad ap tiv e Filter  Algo rith m   Co nv erg e   LMS  No ise Can cellatio n  RLS   Copyright ©  201 7 Institut e  o f   Ad vanced  Engin eer ing and S c i e nce.  All rights re se rve d .  Co rresp ond i ng  Autho r :  Sh ub hr a Di xi t ,     A m i t y U n iv er sity, N o i d a , U ttar   Pr ad esh, 2 01 313 , In d i a.  Em a il: ersh ub hrad i x it@g m ail. co m       1.   INTRODUCTION  The  c o ncept  of  noise  c a n cell a tion  has  rece ntly  g aine d  m u ch  a tte nt i o n  a n d   ha s  been   i d e nt i f i e d  a s   a   vi t a l   m e t hod  t o   e l i m i n at e  n o i se  c o n t a i n ed   i n  usef ul   s i g nal s   [ 1- 2].  T h e  a pplication  of  t his  technique  can  b e   foun d  in   v ariou s   i n d u s trial  an d  com m uni cat i on  a p pl i a nc es,  s u ch   as  m achine r ies,  h a nds -free  phones  and  tran sform e rs  [ 3 , 4 ] .  Add itio nally,  n o i se  c an cellatio n   h a s  also   b een   i m p l e m e nt ed  i n  t h e   fi el d  o f   i m a ge   pr ocessi ng ,  bi om edi cal   s i gnal ,   s peec h  en h a ncem ent   and   echo  c a nc ellatio n   [5 -7 ].  A s  th e  no ise  from  t h e   surroundi ng  e nvi ronm ent  severely   r e duces  t he  quality  o f  speech  a nd  a udi o  signals  it  is  quite  n eces sary  t o  su ppress  no ise  and   en h a n c e  sp eech   an d  au d i o   sign al  q u a lity,  h e n ce  t h e   a co u s tics  ap p lication s   o f  no ise  cancellation  ha s  bec o m e   t he  t hrust  area   o f  research.  T h e  basic  concept  of  A da ptive  Noise  Canceller  (ANC )  whi c h  rem ove s  or  s u p p r esses   noi se  f r o m   a  si gnal   usi n g  ad apt i v e  filters  w as  f irst  i n t rod u ced   b y  W i drow  [ 8 ] .  D u e  to   l o ng  im p u l se  r esponses,  th e  co m p utatio n a l  r e q u i re m e n t s  o f  ad ap tiv e  filters  a re  v ery  h i g h   e sp ecially   d u ring   i m p le men t atio n   on   d i g ital  sig n a l  pro cesso rs.  Wh ere  as  i n   case  o f   n o n - s tatio nar y   e nv ir on m e n t s  and  col o red  back g r ou n d   n oi se  c o nve r g ence  bec o m e s  very   s l o w  i f   t he  a da ptive  filter  receives  a  signal  with  h igh  spect ral   dy nam i c  ran g e  [9] .   T o  ove rc om e  t h is  p ro bl em   num ero u s  a pp ro aches  h a v e   b een   pr opo sed  in   t h e   l ast   few  d ecad e s.  F o r   e x a m p le,  th e  Kal m an   f ilter  an d   th e  W i en er  f ilt er,  Recursi v e-Lea s t-Squa re  ( RLS)  a lgorithm ,   were  p r o po sed   t o   achi e ve  t h e   op tim u m   p erform ance  of  a daptive   fi l t e rs   [ 1 0 - 1 2] .  Am ongst   t h ese  t h e   Least   Mean  S quare   (LMS)  al gorithm   is   m o s t  f r e qu en tly  u sed  becau se  o f   its  s i m p l icity  a n d   ro bu st n e ss.  T hou gh ,  th e  LM S  l acks  fr om   s ubst a nt i a l   per f o r m a nce  de gra d at i o n  wi t h   c ol ore d   i nt erfe rence   si gnal s   [ 13] .  O t her   algorithm s ,  such  a s  the  Affine  P ro jectio n  alg o rithm   (AP A ),  b eca me  a lternative  approaches  b ut  its  co m p u t atio n a l  co m p lex ity  i n c reases  w ith   t h e   p roj ection   order,  r estrictin g  its  u se  i n  acou s tical  e n v i ro n m en ts  [ 1 4 ] .  No ise  from  th e  su rr ound ing s   a u t o m ati cally  g ets  ad ded   to   t he  s i g na l   i n   t he  p ro ces s  of  t ransm i ssi on  o f   inform ation  from   t he  s ource   to  r ecei ver  side.  T h e  usa g e   of  a da p tiv e  filters  i s  o n e   o f  th e  m o st  pop u l ar  pr o pose d   s ol ut i ons  t o  re duce  t h e  si g n al   c or r upt i o n  ca use d   b y   pr ed ictab l e  an d   un pred ictab l e  no ise.  A d a p tiv e  filters  h av e  b e en   u sed   i n   a   b ro ad   r ang e   o f  ap p lication   fo r  n ear ly  f i v e  decades.  It  i ncl ude s  ada p tive  nois e   Evaluation Warning : The document was created with Spire.PDF for Python.
I J ECE   I SSN :  208 8-8 7 0 8       LMS   Adap tive Filters fo r No i s e Can cella tion :  A Review (Sh ubh ra Dixit)  2 521 can cellatio n ,   a d a p tiv e  system  i d e n tificatio n ,   lin ear  p red i ctio n ,  ad ap tiv e  eq u a lization ,   i nv erse  m o d e ling ,   e tc.  No ise  is  a ssumed   t o   b e   a   r an do m   p r o cess  and   ad ap tiv e  filters  h a v e   t he  cap ab ility  t o   adj u st  t h e ir  i m p u l se  respon se  t o   filter  ou t  th e  co rrelated   sig n a l  i n   t h e   i npu t.  T hey   r eq ui re  m odest   o r  n o   a   p r i ori   k n o wl e dge   o f  t h e  sig n a l  and   no ise  ch aracterist i cs .  In   a dd itio n   ad ap tiv e  filters  ha ve  t he   p ot ent i a l   o f   a da pt i v el y   t r ac ki n g   t he  sig n a l  un der  no n-statio n a ry  c o n d itio ns.  It  h as  t h e   u n i qu e  ch ara ct e r i s t i c   o f  sel f -m odi fy i ng  [ 1 4]   i t s   freque ncy   respon se  t o   chan g e   t h e   b eh av ior  in   tim e  a n d   allowing   t he  f ilter   t o   ad ap t  th e  respon se  t o   th e  inpu t  sig n a l   characte r istics change. T h e ba si c pri n ci pl e  of  an a d a p t i v e  fi l t er   i s  sh own   in F ig ur e 1 .           Fig u re 1 . Ad aptiv e Filter      Th e  ob j ectiv e  is  t o   filter  t h e  in pu t  si g n a l,  x (n ),  w ith   a n   ad ap tiv e  filter  in   s u c h   a  m a n n e r  t h at  i t   m a t c hes  t h e  d e si red   si g n al ,  d( n) .  In   o r d er   t o  g e ne rat e   a n   err o r   s i gnal   t h e  desi re d  si g n al ,  d( n ) ,  i s   s u b t r act ed   fro m   t h e   f iltered   si g n a l,  y (n).  A n   ad ap tiv e  alg o rith m   is  d riv e n   b y  the  erro r  sign al  w h i ch   g en erates  t he  f ilter  coefficients  i n  a  m a nner  that  m in i m izes  t h e   e rror  sign al.  Un lik e  fro m   t h e   f ix ed   f ilter  d e sign ,  h e re  t he  f ilter  coef fi ci ent s   a r e   t una bl e,  a re  a dj ust e d  i n   d e p en de ncy   of  t h e   e nv iron m e n t   t h a t  th e  filter  is  o p e rated   i n ,  an d   can  therefore  track  a ny  pote n tial  chan ges  i n   t hi s   envi r o nm ent .   U si n g   th is  c oncep t,  a d a p tiv e  filters  can   b e  t a ilo red  t o   t he  e nvi ro n m ent   set   by   t h e se  s i gnal s .  H o we ve r,  i f  t h e   envi r o n m en t  ch ang e s  filter  th ro ugh   a   n ew  s et  o f  facto r s,  a dju s t s   f or  n ew  f eat u r es  [ 15 ].  T h e   a d a p tiv e  filter  con stitu tes  a  v ital  p a rt  o f  th e  statistical  s ig n a l  p r o cessi n g .  The  ap p licatio n   of  a n   ad ap tiv e  filter  o ffers  a   s mar t   sol u t i on  t o   t he  p r obl em   w he re ver  t h e r e   i s   a   need  t o  p r oces s  si gnal s   t hat   resul t   f r om   o p e rat i on  i n   a n  e nvi ro n m en t  o f   u nkn own   statistics,  a s  it  typ i cally  pr o v i d es  a   s i g ni fi cant   e nha n c em en t  in  p erform ance  over  t he  u se  o f   a   f i x ed   f ilter  d e si g n e d   b y   c on v e n tio n a l   m e t hods  [ 1 7 - 1 8 ] .   T he  a i m   o f   t h i s   p a p er  i s  t o   r e v i e w  t h e  e x i s t i n g  n o i s e  c a ncel l a t i on  t e c hni que s  f o r  e n hanci ng  speec h  a n d   a u di o   si g n al   qual i t y   a nd  t o   p r o v i de  t he   u n d erst andi n g  o f   s u itab ility  o f  v a ri ous  d ev elop ed   m o d e ls.   Prior  to   t h i s,  a   b rief  r ev iew  of  t h e   a d a p tiv e  no ise  can cellatio n  m e t hods  a n d   i t s   a ppl i cat i o n  i s   p rese nt e d   i n  t h e  next   s ect i o n . Fi n al l y , a pe r ce pt i on  o n   upc om ing   resea r c h  i s s u g gest e d  f o r  f u r t h er  co n si dera t i on.       2.   A D A P TIV E  N OISE  CANC ELLA TION   Aco u st i c   noi se   cancel l a t i on  i s   i ndi spe n sa bl e  fr om   t he  h eal t h   p o i n t   of  v i e w  as  e xt ensi ve   e xp osu r es  t o   high  l evel  o f  noise  m a y  cause  s erious   h ealt h   h azards  t o  hum a n  b eing.  T h e  c o nve n tional  noise   cancel lation   m e t hod  [ 1 9]   u s e s  a  refere nce  i n p u t   si g n al   ( co rrel a t e d  noi se  s i g n a l)  w h i ch   i s  p a ssed   t h ro ugh   t h e   a d a p tiv e  filter  t o   m ake  i t   equal   t o   t he  noi se   t hat   i s   a dded  t o   o ri gi nal   i n f o rm a tio n   b eari n g   si g n a l.  S ubsequ e n tly  t h i s  filtered   si gnal   i s   s u b t r act ed  f rom   noi se  c o r r upt e d   i nf orm a t i on  si g n al .  T hi s  m a kes  t h e  c o r r u p t e d  si g n al   a   n oi s e   free   si gnal . T he  f u n d am ent a l   conc ept   o f  n oi se ca n cel l a t i on [ 1 9]  i s t o pr o duce a  si gnal   t h at  i s e qual   t o  a  d i s t u r b ance   si gnal   i n   a m p l i t ude  a n d   f re q u ency   but   h as  o p p o si t e   pha se .  These   t wo   s i g n a ls  r esu lts  i n   th e  can cellatio n   o f   noi se  s i gnal .   T he  o ri gi nal   Ada p t i v e  noi s e   cancel l a t i on  (A NC )  [ 2 0]  u ses  two  se ns ors  to  r eceive  t he  nois e   si gnal   an d  t a r g et   s i gnal   sepa r a t e l y .  The  rel a t i ons hi p  bet w e e n  t he  n oise  r e f ere n ce  x(n)  a nd  t h e  com p onent  o f  t h i s   noi se  t hat   i s   c ont ai ne d  i n   t he  m easured  s i gnal   d ( n)  m ay   b e   d et erm i ned  by   A da pt i v e  noi se  c a n cel l a t i o n   sh own   in Fi g ure 2     Ad ap tiv e Filter  ∑  x( n)   y( n )   d( n)   e(n)  +   -  Ad ap tiv e  alg o rith m  Evaluation Warning : The document was created with Spire.PDF for Python.
                        ISS N :  2088- 8 708  I J ECE  Vo l . 7 , N o. 5 , O c tob e r 20 17  :  251 9 – 25 28  2 522   Fig u re 2 . Ad aptiv e no ise can c ellin g       If  se veral   u n r e l at ed  noi ses  c o rr upt   t he  m easurem ent   of  i nt erest   t h e n   sev e ral  ad ap ti v e   f ilters  m a y   b e   depl oy ed  i n  p a ral l e l   as  l ong   a s  sui t a bl e  noi se  r efe r ence   s i gnal s  are  av ailab l e  with i n   t h e   s yste m .   I n   no ise  can cellin g  syste m s  th e  obj ect iv e  is  t o  p r o duce  a  system   o utp u t   e ( n )  = [   s ( n )  +   n 1   ] -  y ( n )   wh ich  is  a   b est  fit  in   th e  least  sq u a res  sen s e  t o   t h e  sig n a l s(n ) .  Th i s   obj ectiv e  is  a ch iev e d   b y   a dju s ting   th e  filter  th rou gh  an  a dap tiv e  al go ri t h m   and  feedi ng  t h e  s y st e m   output  b ack  t o  the  a d aptive  fi lter  an d   t o   m in i m iz e  to tal  syste m   o u t p u t   po we r  [ 20] .  I n   a n  ada p t i v e  noi se  c a n cel l i ng  sy st em ,  t h e  sy st em   out pu t   serves  a s  a n   e rr or  s i g nal   f o r  t h e   adaptive   proce ss.    2. 1.   Dig i ta l Filters   Th e  p u rp o s e  of  d i g ital  filters  i s  to   s ep arate  sig n a ls  t h a t  h a v e   b een  c om bi ned  an d  t o   r est o re  s i g n a l s   that  h ave  bee n  distorte d   i n  so m e  way  [22] . S i gnal   sepa rat i o n i s  req ui re d w h en a si g nal   ha s been co n t a m i nat e d  with  i nte rfe ren ce,  n oise,   o r   o t h er  s ign a ls  w hereas  r estoration   is  u sed   wh en  a   s ign a l  h a s  been   d isto rted   i n   so m e   way. Bro ad ly th e  d ig ital filters are classi fied  as W e i n er and  K alm a n   filters [23 ].    2. 1. 1.   Wiener filter   A  W i en er  f ilter  [24 ]   i s  a  d i g ital  filter,  w hich   i s  d e sig n e d   to   red u ce  th e  m ean  s quare   d iffere nc e   b e tween   so m e   d esired   s i g n a l  an d  th e  filtered   o u t p u t .  It  i s  o cca sionally  called  a  m i nimum   m ean  s qua re  e rror  filter.  A   W iener  filter  [25 ]   can  b e  fi n ite-duratio n   im p u l se  r es p o n s e  (FIR)  filter  o r   a n   i n fin i te-du r ation   imp u l se  respon se  ( IIR)  f ilter  or  a   [ 2 6 ].   G en erally  t he  f orm u latio n   o f   a n   FIR  Wien er  f ilter  resu l t s  in   a   s et  o f  lin ear  equat i o ns  a nd  has  a  cl osed -f o r m   sol u t i on  wh ereas  t he  f orm u l a t i o n   of  a n   IIR  W ien e r  filter  [2 7 ]   r esu lts  i n   a  set  o f  n on-lin ear  e q u a tion s .  Th e W i en er  f ilter  rep r esen ted   b y   t h e   c oe fficient vector  w   i s  de picted  i n  Figure 3.  T h e   filter  accepts  t he  i nput  s i gnal   y( m ) ,  and  ge nerates  a n   o utput  s i gnal   x m , whe r e  x m   i s  the   least  m e an  s quare   erro r esti m a te o f a d e sired   o r  t arg e t sign al x (m ). Th e  filter i np ut – o u t p ut  rel at i on i s  s h o w n   i n E quat i o n  1.     y w k m y T 1 - p 0 k k ) ( w x(m)          (1 )   whe r e m   is the discrete-tim e inde x, y T =[y(m), y(m – 1 ), ..., y (m – P – 1 )] i s the filter inpu t sig n a l, and   th e   param e t e r vect or  w T =[w 0 ,  w 1 ,  ... ,  w P–1 ] is th e  W ien e r filter co efficien t v ecto r .        Fig u re 3 . Illu st ratio n of a  Wien e r Filter Stru ctu r e    Evaluation Warning : The document was created with Spire.PDF for Python.
I J ECE   I SSN :  208 8-8 7 0 8       LMS   Adap tive Filters fo r No i s e Can cella tion :  A Review (Sh ubh ra Dixit)  2 523 2. 1. 2.   Ka lma n  Filter  Th e  Kalm an   f ilter  is  a   m ath e matical   p o w er  t o o l   w h i ch   p lays  a n   i m port a n t   r ol e  i n   c om put er  g ra phi cs   as  w e  include  sensing  of  t he   r eal  w orl d   i n  our  system s.  T he  K al m a n  filter  can  a lso  be   t er m e d  as  a   s et  o f  math e m atica l   e q u a tion s   t h a t  i m p l e m en t  a  p r ed icto r-correcto r   t yp e  estim a t o r   w h i ch   i s  op ti m a l  in   t h e   s ense  t h a t   it  m i nimizes  t he  e stim ated  e rror  c ovaria nc e—when  s om e   presum ed  conditions   a re  m et.  For  t h e  past  d ecade   the  Kalm an  f ilter  h as  b een  t he   active  area  of  r esearc h   a nd  a ppl ication ,   p ar ticu l ar ly  i n   th e  ar ea  of   a u t onom o u s   o r   a ssisted   n avig atio n .   T h e   K al m a n   filter  [28 ]   ( an d   its  v ari a n t s  su ch   a s  the  ex tend ed   K al m a n   filter  [29]  a nd  u n s cen ted   Kalman   f ilter  [30 ]   i s  on e  of  t h e   m o s t  p o p u l ar  d ata  fu si on   a l g ori t h m s   i n  t h e   fi el d   o f   i nf or m a t i o n   pr ocessi ng . [ 3 1 - 3 6 ] .     2. 2.   Ad apti ve Fi l t e r s   An ad a p tiv e  filter [3 7 ]   i s  a  sy ste m   w ith   a   lin ear filter wh ich   co n s ists  o f  tran sfer  f un ction  restrain ed  b y   v ariab l e  p a ram e ters  a n d   a  m ean s  to   a dj ust  th ose  p a ra m e ters  a cco rd ing   to   a n   opti m izatio n   algo rith m .   Ad ap tiv e  linear  filters  [ 3 8 ]   a re  lin ear  d y n amical  s yste m   with   v aria ble  or  a da ptive  st ructure  a n d  pa ra m e ter s   and   have   t he   p r o pert y   t o   m odi fy   t he   v al u e s  o f   t hei r   p a r am et ers,   i .e.  th eir  tran sfer  f un ction ,   d u r i n g  th e  pr ocessi ng  of   t he  i n put   s i g nal ,   i n  or de r  t o   g e n erat e  si gnal   at   th e  ou tpu t   w h i ch   i s  witho u t   u ndesired  com pone nt s,  n oi se, a n d   d eg ra dat i o n   an d al s o  i nt erfe re nce si gnal s.    Fig u re.4   s hows  th e  b a sic  co ncep t  o f   a n   ad ap tiv e  filter  [39]  w h o se  p rim a ry  o bj ectiv e  is  t o   filter  th e   in pu t sign al, x(n ), with  an   ad ap tiv e filter in  su c h   a m a n n e r th at it  m a tches the de sired  signal, d( n ) . T he desire d   sig n a l,  d (n ),  i s  su b t racted   f ro m  th e  filtered   sig n a l,  y (n ),  t o  pr od uce  an  e r r o r   s i g nal   whi c h  i n   t ur n  dri v es  a n   ad ap tiv e  al g o ri th m   th at  g en erates  t h e   f ilter  co efficien ts  i n  a  m a n n e r  th at  m in i m izes  t h e   e rro r   s ign a l.  T h e   ad ap tation   ad ju sts  th e  ch aracteristics  o f   t he  f ilter  th rough   a n   i nt eract i o n  wi t h   t he  e n v i r onm ent   i n   o r d er   t o  reach  t he   d esi r ed  v alues .   C ontrary  to  t he   c onve ntional  filt er  d esign   techn i qu es,  ad ap tiv e  filters  d o  no t  h a ve  co nstan t   f ilter  co efficien ts  a nd   n o  priori  i n f o r m a tio n   is  kno wn ,  su ch   a   f il ters  w ith  a dju s tab l e  p a ram e te rs  a re  called   an   a d a ptiv e  filter.  A dap tiv e  filter  ad ju st  t h e ir  c o e ffic ients  t o   m inimize  an  e rror  signal  a nd  m ay  b e   t e rm ed  a s  fi ni t e   i m pul se  r espo nse  ( F IR )  [ 40] ,  i n fi ni t e   i m pul se  response  (IIR )  [41],  lattice   and  transform   d o m ain   filter.  G en erally  a d a ptiv e  d i g ital  filters  c on sist  o f  tw o   sep a rate  units:  th e  d i g ital  filter,  w ith   a   s tru c ture  d e term in ed   t o  ach iev e   d esired   p ro cessing   ( wh ich   is  k n o wn   w ith   a n   accu r acy  t o  th e  u nkno wn   p ara m eter  v ector)  and   t h e  ad ap tiv e  al go rith m   for  th e  up d a te  o f  filter  p a r am eters,  w ith  a n  aim   to  g ua rantee  fastest  pos si bl e  co n v e r ge nce  t o   t h e   o pt im u m   p aram et ers  fr om   t he  poi nt   o f  v i ew  o f  th e  ado p t ed   c riterio n .  Majority  o f  adapt i v e  al go ri t h m s   s i gni fy   m odi fi cat i ons  o f  t h e  st anda rd  i t e ra t i v e  pr oce d ures  f o r   t he  s ol ut i on  of  t he  p r obl em   of  m i n im i z at ion  of  c ri t e ri o n   f unct i o n  i n   r eal   t im e.  T he  m ost   co mm o n   f o r m   o f   a dap tiv e  filters  a re  t h e   tran sv ersal  filter  u s ing   least  m ean   s qu are  (LMS)  al g o rithm   [4 2 ]  a n d   r e c u r s i v e  l e a s t   s q u a r e  ( R L S )  a l g o r i t h m   [4 3] .      2. 3.   Ad apti ve  A l g o r i t hms   Ada p t i v e  al go ri t h m s   [ 44]   h a v e  be en  e xt en si vel y   s t udi e d   i n  t h e  p ast   f e w  dec a des  a nd  t h e  m o st   p opu lar  ad ap tiv e  algorith m s   a re  t he   l east  mean  s quare  (L MS)  alg orith m  and   th e  recursiv e  least  sq u a re  ( RLS)  alg o rith m .   A tt ain i n g   t h e  b e st  p erform an ce  o f   a n   adap tiv e  filter   r equires  usa g e  of  t he  b est  adaptive  al gorithm   wi t h  l o w  c om put at i onal   c o m p l e xi t y  and  a fa s t  con ve rge n ce  rat e .     2. 3. 1.   L e ast -Me an -S quare  Al gori t hm (L M S )   A  v e ry  s traigh tfo r ward   a ppro a ch   i n   no ise  can celling   is  t h e   u se  of  L MS  a lgo r ith m   wh ich  was  devel ope d  by   W i n dr o w   a n d   H o f f   [ 45] .  Thi s   a l g o r i t h m   uses  a   g ra di ent  desce n t  to  e sti m ate  a  time  v arying  sig n a l.  T h e   g rad i en t  d e scen t  meth o d   f ind s   a   m in i m u m ,  if  it  ex is t s ,   by   t a k i n g   st eps   i n   t he   d i r ect i o n  negat i ve  o f   th e  g r ad ien t   a nd   it  d o e s  so   b y   ad ju stin g   th e  filter  co efficien t s  in  o rder  t o  minimize  the  e r ro r.   T h e   g r a d i en t  is   th e  d e l-op erat or  a nd   i s  app lied   to   f ind   th e  d i v e rg en ce  of  a   f u n ction,  w hich  i s  the  error  wi th  r es pect  t o  the  nth  coefficient  in  t his  case.  T he  L MS  a lgorithm   has  bee n   acce pted  b y   several  rese arche r s  fo r  h a rd ware   im ple m entatio n  because   o f  its  s im ple  structure .   I n  orde r  to  i m p l e m e nt   i t,  m odi fi cat i ons   h a v e  t o   b e  m a de  t o   the  original  L MS  a lg orithm   because  t he  r e c ursi ve  l oop  i n  its  f i lter   update  f or m u la  p rev e n t s  it  fro m  b e ing  pi pel i n e d .    Th e fo llowing  eq u a tion   shows th e d e tail of LMS algo r ithm ,   Wei g ht s e v al u a t i on  –   ) ( * ) ( * ) ( ) 1 ( i n x n e n w n w i i              ( 2 )   Filterin g   ou tput –    1 0 ) ( * ) ( ) ( M i i i n x n w n y             ( 3 )     Evaluation Warning : The document was created with Spire.PDF for Python.
                        ISS N :  2088- 8 708  I J ECE  Vo l . 7 , N o. 5 , O c tob e r 20 17  :  251 9 – 25 28  2 524 Err o r   est i m at i on  (w here  er r o r   i s t h e  desi re d  o u t p ut ) –   ) ( ) ( ) ( n y n d n e            ( 4 )     wh ere  t h e  o u t pu t  of  a n   ad ap tiv e  filter  y(n)  a n d   t h e   e rror  s i g n a l  e ( n)  a re  g iven  b y   (3 )  a n d  (4 ),  r es pectiv ely .   I n   t h ese  eq uat i o n s ,  x( n)  i s  t h e  i n p u t   si gn al   v ect or,  a nd  w ( n)  i s  t h e   t ap   w eig h t   v ector  o f  the  ad ap tiv e  filter.  T he  equat i o ns  e m p l o y   t h e  cu rre n t   e st im at e  of  t he  w ei g h t   vec t or.  Fr o m   these  equations   it  is  c lear  t hat  at  each  iteration,  t he  i nform a tion  of  m ost  recent  values  ( d(n)  ,   x (n),  w( n)   a n d   e (n ))a re  r e q ui r e d  a nd  t h e  i t e rat i v e   p r o c ed ure  is  s t a rted   w ith   a n   i n itial  g u e ss  w(0 ) .  μ   is  t h e   s tep   size  that  d e p ends  o n  the  power  s pectral  de nsity  o f  th e  referen ce  in pu t  x ( n)  a n d   filter  len g t h   M-1   and   con t ro l   th e  stab ilit y  a n d   co nv erg e n c e  sp eed   o f  th e  LMS  alg o rith m .   In  t he  r ece nt   t i m es,  a  new  ve rsi o n  of  t he  L M S   a l gori t h m   wi t h   t i m e   v arying  converge nce  param e ter   has  bee n   p r o p o se d  Error !   R eference  s o ur ce  not  found. .   The  t i m e-vary i ng  LM S  (T V- LM S)  [ 4 7 ]   al gori t h m   h a s  sh own   b e tt er   p er fo r m an ce  t h a n   t h e  conven tio n a l  LM S  alg o r ith m   i n  t e r m s  o f   l e s s   m e a n  s q u a r e  e r r o r   M S E   an d  faster  c o n v e rg en ce.  T h e   T V-LMS  algorith m   is  b ased   o n  u tiliz ing  a  t i m e -varying  c onve rgence   p a r a m ete r   μn  w ith  a   g e n e r al  p ower  d eca ying  law  for  the  LMS  algorit hm .  The   b asic  c o n c ep t  of  T V-LMS  algo rithm  is  t o   ex p l o it  th e  fact  t h a t  th e  LMS  al gorithms  n ee d  a  la rger  c onverge nc e  param e t e r  v a l u e  t o   s pee d   u p  t h e   co nv erg e n ce  of  t h e   f ilter  co efficien ts  t o   th eir  op ti m a l  v a lu es.   A ft e r   t he  c oef f i c i e nt s  co n v er ge  t o  t h ei r  opt i m al  values ,  the   c o nve rgence   p a r a m et er  o ugh t  t o   b e  sm all  fo r  b e tter  estim ation  acc uracy.  In  o the r   w ords,  we   s et  th e conv erg e n c e p a ram e ter to  a larg e  v al u e  in th e in itial state  i n  or der   t o   s pe ed  u p   t h e  al gorith m   converge nce.    2. 3. 2.   NLMS  Al g orithm   Th e  m a in   w eak n e ss  o f   t h e   c on v e n tion a l  type  L MS  lies  in   i ts  c o m p lex ity  i n   selecting   a  su itab l e  v a l u e  for  th e  step  s ize  p a ram e ter  t h at  g u a ran t ees  s tab ility.  In   o rd er   t o   o v e r co m e ,  NLM S   h a s   b ee n  pr o pos ed  i n   co n t ro lling   th e  co nv erg e n ce  facto r   o f  LMS  th rou g h   m o d i ficatio n   in to   a   time-v a rying   step   s ize  p a ram e t e r.  A s  NLMS  e m p lo ys  a   v ariab l e  step   s ize  p a ram e ter  in tend ed   a t   min i m i z i ng  t h e  i n st ant a neo u s   o ut p u t   er r o r  henc e   con v e r ges  fast er  t han  t h e  con v e n t i onal   L M S  [4 8- 4 9 ] .   T he  c o n v ent ional  LMS  algorithm   experiences  a   gra d i e nt   n oi se   a m p l i f i cati o n   p r o b l e m   as  t he  c on ve rge n c e   f act o r   μ   is  l arg e .  Th e  co rrectio n   app lied  to   t h e   weigh t   v ect o r   w (n )  at  iteratio n   n + 1   is  “ no rmalized ”  with   r esp e c t  t o   t h e   s q u ared   E u c lidian   no rm   o f  t h e  in pu t   v ector  x (n )  at  iteratio n   n .   W e  m a y  ex p r ess  th e  NLM S   a lgo r ith m   a s  a  tim e-varying  step-size  al gorithm ,   calculating t h e conve r ge nce fa cto r  μ  as in  Equ atio n 5.    µ(n) =  α ∥ ∥           ( 5 )     wh ere:  α   i s  th e  NLMS  a d a p t i o n  co n s tan t ,  wh ich  op timize  th e  co nv erge nce  rate  o f  the   algorithm   and  shoul d   sat i s fy  t he con di t i on 0< α <2, and  c   i s  t he  c o n s t a n t   t e r m  f or  no rm al izatio n   an d   is  a lways  less  th an  1 .  Th e  Filter  wei g ht s are   u p d at ed  b y   t h e   E quat i o n  6.     w( n+1) =  w (n)   +  α ∥ ∥   e ( n )   x ( n )           ( 6 )     In  c om parison  to  L MS,  t h e  NLMS  h as  v a r ying  step  s ize  t h at  m akes  t h e  N L M S   t o  c o n v e r g e   m o r e  q u i c k l y .   I n   or der   t o   b est   s e rve   va ri o u s  a ppl i cat i o ns  s e v eral   v a r i a nt s  o f   L M S  have   b e e n  devel o ped .   S om e  of  t he  p op ul ar  varia n ts  a re   M odi fied  N orm a lized  L M S   ( M N -LM S )  al go ri thm ,   L eaky   L M S ,  B l o c k  L M S ,   S i g n   E r r o r  L M S ,   Sign-Data  LMS  (S D-LMS) ,  Sign-Data  Normalized   L MS  ( SDN-LMS ) ,  Sig n-Si gn  LMS  (SS-LMS )   a l g orithm ,   Si gn -Si gn  LM S  al go ri t h m   wi t h   l eak age  te rm  ( SS-LMS-L T ),  V aria ble   s tep - size  LMS  (VS-LMS)  a l g orith m ,   Filtered   X-LM S  (Fx - LMS)  a lg orith m ,   F requen c y  respon se  s h a p e d   LM S  ( F RS-LM S )  alg o rithm ,   H y b ri d   LM S  (H-LMS) algorith m   are  sum m a ri zed i n Ta bl e   1.       2. 3. 3.   Recursi v e leas t square  (RLS) Al g orithm   R L S  al go ri t h m   i s   a not her   pot e n t i a l   al ternat i v e  t o   o verc om e  sl ow   c on ver g e n ce   i n  col o re d   envi ro nm ent s   [ 4 3 ] ,   w hi c h   u s e s  t h e  l east   s q uares   m e t hod  t o   d evel o p   a   r ecu r si v e   a lgorith m   fo r  t h e  adap tiv e  tran sv ersal  filter.  T h e   R LS  [ 8 2 ]   r ecursiv e ly  f in ds  t h e   f ilter  c o e fficien t s  that  m in i m ize  a  weigh t ed   lin ear  least   squ a res  c o st   f u n ct i on  rel a t i ng  t o   t he  i n put   s i g nal s .  R L S  t r ac ks   t he  t i m e  vari at i on  o f   t he  p r o cess  t o   t he  o p t im al   filter  co efficien t  with  r elativ ely  v e ry  f ast   con v e rg en ce  s p e ed ;   t h o u g h   i t   ha s  i n c r eased  c om put at i onal   co m p lex ity  a n d   stab ility  p rob l em s  as  c o m p a red   t o   L MS-based   a lgo r i t h m s  [ 8 3 ] .  T h e  R L S  a l g o r i t h m   [ 8 4 - 8 5 ]   h a s  estab lish e d  itself  as  t he  " u lti m a te"  ad aptiv e  filtering   a lg orith m   in   t h e   s en se  t h a t  it  is  t h e   a d a p tive  filter  ex h i b itin g  th e  b e st  c o n v e rg en ce  b e h a v i o r .  Unfortun ately,  p racti cal   a ppl i cat i ons  o f   t h e   al go ri t h m s   a re  o ft e n   asso ciated   w ith   h igh   co m p u t atio n a l  co m p lex ity  a n d   poo r  n u m erica l  p r op erties.  S ev eral  d ifferen t   s tan d a rd  Evaluation Warning : The document was created with Spire.PDF for Python.
I J ECE   I SSN :  208 8-8 7 0 8       LMS   Adap tive Filters fo r No i s e Can cella tion :  A Review (Sh ubh ra Dixit)  2 525 R L S  al gori t h m s  wi t h   v ary i ng  deg r ees  o f   com put at i onal   co m p l e xi t y   a nd  stability  e xist.  Am ongst   all  the  co nv en tio n a l  recu rsi v e  least  sq uares  (CRLS)  a lg orith m   i s   c o n s i d ere d   t o  be  t he  m ost   st abl e ,  but   r e q ui res  O   (N 2)  ( on the  or d er  of  N2)  ope r a t i ons  pe r  i t e r a t i on,  w here  N  i s  th e filter leng th  [8 6 ] .   Fast Tra ns vers al RLS Al g orithm   Fast  t ransve rs al  f ilter  (FTF)  algorithm   [87-88]  invol ves   the  co m b in ed   u se  o f  fou r   t ran s v e rsal  f ilters  f or  fo rwa r d  an d  b ackwa r d   p redi ct i ons,  j o i n t   p r ocess  a nd  gai n   v ect o r   c o m p u tatio n   esti m a ti o n .  Th e  m e rit  o f   F TF  alg o rith m   lies i n  its redu ced co m p u t atio n a l co m p lex ity as co m p a red   t o  o ther av a ilab l e so lu tio ns.       Tabl e  1.  V ari a t i on  o f  LM S  al g ori t h m       3.   CO NCL USI O N   A  com p rehe ns ive  revie w   h a s   b een  c a rrie d   out  t o  identify   the  exi stin g   li teratu re  r elated  t o   ad ap tiv e  filterin g   i n   noise  r edu c tio n   u s ing   LMS  ad ap tiv e  al go rith m s   i n   p articular.  LM S  is  p re ferred  o ver  RL S  al go ri t h m s   f or   v ari ous  n oi se   cancel l a t i on  pu r poses  a s  R L S  has  i ncrea s ed  c om put at ional   c o m p l e xi t y   a nd   stab ility  p ro b l e m s  as  c o m p a red   to   L MS-based   a lgo r ithm s   w h i ch   a r e   ro bust   an d  r e l i a bl e.  V ari o us  L M S   ad ap tiv e  algo ri th m s   v iz.  N-LMS,  M N-LMS,  L eaky  LMS,  B lock  L MS,  S E-LMS,  S D-L M S,  S DN-LM S,  S S - LMS,  S S - LM S-LT ,  VS-LM S ,  F X -LMS ,  FRS-LMS ,   H -LMS  a re  d ealt  in  t hi s  p a p e r   fo r   t h e  pur po se  o f  com p ari s on   i n   t e rm s  of  s i m pl ici t y   a nd  a p pl i cat i on.  T he   L M S   a l g o rith m   is  r elativ ely  si m p le  t o   im p l e m en t  an d  is  p owerfu l  eno ugh   t o   ev alu a te  t he  p ractical  b ene f its  t hat  may  resu lt  from  th e  ap p licatio n   o f   a d a p tiv ity  t o   the  pr o b l e m   at   h and.  M o r eo ve r,  i t   pr ovi des  a  pra c t i cal   fram e   o f  ref ere n ce  f o r  assessi n g   a ny   f urt h er  i m p rove m e nt   that m ay be attained t hr ough t he  u se o f  m o r e   s op h i sticated ad a p tiv e filteri n g  algo r ith m s .      REFERE NC ES    [1]   S a m bur  M .  Adaptive  n o is e  can c e ling  for  s p ee ch   s ignals .   IEEE T r ansactions on  Acous tics, Speech, and S i gnal  Processing.  197 8 Oct; 26(5):419 -23.   S.  No   Algorithm  type  Recursion ( W eighted)   Ref e rence  1.   C onvent ional  LMS  ) ( * ) ( * ) ( ) 1 ( i n x n e n w n w i i   [45] ,   [ 48]   2.   N LMS  w( n+1)   =  w( n )  +  α  ∥ ∥  e (n ) x ( n )   [48- 4 9 ]   3.   ( MN- L MS)  W n1 W n β  ‖ ‖ μe n Wh ere , 0  <  β  < 2   [50- 5 1 ]   4.   L eak y   L MS  W n 1  1 μ γ W n X n μen   Where , leak y coef f i cient  γ ,  0  <   γ <<1 0<µ <( γ +λ ma x ) [52- 5 4 ]   5.  ( B-LMS)  W k 1 L W kL μ 1 L e kL l   X k L l   Wh ere , l =  0 , 1 , 2 ,   ...  ...  .. . ,  L-1   [55- 5 7 ]   6.   ( SE- L MS)  W n1 W n X n μsgne n   W h er e,   s gn( . )   =   s ignu m   function  sgn [ e( n) ]   =  1f o r e n 0 0f o r e n 0 1 fo r e n 0   [58- 5 9 ]   7.   ( SD- L MS)  W n1 W n s g n X n μe n   Wh ere , sg n ( .)  = si g n u m   f u n c tio n  [60- 6 2 ]   8.  ( SDN - LMS)   w n1 w n μ | x n k | e n x n k   Wh ere , sg n ( .)  = si g n u m   f u n c tio n  [63]   9.  ( SS-LMS)   W n 1 W n s g n X n μsgn e n   Wh ere , sg n ( .)  = si g n u m   f u n c tio n  [64- 6 5 ]   10.   ( VS- L MS)  w n1 w n μ e n x n k   Wh ere , µ mi n  < µ  <   µ ma x   [66- 6 9 ]   11  ( SS-LMS-LT )   W n 1  1 μ γ W n s g n X n μsgne n [89- 9 0 ]   12.   ( FX- L MS)  W n1 W n X ′ μe n   Wh ere ,   X ′ n s n X n   [70- 7 4 ]   13.   ( F R S- LMS)  W n 1  I μ F W n X n μe n   Wh ere , F  =  □ F 0   a nd  □   is  c onstant.  [75- 7 7 ]   14.   ( H- LMS)  W n 1 W n X n μe n   f o r, 0  ≤ n  ≤ p   W n1 W n X n μne n EX n X n   f o r, n  ≥ p +1   [78- 8 1 ]   Evaluation Warning : The document was created with Spire.PDF for Python.
                        ISS N :  2088- 8 708  I J ECE  Vo l . 7 , N o. 5 , O c tob e r 20 17  :  251 9 – 25 28  2 526 [2]   Widrow  B ,  Stearns  S D,  B urgess  J C.  A daptive  signal  processin g   e d ited  b y   b er nard  w idrow  and  samuel  d .  s t earns .  The Jou r nal of  the Acou stical Society of  America.  1986 S e p 1;80(3) :991-2 .   [3]     H ernández W . Improving the response of a  wheel speed sensor u s ing an adap tive line enhancer . Measurement .  2003 Apr 30;33( 3):229-40.  [4]   W u  J D ,  L i n  S L .  A u d i o   Q u a l i t y   I m p r ovement  o f  Vehicular  Hand s-Fre e  Commun i cation  Using  Variab le  S tep- Size  Affin e -Projection  Algorith m .  Internationa l Journal o f   Wavelets,  Mu lti resolution and  Information   Processing.  201 0 Nov; 8(06):87 5 -94.   [5]   Sasaoka  N ,  Shi m a da  K ,  Sonobe   S ,  Itoh  Y,  F uj ii  K.  S peech  e nha nce m e nt  b as ed  o n  adapt i ve  f ilt er  w ith  v ari a ble   step  s ize  for   wideband  and  periodic  noise.  In Circuits a nd Systems, 2009. MWSCAS'09. 52nd IEEE  International Midwest  Symposiu m on 2009  Aug  2  (pp. 648-652). IEEE.  [6]   Ahmad  MS,  Ku krer  O ,  Hocanin  A.  A 2-D recursive inverse a daptiv e algorith m. Signal, Image and Video   Proc e ssing . 201 3 Mar 1:1-6 .   [7]   Kim  PU,  Lee  Y,  C ho  JH,  Kim  MN.  Modified  a daptiv e  noise  cancelle r  with  a n  electrocardiogr am  t o  enhan ce  heart sounds in the auscu ltation   sounds . Biomed ic al Eng i neer ing  L e tt er s . 2011 Aug   1; 1(3) : 194.   [8]   W i drow  B ,  Glo v er  J R,  M cCoo l   JM,  K aunit z   J ,   W illiam s   C S,  H earn  R H,  Z eidler  J R,  D ong  JE,  Goodlin  RC.  Adaptive   noise  c ance lling :   Prin ciples and app lica tions.  Pr oceedin g s of th e I EEE. 1 975  Dec;63(12) :1692-716.   [9]   Hay k in  SS.   Ada p tiv e f ilt er th eory . Pearson Edu c ation   India; 200 8. .  [10]   Albert TR,  A busalem  H ,  Juniper MD .  Experim e n t al  r esults:  De te ct ion  and   tracking  of  low  SNR  sinu soids  using   real- tim e  LM S   and  RLS   la tti ce   a dapt ive  line  e nhancers .   In Acoustics, Speech , and Signal  Processing ,  1991 .  ICASSP-91., 19 91 Intern ation a l   Conferenc e  on   1 991 Apr 14 (pp .  1 857-1860). I EEE.  [11]   Kazem i  R,  F ars i   A ,  Ghaed  M H,  K arim i-Gharte m a ni  M . Detection and extractio n of periodic no ises in audio   and biomedical  signals using Ka lm an filter. Sign al Processing . 2 008 Aug 31; 88 (8):2114-21.  [12]   Ding  H,  S oon  Y,  K oh  SN,  Yeo  CK.  A  spectr al  f iltering  meth od  bas ed  o n   h ybrid  w ien e r  f ilt e r s  for  spee ch  enhancement .  Sp eech  Communic a tion . 2009 Mar   31; 51(3):259-67 .  [13]   Vaseghi SV .  Ad vanced  digital signal processing  and noise redu ction . John Wiley   & Sons ; 2008 D ec 23 .   [14]   Diniz P S . Ad a pti v e F ilt ering :  Alg o rithms and Pra c tical Implementation.  Springer .  New York, NY, USA. 2008.   [15]   T h e n u a  R K ,  A g a r w a l  S K .  S i m u l a t i on  and  perform ance  an al ys is   o f  a daptiv e  filter  in  nois e   canc e ll ation .   International Jo urnal of  Engi neering Science and  Technolog y . 20 10;2(9):4373-8.   [16]   H a yk i n  S ,   S a ye d   A H ,  Z e i d l e r  J R ,  Y e e   P ,  W e i  P C . A d a p t i v e   t r a c k i n g  of  linear  time-varian t  s y stems  b y   e xtended  RLS algor ithms . IEEE Transactions on signal pr ocessing . 1997  May ; 45(5):1118 -28.  [17]   Ram li  RM ,  Noor  AA,  S am ad  S A.  A   r eview  of  a daptiv e  line   enhancer s  for  noise  cancellation.  Australian  Journal of Basic and App lied  Sciences.  2012 Jun;6(6):337-52.  [18]   Modares  H,  A hmad y f ard  A ,   H adadzar if  M .  A  PSO  a pproach  f or   non-l inear  activ e  noise  c ancellation.  I nProc.  the  6 t h  W S EAS  International C onference on  Simu lation, Modelling and  Optimization ,  Lisbon,  P ortugal  2006   Sep 22 (pp . 492- 497).   [19]   Rafique  A ,  Ah m e d  S S .   P erform ance  Anal ys is   o f  a  S e ri es   o f  A d apti v e   F ilters  in  N on-Stationar y   E nvironment  for  Noise  Cance lling  Setup .   In P r oceedings of W o rld Academy of  Scienc e,  Engine ering and Technology  2013   Feb 1 (No. 74, p. 332).  World Academ y   of Science, Engin eering   a nd Technolog y   ( W ASET).   [20]   Matsubara  K ,  Nishikawa  K,  K i y a  H.  P ipelined  L MS  a daptive  f ilter   u sing  a  new  look-ahead  t r a nsformation .   IEEE Transactio ns on Circui ts a nd Systems II:  Analog and Dig i tal Signal Processing . 1999 J a n; 4 6(1):51-5.   [21]   Chhikara  J ,  Singh  J.  N oise  cance llation   using  adap tive  algorith ms.   Inter national Journal  of Modern   Engineering Research . 2012  May ;2(3) : 792-5   [22]   Mills  W ,  Mullis  C ,  Roberts  R.  D ig ital  f ilt er  r e a liz ations  w itho ut  overflow  o scillations.  I EEE T r ansactions on   Acoustics, Sp eech, and  Signal Pr ocessing . 1978  Aug; 26 (4):334 - 8 .  [23]   Krishnan V. W ei ner and   Kalm an   F ilters.   Probability and Random   Processes . 2006 :625-65.  [24]   Zalevsk y  Z, Mendlovic D. F ra cti onal W i en er f ilt e r . App l ied optics . 1996  Jul 10; 35 ( 20):3930-6.   [25]   Chen  J ,  Benesty  J,  H uang  Y,  D o c lo   S .  New  insights  into  t he  nois e  reduction  Wiener  f ilter.  IEEE Transactions  on audio, speech , and  language p r ocessing.  2006  Jul; 14 (4) : 1218- 34.   [26]   Stahl  V,  F ischer   A ,  Bippus  R .  Qu antile  based   noise  e stimation   f or  s pectral  sub t raction  and  W i ener  f ilt ering .   InAcoustics,  S p eech ,  and  Sign al  P rocessing,  2000.  I CASSP' 00.  Proceeding s . 2000 IEEE  Internationa l  Confer enc e  on   2 000 (Vol. 3, pp. 1875-1878). I EEE.  [27]   Angelopoulos  G ,  Pitas  I .   M ulticha nnel  Wien er  f ilters  i n  color  i m a ge  r estor a tion.  IEEE  transactio ns on circuits   and systems for  video  technolog y . 1994  Feb;4(1):83-7.  [28]   K a l m a n  R E .  A  n e w  a p p r o a c h  t o   l i n ear  f ilter i ng  and  prediction  p r oblems.  Journal of basic Engin eering .  1960  Mar 1; 82(1 ) :35- 45 .   [29]   Groves  PD.  Principl es of GNSS, inert i al , and m u ltis ensor int e grated navigation   systems .  Artech  house;  2013   Apr  1.    Evaluation Warning : The document was created with Spire.PDF for Python.
I J ECE   I SSN :  208 8-8 7 0 8       LMS   Adap tive Filters fo r No i s e Can cella tion :  A Review (Sh ubh ra Dixit)  2 527 [30]   Julier  S.J,  U hlm a nn  JK.  Unscented  filt ering  and   nonlinear  e stim ation .   Pr oceed in gs  of the IEEE .  2004  Mar;   92(3):401-22.   [31]   Gelb  A .  Applied  optimal estimation . MIT press; 1 974.   [32]   May b ec k  PS.  Stochastic models, es timation, and  control.  Acad emic pr e ss; 1982 A ug 25.   [33]   Lewis  FL,  Lewis  FL.   Optimal  estimation: w ith an  introduction  to  stochastic contr o l th eory .  New York  e t al. :    [34]   Wiley ;  1986  Apr . Jacob   OL.  Intr oduction  to  control theory .  [35]    Brown  R G,   H w a ng  PY.   Introdu ction to random  signals and appl ied  Kalman filtering: with  MATLAB exercises   and solutions. I n troduction to r andom signals  and applied Ka lman filt ering :  with MAT L AB  exer c i s e s  and  solutions,  b y   Br own, Robert Gro ver.; Hwang,  Pat rick YC N e w York: W ile y,   c 1997 .  [36]   G  Grewal  M S,  A ndrews  AP,  Filtering   A K . Theory and practice using  Matlab. Wieley-In terscience ,  Can a da .  2001.  [37]   Ram  MR,  Madhav  KV,  K rishna  E H,  K omalla  N R,  R edd y   KA.  A   novel  ap proach  f or  m otion  artifact  r eduction  in  PPG  s ignals  b ased  on  AS-LMS  a daptive  f ilt er.  IEEE Transactions on Instrume ntation and  Measurement.  2012  May ;61(5):1445-57.  [38]   Park  S Y,  M ehe r   P K.  L ow-power,  high-through put,  and  low-ar ea  ada p tive  FIR   filter  based  on   d istributed   a r i t h me ti c .   IEEE Transactions on  Circuits  and S y stems II:  Express  Briefs.  2013 Jun;60(6):346-50.  [39]   Yu  M J .   I NS /GPS   i ntegr a tion   s y s t em   u s i ng  adap tive  fil t er  f o r   e s t im ating  m e as urem ent  nois e   v ar ianc e.   IEEE  Transactions on  Aerospace and   Electronic Systems . 2012 Apr;48 (2):1786-92.  [40]   Mohanty   BK ,  Meher  PK.  A  high-pe rformance  energ y -eff icient  a rchi tec t ure  for  F I R  adaptiv e  fil t er  b as ed  o n   new  distributed  a rithmetic  formu l ation   of  b lock   L MS  a lgorithm . I EEE  transaction s  on signal processing. 2013   Feb 15;61(4):92 1 -32.  [41]   Algreer  M ,  Ar mstrong  M,  G iaouris  D .  Active  onlin e  s y s t em  i denti f i cation   of   s witch  mode  D C–DC  power   converter  b ased  on  efficient  r ecu rsive  DCD-IIR  a daptiv e  filter.   I E EE transactions  on  power  elec tr onics .   2012   Nov;27(11):4425-35.  [42]   Akingbade  K F,  A limi  IA.  Sep a rati on  of  D ig ital  A udio  Sign als  usi ng  Least- Mean-Square  ( LMS)  A daptive  Algorithm.  International Journal  of Electrical  an d Computer Eng i neering  ( I JECE) .  2014 Aug 1;4( 4):557.  [43]   Dhim an  J ,  Ahmad  S,  G ulia  K .  Com p arison  between  A daptiv e  filte r  Algorithms  ( LMS,  N LMS  and  RLS).  International Jo urnal of S c ien c e, Engi n eering  an d Technolog y  Research ( I JSETR) . 2013  May  5; 2( 5):1100-3.  [44]   Chandrakar  C ,  Kowar  MK.  De noising  ECG  signals  u sing  adaptive  fi l t er  a lgor ithm . Internatio nal Journal of  Soft Computing   and Engin eering  ( I JSCE) . 2012 Mar; 2(1):120-3 .   [45]   Widrow  B ,  Hoff  ME.  Adaptiv e  switching  circu its .  InIRE W E SCON convention record 1960   A ug  4  (Vol.  4,  N o.  1, pp . 96-104) .  [46]   Lau  YS,  Hussain  Z M,  H arris  R.  A   time-var y ing  convergen ce  p a r a me ter  for  th e  L M S  algorithm   in  t he  p resen c e   of  w hite  G aussian  noise.  InSu bmitted to the  Australian Tele communi cations,  Networks and Applicat ions   Confer enc e  ( A T N AC) , Melbourn e  2003.  [47]   Gazor  S.  P red i ction  in  L MS-ty p e  ad aptiv e  algorithms  f or  s moothl y   time  var y ing  environ m ents.  IE EE  Transactions  on Signal Processin g . 1999  Jun; 47( 6):1735-9.  [48]   Hay k in  SS.   Ada p tiv e f ilt er th eory.  Pearson Edu c ation   India; 200 8.   [49]   Paulo  SD.  Adap tive  f ilt ering  alg o rithm s   a nd  pra c ti cal  i m p lem e nt ation .   The in tern ational series in  Engineering  and Computer S c ien c . 2008:23-5 0 .  [50]   Chulajata  T,  K won  HM.  An  a daptiv e  arr a y   antenna  w ith  no  phase  c alibr a tio n  for  cdma2000  reverse  link.  InMILCOM 200 0 . 21st Century Military Communi cations Confer ence Proc eeding s  2000 ( V ol. 2, pp. 816-820).  IEEE .    [51]   Chulajata  T,  Kwon  HM,  Min  KY.  Adaptive  antenna  a rr ay   w ith  no  ph as e  ca libra tion  for  CDM A   r evers e   l ink .   InVehicular Technology Con f erence,  2000. IEEE-VTS Fall  VTC   2000. 52nd  2000  (Vol. 1, pp. 127 -134).  I EEE .   [52]   P oularikas  AD,   R am adan ZM .   A daptiv e f ilt ering  primer with M A TLAB . CRC Pres s; 2006 Feb 14 .  [53]   May y a s ,   K .,  and  Ty seer  A boulnasr.  "Leak y   L MS  a lgorithm:  M SE  a na ly sis  for  Ga us sia n   d a t a . "   IE EE  Transactions  on Signal Processin g  45.4   (1997): 9 27-934.  [54]   Kamenetsk y   M ,  Widrow  B .  A  variab le  l eak y   LMS  adaptive  algorithm .  InSign als,  S y s tems  a n d   C omputers,  2004.  Confer en ce Re cor d  of the T h ir ty-Eighth  As ilomar  Confer ence   on  2004  Nov  7  (Vol.  1,  pp.  125-128) .  IEEE .   [55]   Farhang-Boroujen y   B,  C h a n  KS.  Analy s is  o f  th e  frequen c y - domain  blo c k  LMS  algorithm . IEEE  Transactions  on Signal Processing.  2000 Aug;48(8):2332-42.   [56]   R a h m a n  M Z ,  S h a i k  R A ,  R e d d y  D R .  A d a p t i v e   n o i s e  r e m o v a l   i n  t h e  E C G  usin g  the  blo c k  LM S  algorithm .   InAdaptive S c ience  &   Technology, 2009 . IC AST  2009. 2nd International Conference   o n   2009  Jan  14  (pp.  380- 383). IEEE.  [57]   Im  S ,  Po wers  E J.  A   b lock  L MS  a lgorithm  for  third-order  fr equenc y-dom ain   Volterra  f i lte rs.   IEEE Signa l   Proc e ssing Le tters.  1997 Mar;4(3 ) :75-8.  Evaluation Warning : The document was created with Spire.PDF for Python.
                        ISS N :  2088- 8 708  I J ECE  Vo l . 7 , N o. 5 , O c tob e r 20 17  :  251 9 – 25 28  2 528 [58]   Freire  N L,  D oug las  SC.  Adaptiv e   canc e ll ation   of  g eom a gneti c  ba c kground  noise  u sing  a  sign-error   normalized  LMS  algorithm . InAcousti cs, S p eech , and Sign al Processing,  1993. ICASSP-9 3., 1993 IE EE  Internationa l   Confer enc e  on   1 993 Apr 27 (Vol. 3 , pp . 523-526) . IEEE.  [59]   Ellio tt  S,  S to the r s  IA,  Nelson  P.  A   m ultiple  e rro r  LMS  algorith m  and  its  a pplication  to  t he  a ctive  contro l  of   sound  and  vibration.  IEEE Transactions on Acou stics,  Speech , an d Signal Processing .  1987  Oct;3 5 (10):1423- 34.  [60]   P a u l  B ,   M y t h i l i   P .  E C G  n o i s e  r emoval  using  GA  tuned  sign-data  l e a s t   m ean  s q u are  a l gorithm .   I nAdvanced   Communication  Control  and  Com puting  Techno logies  (ICACCCT ) ,  2012 IEEE International Co nferenc e  o n   2012 Oct 4   (pp .  100-103). I EEE.  [61]   Carusone  A ,  Jo hns  DA.  A nalog u e  ad aptiv e  fi lte rs:  past  a nd   p re se nt.  I EE Proceedings-Circuits , Devices  and   Systems . 2000  Feb 1; 147(1):82- 90.  [62]   Shoval  A,  J ohns   DA,  S nelgrove  W M.   C omparison  of  D C  offset  e ffec ts  i n  four   L MS  a daptiv e  alg o rithms.  IEEE  Transactions on   Circuits  and S y s t ems II:  Analog  and Digita l Sign al Processing . 1 995 Mar;42(3):1 76-85.  [63]   Douglas  S C.  G eneralized   g radient  adap tive  step  s izes  f or  s tocha stic  g rad i ent  adapt i ve  f il ters.   InAcoustics ,   Speech , and Sig nal Processing,  1995. ICASSP-9 5., 1995 In ternat ional Conf erenc e   on  1995  May   9  (Vol.  2,  p p .   1396-1399). I EEE.  [64]   Laha lle  E ,  Per e z  PF,  F leur y  G.   S im plified  LM S  algorithm s   i n  the   c ase  of  n o n -uniformly   s ampled  s ignals.  InAcoustics,  S peech ,  and  Signal  Processing,  2003.  Proceed i ngs.( ICASSP'03). 2003 IEEE I n ternational   Conference on  2 003 Apr 6  ( V ol.  6, pp . VI-81) .   IE EE.   [65]   Jun  BE,  Park  D J,  K im  Y W.  C onverg ence  a n a ly s i s  of  s ign-sign  LMS  algorit hm   f or  a daptive   filters  w it h   correl a ted  Gaus s i an  d at a.  InAcou stics, Speech, an d Signal Proce ssing, 1995. ICASSP-95., 1995 I n ternational  Conference on  1 995 May 9  (Vol. 2, pp. 1380-138 3). IEEE.  [66]   Kwong  RH,  Johnston  EW.  A  v a r i able  s tep   size  L MS  a lgorithm . I EEE Transactions on signal pro cessing .   1 9 92  Jul; 40(7):1633- 42.  [67]   Aboulnasr  T ,  May y a s  K.  A   r obust  variable  s tep-size  LMS-ty p e   a lg orithm:  analy s is  a nd  simu lations .  IE EE  Transactions on  signal processin g .  1997  Mar; 45 ( 3 ):631-9.  [68]   Gao  Y,  X ie  S L.  A   v ariable  s t ep  s ize  LM S   adap tiv e  filt ering  a l go ri thm  a nd  i t s   a na lysi s . Acta Electronica Sinica .  2001 Aug; 29(8) :1094-7.   [69]   Chan  K W,  Z han g   Y T.  A daptiv e  reduction  of  m otion  ar tifact  fro m  p hotopleth y s m ographic  recor d ings  u sing  a  variab le s t e p-s i z e  LM S  fi lte r.   InS e nsors, 2002.  Proceed ings of  IE EE 2002  (Vol. 2, pp. 1343-1346). IEEE.  [70]   Moham m e d  J.  A   s tud y   on  the  s u itabi lit y  of  g en eti c   a lgo r ithm   fo r   a dapt ive  chann e l  equ a li za tion.   International  journal of electrical and  computer engineering.  2 012 Jun 1; 2 (3):285.  [71]   Bjarnason  E.  A n a ly s i s  of  t he  f iltered-X  L MS  a lgorithm.  IEEE Transactions on Speech and Audi o Processing .   1995 Nov; 3(6):504-14.  [72]   S n y d er  S D,  H ans e n  CH.  The  effect  o f  trans f e r   f unction  es tim a tio n  errors  on  the  filte red-x  L M S  algorithm .   IEEE Transactio ns  on Signal Pro cessing . 1994  A pr; 42(4):950-3 .   [73]   Douglas  S C.  F ast  im plem entatio ns  o f  the  filter e d-X  LMS  and  L M S  algorithm s   f or  m ultichanne l  act ive  noise   control . I EEE  Transactions on sp eech  and aud io  processing . 199 9 Jul; 7(4) :454-6 5 .  [74]     T obias   O J ,   B erm udez  J C ,  Bers had  NJ .  M ean  w eight  b ehav ior  of  t h e  fil t er ed-X  L M S   a lgorithm .  IE EE  Transactions  on Signal Processin g .  2000  Apr; 48( 4):1061-75.  [75]   Kukrer O, Hocanin A. Frequen c y - r e sponse-shaped LMS adap tiv e fil ter .   Digital S i gnal Processing . 2006 Nov 1 ;   16(6):855-69.   [76]   P a rker  P J ,   B i t m ead  R R .   A dap tiv e  frequ enc y   r es p ons e  iden tifi c a t i on.  I n Decision a nd Control, 198 7. 26th  IEEE  Confer enc e   on  1 987 Dec 9 (Vol. 26, pp . 348-353) . IEEE.  [77]   Elko  GW,  Pong  AT.  A  simple  a d a p tiv e  first-order   differential  mi cr ophone . InApplications of Signal Processing  to Aud i o and  Acoustics, 1995 . I E EE  ASSP Workshop  on 1995  Oct 15 (pp . 169-172 ). IEEE..  [78]   Chang  PC,  Yu  C S,  L ee  TH .  H y brid  L MS-MMSE  inverse  halfto ning  tec hn ique.  IEEE T r ansacti ons on Image   Proc e ssing . 200 1 Jan;10(1):95-1 03.  [79]   Chern  SJ,  Horn g  JC,  Wong  KM.  The performance of the hybr id LMS  adaptive algorithm. Sign al processing .  1995 Jun 30; 44 ( 1):67-88.  [80]   Zerguin e   A ,  B e ttay e b  M,  C ow an  C F.  H y b rid   LMS–LMF  algorithm  for  ada p tive  echo  can c e ll ation .   IEE  Proceed ings-Vis ion, Image  and  S i gnal  Processing .  1999  Aug 1; 14 6 (4):173-80.  [81]   Z e r g u i n e  A ,   B e t t a y e b  M ,   C o w a n   C F .   A   h y b r i d  L M S - L M F  s c h e m e   f o r   e cho  cancellation.  InAcoustics, Speech,  and Signal  Proc essing, 1997.  ICASSP-97. , 1997  IEEE In ternat io nal Conferen ce   on  1997  Apr  21  (Vol.  3 ,   p p .   2313-2316). I EEE.  [82]   Hadei  S.  A fami ly of adapti ve fi lter algorithms in noise cancel la tion for speech  enhancemen t .  ar Xiv  preprint  arXiv:1106.0846 . 2011  Jun 4.  Evaluation Warning : The document was created with Spire.PDF for Python.
IJECE   I SS N: 2088-8708      LMS   Adap tive Filters fo r No i s e Can cella tion :  A Review (Sh ubh ra Dixit)  2 529 [83]   Dixit  Shubhra  and  Nagar i a  Deepak .  Design   and analysis of Cascaded LM S adaptive  Fulters for Noise  Cancella tion .  Circuits  Systems and Sgnal  Proces sing . 2017 Feb   3 6 (2):742.  [84]   Ra ya  M A,  S ison   L .G.   Adapt i ve  noise  c ance lling   of  m otion  a r tif a c t  in   s tres s   ECG   s i gnals   u s i ng  ac cel erom eter .   InEngineering in Medicin e  and  Biology, 2002.  24th A nnual Co nference and th e Annual Fa ll  Meeting of the  Biomedical Eng i neering Society  EMBS/BMES Co nference , 2002 . Proceedings of t h e  Second Join t 2002 (Vol. 2,  pp. 1756-1757) . IEEE.  [85]   Praset y o w a ti  SA,  Susanto  A.  M ultiple  P roc e sses  for  Least  Mean  S quare  A daptive  Algorithm   on  Roadway   Nois e Canc ell i n g .  International  Journal of Electr ical and  Computer Eng i neering . 2015 Apr 1;5(2) :355.  [86]   Hubing  N.E,  A lexand er  S .T .  Statist i c a l  an al ysi s   o f  initi ali zat i o n   m ethods  f or  R LS  a daptiv e  f ilters .  IE EE  Transactions  on Signal Processin g . 1991  Aug; 39 ( 8):1793-804.   [87]   Diniz P S . F as t   T r ans v ers a l R L S   Algorithm s .  InA daptiv e F ilt ering  1997 (pp . 289-3 09). Springer US.  [88]   Praset y o w a ti  S. A,  S usanto  A .  Multiple  P roces ses  for  Least  Mean  Square  A daptive  Algorithm   on  Roadway   Nois e  Cancel lin g . Internationa l Journal of Electrica l and Computer Engineering ( I JECE) .  2015  Ap r   1;5(2):355.  [89]   Moham m e d  J.  A   s tud y   on  the  s u itabi lit y  of  g en eti c   a lgo r ithm   fo r   a dapt ive  chann e l  equ a li za tion.   International  Journal of Electrical and  Co mputer  Eng i neer ing   ( I JECE) . 2012 Jun 1; 2  (3):285 .  [90]   Mohammed  J.R.  L ow  c omplexity   a da p tive  nois e   cance ller  for  m obil e  phones  based  remote  h ealth   m onitoring.  International Jo urnal of  Electrical  and Computer Engin eering  ( I JECE) .  2014 Jun 1; 4(3):422 .      BIOGRAP HI ES OF  AUTH ORS           Shubhra  Dixit  was  born  in  V aranasi,  U ttar  Prad esh  in  1984.  S he  rece ived  h er  B ache l ors   and  M a s t ers   Degree  in  E le ctroni cs   E ngineer ing  and  Digital  Communica tions  S y s tem s   from   Uttar  Pradesh Technical Univ ersity ,  Lu cknow, INDIA, in the y e ar 2006   and 2010 r e spectively .   In  t he  y ear  2010   s he  j oined  Amit y   Institute  of  T elecom  E ngineer ing  &  Management,  Amity   Univers i t y ,   Utt a r  P r ades h,   I ndia   as   A s s i s t ant  P r o f es s o r  and  inv ol ved  in   v ar ious   t each ing  and  research  a ctiv iti e s  in th e f i eld   of Signal Processing.   She  is  a u t hor  a n d   c o-au thor  o f   more  t han   10  N a tion a l  and  In ter n ation a l  leve l  co nferenc e   a nd  journal  pap e rs  a nd  life  time  member  o f  IETE,  I ndia.  H er  r esearc h  inter e st  i ncludes  Signal  Processing  and  Digital  Commu nica tion.  S he   i s   extensiv el y  wo rkin g   i n  t h e  f i e l d  o f   N o i s e   Cance lla tion usi ng Adaptiv e f ilt e r s.          Deepak  N ag aria  w as  born  in  J hans i,  U ttar  P r a desh,  in  1975.  H e  r ec e i ve d   hi s  B . E.   i n  Electronics  &   I nstrumentation  E ngineering  fro m  Bundelkhand   I nst itute  o f  En gineer ing  and  Techno log y ,  Jhansi,  INDIA,  i n   1 996,  M .Tech   i n   Control  S y s t ems  f rom   Nation a l  I n stitute   o f  Techno log y ,  Ku rukshetra,  H ar y a na,  India  in  1999  and  the  Ph.D.  d egree  in  c on tr ol  s y s tem s   from Indian Institute of Techno lo g y , Roorkee, Ind ia in 2009 .  In  1999  he  j oined  Bundelkhand  I n stitute  o f  Engin eering  and  T ech nolog y ,   J hansi,  I NDIA  an d   currently   w orking  as  H ead   o f   Depa rtment  E lectrical  Engin e ering  and  Re a d er  i n   the  Department  o f   Electronics  &   C omm unication  Engin eering   His  resea r c h  inte rest  i n c lude s   Control  S y s t em s,  A rtifi c ia l  In t e llig enc e ,   Signa l  Processing  an d   C ommunication.  H e  is  m e m b er  o f  various   academ ic  r es earch  c oun ci ls   a nd  s o cieties .   H e  has  many   p apers  in  Interna tiona l  and   Nation a l   Journa ls.   Evaluation Warning : The document was created with Spire.PDF for Python.