I nte rna t io na l J o urna l o f   E lect rica l a nd   Co m p ute E ng in ee ring   ( I J E CE )   Vo l.   8 ,   No .   4 A u g u s t   201 8 ,   p p .   2 6 3 3 ~ 2 6 4 2   I SS N:  2 0 8 8 - 8708 DOI : 1 0 . 1 1 5 9 1 / i j ec e . v8 i 4 . p p 2 6 3 3 - 2642          2633       J o ur na l ho m ep a g e h ttp : //ia e s co r e . co m/ jo u r n a ls /in d ex . p h p / I JE C E   Ex plo iting 2 - Di mens io na l Source C o rrelatio i n C ha nnel  Decod ing   w ith  Para m e ter  Es t i m a ti o n       M uh a mm a d Izza t   A m ir  M o hd   No r M o hd   Azr i M o hd   I zha r No rulhu s na   Ah m a d,  H a zila h M d.  K a idi   Ra z a k   S c h o o o f   UT M   in   E n g in e e rin g   a n d   A d v a n c e d   T e c h n o lo g y ,   Un iv e rsiti   T e k n o lo g M a lay sia ,   M a la y sia         Art icle  I nfo     AB ST RAC T     A r ticle  his to r y:   R ec eiv ed   Mar   9 ,   2 0 1 8   R ev i s ed   J u n   2 5 ,   2 0 1 8   A cc ep ted   J u l 2 ,   2 0 1 8     T ra d it io n a ll y ,   it   is  a ss u m e d   th a so u rc e   c o d in g   is  p e rf e c a n d   th e re f o re ,   th e   re d u n d a n c y   o f   th e   so u rc e   e n c o d e d   b it - stre a m   i s ze ro .   Ho we v e r,   in   re a li t y ,   th is  is  n o t h e   c a se   a th e   e x isti n g   so u rc e   e n c o d e rs  a re   im p e rf e c t   a n d   y ield   re sid u a re d u n d a n c y   a th e   o u tp u t .   T h e   re sid u a re d u n d a n c y   c a n   b e   e x p lo it e d   b y   u sin g   Jo in S o u rc e   Ch a n n e Co d i n g   (JSCC)  w it h   M a rk o v   c h a in   a th e   so u rc e .   In   se v e ra l   stu d ies ,   th e   sta ti stica k n o w led g e   o f   th e   so u rc e h a b e e n   a ss u m e d   to   b e   p e rf e c tl y   a v a il a b le  a th e   re c e i v e r.   A lt h o u g h   th e   re su lt   w a s   b e tt e in   term o th e   BER  p e rfo rm a n c e ,   p ra c ti c a ll y ,   th e   so u rc e   c o rre latio n   k n o w led g e   w e re   n o a lwa y s   a v a il a b le  a th e   re c e iv e r   a n d   th u s,  th is  c o u l d   a ffe c th e   re li a b il it y   o f   th e   o u tco m e .   T h e   so u rc e   c o rre latio n   o n   a ll   ro w s   a n d   c o lu m n o f   th e   2 so u rc e w e re   w e ll   e x p lo it e d   b y   u sin g   a   m o d if ied   Ba h l - Co c k e - Je li n e k - Ra v iv   (BCJR a lg o rit h m   in   t h e   d e c o d e r.   A   p a ra m e ter   e sti m a ti o n   tec h n i q u e   w a u se d   jo i n tl y   w it h   th e   d e c o d e t o   e stim a te  th e   so u rc e   c o rre latio n   k n o w led g e .   He n c e ,   th is  re se a rc h   a i m s   to   in v e stig a te   th e   p a ra m e ter   e sti m a ti o n   f o 2 JSCC  sy ste m   w h ich   re f l e c ts  a   p ra c ti c a sc e n a rio   w h e re   th e   so u rc e   c o rre latio n   k n o w le d g e   a r e   n o a lw a y a v a il a b le.  W e   c o m p a re   th e   p e rf o r m a n c e   o f   th e   p ro p o se d   j o i n d e c o d i n g   a n d   e stim a ti o n   tec h n iq u e   w it h   th e   id e a 2 JSCC  s y ste m   w it h   p e rf e c k n o w led g e   o th e   so u rc e   c o rre latio n   k n o w led g e .   S i m u latio n   re su lt re v e a th a o u p r o p o se d   c o d in g   sc h e m e   p e rf o r m s v e r y   c lo se   to   th e   i d e a 2 D JSCC  sy ste m .   K ey w o r d :   B ah l - co ck e - j elin e k - r av i v   alg o r ith m   B au m - w el s h   al g o r ith m   J o in t so u r ce   ch a n n el  co d in g   Ma r k o v   ch ai n   P ar am eter   esti m atio n   Co p y rig h ©   2 0 1 8   In stit u te o A d v a n c e d   E n g i n e e rin g   a n d   S c ien c e   All  rig h ts  re se rv e d .   C o r r e s p o nd ing   A uth o r :   Mo h d   A zr i M o h d   I zh ar ,   UT R az ak   Sch o o l o f   E n g i n e er in g   a n d   A d v an ce d   T ec h n o lo g y ,   UT Ku ala  L u m p u r ,   L e v el  7 ,   R az ak   T o w er ,   J alan   Su lta n   Y ah y P etr a ,   5 4 1 0 0   Ku ala  L u m p u r ,   Ma la y s ia.   E m ail:  m o h d az r i.k l @ u t m . m y         1.   I NT RO D UCT I O N     Ma n y   i m p r o v e m en ts   w er i m p le m e n ted   to   ch a n n el  co d i n g   i n cl u d in g   tu r b o   co d in g   w h ic h   w as  in tr o d u ce d   in   1 9 9 3   [ 1 ] .   T h ad v an ta g es  o f   t h tu r b o   co d e s   in cl u d h ig h   r eliab ilit y   a n d   n ea r   to   Sh an n o n s   ca p ac it y   p er f o r m a n ce   an d   h e n ce ,   m a k t u r b o   co d es  to   b w el ad op ted   in   v ar io u s   a p p licatio n s   [ 2 ] - [ 4 ] .   Sh a n n o n s   s ep ar atio n   th eo r e m   s ta tes  t h at  a n   o p ti m al  p er f o r m a n ce   i n   s ep ar ate  s o u r ce   an d   ch a n n e co d in g   s y s te m   ca n   b ac h ie v ed   if   ch a n n el  co d in g   a n d   s o u r ce   co d in g   ar o p tim a w it h   ze r o   d elay   [ 5 ] .   H o w ev er ,   it  i s   i m p o s s ib le   to   g et  t h f i n es p er f o r m an ce   w it h   ze r o   d ela y   a s   t h r estric tio n   o n   la ten c y   d ef i n itel y   o cc u r s   i n   p r ac tical  ap p licatio n s .   J o in So u r ce   an d   C h an n el  C o d i n g   ( J SC C )   h as  b ee n   in tr o d u ce d   b y   m a k i n g   u s o f   t h r esid u al  r ed u n d an cie s   lef in   s o u r ce   en co d er s   to   i m p r o v th er r o r   co r r ec tio n   ca p ab ilit y   o f   c h an n e l     co d [ 6 ] - [ 8 ] .     R ec en t   r esear ch   o f   [ 9 ] ,   [ 1 0 ]   h av e   in tr o d u ce d   2 - Di m en s io n al  ( 2 D)   s o u r ce   co r r elatio n   f o r   J SC C   s y s te m   w a s   e x p lo ited   an d   u til ized   in   th e   s y s te m   d e s ig n   to   i m p r o v t h B it  E r r o r   R ate   ( B E R )   p er f o r m a n ce .   Ho w e v er ,   th e s s tu d ie s   as s u m ed   t h at  t h s o u r ce   co r r elati o n   k n o w led g e   is   p er f ec tl y   k n o w n   at  t h r ec ei v er     [ 9 ] - [ 1 1 ] .   T h is   ass u m p tio n   i m p r o v es  t h p er f o r m a n ce   b u it   a f f ec ts   th r eliab il it y   o f   th e   in f o r m at io n   o f   s o u r ce   co r r elatio n   to   b ex p lo ited   at  t h r ec eiv er .   P r ac ticall y ,   s o u r ce   co r r elatio n   k n o w led g is   u n k n o w n   a n d   n ee d s   to   b esti m ated .   T h u s ,   m an y   r es ea r ch er s   h av e   ta k en   u p   t h is   is s u e   an d   d e v elo p ed   v ar io u s   p a r a m eter   es ti m atio n   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   4 A u g u s t 2 0 1 8   :   2 6 3 3     2 6 4 2   2634   tech n iq u es  to   est i m a te  th s o u r ce   co r r elatio n   at  th r ec eiv er   to   en s u r th p er f o r m a n ce   is   i m p r o v ed   an d   ap p licab le  in   r ea l p r ac tices  [ 12 ] ,   [1 3 ] .     Sev er al  m eth o d s   o f   p ar a m eter   esti m a tio n   h av b ee n   p r esen t ed   in   v ar io u s   s t u d ies  b ased   o n   Hid d en   Ma r k o v   Mo d el  ( HM M)   s u c h   as  t h B au m - W elc h   Alg o r it h m   ( B W A )   [ 1 4 ] - [ 2 0 ] .   T h is   en a b les  th e   d ec o d er   to   u tili ze   t h esti m ated   s tati s tics   o f   th s o u r ce   co r r elatio n   k n o w led g in   ch a n n el  d ec o d in g   to   im p r o v th s y s te m   p er f o r m a n ce .   I n   th is   p ap er ,   w p r o p o s 2 J SC C   s y s te m   with   B W A - b ased   e s ti m atio n   tec h n iq u to   es ti m ate   th s o u r ce   co r r elatio n   k n o w le d g at  t h ch a n n el  d ec o d er   o n   th n o n - HM m o d el  to   g et   t h p er f o r m a n ce   as   clo s as  p o s s ib le  to   th id ea s y s te m .   T h p r o p o s ed   d esig n   is   th e n   co m p ar ed   w i th   th e   ex is tin g   2 J S C C   s y s te m   w it h   t h p er f ec a s s u m p tio n   o n   s o u r ce   co r r elatio n   k n o w led g e   o r   k n o w n   as  th e   id ea 2 J SC C   s y s te m   [ 9 ]   an d   an o th er   tech n iq u o f   p ar am eter   esti m atio n   ex p lo it in g   t h ex tr in s ic  in f o r m at io n   g lean ed   f r o m   th e   d ec o d er s   ad o p ted   f r o m   [ 1 1 ] .     T h is   p ap er   h as  b ee n   o r g an is e d   in   th f o llo w i n g   w a y .   T h e   r elate d   w o r k s   o f   p ar a m eter   esti m atio n   tech n iq u es  o n   ch a n n e d ec o d in g   a n d   th m ec h an i s m   o f   B W A   ar d is c u s s ed   i n   Sectio n   2 .   T h p r o p o s ed   m o d el  o n   th co d in g   s c h e m is   p r esen ted   in   Sectio n   3 .   Sectio n   4   d elib er ates  o n   th d if f er e n ce   b et w ee n   B E R   p er f o r m a n ce   f r o m   t h p r o p o s ed   co d in g   s c h e m a n d   ex is ti n g   w o r k .   Fi n all y ,   Sectio n   5   d r a w s   u p o n   th en t ir e   th esi s ,   g i v es a   co n c lu s io n   a n d   id en ti f ies ar ea s   f o r   f u r t h er   r ese ar ch .       2.   RE L AT E WO RK S O P A RAM E T E E ST I M AT I O T E CH N I Q UE S   2 . 1 .   P a ra m et er   esti m a t io n o t urbo   deco der   Sev er al   at te m p t s   h av e   b ee n   m ad p r ev io u s l y   to   d e s cr ib th e   p ar a m eter   est i m a tio n   o f   Ma r k o v   m o d el   at  th T u r b o   d ec o d er   in   [ 1 5 ] ,   [ 1 6 ] .   T h ese  ap p r o ac h es  h a v k n o w n   to   b co m p le x   d u e   to   th es s en ce   o f   b u ild in g   th s u p er tr ellis es  co m b in i n g   b o th   co n s tit u e n en c o d er s   an d   th HM m o d els.  T h m o d if icat io n   o n   th d ec o d er   [ 1 7 ]   h as  b ee n   d o n to   i m p r o v th p er f o r m an ce   w h ile  th s i m p li f ied   m et h o d   f o r   m o d if y in g   a   d ec o d er   h as  b ee n   d escr ib ed   i n   [ 1 8 ]   to   r ed u ce   it s   co m p lex it y   w h ile   m a in ta in i n g   t h s a m e   p er f o r m an ce   as   i n   [ 1 6 ] .   T h p ar am e ter   est i m a ti o n   h a s   b ee n   r e f i n ed   i n   [ 1 9 ]   to   en h a n ce   th e   co n n ec tio n   b et w ee n   B W A   a s   t h e   p ar am eter   e s ti m atio n   tec h n iq u an d   T u r b o   d ec o d e r .   B W is   i m p le m e n ted   in   th f ir s i ter atio n   in   o r d er   to   h av a n   in it ial  esti m atio n   o f   Hid d en   Ma r k o v   s o u r ce   p ar am eter s .   T h co r r elatio n   p atter n   is   co n s id er ed   an d   ch ar ac ter ized   b y   HM [ 1 9 ] .   T h ex p ec ted   n u m b er   o f   tr an s itio n s   f r o m   s tate  to   s tate  th a g en er ate  co r r elatio n   p atter n   v   ar r ep r esen ted   b y   th p r o d u ct  o f   t h b r an c h   p r o b ab ilit y   a n d   t h n u m b er   o f   tr ellis   tr an s i tio n s .   He n ce ,   m ak in g   it  ea s y   to   esti m ate  t h ex p ec ted   s tate  tr an s itio n .   An w ar ,   in   [ 2 0 ] ,   s u g g ested   t h at  th s tab ilit y   an d   ef f icien ex p lo itatio n   o f   B W ca n   b i m p r o v ed   b y   u s in g   f o r w ar d - b ac k w ar d   alg o r it h m   o r   th u n i - d ir ec tio n al   alg o r ith m .     2 . 2 .   T he  s i m pli f ie d B a u m - W els h a lg o rit h m   T h e   p o ten tial  alg o r ith m   a s s o c iated   w it h   t h lear n in g   p r o b lem   o f   a n   HM is   t h B W A   w h ic h   h a s   b ee n   d ev elo p ed   in   1 9 7 0   [ 2 1 ]   an d   also   k n o w n   as  Fo r w ar d - B ac k w ar d   alg o r it h m   w h ich   i s   co n s id er ed   as  th e   u n iq u ca s e   o f   t h E x p ec tatio n - Ma x i m izat io n   o r   E al g o r it h m   [ 2 2 ] .   I n   th lear n i n g   p r o b le m ,   t h p ar a m eter s   o f   an   HM d en o ted   as   ar d ev elo p ed   an d   ad j u s ted   d ep e n d in g   o n   th ap p licatio n s   g i v en   a n   o b s er v a tio n   s eq u en ce   an d   t h s e o f   p o s s ib le  s tate s   Q.   Me a n w h ile,   f o r   th n o n - HM co n s id er ed   in   th is   w o r k ,   w o n l y   u s ed   o n p ar a m eter   to   b es ti m at ed   to   r ed u ce   th co m p l ex it y   o f   t h s y s te m   w h ile  m ain tai n i n g   i ts   p ea k   p er f o r m a n ce .   I n   t h i s   m eth o d ,   o n l y   tr a n s it io n   p r o b ab ilit ies  ar u s ed   to   esti m ate  t h s o u r ce   s tatis t ics  i n   t h d ec o d er .   T h eq u atio n   o f   tr an s itio n   p r o b ab ilit y   is   ad o p ted   f r o m   t h p r ev io u s   w o r k   d o n b y   Gar cia - Fria s   an d   Villas e n o r   in   [ 1 9 ] .   T h B W A   is   g en er all y   p er f o r m ed   b y   ca lcu lated   th in i tial  esti m atio n   f o r   th p r o b ab ilit ies,  an d   iter ati v el y   u s es   t h i n f o r m at io n   f r o m   th e   esti m ate d   v alu e   to   p er f o r m   b etter   e s ti m atio n   u p o n   th e   p r o b a b ilit ies o n   th n e x t iter ati o n .   T h f o r w ar d   v ar iab les ca n   b g iv e n   as :     12 ( ) ( , , , , | ) , t t t i P o o o q i              ( 1 )     w h er is   f o r w ar d   v ar iab le,   an d   is   th p ar tial o b s er v atio n   s eq u en ce   w h i le  th b ac k w ar d   v ar iab le  ca n   b s tated   as :     12 ( ) ( , , , | , ) , t t t t t i P o o o q i               ( 2 )     w h er () t i   is   t h p r o b ab ilit y   o f   t h e   p ar tial seq u en ce   12 , , , t t t o o o     at  th cu r r en t state  . i     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       E xp lo itin g   2 - Dimen s io n a l S o u r ce   C o r r e la tio n   in   C h a n n el  D ec o d in g     ( Mu h a mma d   I z z a t A mir   Mo h d   N o r )   2635   T h f o r w ar d   an d   b ac k w ar d   v ar iab les  i n   E q u atio n   ( 1 )   an d   E q u atio n   ( 2 ) ,   r esp ec tiv e l y   ca n   b i m p le m en ted   to   in itia lize  t h t r an s itio n   p r o b ab ilit y .   T h tr an s itio n   p r o b ab ilit y   ca n   b esti m ated   as     e x p e c t e d   n u m b e r   o f   t r a n s i t i o n s   f r o m   s t a t e     t o   s t a t e   ˆ e x p e c t e d   n u m b e r   o f   t r a n s i t i o n s   f r o m   s t a t ij ij a i       ( 3 )     I n   o r d er   to   ca lcu late  th n u m e r ato r   o f ,   th j o in p r o b ab ilit y   o f   b ein g   i n   s tate  at  ti m a n d   s t ate  at  ti m d en o ted   as  is   d ef i n ed   as :     1 ( , ) ( , | , ) , t t t i j P q i q j O              ( 4 )     w h er e   th o b s er v at io n   s eq u e n ce   an d   ar g iv e n .   T h eq u atio n   also   ca n   b w r itte n   as :     1 ( , | , ) ( , ) . ( | ) tt t P q i q j O ij PO              ( 5 )     B y   u s i n g   th f o r w ar d   an d   b ac k w ar d   v ar iab les,  th f i n al  eq u atio n   o f   ca n   b m o d eled   as     11 ( ) ( ( ) ) ( , ) , () t i j j t t t T i a b o j ij qF               (6 )     w h er is   t h f i n al  s tate.     T h u s ,   th n u m er ato r   o f   t h tr an s it io n   p r o b ab ilit y   ca n   b e   ca lcu lated   as  s u m m atio n   o f   f o r   all  w h ile  t h e   d en o m i n ato r   o f   w h ich   i s   th s u m m at io n   o f   al th e x p ec ted   n u m b er   o f   tr an s i tio n s   i n   s ta te  ca n   b d en o ted   T h f i n al  f o r m u la  f o r   ca n   b s tated   as     1 1 1 11 ( , ) ˆ . ( , ) T t t ij TN t tk ij a ik                   ( 7 )     I n   s u m m ar y ,   t h e s ti m atio n   o f   t h tr a n s itio n   p r o b ab ilit y   ca n   b r e - esti m ated   u s in g   E q u atio n   ( 7 )   ag ai n   to   ex p lo it  th p r ev io u s   est i m a te d   v alu e.   T h r e - esti m at io n   p r o ce s s   is   co n s id e r ed   as  th b asis   o f   th iter ati v f o r w ar d - b ac k w ar d   alg o r ith m .       3.   SYST E M   DE SI G N   Fig u r 1   illu s tr ates  t h to p - le v el  d esi g n   o f   th p r o p o s ed   co m m u n icatio n   s y s te m .   T h s o u r ce   n atu r a l   r ed u n d an c y   w as  co n s id er ed   in   th i s   s t u d y   f o r   s i m p licit y   an d   g en er aliza tio n   p u r p o s es  as  th er is   n o   s o u r ce   en co d er   e m p lo y ed   in   t h p r o p o s ed   s y s te m .   T h s o u r ce   i s   2 b in ar y   s o u r ce   h a v in g   2 D   s o u r ce   co r r elatio n .   T h 2 s o u r ce   is   co n v er ted   i n to   1 s eq u e n ce   r ep r esen ted   b y   v ec to r   u   b ef o r b ein g   e n co d ed   b y   c h an n el   en co d er   to   o u tp u th en co d ed   s eq u en ce   c .   T h en ,   th en co d ed   s eq u en ce   c   is   m o d u lated   b y   B P SK  m o d u lato r   to   g en er ate  m o d u lated   o u tp u s eq u en ce   b ef o r b ein g   tr an s m itted   o v er   an   A W GN  ch an n el.   Du r i n g   th e   m o d u latio n   p r o ce s s ,   th b i n ar y   en co d ed   s eq u e n ce   i s   tr an s f o r m ed   i n to   s i g n al  f o r m   t h at   ca n   b p h y s icall y   tr an s m itted ,   i.e . ,   b it 0   m ap s   to   s ig n al  a m p l itu d - 1   an d   b it 1   m ap s   to   s ig n al  a m p lit u d 1 .   I n   r ea en v ir o n m e n t,  d is to r ti o n   an d   n o is al w a y s   b th f a cto r s   th at   d i s tu r b   t h r ec eiv ed   s ig n al  a t   th r ec eiv er .   Mo s co m m o n l y   u s ed   an d   s i m p le  m o d el  to   d en o te  th ch a n n el  b eh a v io r s   o f   co m m u n icat io n   s y s te m   i s   th A d d iti v W h ite  Gau s s ia n   No is ( A W GN) ,   w h ich   is   d u to   th t h er m al  n o is p r o d u ce d   b y   th e   elec tr o n ic  h ar d w ar e s   an d   d ev ices.  I n   th i s   m o d el,   th in d ep en d en Ga u s s ian   n o is s i g n al s   w i th   ze r o   m ea n   n   an d   v ar ian ce   ar ad d ed   to   th tr an s m itted   s i g n al  g .   T h en er g y   o f   t h tr an s m itted   s i g n al  i s   n o r m al ized   to   1   an d   th e x a m in ed   e n er g y   p er   b it  to   n o is e   p o w er   s p ec tr al  d en s it y   r atio ,   is   u s ed   to   m ea s u r th c h an n el   q u alit y .   T h s ig n al  w ill  b d i s to r ted   an d   s e n to   t h r ec ei v er   as   g   +   n .   A t h r ec ei v er ,   th e   r ec eiv ed   s ig n al  s eq u e n ce   i s   d em o d u lated   b y   B P SK  d e m o d u lato r   to   g e n er ate  a n   o u tp u s eq u e n ce   r .   T h a   p o s ter io r in f o r m at io n   o f   t h e   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   4 A u g u s t 2 0 1 8   :   2 6 3 3     2 6 4 2   2636   s o u r ce   co r r elatio n   k n o w led g is   es ti m ated   d u r i n g   ch a n n el  d ec o d in g   u s i n g   t h p r o p o s ed   p ar a m eter   est i m a tio n   tech n iq u e.   T h n e w   es ti m ate d   v alu o f   s o u r ce   co r r elatio n   k n o w led g is   e x p lo ited   at  th d ec o d er   b ef o r e   o u tp u tti n g   th d ec o d ed   b in ar y   s eq u e n ce .   T h d etail  o f   th p r o p o s ed   t r an s m itter   an d   r ec eiv er   m o d el  w il b p r esen ted   in   t h f o llo w i n g   s ec t io n s .           Fig u r 1 .   Gen er al  v ie w   o f   th p r o p o s ed   J SC C   d esig n       3 . 1 .     T ra ns m it t er   d es ig n   T h e   p r o p o s ed   en co d er   em p lo y s   t w o   ch a n n el  co d es  th at  ar s er iall y   co n ca te n ated   to   ea ch   o th er w h ich   ar T u r b o   Sin g le   P ar it y   C h ec k   C o d ( T SP C C )   [ 2 3 ] ,   [ 2 4 ]   a n d   r ate - 1   R ec u r s i v S y s te m atic  C o n v o lu t io n al   C o d ( R SC C s )   [ 2 5 ] ,   [ 2 6 ] .   T h T SP C C   ac ts   as  an   o u ter   co d an d   co m p r is es  co n ca ten atio n   o f   m u ltip le   SP C C s   ar r a n g ed   i n   p ar allel  w i th   i n ter lea v er s   s ep ar ati n g   th e   SP C C s .   r ate - 1   R S CC  is   e m p lo y ed   as   th e   in n er   co d e,   to   im p r o v t h p er f o r m an ce   o f   th p r o p o s ed   s y s te m   an d   to   r e m o v t h h i g h   er r o r - f lo o r   p r o b lem   en co u n ter ed   b y   T SP C C   [ 2 3 ] ,   [ 2 4 ] .   Fig u r e   2   il lu s tr ates   th e   b lo ck   d ia g r a m   o f   th e   tr an s m itter   m o d el  f o r   t h p r o p o s ed   J SC C   s y s te m   ex p lo itin g   2 s o u r ce   co r r elatio n .   T h 2 s o u r ce s   o f   is   g e n er ated   b y   S.  T h r esear ch   tar g et  is   to   co m o u t   w it h   a n   e s ti m atio n   tec h n iq u f o r   th 2 D   co r r elatio n   p ar a m e ter s   th a ca n   w o r k   w e ll  w it h   t h d ec o d er   o f   [ 9 ] ,   th u s   t h s a m d esig n   is   u s e d   f o r   th tr an s m itt er   m o d el.   T w o   co m p o n e n en co d er s   f o r   T SP C C ,   an d   ar co n s id er ed .   T h in ter leav er ,   i s   b lo ck   in ter leav er   t h at  i s   u s ed   t o   ar r an g t h s o u r ce   s eq u en ce   to   s eq u e n ce   co r r esp o n d in g   to   th d if f er en t   d ir ec tio n   o f   th s o u r ce   co r r e lat io n   d en o ted   b y .   A   T SP C C   u s e s   SP C C s   as  it s   co m p o n e n co d es  an d   it  is   k n o w n   th a SP C C s   ar s i m p le  co d es  th at  o n l y   g e n er ate  s i n g le  p ar ity   c h ec k   b it  f o r   an y   le n g t h   o f   i n f o r m atio n   b it s .   T h ad v an ta g o f   t h is   co d e   is   th f le x ib ilit y   i n   w o r k i n g   w it h   a n y   len g t h   o f   in f o r m atio n   b it s   an d   it  ca n   o p er ate  at  v er y   h ig h   co d in g   r ate.   T h p ar ity   b it  s eq u e n c es,  an d   an d   s o u r ce   s eq u en ce s   ar m u ltip le x ed   af ter   th s o u r ce   s eq u en ce s   h a v b ee n   e n co d ed   b y   th e   co m p o n en co d es.  T h is   j o in ed   s eq u en ce   w   i s   t h e n   r ea r r an g ed   b y   r an d o m   i n ter leav er   b ef o r p as s ed   t h r o u g h   an o t h er   en co d i n g   p r o ce s s   b y .   T h f i n al  e n co d ed   s eq u e n ce   is   m o d u la ted   u s in g   B P SK  m o d u lato r   b e f o r b ein g   tr a n s m itted   o v er   an   A W GN  ch a n n e l.     3 . 2 .     Rec eiv er   d esig n   T h e   d etailed   r ec eiv er   m o d el  o f   th p r o p o s ed   J SC C   s y s te m   i s   s h o w n   i n   Fi g u r 3 .   T h s ig n a f r o m   th e   ch an n el  is   r ec ei v ed   an d   d e m o d u lated   to   g en er ate  an   o u tp u s eq u en ce ,   r .   B y   u s i n g   B ah l - C o ck e - J eli n e k - R a v i v   ( B C J R )   alg o r ith m   i n ,   th s eq u en ce   r   is   d ec o d ed   v ia  Ma x im u m   A   P o s ter io r ( MA P )   d e co d in g   p r o ce s s   [ 2 7 ] .   So f in f o r m at io n   in   L o g - L i k el ih o o d   R ati o   ( L L R )   f o r m   is   u s ed   w h ile  p er f o r m in g   th d ec o d in g   p r o ce s s .   T h a   p r io r i L L R   o f   co d ed   b it,  at  t i m in d e x   t,  ca n   b co m p u ted   a s :                     ( 8 )     w h er is   t h p r o b ab ilit y   t h at  h as  th v al u o f   1 ,   w h ile  is   t h p r o b ab ilit y   o f   h o ld s   th e   v a lu 0 .   T h ex tr in s ic   L L R ,   t h at  is   g e n er ated   f r o m   is   d e - in ter lea v ed   u s i n g   b ef o r f ed   in to   an d .   T h t w o   co m p o n en d ec o d er s   co r r esp o n d   to   th d ec o d in g   o f   t h e   h o r izo n tal   a n d   v er ti ca d ir ec tio n   s o u r ce   s eq u e n c e.   Mo d if ied   B C J R   alg o r ith m   is   e m p lo y ed   to   ex p l o it th e   s o u r ce   co r r elatio n   t h r o u g h o u t t h e   d ec o d in g   p r o ce s s   [ 9 ] .   E ac h   co m p o n e n t   d ec o d er   y ield s   a   p o s teri o r i   a n d   ex tr in s ic  L L R s   o u tp u ts .   T h a   p o s teri o r i   ar th en   s e n to   th p ar a m eter   esti m atio n   tec h n iq u b lo ck   w h ic h   e m p lo y s   t h B W A   g i v en   i n   E q u a tio n   ( 7 )   to   esti m ate  t h e   tr an s itio n   p r o b a b ilit ies  w h er e     ̂           ̂           ̂      an d       ̂           ̂           ̂    .   T h ex tr in s ic  L L R s   f r o m   b o th   ac tiv ated   co m p o n e n d ec o d er s   t h at  co r r esp o n d   to   th s o u r ce   s eq u e n c u   ar s u m m ed   u p   an d   m u lti p lex ed   w ith   all  t h e   ex tr in s ic  L L R s   co r r esp o n d in g   to   th p ar ity   b it  s eq u e n ce s .   T h co m b in ed   s eq u e n ce   is   t h en   in ter leav ed   b y          b ef o r f ee d b ac k   to                Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       E xp lo itin g   2 - Dimen s io n a l S o u r ce   C o r r e la tio n   in   C h a n n el  D ec o d in g     ( Mu h a mma d   I z z a t A mir   Mo h d   N o r )   2637   T h is   p r o ce s s   is   r e p ea ted   f o r   n u m b er   o f   iter atio n s .   Af t er   th f in al  iter atio n ,   th a   p o s teri o r                               is   d ein ter lea v ed   b y            .   Har d   d ec is io n i n g   is   m ad to   t h a   p o s teri o r i   L L R s   o u tp u               to   g en er ate  t h d ec o d ed   b its   s eq u en ce     ̂ .           Fig u r 2 .   P r o p o s ed   t r an s m itter   J SC C   s y s te m   e x p lo itin g   2 s o u r ce   co r r elatio n         2 T SPC  Dec o der     F ig u r 3 .   T h p r o p o s ed   d esig n   at  th r ec eiv er   f o r   th 2 J SC C   s y s te m   w it h   p ar a m eter   esti m atio n             S           B P S K   M o d        w       MU X               Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   4 A u g u s t 2 0 1 8   :   2 6 3 3     2 6 4 2   2638   4.   RE SU L T   AND  ANA L YS I S   I n   th i s   w o r k ,   t h m ai n   g o al  is   to   d ev elo p   an   ac cu r ate  p ar am eter   esti m atio n   tech n iq u to   e s ti m ate  th e   u n k n o w n   s o u r ce   s tatis tics   at  t h r ec eiv er   f o r   th 2 J SC C   s y s te m   p er f o r m i n g   as  clo s as  p o s s ib le  to   th id ea 2 J SC C   s y s te m   as   p r o p o s ed   in   [ 9 ] .   T h B E R   p er f o r m a n ce   is   ev al u ated ,   b y   f i n d in g   t h e   n u m b er   o f   er r o r s   o f   th d ec o d ed   b in ar y   s eq u en ce   f r o m   t h o r ig i n al  b in ar y   s eq u e n ce   f r o m   th s o u r ce   an d   t h is   n u m b er   o f   er r o r s   is   d iv id ed   b y   t h f r a m le n g t h   o f   t h s o u r ce   s eq u en ce   [ 2 8 ] .   T h Ma r k o v   s o u r ce   w a s   in i tiali ze d   w it h   0 . 5   to   b o th   d i m en s io n s .   T o   illu s tr ate  t h e   r esu lt,  s i m u lat io n   o f   B E R   ag ain s SN R   s i m u latio n   w a s   p er f o r m ed   u s i n g   MA T L A B   s o f t w ar e. T h c o n f i g u r atio n   u s ed   in   th s i m u lati o n s   to   ev a lu ate  th p er f o r m an ce   o f   th p r o p o s ed   2 J SC C   s y s te m   ar g i v e n   in   T ab le  1 .   T u r b o - Sin g le  P ar it y - C h ec k - C o d ( T SP C C )   w as  u s ed   as th o u ter   co d e.   T h Sin g le - P ar it y - C h ec k   ( SP C )   co d co n s i s ti n g   o f   8   co d e w o r d   len g t h   a n d   7   i n f o r m atio n   b its   is   u s ed   f o r   th e   co m p o n e n t   co d o f   t h o u ter   co d e.   T h r ate - 1   R ec u r s iv e - S y s te m atic - C o n v o lu t io n al  ( R S C )   co d w h ic h   h ad   g en er ato r   p o l y n o m ial,   (     ,   )                 ( g iv e n   i n   o ctal   n u m er al  s y s te m )   is   u s ed   in   th e   in n er   co d w h er       is   th f ee d b ac k   p o l y n o m ial  an d       is   th f ee d - f o r w ar d   p o l y n o m ial .   Fig u r 4   illu s tr ates  t h co m p a r is o n   in   B E R   p er f o r m an ce   o f   th p r o p o s ed   2 J SC C   s y s te m   an d   t h e   id ea 2 J SC C   s y s te m   w it h   s o u r ce   co r r elatio n   in   h o r izo n tal  an d   v er tical  d ir ec tio n   v ar y i n g   f r o m   =   u n til  = .   T h p er f o r m a n ce   o f   2 D   J SC C   s y s te m   a s s i s ti n g   w it h   th e   B W A - b ased   esti m atio n   tec h n iq u o r   also   k n o w n   a s   2 D   J SC C   s y s te m   w it h   P ar a m eter   E s ti m atio n   1   ( 2 D - J SC C - P E T 1   s y s te m )   is   v er y   c lo s to   th id ea l   2 J SC C   s y s te m   a n d   i m p r o v e s   w h e n   t h s o u r ce   co r r elati o n   b ec o m es  s tr o n g er .   Fo r   ex a m p le,   at   B E R   lev el  o f ,   an   i m p r o v e m en o f   1 . 1 8   d B   is   ac h iev ed   is   ac h ie v ed   w i th   th p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   o v er   t h e     n o n - J SC C   s y s te m   f o r   p   0 . 7   an d   th i m p r o v e m en in cr ea s es  to   4 . 4 8   d B   f o r   p   0 . 9 .   T h p er f o r m a n ce   g ai n   b et w ee n   th id ea l 2 J SC C   s y s te m   a n d   t h p r o p o s ed   2 D - J S C C - P E T 1   s y s te m   i s   ab o u t t h s a m f o r   ea ch   v al u e   o f   p .   A s   ca n   b s ee n   in   t h Fi g u r e   4 ,   th e   id ea 2 J S C C   s y s te m   is   o n l y   s lig h tl y   b etter   th a n   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m .   Ho w e v er ,   th id ea 2 J SC C   s y s t e m   r elies  o n   th as s u m p tio n   o f   p er f ec s o u r ce   k n o w led g at  t h r ec eiv er ,   w h ich   m a y   n o t b s u itab le  p r ac tic all y .   Us u all y ,   t h p ar a m eter   e s ti m atio n   tec h n iq u r eq u ir es  co m p lex   co m p u ta tio n s   co n ce r n i n g   its   ac c u r ac y   t h at  m i g h lead   to   p er f o r m a n ce   d eg r ad atio n   b u t   d esp ite  th d eg r ad atio n   t h at  m a y   o cc u r ,   th g ain   f o r   o u r   p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   is   n o to o   f ar   f r o m   th id ea s y s te m   a n d   h en ce ,   en s u r i n g   t h s y s te m   p er f o r m in g   b etter   in   ter m s   o f   th ac cu r ac y   an d   th r eliab ilit y   o f   th d ata  tr an s m is s io n   at  t h r ec eiv er .   I n   an o t h er   s i m u lat io n ,   t h p er f o r m a n ce   d i f f er en ce   b et w ee n   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   a n d   th s i m ilar   s y s te m   w it h o u a n y   p ar a m eter   esti m atio n   d en o te d   as  th 2 J SC C   s y s te m   r ev e als  th at  w i th o u t h esti m atio n   tech n iq u e,   t h p er f o r m a n ce o f   t h s y s te m   co u ld   n o d o   an y   b et ter   f o r   u n k n o wn   s o u r ce   s tatis tics .   T h g ain   is   m ea s u r ed   as  d if f er en c o f   E b /N0   at  th B E R   lev el  o f   b et w ee n   th 2 J SC C   s y s te m s   an d   th e   n o n - J SC C   s y s te m .   T h p er f o r m an ce   g ai n s   o f   d i f f er en t s y s te m s   ar tab u lated   i n   T ab le  2 .   Fig u r 5   co m p ar es  th B E R   p er f o r m a n ce   b et w ee n   th p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   an d   2 D -   J SC C - P E T 2   s y s te m   w h en   t h co r r elatio n   p ar a m eter s   ar u n k n o w n   f o r   s o u r ce s ,   e x h ib iti n g   c o r r elatio n   v ar y in g   f r o m   u n til = .   T h p er f o r m an ce   g ai n   b et w ee n   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   a n d   th s i m ilar   2 J SC C   s y s te m   u s in g   d i f f er en p ar a m e ter   esti m a tio n   o r   th P ar a m e te r   E s ti m at io n   2   ( P E T 2 )   is   s u m m ar ized   in   T ab le  3 .   Fig u r 5   in d icate s   th at  t h P E T 1   m o d u le  is   m u c h   b etter   th a n   th P E T 2   m o d u le  w h ich   s i m p l y   co m p ar i n g   t h r eliab le  ex tr in s ic  L L R s   g at h er ed   f r o m   ea c h   d ec o d er   [ 1 1 ] .   I ca n   b s ee n   f r o m   T ab le  3   t h at  t h er is   s i g n if ican d i f f e r en ce   in   B E R   p er f o r m a n ce   b e t w ee n   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   a n d   t h 2 D - J SC C - P E T 2   s y s te m   w h ic h   i n d icate s   th at   th p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   i s   p er f o r m i n g   b etter   t h an   t h 2 D - J SC C - P E T 2   s y s te m .   B ased   o n   t h p er f o r m a n ce   i n   Fig u r 5 ,   it  ca n   b s ee n   t h at   t h g ain   d if f er en ce   o v er   t h n o n - J S C C   s y s te m   b et w ee n   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   an d   t h 2 D - J SC C - P E T 2   s y s te m   b ec o m e s   lar g er   f o r   s tr o n g er   s o u r ce   co r r elati o n ,   w h er at  p   =0 . 7 ,   th g ai n   d if f er en ce   i s   0 . 8 4   d B   an d   it   in cr ea s es  to   3 . 4 7   d B   at  p   = 0 . 9 .   T h p e r f o r m a n ce   ac h iev ed   b y   t h 2 D   J SC C   s y s te m s   w it h   th p ar a m eter   esti m at io n   tec h n iq u s h o w   s i g n i f ican d if f er en ce   w h en   co m p ar ed   to   th e   2 J SC C   s y s te m   w i th o u e m p lo y i n g   an y   e s ti m atio n   m e th o d   ( th 2 D   J SC C   s y s te m )   an d   t h n o n - J SC C   s y s te m .       T ab le  1 .   D ef au lt  Setti n g s   U s e d   f o r   th Si m u lat io n s   o f   th P r o p o s ed   2 J SC C   S y s te m   P a r a me t e r   V a l u e   O u t e r   C o d e   2 D   T S P C C   C o mp o n e n t   C o d e s fo r   O u t e r   C o d e   S P C ( 8 , 7 )   C o d e   I n n e r   C o d e   Rate - 1   R S C   ( 3 , 2 ) s   C o d e   F r a me   L e n g t h ,          6 0 8   x   6 0 8   b i t s         B l o c k   I n t e r l e a v e r :   6 0 8   x   6 0 8   b i t s          R a n d o m I n t e r l e a v e r   :   L e n g t h   3 6 3 , 8 8 8   b i t s   C o d e   R a t e ,   R c   0 . 7 8   D e c o d i n g   I t e r a t i o n s   25   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       E xp lo itin g   2 - Dimen s io n a l S o u r ce   C o r r e la tio n   in   C h a n n el  D ec o d in g     ( Mu h a mma d   I z z a t A mir   Mo h d   N o r )   2639       Fig u r 4 .   C o m p ar is o n   i n   B E R   p er f o r m a n ce   o f   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   an d   t h e   id ea 2 J SC C   s y s te m   [ 9 ]   as th v al u o f   p   in cr ea s es       T ab le  2 .   P er f o r m a n ce   Gain   i n   d B   o f   th P r o p o s ed   2D - J SC C - P E T 1   Sy s te m   a n d   th I d ea 2 J SC C   S y s te m   Ov er   th n o n - J SC C   S y s te m       T h e   i d e a l   2 D   JS C C   sy st e m   ( d B )   2D - JS C C - P ET 1   ( d B )   G a i n   f o r   T h e   i d e a l   2 D   JS C C   sy st e m   (d B)   G a i n   f o r   2D - JS C C - P ET 1   ( d B )   G a i n   D i f f e r e n c e   ( d B )   0 . 7   1 . 4 9   1 . 5 4   1 . 2 3   1 . 1 8   0 . 0 5   0 . 8   0 . 2 9   0 . 3 4   2 . 4 3   2 . 3 8   0 . 0 5   0 . 9   - 1 . 8 2   - 1 . 7 1   4 . 5 4   4 . 4 8   0 . 0 6           Fig u r 5 .   P er f o r m a n ce   g ai n   in   d B   o f   th p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   a n d   th 2 D - J S C C - P E T 2   s y s te m       T ab le  3 .   P er f o r m a n ce   Gain   i n   d B   o f   th P r o p o s ed   2 D - J SC C - P E T 1   Sy s te m   a n d   th 2 D - J S C C - P E T 2   Sy s te m   o v er   th n o n - J S C C   S y s te m       2D - JS C C - P ET 1   ( d B )   2D - JS C C - P ET 2   ( d B )   G a i n   f o r   2 D - JS CC - P ET 1   ( d B )   G a i n   f o r   2 D - JS C C - P ET 2     ( d B )     G a i n   D i f f e r e n c e   ( d B )     0 . 7   1 . 5 4   2 . 3 8   1 . 1 8   0 . 3 4   0 . 8 4   0 . 8   0 . 3 4   2 . 0 6   2 . 3 8   0 . 6 4   1 . 7 4   0 . 9   - 1 . 7 1   1 . 7 1   4 . 4 8   1 . 0 1   3 . 4 7           -3 -2 . 5 -2 -1 . 5 -1 -0 . 5 0 0 . 5 1 1 . 5 2 2 . 5 3 10 -6 10 -5 10 -4 10 -3 10 -2 10 -1 10 0 Eb / N 0   (d B) BER     T h Id ea l   2 D   J SC C   a p =0 .9 2 D - J SC C - P E T 1   a p =0 .9 T h Id ea l   2 D   J SC C   a p =0 .8 2 D - J SC C - P E T 1   a p =0 .8 T h Id ea l   2 D   J SC C   a p =0 .7 2 D - J SC C - P E T 1   a p =0 .7 2 D   J SC C     a p =0 .9 N o n - J SC C   -3 -2 . 5 -2 -1 . 5 -1 -0 . 5 0 0 . 5 1 1 . 5 2 2 . 5 3 10 -6 10 -5 10 -4 10 -3 10 -2 10 -1 10 0 E b /N 0   [ d B] BER     2 D - J SC C - P E T 1   a p =0 .9 2 D - J SC C - P E T 2   a p =0 .9 2 D - J SC C - P E T 1   a p =0 .8 2 D - J SC C - P E T 2   a p =0 .8 2 D - J SC C - P E T 1   a p =0 .7 2 D - J SC C - P E T 2   a p =0 .7 2 D - J SC C   a p =0 .9 N o n - J SC C Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   4 A u g u s t 2 0 1 8   :   2 6 3 3     2 6 4 2   2640   5.   CO NCLU SI O AND  F U T U RE   WO RK   T h is   r esear ch   p r o p o s ed   2 J SC C   s y s te m   e x p lo iti n g   est i m atio n   tec h n iq u e   b ased   o n   t h B au m - W elsh   al g o r it h m   i n   t h d ec o d er   o n   u n k n o w n   s o u r ce   s tati s tic s   ( 2 D - J S C C - P E T 1 ) .   T h B W th a i s   u s ed   i n   th e   p r o p o s ed   d esig n   h as  b ee n   d eta iled   w it h   its   ca lc u latio n s   an d   eq u atio n s .   Fo r   s o u r ce s   w it h   id en tical  ,   th g ai n   o f   th p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   an d   th id ea 2 J SC C   s y s te m   o v er   t h n o n - J SC C   s y s te m   s h o w s   v er y   s m al d if f er e n ce   w h ic h   ar 4 . 5 4   d B   an d   4 . 4 8   d B ,   r esp ec tiv el y .   T h r es u lts   also   i n d icate   t h at  t h d i f f er en ce   i n   p er f o r m a n ce   g a in   b et w ee n   o f   th p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   a n d   th e   id ea 2 J SC C   s y s te m   is   ap p r o x im a tel y   t h s a m f o r   s t r o n g est  s o u r ce   co r r elatio n .   T h d if f er e n ce   o f   p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   an d   id ea 2 J SC C   s y s te m   v alu es  at  p   0 . 7   an d   p   =0 . 9   ar s lig h tl y   th s a m i.e .   0 . 0 5   d B   an d   0 . 0 6   d B ,   r esp ec tiv el y .   T h is   co n cl u d es  th at  it  is   p o s s ib le  to   g et  th b est  p er f o r m a n ce   w it h   th p ar a m eter   esti m atio n   tech n iq u o n   u n k n o w n   s o u r ce   co r r elatio n   k n o w led g e.   T h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   i s   t h en   co m p ar ed   to   an o th er   esti m atio n   tech n iq u b ased   o n   p r ev io u s   s t u d y   [ 1 1 ]   k n o w n   as  2 D - J S C C - P E T 2   s y s te m .   T h d if f er e n ce   i n   p er f o r m an c g ai n   b et w ee n   t h p r o p o s ed   2 D - J SC C - P E T 1   s y s te m   a n d   t h 2 D - J SC C - P E T 2   s y s te m   i n cr ea s es   w it h   t h i n c r e m en t   o f   s o u r ce   co r r elatio n ,   i.e . ,   f r o m   a   d if f er en ce   o f   0 . 8 4   d B   at  0 . 7   to   a   d if f er e n ce   o f   3 . 4 7   d B   at  p   0 . 9 .   Fu t u r s t u d ies  co u ld   d ev elo p   an d   en h an ce   p ar a m eter   est i m atio n   tech n iq u i n   2 J SC C   s y s te m   w it h   h i g h e r   o r d er   o f   Ma r k o v   So u r ce   a n d   h i g h er   d i m e n s io n   o f   s o u r ce   c o r r elatio n   in   o r d er   to   o b tain   m o r r eliab le  an d   b etter   p er f o r m a n ce .       ACK NO WL E D G E M E NT   Th e   au t hor   w oul d   l i k t o t h ank   t he  r ev i ewer f o r  t he  s u gg es t i on w hi ch  he l p t o i m pr ov t he   qual i t y   of   t h i pa per I addi t i on,  t he  au t ho r a r a l so  v er y   t hank f ul   t U T R az ak   School   of   Eng i nee r i ng  and Adv anc ed  T e chno l og y , U T M Kual a L um pur , Ma l ay si a f or  p r ov i d i ng  r es ou r ce s.       RE F E R E NC E   [ 1 ]   Be rro u ,   C. ,   G l a v ieu x ,   A .   a n d   Th it im a jsh ima ,   P ,   Ne a S h a n n o n   L i m it   Err o Co rre c ti n g   Co d i n g   a n d   De c o d in g :   T u rb o - Co d e s” ,   Pro c e e d in g s o IE EE   I. S .   I n ter n a t io n a C o n fer e n c e   o n   Co mm u n ica ti o n ( ICC) ,   Ge n e v a ,   S w it z e rlan d ,   p p .   1 0 6 4 - 10 7 0 ,   1 9 9 3 .   [ 2 ]   S a li m ,   M o h a m m a d ,   e a l .   A   N e Blo c k   S - Ra n d o m   In terle a v e r   f o S h o rte L e n g th   F ra m e f o r   T u rb o   Co d e s, ”  Bu ll e ti n   o f   El e c trica E n g in e e rin g   a n d   I n fo rm a t ics v o l.   2 ,   n o .   4 ,   p p .   2 9 3 - 2 9 8 ,   2 0 1 3 .   [ 3 ]   W a n g ,   Jia n ,   Jia n p in g   L i,   a n d   Ch a o sh Ca i,   A   No v e De c o d in g   A lg o rit h m   f o BICM - ID  Em b e d d e d   T u rb o   Co d e s, ”  In d o n e sia n   J o u rn a o El e c trica En g i n e e rin g   a n d   C o mp u ter   S c ien c e ,   v o l.   1 2 ,   n o .   5 ,   p p .   3 4 6 0 - 3 4 6 6 ,   2 0 1 4 .   [ 4 ]   Ka m ru z z a m a n ,   M .   M . ,   P e rf o rm a n c e   Co m p a riso n   o f   T u rb o   C o d e d   S in g le  I n p u M u lt i p le  Ou tp u t   S y ste m   U sin g   S e le c ti v e   Co m b in in g ,   Eq u a G a in   Co m b in in g   a n d   M a x i m a R a ti o   Co m b in in g , ”  In ter n a ti o n a J o u r n a o In f o rm a ti o n   a n d   Ne two rk   S e c u rity ,   v o l.   3 ,   n o .   2 ,   p .   6 4 ,   2 0 1 4 .   [ 5 ]   S h a n n o n ,   C.   E. ,   A   M a th e m a ti c a l   T h e o r y   o f   Co m m u n ica ti o n T h e   Bell  S y ste T e c h n ica J o u rn a l ,   2 7 ,   p p .   3 7 9 - 4 2 3 ,   1 9 4 8 .   [ 6 ]   S a y o o d ,   K.  a n d   Bo rk e n h a g e n ,   J.  C. ,   Us e   o f   Re sid u a Re d u n d a n c y   in   th e   De sig n   o f   Jo in S o u rc e /Ch a n n e Co d e rs” ,   IEE T ra n sa c ti o n o n   Co mm u n ic a ti o n s ,   v o l .   3 9 ,   n o .   6 ,   p p .   8 3 9 - 8 4 6 ,   1 9 9 1 .   [ 7 ]   Y.  Hu o ,   T .   W a n g ,   R.   M a u n d e a n d   L .   Ha n z o ,   " T w o - Di m e n sio n a Itera ti v e   S o u rc e - Ch a n n e De c o d in g   f o Distrib u te d   V id e o   Co d i n g , "   in   IEE E   Co mm u n ica ti o n s L e tt e rs ,   v o l.   1 8 ,   n o .   1 ,   p p .   9 0 - 9 3 ,   Ja n u a ry   2 0 1 4 .   [ 8 ]   Ca m icio tt i,   L . ,   L a m y ,   C. ,   M e il h a c ,   L . ,   Oliv ieri,   S .   a n d   V e rd i,   P . ,   Jo in S o u rc e   Ch a n n e l   Co d i n g   f o 4 G   M u lt im e d ia   S tre a m in g ,   W ire les W o rld   Res e a rc h   Fo r u m ( W W RF ) ,   He lsin k i ,   F in lan d ,   2 0 0 1 .   [ 9 ]   Iz h a r,   M . A . M   F isa l,   Zh o u ,   X   A n w a r, M a tsu m o to ,   T   , Ex p lo it a ti o n   o f   2 b in a ry   so u rc e   c o rre l a ti o n   u si n g   tu rb o   b lo c k   c o d e w it h   f in e - tu n in g ,   7 t h   In ter n a t io n a S y mp o siu o n   T u rb o   Co d e a n d   Iter a ti v e   In fo rm a ti o n   Pro c e ss in g   ( IS T C),   2 0 1 3 .   [ 1 0 ]   Iz h a r,   M . A . M   F isa l,   Zh o u ,   X   A n w a r,   K   M a tsu m o to ,   Util iza ti o n   o f   2 - M a rk o v   so u rc e   c o rre latio n   u si n g   b lo c k   tu rb o   c o d e s” ,   In ter n a ti o n a S y mp o siu o n   T u rb o   C o d e s a n d   Iter a ti v e   In fo rm a ti o n   Pro c e ss in g ,   IS T C .   5 6 - 6 0 .   2 0 1 2 .   [ 1 1 ]   Y.   Zh a o ,   W .   Zh o n g ,   a n d   J.   G a rc i a - F rias ,   T ra n s m issio n   o f   c o rre late d   se n d e rs  o v e a   Ra y l e ig h   f a d in g   m u lt ip le  a c c e ss   c h a n n e l, ”  S ig n a l   Pro c e ss . , v o l.   8 6 ,   p p .   3 1 5 0 - 3 1 5 9 ,   N o v .   2 0 0 6 .   [ 1 2 ]   B.   W .   Kh o u e iry   a n d   M .   R .   S o le y m a n i,   " Jo in c h a n n e e stim a ti o n   a n d   ra p to r   d e c o d in g   o v e f a d in g   c h a n n e l, "   2 0 1 4   2 7 t h   Bi e n n i a S y mp o si u m o n   Co m mu n ica t io n s ( QBS C),   Kin g sto n ,   O N,   2 0 1 4 ,   p p .   1 6 8 - 1 7 2   [ 1 3 ]   Qin g x io n g   De n g ,   R.   G .   M a c h a d o   a n d   A .   G .   Kle in ,   " A d a p ti v e   c h a n n e e stim a ti o n   in   d e c o d e   a n d   f o rwa rd   re la y   n e tw o rk s , "   2 0 1 2   4 6 t h   A n n u a l   C o n fer e n c e   o n   I n fo rm a ti o n   S c ien c e s a n d   S y ste ms   ( CIS S ),   Pri n c e to n ,   NJ ,   2 0 1 2 ,   p p .   1 - 6.   [ 1 4 ]   W .   T u rin ,   " Un id irec ti o n a a n d   p a ra ll e Ba u m - W e lch   a lg o rit h m s , "   in   IEE T ra n sa c ti o n o n   S p e e c h   a n d   Au d io   Pro c e ss in g ,   v o l.   6 ,   n o .   6 ,   No v   1 9 9 8 .   p p .   5 1 6 - 5 2 3 .   [ 1 5 ]   G a r c ia - F rias ,   J. ,   Co m b in in g   h id d e n   M a rk o v   so u rc e   m o d e ls  a n d   p a ra ll e c o n c a ten a te d   c o d e s” ,   IEE E   Co mm u n ica ti o n s L e tt e rs , v o l.   1   n o .   4   1 9 9 7 ,   p p .   1 1 1 - 1 1 3 .   [ 1 6 ]   J.  G a rc ia - F rias   a n d   J.  D.  V il las e n o r,   " T u rb o   d e c o d i n g   o f   h id d e n   M a rk o v   so u rc e w it h   u n k n o w n   p a ra m e ters , "   Da ta   Co mp re ss io n   C o n fer e n c e ,   1 9 9 8 .   DCC ' 9 8 .   Pro c e e d in g s,  S n o wb ird ,   UT,   1 9 9 8 ,   p p .   1 5 9 - 1 6 8 .     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       E xp lo itin g   2 - Dimen s io n a l S o u r ce   C o r r e la tio n   in   C h a n n el  D ec o d in g     ( Mu h a mma d   I z z a t A mir   Mo h d   N o r )   2641   [ 1 7 ]   J.  Ga rc ia - F rias   a n d   J.  D.  V il las e n o r,   " Jo in so u rc e   c h a n n e c o d in g   a n d   e sti m a ti o n   o f   h id d e n   M a r k o v   stru c tu re s,"   Pro c e e d in g s.   1 9 9 8   IE EE   I n ter n a t io n a S y mp o si u o n   I n f o rm a ti o n   T h e o ry   ( C a t.   No . 9 8 CH 3 6 2 5 2 ),   Ca mb rid g e ,   M A,   1 9 9 8 ,   p p .   2 0 1 .   [ 1 8 ]   J.  G a rc ia - F rias ,   J.  V il las e n o r ,   " S i m p li f ied   m e th o d f o c o m b in in g   h id d e n   M a rk o v   m o d e ls  a n d   t u rb o   c o d e s" ,   Pro c .   VT C'9 9 ,   1 9 9 9 ,   p p .   1 5 8 0 - 1 5 8 4 .   [ 1 9 ]   J.  G a r c ia - F rias ,   J.D.  V il las e n o r ,   " Jo in t u rb o   d e c o d in g   a n d   e stim a t i o n   o f   h id d e n   M a rk o v   so u rc e s" ,   S e lec ted   Are a in   Co mm u n ica ti o n s IE EE   J o u r n a l   o n ,   v o l.   1 9 ,   p p .   1 6 7 1 - 1 6 7 9 ,   2 0 0 1 ,   I S S N 0 7 3 3 - 8 7 1 6 .   [ 2 0 ]   A n w a r,   A . K.  Itera ti v e   D e c o d in g   a n d   Ch a n n e Esti m a ti o n   o v e Hid d e n   M a rk o v   F a d in g   Ch a n n e l s” ,   Fa c u lt y   o t h e   Vi rg in i a   P o lyte c h n ic I n stit u te a n d   S ta te Un ive rs it y ,   2 0 0 0 .   [ 2 1 ]   Ba u m ,   L .   E. ,   P e tri e ,   T . ,   S o u les ,   G .   a n d   W e iss,  N. ,   A   M a x i m iz a ti o n   T e c h n iq u e   Oc c u rrin g   in   t h e   S ta ti stica A n a l y sis   o f   P r o b a b i li stic F u n c ti o n o f   M a rk o v   Ch a in s.”  An n .   M a t h .   S t a ti st.,   1 9 7 0 ,   v o l.   4 1 ,   n o .   1 ,   p p .   1 6 4 - 1 7 1 .     [ 2 2 ]   D e m p ste r,   A .   P . ,   L a ird ,   N.  M .   a n d   Ru b in ,   D.  B.   M a x im u m   L ik e li h o o d   f ro m   In c o m p lete   D a ta  v ia  th e   EM   A l g o rit h m .   J o u rn a l   o f   th e   R o y a S ta ti st ica S o c iety .   S e rie s B   ( M e th o d o lo g ica l),   1 9 7 7 ,   v o l .   3 9 ,   n o .   1 ,   p p .   1 - 3 8 .     [ 2 3 ]   L.   P in g ,   S .   C.   a n d   Ye u n g ,   K.  L . ,   Itera ti v e   De c o d in g   o f   M u lt i - d im e n sio n a Co n c a ten a ted   S i n g le  P a rit y   Ch e c k   Co d e s.”  Pro c e e d in g o IEE E   In t e rn a ti o n a l   Co n fer e n c e   o n   C o mm u n ica ti o n s .   A tl a n ta,  USA .   1 9 9 8 ,   p p .   1 3 1 - 1 3 5 .   [ 2 4 ]     T e e ,   J.  S .   K.  a n d   T a y lo r,   D.  P . ,   M u lt ip le  P a ra ll e Co n c a te n a ted   S in g le  P a rit y - c h e c k   Co d e s” ,   Pro c e e d in g o I EE E   In ter n a t io n a C o n fer e n c e   o n   C o mm u n ica t io n s .   He lsin k i,   F in lan d ,   2 0 0 1 ,   p p .   6 0 - 6 4 .   [ 2 5 ]   Zh o u ,   X.,   A n wa r,   K.  a n d   M a tsu m o to ,   T . ,   S e riall y   Co n c a ten a ted   Jo in S o u rc e - Ch a n n e C o d in g   f o Bin a r y   M a rk o v   S o u rc e s, ”  6 th   I n ter n a ti o n a IC S T   Co n fer e n c e   o n   Co mm u n ica ti o n s   a n d   Ne two rk i n g   ( CHINACOM ) .   Ha rb in ,   Ch i n a .   2 0 1 1 .   [ 2 6 ]   Zh o u ,   X.,   A n wa r,   K.  a n d   M a tsu m o to ,   T . ,   EX IT  Ch a rt  Ba s e d   J o in S o u rc e   Ch a n n e C o d in g   f o Bin a r y   M a r k o v   S o u rc e s, ”  Pro c e e d i n g o IEE V e h icu la   T e c h n o lo g y   Co n fer e n c e   (VT Fa ll ) .   Q u e b e c   Cit y ,   Ca n a d a .   2 0 1 2 ,   p p .   1 - 5 .   [ 2 7 ]   Ba h l,   L . ,   Co c k e ,   J.,   Je li n e k ,   F .   a n d   Ra v iv ,   J. ,   Op ti m a De c o d in g   o f   L in e a Co d e f o M in im izin g   S y m b o Err o r   Ra tes   (Co rre sp . ), ”  IEE T ra n sa c t io n o n   I n f o rm a ti o n   T h e o ry ,   1 9 7 4 ,   v o l.   2 0 ,   n o .   2 ,   p p .   2 8 4 - 2 8 7 .   [ 2 8 ]   Da n iel  Ju ra f sk y ,   Ja m e H.  M a rti n ,   Ch a p ter  8 Hid d e n   M a rk o v   M o d e ls,   S p e e c h   a n d   L a n g u a g e   P ro c e ss in g ,   Pre n ti c e   Ha ll ,   2 0 1 4 .       B I O G RAP H I E S   O F   AUTH O RS        M u h a m m a d   Iz z a A m ir  M o h d   No r   re c e iv e d   th e   B. E n g   (Ho n s)  i n   El e c tri c a a n d   Co m p u t e En g in e e rin g   (Co m m u n ica ti o n ),   In tern a ti o n a Isla m ic   Un iv e r sit y   M a la y sia   (IIUM     2 0 1 2 ) .   He   is  c u rre n tl y   p u rsu i n g   h is  M a ste o f   P h il o so p h y   a UT M   Ra z a k   S c h o o o f   En g in e e rin g   a n d   A d v a n c e d   T e c h n o lo g y ,   Un iv e rsiti   T e k n o lo g M a la y sia   (U T M Ku a la  L u m p u r.   He   is  a   m e m b e in   v a rio u p ro f e ss io n a o rg a n iza ti o n su c h   a s   In stit u te  o f   El e c tri c a a n d   El e c tro n ics   En g in e e rs  (IE EE a n d   T h e   In stit u t io n   o f   En g in e e rs  M a la y sia   (IE M ).   His  re se a rc h   in tere sts  in c lu d e   c h a n n e c o d i n g ,   c o d i n g   th e o ry ,   jo in t   so u rc e - c h a n n e c o d in g ,   p a ra m e ter  e sti m a ti o n   tec h n iq u e ,   Io T ,   w irele ss   c o m m u n ica ti o n   a n d   c lo u d   c o m p u ti n g .         M o h d   Az r M o h d   Iz h a r   re c e iv e d   h is  M . E n g .   d e g re e   in   e lec tri c a e n g in e e rin g   (c o m m u n ica ti o n s)  f r o m   th e   Un iv e rsity   o f   S h e ff ield ,   U.K.,   in   2 0 0 8   w h e re   h e   re c e iv e d   th e   M a p p i n   m e d a a wa rd   f o o u tstan d in g   a c a d e m ic  p e r f o r m a n c e   a n d   th e   In stit u te  o f   El e c tri c a a n d   El e c tro n ics   En g in e e rs  (IE EE p rize   f o th e   b e st  c o m m u n ica ti o n s - re late d   f in a y e a r   p ro jec t.   He   r e c e iv e d   th e   P h . D.  d e g re e   in   e le c tri c a e n g in e e r in g   f ro m   Un iv e rsiti   T e k n o lo g M a lay sia   (U T M ),   M a la y sia ,   in   2 0 1 4 .   S in c e   2 0 1 4 ,   h e   h a b e e n   a   se n io r   lec tu re w it h   U T M   Ku a la  L u m p u c a m p u s.  He   w a v isit in g   th e   S o u t h a m p to n   W irele ss   G ro u p   a th e   Un iv e rsit y   o f   S o u th a m p to n ,   U.K .   f o 2   y e a rs  in   2 0 1 5 .   His  c u rre n re se a rc h   in tere sts  in c lu d e   c h a n n e c o d in g ,   c o d in g   th e o ry ,   jo in so u r c e - c h a n n e c o d in g ,   c o d e d   m o d u l a ti o n ,   c o o p e ra ti v e   c o m m u n ica ti o n s,   c o g n it iv e   ra d io ,   Io T   a n d   q u a n tu m   c o m m u n ica ti o n s.         No r u lh u s n a   A h m a d   g ra d u a ted   f ro m   Un iv e rsiti   T e k n o lo g M a la y sia   (UT M in   2 0 0 1   w it h   B S c   in   El e c tri c a En g in e e rin g .   S h e   j o in e d   UT M   a a   sta ff   a n d   late p u rsu i n g   h e stu d y   a th e   sa m e   u n iv e rsity .   S h e   re c e iv e d   h e M a ste d e g re e   o f   El e c tri c a En g in e e rin g   ( T e lec o m m u n ica ti o n a n d   P h in   E lec tri c a En g in e e rin g   in   2 0 0 3   a n d   2 0 1 4 ,   r e sp e c ti v e l y .   Cu rre n tl y ,   sh e   is  a   l e c tu re a Ra z a k   S c h o o o f   S c ien c e   a n d   A d v a n c e d   Tec h n o lo g y ,   U TM   KL .   Du rin g   h e P h D,  sh e   d i d   a n   a tt a c h m e n in   Ja p a n   A d v a n c e d   In stit u te  o f   S c ien c e   a n d   T e c h n o l o g y   (J A IS T u n d e th e   su p e rv isi o n   o f   P ro f .   Dr.  T a d a sh M a tsu m o to   a n d   A ss t.   P r o f .   Dr.  Kh o i ru A n w a o n   t h e   p r o jec in   n o n - o r th o g o n a f re q u e n c y   d iv isio n   m u lt ip lex in g   (n - OFDM sy ste m .   He e x p e rti se   is  o n   th e   a re a   o f   d ig it a l   sig n a p r o c e ss in g   a n d   w irele ss   c o m m u n ica ti o n .   He re se a rc h   in tere sts  a re   o n   f u tu re   c o m m u n ica ti o n   su c h   a 5 G   a n d   c o g n it iv e   ra d io   f o c u sin g   o n   e rro c o rre c ti n g   c o d e s,  tu rb o   e q u a li z a ti o n ,   OFD M ,   r e so u rc e   a ll o c a ti o n ,   n e tw o rk   c o d i n g   a n d   c o o p e ra ti v e   c o m m u n ica ti o n .         Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   4 A u g u s t 2 0 1 8   :   2 6 3 3     2 6 4 2   2642     Un iv e rsiti   T e k n o lo g M a lay sia   (UT M     2 0 0 6 ),   th e   M . S c .   d e g re e   in   T e lec o m m u n ica ti o n   a n d   In f o rm a ti o n   En g in e e rin g   a Un iv e rsiti   T e k n o lo g M A R A   (Ui T M     2 0 0 8 ) ,   a n d   t h e   P h . D.  d e g re e   f r o m   th e   Un iv e rsiti   T e k n o lo g M a lay s ia  (UT M     2 0 1 5 ).   S h e   is  c u rre n t ly   a   se n io lec tu re a UT M   Ra z a k   S c h o o o f   En g in e e rin g   a n d   A d v a n c e d   T e c h n o l o g y ,   Un iv e rsiti   Te k n o l o g M a lay sia   Ku a la  L u m p u r.   S h e   is  a   m e m b e in   v a rio u p ro f e ss io n a o rg a n iza ti o n su c h   a In st it u te  o f   El e c tri c a a n d   El e c tro n i c s   En g in e e rs  (IE EE a n d   T h e   In stit u tt io n   o f   En g in e e rs  M a lay si a   (IE M ).   S h e   a lso   a   re se a rc h   m e m b e r   o W irele ss   Co m m u n ica ti o n   Ce n tre   (W CC)  w h ich   is  o n e   o f   Hig h e In stit u ti o n   Ce n tres   o f   Ex c e ll e n c e   (HICo E)  in   M a lay sia .   Cu rre n tl y ,   W CC  lea d a   re se a rc h   o n   F ift h   G e n e ra ti o n   (5 G ).   He re se a rc h   in tere sts  in c lu d e   m o b il e   a n d   w irele ss   c o m m u n ica ti o n s,  e rro r   c o n tr o c o d in g ,   re lay   n e tw o r k s,  c o o p e ra ti v e   c o m m u n ica ti o n s,  Hy b rid   A RQ Cro ss   L a y e De sig n   a n d   it e ra ti v e   re c e iv e r.     Evaluation Warning : The document was created with Spire.PDF for Python.