T E L K O M NIKA   T elec o mm un ica t io n Co m pu t i ng   E lect ro nics   a nd   Co ntr o l   Vo l.  24 ,   No .   1 Feb r u ar y   20 26 ,   p p .   1 ~1 3   I SS N:  1 6 9 3 - 6 9 3 0 ,   DOI : 1 0 . 1 2 9 2 8 / T E L KOM NI K A . v 24 i 1 . 27236          1       J o ur na l ho m ep a g e h ttp : //jo u r n a l.u a d . a c. id /in d ex . p h p /TELK OM N I K A   Deep learni ng - ba sed po w er am pli fi er lineari z a tion  in   O FDM  sy ste m s w ith  un kno w cha nnel state  inf o r ma tion       M er y e m   M a m ia   B eno s m a n,  M o ha m m e d Ya s s i ne  B endi mera d,  F et hi T a rik   B en di m er a d   L TT   l a b o r a t o r y ,   D e p a r t me n t   o f   T e l e c o mm u n i c a t i o n ,   F a c u l t y   o f   T e c h n o l o g y ,   U n i v e r si t y   o f   T l e mce n ,   C h e t o u a n e A l g e r i a       Art icle  I nfo     AB ST RAC T   A r ticle  his to r y:   R ec eiv ed   Ma y   22 2025   R ev i s ed   25   Oct 2 0 2 5   A cc ep ted   Dec   8 2 0 2 5       T h is  p a p e p re se n ts  a n   e n d - to - e n d   d e e p   lea rn in g - b a se d   a p p r o a c h   f o r   o rth o g o n a f re q u e n c y - d iv isio n   m u lt ip lex i n g   (OFDM c o m m u n ica ti o n   s y ste m i m p a ired   b y   n o n li n e a p o w e a m p li f iers   (P A s)   a n d   c h a n n e fa d in g .   T h e   P A   n o n li n e a rit y   is  m o d e le d   u si n g   t h e   m o d if ied   Ra p p   m o d e l,   a n d   sim u latio n a re   p e rf o r m e d   o n   a   6 4 - su b c a rrier  OFDM   sy ste m   w it h   a   c y c li c   p re f i x   (CP o f   8   a n d   1 6 - q u a d ra t u re   a m p li tu d e   m o d u latio n   ( 1 6 - Q A M ) .   T h e   p ro p o se d   a u to e n c o d e r - b a se d   OF DM P A   (A E - OFDM - P A )   sy ste m   jo in tl y   o p ti m ize th e   tran s m it ter  a n d   re c e iv e r   th ro u g h   e n d - to - e n d   lea rn in g ,   e n a b li n g   sim u lt a n e o u c o m p e n sa ti o n   o f   b o t h   P A   n o n li n e a rit ies   a n d   c h a n n e l   d ist o rti o n w it h o u re q u iri n g   e x p li c it   c h a n n e sta te  in f o rm a ti o n   (CS I )   e sti m a ti o n .   I n ste a d ,   th e   m o d e le v e ra g e e m b e d d e d   p i lo t   se q u e n c e to   lea rn   th e   im p li c it   CS re p re se n tati o n   d irec tl y   f ro m   d a ta,  a ll o w in g   th e   re c e iv e to   c o rre c a m p li tu d e   a n d   p h a se   d isto rti o n a d a p ti v e ly .   S i m u latio n   re su lt s   d e m o n stra te  th a A E - OFDM - P A   sig n if ic a n tl y   o u tp e rf o r m c o n v e n ti o n a l   OFDM   a n d   OFDM - P A   sy ste m s,  a c h iev in g   o v e 7 0 ×   b lo c k   e rro ra te (BL ER)   im p ro v e m e n c o m p a re d   w it h   t h e   u n c o m p e n sa ted   OFDM - P A   sy st e m   a a n   in p u b a c k - o f f   (IBO)   o f   3   d B.   F u rth e rm o re ,   th e   p r o p o se d   m e th o d   a c h iev e a p p ro x im a tel y   1 1 . 5   d a d jac e n t   c h a n n e lea k a g e   ra ti o   (A CL R)   i m p ro v e m e n t   o v e th e   c las sic a m e m o r y   p o l y n o m ial  d ig it a p re d isto rti o n   (D P D)   t e c h n iq u e ,   w h il e   slig h tl y   re d u c in g   th e   p e a k - to - a v e ra g e   p o we ra ti o   ( P A P R) .   Ov e ra ll ,   AE - OFDM - P A   p ro v id e a   ro b u s t,   sp e c trally   e ff icie n t,   a n d   lo w - c o m p lex it y   so lu ti o n   f o n o n li n e a a n d   f a d in g   e n v iro n m e n ts  w it h   u n k n o w n   o v a ry in g   CS I.   K ey w o r d s :   Au to en co d er   Dee p   lear n in g   Dig ital p r ed is to r tio n     Or th o g o n a l f r eq u e n c y - d i v is io n   m u l tip lex in g   P o w er   a m p l if ier s   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   Me r y e m   Ma m ia  B en o s m a n   L T T   la b o r ato r y ,   Dep ar t m e n t o f   T elec o m m u n ica tio n ,   Fac u l t y   o f   T ec h n o lo g y   Un i v er s it y   o f   T le m ce n   C h eto u an e ,   A l g er ia   E m ail:  m er y e m m a m ia. b en o s m an @ u n i v - t le m ce n . d z       1.   I NT RO D UCT I O N   T h e   c o n t in u o u s   ev o lu ti o n   o f   w ir e l es s   c o m m u n i ca t i o n   t e ch n o l o g i es   h a s   d r am at i c al ly   in c r ea s e d   m o b i l c o n n e c ti v i ty   an d   g l o b a l   d a ta   tr a f f i c .   B y   2 0 2 3 ,   t h e   n u m b e r   o f   I P - c o n n e c t e d   d ev i c es   ex c e e d e d   t h r e e   t im es   th w o r l d s   p o p u l at i o n ,   w ith   a n   av e r a g e   o f   3 . 6   n etw o r k e d   d e v i c es   p e r   p e r s o n ,   u p   f r o m   2 . 4   in   2 0 1 8   [ 1 ] .   T h i s   g r o w th   i s   ex p e c t e d   t o   c o n t in u e   w it h   t h e   d e p l o y m en t   o f   f if th - g en e r a t i o n   ( 5 G )   a n d   em e r g i n g   s ix th - g en e r a ti o n   ( 6 G)   n e t w o r k s ,   w h ic h   a im   t o   d e li v e r   d a t a   r a t es   u p   t o   2 0   G b / s   an d   en d - to - en d   l a t en cy   b el o w   1 0   m s   [ 2 ] .   T h ese  s y s te m s   r el y   h ea v il y   o n   m u lticar r ier   m o d u latio n   tec h n iq u es  s u ch   as  o r th o g o n al  f r eq u en c y - d iv is io n   m u ltip lex i n g   ( O F D M)   [ 3 ] ,   k n o w n   f o r   it s   r o b u s tn es s   a g ain s m u ltip at h   f ad in g   a n d   in t er - s y m b o l   in ter f er e n ce   ( I SI)   [ 4 ] .   H o w ev er ,   OFDM   s ig n als  e x h ib it  h ig h   p ea k - to - a v er ag p o w er   r a tio   ( P A P R ) ,   w h ic h   lead s   to   s ev er s ig n al  d is to r tio n   w h e n   a m p li f ied   b y   n o n li n ea r   p o w er   a m p li f ier s   ( P A s )   [ 5 ] .   Op er atin g   P As  n ea r   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m un   C o m p u t E C o n tr o l ,   Vo l.  24 ,   No .   1 Feb r u ar y   20 26 1 - 1 3   2   s atu r atio n   i m p r o v es  p o w er   ef f icien c y   b u ca u s es  in - b an d   d is to r tio n   an d   o u t - of - b an d   s p ec tr al  r eg r o w th ,   r esu lti n g   in   b it  er r o r   r ate  ( B E R )   d eg r ad atio n   an d   ad j ac e n t - ch a n n e in ter f er en ce .   T h is   tr ad e - o f f   b et w ee n   ef f icien c y   a n d   l i n e a r i t y   h a s   b e e n   e x t e n s i v e l y   s t u d i e d   i n   r e c e n t   l i t e r a t u r e   [ 6 ] .   Var io u s   P A P R   r ed u ctio n   tec h n iq u es  h a v b ee n   p r o p o s ed ,   in clu d i n g   clip p in g ,   s elec ti v e   m a p p i n g   ( SL M) ,   p ar tial  tr an s m it  s eq u e n ce   ( PT S),   to n r eser v atio n   ( T R ) ,   t o n in j ec tio n   ( T I ) ,   an d   ac tiv co n s te llatio n   ex ten s io n   ( AC E )   [ 7 ] - [ 1 1 ] .   A l th o u g h   th ese  m et h o d s   ef f ec ti v el y   r ed u ce   P A P R ,   t h e y   o f te n   in cr ea s s y s te m   co m p le x it y   o r   i n tr o d u ce   ad d itio n al  d is to r ti o n .   T h er ef o r e,   d ig ital  p r ed is to r tio n   ( DP D )   r e m ai n s   o n o f   th m o s t   p r ac tical  an d   ef f icie n ap p r o ac h es  f o r   P A   lin ea r izatio n ,   as  it  co m p e n s ate s   f o r   n o n l in ea r it ies  b y   ap p ly in g   an   in v er s tr an s f er   f u n ctio n   p r io r   to   am p li f icat io n .     R ec en t l y ,   d ee p   lear n in g - b a s e d   m o d els  h a v d e m o n s tr ated   o u ts tan d i n g   ca p ab ilit ies  in   m o d eli n g   n o n li n ea r itie s   a n d   co m p en s ati n g   s i g n al  d is to r tio n s   t h a n k s   t o   th eir   s tr o n g   f u n ctio n   ap p r o x i m atio n   p r o p er ties   [ 1 2 ] .   A r ch itect u r es  s u c h   as  co n v o lu tio n al  n eu r al  n e t w o r k s   ( C NN s ) ,   lo n g   s h o r t - ter m   m e m o r ( L ST M)   n et w o r k s ,   g en er ati v ad v er s ar i al  n et w o r k s   ( G A N s ) ,   a n d   au to e n co d er s   ( A E s [ 1 3 ] - [ 1 6 ]   h av b ee n   ex p lo r ed   f o r   tr an s m itter   o p ti m iza ti o n ,   P A   li n ea r izatio n ,   a n d   s ig n al  r esto r at io n .   I n   th is   w o r k ,   w p r o p o s an   au to en co d er - b ased   OFDM - P A   ( A E - O FDM - P A )   s y s te m   t h at  p er f o r m s   en d - to - en d   lear n in g   to   j o in tl y   li n ea r ize  th n o n lin ea r   r e s p o n s o f   m o d if ied   R ap p - b ased   P A   a n d   to   co m p e n s ate  f o r   R a y le ig h   f ad in g .   U n li k co n v en t io n al  DP ap p r o ac h es,  th p r o p o s ed   m o d el  lear n s   th e   o p tim a m ap p in g   b et w ee n   tr an s m itted   a n d   r ec eiv ed   s ig n al s   d ir ec tl y   t h r o u g h   d ata - d r iv e n   tr ain i n g ,   ac h ie v i n g   b o th   d is to r tio n   m it ig at io n   an d   lo w   co m p u tatio n a l c o m p lex it y .     T h r em ai n d er   o f   th i s   p ap er   is   o r g an ized   as  f o llo w s .   Sectio n   2   p r esen ts   t h p r o p o s ed   m et h o d o lo g y ,   in cl u d in g   t h s y s te m   m o d el   a n d   A E - b a s ed   DP f r a m e w o r k .   Sectio n   3   d is c u s s es  th e   s i m u latio n   r esu lts   a n d   co m p ar ati v an al y s is .   Fi n all y ,   s ec tio n   4   co n cl u d es th p ap er   an d   o u tl i n es p o s s ib le  d ir ec tio n s   f o r   f u t u r w o r k .       2.   M E T H O DO L O G Y   2 . 1 .     O v er v ie w   o f   ex is t ing   t ec hn iq ues   DP is   w id el y   ad o p ted   as  an   ef f ec ti v tec h n iq u f o r   p o w er   a m p li f ier   li n ea r izatio n .   C o n v e n tio n a l   DP s c h e m e s ,   s u c h   as  lo o k - u p   tab le  ( L UT ) ,   Vo lter r s er i es,  an d   m e m o r y   p o l y n o m ial  m o d el s   [ 1 7 ] ,   [ 1 8 ] atte m p to   ap p r o x i m ate  t h i n v er s b eh av io r   o f   th P A   a n d   ap p ly   it  b ef o r a m p li f icat io n .   Ho w e v er ,   th e ir   p er f o r m a n ce   i s   li m ited   b y   m o d elin g   ac c u r ac y ,   s e n s iti v it y   to   m e m o r y   ef f ec t s ,   an d   d ep en d en ce   o n   p ar a m ete r   tu n in g .   R ec en t   ad v a n ce s   in   d ee p   lear n in g   h a v i n tr o d u ce d   d ata - d r iv e n   ap p r o ac h es c ap ab le   o f   d ir ec tl y   lear n in g   co m p le x   n o n lin e ar   m ap p i n g s   f r o m   d ata  [ 1 9 ] .   A r ch itect u r es   s u ch   as  C N Ns ,   L ST Ms,   an d   au to e n co d er s   A E s   h av s h o w n   p r o m i s i n g   r es u lt s   f o r   P A   lin ea r izatio n   an d   en d - to - e n d   tr an s m itter   o p ti m izat io n .   T h p r o p o s ed   AE - OF DM - P A   m o d el  b u ild s   u p o n   th i s   p ar ad ig m   b y   lev er a g in g   an   A E - b ased   f r a m e w o r k   to   j o in tly   m iti g ate  P A   n o n lin ea r it ies an d   c h an n el  d is to r tio n s   w h ile  m ain tain in g   l o w   c o m p u tatio n al  co m p lex i t y .     2 . 2 .   Sy s t em   m o del a nd   cla s s ica l dig it a l pre dis t o rt io n   2 . 2 . 1 .   O F D M   s ig na l m o de l   OFDM  i s   m u lt icar r ier   m o d u latio n   tech n iq u th a en ab le s   h i g h   d ata  r ates  a n d   r o b u s t n ess   a g ain s t   I SI.   T h b aseb an d   OFDM  s ig n al  is   g e n er ated   u s i n g   th i n v e r s d is cr ete  Fo u r ier   tr an s f o r m   ( I DFT )   [ 2 0 ] w h ic h   m ap s   f r eq u en c y - d o m ai n   m o d u latio n   s y m b o ls   to   t h ti m d o m ai n   as:     ( ) = 1 1 = 0 2 , 0    ( 1 )     w h er   d en o tes  th n u m b er   o f   s u b ca r r ier s ,     is   th tr an s m i t ted   s y m b o o n   th - t h   s u b ca r r ier ,     is   th e   f r eq u en c y   o f   t h - th   s u b ca r r ier   an d     is   th OF DM   s y m b o l d u r atio n .   A   c y cl ic  p r ef ix   ( CP )   is   in s er t ed   b y   co p y i n g   t h en d   o f   ea ch   s y m b o to   its   b eg in n in g   t o   m ai n tai n   o r th o g o n alit y   i n   m u ltip at h   ch a n n el s .   A t h r ec ei v er ,   th C P   is   r e m o v ed ,   an d   ch a n n el  e q u al izatio n   e n ab les  t h e   r ec o v er y   o f   tr a n s m itted   d ata  s y m b o ls .   A   s ig n i f ica n c h alle n g in   O FDM  i s   t h p r esen c o f   n o n - co n s ta n t   en v elo p e,   c h ar ac ter ized   b y   h i g h   p o w er   p ea k s   co m p ar ed   to   th a v er ag e   s i g n al  p o w er .   S p ec if icall y ,   as   th e   n u m b er   o f   s u b ca r r ier s     in cr ea s es,  t h s i g n a ( )   f o llo w s   co m p lex   Gau s s ia n   p r o ce s s   b ased   o n   th ce n tr al   li m it  t h eo r e m   ( C L T )   [ 2 1 ] .   T o   m ea s u r e,   th a m p l itu d f lu c t u atio n s   in   t h OF DM   s i g n al,   th p ea k   to   av er ag e   p o w er   r atio   is   co m m o n l y   e m p l o y ed .   T h P A P R   r atio   is   ex p r ess ed   as :     = 10  10 (  0  1 | ( ) | 2 [ | ( ) | 2 ] )   (2 )     w h er e,   { . }   is   th s tatis tical  ex p ec t atio n   o p er ato r ,   an d   ( )   is   th b ase b an d   OFDM  s i g n a l in   t h ti m e   d o m ai n .   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         Dee p   lea r n in g - b a s ed   p o w er a mp lifi er lin ea r iz a tio n   in   OF DM syst em s     ( Mer ye Ma mia   B en o s ma n )   3   T h p r o b ab ilit y   th at   th e   P A P R   ex ce ed s   g i v en   th r es h o ld   δ  i s   ch ar ac ter ized   u s in g   t h co m p l e m en tar y   cu m u lat iv d is tr ib u tio n   f u n ct i o n   ( C C D F):     [ ( ( ) ) ] =  [ ( ( ) ) >   δ]   ( 3 )     w h er  [ . ]   d en o tes  th p r o b a b ilit y   o p er ato r ,   an d     is   th P A P R   th r es h o ld .   A   lar g P A P R   ca n   d r iv n o n li n ea r   co m p o n en t s   s u c h   as  p o w er   a m p li f ier s   i n to   s atu r atio n ,   ca u s in g   s ig n al  d is to r tio n   an d   s p ec tr al  r eg r o w t h .     2 . 2 . 2 P o w er   a m p lifie m o del   ( R a pp   m o d if ied)   T h p o w er   a m p lifie r   is   a n   es s en tia co m p o n e n i n   t h tr an s m i s s io n   ch a in   a s   it  i s   r esp o n s ib le  f o r   a m p li f y i n g   th s ig n al.   I ts   b eh av io r   is   d escr ib ed   b y   it s   t r an s f er   f u n c tio n ,   w h ich   d ef in es  th r elatio n s h i p   b et w ee n   th in p u an d   o u tp u s i g n al s .   T h am p lit u d m o d u latio n   t o   am p lit u d m o d u latio n   ( A M / A M )   ch ar ac ter is tic  i n d icate s   h o w   t h a m p lit u d o f   th o u tp u s ig n a v ar ies  w it h   r esp ec to   th in p u s i g n al a m p lit u d e.   On   th e   o th er   h an d ,   AM /P ch ar ac ter is t ic  d escr i b es  th p h ase  s h if b et w ee n   t h i n p u t   an d   o u tp u t   s ig n al s   [ 2 2 ] .   T h am p li f ied   s i g n al  ca n   b ex p r es s ed   as:     ( ) = ( ( ) ) = ( ( ) ) ( ( ) +  ( ( ) ) )   ( 4 )     w h er e,   ( )   an d   ( )   ar e   r esp ec tiv el y   th m o d u l u s   an d   th p h a s o f   th s i g n al   ( ) ( . )   d escr ib es  th e   A M/ AM   co n v er s io n   a n d   ( . )   d escr ib es A M /P co n v er s io n   o f   th a m p lifie r .   I n   th is   s t u d y ,   th R ap p   m o d if i ed   m o d el   is   e m p lo y ed   to   r e p r esen th s ta tic  n o n li n ea r   b eh av io r   o f   th e   P A .   I ca p tu r e s   b o th   AM / AM   an d   A M/P d i s to r tio n s   as  f o llo w s .   Fi g u r e   1 ( a)   illu s tr ates  t h A M/ AM   ch ar ac ter is tic   o f   t h R ap p   m o d if ied   m o d el  an d   Fi g u r e   1 ( b )   s h o w s   A M /P ch ar ac ter is tics .       ( ( ) ) = ( ) ( 1 + ( ( )  ) 2 ) 1 2   ( 5 )     ( ( ) ) = ( ( ) ) 1 + ( ( ) )   ( 6 )     w h er e,   ( )   is   th m o d u l u s   o f   t h in p u OFDM  s ig n al,     is   th P A   g ain .   T h p ar am eter     a d j u s ts   th e   ch ar ac ter is tic  b y   co n tr o llin g   t h tr an s itio n   b et w ee n   th li n ea r   ar ea   an d   th s atu r atio n   ar ea   o f   th A M/ A M   ch ar ac ter is tic.      is   th s atu r ati o n   v o ltag o f   th P A .   T h   a n d     p a r am eter s   co n tr o th lev el  o f   p h ase   d is to r tio n   in tr o d u ce d   b y   t h P A .           ( a)   ( b )       Fig u r 1 .   C h ar ac ter is t ics o f   t h m o d if ied   R ap p   m o d el:  ( a)   AM /AM  co n v er s io n   a n d   ( b )   A M/P co n v er s io n       T h in p u b ac k - o f f   ( I B O )   is   an   i m p o r tan p ar a m eter   th at  d e f i n es  t h o p er atin g   p o in o f   th a m p lifie r   r elativ to   it s   s at u r atio n   lev el.   I is   e x p r ess ed   as  t h r atio   b e t w ee n   t h s a tu r atio n   p o w er      an d   th av er a g e   in p u p o w er .   A   h i g h er   I B v alu in d icate s   th at  t h a m p li f ier   o p er ates  in   m o r lin ea r   r eg i o n ,   en s u r in g   lo w er   d is to r tio n   b u r ed u ce d   p o w er   ef f icien c y ,   w h ile  lo w er   I B v alu i n cr ea s es  e f f icie n c y   at  th co s o f   s tr o n g er   n o n li n ea r   ef f ec t s .   T h I B is   m at h e m a ticall y   d ef i n ed   as:   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m un   C o m p u t E C o n tr o l ,   Vo l.  24 ,   No .   1 Feb r u ar y   20 26 1 - 1 3   4   (  ) = 10 l og 10 (  [ | ( ) | 2 ] )   ( 7 )     w h er e,      d en o tes th s atu r atio n   p o w er   o f   th  , [ | ( ) | 2 ]   d en o tes th a v er ag in p u t p o w er .     2 . 2 . 3 Cla s s ica m e m o ry   po ly no m i a l D P D   T o   co m p en s ate   f o r   P A   n o n lin ea r itie s ,   DP tec h n iq u es  ar ap p lied   b ef o r a m p lif ica tio n .   T h e   p r in cip le  is   to   in tr o d u c n o n lin ea r   i n v er s f u n ctio n ,   d e n o ted   as  ( . ) ,   s u ch   t h at  t h ca s ca d ( . ) ( . )   ( p r ed is to r ter   f o llo w ed   b y   a m p l if ier )   b eh av e s   ap p r o x i m atel y   l in ea r l y .   T h co n ce p t is d ep icted   in   Fig u r e   2.           Fig u r 2 .   Dig ital p r ed is to r tio n   m ec h a n i s m   f o r   p o w er   a m p li f i er   lin ea r izatio n       I n   th is   w o r k ,   th m e m o r y   p o ly n o m ia m o d el   i s   ad o p ted   as  clas s ical  b en c h m ar k   f o r   P lin ea r izatio n .   T h p r ed is to r ted   s i g n al   ( )   is   ex p r ess ed   as:      ( ) = , ( ) | ( ) | 1 = 1 , 3 , 5 , . . 1 = 0     ( 8 )     w h er e ,     d en o tes  th p o ly n o m i al  o r d e r ,     th m e m o r y   d ep th ,   an d   ,   th co m p le x   co ef f icie n t s   o b tain ed   v ia  least sq u ar es e s ti m a tio n   I n   th i m p le m e n ted   al g o r ith m ,   th b asi s   f u n ctio n s   ar b u ilt  f r o m   t h P A   o u tp u s i g n al,   an d   th e   co ef f icie n t s   ar o p ti m iz ed   to   ap p r o x im a te  th i n v er s o f   t h e   a m p lifie r s   n o n lin ea r   r esp o n s e.   T h is   ap p r o ac h ,   k n o w n   a s   m e m o r y   p o l y n o m ial  DP D,   o f f er s   g o o d   tr ad e - o f f   b et w ee n   p er f o r m a n ce   an d   co m p u tatio n al   co m p le x it y ,   m a k in g   it  w id el y   u s ed   in   p r ac tical  r ad io   f r eq u en c y   ( RF )   s y s te m s   [ 2 3 ] Ho w e v er ,   its   ef f ec ti v en e s s   d ec r ea s es  f o r   h ig h l y   n o n li n ea r   o r   m e m o r y - i n ten s i v P A s ,   m o tiv a tin g   th u s o f   d ee p   lear n in g b ased   DP D   ar ch itect u r es e x p lo r ed   in   th is   p ap er .     2 . 3 .   E nd - to - end lea rning   f o r   co m m u nica t io n sy s t e m s   Dee p   lear n i n g   h a s   e m er g ed   as   tr an s f o r m ati v to o i n   co m m u n icat io n   s y s te m s ,   o f f er i n g   th ab ilit y   to   m o d el  co m p lex   n o n li n ea r   r elatio n s h ip s   th r o u g h   d ata - d r iv en   lear n i n g .   R at h er   th a n   d esig n in g   ea ch   b lo ck   o f   th tr a n s m is s io n   ch ai n   s ep ar atel y ,   t h e n d - to - en d   lear n in g   p ar ad ig m   tr ai n s   th e   en t ir s y s te m   j o in tl y ,   f r o m   t h e   tr an s m i tter   to   th r ec ei v er ,   th r o u g h   d if f er en t iab le  m o d els.     T h co n ce p w as  f ir s in s p ir e d   b y   th s tr u ct u r o f   au to en c o d er s   A E s ,   w h er th e   en co d er   r ep r esen ts   th tr an s m i tter ,   th ch a n n el  ac ts   as  s to ch asti la y er   in tr o d u cin g   i m p air m e n t s ,   an d   th d ec o d er   r ep r ese n ts   th e   r ec eiv er .   T h n et w o r k   is   tr ai n ed   to   m i n i m ize  t h d i f f er e n ce   b et w ee n   t h tr an s m itted   a n d   r ec o v er ed   m es s ag e s ,   th u s   au to m atica l l y   lear n i n g   o p ti m al  s ig n al  r ep r esen ta tio n s   f o r   th g i v en   c h a n n el  a n d   h a r d war i m p air m e n ts .   R ec en t l y ,   s e v er al  n e u r al  DP f r a m e w o r k s   h a v b ee n   p r o p o s ed ,   in clu d i n g   C NN -   an d   L S T M - b ased   ar ch itect u r es  as  w e ll  as  te m p o r al  co n v o lu tio n al  n et w o r k s   ( T C N ) - DP D   f o r   m o d e lin g   P n o n li n ea r itie s   an d   m e m o r y   e f f ec t s   [ 2 4 ] ,   [ 2 5 ] .   Ho w e v er ,   m o s t o f   t h ese  ap p r o ac h es tr ea t p r ed is to r tio n   an d   eq u a lizatio n   as   s ep ar ate   task s .   I n   co n tr ast,  th p r o p o s ed   A E - OF D M - P A   f r a m e w o r k   j o in tl y   p er f o r m s   P A   lin ea r i za tio n   an d   ch an n el   co m p e n s at io n   in   a n   en d - to - e n d   lear n in g   p r o ce s s ,   p r o v id in g   en h an ce d   r o b u s t n ess   a n d   ad ap tab ilit y   w i th o u t   ex p licit C SI  m o d elin g .     2 . 3 . 1 Aut o enco der  princip le   An   au to e n co d er   is   ty p o f   n eu r al  n et w o r k   d esi g n ed   f o r   u n s u p er v is ed   en d - to - e n d   lear n i n g   [ 2 6 ] .   I t   lear n s   to   r ec o n s tr u ct  its   i n p u   at  th o u tp u ̂   af ter   p ass i n g   th r o u g h   b o ttlen ec k   r ep r ese n tati o n :     ̂ = σ ( 1 + )   ;   = 1 , ,   ( 9 )     w h er e,     an d     d en o te  th w eig h t   m atr i x   a n d   b ias  v ec to r ,   ( . )   is   t h e   ac tiv atio n   f u n ctio n   an d     th n u m b er   o f   h id d en   la y er s .   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         Dee p   lea r n in g - b a s ed   p o w er a mp lifi er lin ea r iz a tio n   in   OF DM syst em s     ( Mer ye Ma mia   B en o s ma n )   5   T h en co d er   ( )   m ap s   th i n p u d ata  in to   laten r ep r es en tatio n ,   w h ile  th d ec o d er   ( )   r ec o n s tr u ct s   it  as  p r esen ted   in   Fig u r e   3 .   C o m m o n   ac ti v atio n   f u n ctio n s   i n clu d th R eL U s ig m o id li n ea r ,   an d   So f tMa x   f u n ctio n s .   T r ain in g   ai m s   to   m in i m ize  t h e   ca te g o r ical   cr o s s - en tr o p y   lo s s :     ( , ̂ ) = l og ( ̂ )   ( 1 0 )     wh er e,     an d   ̂   ar th tr u a n d   p r ed icted   o n e - h o e n co d ed   s y m b o l s ,   r esp ec tiv e l y ,   Ne t w o r k   p ar a m eter s   ( , )   ar o p tim ized   u s i n g   s to ch as tic   g r ad ien t d escen t ( SGD)   [ 2 7 ] :     + =   ( , ̂ )   ( 1 1 )     T h tr an s m itter s   o u tp u is   co n s tr ain ed   to   s atis f y   av e r ag p o w er   o r   a m p litu d li m it s ,   s u c h   as   [ | ( ) | 2 ] 1 .   A s   ill u s tr ated   in   Fig u r e   4 ,   th is   s tr u ct u r allo w s   th au to en co d er   to   ac as  a   co m p lete   co m m u n icatio n   s y s te m ,   w it h   t h en co d er   f u n ctio n i n g   a s   th tr an s m itter ,   an d   t h d ec o d er   as th r ec eiv er .               Fig u r 3 .   A r ch itectu r o f   a n   a u to en co d er   f o r   laten t r ep r esen tat io n   lear n in g   Fig u r 4 .   Au to en co d er   ar ch ite ctu r f o r   en d - to - e n d   co m m u n icatio n   s y s te m   d esi g n       2 . 4 .   P r o po s ed  AE - O F DM - P f ra m ew o rk   W p r o p o s an   en d - to - e n d   au t o en co d er - b ased   OFDM  s y s te m   ( A E - O FDM - P A )   t h at  j o in tl y   m i tig a tes   n o n li n ea r   p o w er   a m p lif ier   d is t o r tio n s   an d   R a y lei g h   ch a n n el  ef f ec ts .   T h m o d el,   s h o w n   i n   Fig u r 5 ,   in teg r ates   an   A E - T ( en co d er )   an d   an   A E - R ( d ec o d er )   tr ain ed   to g eth er   t h r o u g h   en d - to - e n d   lear n in g .   A   m o d i f ied   R ap p   m o d el  is   u s ed   to   e m u l ate  P A   n o n li n ea r it y ,   w h i le  e m b ed d ed   p ilo s eq u e n ce s   al l o w   t h A E - R to   esti m ate  th c h an n el  i m p licitl y ,   eli m in ati n g   th n ee d   f o r   ex p licit  C SI  esti m atio n .   B y   lear n in g   f r o m   d ata,   th e   AE - OF DM - P A   s y s te m   co m p en s ate s   b o th   a m p litu d an d   p h ase  d is to r tio n s ,   ac h iev i n g   j o i n lin ea r izatio n   an d   ch an n el  eq u al izatio n .   T h is   d at a - d r iv e n   ap p r o ac h   en h a n ce s   r o b u s tn e s s   a n d   s p ec tr al  ef f icie n c y   co m p ar ed   w it h   co n v e n tio n al   DP m e th o d s   t h at  r el y   o n   e x p licit   P A   o r   c h an n el  m o d eli n g .   T h A E - O FDM - P A   m o d el  i n   Fig u r e   5   in cl u d es:   1.   On A E - T b lo ck   p er   s u b ca r r ier :   f o r   1 6 - QA m o d u lat io n   2.   r ea l/co m p le x   co n v er s io n   b lo ck : f o r   co n v er ti n g   m o d u lated   o u tp u t in to   co m p lex   s y m b o ls   3.   A   m o d u latio n   b lo ck   b y   in v er s f ast Fo u r ier   tr an s f o r m   ( I FF T ) : f o r   s y m b o m o d u latio n   4.   A   c y clic  p r ef i x   ad d itio n   b lo ck :   f o r   eli m i n ati n g   i n ter   s y m b o l i n t er f er e n ce   ca u s ed   b y   t h m u lt ip ath   ch an n el   5.   A   p o w er   a m p li f ier   ad d itio n   b lo ck   6.   p ar allel/s er ia co n v er s io n   b l o ck   7.   co m p le x /r ea co n v er s io n   b lo ck   8.   ch an n el  b lo ck R a y leig h   c h an n el  o n e - tap   9.   A   r ea l/co m p le x   co n v er s io n   b lo ck   10.   A   s er ial / p ar allel  co n v er s io n   b l o ck   11.   A   c y c lic  p r ef i x   r e m o v al  b lo ck   12.   A   F FT   d em o d u latio n   b lo ck   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m un   C o m p u t E C o n tr o l ,   Vo l.  24 ,   No .   1 Feb r u ar y   20 26 1 - 1 3   6   13.   An   eq u aliz at io n   b lo ck   f o r   ea ch   o u tp u t o f   th p r ev io u s   b lo ck   14.   A   co m p le x /r ea co n v er s io n   b lo ck   15.   An   A E - R b lo ck   f o r   ea ch   s u b ca r r ier : f o r   s y m b o l d e m o d u lat i o n ,   th is   b lo ck   h as t h s a m ar c h itect u r as  s in g le - ca r r ier   r ec eiv er   16.   p ar allel/s e r ia l c o n v er s io n   b l o ck : to   r ec o v er   th s eq u e n ce   o f   b in ar y   w o r d s .           Fig u r 5 .   Deta iled   s tr u ct u r o f   A E - OFD M - PA       2 . 4 . 1 Cha nn el  equa liza t io n   T o   en ab le  ch an n el  es ti m atio n   w it h i n   t h A E - R X,   p ilo s eq u e n ce s   ar i n s er ted   in to   t h OFD f r a m e.   T h ese  p ilo ts   ar k n o w n   to   b o th   tr an s m itter   an d   r ec eiv er ,   an d   ar o r th o g o n al  to   d ata  s y m b o ls   to   p r ev en in ter f er e n ce .   T h esti m a ted   ch an n el    is   o b tain ed   as:     =   |  | 2   ( 1 2 )     w h er e,     is   th esti m ate d   ch an n el,      an d      r ep r ese n th tr an s m itted   an d   r ec eiv ed   p ilo s y m b o ls ,   r esp ec tiv el y .   T h A E - R r ec ei v es  f o u r   i n p u ts ,   t h r ea an d   i m a g in ar y   p ar ts   o f   t h r ec eiv ed   s i g n al ( , ) ,   an d   th r ea an d   i m a g in ar y   p ar ts   o f   th e s ti m ated   ch a n n e l   ( , ) ,   as  d ep icted   in   Fig u r e   6 .   T h is   co n f ig u r atio n   en ab les  t h A E - R to   j o in tl y   co r r ec am p lit u d a n d   p h ase  d is to r tio n s   b y   lear n in g   to   e x p lo it  th e   i m p lic it  C SI   r ath er   th a n   r el y i n g   o n   ex p licit  an al y tical  ch a n n el  m o d els .   Du r in g   tr ai n in g ,   th a u to en c o d er   is   f ed   w ith   b atc h es  o f   s ize  eac h   co n tain in g   OFD f r a m e s   au g m e n ted   w ith   id e n tical  p il o s eq u en ce s   ac r o s s   all  s u b ca r r ier s .   Gr ad ien ts   ar co m p u te d   f o r   ea ch   b atch   to   u p d ate  th n et w o r k   p ar a m ete r s   ( , )   v ia  s to c h asti g r ad ien d es ce n t,  en s u r i n g   s tab le  co n v er g en ce   an d   co n s is ten c h a n n el  co m p en s ati o n ,   as  ill u s tr ated   i n   Fi g u r e   7 .   On ce   tr ai n ed ,   th A E - OFD M - P A   s y s te m   e x h ib its   lin ea r ized   en d - to - e n d   tr an s f er   f u n ctio n   t h at  e f f ec tiv e l y   co m p e n s ates  f o r   b o th   P A   n o n lin ea r it y   an d   ch a n n el   d is to r tio n s   w it h o u t   ex p licit   C SI   m o d elin g .   T h is   d ata - d r iv en   lear n in g   ap p r o ac h   en h an ce s   r o b u s tn es s   an d   ad ap tab ilit y   co m p ar ed   to   tr a d itio n al  DP m et h o d s   th at  d ep en d   o n   ac cu r ate  an aly tical   m o d els  o r   ex p licit  ch an n el  i n f o r m atio n .   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         Dee p   lea r n in g - b a s ed   p o w er a mp lifi er lin ea r iz a tio n   in   OF DM syst em s     ( Mer ye Ma mia   B en o s ma n )   7           Fig u r 6 .   P r in cip le  o f   ch an n el  eq u aliza tio n   Fig u r 7 .   Stru ct u r o f   th p ilo t s   in   t h b atch s ize       3.   RE SU L T S   AN D DI S CU S S IO   T h tr ain in g   d ataset  u s ed   in   th is   s t u d y   w as  e n tire l y   g en er ated   th r o u g h   n u m er ical  s i m u latio n s   in   P y t h o n ,   u s in g   T en s o r Flo w   a n d   Ker as  l ib r ar ies.  T h s i m u lated   d ataset   is   b ased   o n   an   O FDM  s y s te m   co m p r is in g   6 4   s u b ca r r ier s   an d   C P   len g t h   o f   8 ,   m o d u lated   w it h   1 6 - Q AM   s y m b o ls .   T h s i g n al  p as s es t h r o u g h   o n e - tap   R a y lei g h   f ad in g   ch an n el  an d   n o n li n ea r   p o w er   am p li f ier   P A   m o d eled   b y   th m o d i f ied   R ap p   m o d el.   T h e   a m p l if ier   p ar a m eter s   ar e:   =1 6 ,    =1 . 9 ,   =1 . 1 ,   =4 ,   =3 4 5 ,   an d   =0 . 1 7 .   A   to t al  o f   1 , 0 2 4 , 0 0 0   O FDM   s y m b o ls   w e r g en er ated   f o r   tr ain in g ,   o r g a n ized   in   b atch es  o f   8 , 0 0 0   s am p les  ea ch .   T h A E - OFDM - PA   n et w o r k   w as tr ai n ed   o v er   5 0 0   ep o ch s   u s in g   t h A d a m   o p ti m izer .   Fo r   g en er aliza tio n   an d   test in g ,   5 0 0 0   OFDM  s y m b o ls   w e r tr an s m it ted   o v er   5 , 0 0 0   in d ep en d en t   R a y l e ig h   c h an n el  r ea lizat io n s ,   an d   all  p er f o r m a n ce   m etr ics   ar av er ag ed   ac r o s s   t h ese  r ea l izatio n s   to   e n s u r e   s tatis t ical  r eliab ilit y .   I n   ad d iti o n ,   th p e r f o r m an ce   o f   t h p r o p o s ed   A E - OFDM - P A   s y s te m   w a s   co m p ar ed   w it h   co n v en t io n al  m e m o r y   p o l y n o m ial  ( MP )   d ig ital  p r ed is to r tio n   ( OFDM - DP D)   ap p r o ac h ,   co n f i g u r ed   w ith   a   p o ly n o m ia l o r d er   o f   7   an d   m e m o r y   d ep th   o f   1 .   T h is   s y n t h etic  d ataset  e n s u r es   f u l co n tr o o v er   b o th   ch an n el  an d   P A   ch ar ac ter is t ics,  g u ar an teein g   r ep r o d u cib ilit y   an d   en ab li n g   f air   co m p ar is o n   b et w ee n   th p r o p o s ed   d ee p   lear n in g b ased   p r e d is to r tio n   s ch e m an d   t h clas s ical  MP - DP m e th o d .     T ab le   1   p r esen ts   th p ar a m eter s   o f   th A E - OFDM - P lay er s   an d   t h co r r esp o n d in g   tr ai n i n g   co n f i g u r atio n .   T h is   s y n th e tic  d ataset  allo w s   f u ll  co n tr o o v er   b o th   ch an n el  an d   P A   c h ar ac ter is tics ,   e n s u r in g   r ep r o d u cib ilit y   an d   en ab li n g   p er f o r m a n ce   ass e s s m e n o f   th p r o p o s ed   A E - O FDM - P A   m o d el  u n d er   v ar io u s   n o n li n ea r   an d   f ad i n g   c o n d itio n s .         T ab le  1 .   A r ch itect u r o f   th p r o p o s ed   A E - OF DM - P A   m o d el   L a y e r   N u mb e r   o f   n e u r o n s   L a y e r   t y p e   A c t i v a t i o n   f u n c t i o n   I n p u t   l a y e r   /   L a mb d a   /   H i d d e n   l a y e r s (2 )   1 6 0   p e r   l a y e r   D e n se   R e L U   N o r mal i z a t i o n   /   B a t c h   n o r mal i z a t i o n   L i n e a r   C o n v e r si o n   r e a l / c om p l e x   2   p e r   l a y e r   D e n se   /   I F F T   /   L a mb d a   /   A d d   C P   /   L a mb d a   /   PA   /   L a mb d a   /   R a y l e i g h   c h a n n e l   /   L a mb d a   /   S u p p   C P   /   L a mb d a   /   FFT   /   L a mb d a   /   H i d d e n   l a y e r s (2 )   1 6 0   p e r   l a y e r   D e n se   R e L U   O u t p u t   l a y e r   1 6   p e r   l a y e r   D e n se   S o f t max       3 . 1 .     Co ns t ella t io n r esu lt s   T h co n s tellatio n   a n al y s i s   in   Fig u r 8   co m p ar es  t h p r o p o s ed   A E - OFDM - P A   s y s te m   ( Fi g u r 8 ( a) )   w it h   th e   co n v en t io n al  OFDM - DP s c h e m ( Fi g u r 8 ( b ) )   u n d er   h ig h l y   n o n li n ea r   co n d i tio n ,   w h er t h P o p er ate s   n ea r   s atu r at io n   ( I B O= 3   d B ) .   I n   th co n v e n tio n a OFDM - DP s y s te m ,   t h o b j e ctiv i s   to   p r eser v e   th s ta n d ar d   1 6 - Q A co n s te llatio n   at  th P A   in p u ( b lu p o in ts ) .   T h DP D   b lo ck   co m p e n s ates  f o r   th e   n o n li n ea r   b eh av io r   o f   th a m p lif ier ,   i m p r o v i n g   t h r ec eiv ed   co n s tellat io n   ( g r ee n )   co m p ar ed   w i th   th s e v er el y   d is to r ted   o u tp u af ter   th P A   an d   ch an n el  ( r ed ) .   H o w ev er ,   th is   ap p r o ac h   d ep en d s   o n   ac c u r ate  P A   m o d elin g   an d   ac ts   as a n   e x ter n al  co r r ec tio n   m o d u le.   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m un   C o m p u t E C o n tr o l ,   Vo l.  24 ,   No .   1 Feb r u ar y   20 26 1 - 1 3   8   I n   co n tr ast,  th A E - OFDM - P A   f r a m e w o r k   e m p lo y s   an   en d - to - en d   lear n i n g   s tr ateg y   th at  j o in tl y   o p tim izes  tr an s m is s io n   a n d   r ec ep tio n .   T h A E - T lear n s   n o n - s ta n d ar d   co n s tellatio n   at  th tr an s m i tter   ( b lu e)   th at  is   i n h er e n tl y   r o b u s to   n o n li n ea r ities ,   w h ile  th A E - R r ec o n s tr u ct s   clea n   1 6 - Q A M - li k e   co n s tellat io n   ( g r ee n )   at  th r e ce iv er   d esp ite  s tr o n g   d is to r tio n   ( r ed ) .   T h is   b eh av io r   d em o n s tr ates  th a th A E - OFDM - P A   n o o n l y   co m p en s ates  f o r   P A   a n d   ch an n el  i m p air m en ts   b u al s o   lear n s   to   a d ap its   m o d u latio n   s ch e m to   m a x i m ize  r o b u s tn e s s   u n d er   h ar s h   n o n li n ea r   co n d itio n s   s u ch   as  I B O= 3   d B .   T h ese  f in d i n g s   co n f ir m   th ef f ec ti v e n ess   o f   t h j o i n A E - T X/ A E - R o p ti m izat io n   in   m i tig a tin g   n o n li n ea r   d is to r tio n s   w it h o u t   r eq u ir in g   e x p licit P A   m o d eli n g .         ( a)       ( b )     Fig u r 8 .   C o n s tel latio n   co m p a r is o n   o f   ( a)   A E - OF DM - P A   a n d   ( b )   OFDM - DP D       3 . 2 .     B lo ck   er ro ra t ( B L E R )   re s ults   A   d etaile d   co m p ar is o n   o f   t h B L E R   p er f o r m a n ce   w as  ca r r i ed   o u am o n g   t h p r o p o s ed   A E - OFDM - P A   s y s te m ,   th co n v en tio n al  OFDM  an d   OFDM - P A   s ch e m es,  an d   th r ef er en ce   O FDM - DP ap p r o ac h .   T h r esu lt s ,   p r esen ted   i n   Fi g u r 9 ,   ass ess   t h r o b u s t n e s s   o f   t h ese  s y s te m s   u n d er   s e v e r n o n lin ea r   d is to r tio n   co n d itio n s ,   w it h   t h P A   o p er atin g   at  a n   I B o f   3   d B .   T o   en s u r h i g h   s tatis tical  ac cu r ac y ,   t h s i m u latio n   s e tu p   w a s   r ef i n ed   to   en ab le  r eliab l B L E R   esti m atio n   d o w n   to   1 0 ⁻⁵.   T h OFDM - P A   c u r v ( r ed )   s h o w s   clea r   p er f o r m a n ce   d eg r ad atio n   d u e   to   th a m p lifie r s   n o n li n ea r it y ,   r ea ch i n g   an   er r o r   f lo o r   ab o v 3 ×1 0 ⁻²  at  h ig h   E b /N0   v alu es.   I n   co n tr ast,  th OFDM - DP s y s te m   ( g r ee n )   ef f ec ti v el y   co m p e n s ate s   f o r   th ese  n o n li n ea r ities ,   ac h iev in g   p er f o r m a n ce   co m p a r ab le  to   th id ea OFDM  r ef er en ce   ( m ag e n ta) ,   w h ic h   r ep r esen ts   t h u p p er   b o u n d   f o r   li n ea r izatio n .   T h p r o p o s ed   A E - O FDM - P A   m o d e ( c y a n )   ex h ib it s   s tr o n g   ab ili t y   to   m it ig ate   b o th   n o n li n ea r   an d   ch an n el - i n d u ce d   im p air m en t s .   At   / 0 =2 0   d B ,   it   a ch iev e s   B L E R   o f   ap p r o x i m a tel y   5 ×1 0 ⁻⁴,   co r r esp o n d in g   to   m o r th a n   7 0 - f o ld   i m p r o v e m e n o v e r   th u n co m p e n s ated   OFDM - P A .   A lt h o u g h   it s   p er f o r m a n ce   d o es  n o ex ac tl y   m atc h   t h at  o f   t h a n al y tic all y   m o d eled   DP D,   th e   A E - OFDM - P A   r e m ai n s   h ig h l y   co m p et iti v e.   A tar g e B L E R   o f   1 0 ⁻³,   it  r eq u ir es   o n l y   ab o u 2   d B   h i g h e r   E b /N0   th a n   t h o p ti m ized   OFDM - DP r ef er en ce .   T h ese   f i n d in g s   v alid ate  t h ca p ab ilit y   o f   t h p r o p o s ed   en d - to - e n d   l ea r n in g   f r a m e w o r k   to   p r eser v s ig n al  in teg r it y   a n d   co n f ir m   t h at  d ee p   lear n in g - b a s ed   co m p en s atio n   ca n   s e r v as  r o b u s an d   m o d el - f r ee   alter n at i v to   tr ad itio n al  DP m et h o d s .     Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         Dee p   lea r n in g - b a s ed   p o w er a mp lifi er lin ea r iz a tio n   in   OF DM syst em s     ( Mer ye Ma mia   B en o s ma n )   9       Fig u r 9 .   B L E R   p er f o r m a n ce   f o r   d if f er e n t O FD M - b ased   s y s te m s       3 . 3 .     Ana ly s is   o f   po w er   s pect ra l dens it y   a nd   a dja ce nt  cha nn el  lea k a g ra t io     T h p er f o r m a n ce   o f   t h A E - O FDM - P A   s y s te m   w a s   al s o   ev alu a ted   in   t h f r eq u en c y   d o m a i n   u s i n g   t w o   k e y   s p ec tr al  m e tr ics:   t h p o w er   s p ec tr al  d en s i t y   ( P SD)   an d   th ad j ac en c h an n el  lea k ag r atio   ( AC L R ) .   As  s h o w n   in   Fi g u r 1 0 ,   t h P SD  r ev ea l s   t h i m p ac o f   th P A   n o n li n ea r it y   o n   s p ec tr al  s p r ea d in g   u n d er   t h e   ch alle n g i n g   I B =   3   d B   co n d itio n .   I n   th co n v e n tio n al   OFDM - P A   s y s te m ,   s tr o n g   n o n li n ea r it y   ca u s e s   s ig n i f ica n s p ec tr al  r eg r o w t h ,   r aisi n g   t h o u t - of - b an d   n o i s f lo o r   to   ab o u −1 0 . 5   d B / Hz  ( at  n o r m alize d   f r eq u en c y   ± 0 . 4 ) .   W h en   co n v e n tio n al  D P b ased   o n   m e m o r y   p o l y n o m ial  m o d el  is   ap p lied ,   a   s l ig h t   r ed u ctio n   i s   o b s er v ed ,   i m p r o v in g   t h o u t - of - b an d   le v el   to   ap p r o x i m atel y   −1 4   d B /Hz.   Ho w e v er ,   t h i s   i m p r o v e m en t r e m ai n s   li m ited ,   p ar ticu lar l y   f o r   s ig n als e x h ib itin g   m e m o r y   e f f ec ts .   I n   co n tr ast,  th p r o p o s ed   A E - OF DM - P A   s y s te m   e f f e ctiv el y   s u p p r ess e s   s p ec tr al  r eg r o w th ,   m ai n tai n in g   t h o u t - of - b an d   l ev el  clo s to   −2 0   d B /Hz,   w h ich   is   n ea r l y   id e n tical  to   th at   o f   an   id ea lin ea r   s y s te m .   T h is   r ep r esen ts   a n   i m p r o v e m en t o f   ab o u t 9 . 5   d B   o v er   th u n co m p en s ated   OFDM - P A   an d   n ea r l y   6   d B   o v er   th co n v en t io n al  DP D.   T h ese  r esu lts   d e m o n s tr ate  th a th au to e n co d er   is   ca p ab le  o f   lear n i n g   s ig n a l   r ep r esen tatio n   t h at  i n h er e n tl y   m i n i m izes sp ec tr al  d is to r tio n   d esp ite  h ar d w ar n o n li n ea r itie s .   T h A C P R   r e s u l ts ,   s h o w n   in   Fig u r 1 1 ,   f u r t h er   co n f ir m   th e s f i n d i n g s .   T h v er tical  a x is   r e p r esen t s   th AC P R   m ea s u r ed   in   d B   at   th P A   o u tp u t,  w h ile  t h h o r izo n tal  ax is   co r r esp o n d s   to   th d if f er e n OFD M - b ased   tr an s m is s io n   s c h e m es.   T h u n co m p en s ated   OF DM - P s y s te m   e x h ib its   th e   s tr o n g es d eg r ad atio n   ( −1 2 . 5   d B ) ,   w h ile  t h co n v e n tio n al  DP ac h ie v es  o n l y   m o d er ate  im p r o v e m en ( −7 . 0   d B ) .   B y   co m p ar i s o n ,   th A E - O FDM - P A   s y s te m   ac h iev e s   an   A C L R   o f   ap p r o x im atel y   −1 8 . 5   d B ,   co r r esp o n d in g   to   g a in s   o f   ab o u 6   d B   an d   1 1 . 5   d B   o v er   th OFDM - P A   a n d   DP s y s te m s ,   r esp ec tiv el y .               Fig u r 1 0 P SD p er f o r m an ce   f o r   d if f er en t O FDM - b ased   s y s te m s   Fig u r 1 1 .   C o m p ar is o n   o f   AC P R   p er f o r m a n ce   h ig h li g h ti n g   A E - O FDM - P A   a n d   OFDM - DP s ch e m es       Ov er all,   th ese  s p e ctr al  r esu l ts   co n f ir m   th a th A E - O FDM - P A   ap p r o ac h   n o o n l y   r ed u ce s   s p ec tr al  r eg r o w t h   to   n ea r - id ea lev e ls   b u also   p r o v id es  th h ig h e s m ea s u r ab le  g ai n   in   A C L R .   T h is   m ak e s   it  m o r r o b u s an d   s p ec tr all y   ef f ic ien t   alter n ativ to   co n v en t io n al  li n e ar izatio n   tec h n iq u es.  I s h o u ld   b n o ted   th at  all   r esu lt s   w er o b tain ed   f r o m   s i m u latio n s   w it h o u h ar d w ar e - in - th e - lo o p   o r   r ea P A   m ea s u r e m en ts .   F u t u r w o r k   w il f o cu s   o n   ex p er i m en tal  v alid atio n   u s i n g   R h ar d w ar an d   ex ten s io n s   to   m o r co m p le x   s ce n ar io s ,   in c l u d in g   a m p li f ier s   w it h   m e m o r y   e f f ec t s ,   m u lt ip le - i n p u m u ltip le - o u tp u t   ( MI MO )   co n f i g u r atio n s ,   a n d   w id eb an d   f ad in g   ch a n n els.     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m un   C o m p u t E C o n tr o l ,   Vo l.  24 ,   No .   1 Feb r u ar y   20 26 1 - 1 3   10   3 . 4 .     Ana ly s is   o f   t he   CCDF   a nd   P AP R     Fig u r 1 2   p r esen ts   th C C DF ,   k e y   m etr ic  u s ed   to   ass es s   th s y s te m s   P A P R   a n d   its   r esil ie n ce   to   p o w er   c o m p r ess io n .   T h r esu lts   s h o w   t h at  i n tr o d u ci n g   a n   en d - to - en d   lear n in g   ap p r o ac h   w it h   au to en co d er   n et w o r k s   d o es  n o ad v er s el y   af f ec th P A P R   p er f o r m a n ce .   T h A E - O FDM  ( b lu e)   an d   c o n v e n tio n al  OFDM   ( m ag e n ta)   cu r v es  ar n ea r l y   i d en tical,   b o th   ex h ib iti n g   P AP R   o f   ap p r o x i m atel y   1 0 . 2   d B   at  p r o b a b ilit y   o f   1 0 ⁻³.   T h is   o b s er v atio n   co n f ir m s   th at   th e   AE - OFDM - PA   d esig n   p r eser v e s   t h i n tr i n s ic  p o w er   ch ar ac ter i s tics   o f   th tr an s m itted   s i g n al.           Fig u r e   12 .   C C DF o f   P A P R   f o r   d if f er e n t O FDM - b ased   s y s te m s       3 . 5 .   Co m p uta t io n a co m ple x i t y   a na ly s is   T ab le   2   p r esen ts   th co m p le x i t y   an al y s is   o f   t h A E - O FDM - P A   s y s te m .   T h ev alu atio n   co n s id er s   t h n u m b er   o f   tr ain ab le  p ar am et er s   ( m e m o r y   co s t)   an d   th f lo ati n g - p o in o p er atio n s   ( FLOP s ,   r ep r esen tin g   ex ec u t io n   co s t)   as s o ciate d   w i t h   th n e u r al  n et w o r k   la y er s ,   wh ich   d e f i n th m o d el s   m a in   co m p u tatio n al  lo ad .   T h to tal  co m p lex i t y   o f   t h A E   is   o b tai n ed   b y   s u m m i n g   i ts   e n co d er   an d   d ec o d er   co m p o n en t s ,   r es u lti n g   in   ap p r o x im a tel y   6 6 . 8 8   th o u s a n d   FL OP s   p er   OFDM  s y m b o l d u r in g   i n f er en ce   a n d   5 7 , 9 3 8   tr ai n ab le  p ar a m eter s .       T ab le  2   C o m p u tatio n al  co m p l ex it y   o f   t h p r o p o s ed   A E - OF DM - P A   n et w o r k   L a y e r   I n p u t   si ze     O u t p u t   s i z e      M u l t i p l i c a t i o n s ( f l o p s)   T r a i n a b l e   p a r a me t e r s   AE - Tx   D e n se   1   16   1 6 0   2 5 6 0   2 7 2 0   D e n se   2   1 6 0   1 6 0   2 5 6 0 0   2 5 7 6 0   D e n se   3   1 6 0   2   3 2 0   3 2 2   AE - Rx   D e n se   4   64   1 6 0   1 0 2 4 0   8 0 0   D e n se   5   1 6 0   1 6 0   2 5 6 0 0   2 5 7 6 0   D e n se   6   1 6 0   16   2 5 6 0   2 5 7 6   T o t a l   p e r   O F D M   sy mb o l   66 . 88   K   f l o p s   5 7 9 3 8       No n - n e u r al  o p er atio n s ,   s u c h   a s   th I FF T ,   P A ,   an d   FF T ,   ar e   ex clu d ed   f r o m   th i s   an al y s is   s in ce   th e y   co n tain   n o   tr ain ab le  p ar a m e ter s   an d   ar co m m o n   to   all  OFDM - b ased   s y s te m s .   C o m p ar ed   w it h   t h e   co n v e n tio n al  DP ap p r o ac h ,   th A E - OFDM - P A   ex h ib i ts   h i g h er   co m p u tat io n al  co s b u ac h ie v e s   s ig n i f ica n tl y   i m p r o v ed   p er f o r m an ce   ac r o s s   all  k e y   m etr ics,  i n clu d i n g   B L E R ,   AC L R ,   a nd   P A P R .   A lt h o u g h   t h DP i s   co m p u t atio n all y   li g h t w ei g h t,  r el y i n g   o n   o n l y   f e w   p o l y n o m ial  co ef f icien ts ,   th A E   u s es  its   ad d itio n a co m p lex i t y   s tr ateg icall y   to   p er f o r m   en d - to - e n d   j o in o p ti m izati o n .   T h is   allo w s   it  t o   h an d le  b o th   m o d u lat io n   d esi g n   a n d   P A   l i n ea r izatio n   s i m u lta n eo u s l y .   De s p ite  b ein g   b u ilt  w i th   m o d est   ar ch itect u r b ased   o n   d e n s la y er s ,   t h p r o p o s ed   m o d el  r e m ai n s   a m o n g   th e   least   co m p lex   d ee p   lear n i n g   s o lu tio n s   at  th p h y s ical  l a y e r ,   av o id in g   th h ea v y   co m p u tatio n al  lo ad   t y p icall y   a s s o ci ated   w it h   r ec u r r en t   n eu r al  n e t w o r k   ( R NN )   o r   t r a n s f o r m er - b ased   d esig n s   [ 2 8 ] .   T h is   b alan ce d   tr ad e - o f f   b et wee n   co m p lex i t y   an d   p er f o r m a n ce   j u s t if ies  t h A E s   ad o p tio n ,   o f f er i n g   s u p er io r   s p ec tr al  ef f icie n c y ,   r o b u s t n e s s ,   an d   n o n li n ea r it y   m iti g atio n   w h i le  m ai n tai n i n g   p r ac tical  co m p u tatio n al  f ea s ib ilit y .     Evaluation Warning : The document was created with Spire.PDF for Python.