I n d on e s i an   Jo u r n al   o f  El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   20 ,   N o .   3 ,  D e c e m b e r   20 20 ,   pp .   1584 ~ 1590   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 20 .i 3 . pp 158 4 - 1590             1584       Jou r n al   h o m e pa ge :  ht t p: / / i j e e c s . i a e s c or e . c om   B e st   n e u r a l   s i m u l t a n e o u s   a p p r o x i m a t i o n       H aw r a a  A b b as   A l m u r i e b ,  Em an   S .   B h a ya   D e pa r t m e n t   o f   M a t he m a t i c s ,   C o l l e g e   o f   E duc a t i o n  f o r   P ur e   S c i e nc e s ,   U ni v e r s i t y   o f   B a b y l o n ,   I r a q       A r ti c l e   I n fo     A B S TR A C T     Ar t i c l e   h i s t or y :   R e c e i v e d  J a n   14 ,   2 0 20   R e v i s e d  A pr   28 ,   2020   A c c e pt e d  J un   2 ,   2020       F o r   m a ny   y e a r s ,   a ppr o x i m a t i o n  c o nc e pt s   h a s   be e n   i nv e s t i g a t e d  i n  v i e w   o f   ne ur a l   ne t w o r ks   f o r   t he   s e v e r a l   a ppl i c a t i o ns   o f   t he   t w o   t o pi c s .   R e s e a r c he r s   s t ud i e d  s i m u l t a n e o us   a pp r o xi m a t i o n  i n  t he   2 - no r m e d  s p a c e   a n d  pr o v e d   e s s e nt i a l   t he o r e m s   c o nc e r n  w i t h  e xi s t e nc e ,   un i que ne s s   a nd  de g r e e   o f   be s t   a ppr o xi m a t i o n.   H e r e ,   w e   de f i ne   a   n e w   2 - no r m   i n    - s pa c e ,   w i t h   < 1 ,     s o   w e   c a l l   i t      qua s i   2 -   no r m e d   s p a c e   ( , 2 ) .   T he   s e t   o f   a pp r o xi m a t i o ns   i s   a   s pa c e   o f   f e e df o r w a r d  ne u r a l   n e t w o r ks   t ha t   i s   c o ns t r uc t e d   i n  t hi s   pa p e r .  E xi s t e nc e   a nd   un i qu e ne s s   o f   be s t   ne u r a l   a ppr o xi m a t i o n  f o r   a   f unc t i o n  f r o m   , 2   i s   p r o v e d,   d e s c r i bi ng   t h e   r a t e   o f   be s t   a p pr o xi m a t i o n  i n  t e r m s   o f   m o dul us   o f   s m oo t hne s s .   Ke y w or d s :   2 - n o r m e d   s pa c e     A ppr o xi m a t i o n   N e ur a l   n e t w o r ks   C opy r i gh t   ©   20 20   I n s t i t ut e   o f   A dv anc e d  E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   H a w r a a   A b b a s   A l m u ri e b ,   D e pa rt m e n t   o f   M a t h e m a t i c s ,   U n i v e r s i t y   of   B a by l o n ,   I r a q .   E m a i l :   pu r e . ha w r a a . a b b a s @ uo b a by l o n . e du. i q       1.   I N TR O D U C TI O N     T h e   f i r s t   n o t e s   a b o ut   s i m ul t a n e o us   a pp r o xi m a t i o n   w a s   do n e   by   D un ha m   i n   [1] .   H e   ge n e r a t e d     t h e   c l a s s i c a l   C h e by s h e v   a ppr o xi m a t i o n  by   a ppr o xi m a t i n g  t w o   c o n t i n uo us   f un c t i o n s   +   a n d   − ,    w i t h   + ( ) ≤ − ( ) ,   f o r   a l l   ∈ [ , ] ,   s i m ul t a n e o us l y .   H e   a l s o   pr o v e d  t ha t   h i s   s i m u l t a n e o us   a pp r o xi m a t i o n  i s   e qui v a l e n t   t o   t h e   c l a s s i c a l   o n e   f un c t i o n   C h e by s h e v   a pp r o xi m a t i o n  w h e n   + = − .   F o r   m o r e   s pe c i f i c a t i o n,   D i a z   a n d  M c l a ug hl i n   [2]   p r o v e d  t ha t   t h e   a b o ve   pr o b l e m   i s   e qui v a l e n t   t o     t h e   p r o b l e m   o f   a pp r o xi m a t i ng     1 2 | + + − | .   A l s o   a pp r o xi m a t i ng  t w o   a ppr o p r i a t e   f u n c t i o n s   s i m ul t a n e o us l y   i s   e qui v a l e n t   t o   a pp r o xi m a t i n g   o n e   f un c t i o n  by   e l e m e n t s   o f     a   c e r t a i n  s e t   .   M o r e o v e r ,   t h e y   de f i n e d  t h e   b e s t   s i m ul t a n e o us   a p p r o xi m a t i o n   t o   t h e   s e t     i n   [ 3]   a s   f o l l ow     i n f ∈ su p ∈ ℱ ‖ − s ‖ = su p ∈ ℱ ‖ − ‖ ,       w h e r e   ℱ   i s   a   s e t   o f   uni f o r m l y   bo un de d  f u n c t i o n s   o n  [ , ]   a n d     i s   a   s e t   o f   f un c t i o n s   o n  [ , ] .   T h e y   pr o v e d   t h a t     i s   e qu i v a l e n t   t o   t h e   b e s t   s i m ul t a n e o us   a pp r o xi m a t i o n  o f   t w o   f un c t i o n s .   T h e   s e t   ℱ   v a ri e s   a m o ng   r e s e a r c h e r s ,   i t   i s   [ , ]   i n   [4 ]   a n d  [5] ,   t h e   s p a c e   o f   un i f o r m l y   bo unde d  f un c t i o n s   i n  [6] ,   B a na c h  s pa c e   i n  [7] ,  w e i ght e d  s pa c e   [8] ,   L p  s pa c e s   [4]   o r  2 - n o rm e d  s p a c e   a s   i n   [9 - 16] .     T h e   2 - n o r m e d  s pa c e   w a s   f i r s t l y   de f i n e d  by   G a h l e r   i n   hi s   pa p e r     [9] ,   a n d  t h e n   ge n e ra l i z e d  by   Is e ki   i n   hi s   pa pe r   [1 7] .   T hi s   s pa c e   pr o v i de s   a   t o o l   t o   de a l   w i t h   2 - s t r uc t u r e s .   F o r   t h e   s a m e   po rpus e ,   o t h e r s   de f i n e d     qua s i - n o r m e d  ,   q ua s i - ( 2; p) - n o rm e d  s pa c e   a n d   ge n e ra l i z e d  e a c h  o n e   (s e e   [18 ,  19] ).   F i r s t ,   w e   de f i n e     t h e   2 - n o rm e d  s p a c e   ge n e r a l l y   f r o m   [1]   D e fi n i t i o n   (1)  A   n o rm   ‖ ∙ , ∙ ‖ : × → +   i s   2 - n o r m   o n  X   i f   i t   s a t i s f i e s   t h e   f o l l ow i n g  c o n d i t i o n s :   [C1]   ‖ 1 , 2 ‖ = 0 ,   i f   a n d   o n l y   i f   1 , 2   a r e   l i n e a r l y   de pe n de nt   f r o m   X .   .   [C2]   ‖ 1 , 2 ‖ = ‖ 2 , 1 , ‖   ,   fo r   a l l   1 , 2   f r o m   X .   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       B e s t   n e ur al   s i m ul t an e ous   appr ox i m at i on   ( H a w r aa  A bbas   A l m ur i e b)   1585   [C3]   ‖ 1 , 2 ‖ = | | ‖ 1 , 2 ‖ ,   fo r   a l l   ∈   a n d   1 , 2 ∈ X   [C4]   ‖ 1 + 2 , ‖ ≤ ‖ 1 , ‖ + ‖ 2 , ‖ ,   f o r   a l l   1 , 2 , ∈ .   T h e   s pa c e   ( X , ‖ ∙ , ∙ ‖ )   i s   c a l l e d   2 - n o r m e d  s p a c e .   L a t e r,   P a r k   [18]   s ub s t i t ut e   [C4]   w i t h  t h e   f o l l ow i ng   c o n di t i o n   [C4*]  ‖ 1 + 2 , ‖ ≤ { ‖ 1 , ‖ + ‖ 2 , ‖ } ,   f o r   a l l   1 , 2 , ∈ .     In  t hi s   pa pe r,   w e   de a l   w i t h   2 - n o r m e d  s p a c e   w i t h   a   s pe c i a l   de f i ni t i o n   t h a t   de a l s   w i t h     L e b e s gu e - i nt e gra b l e   s pa c e     [ , ] = { : ∫ | ( ) |  < ∞ }         T hr o ug h   t h i s   pa pe r,   w e   r e f e r   , 2   t o   t h e   s pa c e   [ , ] × [ , ]   i n   t h e   f o l l ow i n g   m a nn e r     , 2 [ , ] = { : ∫ | ( ) ( ) |  < ∞ , f o r   e v e r y   ∈ }   (1)     T o ge t h e r   w i t h  t h e   n o n - n e a g a t i v e   f un c t i o n  ‖ ∙ , ∙ ‖   o ve r   t h e   v e c t o r   s p a c e   , 2   a s   f o l l ow     ‖ , ‖ = ( ∫ | ( ) ( ) |  ) 1 ⁄ ,   (2)     fo r   a n y   f un c t i o n     a n d    f r o m   , 2 .   T h e   s pa c e   , 2 [ , ]   i s   a   2 - n o rm e d  s pa c e   s i n c e   i t   s a t i s f i e s   t h e   f o l l ow i n g   c o n di t i o n s   [C1]   ‖ , ‖ = 0 ,   i f   a n d   o n l y   i f     a nd    a r e   l i n e a r l y   de pe n de nt   f u n c t i o n s   f r o m   , 2 .   .   [C2]   ‖ , ‖ = ‖ , ‖   ,   fo r   a l l     a n d     f r o m   , 2 .   [C3]   ‖  , ‖ = | | ‖ , ‖ ,   fo r   a l l   ∈   a n d   , ∈ , 2 .   [C4]   ‖ + , ‖ ≤ { ‖ , ‖ + ‖ , ‖ } ,   f o r   a l l   , , ∈ , 2 .   T h e   s pa c e   , 2 [ , ]   i s   a   2 - n o rm e d  s pa c e   s i n c e   i t   s a t i s f i e s   t h e   c o n di t i o n s   i n  D e f i n i t i o n(1).   [C1]  L e t   ,   b e   t w o   l i n e a rl y   de pe n de n t   f un c t i o n s   f r o m   , 2 ,   w i t h  ≠   i f f  〈 , 〉 = 0 ,  i f f   ‖ , ‖ = 0 .   [C2]  B y   (2),   w e   h a v e   ‖ , ‖ = ‖ , ‖ .   [C3]  L e t     ∈ ,     t h e n   ‖ , ‖ = ( ∫ | ( ) ( ) |  ) 1 = | | ( ∫ | ( ) ( ) |  ) 1 , = | | ‖ , ‖ ,   [C4]  L e t   , ∈ , 2 ,   s i n c e   0 < < 1 ,   t h e n  t h e r e   e xi s t s   > 0   s a t i s f i e s     ‖ + , ‖ = ( ∫ | ( + ) ( ) ( ) |  ) 1     ≤ { ( ∫ | ( ) ( ) |  ) 1 + ( ∫ | ( ) ( ) |  ) 1 }   = { ‖ , ‖ + ‖ , ‖ } .       T o   c o n t i n ue   o u r   i n v e s t i ga t i o n   f o r   a   n e u ra l   b e s t   a pp r o xi m a t i o n,   w e   n e e d  t h e   f o l l o w i n g  de f i ni t i o n s   t h a t   a r e   r e l a t e d  t o   c o n v e r ge n c e   s e que n c e s   of   f un c t i o n s   f r o m   , 2 .   D e fi n i t i o n ( 2)   A   s e que n c e   o f   f un c t i o n s   { } ≥ 1   f r o m   , 2   i s   s a i d   t o   b e   Cauc h y   S e qu e nc e   i f   a n d  o n l y   i f       l i m , → ∞ ‖ − , 1 ‖ = 0 ,       a nd     l i m , → ∞ ‖ − , 2 ‖ = 0 ,       fo r   s o m e   i n de pe n de n t   f un c t i o n s   1 , 2 ∈ , 2 .   D e fi n i t i o n (3)  A   s e que n c e   o f   f un c t i o n s   { } ≥ 1   f r o m   , 2   i s   s a i d  t o   b e   c o nv e r g e nt   t o   s o m e   ∈ , 2   i f   a n d  o n l y   i f     l i m , → ∞ ‖ − , ‖ = 0 ,       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   20 ,   N o .   3 ,  D e c e m be r   2 020   :     15 84   -   15 90   1586   fo r   a l l   ∈ , 2 .   T h e   f o l l ow i n g  de f i ni t i o n s   g i v e   s o m e   us e f ul   pr o pe r t i e s   t o   t h e   s pa c e   , 2 ,   t ha t   w e   n e e d  l a t e r  i n  t h e   m a i n  r e s ul t s .     D e fi n i t i o n (4)  T h e   s pa c e   , 2   i s   s a i d   t o   b e   c om pl e t e   i f   a nd  o n l y   i f   e v e r y   Ca uc h y   s e que n c e   { } ≥ 1 f r o m   , 2   c o n v e r ge s   t o   a   f un c t i o n   t h a t   b e l o n gs   t o   , 2 .   T o   m e a s u r e   t h e   de g r e e   o f   be s t   a pp r o xi m a t i o n ,   w e   de f i n e   t h e   m o dul us   o f   s m o o t hn e s s   i n   , 2   a s   f o l l ow   D e fi n i t i o n (5)  L e t   ∈ , 2 ,   t h e n   t h e   t h   s y m m e t ri c   d i f fe r e n c e   o f     i s   g i v e n   b y     ∆ ℎ ( , , [ , ] ) = { ∑ ( ) ( − 1 ) − ( − ℎ 2 + ℎ ) = 0 ,                 ± ℎ 2 ∈ [ , ] 0                                                                                                               ,                 . .                                     (3)     S o   t h e   th   m o dul us   o f   s m oo t hn e s s   o f     i s   gi v e n  by     ( , , , [ , ] ) = su p 0 < ℎ ≤ ‖ ∆ ℎ ( , ∙ ) , ‖ ,   (4)     fo r   s o m e   ≥ 0 .       2.   C O N S TR U C TI O N   O F   F N N   WI T H   R ELU   A C TI V A TI O N   F U N C TI O N   W e   h a v e   t o   t a l k  a b o ut   t h e   s e t   of   a ppr o xi m a t i o n.   C h o o s i n g  t h e   t a rge t   a pp r o xi m a t i o n   s p a c e   i s   a s   m uc h  i m po rt a nt   a s   c h o o s i n g  t h e   f un c t i o n   s pa c e .   It   i s   r e l a t e d  t o   t h e   a ppl i c a b l e   pr o pe rt i e s   a nd  t h e   a c c ur a t e   r e s ul t s   t o  e a c h   s pa c e .   M o r e o ve r ,   s o m e t i m e s   i t   i s   p r e f e r r e d  t o   r e pl a c e   a   c e r t a i n   f un c t i o n   by   i t s   a ppr o xi m a t i o n   f r o m   s o m e   v i t a l   s p a c e .   S c i e n t i s t s   a p p r o xi m a t e   f un c t i o n s   by   po l y n om i a l s ,   w a v e l e t s ,   s pl i n e s   a nd  n e u r a l   n e t w o r ks .     F o r   t h e   w i de   us a ge   o f   n e u r a l   n e t w o r ks   a n d  t h e i r   a b i l i t y   t o   s o l ve   pr o b l e m s   f r o m   di f f e r e n t   f i e l ds   (s e e   [21 - 38] )    a   s e t   o f   f un c t i o n s   f r o m   L p  s pa c e   i s   a pp r o xi m a t e d  by   n e ura l   ne t w o r ks   i n   t hi s   w o r k.     M a n y   pa pe r s   c o n t a i n s   t h i s   t o pi c   w i de l y ,   w e   m e nt i o n   s o m e   o f   t h e m   i n  t h e   r e f e r e n c e s   b e l ow   (s e e   [39 - 47] ).       L e t   t h e   a p p r o xi m a t i o n   n e u ra l   o pe r a t o r     = ∑ ℛ ( + ) = 1 ,   (5)     w h e r e     ℛ ( ) = + = ( 0 , ) = { 0 ,       ≤ 0 ,       > 0 } ,   (6)     i s   t h e   R e l u   a c t i v a t i o n   f u n c t i o n.   F o r   i t s   s i m p l i c i t y   a n d  e ff i c i e n c y ,   s c i e n t i s t s   us e   R e l u  f un c t i o n   t o   a c t i v a t e     t h e   n e u ra l   n e t w o r k.   I n   c o m pa ri s o n   w i t h   o t h e r   a c t i v a t i o n   f un c t i o n s ,   i t   g i v e s   f a s t e r   a nd  m o r e   a c c e pt a b l e   r e s ul t s ,   i t   s o l v e s   t h e   pr o b l e m   of  v a n i s h i n g  g ra di e n t   t h a t   m o s t   a c t i v a t i o n   f un c t i o n s   s uf fe r   f r o m .   I n   t h e   f i e l d  of   f un c t i o n  a pp r o xi m a t i o n,   [48 - 50]   a r e   s o m e   pa pe r s   t h a t   de a l t   w i t h   n e ura l   a p p r o xi m a t i o n   w i t h   R e l u  a c t i v a t i o n   f un c t i o n.   N ow ,   w e   a r e   r e a dy   t o   di s c us s   t h e   e s s e n t i a l   po i n t   i n   t h i s   p a pe r.   H e r e   i s   t h e   de f i ni t i o n   o f   t h e   b e s t   s i m ul t a n e o us   a pp r o xi m a t i o n  o f   t h e   s e t   , 2   by   e l e m e n t s   o f   ℵ   u n de r   t h e   n o rm   (2) .   D e fi n i t i o n (6)  T h e   s i m ul t a n e o us   b e s t   a pp r o xi m a t i o n   o f   a   s ub s e t   ℱ   of   , 2   i s   ∗ ∈ ℵ   i n  t h e   e xp r e s s i o n     i n f ∈ ℵ { su p ∈ ℱ ‖ − , ‖ } = su p ∈ ℱ ‖ − ∗ , ‖   (7)     In  t h e   n e xt   s e c t i o n,   w e   c o n s t r uc t   o u r  n e u r a l   a pp r o xi m a t i o n  o f  t y pe   (5)   s i m u l t a n e o us l y   t o   , 2 .       3.   EX I S TEN C E  T H EO R EM   L e t   ∈ , 2 ,   t h e n   t h e r e   e x i s t s   a   F N N   o f   t h e   f o r m :     = ∑ ℛ ( + ) = 1 ,       w h e r e   ℛ   i s   t h e   R e l u  a c t i v a t i o n   f u n c t i o n  o n  [ , ]   a n d   t h e   pa ra m e t e r s     ,   ,   a n d    a r e   c h o s e n  a s   f o l l ow :     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       B e s t   n e ur al   s i m ul t an e ous   appr ox i m at i on   ( H a w r aa  A bbas   A l m ur i e b)   1587   = − 2 ℎ | − | ,     = ℎ | − | ( 2 + ( 2 − 1 ) − ) ,       0 = ( ) − ∑ ℛ ( + ) = 1 ,       = 1 2 ∑ ( ) ( − 1 ) − ( − ℎ 2 + ℎ ) = 0 ,         w h e r e   ℎ = 2 .     P r oo f :   S i n c e   ℛ ( ) = + , ∀ ∈ [ , ] ,   t h e n  by   (6), su p ∈ [ , ] | ℛ ( ) | = .   L e t   t h e   pa rt i t i o n   < 1 < 2 < ⋯ < = ,   s uc h  t ha t   f o r   a l l   1 ≤ ≤ ,   a nd   l e t   = + − ,     Ch o o s i n g   0 = ( ) − ∑ ℛ ( + ) = 1 ,   gi v e s   t h e   gu a r a nt y   t ha t   ( ) = ( ) .   F o r   a l l   ∈ [ , ] ,   t h e r e   i s   ∈ Ν ,       0 ≤ ≤ ,   s uc h   t h a t   ∈ [ − 1 , ] ,   a nd  t h a t       ( ) = ( ) + ∑ 1 2 ∑ ( ) ( − 1 ) − ( − ℎ 2 + ℎ ) = 0 = 1 [ ℛ ( + ) − ℛ ( + ) ]       = ( ) + ∑ 1 2 ∑ ( ) ( − 1 ) − ( − ℎ 2 + ℎ ) = 0 − 1 = 1 [ ℛ ( + ) − ℛ ( + ) ]       + 1 2 ∑ ( ) ( − 1 ) − ( − ℎ 2 + ℎ ) = 0 [ ℛ ( + ) − ℛ ( + ) ]       + ∑ 1 2 ∑ ( ) ( − 1 ) − ( − ℎ 2 + ℎ ) = 0 = + 1 [ ℛ ( + ) − ℛ ( + ) ]       = ( ) + 1 + 2 + 3       T o   e s t i m a t e   | ℛ ( + ) − ℛ ( + ) | ,   w e   h a v e   t w o   c a s e s .  F o r  > ,   w e   h a v e ,   ≤ ≤ − 1 ,     s o   by   m o n o t o n i c i t y   of   ℛ   a n d   o ur  c h o i c e s   of   t h e   p a r a m e t e r s     ,   a nd   , w e   ge t   C as e (1)       0 < ℛ ( + ) − ℛ ( + )       ≤ ℛ ( + ) − ℛ ( + )     ≤ ℛ ( − 1 + ) − ℛ ( + )     = ℛ ( ℎ ) − ℛ ( 2 ℎ − ℎ )     = − 2 ℎ = −  ∙     C as e (2 )     F o r   < ,   w e   h a v e ,   ≤ − 1 ≤ ,   t h e n       ℛ ( + ) − ℛ ( + )     ≥ ℛ ( + ) − ℛ ( − 1 + )     = ℛ ( − ℎ ) − ℛ ( ℎ )     = − ℎ = − 2 ∙   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   20 ,   N o .   3 ,  D e c e m be r   2 020   :     15 84   -   15 90   1588   F o r   t h e   t w o   c a s e s ,   w e   c o n c l ude   t ha t     | ℛ ( + ) − ℛ ( + ) | ≤ ℎ = 2       N ow ,   w e   a r e   r e a dy   t o   e s t i m a t e   1 ,   2   a n d   3       | 1 | ≤ 1 2 ∑ ∑ ( ) ( − 1 ) − | ( − ℎ 2 + ℎ ) | = 0 − 1 = 1 | ℛ ( + ) − ℛ ( + ) |     ≤ 1 4 ∆ ℎ ( , , [ , ] )       | 2 | ≤ 1 2 ∑ ( ) ( − 1 ) − | ( − ℎ 2 + ℎ ) | = 0 | ℛ ( + ) − ℛ ( + ) |     ≤ 1 4 ∆ ℎ ( , , [ , ] )       | 3 | ≤ 1 2 ∑ ∑ ( ) ( − 1 ) − | ( − ℎ 2 + ℎ ) | = 0 = + 1 | ℛ ( + ) − ℛ ( + ) |     ≤ 1 4 ∆ ℎ ( , , [ , ] )       F i na l l y ,   l e t   ∈ , 2   ,   t h e n     ‖ ( ) − ( ) , ‖ ≤ ∫ | ( ) − ( ) | | ( ) |        ≤ 1 2 ∑ [ ℛ ( + ) − ℛ ( + ) ] ∫ ∑ ( ) ( − 1 ) − = 1 | ( − ℎ 2 + ℎ ) | | ( ) |  = 1       ≤ 3 4 ( , , 1 ) . ∎         4.   U N I Q U EN ES S   T H EO R E M   T h e   s i m ul t a n e o us   b e s t   a pp r o xi m a t i o n   ∗ ∈ ℵ   o f   a   s ub s e t     of   , 2   i s   u ni q ue .     P r oo f:   T o   p r o ve   t h a t   ∗ ∈ ℵ   i s   u n i q ue ,   s up po s e   t ha t   N 1 , N 2 ∈ ℵ   b e   t w o   s i m ul t a n e o us   a ppr o xi m a t i o n s   t o   ,  t h e n  by   D e f i n i t i o n (3)     l i m → ∞ ‖ N 1 − , ‖   = 0 ,       a n d     l i m → ∞ ‖ N 2 − , ‖   = 0 ,       S o   by   c o n di t i o n  [C4* ]  o f   D e f i n i t i o n (1) ,   t h e r e   e xi s t s   ≥ 1 ,     ‖ N 1 − N 2 , ‖ ≤ ( ‖ N 1 − , ‖ + ‖ N 2 − , ‖ )       By   t a ki n g  l i m i t s   t o   b o t h   s i de s   a s   n  t e n ds   t o   i n f i n i t y ,   t h e n  f o r   a l l   ∈ L , 2     l i m → ∞ ‖ N 1 − N 2 , ‖ = 0 ,       S o   N 1 = N 2 ,   a nd  t h e   b e s t   s i m u l t a n e o us   a pp r o xi m a t i o n  t o     o ut   o f   ℵ   i s   u ni que .           Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       B e s t   n e ur al   s i m ul t an e ous   appr ox i m at i on   ( H a w r aa  A bbas   A l m ur i e b)   1589   5.   C O N C LU S I O N     S i m ul t a n e o us   a pp r o xi m a t i o n   i n  t h e   , 2   s pa c e   i s   de f i n e d  i n  de t a i l s   i n  t hi s   p a pe r .   Co n s t ruc t i o n  of  n e u r a l   n e t w o r ks   w i t h   r e c t i f i e d  a c t i v a t i o n   f un c t i o n  t ha t   a p pr o xi m a t e s   a   s ub s e t   o f   , 2   s i m u l t a n e o us l y   i s   ob t a i n e d  t o o .   In   s pi t e   o f  i t s   v a r i o us   a ppl i c a t i o n s ,   i t   gi v e s   a c c ur a t e   r e s ul t s   t ha t   de pe n ds   o n   m o dul us   of  s m o o t h n e s s .   I t   w o ul d  b e   i n t e r e s t i n g  t o   di s c us s   v i t a l   a pp l i c a t i o n s   i n   2 - s t ruc t u r e   s pa c e s   fo r   t h e   c o n s t r uc t e d  n e u r a l   n e t w o r k.       R EF ER EN C ES   [ 1]   C .   B .   D unh a m ,   “ S i m ul t a n e o us   C h e by s he v   A ppr o xi m a t i o n  o f   F unc t i o ns   o n  a n   I nt e r v a l , ”   P r oc .   A m .   M a t h .   So c . ,    v o l .   18,   no .   3 ,   p.   47 2,   19 67 .   [ 2]   J .   B .   D i a z   a n d  H .   W .   M c l a ug hl i n ,   “ O n  S i m u l t a ne o us   C h e by s he v   A ppr o xi m a t i o n  a n d  C he by s he v   A ppr o xi m a t i o n   w i t h   a n  A ddi t i v e   W e i g ht , ”   J .   A ppr ox .   T he or y ,   v o l .   71 ,   no .   6,   pp .   68 - 71,   19 72.   [ 3]   J .   B .   D i a z   a nd  H .   W .   M c l a ug hl i n,   “ S i m u l t a ne o us   a p pr o xi m a t i o n  o f   a   s e t   o f   bo unde d  r e a l   f unc t i o ns , ”   M at h.   C om put . ,   v o l .   23 ,   no .   1 07,   p p.   58 3 - 594,   1 969 .   [ 4]   F .   E .   L e v i s ,   “ I nt e r po l a t i o n  a nd   be s t   s i m ul t a ne o us   a pp r o xi m a t i o n, ”   2 017.   [ 5]   C .   L i   a nd  G .   A .   W a t s o n,   “ O n  no nl i n e a r   s i m u l t a ne o us   C he by s he v   a ppr o xi m a t i o n  pr o bl e m s , ”   J .   M at h .   A na l .   A p pl . ,    v o l .   288 ,   no .   1 ,   pp .   167 - 181 ,   200 3.   [ 6]   Ş .   A t a c i k,   “ S i m ul t a n e o us   a p pr o xi m a t i o n  o f   a   uni f o r m l y   bo unde d  s e t   o f   r e a l   v a l ue d  f unc t i o ns , ”   J .   A p pr o x .   T he or y ,  v o l .   45,   no .   2 ,   pp.   1 29 - 132 ,   1985 .   [ 7]   P .   D .   M i l a n ,   “ O n  B e s t   S i m ul t a ne o us   A ppr o xi m a t i o n  i n   N o r m e d   L i ne a r   S p a c e s , ”   J .   A ppr ox .   T he or y ,   v o l .   23 8,     pp.   22 3 - 238,   1 977 .   [ 8]   A .   A .   L .   I .   H us s e i n,   “ B e s t   s i m u l t a ne o us   a pp r o xi m a t i o n  i n  w e i g ht e d  s pa c e   B e s t   s i m ul t a n e o us   a p pr o xi m a t i o n  i n   w e i g ht e d  s pa c e , ”   201 9.   [ 9]   S.   G a h l e r ,   “ L i ne a r e   2 - N o r m i e r t e   R ä um e , ”   M at h.   N a c hr i c h t e n ,   v o l .   28,   pp .   1 - 43,   1 964 .   [ 10]   S .   E l um a l a i   a n d  R .   V i j a y a r a g a v a n,   “ C ha r a c t e r i z a t i o ns   o f   be s t   a p pr o xi m a t i o ns   i n  l i ne a r   2 - no r m e d  s pa c e s , ”   G e n.   M a t h. ,   v o l .   1 7,   no .   3,   p p.   14 1 - 160 ,   2 009 .   [ 11]   A .   M e hm e t ,   “ T he   be s t   s i m u l t a ne o us   a ppr o x i m a t i o n  i n  l i ne a r   2 - no r m e d  s pa c e s , ”   P r oc .   J angj e on  M a t h.   Soc . ,   v o l .   15,   no .   4 ,   pp.   4 15 - 422 ,   2012 .   [ 12]   M .   A c i kg oz ,   “ T he   be s t   s i m u l t a ne o us   a p pr o xi m a t i o n  i n  l i ne a r   2 - no r m e d  s pa c e s , ”   20 14.   [ 13]   M .   A c i kg oz ,   “ A ppr o xi m a t i o n  i n  g e n e r a l i z e d  2 - no r m e d  s pa c e s , ”   20 1 4.   [ 14]   S .   C o bz a s   a n d  R .   A c a de m y ,   “ E xt e ns i o n  o f   bi l i ne a r   f unc t i o na l s   a nd   be s t   a pp r o xi m a t i o n  i n   2 - no r m e d   s p a c e s , ”   2 017 .   [ 15]   M .   I r a nm a ne s h   a n d  F .   S o l e i m a ny ,   “ 2 - N O R M E D   S P A C E S , ”   v o l .   4 6 ,   no .   1 ,   pp .   207 - 215 ,   201 6.   [ 16]   A .   K undu  a nd  T .   B .   S k ,   “ O n   m e t r i z a bi l i t y   a nd  no r m a b i l i t y   of   2 - no r m e d  s p a c e s , ”   M a t h .   S c i . ,   v o l .   13 ,   no .   1 ,     pp.   69 - 77 ,   201 9.   [ 17]   K .   I s e ki ,   “ M a t he m a t i c s   o n  2 - no r m e d   s pa c e s , ”   K or e an   M at h.   So c . ,   v o l .   1 3,   pp .   127 - 13 6,   19 76 .   [ 18]   C .   P a r k ,   “ G e n e r a l i z e d  qu a s i – b a na c h  s pa c e s   a nd  qu a s i –   ( 2; p) - N o r m e d   S pa c e s , ”   J .   C h ung c he ong   M a t h.   Soc . ,   v o l .   19 ,   no .   2 ,   pp.   1 97 - 206 ,   2006 .   [ 19]   K .   K i k i na ,   e t   a l . ,   “ Q u a s i - 2 - N o r m e d  S pa c e s   a nd   S o m e   F i xe d  P o i n t   T he o r e m s , ”   v o l .   47 4,   no .   2 ,   p p.   46 9 - 474 ,   2016 .   [ 20]   C .   P a r k ,   “ G e ne r a l i z e d   qua s i - B a n a c h  s p a c e s   a nd  q ua s i - ( 2 ,   p ) -   no r m e d  s pa c e s , ”   J .   C hung c he ong  M a t h .   S oc . ,   v o l .   19 ,   no .   2 ,   pp.   1 97 - 206 ,   2006 .   [ 21]   L .   E .   A i k,   e t   a l . ,   “ A n  i m pr o v e d  r a d i a l   b a s i s   f unc t i o n  ne t w o r k s   ba s e d   o n  qua nt um   e v o l ut i o na r y   a l g o r i t hm   f o r   t r a i n i ng   no nl i n e a r   d a t a s e t s , ”   I A E S   I n t .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   2 ,   p p.   12 0 - 131,   2 019 .   [ 22]   A .   S .   T a k i a l dd i n ,   e t   a l . ,   “ O v e r v i e w   o f   m o de l   f r e e   a da p t i v e   ( M F A )   c o nt r o l   t e c hno l o gy , ”   I A E S  I n t .   J .   A r t i f .   I nt e l l . ,    v o l .   7,   no .   4,   p p.   16 5 - 169 ,   2 018 .   [ 23]   V .   K a t hi r v e l ,   e t   a l . ,   “ H y br i d  i m pe r i a l i s t i c   c o m pe t i t i v e   a l g o r i t hm   i nc o r po r a t e d  w i t h  ho pf i e l d  n e u r a l   ne t w o r k  f o r   r o bus t   3   s a t i s f i a bi l i t y   l o g i c   pr o g r a m m i ng , ”   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8 ,   no .   2 ,   pp .   144 - 15 5,   20 19.   [ 24]   M .   R ha no ui ,   e t   a l . ,   “ F o r e c a s t i ng   f i na nc i a l   budg e t   t i m e   s e r i e s :   A r i m a   r a ndo m   w a l k  v s   l s t m   ne ur a l   ne t w o r k, ”   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8 ,   no .   4 ,   pp .   317 - 327 ,   201 9.   [ 25]   S .   I br a hi m ,   e t   a l . ,   “ O p t i m i z a t i o n  o f   a r t i f i c i a l   ne u r a l   ne t w o r k  t o po l ogy   f o r   m e m br a ne   b i o r e a c t o r   f i l t r a t i o n  us i ng   r e s po ns e   s u r f a c e   m e t ho do l o gy , ”   I A E S  I n t .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1 ,   p p.   11 7 - 125 ,   2 020 .   [ 26]   S .   I .   A bdul l a h i ,   e t   a l . ,   “ I nt e l l i g e n t   f l o o d   di s a s t e r   w a r n i ng   o n  t he   f l y :   D e v e l o pi ng   I o T - ba s e d  m a na g e m e n t   pl a t f o r m   a nd  u s i ng   2 - c l a s s   n e ur a l   ne t w o r k  t o   pr e d i c t   f l o o d  s t a t us , ”   B ul l .   E l e c t r .   E n g.   I n f or m at i c s ,   v o l .   8 ,   no .   2,   pp .   70 6 - 717,   2019 .   [ 27]   S .   V e r m a ,   e t   a l . ,   “ A N N   ba s e d  m e t ho d  f o r   i m pr o v i ng   go l d  pr i c e   f o r e c a s t i ng   a c c ur a c y   t hr o ug h  m o di f i e d  g r a di e nt   de s c e n t   m e t ho ds , ”   I A E S  I n t .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1,   pp .   46 - 57 ,   2020 .   [ 28]   I .   H a c hc ha ne ,   e t   a l . ,   “ L a r g e - s c a l e   i m a g e - to - v i de o   f a c e   r e t r i e v a l   w i t h  c o nvo l ut i o na l   ne ur a l   ne t w o r k   f e a t ur e s , ”   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   9 ,   no .   1 ,   pp .   40 - 45,   2 020 .   [ 29]   P .   R .   I y e r ,   e t   a l . ,   “ A da pt i v e   r e a l   t i m e   t r a f f i c   pr e di c t i o n  us i ng   de e p  n e ur a l   ne t w o r ks , ”   I A E S  I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   2 ,   pp.   1 07 - 119 ,   2019 .   [ 30]   W .   N .   W .   M d  A dna n,   e t   a l . ,   “ D e v e l o pm e n t   o f   o pt i o n  c   m e a s ur e m e nt   a nd  v e r i f i c a t i o n  m o de l   us i ng   hy br i d  a r t i f i c i a l   ne ur a l   n e t w o r k - c r o s s   v a l i da t i o n  t e c hni q ue   t o   qua n t i f y   s a v i ng , ”   I A E S  I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   9,   no .   1,   pp.   2 5 - 32,   2020 .   [ 31]   S .   B .   J a dh a v ,   e t   a l . ,   “ C o nv o l ut i o na l   n e ur a l   ne t w o r k s   f o r   l e a f   i m a g e - ba s e d  p l a n t   d i s e a s e   c l a s s i f i c a t i o n, ”   I A E S  I n t .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   4 ,   pp .   3 28 - 341 ,   2019 .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   20 ,   N o .   3 ,  D e c e m be r   2 020   :     15 84   -   15 90   1590   [ 32]   S .   B a r hm i   a n d  O .   E l   F a t ni ,   “ H o ur l y   w i nd  s pe e d  f o r e c a s t i ng   ba s e d  o n  s uppo r t   v e c t o r   m a c hi ne   a nd  a r t i f i c i a l   ne ur a l   ne t w o r k s , ”   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,  v o l .   8,   no .   3 ,   pp.   2 86 - 291 ,   2019 .   [ 33]   N .   M a hm o d,   e t   a l . ,   “ M o de l l i ng   a nd  c o nt r o l   o f   f o ul i ng   i n  s u bm e r g e d  m e m br a ne   b i o r e a c t o r   us i ng   ne u r a l   ne t w o r k   i nt e r na l   m o de l   c o nt r o l , ”   I A E S   I nt .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1 ,   pp .   1 00 - 108,   2 020 .   [ 34]   L .   E .   A i k,   e t   a l . ,   “ A n  i m pr o v e d  r a d i a l   ba s i s   f unc t i o n  ne t w o r ks   i n   ne t w o r k s   w e i g ht s   a d j u s t m e nt   f o r   t r a i n i ng   r e a l - w o r l d  no nl i n e a r   d a t a s e t s , ”   I A E S   I n t .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   1 ,   pp .   63 - 76,   2 019 .   [ 35]   H .   A .   R a hi m ,   e t   a l . ,   “ E xp l o r a t i o n  o n  di g i t a l   m a r k e t i ng   a s   bus i ne s s   s t r a t e gy   m o de l   a m o ng   m a l a y s i a n  e nt r e p r e n e ur s   v i a   ne ur o c o m put i ng , ”   I A E S  I n t .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1,   pp .   18 - 24,   20 20.   [ 36]   H .   O hm a i d ,   e t   a l . ,   “ I r i s   s e g m e nt a t i o n  us i ng   a   ne w   uns u pe r v i s e d  ne ur a l   a pp r o a c h, ”   I A E S  I nt .   J .   A r t i f .   I nt e l l . ,   v o l .   9,   no .   1 ,   pp.   5 8 - 64,   20 20.   [ 37]   A .   S a r k a r ,   “ M u l t i l a y e r   ne u r a l   n e t w o r k  s y nc hr o ni z e d  s e c ur e d   s e s s i o n  ke y   ba s e d  e nc r y pt i o n  i n   w i r e l e s s   c om m uni c a t i o n, ”   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8 ,   no .   1 ,   pp .   44 - 53,   2019 .   [ 38]   M .   S .   G a y a ,   e t   a l . ,   “ E s t i m a t i o n  o f   w a t e r   qua l i t y   i nde x  us i ng   a r t i f i c i a l   i n t e l l i g e nc e   a pp r o a c he s   a nd  m u l t i - l i ne a r   r e g r e s s i o n , ”   I A E S   I nt .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1 ,   pp .   126 - 134 ,   202 0.   [ 39]   G .   C y be nko ,   “ C o nt i nuo us   V a l ue d  N e ur a l   N e t w o r k s :   A ppr o xi m a t i o n  T he o r e t i c   R e s u l t s , ”   i n  C om pu t e r   Sc i e nc e   and  St a t i s t i c s :   pr oc e e di ngs   o f   t he   20 t h  Sy m po s i um   o n  t he   I nt e r f ac e ,   p p.   174 - 183 ,   1988 .   [ 40]   T .   C he n  a nd  R .   C h e n ,   “ A ppr o xi m a t i o n  C a pa bi l i t y   t o   F unc t i o ns   of   S e v e r a l   V a r i a b l e s   ,   N o nl i n e a r   F unc t i o na l s   a nd   O pe r a t o r s   by   R a di a l   B a s i s   F unc t i o n  N e ur a l   N e t w o r ks , ”   I E E E   T r a n s .   N e ur a l   N e t w or k s ,   v o l .   6 ,   no .   4,   p p.   90 4 - 910 ,   1995 .   [ 41]   Z .   Z ha ng ,   e t   a l . ,   “ T h e   ne w   a pp r o xi m a t i o n  o pe r a t o r s   w i t h  s i g m o i da l   f unc t i o ns , ”   J .   A pp l .   M a t h.   C om put ,   v o l .   42,     no .   1 - 2,   p p.   45 5 - 468,   2 013 .   [ 42]   E .   S .   B ha y a ,   “ N e u r a l   N e t w o r k   T r i g o no m e t r i c   A ppr o xi m a t i o n, ”   no .   9,   pp .   2395 - 23 99,   2 016 .   [ 43]   H .   A .   A l m ur i e b,   “ S i m u l t a ne o us   A ppr o xi m a t i o n  o f   o r de r   m   by   A r t i f i c i a l   N e u r a l   N e t w o r k , ”   v o l .   56 ,   no .   4,   20 17 .   [ 44]   E .   S .   B ha y a   a nd  H .   A .   A l m ur i e b ,   “ N e ur a l   N e t w o r k  T r i g o no m e t r i c   A ppr o xi m a t i o n , ”   J .   U n i v .   B aby l on ,   v o l .   26,   no .   1,   pp.   23 95 - 2399 ,   201 6.   [ 45]   E .   S .   B h a y a   a nd  M .   A .   K a r e e m ,   “ W hi t ne y   M ul t i a pp r o xi m a t i o n, ”   J .   U ni v .   B a by l on  P ur e   A ppl .   Sc i . ,   v o l .   24 ,   no .   9,     pp.   38 5 - 403,   2 018 .   [ 46]   E .   S .   B h a y a   a nd  S .   Z .   A bdul m un i m ,   “ A ppr o xi m a t i o n  o f   F unc t i o n s   i n  L _P   S pa c e s   f o r   p<   1,   U s i ng   R a d i a l   B a s i s   F unc t i o n  N e ur a l   N e t w o r ks , ”   J .   U ni v .   B ab y l o n  P ur e   A ppl .   Sc i . ,   v o l .   27,   no .   3,   p p.   40 0 - 405,   2 019 .   [ 47]   E .   B ha y a ,   “ l p   a p pr o xi m a t i o n   us i ng   r a d i a l   ba s i s   ne ur a l   ne t w o r k   o n  o r de r e d  s pa c e , ”   201 9.   [ 48]   M .   H a ns s o n  a nd   C .   O l s s o n,   “ F e e df o r w a r d  n e ur a l   ne t w o r ks   w i t h   R e L U   a c t i v a t i o n  f unc t i o ns   a r e   l i n e a r   s p l i ne s , ”   2017 .   [ 49]   H .   M o nt a n e l l i ,   e t   a l . ,   “ D e e p  R e L U   ne t w o r ks   o v e r c om e   t he   c ur s e   o f   di m e ns i o na l i t y   f o r   ba ndl i m i t e d  f unc t i o ns , ”   2019 .   [ 50]   E .   J .   S .   D i t t m e r   a nd  P .   M a a s s ,   “ S i ng ul a r   V a l ue s   f o r   R e L U   L a y e r s , ”   I E E E   T r an s .   N e ur al   N e t w or k s   L e ar n.   Sy s t . ,    no .   2 ,   pp.   1 - 12 ,   201 9.       B I O G R A P H I ES   O F   A U T H O R S         S he   r e c e i v e d  he r   M S c   de g r e e   i n  s c i e nc e   o f   m a t he m a t i c s   f r o m   U ni v e r s i t y   of   B a b y l o n  i n  2010  a nd   s h  i s   a   P hD   s t ude nt   o f   a ppl i e d   m a t he m a t i c s   a t   U n i v e r s i t y   o f   B a g hda d  t o o   i n  2 004 .   S he   h a s   be e n  a   l e c t u r e r   a t   U n i v e r s i t y   of   K uf a   a nd  t he n  U n i v e r s i t y   o f   B a b y l o n  i n  I r a q.   H e r   c u r r e nt   r e s e a r c h   i nt e r e s t s   i nc l ude   a ppr o xi m a t i o n  t he o r y ,   e s s e n t i a l   a ppr o xi m a t i o n,   ne ur a l   ne t w o r ks         S he   r e c e i v e d  he r   M S c   de g r e e   i n  s c i e nc e   o f   m a t he m a t i c s   f r o m   U ni v e r s i t y   of   B a g hda d  1999  a nd   he r   P hD   de g r e e   i n  s c i e nc e   o f   m a t he m a t i c s   f r o m   U ni v e r s i t y   o f   B a ghda d  t o o   i n  2004 .   S i nc e   t he n   s he   ha s   be e n  a   p r o f e s s o r   a t   t he   U ni v e r s i t y   of   B a b y l o n  i n  I r a q.   S he   h a s   t e n s   o f   publ i s he d   pa p e r s   i n   r e s e a r c h  i nt e r e s t s   i nc l u de   a p pr o xi m a t i o n  t h e o r y ,   i n t e r po l a t i o n,   a n d  n e ur a l   ne t w o r ks .     Evaluation Warning : The document was created with Spire.PDF for Python.