I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   20 ,   N o .   3 D e c e m b e r   20 20 ,   pp .   1584 ~ 1590   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 20 .i 3 . pp 158 4 - 1590             1584       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   B e st   n e u r a l   s i m u l t a n e o u s   a p p r o x i m a t i o n       H aw r a A b b as   A l m u r i e b Em an   S .   B h a ya   D e pa r t m e n t   o f   M a t he m a t i c s ,   C o l l e g e   o f   E duc a t i o f o r   P ur e   S c i e nc e s ,   U ni v e r s i t y   o f   B a b y l o n ,   I r a q       A r ti c l e   I n fo     A B S TR A C T     Ar t i c l e   h i s t or y :   R e c e i v e J a n   14 ,   2 0 20   R e v i s e A pr   28 ,   2020   A c c e pt e J un   2 ,   2020       F o r   m a ny   y e a r s ,   a ppr o x i m a t i o c o nc e pt s   h a s   be e n   i nv e s t i g a t e i v i e w   o f   ne ur a l   ne t w o r ks   f o r   t he   s e v e r a l   a ppl i c a t i o ns   o f   t he   t w o   t o pi c s .   R e s e a r c he r s   s t ud i e s i m u l t a n e o us   a pp r o xi m a t i o i t he   2 - no r m e s p a c e   a n pr o v e d   e s s e nt i a l   t he o r e m s   c o nc e r w i t e xi s t e nc e ,   un i que ne s s   a nd  de g r e e   o f   be s t   a ppr o xi m a t i o n.   H e r e ,   w e   de f i ne   a   n e w   2 - no r m   i n    - s pa c e ,   w i t h   < 1 ,     s o   w e   c a l l   i t      qua s i   2 -   no r m e d   s p a c e   ( , 2 ) .   T he   s e t   o f   a pp r o xi m a t i o ns   i s   a   s pa c e   o f   f e e df o r w a r ne u r a l   n e t w o r ks   t ha t   i s   c o ns t r uc t e d   i t hi s   pa p e r E xi s t e nc e   a nd   un i qu e ne s s   o f   be s t   ne u r a l   a ppr o xi m a t i o f o r   a   f unc t i o f r o m   , 2   i s   p r o v e d,   d e s c r i bi ng   t h e   r a t e   o f   be s t   a p pr o xi m a t i o i t e r m s   o f   m o dul us   o f   s m oo t hne s s .   Ke y w or d s :   2 - n o r m e d   s pa c e     A ppr o xi m a t i o n   N e ur a l   n e t w o r ks   C opy r i gh t   ©   20 20   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   H a w r a a   A b b a s   A l m u ri e b ,   D e pa rt m e n t   o f   M a t h e m a t i c s ,   U n i v e r s i t y   of   B a by l o n ,   I r a q .   E m a i l :   pu r e . ha w r a a . a b b a s @ uo b a by l o n . e du. i q       1.   I N TR O D U C TI O N     T h e   f i r s t   n o t e s   a b o ut   s i m ul t a n e o us   a pp r o xi m a t i o n   w a s   do n e   by   D un ha m   i n   [1] .   H e   ge n e r a t e d     t h e   c l a s s i c a l   C h e by s h e v   a ppr o xi m a t i o by   a ppr o xi m a t i n t w o   c o n t i n uo us   f un c t i o n s   +   a n d     w i t h   + ( ) ( ) ,   f o r   a l l   [ , ] ,   s i m ul t a n e o us l y .   H e   a l s o   pr o v e t ha t   h i s   s i m u l t a n e o us   a pp r o xi m a t i o i s   e qui v a l e n t   t o   t h e   c l a s s i c a l   o n e   f un c t i o n   C h e by s h e v   a pp r o xi m a t i o w h e n   + = .   F o r   m o r e   s pe c i f i c a t i o n,   D i a z   a n M c l a ug hl i n   [2]   p r o v e t ha t   t h e   a b o ve   pr o b l e m   i s   e qui v a l e n t   t o     t h e   p r o b l e m   o f   a pp r o xi m a t i ng     1 2 | + + | .   A l s o   a pp r o xi m a t i ng  t w o   a ppr o p r i a t e   f u n c t i o n s   s i m ul t a n e o us l y   i s   e qui v a l e n t   t o   a pp r o xi m a t i n g   o n e   f un c t i o by   e l e m e n t s   o f     a   c e r t a i s e t   .   M o r e o v e r ,   t h e y   de f i n e t h e   b e s t   s i m ul t a n e o us   a p p r o xi m a t i o n   t o   t h e   s e t     i n   [ 3]   a s   f o l l ow     i n f su p s = su p ,       w h e r e     i s   a   s e t   o f   uni f o r m l y   bo un de f u n c t i o n s   o [ , ]   a n d     i s   a   s e t   o f   f un c t i o n s   o [ , ] .   T h e y   pr o v e d   t h a t     i s   e qu i v a l e n t   t o   t h e   b e s t   s i m ul t a n e o us   a pp r o xi m a t i o o f   t w o   f un c t i o n s .   T h e   s e t     v a ri e s   a m o ng   r e s e a r c h e r s ,   i t   i s   [ , ]   i n   [4 ]   a n [5] ,   t h e   s p a c e   o f   un i f o r m l y   bo unde f un c t i o n s   i [6] ,   B a na c s pa c e   i [7] w e i ght e s pa c e   [8] ,   L s pa c e s   [4]   o 2 - n o rm e s p a c e   a s   i n   [9 - 16] .     T h e   2 - n o r m e s pa c e   w a s   f i r s t l y   de f i n e by   G a h l e r   i n   hi s   pa p e r     [9] ,   a n t h e n   ge n e ra l i z e by   Is e ki   i n   hi s   pa pe r   [1 7] .   T hi s   s pa c e   pr o v i de s   a   t o o l   t o   de a l   w i t h   2 - s t r uc t u r e s .   F o r   t h e   s a m e   po rpus e ,   o t h e r s   de f i n e d     qua s i - n o r m e ,   q ua s i - ( 2; p) - n o rm e s pa c e   a n d   ge n e ra l i z e e a c o n e   (s e e   [18 19] ).   F i r s t ,   w e   de f i n e     t h e   2 - n o rm e s p a c e   ge n e r a l l y   f r o m   [1]   D e fi n i t i o n   (1)  A   n o rm   , : × +   i s   2 - n o r m   o X   i f   i t   s a t i s f i e s   t h e   f o l l ow i n c o n d i t i o n s :   [C1]   1 , 2 = 0 ,   i f   a n d   o n l y   i f   1 , 2   a r e   l i n e a r l y   de pe n de nt   f r o m   X .   .   [C2]   1 , 2 = 2 , 1 ,   ,   fo r   a l l   1 , 2   f r o m   X .   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       B e s t   n e ur al   s i m ul t an e ous   appr ox i m at i on   ( H a w r aa  A bbas   A l m ur i e b)   1585   [C3]   1 , 2 = | | 1 , 2 ,   fo r   a l l     a n d   1 , 2 X   [C4]   1 + 2 , 1 , + 2 , ,   f o r   a l l   1 , 2 , .   T h e   s pa c e   ( X , , )   i s   c a l l e d   2 - n o r m e s p a c e .   L a t e r,   P a r k   [18]   s ub s t i t ut e   [C4]   w i t t h e   f o l l ow i ng   c o n di t i o n   [C4*]  1 + 2 , { 1 , + 2 , } ,   f o r   a l l   1 , 2 , .     In  t hi s   pa pe r,   w e   de a l   w i t h   2 - n o r m e s p a c e   w i t h   a   s pe c i a l   de f i ni t i o n   t h a t   de a l s   w i t h     L e b e s gu e - i nt e gra b l e   s pa c e     [ , ] = { : | ( ) |  < }         T hr o ug h   t h i s   pa pe r,   w e   r e f e r   , 2   t o   t h e   s pa c e   [ , ] × [ , ]   i n   t h e   f o l l ow i n g   m a nn e r     , 2 [ , ] = { : | ( ) ( ) |  < , f o r   e v e r y   }   (1)     T o ge t h e r   w i t t h e   n o n - n e a g a t i v e   f un c t i o ,   o ve r   t h e   v e c t o r   s p a c e   , 2   a s   f o l l ow     , = ( | ( ) ( ) |  ) 1 ,   (2)     fo r   a n y   f un c t i o n     a n   f r o m   , 2 .   T h e   s pa c e   , 2 [ , ]   i s   a   2 - n o rm e s pa c e   s i n c e   i t   s a t i s f i e s   t h e   f o l l ow i n g   c o n di t i o n s   [C1]   , = 0 ,   i f   a n d   o n l y   i f     a nd    a r e   l i n e a r l y   de pe n de nt   f u n c t i o n s   f r o m   , 2 .   .   [C2]   , = ,   ,   fo r   a l l     a n d     f r o m   , 2 .   [C3]    , = | | , ,   fo r   a l l     a n d   , , 2 .   [C4]   + , { , + , } ,   f o r   a l l   , , , 2 .   T h e   s pa c e   , 2 [ , ]   i s   a   2 - n o rm e s pa c e   s i n c e   i t   s a t i s f i e s   t h e   c o n di t i o n s   i D e f i n i t i o n(1).   [C1]  L e t   ,   b e   t w o   l i n e a rl y   de pe n de n t   f un c t i o n s   f r o m   , 2 ,   w i t   i f , = 0 i f f   , = 0 .   [C2]  B y   (2),   w e   h a v e   , = , .   [C3]  L e t     ,     t h e n   , = ( | ( ) ( ) |  ) 1 = | | ( | ( ) ( ) |  ) 1 , = | | , ,   [C4]  L e t   , , 2 ,   s i n c e   0 < < 1 ,   t h e t h e r e   e xi s t s   > 0   s a t i s f i e s     + , = ( | ( + ) ( ) ( ) |  ) 1     { ( | ( ) ( ) |  ) 1 + ( | ( ) ( ) |  ) 1 }   = { , + , } .       T o   c o n t i n ue   o u r   i n v e s t i ga t i o n   f o r   a   n e u ra l   b e s t   a pp r o xi m a t i o n,   w e   n e e t h e   f o l l o w i n de f i ni t i o n s   t h a t   a r e   r e l a t e t o   c o n v e r ge n c e   s e que n c e s   of   f un c t i o n s   f r o m   , 2 .   D e fi n i t i o n ( 2)   A   s e que n c e   o f   f un c t i o n s   { } 1   f r o m   , 2   i s   s a i d   t o   b e   Cauc h y   S e qu e nc e   i f   a n o n l y   i f       l i m , , 1 = 0 ,       a nd     l i m , , 2 = 0 ,       fo r   s o m e   i n de pe n de n t   f un c t i o n s   1 , 2 , 2 .   D e fi n i t i o n (3)  A   s e que n c e   o f   f un c t i o n s   { } 1   f r o m   , 2   i s   s a i t o   b e   c o nv e r g e nt   t o   s o m e   , 2   i f   a n o n l y   i f     l i m , , = 0 ,       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   3 D e c e m be r   2 020   :     15 84   -   15 90   1586   fo r   a l l   , 2 .   T h e   f o l l ow i n de f i ni t i o n s   g i v e   s o m e   us e f ul   pr o pe r t i e s   t o   t h e   s pa c e   , 2 ,   t ha t   w e   n e e l a t e i t h e   m a i r e s ul t s .     D e fi n i t i o n (4)  T h e   s pa c e   , 2   i s   s a i d   t o   b e   c om pl e t e   i f   a nd  o n l y   i f   e v e r y   Ca uc h y   s e que n c e   { } 1 f r o m   , 2   c o n v e r ge s   t o   a   f un c t i o n   t h a t   b e l o n gs   t o   , 2 .   T o   m e a s u r e   t h e   de g r e e   o f   be s t   a pp r o xi m a t i o n ,   w e   de f i n e   t h e   m o dul us   o f   s m o o t hn e s s   i n   , 2   a s   f o l l ow   D e fi n i t i o n (5)  L e t   , 2 ,   t h e n   t h e   t h   s y m m e t ri c   d i f fe r e n c e   o f     i s   g i v e n   b y     ( , , [ , ] ) = { ( ) ( 1 ) ( 2 + ) = 0 ,                 ± 2 [ , ] 0                                                                                                               ,                 . .                                     (3)     S o   t h e   th   m o dul us   o f   s m oo t hn e s s   o f     i s   gi v e by     ( , , , [ , ] ) = su p 0 < ( , ) , ,   (4)     fo r   s o m e   0 .       2.   C O N S TR U C TI O N   O F   F N N   WI T H   R ELU   A C TI V A TI O N   F U N C TI O N   W e   h a v e   t o   t a l a b o ut   t h e   s e t   of   a ppr o xi m a t i o n.   C h o o s i n t h e   t a rge t   a pp r o xi m a t i o n   s p a c e   i s   a s   m uc i m po rt a nt   a s   c h o o s i n t h e   f un c t i o n   s pa c e .   It   i s   r e l a t e t o   t h e   a ppl i c a b l e   pr o pe rt i e s   a nd  t h e   a c c ur a t e   r e s ul t s   t e a c h   s pa c e .   M o r e o ve r ,   s o m e t i m e s   i t   i s   p r e f e r r e t o   r e pl a c e   a   c e r t a i n   f un c t i o n   by   i t s   a ppr o xi m a t i o n   f r o m   s o m e   v i t a l   s p a c e .   S c i e n t i s t s   a p p r o xi m a t e   f un c t i o n s   by   po l y n om i a l s ,   w a v e l e t s ,   s pl i n e s   a nd  n e u r a l   n e t w o r ks .     F o r   t h e   w i de   us a ge   o f   n e u r a l   n e t w o r ks   a n t h e i r   a b i l i t y   t o   s o l ve   pr o b l e m s   f r o m   di f f e r e n t   f i e l ds   (s e e   [21 - 38]   a   s e t   o f   f un c t i o n s   f r o m   L s pa c e   i s   a pp r o xi m a t e by   n e ura l   ne t w o r ks   i n   t hi s   w o r k.     M a n y   pa pe r s   c o n t a i n s   t h i s   t o pi c   w i de l y ,   w e   m e nt i o n   s o m e   o f   t h e m   i t h e   r e f e r e n c e s   b e l ow   (s e e   [39 - 47] ).       L e t   t h e   a p p r o xi m a t i o n   n e u ra l   o pe r a t o r     = ( + ) = 1 ,   (5)     w h e r e     ( ) = + = ( 0 , ) = { 0 ,       0 ,       > 0 } ,   (6)     i s   t h e   R e l u   a c t i v a t i o n   f u n c t i o n.   F o r   i t s   s i m p l i c i t y   a n e ff i c i e n c y ,   s c i e n t i s t s   us e   R e l f un c t i o n   t o   a c t i v a t e     t h e   n e u ra l   n e t w o r k.   I n   c o m pa ri s o n   w i t h   o t h e r   a c t i v a t i o n   f un c t i o n s ,   i t   g i v e s   f a s t e r   a nd  m o r e   a c c e pt a b l e   r e s ul t s ,   i t   s o l v e s   t h e   pr o b l e m   of  v a n i s h i n g ra di e n t   t h a t   m o s t   a c t i v a t i o n   f un c t i o n s   s uf fe r   f r o m .   I n   t h e   f i e l of   f un c t i o a pp r o xi m a t i o n,   [48 - 50]   a r e   s o m e   pa pe r s   t h a t   de a l t   w i t h   n e ura l   a p p r o xi m a t i o n   w i t h   R e l a c t i v a t i o n   f un c t i o n.   N ow ,   w e   a r e   r e a dy   t o   di s c us s   t h e   e s s e n t i a l   po i n t   i n   t h i s   p a pe r.   H e r e   i s   t h e   de f i ni t i o n   o f   t h e   b e s t   s i m ul t a n e o us   a pp r o xi m a t i o o f   t h e   s e t   , 2   by   e l e m e n t s   o f     u n de r   t h e   n o rm   (2) .   D e fi n i t i o n (6)  T h e   s i m ul t a n e o us   b e s t   a pp r o xi m a t i o n   o f   a   s ub s e t     of   , 2   i s     i t h e   e xp r e s s i o n     i n f { su p , } = su p ,   (7)     In  t h e   n e xt   s e c t i o n,   w e   c o n s t r uc t   o u n e u r a l   a pp r o xi m a t i o o t y pe   (5)   s i m u l t a n e o us l y   t o   , 2 .       3.   EX I S TEN C T H EO R EM   L e t   , 2 ,   t h e n   t h e r e   e x i s t s   a   F N N   o f   t h e   f o r m :     = ( + ) = 1 ,       w h e r e     i s   t h e   R e l a c t i v a t i o n   f u n c t i o o [ , ]   a n d   t h e   pa ra m e t e r s     ,   ,   a n   a r e   c h o s e a s   f o l l ow :     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       B e s t   n e ur al   s i m ul t an e ous   appr ox i m at i on   ( H a w r aa  A bbas   A l m ur i e b)   1587   = 2 | | ,     = | | ( 2 + ( 2 1 ) ) ,       0 = ( ) ( + ) = 1 ,       = 1 2 ( ) ( 1 ) ( 2 + ) = 0 ,         w h e r e   = 2 .     P r oo f :   S i n c e   ( ) = + , [ , ] ,   t h e by   (6), su p [ , ] | ( ) | = .   L e t   t h e   pa rt i t i o n   < 1 < 2 < < = ,   s uc t ha t   f o r   a l l   1 ,   a nd   l e t   = + ,     Ch o o s i n g   0 = ( ) ( + ) = 1 ,   gi v e s   t h e   gu a r a nt y   t ha t   ( ) = ( ) .   F o r   a l l   [ , ] ,   t h e r e   i s   Ν ,       0 ,   s uc h   t h a t   [ 1 , ] ,   a nd  t h a t       ( ) = ( ) + 1 2 ( ) ( 1 ) ( 2 + ) = 0 = 1 [ ( + ) ( + ) ]       = ( ) + 1 2 ( ) ( 1 ) ( 2 + ) = 0 1 = 1 [ ( + ) ( + ) ]       + 1 2 ( ) ( 1 ) ( 2 + ) = 0 [ ( + ) ( + ) ]       + 1 2 ( ) ( 1 ) ( 2 + ) = 0 = + 1 [ ( + ) ( + ) ]       = ( ) + 1 + 2 + 3       T o   e s t i m a t e   | ( + ) ( + ) | ,   w e   h a v e   t w o   c a s e s F o > ,   w e   h a v e ,   1 ,     s o   by   m o n o t o n i c i t y   of     a n d   o ur  c h o i c e s   of   t h e   p a r a m e t e r s     ,   a nd   , w e   ge t   C as e (1)       0 < ( + ) ( + )       ( + ) ( + )     ( 1 + ) ( + )     = ( ) ( 2 )     = 2 =      C as e (2 )     F o r   < ,   w e   h a v e ,   1 ,   t h e n       ( + ) ( + )     ( + ) ( 1 + )     = ( ) ( )     = = 2   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   3 D e c e m be r   2 020   :     15 84   -   15 90   1588   F o r   t h e   t w o   c a s e s ,   w e   c o n c l ude   t ha t     | ( + ) ( + ) | = 2       N ow ,   w e   a r e   r e a dy   t o   e s t i m a t e   1 ,   2   a n d   3       | 1 | 1 2 ( ) ( 1 ) | ( 2 + ) | = 0 1 = 1 | ( + ) ( + ) |     1 4 ( , , [ , ] )       | 2 | 1 2 ( ) ( 1 ) | ( 2 + ) | = 0 | ( + ) ( + ) |     1 4 ( , , [ , ] )       | 3 | 1 2 ( ) ( 1 ) | ( 2 + ) | = 0 = + 1 | ( + ) ( + ) |     1 4 ( , , [ , ] )       F i na l l y ,   l e t   , 2   ,   t h e n     ( ) ( ) , | ( ) ( ) | | ( ) |        1 2 [ ( + ) ( + ) ] ( ) ( 1 ) = 1 | ( 2 + ) | | ( ) |  = 1       3 4 ( , , 1 ) .         4.   U N I Q U EN ES S   T H EO R E M   T h e   s i m ul t a n e o us   b e s t   a pp r o xi m a t i o n     o f   a   s ub s e t     of   , 2   i s   u ni q ue .     P r oo f:   T o   p r o ve   t h a t     i s   u n i q ue ,   s up po s e   t ha t   N 1 , N 2   b e   t w o   s i m ul t a n e o us   a ppr o xi m a t i o n s   t o   t h e by   D e f i n i t i o n (3)     l i m N 1 ,   = 0 ,       a n d     l i m N 2 ,   = 0 ,       S o   by   c o n di t i o [C4* o f   D e f i n i t i o n (1) ,   t h e r e   e xi s t s   1 ,     N 1 N 2 , ( N 1 , + N 2 , )       By   t a ki n l i m i t s   t o   b o t h   s i de s   a s   t e n ds   t o   i n f i n i t y ,   t h e f o r   a l l   L , 2     l i m N 1 N 2 , = 0 ,       S o   N 1 = N 2 ,   a nd  t h e   b e s t   s i m u l t a n e o us   a pp r o xi m a t i o t o     o ut   o f     i s   u ni que .           Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       B e s t   n e ur al   s i m ul t an e ous   appr ox i m at i on   ( H a w r aa  A bbas   A l m ur i e b)   1589   5.   C O N C LU S I O N     S i m ul t a n e o us   a pp r o xi m a t i o n   i t h e   , 2   s pa c e   i s   de f i n e i de t a i l s   i t hi s   p a pe r .   Co n s t ruc t i o of  n e u r a l   n e t w o r ks   w i t h   r e c t i f i e a c t i v a t i o n   f un c t i o t ha t   a p pr o xi m a t e s   a   s ub s e t   o f   , 2   s i m u l t a n e o us l y   i s   ob t a i n e t o o .   In   s pi t e   o i t s   v a r i o us   a ppl i c a t i o n s ,   i t   gi v e s   a c c ur a t e   r e s ul t s   t ha t   de pe n ds   o n   m o dul us   of  s m o o t h n e s s .   I t   w o ul b e   i n t e r e s t i n t o   di s c us s   v i t a l   a pp l i c a t i o n s   i n   2 - s t ruc t u r e   s pa c e s   fo r   t h e   c o n s t r uc t e n e u r a l   n e t w o r k.       R EF ER EN C ES   [ 1]   C .   B .   D unh a m ,   S i m ul t a n e o us   C h e by s he v   A ppr o xi m a t i o o f   F unc t i o ns   o a n   I nt e r v a l ,   P r oc .   A m .   M a t h .   So c .   v o l .   18,   no .   3 ,   p.   47 2,   19 67 .   [ 2]   J .   B .   D i a z   a n H .   W .   M c l a ug hl i n ,   O S i m u l t a ne o us   C h e by s he v   A ppr o xi m a t i o a n C he by s he v   A ppr o xi m a t i o n   w i t h   a A ddi t i v e   W e i g ht ,   J .   A ppr ox .   T he or y ,   v o l .   71 ,   no .   6,   pp .   68 - 71,   19 72.   [ 3]   J .   B .   D i a z   a nd  H .   W .   M c l a ug hl i n,   S i m u l t a ne o us   a p pr o xi m a t i o o f   a   s e t   o f   bo unde r e a l   f unc t i o ns ,   M at h.   C om put . ,   v o l .   23 ,   no .   1 07,   p p.   58 3 - 594,   1 969 .   [ 4]   F .   E .   L e v i s ,   I nt e r po l a t i o a nd   be s t   s i m ul t a ne o us   a pp r o xi m a t i o n,   2 017.   [ 5]   C .   L i   a nd  G .   A .   W a t s o n,   O no nl i n e a r   s i m u l t a ne o us   C he by s he v   a ppr o xi m a t i o pr o bl e m s ,   J .   M at h .   A na l .   A p pl .   v o l .   288 ,   no .   1 ,   pp .   167 - 181 ,   200 3.   [ 6]   Ş .   A t a c i k,   S i m ul t a n e o us   a p pr o xi m a t i o o f   a   uni f o r m l y   bo unde s e t   o f   r e a l   v a l ue f unc t i o ns ,   J .   A p pr o x .   T he or y v o l .   45,   no .   2 ,   pp.   1 29 - 132 ,   1985 .   [ 7]   P .   D .   M i l a n ,   O B e s t   S i m ul t a ne o us   A ppr o xi m a t i o i n   N o r m e d   L i ne a r   S p a c e s ,   J .   A ppr ox .   T he or y ,   v o l .   23 8,     pp.   22 3 - 238,   1 977 .   [ 8]   A .   A .   L .   I .   H us s e i n,   B e s t   s i m u l t a ne o us   a pp r o xi m a t i o i w e i g ht e s pa c e   B e s t   s i m ul t a n e o us   a p pr o xi m a t i o i n   w e i g ht e s pa c e ,   201 9.   [ 9]   S.   G a h l e r ,   L i ne a r e   2 - N o r m i e r t e   R ä um e ,   M at h.   N a c hr i c h t e n ,   v o l .   28,   pp .   1 - 43,   1 964 .   [ 10]   S .   E l um a l a i   a n R .   V i j a y a r a g a v a n,   C ha r a c t e r i z a t i o ns   o f   be s t   a p pr o xi m a t i o ns   i l i ne a r   2 - no r m e s pa c e s ,   G e n.   M a t h. ,   v o l .   1 7,   no .   3,   p p.   14 1 - 160 ,   2 009 .   [ 11]   A .   M e hm e t ,   T he   be s t   s i m u l t a ne o us   a ppr o x i m a t i o i l i ne a r   2 - no r m e s pa c e s ,   P r oc .   J angj e on  M a t h.   Soc . ,   v o l .   15,   no .   4 ,   pp.   4 15 - 422 ,   2012 .   [ 12]   M .   A c i kg oz ,   T he   be s t   s i m u l t a ne o us   a p pr o xi m a t i o i l i ne a r   2 - no r m e s pa c e s ,   20 14.   [ 13]   M .   A c i kg oz ,   A ppr o xi m a t i o i g e n e r a l i z e 2 - no r m e s pa c e s ,   20 1 4.   [ 14]   S .   C o bz a s   a n R .   A c a de m y ,   E xt e ns i o o f   bi l i ne a r   f unc t i o na l s   a nd   be s t   a pp r o xi m a t i o i n   2 - no r m e d   s p a c e s ,   2 017 .   [ 15]   M .   I r a nm a ne s h   a n F .   S o l e i m a ny ,   2 - N O R M E D   S P A C E S ,   v o l .   4 6 ,   no .   1 ,   pp .   207 - 215 ,   201 6.   [ 16]   A .   K undu  a nd  T .   B .   S k ,   O n   m e t r i z a bi l i t y   a nd  no r m a b i l i t y   of   2 - no r m e s p a c e s ,   M a t h .   S c i . ,   v o l .   13 ,   no .   1 ,     pp.   69 - 77 ,   201 9.   [ 17]   K .   I s e ki ,   M a t he m a t i c s   o 2 - no r m e d   s pa c e s ,   K or e an   M at h.   So c . ,   v o l .   1 3,   pp .   127 - 13 6,   19 76 .   [ 18]   C .   P a r k ,   G e n e r a l i z e qu a s i b a na c s pa c e s   a nd  qu a s i   ( 2; p) - N o r m e d   S pa c e s ,   J .   C h ung c he ong   M a t h.   Soc . ,   v o l .   19 ,   no .   2 ,   pp.   1 97 - 206 ,   2006 .   [ 19]   K .   K i k i na ,   e t   a l . ,   Q u a s i - 2 - N o r m e S pa c e s   a nd   S o m e   F i xe P o i n t   T he o r e m s ,   v o l .   47 4,   no .   2 ,   p p.   46 9 - 474 ,   2016 .   [ 20]   C .   P a r k ,   G e ne r a l i z e d   qua s i - B a n a c s p a c e s   a nd  q ua s i - ( 2 ,   p ) -   no r m e s pa c e s ,   J .   C hung c he ong  M a t h .   S oc . ,   v o l .   19 ,   no .   2 ,   pp.   1 97 - 206 ,   2006 .   [ 21]   L .   E .   A i k,   e t   a l . ,   A i m pr o v e r a d i a l   b a s i s   f unc t i o ne t w o r k s   ba s e d   o qua nt um   e v o l ut i o na r y   a l g o r i t hm   f o r   t r a i n i ng   no nl i n e a r   d a t a s e t s ,   I A E S   I n t .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   2 ,   p p.   12 0 - 131,   2 019 .   [ 22]   A .   S .   T a k i a l dd i n ,   e t   a l . ,   O v e r v i e w   o f   m o de l   f r e e   a da p t i v e   ( M F A )   c o nt r o l   t e c hno l o gy ,   I A E I n t .   J .   A r t i f .   I nt e l l .   v o l .   7,   no .   4,   p p.   16 5 - 169 ,   2 018 .   [ 23]   V .   K a t hi r v e l ,   e t   a l . ,   H y br i i m pe r i a l i s t i c   c o m pe t i t i v e   a l g o r i t hm   i nc o r po r a t e w i t ho pf i e l n e u r a l   ne t w o r f o r   r o bus t   3   s a t i s f i a bi l i t y   l o g i c   pr o g r a m m i ng ,   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8 ,   no .   2 ,   pp .   144 - 15 5,   20 19.   [ 24]   M .   R ha no ui ,   e t   a l . ,   F o r e c a s t i ng   f i na nc i a l   budg e t   t i m e   s e r i e s :   A r i m a   r a ndo m   w a l v s   l s t m   ne ur a l   ne t w o r k,   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8 ,   no .   4 ,   pp .   317 - 327 ,   201 9.   [ 25]   S .   I br a hi m ,   e t   a l . ,   O p t i m i z a t i o o f   a r t i f i c i a l   ne u r a l   ne t w o r t o po l ogy   f o r   m e m br a ne   b i o r e a c t o r   f i l t r a t i o us i ng   r e s po ns e   s u r f a c e   m e t ho do l o gy ,   I A E I n t .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1 ,   p p.   11 7 - 125 ,   2 020 .   [ 26]   S .   I .   A bdul l a h i ,   e t   a l . ,   I nt e l l i g e n t   f l o o d   di s a s t e r   w a r n i ng   o t he   f l y :   D e v e l o pi ng   I o T - ba s e m a na g e m e n t   pl a t f o r m   a nd  u s i ng   2 - c l a s s   n e ur a l   ne t w o r t o   pr e d i c t   f l o o s t a t us ,   B ul l .   E l e c t r .   E n g.   I n f or m at i c s ,   v o l .   8 ,   no .   2,   pp .   70 6 - 717,   2019 .   [ 27]   S .   V e r m a ,   e t   a l . ,   A N N   ba s e m e t ho f o r   i m pr o v i ng   go l pr i c e   f o r e c a s t i ng   a c c ur a c y   t hr o ug m o di f i e g r a di e nt   de s c e n t   m e t ho ds ,   I A E I n t .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1,   pp .   46 - 57 ,   2020 .   [ 28]   I .   H a c hc ha ne ,   e t   a l . ,   L a r g e - s c a l e   i m a g e - to - v i de o   f a c e   r e t r i e v a l   w i t c o nvo l ut i o na l   ne ur a l   ne t w o r k   f e a t ur e s ,   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   9 ,   no .   1 ,   pp .   40 - 45,   2 020 .   [ 29]   P .   R .   I y e r ,   e t   a l . ,   A da pt i v e   r e a l   t i m e   t r a f f i c   pr e di c t i o us i ng   de e n e ur a l   ne t w o r ks ,   I A E I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   2 ,   pp.   1 07 - 119 ,   2019 .   [ 30]   W .   N .   W .   M A dna n,   e t   a l . ,   D e v e l o pm e n t   o f   o pt i o c   m e a s ur e m e nt   a nd  v e r i f i c a t i o m o de l   us i ng   hy br i a r t i f i c i a l   ne ur a l   n e t w o r k - c r o s s   v a l i da t i o t e c hni q ue   t o   qua n t i f y   s a v i ng ,   I A E I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   9,   no .   1,   pp.   2 5 - 32,   2020 .   [ 31]   S .   B .   J a dh a v ,   e t   a l . ,   C o nv o l ut i o na l   n e ur a l   ne t w o r k s   f o r   l e a f   i m a g e - ba s e p l a n t   d i s e a s e   c l a s s i f i c a t i o n,   I A E I n t .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   4 ,   pp .   3 28 - 341 ,   2019 .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   3 D e c e m be r   2 020   :     15 84   -   15 90   1590   [ 32]   S .   B a r hm i   a n O .   E l   F a t ni ,   H o ur l y   w i nd  s pe e f o r e c a s t i ng   ba s e o s uppo r t   v e c t o r   m a c hi ne   a nd  a r t i f i c i a l   ne ur a l   ne t w o r k s ,   I A E S   I nt .   J .   A r t i f .   I n t e l l . v o l .   8,   no .   3 ,   pp.   2 86 - 291 ,   2019 .   [ 33]   N .   M a hm o d,   e t   a l . ,   M o de l l i ng   a nd  c o nt r o l   o f   f o ul i ng   i s u bm e r g e m e m br a ne   b i o r e a c t o r   us i ng   ne u r a l   ne t w o r k   i nt e r na l   m o de l   c o nt r o l ,   I A E S   I nt .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1 ,   pp .   1 00 - 108,   2 020 .   [ 34]   L .   E .   A i k,   e t   a l . ,   A i m pr o v e r a d i a l   ba s i s   f unc t i o ne t w o r ks   i n   ne t w o r k s   w e i g ht s   a d j u s t m e nt   f o r   t r a i n i ng   r e a l - w o r l no nl i n e a r   d a t a s e t s ,   I A E S   I n t .   J .   A r t i f .   I n t e l l . ,   v o l .   8,   no .   1 ,   pp .   63 - 76,   2 019 .   [ 35]   H .   A .   R a hi m ,   e t   a l . ,   E xp l o r a t i o o di g i t a l   m a r k e t i ng   a s   bus i ne s s   s t r a t e gy   m o de l   a m o ng   m a l a y s i a e nt r e p r e n e ur s   v i a   ne ur o c o m put i ng ,   I A E I n t .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1,   pp .   18 - 24,   20 20.   [ 36]   H .   O hm a i d ,   e t   a l . ,   I r i s   s e g m e nt a t i o us i ng   a   ne w   uns u pe r v i s e ne ur a l   a pp r o a c h,   I A E I nt .   J .   A r t i f .   I nt e l l . ,   v o l .   9,   no .   1 ,   pp.   5 8 - 64,   20 20.   [ 37]   A .   S a r k a r ,   M u l t i l a y e r   ne u r a l   n e t w o r s y nc hr o ni z e s e c ur e d   s e s s i o ke y   ba s e e nc r y pt i o i n   w i r e l e s s   c om m uni c a t i o n,   I A E S   I nt .   J .   A r t i f .   I n t e l l . ,   v o l .   8 ,   no .   1 ,   pp .   44 - 53,   2019 .   [ 38]   M .   S .   G a y a ,   e t   a l . ,   E s t i m a t i o o f   w a t e r   qua l i t y   i nde us i ng   a r t i f i c i a l   i n t e l l i g e nc e   a pp r o a c he s   a nd  m u l t i - l i ne a r   r e g r e s s i o n ,   I A E S   I nt .   J .   A r t i f .   I nt e l l . ,   v o l .   9 ,   no .   1 ,   pp .   126 - 134 ,   202 0.   [ 39]   G .   C y be nko ,   C o nt i nuo us   V a l ue N e ur a l   N e t w o r k s :   A ppr o xi m a t i o T he o r e t i c   R e s u l t s ,   i C om pu t e r   Sc i e nc e   and  St a t i s t i c s :   pr oc e e di ngs   o f   t he   20 t Sy m po s i um   o t he   I nt e r f ac e ,   p p.   174 - 183 ,   1988 .   [ 40]   T .   C he a nd  R .   C h e n ,   A ppr o xi m a t i o C a pa bi l i t y   t o   F unc t i o ns   of   S e v e r a l   V a r i a b l e s   ,   N o nl i n e a r   F unc t i o na l s   a nd   O pe r a t o r s   by   R a di a l   B a s i s   F unc t i o N e ur a l   N e t w o r ks ,   I E E E   T r a n s .   N e ur a l   N e t w or k s ,   v o l .   6 ,   no .   4,   p p.   90 4 - 910 ,   1995 .   [ 41]   Z .   Z ha ng ,   e t   a l . ,   T h e   ne w   a pp r o xi m a t i o o pe r a t o r s   w i t s i g m o i da l   f unc t i o ns ,   J .   A pp l .   M a t h.   C om put ,   v o l .   42,     no .   1 - 2,   p p.   45 5 - 468,   2 013 .   [ 42]   E .   S .   B ha y a ,   N e u r a l   N e t w o r k   T r i g o no m e t r i c   A ppr o xi m a t i o n,   no .   9,   pp .   2395 - 23 99,   2 016 .   [ 43]   H .   A .   A l m ur i e b,   S i m u l t a ne o us   A ppr o xi m a t i o o f   o r de r   m   by   A r t i f i c i a l   N e u r a l   N e t w o r k ,   v o l .   56 ,   no .   4,   20 17 .   [ 44]   E .   S .   B ha y a   a nd  H .   A .   A l m ur i e b ,   N e ur a l   N e t w o r T r i g o no m e t r i c   A ppr o xi m a t i o n ,   J .   U n i v .   B aby l on ,   v o l .   26,   no .   1,   pp.   23 95 - 2399 ,   201 6.   [ 45]   E .   S .   B h a y a   a nd  M .   A .   K a r e e m ,   W hi t ne y   M ul t i a pp r o xi m a t i o n,   J .   U ni v .   B a by l on  P ur e   A ppl .   Sc i . ,   v o l .   24 ,   no .   9,     pp.   38 5 - 403,   2 018 .   [ 46]   E .   S .   B h a y a   a nd  S .   Z .   A bdul m un i m ,   A ppr o xi m a t i o o f   F unc t i o n s   i L _P   S pa c e s   f o r   p<   1,   U s i ng   R a d i a l   B a s i s   F unc t i o N e ur a l   N e t w o r ks ,   J .   U ni v .   B ab y l o P ur e   A ppl .   Sc i . ,   v o l .   27,   no .   3,   p p.   40 0 - 405,   2 019 .   [ 47]   E .   B ha y a ,   l p   a p pr o xi m a t i o n   us i ng   r a d i a l   ba s i s   ne ur a l   ne t w o r k   o o r de r e s pa c e ,   201 9.   [ 48]   M .   H a ns s o a nd   C .   O l s s o n,   F e e df o r w a r n e ur a l   ne t w o r ks   w i t h   R e L U   a c t i v a t i o f unc t i o ns   a r e   l i n e a r   s p l i ne s ,   2017 .   [ 49]   H .   M o nt a n e l l i ,   e t   a l . ,   D e e R e L U   ne t w o r ks   o v e r c om e   t he   c ur s e   o f   di m e ns i o na l i t y   f o r   ba ndl i m i t e f unc t i o ns ,   2019 .   [ 50]   E .   J .   S .   D i t t m e r   a nd  P .   M a a s s ,   S i ng ul a r   V a l ue s   f o r   R e L U   L a y e r s ,   I E E E   T r an s .   N e ur al   N e t w or k s   L e ar n.   Sy s t .   no .   2 ,   pp.   1 - 12 ,   201 9.       B I O G R A P H I ES   O F   A U T H O R S         S he   r e c e i v e he r   M S c   de g r e e   i s c i e nc e   o f   m a t he m a t i c s   f r o m   U ni v e r s i t y   of   B a b y l o i 2010  a nd   s i s   a   P hD   s t ude nt   o f   a ppl i e d   m a t he m a t i c s   a t   U n i v e r s i t y   o f   B a g hda t o o   i 2 004 .   S he   h a s   be e a   l e c t u r e r   a t   U n i v e r s i t y   of   K uf a   a nd  t he U n i v e r s i t y   o f   B a b y l o i I r a q.   H e r   c u r r e nt   r e s e a r c h   i nt e r e s t s   i nc l ude   a ppr o xi m a t i o t he o r y ,   e s s e n t i a l   a ppr o xi m a t i o n,   ne ur a l   ne t w o r ks         S he   r e c e i v e he r   M S c   de g r e e   i s c i e nc e   o f   m a t he m a t i c s   f r o m   U ni v e r s i t y   of   B a g hda 1999  a nd   he r   P hD   de g r e e   i s c i e nc e   o f   m a t he m a t i c s   f r o m   U ni v e r s i t y   o f   B a ghda t o o   i 2004 .   S i nc e   t he n   s he   ha s   be e a   p r o f e s s o r   a t   t he   U ni v e r s i t y   of   B a b y l o i I r a q.   S he   h a s   t e n s   o f   publ i s he d   pa p e r s   i n   r e s e a r c i nt e r e s t s   i nc l u de   a p pr o xi m a t i o t h e o r y ,   i n t e r po l a t i o n,   a n n e ur a l   ne t w o r ks .     Evaluation Warning : The document was created with Spire.PDF for Python.