I n d on e s i an   Jo u r n al   o f  El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   18 ,   N o .   1 ,  A p r i l   20 20 ,   p p.   459 ~ 469   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 1 8 .i 1 . pp 459 - 469             459       Jou r n al   h o m e pa ge :  ht t p: / / i j e e c s . i a e s c or e . c om   R a d i a l   b a s i s  f u n c t i o n   n e u r a l   n e t w o r k   f o r   2   sa t i sf i a b i l i t y   p r o g r a m m i n g       S h e h ab   A l z ae e m i 1 ,   M o h d .   A s yr af   M an s o r 2 ,   M o h d   S h ar e d u w an   M o h d   K as i h mu d d i n 3 ,    S ar ath a  S a th as i v am 4 ,   M u s tafa  M am at 5   1 , 3 , 4 S c h oo l   o f   M a t he m a t i c a l   S c i e nc e s ,   U ni v e r s i t i   S a i n s   M a l a y s i a ,   M a l a y s i a   2 S c hoo l   o f   D i s t a nc e   E duc a t i o n,   U n i v e r s i t i   S a i ns   M a l a y s i a ,   M a l a y s i a   5 F a c ul t y   of   I n f o r m a t i c s   a n d  C o m pu t i ng ,   U n i v e r s i t i   S u l t a n  Z a i na l   A bi d i n ,   M a l a y s i a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e d  J un   23 ,   201 9   R e v i s e d  S e p  5 ,   2019   A c c e pt e d  S e p  20 ,   201 9       R a di a l   B a s i s   F unc t i o n  N e ur a l   N e t w o r k  ( R B F N N )   i s   v e r y   pr om i ne nt   i n  d a t a   pr o c e s s i ng .   H o w e v e r ,   i m pr o v i ng   t hi s   t e c hni q ue   i s   v i t a l   f o r   t he   N N   t r a i n i ng   pr o c e s s .   T h i s   pa p e r   pr e s e nt s   a n  i nt e g r a t e d   2  S a t i s f i a b i l i t y   i n  r a di a l   b a s i s   f unc t i o n  ne u r a l   ne t w o r k  ( R B F N N - 2S A T ) .   T he r e   a r e   t w o   di f f e r e n t   t y pe s   o f   t r a i n i ng   i n  R B F N N ,   n a m e l y   no - t r a i n i ng   t e c hni q ue   a nd   ha l f - t r a i ni ng   t e c hni que .   T h e   pe r f o r m a nc e   o f   t he   s o l ut i o ns   v i a   G e ne t i c   A l g o r i t hm   ( G A )   t r a i n i ng   w a s   i nv e s t i g a t e d  by   c o m pa r i ng   t he   R a di a l   B a s i s   F unc t i o n  N e ur a l   N e t w o r k   No - T r a i n i ng   T e c hni que   ( R B F N N -   2S A T N T )   a nd  R a di a l   B a s i s   F unc t i o n  N e u r a l   N e t w o r k  H a l f - T r a i ni ng   T e c hni que   ( R B F N N -   2S A T H T ) .   T he   c o m pa r i s o n  o f   bo t h  t e c hni que s   w a s   e x a m i n e d  o n  2   S a t i s f i a b i l i t y   pr o bl e m   by   us i ng   a   C #  s o f t w a r e   t ha t   w a s   d e v e l o pe d  f o r   t h i s   e x pe r i m e n t .   T he   pe r f o r m a nc e   o f   t he   R B F N N - 2S A T N T   a nd  R B F N N - 2S A T H T   i n  pe r f o r m i ng   2S A T   i s   d i s c us s e d  i n   t e r m s   o f   r o o t   m e a n  s qu a r e d  e r r o r   ( R M S E ) ,   s u m   s qua r e d   e r r o r   ( S S E ) ,   m e a n  a bs o l u t e   p e r c e n t a g e   e r r o r   ( M A P E ) ,   m e a n  a bs o l ut e   e r r o r   ( M A E ) ,   num be r   o f   t he   h i dd e n  n e ur o ns   a nd  C P U   t i m e .   R e s ul t s   o bt a i ne d   f r o m   a   c o m put e r   s i m u l a t i o n  s ho w e d  t h a t   R B F N N - 2S A T H T   o ut pe r f o r m e d   R B F N N - 2S A T N T .     Ke y w or ds :   2  s a t i s f i a b i l i t y   G e n e t i c   a l go ri t hm   H a l f - t r a i n i ng  t e c hn i q ue   No - t r a i n i ng  t e c hn i que   R a di a l   b a s i s   f un c t i o n s   n e ura l   n e t w o r k   C opy r i gh t   ©   20 20   I n s t i t ut e   o f   A dv anc e d  E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   N a m e :   M o h d .   A s y r a f   M a n s o r,   S c h o o l   of   D i s t a n c e   E duc a t i o n ,     U n i v e r s i t i   S a i n s   M a l a y s i a ,   1180 0  U S M ,   P e n a n g ,   M a l a y s i a .   E m a i l :   a s y r a f m a n@ us m . m y       1.   I N TR O D U C TI O N   N e ur a l - s y m bo l i c   i n t e g r a t i o n   c o m b i n e s   b o t h   t h e   c o nn e c t i o n i s t   s y s t e m   a n d  s y m bo l i c   a r t i f i c i a l   i n t e l l i ge n c e   (A I)  s y s t e m s .   S y m b o l i c   A I  i s   i n s pi r e d  by   h um a n   t hi n ki ng  a nd  f o r m a l i s e s   i t   by   m e a n s   o f   l o gi c   l a n gu a ge s   f o r   k n o w l e dge   r e pr e s e nt a t i o n  a nd  r e a s o ni n g .   N e u ra l - s y m bo l i c   s t r uc t u r e s   a r e   A I  s y s t e m s   t ha t   c a n   r e a l i s e   t h e   s y m bo l i c   pr o c e s s e s   w i t h i n  a rt i f i c i a l   n e u r a l   n e t w o r ks .   A n  a rt i f i c i a l   n e u ra l   n e t w o r k  (A N N ),   a l s o   kn o w n   a s   c o nn e c t i o n i s t   s y s t e m s ,   h a s   r e c e i v e d  pr e c i s e   a t t e n t i o n   b e c a us e   of   i t s   c a pa c i t y   t o   e v a l ua t e   c o m pl e x  n o n - l i n e a r   da t a   s e t .   N e ura l   n e t w o r ks   (N N )  a r e   A I  s t r uc t u r e s   t ha t   i n c l ude   s o m e   m a t h e m a t i c a l   a n d  g ra p hi c a l   m o de l s .   A N N   h a s   b e e n   s uc c e s s f ul l y   a ppl i e d  t o   s o l v e   v a r i o us   a ppl i c a t i o n s ,   s uc h   a s   c l a s s i f i c a t i o n,   f un c t i o n   a pp r o xi m a t i o n,   a n d  o pt i m i s a t i o n   [1] .   A c c o r di n g  t o   c o nn e c t i v i t y ,   t h e   N N   h a s   t w o   m a i n   t o po l o gi e s .   T h e   f i r s t   t o po l o g y   i s   r e c urr e n t   n e t w o r k,   s uc h   a s   t h e   H o pf i e l d  N e ur a l   N e t w o r k  (H N N )  w h e r e   t h e   n e u r o n s   b e l o n g  t o   t h e   s a m e   l a y e r   a nd  s e nd  t h e i r  o ut put   t o   n e u r o n s   o f   t h e   n e x t   a n d   p r e v i o us   l a y e r s .   T h e   s e c o n d  t o po l o g y   i s   t h e   f e e d f o r w a r d  n e t w o r k,   s uc h   a s   t h e   R a di a l   B a s i s   F u n c t i o n   N e ur a l   N e t w o r k  (R B F N N )  w h e r e   n e u r o n s   t ha t   b e l o n g  t o   t h e   s a m e   l a y e r   r e c e i v e s   i n put s   f r o m   n e u r o n s   o f  t h e   p r e v i o us   l a y e r   a n d  s e n d  t h e i r   v a l ue s   o n l y   t o  n e u r o n s   o f   t h e   n e xt   l a y e r .   M oo d y   a n d  D a r ke n   [2]  us e d  RBF N N   by   v i e w i n g  t h e   de s i gn   a s   a n   a pp r o xi m a t i o n  pr o b l e m   i n   a   h i g h   d i m e n s i o na l   s p a c e .   B i l l i n gs   a nd  Z h e ng  [ 3]  p r o po s e d  RB F N N   c o n f i gura t i o n   w i t h   G e n e t i c   A l go r i t h m s   (G A ) .   I t   w a s   de m o n s t ra t e d  t ha t   t h e   G A   c a n  a ut o m a t i c a l l y   de t e r m i n e   a pp r o p r i a t e   R B F N N   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     4 5 9   -   4 6 9   460   s t ruc t u r e s   a n d  p a r a m e t e r s   a c c o r di n g  t o   o bj e c t i v e   f un c t i o n s .   S i ng h   a nd  S i n g h   [4]  u t i l i s e d  R B F N N   w i t h   G A   i n   s a t e l l i t e   i m a ge   c l a s s i f i c a t i o n.   D e l g a do   e t   a l .   [5 ]  p r o po s e d  t h e   a ppl i c a t i o n   o f   m ul t i v a r i a t e   s t a t i s t i c a l   a na l y s i s   b y  c o m b i n i ng  G A   w i t h   R B F N N ,   t a k i n g   i nt o   a c c o un t   t h e   s t a t i s t i c a l   s i g ni fi c a n c e   b e t w e e n   i n de pe n de n t   a n d   de pe n de nt   v a r i a b l e s   a n d   t h e i r   c o rr e l a t i o n .   H a n   e t   a l .   [6]  de ve l o pe d  a n   e f fi c i e n t   s e l f - o r ga ni s i n g  r e c u rr e n t   RB F N N   fo r   n o n l i n e a r  s y s t e m   m o de l l i n g .   M o h a m m a di   e t   a l .   [7]  p r o v i de d  a   ge n e ri c   h a rdw a r e   s o l ut i o n   f o r   c l a s s i f i c a t i o n   b y   us i n g  R B F N N   o n   a   r e c o n f i gura b l e   da t a   pa t h   t ha t   o v e r c o m e s   t h e   m a j o r   d ra w b a c k  o f   f i xe d - f un c t i o n   ha r dw a r e   da t a   p a t h s .   T h e   p r o po s e d   m e t h o d  o ffe r s   l i m i t e d  f l e xi b i l i t y   i n   t e r m s   o f   a ppl i c a t i o n   i n t e r c ha n ge a b i l i t y   a n d  s c a l a b i l i t y ,   w h i c h  pu t s   n o   l i m i t a t i o n  o n  t h e   di m e n s i o n   o f   t h e   i nput   d a t a .     L o gi c   pr o gr a m m i ng  b e ga n   i n   t h e   e a rl y   1970s   a s   a   fo un da t i o n   t o   m a n y   a ppl i c a t i o n s ,   s uc h   a s   a r t i f i c i a l   i n t e l l i ge n c e .   T h e   a b i l i t y   t o   e xt ra c t   k n o w l e dge   f r o m   t h e   l o gi c   pr o g r a m m i n g  m a ke s   A N N   ve r y   s ui t a b l e   t o  de ve l o p  a n   a rt i f i c i a l   i nt e l l i ge n c e   s y s t e m   [8].   T h e   s t r e ngt h   o f  bo t h   pa ra d i gm s   m a ke s   t h e   i nt e g r a t e d  s y s t e m   t o  b e c o m e   m o r e   “ i n t e l l i ge nt ”   a n d  r e duc e s   m a j o r   dr a w b a c ks   of   bo t h   pa ra di g m s   [9] .   P i n ka s   [10]  e xpa nde d  t h e   i de a   o f   l o gi c   pr o gra m m i n g  b y   i n t e gra t i n g  t h e   c o m pe t e n t   p r o po s i t i o n a l   k n o w l e dge   o r   l o gi c a l   m a ppi ng  s y s t e m   v i a   a   s y m m e t ri c   c o nn e c t i o n i s t   n e t w o r k.   P u r s u i n g  t h a t ,   A b dul l a h   [1 1]  p r o po s e d  a   m e t h o d  t o   c o m put e   t h e   s y n a pt i c   w e i ght   o f   t h e   n e t w o r k  c o r r e s po n d  t o   t h e   p r o po s i t i ona l   l o gi c   e nt r e n c h e d  t o   t h e   s y s t e m .   H ö l l dob l e r   e t   a l .   [12]   p r o v e d  t h a t   t h e   l o gi c   p r o gra m m i n g   c a n   w o r k  e f fe c t i v e l y   w i t h   r e c urr e n t   n e u r a l   n e t w o r k.   S a t ha s i v a m   a n d  A b dul l a h   [ 13]  de pl o y e d  t h e   W a n  A b dul l a h  m e t h o d  i n  o rde r   t o   c o m put e   t h e   s y n a pt i c   w e i gh t s   f o r   t h e   H o r n  L o gi c   P r o gr a m m i n g   i n  H o p f i e l d  N e ur a l   N e t w o r k.   K a s i hm uddi n  e t   a l .   [14]   de pl o y e d  t h e   a dv a n t a ge   o f   t h e   ge n e t i c   a l go r i t hm   t o   de a l   w i t h   l e a rn i ng  c o m pl e xi t y   i n   t h e   H o p f i e l d  n e u r a l   n e t w o r k  i n   do i n g  l o gi c   k - S A T .   P ur s u i n g  t h a t ,   K a s i hm ud di n  e t   a l .   [15]   i n  t h e i r  pa pe r  p r o v i de d  a   s o l i d  e v i de n c e   o f   t h e   r o b us t n e s s   o f   ge n e t i c   a l go ri t hm   t o   b e   us e d  i n   o t h e r  s a t i s f i a b i l i t y   pr o b l e m   by   i n c o r po r a t e d  H o p f i e l d  n e ura l   n e t w o r k  w i t h   ge n e t i c   a l go ri t hm   i n   s o l v i n g  M A X - kS A T   p r o b l e m .   I n   t h e i r   p a pe r,   A l z a e e m i   e t   a l .   [16]  de v e l o p e d  a ge n t   b a s e d   m o de l l i n g   (A B M )  us i n g   a   ge n e t i c   a l go ri t hm   i n   t h e   H o p f i e l d  n e u r a l   n e t w o r k.   O b s e r v e d  t ha t   ge n e t i c   a l go ri t hm   e nh a n c e   t h e   pe r f o r m a n c e   o f   d o i n g  l o gi c   p r o gra m m i n g  i n   H o p f i e l d  n e t w o r k.   T h e   r e s ul t   ha s   s h o w n   t h e   e ffe c t i ve n e s s   a nd  a c c e l e r a t i o n   f e a t u r e s   of   ge n e t i c   a l go r i t hm   i n  do i n g  M A X - 2S A T   i n   H o pf i e l d  n e t w o r k.   H a m a d n e h   e t   a l .   [1 7]  p r e s e n t e d  t h e   l o gi c   pr o gra m m i ng   i n   R B F N N   i n   a   s i n gl e   o pe r a t o r   l o gi c ,   H o rn   s a t i s f i a b i l i t y ,   a nd  3S A T   i n   R B F N N .   H a m a d n e h   e t   a l .   [1]  s uc c e s s f ul l y   r e pr e s e nt e d  3S A T   p r o gra m m i ng  i n  RB F N N .   T h e   p r o b l e m   i n   R B F   n e u r a l   n e t w o r ks   i s   t h e   num b e r   o f   h i d de n  n e u r o n   i n   t h e   h i dde n   l a y e r   a n d   h o w   c a n   c o m put e   t h e   pa ra m e t e r s   o f   t h e   h i dde n   l a y e r ?   [24].   T h e   p ro pos e d  w o r k  i s   a b l e   t o   i n c r e a s e   t h e   e f f i c i e n c y   of  t h e   n e t w o r k  a n d  m i ni m i s e   t h e   r e qui r e d  n u m b e r   o f   h i dde n   n e u r o n s   by   us i n g  l o gi c   p r o g ra m m i ng  2S A T   t o   c o m put e   t h e   a l l   pa ra m e t e r s   i n   t h e   h i dde n  l a y e r   by   gi ve   t h e   i nput   d a t a   i n   t h e   t ra i ni n g   s e t .   N o   pu r s ui t   w a s   do n e   t o   i n t e g ra t e   2S A T   i n   R B F N N .   In   t hi s   pa pe r,   t h e   a dv a n t a ge s   of   t h e   RB F N N   a n d  l o gi c   pr o g r a m m i n g  2S A T   i n  t w o   t r a i ni n g   t e c hni que s ,   w h i c h   a r e   n o - t r a i n i ng  a n d  ha l f - t ra i ni n g,   w i l l   b e   h i g hl i g h t e d.   I n e v i t a b l y ,   RB F N N   w o r ke d  w e l l   w i t h   2S A T   t o   a c c o m m o da t e   t h e   n u m b e r   o f   i n p ut   n e u r o n s   i n   t h e   i n put   l a y e r   a nd  r e duc e   t h e   n u m b e r   o f   h i dde n   n e u r o n s   i n  t h e   h i dde n   l a y e r   o f   RB F N N .   T hi s   pa pe r   de s c ri b e s   t h e   i m p l e m e n t a t i o n   o f   2S A T   i n   R B F N N   v i a   n o - t r a i ni n g   a n d  ha l f - t ra i ni n g   t e c hni que s .         2.   R ES EA R C H   M ET H O D   2. 1 .       2   S at i s fi ab i l i ty   (2S A T)   Lo gi c   2  S a t i s f i a b i l i t y   o r   a b b r e v i a t e d  a s   2S A T   p r o b l e m   i s   de fi n e d  a s   a   p r o b l e m   t o   de t e r m i n e   t h e   s a t i s f i a b i l i t y   of   s e t s   o f  c l a us e s   w h i c h   a r e   c o m pri s e d  of   s t r i c t l y   2  l i t e ra l s   pe r   c l a us e .   2S A T   p r o b l e m   c a n   b e   e xpr e s s e d  i n  t h e   2 CN F   f o r m .   T h e   t hr e e   c o m po n e n t s   o f   2S A T   p r o b l e m   a r e   a s   f o l l ow s :   a.   Co n s i s t   o f   a   s e t   o f   m   v a r i a b l e s :   12 , , . . . , m v v v .   b.   Co n s i s t   o f   a   s e t   o f   l i t e r a l s .   A   l i t e r a l   i s   a   v a ri a b l e   o r  a   n e ga t i o n  o f   a   v a ri a b l e .     c.   A   s e t   of   n   di s t i n c t   c l a us e s : 12 , , . . . , n l l l .   E a c h   c l a us e   c o n s i s t s   o f   o n l y   l i t e r a l s   c o m b i n e d  by   o n l y   t h a t   i s   l o gi c a l   A N D .   E a c h   o f   t h e   v a r i a b l e   c a n   o n l y   t a ke   a   b i po l a r   v a l ue ,   w h i c h   i s   1  o r   0  t h a t   e xe m pl i f i e s   t h e   i de a   o f   t r ue   a n d  f a l s e .   T h e   go a l   o f   2S A T   pr o b l e m   i s   t o   de c i de   w h e t h e r   t h e r e   e xi s t s   a n   a s s i g nm e n t   o f  t r ut h   v a l ue s   t o   t h e   v a ri a b l e s   t ha t   m a ke   t h e   P   be c o m e   s a t i s f i a b l e .   T h e   ge n e r a l   f o r m ul a   f o r   2S A T   p r o b l e m   i s   a s   f o l l ow s :     ,2 1 1 1 n k n P l wh e re l A B k i i i j i i j   (1)     In   t h i s   s t udy .   2S A T   i s   t h e   m a i n   i m pe t us   s i n c e   t h e   f o c us   of   t h e   l o gi c   pr o g r a m m i n g  i s   t o   e n s u r e   t h e   pr o g r a m m e   o nl y   c o n s i de r s   2  l i t e r a l s   pe r   c l a us e   pe r   e xe c ut i o n.   I t   w a s   s ub s t a n t i a t e d  by   v a r i o us   r e s e a r c h    [18 - 20]  t ha t   n u m e r o us   c o m b i n a t o r i a l   p r o b l e m s   c a n   b e   f o r m ul a t e d  by   us i n g  t h e   2S A T   pa ra di g m .   T h e   c h o i c e   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   2  s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha b  A l z a e e m i )   461   of   2  l i t e r a l s   pe r   c l a us e   i n   s a t i s f i a b i l i t y   pr o b l e m   r e duc e s   t he   l o gi c a l   c o m pl e xi t y   i n   di s c o ve r i n g  t h e   r e l a t i o n  b e t w e e n   v a ri a b l e s   i n  t h e   n e u ra l   n e t w o r k  o r  s o l v e r .   T h e s e   f unda m e n t a l   r e a s o n s   m a ke   2S A T   pa ra di gm   b e c o m e   a   r e l e v a n t   a pp r o a c h   t o   r e p r e s e n t   l o gi c a l   r ul e s   i n  n e u r a l   n e t w or k .       2. 2 .       R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   (R b fn n )   RB F N N   i s   a   n e u r a l   n e t w o r k  t ha t   w a s   f i r s t   us e d  i n   19 89  [2 ].   R a di a l   B a s i s   F u n c t i o n   N e u r a l   N e t w o r k  alg o ri t hm   h a s   b e e n   pr o v e n   t o   b e   us e f ul   a n d  b e n e f i c i a l   i n  m a n y   i n dus t r i a l   a ppl i c a t i o n s   [21].   R B F N N   i s   di f fe r e nt   f r o m   o t h e r   n e t w o r ks ,   po s s e s s i n g  s e v e r a l   di s t i n c t i v e   fe a t u r e s   due   t o   i t s   uni v e r s a l   a pp r o xi m a t i o n  a b i l i t y ,   m o r e   c o m pa c t   t o po l o g y   a n d  f a s t e r  l e a rni n g  s pe e d  [22 - 23].   R B F N N   t y pi c a l l y   h a s   t hr e e   l a y e r s :   a n  i n p ut   l a y e r ,   a   hi dde n   l a y e r ,   a n d   a n  o ut put   l a y e r .   T h e   i n pu t   l a y e r  i s   m a de   up  o f   s o ur c e   n e ur o n s   t ha t   c o nn e c t   t h e   n e t w o r k  t o   i t s   e n v i r o n m e nt .   T h e   hi dde n   l a y e r   r e c e i v e s   t h e   i n p ut   i n f o rm a t i o n,   f o l l ow e d  by   s pe c i f i c   de c o m po s i t i o n ,   e xt ra c t i o n ,   a n d  t ra n s f o r m a t i o n   s t e ps ,   t o   ge n e r a t e   t h e   o ut put   da t a   [ 24].   T h e   n e u r o n s   i n   t h e   hi dde n   l a y e r   a r e   a s s o c i a t e d  w i t h   c e n t r e s   a nd  w i dt h s   t ha t   de t e r m i n e   t h e   b e h a v i o ura l   s t ruc t u r e   o f   t h e   n e t w o r k.   T h e   o ut put   l a y e r   i n   R B F N N   pr o v i de s   t h e   r e s po n d i n g  o f   t he   n e t w o r k  t o   t h e   a c t i v a t i o n   pa t t e rn   o f   t h e   i nput   l a y e r   t ha t   w o r ks   a s   a   s um m a t i o n  u n i t .   T h e   pa ra m e t e r s   o f   a   R BF N N   a r e   t h e   c e n t r e s ,   w i dt h s ,   c o n s t a nt   i n pu t   w e i ght s ,   a n d  o ut p ut   w e i g h t s .   T h e   hi dde n   l a y e r   pa ra m e t e r s   a r e   t h e   c e nt r e s   a n d   w i dt h s .   T h e   o ut pu t   w e i ght s   a r e   l i n ke d  b e t w e e n   t h e   hi dde n   a n d   o ut put   l a y e r s .   T h e   f i r s t   p h a s e   of   t h e   l e a rni n g  p r o c e dur e   i s   t o   d e t e r m i n e   t h e   hi dde n   pa ra m e t e r s   [25] .   T h e   s e c o n d  pha s e   i n v o l v e s   o ut put   w e i gh t s .   T h e r e   a r e   di f fe r e nt   t e c hni qu e s   fo r   t r a i n i ng  R B F N N   [26],   s uc h   a s   n o - t r a i n i ng  t e c hn i q ue   a n d  ha l f - t r a i n i ng  t e c hni que .   Ca l c ul a t i o n s   f o r   t he   e qua t i o n   o f   t h e   a c t i v a t i o n   f u n c t i o n s   f o r   t h e   pr o c e s s i n g  o n   R B F N N   [27]  a r e   a s   f o l l ow s :     2 ' 1 2 e xp 2 N j i j i j i i w x c x                      ( 2)     w h e r e i i s   t h e   a c t i v a t i o n   f un c t i o n   o f   RB F N N   i n   h i dde n   n e ur o n   I,   ' ji w i s   t h e   c o n s t a nt   i n pu t   w e i gh t   b e t w e e n   t h e   i nput   n e u r o n,   j   a nd  t h e   h i dde n  n e u r o n   I ,   i c i s   t h e   c e nt r e   o f   t h e   h i dde n  n e u r o n   I,   i   i s   t h e   w i dt h   o f  t h e   hi dde n   n e u r o n   I , N i s   t h e   num b e r   o f   t h e   i n pu t   n e u r o n s ,   j x i s   a n  i n put   v a l ue   i n i ,    S t r uc t u r e   o f   R BF N N   i n di c a t e s   t h e   E uc l i de a n   n o r m   o n   t h e   i n pu t   s p a c e   a s   f o l l o w s   a n d   S t r uc t u r e   o f   RB F N N   a s   s h o w n     i n   F i gu r e   1 .         2 '' 1 1 1 N m N ji j i ji j i j i j w x c w x c       (3)           F i gu r e   1 .   S t ruc t u r e   o f   RB F N N     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     4 5 9   -   4 6 9   462   A c c o r di n g l y ,   t h e   o ut put   o f   RB F N N   t e c h n i que   ha s   t h e   f o l l ow i n g   f o r m   [31] :     1 () j ii i F x w x   (4)     w h e r e i w i s   t h e   o ut pu t   w e i gh t   b e t w e e n   t h e   hi dde n   n e ur o n   a n d  t h e   o ut put   n e u r o n , Fx i s   t h e   a c t ua l   o ut put   v a l ue   o f   a n  o ut put   n e u r o n.       2. 2 . 1.       S at i s fi ab i l i ty   R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   T h e   o bj e c t i v e   of   do i n g  l o gi c   p r o g r a m m i n g  2S A T   i n  R B F N N   i s   t o   f i n d  t h e   t rut h   v a l ue   o f   t h e   i n pu t   v a l ue s   i n   R B F N N   fo r   t h e   c l a us e s .   T h e   ge n e r a l   f o r m   o f   t h e   l o gi c   p r o gra m m i n g   2S A T   i s   [ 17]:     2 11 kn S A T i j ij P A B    (5)     w h e r e , , kn .  i A a nd j B a r e   a t o m s .   T o   e m b e d  t h e   l o gi c   p r o gra m m i n g  2S A T   i n  R B F N N ,   t h e   t r a i ni n g  da t a   s e t   f o r   e a c h   c l a us e   m us t   b e   de t e r m i n e d.   T h e   ge n e r a l   f o r m   t o   c a l c ul a t e   t h e   t ra i ni n g  d a t a   f o r   e a c h  c l a us e   i n  2S A T   i s   gi v e n  by   t h e   f o l l ow i n g   e qua t i o n:     1 ( ) ( ) ; , { 0 , 1 } i j i j ij x I A I B whe re A B    (6)     T h e   l o gi c   p r o gra m m i n g  o f   2S A T   i n  R B F N N ,   i s   by   us i n g  b i n a r y   i n put   n e u r o n s { 0 , 1 } i n  T a b l e   1  t o   e xe m pl i fy   t h e   po s s i b l e   i n put   da t a   v a l ue s   a n d  o ut put   t a r ge t   da t a   v a l ue s   fo r   2S A T   i n   R B F N N .   By   us i n g  t h e   e m b e ddi n g  m e t h o d,   i n p ut   da t a   v a l ue   f o r   ( 7)  i s   s h o w n   i n  T a b l e   1.     F o r   e xa m pl e ,   t h e   f o l l o w i n g  2S A T   t h a t   ha s   t hr e e   c l a us e s   i n  t h e   R BF N N   t ra i ni n g :       , P A B DC EF    ( 7)       T a b l e   1 .   T h e   I n p ut   D a t a   F o r m   a nd  t h e   T ra i n i n g   D a t a   o f   2S A T   i n   ( 7)   Cl a u s e   , AB   DC   EF   DNF   AB     CD      E F     In p u t   t h e   v a l u e   o f   d a t a   fo r m x     x A B      x D C      x E F      In p u t   d a t a   i n   t h e   t ra i n i n g   s e t i x   0   1   2   - 1   0   1   - 1   0   1   O u t p u t   t a r g e t   d a t a i y   0   1   1   0   1   1   0   1   1       2. 4 .      R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   2   S ati s f i ab i l i ty  v i a  N o - Tr a i n i n g   Te c h n i q u e   (R B F N N - 2S A TN T)   F o r   n o - t ra i n i n g   t e c hni que s   i n  R N F N N - 2S A T ,   a l l   pa ra m e t e rs ,   s uc h  a s   t h e   c e n t r e s ,   t h e   w i dt h s ,   a n d   o ut put   w e i gh t s   a r e   c a l c ul a t e d  a n d  f i xe d.   T h e   R B F N N - 2S A T   t ra i ni n g  i n  t hi s   t e c hni que   i s   by   m e t a h e u ri s t i c   a l go ri t hm s   t o   m i ni m i s e   t h e   e rr o r   i n  o ut put   w e i g h t   b e t w e e n   h i dde n   n e u r o n s   a nd  o ut put   n e u r o n s .   T h e   a l go ri t hm   fo r   R B F N N - 2S A T   by   us i n g   t h e   n o - t ra i ni n g   t e c hni que   i s   a s   f ol l o w s :   S t e p  1:   Ca l c ul a t e   t h e   t ra i ni n g  da t a   f o r   e a c h   c l a us e   i n   2S A T   by   t a ki n g  t h e   c e n t r e s   a s   t ra i ni n g  da t a   o f  i n put   v a l ue s .   S t e p  2:   I ni t i a l i s e   t h e   i nput   w e i g h t   ' { 1 , 1 } ji w  b e t w e e n   i n p ut   n e u r o n   a nd  hi dde n   n e u r o n   b e s i de   1  f o r   a t o m   a n d   - 1   f o r   t h e   n e g a t i v e   a t o m .   S t e p  3:   Ca l c ul a t e   t h e   w i dt h s   by   us i n g  t h e   f o l l ow i n g   e qua t i o n  a c c o r di n g  t o   t h e   p a pe r   [ 28].   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   2  s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha b  A l z a e e m i )   463   max 2 i d m   (8)     w h e r e , i m i s   t h e   n um b e r   o f   t h e   l i t e r a l s   pe r   c l a us e s   a n d m a x d i s   t h e   m a xi m um   di s t a n c e   b e t w e e n   t h e   c e n t r e s   o f   t h e   hi dde n   l a y e r .     S t e p  4:   Ca l c ul a t e   t h e   R B F N N - 2S A T   G a us s i a n  a c t i v a t i o n   f u nc t i o n   v a l ue s   by   us i n g   (2) .   S t e p  5:   O b t a i n  t h e   o ut put   w e i gh t   by   us i ng  t h e   o ut put   l i n e a r  ( 4)  o f   RB F N N - 2S A T .       T a b l e   2 .   T h e   V a l ue s   o f   t h e   A c t i v a t i o n   F u n c t i o n  i n  R B F N N - 2 S A T   w h i c h  R e pr e s e n t s   t h e   C l a us e   , AB   In p u t   v a l u e s   ( i x )   , 0 , 0 . 0 7 4 i x   ,1 , 0 . 0 7 4 i x   , 2 , 0 . 0 7 4 i x   O u t p u t   t a r g e t   v a l u e i y   0   1   1 . 3 5 2 5 e - 6   3 . 3 6 7 5 e - 24   0   1   1 . 3 5 2 5 e - 6   1   1 . 3 5 2 5 e - 6   1   2   3 . 3 6 7 5 e - 24   1 . 3 5 2 5 e - 6   1   1       T a b l e   3 .   T h e   V a l ue s   o f   t h e   A c t i v a t i o n   F u n c t i o n  i n  R B F N N - 2 S A T   w h i c h  R e pr e s e n t s   t h e   C l a us e  DC   In p u t   v a l u e s   ( i x )   , 1 , 0 . 0 7 4 i x   , 0 , 0 . 0 7 4 i x   ,1 , 0 . 0 7 4 i x   O u t p u t   t a r g e t   v a l u e i y   - 1   1   1 . 3 5 2 5 e - 6   3 . 3 6 7 5 e - 24   0   0   1 . 3 5 2 5 e - 6   1   1 . 3 5 2 5 e - 6   1   1   3 . 3 6 7 5 e - 24   1 . 3 5 2 5 e - 6   1   1       T a b l e   4 .   T h e   V a l ue s   o f   t h e   A c t i v a t i o n   F u n c t i o n  i n  R B F N N - 2 S A T   w h i c h  R e pr e s e n t s   t h e   C l a us e   EF   In p u t   v a l u e s   ( i x )   ( , 1 , 0 . 0 7 4 ) i x   ( , 0 , 0 . 0 7 4 ) i x   ( , 1 , 0 . 0 7 4 ) i x   O u t p u t   t a r g e t   v a l u e i y   - 1   1   1 . 3 5 2 5 e - 6   3 . 3 6 7 5 e - 24   0   0   1 . 3 5 2 5 e - 6   1   1 . 3 5 2 5 e - 6   1   1   3 . 3 6 7 5 e - 24   1 . 3 5 2 5 e - 6   1   1       T a b l e   5 .  T h e   O ut put   W e i g h t s   o f   RB F N N - 2S A T N T   t h a t   R e pre s e n t s   2S A T   u s i ng  t h e   N o - T r a i n i ng  T e c hni que   11 W   21 W   31 W   12 W   22 W   32 W   13 W   23 W   33 W   - 1 . 3 5 2 5 e - 06   1   1   1   - 1 . 3 5 2 5 e - 06   1   1   - 1 . 3 5 2 5 e - 06   1       In   t h e   n o - t r a i n i ng  t e c hni que ,   t h e   h i dde n   n e u r o n   c e nt r e   v a l ue s   i n   hi dde n   l a y e r s   s h o ul d  b e   e qua l   t o   t h e   t r a i ni n g   d a t a   v a l ue   t h a t   w a s   o b t a i n e d  f r o m   2S A T .   S t ruc t u r e   o f   t h e   R B F N N - 2S A T   w i t h  t h e   hi dde n  pa ra m e t e r s ,   by   us i n g  n o - t ra i ni n g   t e c hni que   a s   s h o w n   i n  F i gu r e   2 .             F i gu r e   2 .   S t ruc t u r e   o f   t h e   R B F N N - 2S A T   w i t h   t h e   hi dde n   p a ra m e t e r s ,   by   us i n g   n o - t r a i n i ng  t e c hni que           Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     4 5 9   -   4 6 9   464   2. 5 .      R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   2   S ati s f i ab i l i ty  v i a  H al f  T r ai n i n g  Te c h n i q u e   (R B F N N - 2S A TH T)   H a l f - t r a i n i ng  i s   a   h y b r i d  l e a rni n g  t ha t   i n v o l ve s   t w o   ph a s e s .   T h e   f i r s t   p ha s e   i s   c a l l e d  u n s upe r v i s e d  l e a rn i ng,   a n d   t h e   s e c o n d  p ha s e   i s   c a l l e d  s upe r v i s e d  l e a rni ng.   By   de t e r m i n i ng  t h e   pa ra m e t e r s   ( t h e   c e n t r e s ,   w i dt h s ,   a n d  o ut p ut   w e i gh t s )   i n  R B F N N - 2S A T   by   us i n g  k - m e a n s   c l us t e r i ng  a l go r i t h m .   T h e   f i r s t   p ha s e   o f   un s upe r v i s e d  t ra i ni n g  f r o m   k - m e a n s   c l us t e r i n g   w a s   us e d  t o   de t e rm i n e   t h e   c e n t r e   a n d  t h e   w i dt h   [17 ].   T h e n   t h e   s e c o n d  p ha s e   i s   c a l l e d  s up e r v i s e d  l e a rni n g  a l go r i t hm   t o   a dj us t   t h e   o ut put   w e i ght s   by   us i ng  G e n e t i c   A l go r i t hm   (G A ).       2. 5 . 1 .       k - m e an s   C l u s te r i n g   A l go r i th m     T h e   k - m e a n s   a l go r i t hm   pa rt i t i o n s   a   c o l l e c t i o n   o f   N   v e c t o r s   i n t o   c l us t e r s .   T h e   k - m e a n s   c l us t e r i ng  a l go ri t hm   i s   t o   de t e r m i n e   t h e   hi dde n   pa ra m e t e r s   (t h e   c e n t re s   a n d  t h e   w i dt h s )  i n   h a l f - t r a i ni n g  t e c hn i que   b y   H a m a d n e h   e t   a l .   [17] .   E qu a t i o n  (10)   f i n ds   t h e   c l us t e r   c e n t r e s   by   m i ni m i s i n g   t h e   di s t a n c e   f un c t i o n :     , j i j i d x c x c    (9)     w h e r e ,   , ji d x c   i s   t h e   di s t a n c e   b e t w e e n   t h e   c e n t r e   i c   a n d  da t a   po i n t j x .   T h e   n e w   o pt i m a l   c e n t r e s   w i l l   b e   ob t a i n e d  b y   (10):     1 ii i cx m   (10)     w h e r e ,   i c i s   t h e   c e nt r e ,   i m i s   t h e   n u m b e r   o f   t h e   l i t e r a l s   pe r   c l a us e s .   A f t e r   c a l c ul a t i ng  t h e   c e n t r e s   by   us i n g  t h e   k - m e a n s   c l us t e ri n g  a l go r i t h m ,   t h e   w i dt h   f o r   e a c h   hi dde n   n e u r o n   i s   c a l c ul a t e d  by   (12)  i n    t h e   pa pe r  [17] :     2 2 1 , i j i i d x c m     (11)     w h e r e , i i s   t h e   w i dt h   o f   h i dde n   n e u r o n,   i m i s   t h e   num b e r   o f   t h e   l i t e ra l s   pe r   c l a us e s .   T h e   G a us s i a n  a c t i v a t i o n   f u n c t i o n   v a l ue s   by   u s i n g  E qua t i o n   a r e   a s   s h o w n   i n   T a b l e   7   a n d  S t ruc t u r e   of   t h e   RB F N N - 2S A T   w i t h  t h e   hi dde n   pa ra m e t e r s ,   by   us i n g   ha l f - t ra i ni n g  t e c hni que   a s   s h o w n   i n  F i gu r e   3.         T a b l e   6 .   T r a i n i ng  S e t   o f   t h e   2S A T ,   a nd  t h e   R a di a l   B a s i s   F u nc t i o n   V a l ue s   b y   u s i n g  G a us s i a n   F u n c t i o n   i   In p u t   v a l u e i x   O u t p u t   t a r g e t   v a l u e i y   , 0 . 5 ,1 . 1 2 5 i x   ,1 ,1 i x   ,1 . 5 ,1 . 3 7 5 i x   , 0 , 0 . 0 7 4 i x   , 0 . 5 ,1 . 3 7 5 i x   1   0   0   0 . 8 9 4 8   0 . 6 0 6 5   0 . 4 4 1 2   0 . 8 4 2 0 8   0 . 9 1 3 1   2   1   1   0 . 8 9 4 8   1   0 . 9 1 3 1   0 . 9 1 3 1   0 . 9 1 3 1   3   2   1   0 . 3 6 7 8 7 9   0 . 6 0 6 5   0 . 9 1 3 1   0 . 4 4 1 2   0 . 4 4 1 2   4   1   1   0 . 8 9 4 8   1   0 . 9 1 3 1   0 . 9 1 3 1   0 . 9 1 3 1   5   1   1   0 . 8 9 4 8   1   0 . 9 1 3 1   0 . 9 1 3 1   0 . 9 1 3 1           F i gu r e   3 .   S t ruc t u r e   o f   t h e   R B F N N - 2S A T   w i t h   t h e   hi dde n   p a ra m e t e r s ,   by   us i n g   ha l f - t r a i n i ng  t e c hn i que   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   2  s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha b  A l z a e e m i )   4 65   2. 5 . 2 .      G e n e ti c   A l go r i th m   i n   R B F N N - 2S A T   G e n e t i c   A l go r i t hm   (G A )  i s   o n e   o f   t h e   w e l l - kn o w n   a nd  w i de l y   us e d  m e t a h e uri s t i c   s o l ut i o n  a l go ri t hm s   f o r   o pt i m i s a t i o n   p r o b l e m s .   G A   ha s   t h e   a b i l i t y   t o   m i ni m i s e   m ul t i - o b j e c t i v e   o pt i m i s a t i o n   p r o b l e m s   [29 - 30]w hi c h   i s   v e r y   v i t a l   i n  t hi s   s t udy .   G A   i n v e s t i ga t e s   t h e   e n t i r e   s e a r c h   s p a c e   by   l oc a t i n g  t h e   gl o b a l   s o l ut i o n   a n d   l o c a l l y   r e a c h i ng  t h e   o pt i m a l   s o l ut i o n .     In   t hi s   s e c t i o n ,   t h e   R B F N N - 2 S A T   i n   b o t h   t e c hni que s .   I n   R B F N N - 2S A T   by   u s i n g  n o - t r a i n i ng  t e c hn i q ue   w i l l   b e   o pt i m i s e d  by   G A   t hr o ug h  m i n i m i s i ng  t he   e rr o r  p r o duc e d  f r o m   t h e   t r a i n i ng.   I n   R B F N N - 2S A T   by   us i n g  ha l f - t r a i n i ng  t e c hn i q ue ,   t h e   n e t w o r k  i s   r e qui r e d  t o   f i n d  t h e   o ut put   w e i gh t   b y   s o l v i n g  t h e   l i n e a r   e qua t i o n   t ha t   c o n s i s t s   o f   RB F N N - 2S A T   o ut put .   I n   t h i s   c a s e ,   G A   c a n   b e   us e d  i n   R B F N N - 2S A T   t o   i m p r o ve   t h e   s o l ut i o n   o f   t h e   R BF N N - 2S A T   h a l f - t r a i n i ng  t e c hni que   o ut put   w e i gh t   a n d  m i n i m i s i n g  t h e   e rr o r.   T h e   s o l ut i o n   (o ut p ut   w e i gh t )   i n  R B F N N - 2S A T   ge n e r a t e d  by   G A   i s   c a l l e d  a   c hr o m o s o m e .   S t e p  1.   I ni t i a l i s a t i o n.   T h e   po pul a t i o n  o f   c h r o m o s o m e s   w i l l   b e   i ni t i a l i s e d.     S t e p  2.   E v a l ua t i o n .   Co m pu t e s   t h e   o bj e c t i v e   f un c t i o n   v a l ue   fo r   e a c h   c hr o m o s o m e   pr o duc e d  i n   i n i t i a l i s a t i o n   b y   t h e   f o l l ow i n g   e qua t i o n :     i i i f x w x y    (12)     w h e r e , i w i s   t h e   o ut put   w e i ght   b e t w e e n   t h e   h i dde n   n e u r o n   a n d  t h e   o ut put   n e u r o n   , i x i s   t h e   G a us s i a n  a c t i v a t i o n   f u n c t i o n  i n  R B F N N .   i y i s   t h e   o ut put   t a r ge t   v a l ue .     S t e p  3 .   S e l e c t i o n :   T h e   f i t t e s t   c hr o m o s o m e s   h a v e   h i g h e r   pr o b a b i l i t y   t o   b e   s e l e c t e d   fo r   t h e   n e xt   ge n e ra t i o n.   T o   c o m put e   t h e   f i t n e s s   p r o b a b i l i t y ,   t h e   f i t n e s s   o f   e a c h   c hr o m o s o m e   m us t   b e   c o m put e d  t o   a v o i d   di v i de   by   z e r o   p r o b l e m ,   a n d   t h e   v a l ue   o f   ob j e c t i ve   f un c t i o n  i s   a dde d  b y   1.       1 1 i fit fx   (13)        i fit i s   t h e   f i t n e s s   a n d  fx i s   t h e   o bj e c t i v e   f un c t i o n .   T h e   pr o b a b i l i t y   ( i p )  fo r   e a c h   c hr o m o s o m e s   i s   fo r m u l a t e d  by :     0 i i n i i fit p fit   (14)     S t e p  4:   C r o s s o ve r :   T h e   n um b e r  o f   c r o s s - p o pul a t i o n s   i s   de t e rm i n e d  a c c o r di n g  t o   t h e   c r o s s ov e r   r a t e .   D uri n g   c r o s s ov e r ,   i n f o r m a t i o n  o f   t h e   pa r e n t ’s   c hr o m o s o m e   w i l l   b e   e xc h a n ge d   t o   p r o duc e   n e w   c hr o m o s o m e s .   S t e p  5.   M ut a t i o n :   N u m b e r   o f   c hr o m o s o m e s   t h a t   h a v e   m ut a t i o n s   i n   a   po pul a t i o n   i s   de t e r m i n e d  by   t h e   m ut a t i o n   r a t e   pa ra m e t e r.   I n   m ut a t i o n   p h a s e ,   t h e   i n f o r m a t i o n  of  t h e   c hr o m o s o m e s   w i l l   ra n do m l y   c h a nge   o n e   v a l ue   o f   t h e   c hr o m o s o m e s   (t h e   o ut put   w e i ght )  t o   i m p r o v e   t h e   s o l ut i o n  (o ut pu t   w e i ght )  o f   R B F N N .     S t e p   6:   T e rm i na t i o n :   If   t h e   gi v e n   e v o l ut i o n   t e rm i na t i o n   c r i t e r i a   a r e   m e t ,   t h e   c a l c ul a t i o n   i s   s t o ppe d,   o t h e r w i s e   go   t o  S t e p  2  w i t h   i = i + 1  (G A   w i l l   u n de r go   up  t o   10000  i t e ra t i o n s   (G e n e r a t i o n s )  t o   i m p r o v e   t h e   c hr o m o s o m e s   ( o ut put   w e i g h t s )   u n t i l   t h e   o ut p ut   o f   RB F N N   be c o m e s   l e s s   o r   e qua l s   t o   t a r ge t   o ut put . ) .       3.   EX P ER I M EN TA L  S E TU P   In   t h i s   s t udy ,   t h e   p r o po s e d  G A   w i t h   2S A T   i n   t h e   R a di a l   B a s i s   F un c t i o n   N e u r a l   N e t w o r k - 2S A T   N o - T r a i n i ng  (R B F N N - 2S A T N T )  a n d  t h e   R a di a l   B a s i s   F u n c t i o n  N e ur a l   N e t w o r k - 2S A T   H a l f   T r a i ni n g  (R B F N N - 2S A T H T ).   T h e   e xpe ri m e nt   w a s   r u n   f o r   v a r i o us   n u m b e r s   o f   n e u r o n s   (N N )  f r o m   6  up  t o   96,   de pe n d i n g  o n   t h e   n u m b e r   o f  l i t e ra l s   pe r   c l a us e   (N C1,   N C2,   N C3) .   T h e   n e t w o r k  c o m pl e xi t y   i n c r e a s e s   a s   t h e   n um b e r   o f   n e ur o n  (N N )  i n c r e a s e s .   T h e   po pul a t i o n   s i z e   w a s   50 ,   t h e   c r o s s o v e r   ra t e   w a s   1,   t h e   m u t a t i o n  r a t e   w a s   1,   a n d   t h e   m a x i m u m   n u m b e r   o f  G A   ge n e r a t i o n   w a s   10000.   I n   a ddi t i o n ,   s i m u l a t i o n s   w e r e   pe r f o r m e d  o n   M i c r o s of t   V i s ua l   C#  20 10  E xp r e s s   s of t w a r e .   T h e   e xpe ri m e nt s   w e r e   do n e   by   us i n g  M i c r o s of t   W i n do w   7  P r o fe s s i o n a l   64 - b i t ,   w i t h   t h e   s pe c i f i c a t i o n  o f   500G B   h a rd  d i s k,   40 96M B   R A M ,   a n d   p r o c e s s o r   3. 40G H z .       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     4 5 9   -   4 6 9   466   4.   R ES U LTS   A N D   D I S C U S S I O N :   T h e   r e s ul t   o f   t h e   R B F N N - 2S A T N T   a nd  R B F N N - 2S A T H T   a r e   s um m a ri s e d  i n  F i gu r e   4  t o   F i gu r e   7 .   B a s e d  o n   t h e s e   F i gur e s ,   R B F N N - 2S A T H T   o ut pe r f o r m s   RBF N N - 2S A T N T   i n   t e rm s   o f  e r r o r s   (R M S E ,   S S E ,   M A P E ,   a nd  M A E ) .   W h e n   t h e   n u m b e r   o f   n e ur o n s   i n c r e a s e d,   R B F N N - 2S A T H T   w a s   a b l e   t o   s u s t a i n   m o r e   n e u r o n s .   T h e o r e t i c a l l y ,   t h e   i n c r e a s e   i n   t h e   n u m b e r   of   h i dde n  n e u r o n s   l e a ds   t o   a n   i n c r e a s e   i n   t h e   ra t e   o f  e r r o r s   due   t o   t h e   c e n t r e s   a s   a   s u b s e t   of   t h e   i n pu t   v a l ue s   of  t h e   t ra i ni n g  w i t h   R B F N N - 2S A T N T .   It   i s   a l s o   c a n   be   de duc e d  t ha t ,   m o s t   s o l ut i o n s   i n   R B F N N - 2S A T N T   h a v e   l o w e r   f i t n e s s   a n d  r e qu i r e   m o r e   i t e r a t i o n s   c o m pa r e d  t o   RB F N N - 2S A T H T .   RB F N N - 2S A T H T   i s   t h e   b e s t   m o de l   b e c a us e   i t   ha s   l o w e r   v a l ue s   o f   R M S E ,   S S E ,   M A P E   a n d  M A E .   F i g u r e   8  i l l us t ra t e s   t h e   n u m b e r   o f  h i dde n   n e u r o n   r e s ul t   f o r   RB F N N - 2S A T N T     a n d  R B F N N - 2S A T H T .             F i gu r e   4 .   R M S E   v a l ue   f o r   a l l   R B F N N - 2S A T   m o de l s     F i gu r e   5 .   S S E   v a l ue   f o r   R B F N N - 2S A T   m o de l s             F i gu r e   6 .   M A P E   v a l ue   f o r   R B F N N - 2S A T   m o de l s     F i gu r e   7 .   M A E   v a l ue   f o r   R B F N N - 2S A T   m o de l s       B a s e d  o n   F i gu r e   8 ,   m a g ni t ude   o f   t h e   n um b e r   o f   t h e   hi dde n   n e u r o n   f o r   R B F N N - 2S A T N T   dra m a t i c a l l y   i n c r e a s e d  a s   t h e   num b e r   o f   2S A T   c l a us e s   i n c r e a s e d.   R BF N N   m o de l   t h a t   a c qu i r e d  t h e   l e a s t   v a l ue   of   t h e   h i d de n   n e u r o n s   w a s   c o n s i de r e d  a s   t h e   be s t   m o de l   a m o n g  a l l   n e u r a l   n e t w o r k  m o de l s .   A c c o r di n g  t o   P a n c ha l   e t   a l . ,   [24] ,   t h e   l o w e s t   v a l ue   o f   t h e   h i d de n  n e u r o n   i n di c a t e d  t h e   b e s t   m o de l   f o r   a   gi v e n  n um b e r  o f  n e u r o n s .   W h e n   t h e   n e t w o r k  h a s   m a n y   n e u r o n s   i n   t h e   h i d de n   l a y e r ,   o v e r   f i t t i ng  m a y   r e s ul t   (t h e   w e i gh t s   b e c a m e   e xt r e m e l y   l a r ge   b e c a us e   t h e   h i dde n   n e u r o n s   i n   t h e   hi dde n   l a y e r   w e r e   h i g h l y   c o r r e l a t e d  w i t h   e a c h  o t h e r).   T hi s   m e a n s   t h e   c a pa c i t y   of   t h e   p r o c e s s i n g  s y s t e m   w a s   n o t   e n o ug h   t o   t ra i n  a l l   t h e   n e u r o n s   i n  t h e   hi dde n   l a y e r .   B a s e d  o n   t h e   r e s ul t s ,   R B F N N - 2S A T H T   h a s   t h e   l e a s t   v a l ue   o f   t h e   h i d de n   n e u r o n   c o m pa r e d  t o   R B F N N - 2S A T N T .   In   t hi s   c a s e ,   RB F N N - 2S A T H T   i n   c o m pa r i s o n   w i t h   R B F N N - 2S A T N T   i s   c o n s i de r e d  t h e   be s t   t e c hn i q ue   i n  t h e   R B F N N - 2S A T   m o de l .     F i gu r e   9  i l l us t r a t e s   t h e   c o m put a t i o n  t i m e   o r  CP U   t i m e   r e s ul t   f o r   R B F N N - 2S A T N T   a n d   R B F N N - 2S A T H T .   T h e   c o m put a t i o n   t i m e   o r   CP U   t i m e   i s   de f i n e d  a s   t h e   t i m e   t a ke n   f o r   a   R B F N N - 2S A T   t o   ge n e ra t e   t h e   b e s t   s o l ut i o n s ,   i n c l ud i n g  t h e   t ra i ni n g  p r o c e s s .   A c c o r di n g  t o   F i gu r e   9 ,   t h e   c o m put a t i o n   t i m e   f o r   t h e   RB F N N - 2S A T H T   w a s   f a s t e r   t h a n   R B F N N - 2S A T N T .   R B F N N - 2S A T N T   t o o k  a   l o n ge r   t i m e   fo r   t h e   n e t w o r k  Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   2  s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha b  A l z a e e m i )   467   t o   s pe c i fy   t h e   n um b e r   o f   h i dde n   n e u r o n s   a n d  t h e   o ut pu t   b e t w e e n   t h e   h i d de n   l a y e r   a n d  o ut put   l a y e r ,   a s   t h e   n e t w o r k  s pe n ds   m o r e   t i m e   i n   t h e   t ra i ni n g   s t a t e .   H a m a d ne h   e t   a l .   [17]   m e n t i o n  R B F N N   by   n o   t ra i ni n g   t e c hn i q ue   t o o k  l o n ge r   t i m e   due   t o   t h e   v a l ue   of   t h e   c e n t r e s   a r e   e qua l   t o   t h e   v a l ue s   o f  t h e   t r a i n i ng  da t a .   A l s o ,   m a n y   n e u r o n s   i n   t h e   hi dde n   l a y e r   c a us e   t h e   a ppe a ra n c e   o f   f a ke   o ut put   w e i gh t   a s   s h o w n   i n  R B F N N - 2S A T   b y  no - t ra i ni n g  t e c hni que   t ha t   w i l l   i n c r e a s e   t h e   t i m e   i t   t a ke s   t o   t ra i n  t h e   n e t w o r k.   H ow e v e r ,   w h e n   R B F N N - 2S A T   by   h a l f - t ra i ni n g  t e c hn i que   w a s   i m pl e m e n t e d ,   t h e   c o m put a t i o n   t i m e   w a s   f a s t e r .   I n   F i gu r e   9 ,   R B F N N - 2S A T H T   i s   f a s t e r   be c a us e   t h e   c e n t r e s   w e r e   n o t   r e s t r i c t e d  t o   be   t h e   i nput   o f  da t a   po i nt s   a n d  w i dt h   of   t h e   h i d de n   l a y e r   t h a t   w a s   c a l c ul a t e d   by   us i n g   k - m e a n s   c l us t e ri n g .               F i gu r e   8 .   N o .   H i dde n   n e u r o n   f o r   R B F N N - 2S A T   m o de l s     F i gu r e   9 .   CP U   T i m e   f o r   R B F N N - 2S A T   m o de l s         5.   C O N C LU S I O N   T h e   pa pe r   p r e s e n t s   2S A T   l o gi c   pr o g r a m m i n g  i n   R B F N N .   T h e   po w e r   of   t h i s   t e c hni que   c a n   b e   s e e n   c l e a rl y   w h e n   c o m put i n g  t h e   s t a b i l i t y   by   us i n g  t h e   R B F N N .   I n   t hi s   s t udy ,   t h e   pri n c i p a l   c o m po n e n t s   w e r e   RB F N N ,   G A ,   a nd  2S A T .   T o   de t e r m i n e   t h e   R B F N N   pa r a m e t e r s   a n d  c a l c ul a t e   t h e   e rr o r s   r e p r e s e n t e d,   t h e   t w o  t e c hn i q ue s   w e r e   pr o po s e d  n a m e l y ,   RB F N N - 2S A T N T   a nd  RB F N N - 2S A T H T .   Re s ul t s   s h ow e d  t h a t   t h e   ha l f -   t r a i ni n g   t e c hni que   (R B F N N - 2S A T H T )  w a s   m o r e   po w e r f ul   a n d   m o r e   e f fe c t i ve   t ha n   t h e   n o - t ra i ni n g   t e c hni que   (R BF N N - 2S A T N T ),   due   t o   t h e   n u m b e r   o f  h i dde n   n e ur o n s   w a s   t y pi c a l l y   m uc h   l e s s   t h a n   t h e   n um b e r   o f   da t a   po i n t s ,   a n d   t h e   c e n t r e s   w e r e   n o t   r e s t r i c t e d   t o   b e   da t a   po i nt s .       A C K N O WL ED G M EN T   T h i s   r e s e a r c h   i s   s uppo rt e d  by   U n i v e r s i t i   S a i n s   M a l a y s i a   a n d  F un d a m e nt a l   R e s e a r c h   S c h e m e   (F R G S )   (6711689)   by   M i n i s t r y   of   H i gh e r  E duc a t i o n   M a l a y s i a .       R EF ER EN C ES   [ 1]   N .   H a m a dne h ,   e t   a l . ,   “ O pt i m i z a t i o n  o f   m i c r o c ha nne l   he a t   s i n ks   us i ng   pr e y - pr e da t o r   a l g o r i t hm   a n d  a r t i f i c i a l   n e u r a l   ne t w o r k s , ”   M a c hi ne s ,   v o l .   6 ( 2 ) ,   pp .   26 - 36 ,   2018 .     [ 2]   J .   M o o d y ,   a nd   C .   J .   D a r k e n,   “ F a s t   l e a r n i ng   i n  n e t w o r k s   o f   l o c a l l y - t une d  pr o c e s s i ng   un i t s , ”   N e ur a l   c om pu t a t i on ,   v o l .   1( 2 ) ,   pp .   281 - 29 4,   19 89.     [ 3]   S .   A .   B i l l i ng s ,   a nd   G .   L .   Z he ng ,   “ R a d i a l   b a s i s   f unc t i o n  ne t w o r k  c o nf i g ur a t i o n  us i ng   g e ne t i c   a l g o r i t hm s , ”   N e ur al   N e t w or k s ,   v o l .   8 ( 6) ,   pp .   877 - 89 0,   19 95.     [ 4]   A .   S i ng h,   a nd  K .   K .   S i ng h,   “ S a t e l l i t e   i m a g e   c l a s s i f i c a t i o n  us i ng   g e ne t i c   a l g o r i t hm   t r a i n e d  r a di a l   b a s i s   f unc t i o n  ne ur a l   n e t w o r k ,   a pp l i c a t i o n  t o   t he   de t e c t i o n  o f   f l oo de d  a r e a s ” .   J our nal   o f   V i s ua l   C om m uni c a t i on  and  I m a ge   R e pr e s e nt at i on ,   v o l .   42 ,   pp.   1 73 - 182 ,   2017 .     [ 5]   D e   L e o n - D e l g a do ,   e t   al ,   “ M ul t i v a r i a t e   s t a t i s t i c a l   i nf e r e nc e   i n  a   r a d i a l   b a s i s   f unc t i o n  ne u r a l   ne t w o r k , ”   E x pe r t   Sy s t e m s   w i t h   A p pl i c a t i ons ,   v o l .   93 ,   pp .   313 - 32 1 ,   20 18.     [ 6]   H .   G .   H a n ,   e t   al ,   “ N o nl i ne a r   s y s t e m   m o de l i ng   u s i ng   a   s e l f - o r g a ni z i ng   r e c ur r e n t   r a d i a l   b a s i s   f unc t i o n  n e ur a l   ne t w o r k , ”   A pp l i e d  So f t   C om p ut i ng ,   v o l .   71 ,   pp .   110 5 - 1116 ,   2018 .     [ 7]   M .   M o ha m m a di ,   e t   al ,   “ A   ha r dw a r e   a r c hi t e c t ur e   f o r   r a di a l   ba s i s   f unc t i o n  ne ur a l   ne t w o r k  c l a s s i f i e r , ”   I E E E   T r ans ac t i ons   on   P ar a l l e l   and   D i s t r i bu t e d  Sy s t e m s ,   v o l .   29 ( 3 ) ,   pp .   4 81 - 495,   2 018 .     [ 8]   J .   W   L l oy d, ”   F o unda t i o ns   o f   l o g i c   pr o g r a m m i ng , ”   Sp r i n ge r   S c i e nc e   &   B us i ne s s   M e di a ,   6   D e c   2 012 .     [ 9]   W . A . T . W .   A bdu l l a h,   “ T he   l o g i c   o f   ne ur a l   ne t w o r ks , ”   P hy s i c s   L e t t e r s   A ,   v o l .   1 76 ( 3) ,   pp .   2 02 - 206 ,   1993 .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     4 5 9   -   4 6 9   468   [ 10]   G .   P i nk a s ,   “ S y m m e t r i c   ne ur a l   n e t w o r k s   a nd  p r o po s i t i o na l   l o g i c   s a t i s f i a b i l i t y ” .   N e ur al   C om put at i on ,   v o l .   3( 2 ) ,   pp .     282 - 291 ,   1991 .     [ 11]   W .   A .   T .   W .   A bdul l a h ,   “ L o g i c   pr og r a m m i ng   o n  a   ne ur a l   ne t w o r k, ”   I nt e r n at i on al   j ou r na l   o f   i n t e l l i ge nt   s y s t e m s ,   v o l .   7 ( 6 ) ,   pp .   513 - 51 9,   19 92.     [ 12]   S .   H öl l do bl e r ,   e t   al ,   “ A ppr o xi m a t i ng   t he   s e m a n t i c s   o f   l og i c   pr og r a m s   b y   r e c ur r e n t   ne ur a l   n e t w o r k s , ”     A ppl i e d  I nt e l l i ge nc e ,   v o l .   11 ( 1) ,   pp .   45 - 58 ,   1 999 .     [ 13]   S .   S a t h a s i v a m ,   a n d  W .   A .   T .   W .   A bdul l a h ,   “ L og i c   m i ni ng   i n  n e ur a l   ne t w o r k:   r e v e r s e   a n a l y s i s   m e t ho d, ”   C om pu t i ng ,    v o l .   91( 2) ,   pp .   1 19 - 133 ,   2011 .     [ 14]   M .   S .   M .   K a s i hm ud di n,   e t   a l . ,   “ G e ne t i c   A l go r i t hm   f o r   R e s t r i c t e d  M a xi m um   k - S a t i s f i a b i l i t y   i n  t he   H o pf i e l d   N e t w o r k, ”   I n t e r na t i o na l   J our na l   o f   I n t e r ac t i v e   M ul t i m e di a   &   A r t i f i c i a l   I n t e l l i ge nc e ,   v o l .   4 ( 2 ) ,   20 16.     [ 15]   M .   S .   M .   K a s i hm udd i n ,   e t   a l . ,   “ R o bus t   A r t i f i c i a l   B e e   C o l o n y   i n  t he   H o pf i e l d  N e t w o r k  f o r   2 - S a t i s f i a bi l i t y   P r o bl e m , ”   P e r t ani k a  J ou r na l   of   Sc i e nc e   &   T e c hno l ogy ,   v o l .   25 ( 2 ) ,   pp.   45 3 - 468,   2 017 .     [ 16]   S .   A .   A l z a e e m i ,   e t   al ,   “ U s e   o f   G e ne t i c   A l g o r i t hm   f o r   H o pf i e l d  N e u r a l   N e t w o r k  t o   do   L og i c   P r og r a m m i ng , ”   I n  B io - G e ne t i c s   J ou r na l ,   v o l .   5( 1 ) ,   p p.   10 1 - 113 ,   2 017 .     [ 17]   N .   H a m a dne h,   e t   a l ,   “ L e a r ni ng   l o g i c   pr o g r a m m i ng   i n   r a di a l   ba s i s   f unc t i o n  n e t w o r k   v i a   g e ne t i c   a l g o r i t hm , ”   J our na l   of   A pp l i e d  Sc i e nc e s   ( F ai s a l aba d) ,   v o l .   12 ( 9 ) ,   pp .   840 - 84 7,   20 12 .   [ 18]   S .   M ukh e r j e e ,   a nd  S .   R oy ,   “ M u l t i   t e r m i na l   ne t   r ou t i n g  f o r   i s l and  s t y l e   F P G A s   us i n g  ne ar l y - 2 - S A T   c om p ut at i on , ”   I n  V L S I   D e s i g n  a n d  T e s t   ( V D A T ) ,   2015   1 9t h   I nt e r na t i o na l   S y m po s i um   o n ,   ( pp .   1 - 6) .   I E E E ,   2015 .     [ 19]   S .   E v e n,   e t   al ,   “ O n  t he   c om pl e x i t y   of   t i m e   t abl e   and  m ul t i - c om m od i t y   f l ow   pr ob l e m s , ”   I n   16 t h  A nnua l   S y m p o s i um   o n  F o unda t i o ns   o f   C o m put e r   S c i e nc e ,  ( pp .   184 - 193 ) .   I E E E ,   O c t o be r ,   1975 .     [ 20]   R .   M i y a s hi r o ,   a nd  T .   M a t s u i ,   “ A   po l y no m i a l - t i m e   a l g o r i t hm   t o   f i nd  a n  e qu i t a b l e   ho m e – a w a y   a s s i g nm e nt , ”   O pe r a t i ons   R e s e ar c h   L e t t e r s ,   v o l .   33 ( 3) ,   pp .   2 35 - 241 ,   2005 .     [ 21]   M . ,   T a y y a b,   J . ,   Z ho u,   R . ,   A dna n ,   C . ,   M e ng ,   &   A .   Z a hr a ,   ( 20 16) .   S t r e a m f l o w   pr e d i c t i o n  by   a ppl y i ng   g e ne r a l i z e d  r e g r e s s i o n  ne t w o r k  w i t h  t i m e   s e r i e s   d e c o m po s i t i o n  m e t ho d.   I nd o ne s i an  J ou r na l   of   E l e c t r i c a l   E ng i ne e r i ng  and   C om put e r   Sc i e nc e   ( I J E E C S) ,  4 ( 3 ) ,   6 11 - 616 .     [ 22]     P .   K a ng ,   a nd  Z .   J i n,   “ N e u r a l   n e t w o r k  s l i d i ng   m o de   ba s e d  c ur r e nt   d e c o upl e d  c o nt r o l   f o r   i nduc t i o n  m o t o r   dr i v e ” .   I n f o r m at i on   T e c hn ol ogy   J o ur n al ,   v o l .   9 ( 7) ,   pp .   1440 - 14 48,   2010 .     [ 23]   H .   Z a y a nde h r o o di ,   e t   a l ,   “ A ut o m a t e d  f a u l t   l o c a t i o n  i n  a   po w e r   s y s t e m   w i t h  di s t r i but e d  g e n e r a t i o ns   us i ng   r a d i a l   ba s i s   f unc t i o n  ne u r a l   ne t w o r k s , ”   J ou r na l   of   A pp l i e d  Sc i e nc e s   ( F ai s a l aba d) ,   v o l .   10 ( 23 ) ,   p p.   30 32 - 3041 ,   201 0.     [ 24]   G .   P a nc ha l ,   G a na t r a ,   e t   al ,   “ B e h a v i o ur   a na l y s i s   o f   m ul t i l a y e r   pe r c e pt r o ns w i t h  m u l t i p l e   hi dde n  n e ur o n s   a n d  h i dd e n   l a y e r s , ”   I nt e r n at i on al   J o ur n al   o f   C om pu t e r   T he or y   and   E ng i ne e r i ng ,   v o l .   3( 2) ,   pp .   3 32 ,   2 011 .     [ 25]   M .   T .   V a k i l - B a g hm i s he h ,   a nd   N .   P a v e š i ć ,   “ T r a i ni ng   R B F   ne t w o r ks   w i t h  s e l e c t i v e   ba c kpr o pa g a t i o n, ”   N e ur oc om pu t i n g ,   v o l .   62 ,   p p.   39 - 64 ,   200 4.     [ 26]   D .   C .   D hub ka r y a ,   a nd   D .   N a g a r i a ,   “ I m pl e m e nt a t i o n  o f   a   r a di a l   b a s i s   f unc t i o n  us i ng   V H D L ”   G l oba l   J ou r na l   o f   C om put e r   Sc i e nc e   an d  T e c h nol ogy ,   v o l .   10 ( 10 ) ,   2 010 .     [ 27]   N .   M a hm o d,   N .   A .   W a ha b  ( 20 17) .   F o ul i ng   P r e di c t i o n  U s i ng   N e ur a l   N e t w o r k  M o de l   f o r   M e m br a n e   B i o r e a c t o r   S y s t e m .   I ndone s i an   J o ur n al   o f   E l e c t r i c al   E n gi ne e r i ng  and   C om pu t e r   S c i e nc e   ( I J E E C S) ,  6 ( 1) ,   200 - 20 6.     [ 28]   Y .   S .   H w a ng ,   a nd   S .   Y .   B a ng ,   “ A n  e f f i c i e nt   m e t ho d  t o   c o ns t r uc t   a   r a d i a l   ba s i s   f unc t i o n  ne ur a l   n e t w o r k  c l a s s i f i e r , ”   N e ur al   ne t w or k s ,   v o l .   10 ( 8) ,   pp .   1495 - 1 503 ,   199 7 .     [ 29]   K .   A .   D e   J o n g ,   a nd  W .   M .   S pe a r s ,   “ U s i ng   g e ne t i c   a l g o r i t hm s   t o   s o l v e   N P - c o m pl e t e   pr o b l e m s , ”   I n  I C G A   J our nal     ( pp .   124 - 132 ) ,   J une   19 89 .     [ 30]   W .   J i a ,   e t   a l ,   “ A   ne w   o pt i m i z e d   G A - R B F   ne ur a l   n e t w o r k   a l g o r i t hm , ”   C om p ut a t i ona l   i n t e l l i ge nc e   an d  ne ur o s c i e nc e ,  2014 ,  v o l .   ( 4 4) ,   pp .   1 - 6,   2014 .     [ 31]   Y .   U .   Z hi j un ,   ( 2 013 ) .   R B F   ne u r a l   ne t w o r ks   o pt i m i z a t i o n  a l g o r i t hm   a nd  a pp l i c a t i o n  o n  t a x   f o r e c a s t i ng .   T E L K O M N I K A   I ndo ne s i an   J our nal   o f   E l e c t r i c a l   E ngi n e e r i ng ,   11 ( 7) ,   349 1 - 3497 .         B I O G R A P H I ES   O F   A U T H O R S       S he ha b  A bdul h a b i b  A l z a e e m i   r e c e i v e d  a   B a c he l o r   D e g r e e   o f   E d uc a t i o n  ( S c i e nc e )   f r o m   T a i z   U ni v e r s i t i   i n  2004  a nd  M a s t e r   o f   S c i e nc e   ( M a t he m a t i c s )   f r o m   U ni v e r s i t i   S a i ns   M a l a y s i a   i n   2016  a nd  no w   s t ud e n t   P hD   i n  U ni v e r s i t i   S a i n s   M a l a y s i a .   H e   w a s   f e l l o w   unde r   t h e   A c a de m i c   S t a f f   T r a i n i ng   S y s t e m   o f   S a na ' a   C o m m uni t y   C o l l e g e   f r o m   2005 - 2014 .   H i s   r e s e a r c h  i n t e r e s t s   m a i n l y   f o c us   o n  ne ur a l   n e t w o r k ,   l o g i c   pr o g r a m m i ng ,   a nd   da t a   m i ni ng .           M o hd  S ha r e duw a n  M o hd  K a s i hm u dd i n  i s   a   l e c t ur e r   i n   S c ho o l   o f   M a t h e m a t i c a l   S c i e nc e s ,   U ni v e r s i t i   S a i n s   M a l a y s i a .   H e   r e c e i v e d  h i s   P h.   D   f r o m   U ni v e r s i t i   S a i n s   M a l a y s i a .   H i s   c ur r e n t   r e s e a r c h  i nt e r e s t s   i nc l ud e   M e t a he u r i s t i c s   m e t ho d,   ne ur a l   ne t w o r k  de v e l o pm e nt ,   a r t i f i c i a l   i nt e l i g e nc e   a nd   l o g i c   pr o g r a m m i ng .           Evaluation Warning : The document was created with Spire.PDF for Python.