I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   18 ,   N o .   1 A p r i l   20 20 ,   p p.   459 ~ 469   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 1 8 .i 1 . pp 459 - 469             459       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   R a d i a l   b a s i f u n c t i o n   n e u r a l   n e t w o r k   f o r   2   sa t i sf i a b i l i t y   p r o g r a m m i n g       S h e h ab   A l z ae e m i 1 ,   M o h d .   A s yr af   M an s o r 2 ,   M o h d   S h ar e d u w an   M o h d   K as i h mu d d i n 3   S ar ath S a th as i v am 4 ,   M u s tafa  M am at 5   1 , 3 , 4 S c h oo l   o f   M a t he m a t i c a l   S c i e nc e s ,   U ni v e r s i t i   S a i n s   M a l a y s i a ,   M a l a y s i a   2 S c hoo l   o f   D i s t a nc e   E duc a t i o n,   U n i v e r s i t i   S a i ns   M a l a y s i a ,   M a l a y s i a   5 F a c ul t y   of   I n f o r m a t i c s   a n C o m pu t i ng ,   U n i v e r s i t i   S u l t a Z a i na l   A bi d i n ,   M a l a y s i a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e J un   23 ,   201 9   R e v i s e S e 5 ,   2019   A c c e pt e S e 20 ,   201 9       R a di a l   B a s i s   F unc t i o N e ur a l   N e t w o r ( R B F N N )   i s   v e r y   pr om i ne nt   i d a t a   pr o c e s s i ng .   H o w e v e r ,   i m pr o v i ng   t hi s   t e c hni q ue   i s   v i t a l   f o r   t he   N N   t r a i n i ng   pr o c e s s .   T h i s   pa p e r   pr e s e nt s   a i nt e g r a t e d   S a t i s f i a b i l i t y   i r a di a l   b a s i s   f unc t i o ne u r a l   ne t w o r ( R B F N N - 2S A T ) .   T he r e   a r e   t w o   di f f e r e n t   t y pe s   o f   t r a i n i ng   i R B F N N ,   n a m e l y   no - t r a i n i ng   t e c hni q ue   a nd   ha l f - t r a i ni ng   t e c hni que .   T h e   pe r f o r m a nc e   o f   t he   s o l ut i o ns   v i a   G e ne t i c   A l g o r i t hm   ( G A )   t r a i n i ng   w a s   i nv e s t i g a t e by   c o m pa r i ng   t he   R a di a l   B a s i s   F unc t i o N e ur a l   N e t w o r k   No - T r a i n i ng   T e c hni que   ( R B F N N -   2S A T N T )   a nd  R a di a l   B a s i s   F unc t i o N e u r a l   N e t w o r H a l f - T r a i ni ng   T e c hni que   ( R B F N N -   2S A T H T ) .   T he   c o m pa r i s o o f   bo t t e c hni que s   w a s   e x a m i n e o 2   S a t i s f i a b i l i t y   pr o bl e m   by   us i ng   a   C s o f t w a r e   t ha t   w a s   d e v e l o pe f o r   t h i s   e x pe r i m e n t .   T he   pe r f o r m a nc e   o f   t he   R B F N N - 2S A T N T   a nd  R B F N N - 2S A T H T   i pe r f o r m i ng   2S A T   i s   d i s c us s e i n   t e r m s   o f   r o o t   m e a s qu a r e e r r o r   ( R M S E ) ,   s u m   s qua r e d   e r r o r   ( S S E ) ,   m e a a bs o l u t e   p e r c e n t a g e   e r r o r   ( M A P E ) ,   m e a a bs o l ut e   e r r o r   ( M A E ) ,   num be r   o f   t he   h i dd e n e ur o ns   a nd  C P U   t i m e .   R e s ul t s   o bt a i ne d   f r o m   a   c o m put e r   s i m u l a t i o s ho w e t h a t   R B F N N - 2S A T H T   o ut pe r f o r m e d   R B F N N - 2S A T N T .     Ke y w or ds :   s a t i s f i a b i l i t y   G e n e t i c   a l go ri t hm   H a l f - t r a i n i ng  t e c hn i q ue   No - t r a i n i ng  t e c hn i que   R a di a l   b a s i s   f un c t i o n s   n e ura l   n e t w o r k   C opy r i gh t   ©   20 20   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   N a m e :   M o h d .   A s y r a f   M a n s o r,   S c h o o l   of   D i s t a n c e   E duc a t i o n ,     U n i v e r s i t i   S a i n s   M a l a y s i a ,   1180 U S M ,   P e n a n g ,   M a l a y s i a .   E m a i l :   a s y r a f m a n@ us m . m y       1.   I N TR O D U C TI O N   N e ur a l - s y m bo l i c   i n t e g r a t i o n   c o m b i n e s   b o t h   t h e   c o nn e c t i o n i s t   s y s t e m   a n s y m bo l i c   a r t i f i c i a l   i n t e l l i ge n c e   (A I)  s y s t e m s .   S y m b o l i c   A i s   i n s pi r e by   h um a n   t hi n ki ng  a nd  f o r m a l i s e s   i t   by   m e a n s   o f   l o gi c   l a n gu a ge s   f o r   k n o w l e dge   r e pr e s e nt a t i o a nd  r e a s o ni n g .   N e u ra l - s y m bo l i c   s t r uc t u r e s   a r e   A s y s t e m s   t ha t   c a n   r e a l i s e   t h e   s y m bo l i c   pr o c e s s e s   w i t h i a rt i f i c i a l   n e u r a l   n e t w o r ks .   A a rt i f i c i a l   n e u ra l   n e t w o r (A N N ),   a l s o   kn o w n   a s   c o nn e c t i o n i s t   s y s t e m s ,   h a s   r e c e i v e pr e c i s e   a t t e n t i o n   b e c a us e   of   i t s   c a pa c i t y   t o   e v a l ua t e   c o m pl e n o n - l i n e a r   da t a   s e t .   N e ura l   n e t w o r ks   (N N a r e   A s t r uc t u r e s   t ha t   i n c l ude   s o m e   m a t h e m a t i c a l   a n g ra p hi c a l   m o de l s .   A N N   h a s   b e e n   s uc c e s s f ul l y   a ppl i e t o   s o l v e   v a r i o us   a ppl i c a t i o n s ,   s uc h   a s   c l a s s i f i c a t i o n,   f un c t i o n   a pp r o xi m a t i o n,   a n o pt i m i s a t i o n   [1] .   A c c o r di n t o   c o nn e c t i v i t y ,   t h e   N N   h a s   t w o   m a i n   t o po l o gi e s .   T h e   f i r s t   t o po l o g y   i s   r e c urr e n t   n e t w o r k,   s uc h   a s   t h e   H o pf i e l N e ur a l   N e t w o r (H N N w h e r e   t h e   n e u r o n s   b e l o n t o   t h e   s a m e   l a y e r   a nd  s e nd  t h e i o ut put   t o   n e u r o n s   o f   t h e   n e x t   a n d   p r e v i o us   l a y e r s .   T h e   s e c o n t o po l o g y   i s   t h e   f e e d f o r w a r n e t w o r k,   s uc h   a s   t h e   R a di a l   B a s i s   F u n c t i o n   N e ur a l   N e t w o r (R B F N N w h e r e   n e u r o n s   t ha t   b e l o n t o   t h e   s a m e   l a y e r   r e c e i v e s   i n put s   f r o m   n e u r o n s   o t h e   p r e v i o us   l a y e r   a n s e n t h e i r   v a l ue s   o n l y   t n e u r o n s   o f   t h e   n e xt   l a y e r .   M oo d y   a n D a r ke n   [2]  us e RBF N N   by   v i e w i n t h e   de s i gn   a s   a n   a pp r o xi m a t i o pr o b l e m   i n   a   h i g h   d i m e n s i o na l   s p a c e .   B i l l i n gs   a nd  Z h e ng  [ 3]  p r o po s e RB F N N   c o n f i gura t i o n   w i t h   G e n e t i c   A l go r i t h m s   (G A ) .   I t   w a s   de m o n s t ra t e t ha t   t h e   G A   c a a ut o m a t i c a l l y   de t e r m i n e   a pp r o p r i a t e   R B F N N   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   18 ,   N o .   1 A p r i l   20 20  :     4 5 9   -   4 6 9   460   s t ruc t u r e s   a n p a r a m e t e r s   a c c o r di n t o   o bj e c t i v e   f un c t i o n s .   S i ng h   a nd  S i n g h   [4]  u t i l i s e R B F N N   w i t h   G A   i n   s a t e l l i t e   i m a ge   c l a s s i f i c a t i o n.   D e l g a do   e t   a l .   [5 p r o po s e t h e   a ppl i c a t i o n   o f   m ul t i v a r i a t e   s t a t i s t i c a l   a na l y s i s   b c o m b i n i ng  G A   w i t h   R B F N N ,   t a k i n g   i nt o   a c c o un t   t h e   s t a t i s t i c a l   s i g ni c a n c e   b e t w e e n   i n de pe n de n t   a n d   de pe n de nt   v a r i a b l e s   a n d   t h e i r   c o rr e l a t i o n .   H a n   e t   a l .   [6]  de ve l o pe a n   e f c i e n t   s e l f - o r ga ni s i n r e c u rr e n t   RB F N N   fo r   n o n l i n e a s y s t e m   m o de l l i n g .   M o h a m m a di   e t   a l .   [7]  p r o v i de a   ge n e ri c   h a rdw a r e   s o l ut i o n   f o r   c l a s s i f i c a t i o n   b y   us i n R B F N N   o n   a   r e c o n f i gura b l e   da t a   pa t h   t ha t   o v e r c o m e s   t h e   m a j o r   d ra w b a c o f   f i xe d - f un c t i o n   ha r dw a r e   da t a   p a t h s .   T h e   p r o po s e d   m e t h o o ffe r s   l i m i t e f l e xi b i l i t y   i n   t e r m s   o f   a ppl i c a t i o n   i n t e r c ha n ge a b i l i t y   a n s c a l a b i l i t y ,   w h i c pu t s   n o   l i m i t a t i o o t h e   di m e n s i o n   o f   t h e   i nput   d a t a .     L o gi c   pr o gr a m m i ng  b e ga n   i n   t h e   e a rl y   1970s   a s   a   fo un da t i o n   t o   m a n y   a ppl i c a t i o n s ,   s uc h   a s   a r t i f i c i a l   i n t e l l i ge n c e .   T h e   a b i l i t y   t o   e xt ra c t   k n o w l e dge   f r o m   t h e   l o gi c   pr o g r a m m i n m a ke s   A N N   ve r y   s ui t a b l e   t de ve l o a n   a rt i f i c i a l   i nt e l l i ge n c e   s y s t e m   [8].   T h e   s t r e ngt h   o bo t h   pa ra d i gm s   m a ke s   t h e   i nt e g r a t e s y s t e m   t b e c o m e   m o r e   i n t e l l i ge nt   a n r e duc e s   m a j o r   dr a w b a c ks   of   bo t h   pa ra di g m s   [9] .   P i n ka s   [10]  e xpa nde t h e   i de a   o f   l o gi c   pr o gra m m i n b y   i n t e gra t i n t h e   c o m pe t e n t   p r o po s i t i o n a l   k n o w l e dge   o r   l o gi c a l   m a ppi ng  s y s t e m   v i a   a   s y m m e t ri c   c o nn e c t i o n i s t   n e t w o r k.   P u r s u i n t h a t ,   A b dul l a h   [1 1]  p r o po s e a   m e t h o t o   c o m put e   t h e   s y n a pt i c   w e i ght   o f   t h e   n e t w o r c o r r e s po n t o   t h e   p r o po s i t i ona l   l o gi c   e nt r e n c h e t o   t h e   s y s t e m .   H ö l l dob l e r   e t   a l .   [12]   p r o v e t h a t   t h e   l o gi c   p r o gra m m i n g   c a n   w o r e f fe c t i v e l y   w i t h   r e c urr e n t   n e u r a l   n e t w o r k.   S a t ha s i v a m   a n A b dul l a h   [ 13]  de pl o y e t h e   W a A b dul l a m e t h o i o rde r   t o   c o m put e   t h e   s y n a pt i c   w e i gh t s   f o r   t h e   H o r L o gi c   P r o gr a m m i n g   i H o p f i e l N e ur a l   N e t w o r k.   K a s i hm uddi e t   a l .   [14]   de pl o y e t h e   a dv a n t a ge   o f   t h e   ge n e t i c   a l go r i t hm   t o   de a l   w i t h   l e a rn i ng  c o m pl e xi t y   i n   t h e   H o p f i e l n e u r a l   n e t w o r i n   do i n l o gi c   k - S A T .   P ur s u i n t h a t ,   K a s i hm ud di e t   a l .   [15]   i t h e i pa pe p r o v i de a   s o l i e v i de n c e   o f   t h e   r o b us t n e s s   o f   ge n e t i c   a l go ri t hm   t o   b e   us e i n   o t h e s a t i s f i a b i l i t y   pr o b l e m   by   i n c o r po r a t e H o p f i e l n e ura l   n e t w o r w i t h   ge n e t i c   a l go ri t hm   i n   s o l v i n M A X - kS A T   p r o b l e m .   I n   t h e i r   p a pe r,   A l z a e e m i   e t   a l .   [16]  de v e l o p e a ge n t   b a s e d   m o de l l i n g   (A B M us i n g   a   ge n e t i c   a l go ri t hm   i n   t h e   H o p f i e l n e u r a l   n e t w o r k.   O b s e r v e t ha t   ge n e t i c   a l go ri t hm   e nh a n c e   t h e   pe r f o r m a n c e   o f   d o i n l o gi c   p r o gra m m i n i n   H o p f i e l n e t w o r k.   T h e   r e s ul t   ha s   s h o w n   t h e   e ffe c t i ve n e s s   a nd  a c c e l e r a t i o n   f e a t u r e s   of   ge n e t i c   a l go r i t hm   i do i n M A X - 2S A T   i n   H o pf i e l n e t w o r k.   H a m a d n e h   e t   a l .   [1 7]  p r e s e n t e t h e   l o gi c   pr o gra m m i ng   i n   R B F N N   i n   a   s i n gl e   o pe r a t o r   l o gi c ,   H o rn   s a t i s f i a b i l i t y ,   a nd  3S A T   i n   R B F N N .   H a m a d n e h   e t   a l .   [1]  s uc c e s s f ul l y   r e pr e s e nt e 3S A T   p r o gra m m i ng  i RB F N N .   T h e   p r o b l e m   i n   R B F   n e u r a l   n e t w o r ks   i s   t h e   num b e r   o f   h i d de n e u r o n   i n   t h e   h i dde n   l a y e r   a n d   h o w   c a n   c o m put e   t h e   pa ra m e t e r s   o f   t h e   h i dde n   l a y e r ?   [24].   T h e   p ro pos e w o r i s   a b l e   t o   i n c r e a s e   t h e   e f f i c i e n c y   of  t h e   n e t w o r a n m i ni m i s e   t h e   r e qui r e n u m b e r   o f   h i dde n   n e u r o n s   by   us i n l o gi c   p r o g ra m m i ng  2S A T   t o   c o m put e   t h e   a l l   pa ra m e t e r s   i n   t h e   h i dde l a y e r   by   gi ve   t h e   i nput   d a t a   i n   t h e   t ra i ni n g   s e t .   N o   pu r s ui t   w a s   do n e   t o   i n t e g ra t e   2S A T   i n   R B F N N .   In   t hi s   pa pe r,   t h e   a dv a n t a ge s   of   t h e   RB F N N   a n l o gi c   pr o g r a m m i n 2S A T   i t w o   t r a i ni n g   t e c hni que s ,   w h i c h   a r e   n o - t r a i n i ng  a n ha l f - t ra i ni n g,   w i l l   b e   h i g hl i g h t e d.   I n e v i t a b l y ,   RB F N N   w o r ke w e l l   w i t h   2S A T   t o   a c c o m m o da t e   t h e   n u m b e r   o f   i n p ut   n e u r o n s   i n   t h e   i n put   l a y e r   a nd  r e duc e   t h e   n u m b e r   o f   h i dde n   n e u r o n s   i t h e   h i dde n   l a y e r   o f   RB F N N .   T hi s   pa pe r   de s c ri b e s   t h e   i m p l e m e n t a t i o n   o f   2S A T   i n   R B F N N   v i a   n o - t r a i ni n g   a n ha l f - t ra i ni n g   t e c hni que s .         2.   R ES EA R C H   M ET H O D   2. 1 .       2   S at i s fi ab i l i ty   (2S A T)   Lo gi c   S a t i s f i a b i l i t y   o r   a b b r e v i a t e a s   2S A T   p r o b l e m   i s   de fi n e a s   a   p r o b l e m   t o   de t e r m i n e   t h e   s a t i s f i a b i l i t y   of   s e t s   o c l a us e s   w h i c h   a r e   c o m pri s e of   s t r i c t l y   l i t e ra l s   pe r   c l a us e .   2S A T   p r o b l e m   c a n   b e   e xpr e s s e i t h e   2 CN F   f o r m .   T h e   t hr e e   c o m po n e n t s   o f   2S A T   p r o b l e m   a r e   a s   f o l l ow s :   a.   Co n s i s t   o f   a   s e t   o f   m   v a r i a b l e s :   12 , , . . . , m v v v .   b.   Co n s i s t   o f   a   s e t   o f   l i t e r a l s .   A   l i t e r a l   i s   a   v a ri a b l e   o a   n e ga t i o o f   a   v a ri a b l e .     c.   A   s e t   of   n   di s t i n c t   c l a us e s : 12 , , . . . , n l l l .   E a c h   c l a us e   c o n s i s t s   o f   o n l y   l i t e r a l s   c o m b i n e by   o n l y   t h a t   i s   l o gi c a l   A N D .   E a c h   o f   t h e   v a r i a b l e   c a n   o n l y   t a ke   a   b i po l a r   v a l ue ,   w h i c h   i s   o r   t h a t   e xe m pl i f i e s   t h e   i de a   o f   t r ue   a n f a l s e .   T h e   go a l   o f   2S A T   pr o b l e m   i s   t o   de c i de   w h e t h e r   t h e r e   e xi s t s   a n   a s s i g nm e n t   o t r ut h   v a l ue s   t o   t h e   v a ri a b l e s   t ha t   m a ke   t h e   P   be c o m e   s a t i s f i a b l e .   T h e   ge n e r a l   f o r m ul a   f o r   2S A T   p r o b l e m   i s   a s   f o l l ow s :     ,2 1 1 1 n k n P l wh e re l A B k i i i j i i j   (1)     In   t h i s   s t udy .   2S A T   i s   t h e   m a i n   i m pe t us   s i n c e   t h e   f o c us   of   t h e   l o gi c   pr o g r a m m i n i s   t o   e n s u r e   t h e   pr o g r a m m e   o nl y   c o n s i de r s   l i t e r a l s   pe r   c l a us e   pe r   e xe c ut i o n.   I t   w a s   s ub s t a n t i a t e by   v a r i o us   r e s e a r c   [18 - 20]  t ha t   n u m e r o us   c o m b i n a t o r i a l   p r o b l e m s   c a n   b e   f o r m ul a t e by   us i n t h e   2S A T   pa ra di g m .   T h e   c h o i c e   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha A l z a e e m i )   461   of   l i t e r a l s   pe r   c l a us e   i n   s a t i s f i a b i l i t y   pr o b l e m   r e duc e s   t he   l o gi c a l   c o m pl e xi t y   i n   di s c o ve r i n t h e   r e l a t i o b e t w e e n   v a ri a b l e s   i t h e   n e u ra l   n e t w o r o s o l v e r .   T h e s e   f unda m e n t a l   r e a s o n s   m a ke   2S A T   pa ra di gm   b e c o m e   a   r e l e v a n t   a pp r o a c h   t o   r e p r e s e n t   l o gi c a l   r ul e s   i n e u r a l   n e t w or k .       2. 2 .       R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   (R b fn n )   RB F N N   i s   a   n e u r a l   n e t w o r t ha t   w a s   f i r s t   us e i n   19 89  [2 ].   R a di a l   B a s i s   F u n c t i o n   N e u r a l   N e t w o r alg o ri t hm   h a s   b e e n   pr o v e n   t o   b e   us e f ul   a n b e n e f i c i a l   i m a n y   i n dus t r i a l   a ppl i c a t i o n s   [21].   R B F N N   i s   di f fe r e nt   f r o m   o t h e r   n e t w o r ks ,   po s s e s s i n s e v e r a l   di s t i n c t i v e   fe a t u r e s   due   t o   i t s   uni v e r s a l   a pp r o xi m a t i o a b i l i t y ,   m o r e   c o m pa c t   t o po l o g y   a n f a s t e l e a rni n s pe e [22 - 23].   R B F N N   t y pi c a l l y   h a s   t hr e e   l a y e r s :   a i n p ut   l a y e r ,   a   hi dde n   l a y e r ,   a n d   a o ut put   l a y e r .   T h e   i n pu t   l a y e i s   m a de   up  o f   s o ur c e   n e ur o n s   t ha t   c o nn e c t   t h e   n e t w o r t o   i t s   e n v i r o n m e nt .   T h e   hi dde n   l a y e r   r e c e i v e s   t h e   i n p ut   i n f o rm a t i o n,   f o l l ow e by   s pe c i f i c   de c o m po s i t i o n ,   e xt ra c t i o n ,   a n t ra n s f o r m a t i o n   s t e ps ,   t o   ge n e r a t e   t h e   o ut put   da t a   [ 24].   T h e   n e u r o n s   i n   t h e   hi dde n   l a y e r   a r e   a s s o c i a t e w i t h   c e n t r e s   a nd  w i dt h s   t ha t   de t e r m i n e   t h e   b e h a v i o ura l   s t ruc t u r e   o f   t h e   n e t w o r k.   T h e   o ut put   l a y e r   i n   R B F N N   pr o v i de s   t h e   r e s po n d i n o f   t he   n e t w o r t o   t h e   a c t i v a t i o n   pa t t e rn   o f   t h e   i nput   l a y e r   t ha t   w o r ks   a s   a   s um m a t i o u n i t .   T h e   pa ra m e t e r s   o f   a   R BF N N   a r e   t h e   c e n t r e s ,   w i dt h s ,   c o n s t a nt   i n pu t   w e i ght s ,   a n o ut p ut   w e i g h t s .   T h e   hi dde n   l a y e r   pa ra m e t e r s   a r e   t h e   c e nt r e s   a n d   w i dt h s .   T h e   o ut pu t   w e i ght s   a r e   l i n ke b e t w e e n   t h e   hi dde n   a n d   o ut put   l a y e r s .   T h e   f i r s t   p h a s e   of   t h e   l e a rni n p r o c e dur e   i s   t o   d e t e r m i n e   t h e   hi dde n   pa ra m e t e r s   [25] .   T h e   s e c o n pha s e   i n v o l v e s   o ut put   w e i gh t s .   T h e r e   a r e   di f fe r e nt   t e c hni qu e s   fo r   t r a i n i ng  R B F N N   [26],   s uc h   a s   n o - t r a i n i ng  t e c hn i q ue   a n ha l f - t r a i n i ng  t e c hni que .   Ca l c ul a t i o n s   f o r   t he   e qua t i o n   o f   t h e   a c t i v a t i o n   f u n c t i o n s   f o r   t h e   pr o c e s s i n o n   R B F N N   [27]  a r e   a s   f o l l ow s :     2 ' 1 2 e xp 2 N j i j i j i i w x c x                      ( 2)     w h e r e i i s   t h e   a c t i v a t i o n   f un c t i o n   o f   RB F N N   i n   h i dde n   n e ur o n   I,   ' ji w i s   t h e   c o n s t a nt   i n pu t   w e i gh t   b e t w e e n   t h e   i nput   n e u r o n,   j   a nd  t h e   h i dde n e u r o n   I ,   i c i s   t h e   c e nt r e   o f   t h e   h i dde n e u r o n   I,   i   i s   t h e   w i dt h   o t h e   hi dde n   n e u r o n   I , N i s   t h e   num b e r   o f   t h e   i n pu t   n e u r o n s ,   j x i s   a i n put   v a l ue   i n i   S t r uc t u r e   o f   R BF N N   i n di c a t e s   t h e   E uc l i de a n   n o r m   o n   t h e   i n pu t   s p a c e   a s   f o l l o w s   a n d   S t r uc t u r e   o f   RB F N N   a s   s h o w n     i n   F i gu r e   1 .         2 '' 1 1 1 N m N ji j i ji j i j i j w x c w x c       (3)           F i gu r e   1 .   S t ruc t u r e   o f   RB F N N     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   18 ,   N o .   1 A p r i l   20 20  :     4 5 9   -   4 6 9   462   A c c o r di n g l y ,   t h e   o ut put   o f   RB F N N   t e c h n i que   ha s   t h e   f o l l ow i n g   f o r m   [31] :     1 () j ii i F x w x   (4)     w h e r e i w i s   t h e   o ut pu t   w e i gh t   b e t w e e n   t h e   hi dde n   n e ur o n   a n t h e   o ut put   n e u r o n , Fx i s   t h e   a c t ua l   o ut put   v a l ue   o f   a o ut put   n e u r o n.       2. 2 . 1.       S at i s fi ab i l i ty   R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   T h e   o bj e c t i v e   of   do i n l o gi c   p r o g r a m m i n 2S A T   i R B F N N   i s   t o   f i n t h e   t rut h   v a l ue   o f   t h e   i n pu t   v a l ue s   i n   R B F N N   fo r   t h e   c l a us e s .   T h e   ge n e r a l   f o r m   o f   t h e   l o gi c   p r o gra m m i n g   2S A T   i s   [ 17]:     2 11 kn S A T i j ij P A B    (5)     w h e r e , , kn i A a nd j B a r e   a t o m s .   T o   e m b e t h e   l o gi c   p r o gra m m i n 2S A T   i R B F N N ,   t h e   t r a i ni n da t a   s e t   f o r   e a c h   c l a us e   m us t   b e   de t e r m i n e d.   T h e   ge n e r a l   f o r m   t o   c a l c ul a t e   t h e   t ra i ni n d a t a   f o r   e a c c l a us e   i 2S A T   i s   gi v e by   t h e   f o l l ow i n g   e qua t i o n:     1 ( ) ( ) ; , { 0 , 1 } i j i j ij x I A I B whe re A B    (6)     T h e   l o gi c   p r o gra m m i n o f   2S A T   i R B F N N ,   i s   by   us i n b i n a r y   i n put   n e u r o n s { 0 , 1 } i T a b l e   t o   e xe m pl i fy   t h e   po s s i b l e   i n put   da t a   v a l ue s   a n o ut put   t a r ge t   da t a   v a l ue s   fo r   2S A T   i n   R B F N N .   By   us i n t h e   e m b e ddi n m e t h o d,   i n p ut   da t a   v a l ue   f o r   ( 7)  i s   s h o w n   i T a b l e   1.     F o r   e xa m pl e ,   t h e   f o l l o w i n 2S A T   t h a t   ha s   t hr e e   c l a us e s   i t h e   R BF N N   t ra i ni n g :       , P A B DC EF    ( 7)       T a b l e   1 .   T h e   I n p ut   D a t a   F o r m   a nd  t h e   T ra i n i n g   D a t a   o f   2S A T   i n   ( 7)   Cl a u s e   , AB   DC   EF   DNF   AB     CD      E F     In p u t   t h e   v a l u e   o f   d a t a   fo r m x     x A B      x D C      x E F      In p u t   d a t a   i n   t h e   t ra i n i n g   s e t i x   0   1   2   - 1   0   1   - 1   0   1   O u t p u t   t a r g e t   d a t a i y   0   1   1   0   1   1   0   1   1       2. 4 .      R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   2   S ati s f i ab i l i ty  v i N o - Tr a i n i n g   Te c h n i q u e   (R B F N N - 2S A TN T)   F o r   n o - t ra i n i n g   t e c hni que s   i R N F N N - 2S A T ,   a l l   pa ra m e t e rs ,   s uc a s   t h e   c e n t r e s ,   t h e   w i dt h s ,   a n d   o ut put   w e i gh t s   a r e   c a l c ul a t e a n f i xe d.   T h e   R B F N N - 2S A T   t ra i ni n i t hi s   t e c hni que   i s   by   m e t a h e u ri s t i c   a l go ri t hm s   t o   m i ni m i s e   t h e   e rr o r   i o ut put   w e i g h t   b e t w e e n   h i dde n   n e u r o n s   a nd  o ut put   n e u r o n s .   T h e   a l go ri t hm   fo r   R B F N N - 2S A T   by   us i n g   t h e   n o - t ra i ni n g   t e c hni que   i s   a s   f ol l o w s :   S t e 1:   Ca l c ul a t e   t h e   t ra i ni n da t a   f o r   e a c h   c l a us e   i n   2S A T   by   t a ki n t h e   c e n t r e s   a s   t ra i ni n da t a   o i n put   v a l ue s .   S t e 2:   I ni t i a l i s e   t h e   i nput   w e i g h t   ' { 1 , 1 } ji w  b e t w e e n   i n p ut   n e u r o n   a nd  hi dde n   n e u r o n   b e s i de   f o r   a t o m   a n d   - 1   f o r   t h e   n e g a t i v e   a t o m .   S t e 3:   Ca l c ul a t e   t h e   w i dt h s   by   us i n t h e   f o l l ow i n g   e qua t i o a c c o r di n t o   t h e   p a pe r   [ 28].   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha A l z a e e m i )   463   max 2 i d m   (8)     w h e r e , i m i s   t h e   n um b e r   o f   t h e   l i t e r a l s   pe r   c l a us e s   a n d m a x d i s   t h e   m a xi m um   di s t a n c e   b e t w e e n   t h e   c e n t r e s   o f   t h e   hi dde n   l a y e r .     S t e 4:   Ca l c ul a t e   t h e   R B F N N - 2S A T   G a us s i a a c t i v a t i o n   f u nc t i o n   v a l ue s   by   us i n g   (2) .   S t e 5:   O b t a i t h e   o ut put   w e i gh t   by   us i ng  t h e   o ut put   l i n e a ( 4)  o f   RB F N N - 2S A T .       T a b l e   2 .   T h e   V a l ue s   o f   t h e   A c t i v a t i o n   F u n c t i o i R B F N N - 2 S A T   w h i c R e pr e s e n t s   t h e   C l a us e   , AB   In p u t   v a l u e s   ( i x )   , 0 , 0 . 0 7 4 i x   ,1 , 0 . 0 7 4 i x   , 2 , 0 . 0 7 4 i x   O u t p u t   t a r g e t   v a l u e i y   0   1   1 . 3 5 2 5 e - 6   3 . 3 6 7 5 e - 24   0   1   1 . 3 5 2 5 e - 6   1   1 . 3 5 2 5 e - 6   1   2   3 . 3 6 7 5 e - 24   1 . 3 5 2 5 e - 6   1   1       T a b l e   3 .   T h e   V a l ue s   o f   t h e   A c t i v a t i o n   F u n c t i o i R B F N N - 2 S A T   w h i c R e pr e s e n t s   t h e   C l a us DC   In p u t   v a l u e s   ( i x )   , 1 , 0 . 0 7 4 i x   , 0 , 0 . 0 7 4 i x   ,1 , 0 . 0 7 4 i x   O u t p u t   t a r g e t   v a l u e i y   - 1   1   1 . 3 5 2 5 e - 6   3 . 3 6 7 5 e - 24   0   0   1 . 3 5 2 5 e - 6   1   1 . 3 5 2 5 e - 6   1   1   3 . 3 6 7 5 e - 24   1 . 3 5 2 5 e - 6   1   1       T a b l e   4 .   T h e   V a l ue s   o f   t h e   A c t i v a t i o n   F u n c t i o i R B F N N - 2 S A T   w h i c R e pr e s e n t s   t h e   C l a us e   EF   In p u t   v a l u e s   ( i x )   ( , 1 , 0 . 0 7 4 ) i x   ( , 0 , 0 . 0 7 4 ) i x   ( , 1 , 0 . 0 7 4 ) i x   O u t p u t   t a r g e t   v a l u e i y   - 1   1   1 . 3 5 2 5 e - 6   3 . 3 6 7 5 e - 24   0   0   1 . 3 5 2 5 e - 6   1   1 . 3 5 2 5 e - 6   1   1   3 . 3 6 7 5 e - 24   1 . 3 5 2 5 e - 6   1   1       T a b l e   5 T h e   O ut put   W e i g h t s   o f   RB F N N - 2S A T N T   t h a t   R e pre s e n t s   2S A T   u s i ng  t h e   N o - T r a i n i ng  T e c hni que   11 W   21 W   31 W   12 W   22 W   32 W   13 W   23 W   33 W   - 1 . 3 5 2 5 e - 06   1   1   1   - 1 . 3 5 2 5 e - 06   1   1   - 1 . 3 5 2 5 e - 06   1       In   t h e   n o - t r a i n i ng  t e c hni que ,   t h e   h i dde n   n e u r o n   c e nt r e   v a l ue s   i n   hi dde n   l a y e r s   s h o ul b e   e qua l   t o   t h e   t r a i ni n g   d a t a   v a l ue   t h a t   w a s   o b t a i n e f r o m   2S A T .   S t ruc t u r e   o f   t h e   R B F N N - 2S A T   w i t t h e   hi dde pa ra m e t e r s ,   by   us i n n o - t ra i ni n g   t e c hni que   a s   s h o w n   i F i gu r e   2 .             F i gu r e   2 .   S t ruc t u r e   o f   t h e   R B F N N - 2S A T   w i t h   t h e   hi dde n   p a ra m e t e r s ,   by   us i n g   n o - t r a i n i ng  t e c hni que           Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   18 ,   N o .   1 A p r i l   20 20  :     4 5 9   -   4 6 9   464   2. 5 .      R ad i al   B as i s   F u n c ti o n   N e u r al   N e tw o r k   2   S ati s f i ab i l i ty  v i H al T r ai n i n Te c h n i q u e   (R B F N N - 2S A TH T)   H a l f - t r a i n i ng  i s   a   h y b r i l e a rni n t ha t   i n v o l ve s   t w o   ph a s e s .   T h e   f i r s t   p ha s e   i s   c a l l e u n s upe r v i s e l e a rn i ng,   a n d   t h e   s e c o n p ha s e   i s   c a l l e s upe r v i s e l e a rni ng.   By   de t e r m i n i ng  t h e   pa ra m e t e r s   ( t h e   c e n t r e s ,   w i dt h s ,   a n o ut p ut   w e i gh t s )   i R B F N N - 2S A T   by   us i n k - m e a n s   c l us t e r i ng  a l go r i t h m .   T h e   f i r s t   p ha s e   o f   un s upe r v i s e t ra i ni n f r o m   k - m e a n s   c l us t e r i n g   w a s   us e t o   de t e rm i n e   t h e   c e n t r e   a n t h e   w i dt h   [17 ].   T h e n   t h e   s e c o n p ha s e   i s   c a l l e s up e r v i s e l e a rni n a l go r i t hm   t o   a dj us t   t h e   o ut put   w e i ght s   by   us i ng  G e n e t i c   A l go r i t hm   (G A ).       2. 5 . 1 .       k - m e an s   C l u s te r i n g   A l go r i th m     T h e   k - m e a n s   a l go r i t hm   pa rt i t i o n s   a   c o l l e c t i o n   o f   N   v e c t o r s   i n t o   c l us t e r s .   T h e   k - m e a n s   c l us t e r i ng  a l go ri t hm   i s   t o   de t e r m i n e   t h e   hi dde n   pa ra m e t e r s   (t h e   c e n t re s   a n t h e   w i dt h s i n   h a l f - t r a i ni n t e c hn i que   b y   H a m a d n e h   e t   a l .   [17] .   E qu a t i o (10)   f i n ds   t h e   c l us t e r   c e n t r e s   by   m i ni m i s i n g   t h e   di s t a n c e   f un c t i o n :     , j i j i d x c x c    (9)     w h e r e ,   , ji d x c   i s   t h e   di s t a n c e   b e t w e e n   t h e   c e n t r e   i c   a n da t a   po i n t j x .   T h e   n e w   o pt i m a l   c e n t r e s   w i l l   b e   ob t a i n e b y   (10):     1 ii i cx m   (10)     w h e r e ,   i c i s   t h e   c e nt r e ,   i m i s   t h e   n u m b e r   o f   t h e   l i t e r a l s   pe r   c l a us e s .   A f t e r   c a l c ul a t i ng  t h e   c e n t r e s   by   us i n t h e   k - m e a n s   c l us t e ri n a l go r i t h m ,   t h e   w i dt h   f o r   e a c h   hi dde n   n e u r o n   i s   c a l c ul a t e by   (12)  i   t h e   pa pe [17] :     2 2 1 , i j i i d x c m     (11)     w h e r e , i i s   t h e   w i dt h   o f   h i dde n   n e u r o n,   i m i s   t h e   num b e r   o f   t h e   l i t e ra l s   pe r   c l a us e s .   T h e   G a us s i a a c t i v a t i o n   f u n c t i o n   v a l ue s   by   u s i n E qua t i o n   a r e   a s   s h o w n   i n   T a b l e   7   a n S t ruc t u r e   of   t h e   RB F N N - 2S A T   w i t t h e   hi dde n   pa ra m e t e r s ,   by   us i n g   ha l f - t ra i ni n t e c hni que   a s   s h o w n   i F i gu r e   3.         T a b l e   6 .   T r a i n i ng  S e t   o f   t h e   2S A T ,   a nd  t h e   R a di a l   B a s i s   F u nc t i o n   V a l ue s   b y   u s i n G a us s i a n   F u n c t i o n   i   In p u t   v a l u e i x   O u t p u t   t a r g e t   v a l u e i y   , 0 . 5 ,1 . 1 2 5 i x   ,1 ,1 i x   ,1 . 5 ,1 . 3 7 5 i x   , 0 , 0 . 0 7 4 i x   , 0 . 5 ,1 . 3 7 5 i x   1   0   0   0 . 8 9 4 8   0 . 6 0 6 5   0 . 4 4 1 2   0 . 8 4 2 0 8   0 . 9 1 3 1   2   1   1   0 . 8 9 4 8   1   0 . 9 1 3 1   0 . 9 1 3 1   0 . 9 1 3 1   3   2   1   0 . 3 6 7 8 7 9   0 . 6 0 6 5   0 . 9 1 3 1   0 . 4 4 1 2   0 . 4 4 1 2   4   1   1   0 . 8 9 4 8   1   0 . 9 1 3 1   0 . 9 1 3 1   0 . 9 1 3 1   5   1   1   0 . 8 9 4 8   1   0 . 9 1 3 1   0 . 9 1 3 1   0 . 9 1 3 1           F i gu r e   3 .   S t ruc t u r e   o f   t h e   R B F N N - 2S A T   w i t h   t h e   hi dde n   p a ra m e t e r s ,   by   us i n g   ha l f - t r a i n i ng  t e c hn i que   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha A l z a e e m i )   4 65   2. 5 . 2 .      G e n e ti c   A l go r i th m   i n   R B F N N - 2S A T   G e n e t i c   A l go r i t hm   (G A i s   o n e   o f   t h e   w e l l - kn o w n   a nd  w i de l y   us e m e t a h e uri s t i c   s o l ut i o a l go ri t hm s   f o r   o pt i m i s a t i o n   p r o b l e m s .   G A   ha s   t h e   a b i l i t y   t o   m i ni m i s e   m ul t i - o b j e c t i v e   o pt i m i s a t i o n   p r o b l e m s   [29 - 30]w hi c h   i s   v e r y   v i t a l   i t hi s   s t udy .   G A   i n v e s t i ga t e s   t h e   e n t i r e   s e a r c h   s p a c e   by   l oc a t i n t h e   gl o b a l   s o l ut i o n   a n d   l o c a l l y   r e a c h i ng  t h e   o pt i m a l   s o l ut i o n .     In   t hi s   s e c t i o n ,   t h e   R B F N N - 2 S A T   i n   b o t h   t e c hni que s .   I n   R B F N N - 2S A T   by   u s i n n o - t r a i n i ng  t e c hn i q ue   w i l l   b e   o pt i m i s e by   G A   t hr o ug m i n i m i s i ng  t he   e rr o p r o duc e f r o m   t h e   t r a i n i ng.   I n   R B F N N - 2S A T   by   us i n ha l f - t r a i n i ng  t e c hn i q ue ,   t h e   n e t w o r i s   r e qui r e t o   f i n t h e   o ut put   w e i gh t   b y   s o l v i n t h e   l i n e a r   e qua t i o n   t ha t   c o n s i s t s   o f   RB F N N - 2S A T   o ut put .   I n   t h i s   c a s e ,   G A   c a n   b e   us e i n   R B F N N - 2S A T   t o   i m p r o ve   t h e   s o l ut i o n   o f   t h e   R BF N N - 2S A T   h a l f - t r a i n i ng  t e c hni que   o ut put   w e i gh t   a n m i n i m i s i n t h e   e rr o r.   T h e   s o l ut i o n   (o ut p ut   w e i gh t )   i R B F N N - 2S A T   ge n e r a t e by   G A   i s   c a l l e a   c hr o m o s o m e .   S t e 1.   I ni t i a l i s a t i o n.   T h e   po pul a t i o o f   c h r o m o s o m e s   w i l l   b e   i ni t i a l i s e d.     S t e 2.   E v a l ua t i o n .   Co m pu t e s   t h e   o bj e c t i v e   f un c t i o n   v a l ue   fo r   e a c h   c hr o m o s o m e   pr o duc e i n   i n i t i a l i s a t i o n   b y   t h e   f o l l ow i n g   e qua t i o n :     i i i f x w x y    (12)     w h e r e , i w i s   t h e   o ut put   w e i ght   b e t w e e n   t h e   h i dde n   n e u r o n   a n t h e   o ut put   n e u r o n   , i x i s   t h e   G a us s i a a c t i v a t i o n   f u n c t i o i R B F N N .   i y i s   t h e   o ut put   t a r ge t   v a l ue .     S t e 3 .   S e l e c t i o n :   T h e   f i t t e s t   c hr o m o s o m e s   h a v e   h i g h e r   pr o b a b i l i t y   t o   b e   s e l e c t e d   fo r   t h e   n e xt   ge n e ra t i o n.   T o   c o m put e   t h e   f i t n e s s   p r o b a b i l i t y ,   t h e   f i t n e s s   o f   e a c h   c hr o m o s o m e   m us t   b e   c o m put e t o   a v o i d   di v i de   by   z e r o   p r o b l e m ,   a n d   t h e   v a l ue   o f   ob j e c t i ve   f un c t i o i s   a dde b y   1.       1 1 i fit fx   (13)        i fit i s   t h e   f i t n e s s   a n fx i s   t h e   o bj e c t i v e   f un c t i o n .   T h e   pr o b a b i l i t y   ( i p fo r   e a c h   c hr o m o s o m e s   i s   fo r m u l a t e by :     0 i i n i i fit p fit   (14)     S t e 4:   C r o s s o ve r :   T h e   n um b e o f   c r o s s - p o pul a t i o n s   i s   de t e rm i n e a c c o r di n t o   t h e   c r o s s ov e r   r a t e .   D uri n g   c r o s s ov e r ,   i n f o r m a t i o o f   t h e   pa r e n t ’s   c hr o m o s o m e   w i l l   b e   e xc h a n ge d   t o   p r o duc e   n e w   c hr o m o s o m e s .   S t e 5.   M ut a t i o n :   N u m b e r   o f   c hr o m o s o m e s   t h a t   h a v e   m ut a t i o n s   i n   a   po pul a t i o n   i s   de t e r m i n e by   t h e   m ut a t i o n   r a t e   pa ra m e t e r.   I n   m ut a t i o n   p h a s e ,   t h e   i n f o r m a t i o of  t h e   c hr o m o s o m e s   w i l l   ra n do m l y   c h a nge   o n e   v a l ue   o f   t h e   c hr o m o s o m e s   (t h e   o ut put   w e i ght t o   i m p r o v e   t h e   s o l ut i o (o ut pu t   w e i ght o f   R B F N N .     S t e p   6:   T e rm i na t i o n :   If   t h e   gi v e n   e v o l ut i o n   t e rm i na t i o n   c r i t e r i a   a r e   m e t ,   t h e   c a l c ul a t i o n   i s   s t o ppe d,   o t h e r w i s e   go   t S t e w i t h   i = i + (G A   w i l l   u n de r go   up  t o   10000  i t e ra t i o n s   (G e n e r a t i o n s t o   i m p r o v e   t h e   c hr o m o s o m e s   ( o ut put   w e i g h t s )   u n t i l   t h e   o ut p ut   o f   RB F N N   be c o m e s   l e s s   o r   e qua l s   t o   t a r ge t   o ut put . ) .       3.   EX P ER I M EN TA S E TU P   In   t h i s   s t udy ,   t h e   p r o po s e G A   w i t h   2S A T   i n   t h e   R a di a l   B a s i s   F un c t i o n   N e u r a l   N e t w o r k - 2S A T   N o - T r a i n i ng  (R B F N N - 2S A T N T a n t h e   R a di a l   B a s i s   F u n c t i o N e ur a l   N e t w o r k - 2S A T   H a l f   T r a i ni n (R B F N N - 2S A T H T ).   T h e   e xpe ri m e nt   w a s   r u n   f o r   v a r i o us   n u m b e r s   o f   n e u r o n s   (N N f r o m   up  t o   96,   de pe n d i n o n   t h e   n u m b e r   o l i t e ra l s   pe r   c l a us e   (N C1,   N C2,   N C3) .   T h e   n e t w o r c o m pl e xi t y   i n c r e a s e s   a s   t h e   n um b e r   o f   n e ur o (N N i n c r e a s e s .   T h e   po pul a t i o n   s i z e   w a s   50 ,   t h e   c r o s s o v e r   ra t e   w a s   1,   t h e   m u t a t i o r a t e   w a s   1,   a n d   t h e   m a x i m u m   n u m b e r   o G A   ge n e r a t i o n   w a s   10000.   I n   a ddi t i o n ,   s i m u l a t i o n s   w e r e   pe r f o r m e o n   M i c r o s of t   V i s ua l   C#  20 10  E xp r e s s   s of t w a r e .   T h e   e xpe ri m e nt s   w e r e   do n e   by   us i n M i c r o s of t   W i n do w   P r o fe s s i o n a l   64 - b i t ,   w i t h   t h e   s pe c i f i c a t i o o f   500G B   h a rd  d i s k,   40 96M B   R A M ,   a n d   p r o c e s s o r   3. 40G H z .       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   18 ,   N o .   1 A p r i l   20 20  :     4 5 9   -   4 6 9   466   4.   R ES U LTS   A N D   D I S C U S S I O N :   T h e   r e s ul t   o f   t h e   R B F N N - 2S A T N T   a nd  R B F N N - 2S A T H T   a r e   s um m a ri s e i F i gu r e   t o   F i gu r e   7 .   B a s e o n   t h e s e   F i gur e s ,   R B F N N - 2S A T H T   o ut pe r f o r m s   RBF N N - 2S A T N T   i n   t e rm s   o e r r o r s   (R M S E ,   S S E ,   M A P E ,   a nd  M A E ) .   W h e n   t h e   n u m b e r   o f   n e ur o n s   i n c r e a s e d,   R B F N N - 2S A T H T   w a s   a b l e   t o   s u s t a i n   m o r e   n e u r o n s .   T h e o r e t i c a l l y ,   t h e   i n c r e a s e   i n   t h e   n u m b e r   of   h i dde n e u r o n s   l e a ds   t o   a n   i n c r e a s e   i n   t h e   ra t e   o e r r o r s   due   t o   t h e   c e n t r e s   a s   a   s u b s e t   of   t h e   i n pu t   v a l ue s   of  t h e   t ra i ni n w i t h   R B F N N - 2S A T N T .   It   i s   a l s o   c a n   be   de duc e t ha t ,   m o s t   s o l ut i o n s   i n   R B F N N - 2S A T N T   h a v e   l o w e r   f i t n e s s   a n r e qu i r e   m o r e   i t e r a t i o n s   c o m pa r e t o   RB F N N - 2S A T H T .   RB F N N - 2S A T H T   i s   t h e   b e s t   m o de l   b e c a us e   i t   ha s   l o w e r   v a l ue s   o f   R M S E ,   S S E ,   M A P E   a n M A E .   F i g u r e   i l l us t ra t e s   t h e   n u m b e r   o h i dde n   n e u r o n   r e s ul t   f o r   RB F N N - 2S A T N T     a n R B F N N - 2S A T H T .             F i gu r e   4 .   R M S E   v a l ue   f o r   a l l   R B F N N - 2S A T   m o de l s     F i gu r e   5 .   S S E   v a l ue   f o r   R B F N N - 2S A T   m o de l s             F i gu r e   6 .   M A P E   v a l ue   f o r   R B F N N - 2S A T   m o de l s     F i gu r e   7 .   M A E   v a l ue   f o r   R B F N N - 2S A T   m o de l s       B a s e o n   F i gu r e   8 ,   m a g ni t ude   o f   t h e   n um b e r   o f   t h e   hi dde n   n e u r o n   f o r   R B F N N - 2S A T N T   dra m a t i c a l l y   i n c r e a s e a s   t h e   num b e r   o f   2S A T   c l a us e s   i n c r e a s e d.   R BF N N   m o de l   t h a t   a c qu i r e t h e   l e a s t   v a l ue   of   t h e   h i d de n   n e u r o n s   w a s   c o n s i de r e a s   t h e   be s t   m o de l   a m o n a l l   n e u r a l   n e t w o r m o de l s .   A c c o r di n t o   P a n c ha l   e t   a l . ,   [24] ,   t h e   l o w e s t   v a l ue   o f   t h e   h i d de n e u r o n   i n di c a t e t h e   b e s t   m o de l   f o r   a   gi v e n um b e o n e u r o n s .   W h e n   t h e   n e t w o r h a s   m a n y   n e u r o n s   i n   t h e   h i d de n   l a y e r ,   o v e r   f i t t i ng  m a y   r e s ul t   (t h e   w e i gh t s   b e c a m e   e xt r e m e l y   l a r ge   b e c a us e   t h e   h i dde n   n e u r o n s   i n   t h e   hi dde n   l a y e r   w e r e   h i g h l y   c o r r e l a t e w i t h   e a c o t h e r).   T hi s   m e a n s   t h e   c a pa c i t y   of   t h e   p r o c e s s i n s y s t e m   w a s   n o t   e n o ug h   t o   t ra i a l l   t h e   n e u r o n s   i t h e   hi dde n   l a y e r .   B a s e o n   t h e   r e s ul t s ,   R B F N N - 2S A T H T   h a s   t h e   l e a s t   v a l ue   o f   t h e   h i d de n   n e u r o n   c o m pa r e t o   R B F N N - 2S A T N T .   In   t hi s   c a s e ,   RB F N N - 2S A T H T   i n   c o m pa r i s o n   w i t h   R B F N N - 2S A T N T   i s   c o n s i de r e t h e   be s t   t e c hn i q ue   i t h e   R B F N N - 2S A T   m o de l .     F i gu r e   i l l us t r a t e s   t h e   c o m put a t i o t i m e   o CP U   t i m e   r e s ul t   f o r   R B F N N - 2S A T N T   a n d   R B F N N - 2S A T H T .   T h e   c o m put a t i o n   t i m e   o r   CP U   t i m e   i s   de f i n e a s   t h e   t i m e   t a ke n   f o r   a   R B F N N - 2S A T   t o   ge n e ra t e   t h e   b e s t   s o l ut i o n s ,   i n c l ud i n t h e   t ra i ni n p r o c e s s .   A c c o r di n t o   F i gu r e   9 ,   t h e   c o m put a t i o n   t i m e   f o r   t h e   RB F N N - 2S A T H T   w a s   f a s t e r   t h a n   R B F N N - 2S A T N T .   R B F N N - 2S A T N T   t o o a   l o n ge r   t i m e   fo r   t h e   n e t w o r Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       R adi a l   bas i s   f un c t i on  ne ur a l   n e t w or k   f or   s a t i s f i ab i l i t y   pr og r am m i ng   ( She ha A l z a e e m i )   467   t o   s pe c i fy   t h e   n um b e r   o f   h i dde n   n e u r o n s   a n t h e   o ut pu t   b e t w e e n   t h e   h i d de n   l a y e r   a n o ut put   l a y e r ,   a s   t h e   n e t w o r s pe n ds   m o r e   t i m e   i n   t h e   t ra i ni n g   s t a t e .   H a m a d ne h   e t   a l .   [17]   m e n t i o R B F N N   by   n o   t ra i ni n g   t e c hn i q ue   t o o l o n ge r   t i m e   due   t o   t h e   v a l ue   of   t h e   c e n t r e s   a r e   e qua l   t o   t h e   v a l ue s   o t h e   t r a i n i ng  da t a .   A l s o ,   m a n y   n e u r o n s   i n   t h e   hi dde n   l a y e r   c a us e   t h e   a ppe a ra n c e   o f   f a ke   o ut put   w e i gh t   a s   s h o w n   i R B F N N - 2S A T   b no - t ra i ni n t e c hni que   t ha t   w i l l   i n c r e a s e   t h e   t i m e   i t   t a ke s   t o   t ra i t h e   n e t w o r k.   H ow e v e r ,   w h e n   R B F N N - 2S A T   by   h a l f - t ra i ni n t e c hn i que   w a s   i m pl e m e n t e d ,   t h e   c o m put a t i o n   t i m e   w a s   f a s t e r .   I n   F i gu r e   9 ,   R B F N N - 2S A T H T   i s   f a s t e r   be c a us e   t h e   c e n t r e s   w e r e   n o t   r e s t r i c t e t o   be   t h e   i nput   o da t a   po i nt s   a n w i dt h   of   t h e   h i d de n   l a y e r   t h a t   w a s   c a l c ul a t e d   by   us i n g   k - m e a n s   c l us t e ri n g .               F i gu r e   8 .   N o .   H i dde n   n e u r o n   f o r   R B F N N - 2S A T   m o de l s     F i gu r e   9 .   CP U   T i m e   f o r   R B F N N - 2S A T   m o de l s         5.   C O N C LU S I O N   T h e   pa pe r   p r e s e n t s   2S A T   l o gi c   pr o g r a m m i n i n   R B F N N .   T h e   po w e r   of   t h i s   t e c hni que   c a n   b e   s e e n   c l e a rl y   w h e n   c o m put i n t h e   s t a b i l i t y   by   us i n t h e   R B F N N .   I n   t hi s   s t udy ,   t h e   pri n c i p a l   c o m po n e n t s   w e r e   RB F N N ,   G A ,   a nd  2S A T .   T o   de t e r m i n e   t h e   R B F N N   pa r a m e t e r s   a n c a l c ul a t e   t h e   e rr o r s   r e p r e s e n t e d,   t h e   t w t e c hn i q ue s   w e r e   pr o po s e n a m e l y ,   RB F N N - 2S A T N T   a nd  RB F N N - 2S A T H T .   Re s ul t s   s h ow e t h a t   t h e   ha l f -   t r a i ni n g   t e c hni que   (R B F N N - 2S A T H T w a s   m o r e   po w e r f ul   a n d   m o r e   e f fe c t i ve   t ha n   t h e   n o - t ra i ni n g   t e c hni que   (R BF N N - 2S A T N T ),   due   t o   t h e   n u m b e r   o h i dde n   n e ur o n s   w a s   t y pi c a l l y   m uc h   l e s s   t h a n   t h e   n um b e r   o f   da t a   po i n t s ,   a n d   t h e   c e n t r e s   w e r e   n o t   r e s t r i c t e d   t o   b e   da t a   po i nt s .       A C K N O WL ED G M EN T   T h i s   r e s e a r c h   i s   s uppo rt e by   U n i v e r s i t i   S a i n s   M a l a y s i a   a n F un d a m e nt a l   R e s e a r c h   S c h e m e   (F R G S )   (6711689)   by   M i n i s t r y   of   H i gh e E duc a t i o n   M a l a y s i a .       R EF ER EN C ES   [ 1]   N .   H a m a dne h ,   e t   a l . ,   O pt i m i z a t i o o f   m i c r o c ha nne l   he a t   s i n ks   us i ng   pr e y - pr e da t o r   a l g o r i t hm   a n a r t i f i c i a l   n e u r a l   ne t w o r k s ,   M a c hi ne s ,   v o l .   6 ( 2 ) ,   pp .   26 - 36 ,   2018 .     [ 2]   J .   M o o d y ,   a nd   C .   J .   D a r k e n,   F a s t   l e a r n i ng   i n e t w o r k s   o f   l o c a l l y - t une pr o c e s s i ng   un i t s ,   N e ur a l   c om pu t a t i on ,   v o l .   1( 2 ) ,   pp .   281 - 29 4,   19 89.     [ 3]   S .   A .   B i l l i ng s ,   a nd   G .   L .   Z he ng ,   R a d i a l   b a s i s   f unc t i o ne t w o r c o nf i g ur a t i o us i ng   g e ne t i c   a l g o r i t hm s ,   N e ur al   N e t w or k s ,   v o l .   8 ( 6) ,   pp .   877 - 89 0,   19 95.     [ 4]   A .   S i ng h,   a nd  K .   K .   S i ng h,   S a t e l l i t e   i m a g e   c l a s s i f i c a t i o us i ng   g e ne t i c   a l g o r i t hm   t r a i n e r a di a l   b a s i s   f unc t i o ne ur a l   n e t w o r k ,   a pp l i c a t i o t o   t he   de t e c t i o o f   f l oo de a r e a s .   J our nal   o f   V i s ua l   C om m uni c a t i on  and  I m a ge   R e pr e s e nt at i on ,   v o l .   42 ,   pp.   1 73 - 182 ,   2017 .     [ 5]   D e   L e o n - D e l g a do ,   e t   al ,   M ul t i v a r i a t e   s t a t i s t i c a l   i nf e r e nc e   i a   r a d i a l   b a s i s   f unc t i o ne u r a l   ne t w o r k ,   E x pe r t   Sy s t e m s   w i t h   A p pl i c a t i ons ,   v o l .   93 ,   pp .   313 - 32 1 ,   20 18.     [ 6]   H .   G .   H a n ,   e t   al ,   N o nl i ne a r   s y s t e m   m o de l i ng   u s i ng   a   s e l f - o r g a ni z i ng   r e c ur r e n t   r a d i a l   b a s i s   f unc t i o n e ur a l   ne t w o r k ,   A pp l i e So f t   C om p ut i ng ,   v o l .   71 ,   pp .   110 5 - 1116 ,   2018 .     [ 7]   M .   M o ha m m a di ,   e t   al ,   A   ha r dw a r e   a r c hi t e c t ur e   f o r   r a di a l   ba s i s   f unc t i o ne ur a l   ne t w o r c l a s s i f i e r ,   I E E E   T r ans ac t i ons   on   P ar a l l e l   and   D i s t r i bu t e Sy s t e m s ,   v o l .   29 ( 3 ) ,   pp .   4 81 - 495,   2 018 .     [ 8]   J .   W   L l oy d,   F o unda t i o ns   o f   l o g i c   pr o g r a m m i ng ,   Sp r i n ge r   S c i e nc e   &   B us i ne s s   M e di a ,   6   D e c   2 012 .     [ 9]   W . A . T . W .   A bdu l l a h,   T he   l o g i c   o f   ne ur a l   ne t w o r ks ,   P hy s i c s   L e t t e r s   A ,   v o l .   1 76 ( 3) ,   pp .   2 02 - 206 ,   1993 .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   18 ,   N o .   1 A p r i l   20 20  :     4 5 9   -   4 6 9   468   [ 10]   G .   P i nk a s ,   S y m m e t r i c   ne ur a l   n e t w o r k s   a nd  p r o po s i t i o na l   l o g i c   s a t i s f i a b i l i t y .   N e ur al   C om put at i on ,   v o l .   3( 2 ) ,   pp .     282 - 291 ,   1991 .     [ 11]   W .   A .   T .   W .   A bdul l a h ,   L o g i c   pr og r a m m i ng   o a   ne ur a l   ne t w o r k,   I nt e r n at i on al   j ou r na l   o f   i n t e l l i ge nt   s y s t e m s ,   v o l .   7 ( 6 ) ,   pp .   513 - 51 9,   19 92.     [ 12]   S .   H öl l do bl e r ,   e t   al ,   A ppr o xi m a t i ng   t he   s e m a n t i c s   o f   l og i c   pr og r a m s   b y   r e c ur r e n t   ne ur a l   n e t w o r k s ,     A ppl i e I nt e l l i ge nc e ,   v o l .   11 ( 1) ,   pp .   45 - 58 ,   1 999 .     [ 13]   S .   S a t h a s i v a m ,   a n W .   A .   T .   W .   A bdul l a h ,   L og i c   m i ni ng   i n e ur a l   ne t w o r k:   r e v e r s e   a n a l y s i s   m e t ho d,   C om pu t i ng   v o l .   91( 2) ,   pp .   1 19 - 133 ,   2011 .     [ 14]   M .   S .   M .   K a s i hm ud di n,   e t   a l . ,   G e ne t i c   A l go r i t hm   f o r   R e s t r i c t e M a xi m um   k - S a t i s f i a b i l i t y   i t he   H o pf i e l d   N e t w o r k,   I n t e r na t i o na l   J our na l   o f   I n t e r ac t i v e   M ul t i m e di a   &   A r t i f i c i a l   I n t e l l i ge nc e ,   v o l .   4 ( 2 ) ,   20 16.     [ 15]   M .   S .   M .   K a s i hm udd i n ,   e t   a l . ,   R o bus t   A r t i f i c i a l   B e e   C o l o n y   i t he   H o pf i e l N e t w o r f o r   2 - S a t i s f i a bi l i t y   P r o bl e m ,   P e r t ani k J ou r na l   of   Sc i e nc e   &   T e c hno l ogy ,   v o l .   25 ( 2 ) ,   pp.   45 3 - 468,   2 017 .     [ 16]   S .   A .   A l z a e e m i ,   e t   al ,   U s e   o f   G e ne t i c   A l g o r i t hm   f o r   H o pf i e l N e u r a l   N e t w o r t o   do   L og i c   P r og r a m m i ng ,   I B io - G e ne t i c s   J ou r na l ,   v o l .   5( 1 ) ,   p p.   10 1 - 113 ,   2 017 .     [ 17]   N .   H a m a dne h,   e t   a l ,   L e a r ni ng   l o g i c   pr o g r a m m i ng   i n   r a di a l   ba s i s   f unc t i o n e t w o r k   v i a   g e ne t i c   a l g o r i t hm ,   J our na l   of   A pp l i e Sc i e nc e s   ( F ai s a l aba d) ,   v o l .   12 ( 9 ) ,   pp .   840 - 84 7,   20 12 .   [ 18]   S .   M ukh e r j e e ,   a nd  S .   R oy ,   M u l t i   t e r m i na l   ne t   r ou t i n f o r   i s l and  s t y l e   F P G A s   us i n ne ar l y - 2 - S A T   c om p ut at i on ,   I V L S I   D e s i g a n T e s t   ( V D A T ) ,   2015   1 9t h   I nt e r na t i o na l   S y m po s i um   o n ,   ( pp .   1 - 6) .   I E E E ,   2015 .     [ 19]   S .   E v e n,   e t   al ,   O t he   c om pl e x i t y   of   t i m e   t abl e   and  m ul t i - c om m od i t y   f l ow   pr ob l e m s ,   I n   16 t A nnua l   S y m p o s i um   o F o unda t i o ns   o f   C o m put e r   S c i e nc e ( pp .   184 - 193 ) .   I E E E ,   O c t o be r ,   1975 .     [ 20]   R .   M i y a s hi r o ,   a nd  T .   M a t s u i ,   A   po l y no m i a l - t i m e   a l g o r i t hm   t o   f i nd  a e qu i t a b l e   ho m e a w a y   a s s i g nm e nt ,   O pe r a t i ons   R e s e ar c h   L e t t e r s ,   v o l .   33 ( 3) ,   pp .   2 35 - 241 ,   2005 .     [ 21]   M . ,   T a y y a b,   J . ,   Z ho u,   R . ,   A dna n ,   C . ,   M e ng ,   &   A .   Z a hr a ,   ( 20 16) .   S t r e a m f l o w   pr e d i c t i o by   a ppl y i ng   g e ne r a l i z e r e g r e s s i o ne t w o r w i t t i m e   s e r i e s   d e c o m po s i t i o m e t ho d.   I nd o ne s i an  J ou r na l   of   E l e c t r i c a l   E ng i ne e r i ng  and   C om put e r   Sc i e nc e   ( I J E E C S) 4 ( 3 ) ,   6 11 - 616 .     [ 22]     P .   K a ng ,   a nd  Z .   J i n,   N e u r a l   n e t w o r s l i d i ng   m o de   ba s e c ur r e nt   d e c o upl e c o nt r o l   f o r   i nduc t i o m o t o r   dr i v e .   I n f o r m at i on   T e c hn ol ogy   J o ur n al ,   v o l .   9 ( 7) ,   pp .   1440 - 14 48,   2010 .     [ 23]   H .   Z a y a nde h r o o di ,   e t   a l ,   A ut o m a t e f a u l t   l o c a t i o i a   po w e r   s y s t e m   w i t di s t r i but e g e n e r a t i o ns   us i ng   r a d i a l   ba s i s   f unc t i o ne u r a l   ne t w o r k s ,   J ou r na l   of   A pp l i e Sc i e nc e s   ( F ai s a l aba d) ,   v o l .   10 ( 23 ) ,   p p.   30 32 - 3041 ,   201 0.     [ 24]   G .   P a nc ha l ,   G a na t r a ,   e t   al ,   B e h a v i o ur   a na l y s i s   o f   m ul t i l a y e r   pe r c e pt r o ns w i t m u l t i p l e   hi dde n e ur o n s   a n h i dd e n   l a y e r s ,   I nt e r n at i on al   J o ur n al   o f   C om pu t e r   T he or y   and   E ng i ne e r i ng ,   v o l .   3( 2) ,   pp .   3 32 ,   2 011 .     [ 25]   M .   T .   V a k i l - B a g hm i s he h ,   a nd   N .   P a v e š i ć ,   T r a i ni ng   R B F   ne t w o r ks   w i t s e l e c t i v e   ba c kpr o pa g a t i o n,   N e ur oc om pu t i n g ,   v o l .   62 ,   p p.   39 - 64 ,   200 4.     [ 26]   D .   C .   D hub ka r y a ,   a nd   D .   N a g a r i a ,   I m pl e m e nt a t i o o f   a   r a di a l   b a s i s   f unc t i o us i ng   V H D L   G l oba l   J ou r na l   o f   C om put e r   Sc i e nc e   an T e c h nol ogy ,   v o l .   10 ( 10 ) ,   2 010 .     [ 27]   N .   M a hm o d,   N .   A .   W a ha ( 20 17) .   F o ul i ng   P r e di c t i o U s i ng   N e ur a l   N e t w o r M o de l   f o r   M e m br a n e   B i o r e a c t o r   S y s t e m .   I ndone s i an   J o ur n al   o f   E l e c t r i c al   E n gi ne e r i ng  and   C om pu t e r   S c i e nc e   ( I J E E C S) 6 ( 1) ,   200 - 20 6.     [ 28]   Y .   S .   H w a ng ,   a nd   S .   Y .   B a ng ,   A e f f i c i e nt   m e t ho t o   c o ns t r uc t   a   r a d i a l   ba s i s   f unc t i o ne ur a l   n e t w o r c l a s s i f i e r ,   N e ur al   ne t w or k s ,   v o l .   10 ( 8) ,   pp .   1495 - 1 503 ,   199 7 .     [ 29]   K .   A .   D e   J o n g ,   a nd  W .   M .   S pe a r s ,   U s i ng   g e ne t i c   a l g o r i t hm s   t o   s o l v e   N P - c o m pl e t e   pr o b l e m s ,   I I C G A   J our nal     ( pp .   124 - 132 ) ,   J une   19 89 .     [ 30]   W .   J i a ,   e t   a l ,   A   ne w   o pt i m i z e d   G A - R B F   ne ur a l   n e t w o r k   a l g o r i t hm ,   C om p ut a t i ona l   i n t e l l i ge nc e   an ne ur o s c i e nc e 2014 v o l .   ( 4 4) ,   pp .   1 - 6,   2014 .     [ 31]   Y .   U .   Z hi j un ,   ( 2 013 ) .   R B F   ne u r a l   ne t w o r ks   o pt i m i z a t i o a l g o r i t hm   a nd  a pp l i c a t i o o t a x   f o r e c a s t i ng .   T E L K O M N I K A   I ndo ne s i an   J our nal   o f   E l e c t r i c a l   E ngi n e e r i ng ,   11 ( 7) ,   349 1 - 3497 .         B I O G R A P H I ES   O F   A U T H O R S       S he ha A bdul h a b i A l z a e e m i   r e c e i v e a   B a c he l o r   D e g r e e   o f   E d uc a t i o ( S c i e nc e )   f r o m   T a i z   U ni v e r s i t i   i 2004  a nd  M a s t e r   o f   S c i e nc e   ( M a t he m a t i c s )   f r o m   U ni v e r s i t i   S a i ns   M a l a y s i a   i n   2016  a nd  no w   s t ud e n t   P hD   i U ni v e r s i t i   S a i n s   M a l a y s i a .   H e   w a s   f e l l o w   unde r   t h e   A c a de m i c   S t a f f   T r a i n i ng   S y s t e m   o f   S a na ' a   C o m m uni t y   C o l l e g e   f r o m   2005 - 2014 .   H i s   r e s e a r c i n t e r e s t s   m a i n l y   f o c us   o ne ur a l   n e t w o r k ,   l o g i c   pr o g r a m m i ng ,   a nd   da t a   m i ni ng .           M o hd  S ha r e duw a M o hd  K a s i hm u dd i i s   a   l e c t ur e r   i n   S c ho o l   o f   M a t h e m a t i c a l   S c i e nc e s ,   U ni v e r s i t i   S a i n s   M a l a y s i a .   H e   r e c e i v e h i s   P h.   D   f r o m   U ni v e r s i t i   S a i n s   M a l a y s i a .   H i s   c ur r e n t   r e s e a r c i nt e r e s t s   i nc l ud e   M e t a he u r i s t i c s   m e t ho d,   ne ur a l   ne t w o r de v e l o pm e nt ,   a r t i f i c i a l   i nt e l i g e nc e   a nd   l o g i c   pr o g r a m m i ng .           Evaluation Warning : The document was created with Spire.PDF for Python.