I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   1 4 ,   N o .   2 M a y   201 9 ,   pp .   949 ~ 956   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 1 4 .i 2 . pp 949 - 956             949       Jou r n al   h o m e pa ge ht t p: / / i ae s c or e . c om / j our na l s / i nde x . php/ i j e e c s   FPGA - b a sed   a r c h i t e c t u r e   o f   h y b r i d   m u l t i l a y e r e d   p e r c e p t r o n   n e u r a l   n e t w o r k         Le e   Y e e   A n n 1 ,   P .   Eh k an 2 ,   M . Y .   M as h o r 3 ,   S . M .   S h ar u n 4   1 , 2 S c hoo l   o f   C o m put e r   a nd   C o m m uni c a t i o E ng i n e e r i ng ,   U n i v e r s i t i   M a l a y s i a   P e r l i s ,   P a uh   P u t r a   C a m pus ,   M a l a y s i a   3 S c hoo l   o f   M e c ha t r o n i c   E ng i ne e r i ng ,   U ni v e r s i t i   M a l a y s i a   P e r l i s ,   P a uh  P ut r a   C a m pu s ,   M a l a y s i a     4 F a c ul t y   of   I nn o v a t i v e   D e s i g a n T e c hno l o gy ,   U ni v e r s i t i   S u l t a n   Z a i n a l   A bi di n,   G o ng   B a da k   C a m p us ,   M a l a y s i a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e S e 22 ,   2 018   R e v i s e D e c   25 ,   2018   A c c e pt e J an   14 ,   201 9       T he   H M L P   i s   a A N N   s i m i l a r   t o   t he   M L P ,   bu t   w i t e xt r a   w e i g ht e d   c o nne c t i o ns   t ha t   c o nne c t   t h e   i npu t   no de s   d i r e c t l y   t o   t he   o ut p ut   n o de s .   T h e   a r c hi t e c t u r e   o f   t he   H M L P   ne ur a l   ne t w o r f o r   i m pl e m e n t a t i o o F P G A   i s   pr o po s e d.   T he   H M L P   a r c hi t e c t ur e   i s   de s i g ne t o   be   c o nc ur r e nt   t o   de m o ns t r a t e   t he   pa r a l l e l   n a t u r e   o f   t he   H M L P   w he r e   e a c h   hi dde n   o r   o ut pu t   no de   w i t hi t h e   s a m e   h i dde o r   o ut pu t   l a y e r   o f   t he   H M L P   c a c a l c ul a t e   i t s   o ut put   i nd e pe nde n t l y .   T he   H M L P   a r c hi t e c t u r e   i s   d e s i g ne t o   be   m o dul a r   a s   w e l l ,   s uc t h a t   i f   m o di f i c a t i o t o   a   m o dul e   i s   ne c e s s a r y ,   o nl y   t he   s pe c i f i c   m o dul e   ne e t o   be   m o di f i e a nd  a l l   o t he r   m o dul e s   c a be   r e t a i ne d.   T h i s   m o dul a r i t y   w i l l   be   e s pe c i a l l y   he l pf ul   w he d i f f e r e n t   a c t i v a t i o f unc t i o i s   t o   be   s w a ppe d   i t o   r e p l a c e   c ur r e n t   a c t i v a t i o f unc t i o n.   A l l   c a l c ul a t i o ns   i t he   H M L P   a r e   p e r f o r m e i f l o a t i ng - po i nt   a r i t hm e t i c .   T he   H M L P   a r c h i t e c t ur e   i s   c om pi l e d ,   s i m u l a t e a nd  f i n a l l y   i m pl e m e n t e o t h e   C y c l o ne   V   F P G A   of   D E 1 - S o C   b o a r d.   T h e   s i m ul a t i o o ut c om e   a nd  F P G A   o ut put s   s ho w e t h a t   t he   de v e l o pe H M L P   a r c hi t e c t u r e   i s   a bl e   t o   c a l c ul a t e   c o r r e c t   o ut pu t   v a l ue s   f o r   a l l   t e s t   da t a s e t s .   Ke y w or ds :   A r t i f i c i a l   N e u r a l   N e t w o r k   FPGA - b a s e a r c h i t e c t ur e     H y b r i M ul t i l a y e r e P e r c e pt r o N e ur a l   N e t w o r k   V H D L   C opy r i gh t   ©   201 9   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   L e e   Y e e   A nn,     S c h o o l   of   Co m put e a nd  Co m m u n i c a t i o n   E n g i n e e r i ng,     U n i v e r s i t i   M a l a y s i a   P e rl i s ,   P a u h   P u t r a   C a m pus ,     02600  A ra u ,   P e r l i s ,   M a l a y s i a .   E m a i l :   l e e y e e 4nn @ g m a i l . c o m       1.   I N TR O D U C TI O N     V a r i o us   t y p e s   of   A r t i f i c i a l   N e u ra l   N e t w o r ks   (A N N ha b e e n   a ppl i e fo r   m a n y   ki nds   of  a ppl i c a t i o n s ,   o f   w h i c h   t h e   M ul t i l a y e r e P e r c e pt r o (M L P ne ur a l   n e t w o r i s   v e r y   p o pul a r .   T h e   M L P   i s   m a de   up  of   m ul t i pl e   l a y e r s   of   s i m pl e   pr o c e s s i n e l e m e nt s   c a l l e d   n o de s .   T h e   l a y e r s   of  M L P   a r e   o n e   i n p ut   l a y e r ,     o n e   o ut put   l a y e r ,   a n o n e   o r   m o r e   h i dde n   l a y e r s .   T h e   n o de s   a n l a y e r s   of   M L P   a r e   a rr a nge i n   a   f e e d fo r w a r d   a rr a nge m e nt   [1 ].   T h e   M L P   h a s   a   f ul l y   c o nn e c t e s t ruc t u r e   w h e r e   e a c n o de   i s   c o n n e c t e t o   e v e r y   o t h e r   n o de s   of   n e xt   l a y e r   v i a   w e i ght e c o n n e c t i o n s .   T h e   M L P ’s   hi dde n   l a y e r s   pe r f o r m   a   n o n - l i n e a r   m a pp i n o f   t h e   i n pu t   l a y e r   t o   t h e   o ut pu t   l a y e r   [2] .   H y b r i M ul t i l a y e r e P e r c e pt r o n   (H M L P i s   a   t y pe   of   A N N   t h a t   i s   b a s e o n   t h e   po pul a M L P .     T h e   H M L P   e n ha n c e s   t h e   e xi s t i n M L P ’s   a b i l i t y   by   h a v i n g   t h e   i n pu t   l a y e r   di r e c t l y   c o n n e c t s   t o   t h e   o ut put   l a y e r   t hr o ug h   s o m e   w e i ght e c o n n e c t i o n s .   T h e   a ddi t i o n a l   w e i ght e c o n n e c t i o n s   o f   H M L P   e f fe c t i ve l y   fo r m   a   l i n e a r   m o de l   i n   pa ra l l e l   t o   t h e   n o n - l i n e a r   M L P   [3].   T h e   H M L P   h a d   b e e n   a ppl i e f o r   di ff e r e n t   a ppl i c a t i o n s ,   s uc h   a s   h e a rt   a n o m a l y   de t e c t i o n   us i ng  e l e c t r o c a r d i o gra m   ( E CG da t a   [4] ,   c l a s s i f i c a t i o n   o a c ut e   l e uke m i a   di s e a s e   [5]  a n d   f o r e c a s t i ng  o f   c a r   s pe e [6].   T h e   H M L P   h a a l s o   b e e n   i m p l e m e nt e o n   ha r dw a r e ,   t h e   m o s t   r e c e n t   ha r dw a r e   i m pl e m e n t a t i o o f   H M L P   w a s   o n   a   R a b b i t   Co r e   M o dul e   R CM 4100  m i c r o c o n t r o l l e [7] .   F i e l P r o g r a m m a b l e   G a t e   A rra y   (F P G A i s   a   r e c o n f i gura b l e   di gi t a l   l o gi c   de v i c e   t h a t   c a n   b e   us e fo r   i m p l e m e nt a t i o n   o v a r i o us   di gi t a l   s y s t e m s .   T h e   c o n c urr e n t   n a t u r e   o f   F P G A   pr o v i de s   e n gi n e e r s   a   s ui t a b l e   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   1 4 ,   N o .   2 M a y   201 9   :    949     9 56   950   pl a t f o r m   t o   de s i g n   a n i m p l e m e n t   a n y   c o n c urr e n t   di g i t a l   s y s t e m   s uc h   a s   t h e   M L P .   A   X i l i n Z y n F P G A - S o C   de v i c e   w a s   us e t o   i m pl e m e n t   a   M L P   f o r   ga s   c l a s s i f i c a t i o a pp l i c a t i o n   i n   a   W i r e l e s s   G a s   S e n s o N e t w o r k   s y s t e m   [1]  a n d   f o r   a rrh y t hm i a   de t e c t i o n   f r o m   e l e c t r o c a r d i o gr a m   (E CG s i g n a l s   [2].   T h e   D E 2 - 70  F P G A   bo a r d ,   w i t a A l t e ra   Cy c l o n e   II  F P G A   de v i c e   o n   b o a rd,   w a s   t h e   pl a t f o r m   o f   c h o i c e   t o   c o m pa r e   t h e   pe r f o r m a n c e   of   a n   M L P   i m pl e m e n t e o n   ha r dw a r e - b a s e F P G A   a n a   s a m e   M L P   i m p l e m e n t e o n   N i o s II  s of t c o r e   pr o c e s s o r   o n   F P G A .   T h e   c o m pa ri s o n   r e s ul t   i n d i c a t e t ha t   M L P   i m pl e m e nt e di r e c t l y   o n   F P G A   ha r dw a r e   e xe c ut e s   s i gni f i c a nt l y   f a s t e r   t ha n   M L P   w hi c i m p l e m e n t e o n   N i o s II  b ut   a t   t h e   e xpe n s e   o f   gr e a t e r   r e s o ur c e   ut i l i s a t i o n   [8].   B a s e o n   e xi s t i n w o r ks   o n   i m p l e m e n t a t i o n   o M L P   o n   F P G A ,   t h e   pr o s pe c t   o us i n t h e   F P G A   a s   a   pl a t f o r m   t o   i m p l e m e nt   t h e   H M L P   s e e m s   ve r y   pr o m i s i n g.   F r o m   p r e v i o us   l i t e r a t u r e ,   n o   e xi s t i n g   w o r o i m p l e m e nt i ng  H M L P   di r e c t l y   o n   F P G A   w a s   r e po r t e [9 ].   T hi s   p a pe i s   a   c o nt i n u a t i o o f   w o r ks   r e po rt e i [9]  a n p r o po s e s   a n   F P G A - b a s e a r c h i t e c t ur e   f o r   i m pl e m e n t i n g   t h e   H M L P   o n   a F P G A .   T h e   Int r o duc t i o n   s h o ul p r o v i de   a   c l e a r   b a c kgr o u n d ,   a   c l e a s t a t e m e n t   o f   t h e   pr o b l e m ,   t h e   r e l e v a nt   l i t e r a t u r e   o n   t h e   s ub j e c t ,   t h e   p r o po s e a p pr o a c h   o r   s o l ut i o n ,   a nd  t h e   n e w   v a l ue   of   r e s e a r c h   w hi c h   i t   i s   i nn o v a t i o n .   I t   s h o ul b e   un de r s t a n d a b l e   t o   c o l l e a gue s   fr o m   a   b r o a r a n ge   o s c i e n t i f i c   di s c i pl i n e s .   O r g a n i z a t i o n   a nd  c i t a t i o n   o f   t h e   b i b l i o gra p h y   a r e   m a de   i n   V a n c o uv e r   s t y l e   i n   s i g n   [1 ],   [ 2]  a n d   s o   o n .     T h e   t e rm s   i n   f o r e i g n   l a n gu a ge s   a r e   w r i t t e n   i t a l i c   (i t a l i c ).   T h e   t e xt   s h o ul b e   di v i de i nt o   s e c t i o n s ,   e a c h   w i t h   a   s e pa ra t e   h e a d i n a n d   n u m b e r e c o n s e c ut i v e l y .   T h e   s e c t i o n / s ub s e c t i o n   h e a di ngs   s h o ul b e   t y pe o n   a   s e pa r a t e   l i n e ,   e . g . ,   1 .   I n t r o duc t i o n   [3].   A u t h o r s   a r e   s ugge s t e t o   pr e s e nt   t h e i r   a rt i c l e s   i n   t h e   s e c t i o n   s t r uc t u r e :   Int r o duc t i o n   -   t h e   c o m pr e h e n s i v e   t h e o r e t i c a l   b a s i s   a n d / o r   t h e   P r o po s e d   M e t h o d/ A l go ri t hm   -   R e s e a r c h   M e t h o -   R e s ul t s   a n d   D i s c us s i o   Co n c l us i o n .     L i t e ra t u r e   r e v i e w   t h a t   h a s   b e e n   do n e   a ut h o r   us e i t h e   c h a pt e r   " I nt r o duc t i o n "   t o   e xpl a i t h e   di f fe r e n c e   o f   t h e   m a n us c r i p t   w i t h   o t h e r   pa pe r s ,   t ha t   i t   i s   i nn o v a t i v e ,   i t   a r e   us e i n   t h e   c ha pt e r   " R e s e a r c M e t h o d"   t o   de s c r i b e   t h e   s t e o f   r e s e a r c h   a n us e i n   t h e   c ha pt e r   " R e s ul t s   a n D i s c u s s i o n "   t o   s uppo r t   t h e   a n a l y s i s   of   t h e   r e s ul t s   [2] .   If   t h e   m a nus c r i pt   w a s   w r i t t e n   r e a l l y   h a v e   h i g h   o ri gi na l i t y ,   w h i c h   p r o po s e a   n e w   m e t h o o r   a l go ri t hm ,   t h e   a dd i t i o n a l   c h a pt e r   a f t e r   t h e   " I nt r o duc t i o n "   c h a pt e r   a n b e fo r e   t h e   " R e s e a r c h   M e t h o d"   c h a p t e c a b e   a dde t o   e xpl a i n   b r i e f l y   t h e   t h e o r y   a n d / o t h e   p r o po s e m e t h o d/ a l go r i t hm   [ 4].       2.   H Y B R I D   M U LTI LA Y ER ED   P ER C EP TR O N   N EU R A L   N ETWO R K   F i gu r e   i l l us t ra t e s   t h e   s t ruc t u r e   o f   t h e   H M L P   [3].   T h e   H M L P   c o n s i s t   o f   l a y e r s ,   o n e   i n p ut   l a y e r ,   o n e   h i d de n   l a y e r   a nd  o n e   o ut pu t   l a y e r .   B e i n b a s e o n   t h e   M L P ,   t h e   s t r uc t u r e   o f   H M L P   gr e a t l y   r e s e m b l e s   M L P ’s   s t r uc t u r e   w i t h   a ddi t i o o f   s e v e r a l   w e i ght e c o nn e c t i o n   f r o m   t h e   i nput   l a y e r   di r e c t l y   t o   t h e   o ut put   l a y e r .   H M L P ’s   a ddi t i o na l   w e i gh t e d   l i nks   i s   s h o w n   a s   da s h e l i n e s   i F i gu r e   1 .           F i gu r e   1 .   S t ruc t u r e   o f   H M L P   c o m pa r e t o   M L P   s t r uc t u r e   [3]       B a s e o n   t h e   s t r uc t u r e   o f   H M L P ,   t h e   o ut put   e qua t i o n   o f   a   H M L P ’s   k - t h   o ut pu t   n e u r o n ,   ŷk ,   w i t h   hi dde n   l a y e r   i s   g i v e n   a s   ( 1).       ̂              (                                )                                                  f o r                 (1)   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       F P G A - bas e ar c hi t e c t ur e   o f   h y br i d   m u l t i l a y e r e p e r c e pt r on   ne ur al   ne t w or k   ( L e e   Y e e   A nn )   951   w h e r e   n i n h   a nd  n o   a r e   t h e   num b e r   o f   i n p ut   n o de s ,   h i dde n o de s   a nd  o ut put   n o de s   o f   t h e   H M L P ,   r e s pe c t i ve l y ;   w 1 ij w 2 jk   a n w ik   a r e   t h e   w e i gh t s   f r o m   i nput   l a y e r   t o   h i d de n   l a y e r ,   t h e   w e i gh t s   f r o m   hi dde n   l a y e r   t o   o ut put   l a y e r ,   a n d   t h e   w e i gh t s   o f   a ddi t i o na l   c o nn e c t i o n   f r o m   i n pu t   l a y e r   t o   o ut put   l a y e r ,   r e s pe c t i v e l y ;   b 1 j   a n b 2 k   a r e   b i a s   i n put   t o   t h e   j - t h   hi dde n   n o de   a n t h e   k - t h   o ut pu t   n o de ,   r e s pe c t i v e l y ;   a n v 0   i s   t h e   i n pu t   t o   t h e   i - t h   i nput   n o de s   of   t h e   H M L P .   F (·)  i s   t h e   a c t i v a t i o n   f un c t i o n   a t   t h e   h i dde n   n o de s .   In   t h i s   p a pe r,   t h e   a c t i v a t i o n   f u n c t i o i s   s e l e c t e a s   a   s i gm o i da l   f u n c t i o n   g i v e n   a s   (2 ).                         (2)     T h e   w e i gh t s   w 1 ij w 2 jk w ik ,   a nd  b i a s e s   b 1 j   a n b 2 k   a r e   u n k n o w n ,   a nd  s h o ul b e   s e l e c t e t o   m i n i m i s e   t h e   p r e di c t i o n   e rr o r.   S i m i l a t o   t h e   M L P ,   H M L P ’s   t o p o l o g y   m e a n s   t ha t   e a c h   n o de   o f   t h e   H M L P   pr o c e s s e s   i t s   r e s pe c t i v e   o ut put   w i t h o ut   i nt e ra c t i n g   w i t h   o t h e r   n o de s   o f   t h e   s a m e   l a y e r .   T h i s   m e a n s   t h a t ,   i o r de r   t o   h a rn e s s   t h e   i nh e r e nt   p a ra l l e l i s m   o f fe r e by   t h e   H M L P   o r   o t he r   n e u r a l   n e t w o r ks   w i t h   M L P - l i ke   s t ruc t u r e ,   i m p l e m e nt i ng  t h e   H M L P   o n   a   c o n c urr e nt   s y s t e m   s uc h   a s   t h e   F P G A   w i l l   b e   m o r e   f a vo ur a b l e   t ha n   r u nni n t h e   H M L P   o n   s e que nt i a l   s y s t e m   s uc a s   a   P C,   a   ge n e ra l   pu r po s e   m i c r o pr o c e s s o r   o a   m i c r o c o n t r o l l e r .         3.   D ES I G N   O F   F P G A - B A S ED   A R C H I T EC TU R O F   H M LP   T h e   a r c h i t e c t u r e   o f   t h e   p r o po s e H M L P   f o r   F P G A   i s   pl a nn e us i n g   t o p - do w n   a pp r o a c h   a n i s   h e a v i l y   b a s e o n   H M L P s   s t r uc t u r e   i F i gu r e   a n H M L P ’s   o ut put   (1) .   T h e   de v e l o pm e n t   o f   t h e   a r c h i t e c t ur e   fo r   t h e   H M L P   i s   do n e   v i a   bo t t o m - up  a pp r o a c h,   w h e r e by   t h e   l o w e s t - l e ve l   m o dul e s   a r e   de s c r i b e f i r s t .     N e xt   h i g h e r - l e v e l   m o dul e s   a r e   l a t e r   de s c ri b e l e v e l - by - l e v e l ,   u n t i l   f i na l l y   t h e   t o p - l e v e l   m o dul e   w h i c h   e n c o m pa s s e a l l   s ub m o dul e s   t ha t   m a ke   up  t h e   H M L P   i s   de s c ri b e d.     T h e   H M L P   i s   d e s i gn e t o   b e   m o dul a r   s uc h   t ha t   i f   m o di f i c a t i o n   t o   a   m o dul e   (s uc h   a s   a c t i v a t i o f un c t i o n   m o dul e i s   r e qu i r e d,   t h e   m o di f i c a t i o n   c a n   b e   p e r f o r m e o n   t h e   t a r ge t   m o dul e   w h i l e   r e t a i ni n a l l   o t h e r   m o dul e s   o t h e   w h o l e   s t r uc t u r e .   T h e   H M L P   a r c h i t e c t ur e   i s   de s i gn e w i t h   c o n c u rr e n c y   i n   m i n t o   ob s e r ve   t h e   i nh e r e n t   pa ra l l e l i s m   o a   H M L P .   T h e   a r c h i t e c t ur e   i s   de s i gn e s uc h   t ha t   t h e   h i d de n   n o de s   w i l l   e xe c ut e   m ul t i pl y - a dd  o pe r a t i o i p a r a l l e l   w i t o t h e h i dde n o de s .   W hi l e   hi dde n   n o de s   a r e   p r o c e s s i n t h e i o ut put s ,   t h e   o ut put   n o de s   w i l l   pe r f o r m   m u l t i pl y - a dd  o pe r a t i o n   o f   t h e   w e i gh t e i nput   l a y e r   t o   o ut put   l a y e r   c o n n e c t i o a t   t h e   s a m e   t i m e ,   a s   s h o w n   i F i gu r e   2.   T hi s   c o n c urr e nt   a r c hi t e c t u r e   r e duc e s   t h e   o ve r a l l   pr o c e s s i n t i m e ,   b ut   a t   t h e   e xpe n s e   o f   i n c r e a s e l o gi c   e l e m e nt   u t i l i z a t i o n.             F i gu r e   2 .   T i m e l i n e   o f   hm l p_f pga   e xe c ut i o s h o w i n t h e   s t a r t   s i g na l ,   hi d_ n o de   do n e   s i g n a l ,   o ut _ n o de   do n e   s i g n a l   a n d   r e l a t i v e   pr o c e s s i n g   t i m e   o f   hi d_ n o de   a n d   o ut _ n o de       3. 1 .     M o d u l e s   an d   S u b - M o d u l e s     F i gu r e   s h o w s   t h e   m o dul e s   w i t hi n   t h e   t o p - l e v e l   m o dul e   hm l p_f pga   t h a t   m a ke   up  t h e   H M L P   a r c hi t e c t u r e   f o r   F P G A   i m pl e m e n t a t i o n   a n a l l   m a j o r   i n t e rn a l   c o nn e c t i o n s .   T h e   m o du l e s   t ha t   m a ke   up   hi d_ n o de   a n d   o ut _ n o de   a r e   s h o w n   i F i gu r e   4 .     B a s e o n   H M L P s   s t r uc t u r e ,   t h e   hi dde n   a n o ut pu t   n o de s ,   r e pr e s e nt e by   t h e   m o dul e s   hi d_ n o de   a n o ut _n o de   r e s pe c t i v e l y ,   e xe c ut e   m o s t   a ri t hm e t i c   o pe r a t i o n s   of   t h e   H M L P .   Bo t h   hi d_ n o de   a n o ut _ n o de   m o dul e s   c o m pr i s e   o f   a   m ul t i p l y - a dd  m o dul e   a n d   a c t i v a t i o f un c t i o m o dul e .   A l l   n o de s   o f   a   gi v e n   l a y e r   a r e   c o nn e c t e t o   a dj a c e nt   l a y e r s   v i a   w e i gh t e c o nn e c t i o n s .     T h e s e   c o n n e c t i o n s   a r e   de s c r i b e i n   h i g h e r   l e v e l   m o dul e s ,   w hi c h   m a i n l y   o pe r a t e   a s   t o   r o ut e   t h e   i n pu t   s i g n a l s ,   w e i ght s ,   b i a s e s   a n d   o t h e i nt e rm e di a t e   s i g n a l s   t o   t h e   c o rr e c t   hi dde n   o o ut pu t   n o de .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   1 4 ,   N o .   2 M a y   201 9   :    949     9 56   952       F i gu r e   3 .   M o dul e s   w i t h i t o l e v e l   m o dul e   h m l p_f pga           F i gu r e   4 .   L o w e r - l e v e l   m o dul e s   w i t h i h i d _ n o de   a n d   o ut _ n o de         L ow - l e ve l   m o dul e s   h i d_ m a dd  a nd  o ut _m a dd  a r e   de s c ri b e d   t o   pe r f o r m   m ul t i p l i c a t i o n   o f   t h e   i n p ut   s i g n a l s   t o   i t s   r e s pe c t i v e   w e i gh t s   a n t h e n   t o   s um   t h e   i n p ut - w e i ght   p r o duc t s   a t   t h e   H M L P ’s   h i dde a n d   o ut put   n o de s ,   r e s pe c t i v e l y .   T h e s e   m o dul e s   w i l l   m ul t i pl y   i t s   i nput - w e i ght   p a i o n e - by - o n e   a n a c c um ul a t e   a l l   p r o duc t   of   t h e   m ul t i p l i c a t i o n.   M o dul e   o ut _m a d pe r f o r m   a l m o s t   s i m i l a r   o pe r a t i o n   t o   hi d_m a dd  b ut   w i t h   t h e   e xt r a   pr o c e s s i n o f   w e i gh t e c o nn e c t i o n   f r o m   i n pu t   l a y e r   t o   o ut put   l a y e r   o f   t h e   H M L P .   F l o a t i ng - po i n t   m ul t i p l i c a t i o n   IP   a nd  a dd i t i o n   IP   a r e   us e t o   i m pl e m e n t   t h e   m ul t i p l i c a t i o n   a n s um m a t i o n   o pe r a t i o n s .   A   s t a t e   m a c h i n e   c o n t r o l s   t h e   o v e r a l l   o pe r a t i o n   o f   t h e   h i d_ m a dd  a nd  o ut _m a dd  m o dul e s .   T h e   a c c um u l a t e v a l ue   i s   t h e p a s s e t o   n e xt   m o dul e   t ha t   a ppl i e s   t h e   a c t i v a t i o f un c t i o t o   t h e   a c c um u l a t e d   v a l ue .   T h e   s um m e v a l ue s   f r o m   h i d_m a dd  a n o ut _ m a d a r e   pa s s e t o   n e xt   m o dul e s ,   a f un c _s i g m o i a n d   a f un c _l i n e a r .   B o t h   a r e   t h e   m o dul e s   de s c r i b i n t h e   o pe r a t i o n   of   t h e   s i gm o i da l   a c t i v a t i o n   f u n c t i o n   a t   t h e   h i dde n o de s   a n t h e   l i n e a r   a c t i v a t i o n   f un c t i o n   a t   t h e   o ut put   n o de s   r e s pe c t i v e l y .   T h e s e   a c t i v a t i o n   f u n c t i o n   m o dul e s   a r e   de s c r i b e a s   s e pa ra t e   m o dul e   f r o m   t h e   m u l t i pl y - a dd  m o dul e s   be c a us e   i f   di ff e r e n t   a c t i v a t i o n   f u n c t i o n   i s   r e qui r e d ,   t h e   n e w   a c t i v a t i o n   f un c t i o n   c a n   b e   s w a ppe i n   w h i l e   a l l   o t h e r   m o dul e s   c a n   b e   r e t a i n e d .     In   a f un c _s i g m o i m o dul e ,   t h e   s i gm o i d a l   a c t i v a t i o n   f un c t i o n   i s   i m pl e m e n t e us i ng  f l o a t i n g - po i nt   IP s   f o r   e xpo n e n t ,   a ddi t i o a n d   i n v e r s i o n   o pe r a t i o n s   w i t h   a   s t a t e   m a c h i n e   t o   c o n t r o l   t h e   f l o w   of   da t a   t hr o ug t h e   a f un c _s i g m o i m o dul e   a nd  ge n e ra t e   n e c e s s a r y   c o n t r o l   s i g n a l s .   I a f u n c _l i n e a m o dul e ,   n o   a r i t h m e t i c   o pe r a t i o n   i s   pe r f o r m e d,   o nl y   a   s t a t e   m a c h i n e   i s   de s c r i b e t c o n t r o l   t h e   f l ow   of  da t a   t hr o ug h   t h e   a f un c _l i n e a Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       F P G A - bas e ar c hi t e c t ur e   o f   h y br i d   m u l t i l a y e r e p e r c e pt r on   ne ur al   ne t w or k   ( L e e   Y e e   A nn )   953   m o dul e   a n ge n e r a t e   n e c e s s a r y   c o n t r o l   s i g na l s .   T h e   a c t i v a t i o n   f un c t i o n ’s   o ut put   f r o m   a f un c _s i gm o i o r   a f un c _l i n e a r   m o dul e   w i l l   b e   t h e   o ut put   o f   i ndi v i dua l   hi d_ n o d e   o r   o ut _ n o de   m o dul e .     N e xt   hi g h e r - l e v e l   m o dul e   de s c r i b e t h e   H M L P s   h i dde n   no de   a n o ut put   n o de .   M o dul e   hi d_ n o de   e n c a ps ul a t e s   hi d_ m a dd  a n a f un c _s i g m o i m o dul e s   t ha t   pe r f o r m   t h e   o pe r a t i o n   o f   t h e   h i dde n   n o de s .   L i ke w i s e ,   o ut _n o de   m o dul e   e n c a ps ul a t e s   o ut _m a dd  a nd  a f u n c _l i n e a r   t ha t   pe r f o r m s   t h e   o pe r a t i o n   o f   o ut put   n o de s   o f   t h e   H M L P .   T h e   hi d_l a y e r   a n o ut _l a y e r   m o dul e s   r e pe t i t i v e l y   ge n e r a t e   t h e   hi d_ n o de   m o dul e   a n o ut _ n o de   m o dul e   t ha t   f o r m e d   t h e   H M L P ’s   h i d de l a y e r   a nd  o ut pu t   l a y e r ,   r e s pe c t i v e l y .   T o l e v e l   m o dul e   h m l p_f pga   c o n n e c t s   a l l   m o dul e s ,   i nput   s i g n a l s ,   o ut p ut   s i g n a l s   a nd  i nt e rm e di a t e   s i g n a l s   t o   i m pl e m e nt   t h e   H M L P   s t r uc t u r e   a s   i F i g u r e   1   o F P G A .     3. 2 .     F l o ati n P o i n N u m b e r   R e p r e s e n tat i o n   R e a l   n u m b e r s   r e p r e s e n t a t i o n   i s   c r uc i a l   a n d   o n   a n   F P G A ,   a l l   r e a l   n um b e r s   n e e t o   b e   de s c r i b e i b i n a r y .   In   t hi s   a r c h i t e c t ur e ,   f l o a t i n po i nt   n um b e r   r e p r e s e nt a t i o n   i s   u t i l i s e t o   r e duc e   de v e l o pm e n t   t i m e   i n s t e a o f   de s c r i b i n a   u n i q ue   n u m b e r   r e p r e s e n t a t i o n.   U s i n g   s t a n d a r di s e n u m b e r   r e p r e s e n t a t i o n ,   s uc h   a s   t h e   IE E E 754   s t a nda r d   [10]   t ha t   de f i n e   t h e   b i t   o r de ri n o f   32 - b i t   s i n g l e   p r e c i s i o n   f l o a t i ng - po i n t   num b e r s ,     a l l o w   fo r   b e t t e i nt e gra t i o w i t o t h e de v i c e s ,   a v o i po t e n t i a l   c o n f us i o w h e c o m m u n i c a t i ng  w i t di f f e r e n t   s y s t e m s ,   a n d   m a ke s   c us t o m   de s i g n s   m o r e   a d a pt a b l e   f o r   f ut u re   de ve l o pm e n t s .     A r i t hm e t i c   o pe r a t i o n s   o n   t h e   f l o a t i n g - po i n t   n u m b e r s   i s   d o n e   t hr o ug h   t h e   us e   o f   F l o a t i n g - P o i nt   A r i t hm e t i c   IP s   f r o m   A l t e r a   ( n o w   In t e l   F P G A t h a t   m e e t s   m o s t   o f   t h e   IE E E 754  s t a n d a r [11] .   T h e s e   f l o a t i n g - po i n t   a ri t hm e t i c   IP s   a r e   us e i t h e   hi d_m a dd ,   o ut _ m a dd   a nd  a f un c _s i g m o i m o dul e s   t o   pe r f o r m   o pe r a t i o n s   of   m ul t i p l i c a t i o n,   a dd i t i o n ,   e xpo n e n t ,   a n d   i n v e r s i o n .       4.   S I M U LA TI O N   T h e   a r c h i t e c t u r e   o f   t h e   H M L P   i s   de s c r i b e i n   V H D L   a n c o m pi l e o n   A l t e r a   Q u a rt us   II  v e r s i o 15. W e b   E di t i o n.   T h e   a r c h i t e c t u r e   i s   t h e n   s i m u l a t e us i n g   M o de l S i m   10 . 3d  s o f t w a r e .   A   V H D L   t e s t be n c t b _hm l p_f pga   i s   de s c r i b e t o   pr o v i de   t h e   n e c e s s a r y   s t i m ul i   t o   t h e   H M L P s   t o l e ve l   m o dul e   h m l p_f pga .     F o r   t h e   s i m u l a t i o n ,   i nput s   t o   hm l p_f pga   a r e   s e t   by   t b _h m l p_ f pga   a n t h e   o ut put s   o f   h m l p_f pga   a r e   o b s e r v e d   f r o m   t h e   s i m u l a t i o n   w a v e fo r m .   T h e   i nput s   a n w e i gh t s   da t a   fo r   hm l p _f pga ’s   s i m ul a t i o n   i s   ge n e r a t e us i ng  M A T L A B .   F i gu r e   s h o w s   t h e   M o de l S i m   s i m u l a t i o o ut p ut   o f   h m l p_f pga   f o r   n i   =   3 ,   n h   =   3,   a n d   n o   =   2 .     T h e   s t a r t   s i g na l ,   hi d_ l a y e r   do n e   a n d   f i na l   do n e   s i g na l   i s   po i nt e o ut   by   i t s   r e s pe c t i v e   c ur s o r .             F i gu r e   5 .   S i m u l a t i o w a v e fo r m   o f   t h e   de s i g n e d   H M L P   a r c h i t e c t ur e         T h e   s i m ul a t i o n   i s   r e pe a t e t hr e e   t i m e s   w i t h   di f f e r e n t   n i n h   a n n o   c o m b i n a t i o n s .   F o r   e a c h   n i n h   a n d   n o   c o m b i n a t i o n,   f i v e   di ff e r e n t   i nput   d a t a s e t s   a r e   r a n do m l y   ge n e ra t e us i ng  M A T L A B   a n c o de i n t o   t h e   s i m ul a t i o n   t e s t b e n c h   t b _ h m l p_f pga .   S i m ul a t i o n   o ut put   i s   c o m pa r e t o   t h e   r e s ul t   c o m pu t e by   M A T L A B .     T h e   s i m ul a t i o n   s h o w s   t h a t   hm l p _f pga   p r o duc e s i m i l a o ut put s   t o   M A T L A B   r e s ul t s .   S o m e   de v i a t i o n   b e t w e e n   s i m ul a t i o n   o ut put   a n M A T L A B   r e s ul t   do   e xi s t ,   b ut   t h e   di f fe r e n c e   i s   ve r y   s m a l l   a n c a n   be   c o n s i de r e t o   b e   n e gl i g i b l e .         Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   1 4 ,   N o .   2 M a y   201 9   :    949     9 56   954   5.   I M P LEM EN TA TI O N   O N   F P G A   A f t e r   t h e   s i m u l a t i o s t a ge ,   t h e   de s i g n e H M L P   a r c hi t e c t u re   i s   t h e n   c o m pi l e f o r   t h e   t a rge t   F P G A   de ve l o pm e n t   b o a r d.   A l l   c o m pi l a t i o n,   n e t l i s t   ge n e r a t i o n,   pl a c e   a n r o ut e ,   a n ge n e ra t i o n   o f   c o n f i gura t i o b i t s t r e a m   a r e   do n e   us i n Q ua rt us   II.   F o r   t h e   purpo s e   o t e s t i ng  t h e   H M L P   a r c h i t e c t u r e   o n   t h e   F P G A ,     a   s y n t h e s i s a b l e   t e s t b e n c h   i s   de s c r i b e t o   a s s i g n   t h e   i nput s   a n w e i ght s   d a t a   t o   t h e   H M L P   a n d i s pl a y   t h e   o ut put   d a t a   i n   hum a r e a d a b l e   f o r m .       5. 1 .     F P G A   D e v i c e / D e v e l o p m e n D o ar d     T h e   t a r ge t   F P G A   de v e l o pm e n t   b o a r f o r   t e s t i n t h e   H M L P   a r c h i t e c t ur e   i s   t h e   D E 1 - S o f r o m   T e ra s i c .   T h e   D E 1 - S o ha s   a n   A l t e ra   5 CS E M A 5F 31C F P G A   c h i p   a s   t h e   m a i F P G A   de v i c e   a n o t h e r   n e c e s s a r y   c i r c ui t r i e s   f o r   t h e   Cy c l o n e   V   F P G A - S o t o   f un c t i o n .   D E 1 - S o i s   a l s o   e qui ppe w i t h   v a r i o us   i n put / o ut put   c o m po n e nt s   a n d   de v i c e s   f o r   us e r s   t o   e xpl o r e   t h e   F P G A - S o [12].   T h e   o n - b o a r s l i de   s w i t c h e s ,   pus h - b ut t o n   s w i t c h e s ,   L E D s ,   7 - s e gm e n t   di s pl a y s   a n c l o c ge n e r a t o a r e   us e t o   t e s t   t h e   de s i g n e H M L P   a r c h i t e c t u r e .   T h e   s y n t h e s i s a b l e   t e s t be n c h   t a ke s   us e r   i n pu t s   f r o m   t h e   s w i t c h e s   a n pus h b ut t o n s ,   a s s i g n s   t h e   H M L P ’s   t e s t   i n put s   a n w e i ght s   t o   t h e   h m l p_f pga   m o dul e ,   a nd  l a s t l y   di s pl a y s   t h e   H M L P   o ut put s   f r o m   hm l p _f pga   m o dul e   a c c o r di n g l y   o n   t h e   7 - s e gm e nt   d i s pl a y s   a n d   L E D s .     5. 2 .     C o m p i l ati o n   R e p o r t   A   f ul l   c o m pi l a t i o n   r e po r t   o f   t h e   h m l p_f pga   m o dul e   a n t h e   s y n t h e s i s a b l e   t e s t be n c h   f o r   t h e   Cy c l o n e   V   F P G A   i s   s h o w n   by   A l t e ra   Q ua rt us   I a f t e r   s uc c e s s f ul   c o m pi l a t i o n .   U s e f ul   de t a i l s   s uc h   a s   t h e   t a rge t   F P G A ’s   r e s o ur c e   ut i l i s a t i o n   c a n   b e   e xt r a c t e f r o m   t h e   c o m pi l a t i o n   r e po rt .   O v e r a l l ,   r e s o ur c e   ut i l i s a t i o n s   o f   t h e   de s i gn e H M L P   a r c h i t e c t ur e   i n c l ud i n g   t h e   s y n t h e s i s a b l e   t e s t b e n c h   a r e   s h o w n   i T a b l e   1.         T a b l e   1 .   Cy c l o n e V   S E   R e s o ur c e   U t i l i s a t i o t a ke n   f r o m   Q u a rt us   II   Co m pi l a t i o n   R e po r t     H M L P   s t ru c t u r e   A L M   T o t a l   re g i s t e r   T o t a l   b l o c k   m e m o r y   b i t s   T o t a l   D S P   b l o c k   H M L P   C o m p u t e   t i m e   n i   =   3   n h   =   3   n o   =   2   5 5 3 4   /   3 2 0 7 0   (1 7 % )   8576   2 9 6 4   /   4 0 6 5 2 8 0   (0 % )   5 3   /   8 7   (6 1 % )   1 1 5   c l o c k   c y c l e s   (2 . 3   µ s   o n   5 0   M H z   c l o c k )   n i   =   8   n h   =   3   n o   =   2   5 6 6 1   /   3 2 0 7 0   (1 7 % )   8683   2 9 6 4   /   4 0 6 5 2 8 0   (0 % )   5 3   /   8 7   (6 1 % )   150  c l o c k   c y c l e s   (3 . 0   µ s   o n   5 0   M H z   c l o c k )   n i   =   3   n h   =   4   n o   =   2   7 1 3 7   /   3 2 0 7 0   (2 2 % )   1 1 0 5 3   3 9 2 8   /   4 0 6 5 2 8 0   (0 % )   7 0   /   8 7   (8 0 % )   1 5 7   c l o c k   c y c l e s   (3 . 1 4   µs   o n   5 0   M H z   c l o c k )   n i   =   8   n h   =   3   n o   =   3   5 5 8 8   /   3 2 0 7 0   (1 7 % )   8585   2 9 6 4   /   4 0 6 5 2 8 0   (0 % )   5 3   /   8 7   (6 1 % )   1 5 0   c l o c k   c y c l e s   (3 . 0   µ s   o n   5 0   M H z   c l o c k )       F o r   a   H M L P   w i t g r e a t e r   n i n h   o r   n o ,   i t ’s   F P G A   r e s o ur c e   ut i l i s a t i o n   w i l l   b e   g r e a t e r .   G r e a t e r   n i   w i l l   a dd  t o   c o m put e   t i m e   b ut   h a s   m i ni m a l   i m p a c t   o n   r e s o ur c e   ut i l i s a t i o n ;   i n c r e a s i n n h   w i l l   a dd  c o m put e   t i m e   a n us e s   m o r e   r e s o u r c e ;   w h e r e a s   i n c r e a s i ng  n o   ha s   n o   i m pa c t   o c o m put e   t i m e   b ut   i n c r e a s e s   r e s o ur c e   us a ge .     T h e   A L M   s t a n d   f o r   A da p t i v e   L o gi c   M o dul e   i n   A l t e ra   F P G A s   [13].   I n   t h i s   de s i g n ,   m o s t   o f   t h e   F P G A   r e s o ur c e s   i s   us e up  b y   t h e   A l t e ra ’s   F l o a t i n g - P o i n t   IP s ,   e s pe c i a l l y   t h e   I P s   f o r   e xpo n e nt   a nd  i n v e r s i o o pe r a t i o n   t o   c o m put e   t h e   a f un c _s i g m o i s i gm o i a c t i v a t i o f un c t i o n   m o dul e   a t   t h e   hi dde n   n o de s .   T h i s   i s   pr o v e n   by   t h e   s i g n i f i c a nt   i n c r e m e nt   o f   r e s o ur c e   ut i l i s a t i o w h e n   n h   i s   i n c r e a s e f r o m   t o   a s   i T a b l e   1 .       5. 2 .     F P G A   I m p l e m e n tati o n   O u tc o m e   F r o m   t h e   s i m ul a t i o n   a n F P G A   i m p l e m e n t a t i o n   o ut c o m e s ,   t h e   t i m e   n e e de fo r   t h e   H M L P   a r c hi t e c t u r e   t o   c o m put e   i t s   o ut put   v a l ue ,   i t e r m   o f   n u m b e r   o f   c l oc c y c l e s ,   i s   de t e r m i n e by   (3).       h m l p _f pga   o ut put   l a t e n c y                            (4)     B a s e o n   (3),   t h e   a f un c _ l i n e a r   m o dul e   t a ke s   c l o c c y c l e s   t o   pr o duc e   s t a b l e   r e s ul t   a t   i t s   o ut pu t   po rt .   69  c l o c c y c l e s   a r e   t h e   du ra t i o n   n e e de by   a f un c _s i gm o i m o dul e   t o   f i n i s h   i t s   o pe r a t i o a n d   p r o duc e   s t a b l e   r e s ul t   o n   i t s   o ut put   po r t .   7 n i   a n 7 n h   a r e   t h e   o ut put   l a t e n c y   of   t h e   h i d_m a dd  a nd  o ut _m a dd  m o dul e s   r e s pe c t i v e l y .   T h e   o ut put   l a t e n c y   of   t h e s e   m ul t i p l y - a dd  m o dul e s   v a r i e s   de pe n d i n o n   n i   a nd  n h   b e c a us e   m ul t i p l y - a dd  i s   a   s e que n t i a l   o pe r a t i o n,   t h us   i n c r e a s i n g   n i   o n h   w i l l   a dd  t o   t h e   o ve r a l l   o ut put   l a t e n c y   of   t h e   hm l p _f pga   m o dul e .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       F P G A - bas e ar c hi t e c t ur e   o f   h y br i d   m u l t i l a y e r e p e r c e pt r on   ne ur al   ne t w or k   ( L e e   Y e e   A nn )   955   F o r   a   H M L P   w i t n i   =   3 ,   n h   =   3 ,   n o   =   2,   a nd  s y s t e m   c l oc of   50  M H z ,   t h e   t i m e   n e e de f o r   t h e   H M L P   c o m put e   i t s   o ut pu t   i s   2 . 3   μ s   (115   c l o c c y c l e s ).   T h e   c o n c urr e nt   s t r uc t u r e   of   t h e   H M L P   a l l o w   f o r   a l l   n o d e s   t o   pr o c e s s   i t s   o ut put   c o n c urr e nt l y ,     t h us   r e duc i n t h e   o ve r a l l   p r o c e s s i n t i m e .   T h e   p r o c e s s i n t i m e   fo r   m u l t i pl y - a c c um ul a t e   o pe r a t i o n   pe r f o r m e by   t h e   hi d_ m a d a nd  o ut _ m a dd   m o dul e s   i s   g r e a t l y   a ffe c t e by   t h e   n u m b e r   o f   i nput   t o   t h e   r e s pe c t i v e   m o dul e .   T h i s   i s   b e c a us e   m ul t i pl y - a dd  o pe r a t i o n   i s   a   s e que nt i a l   o pe ra t i o n .   M o r e   i n pu t s   h i d_ m a dd  a nd  o ut _m a dd  ha v e ,   i t s   p r o c e s s i n t i m e   w i l l   b e   gr e a t e r.   T o   r e duc e   t h e   p r o c e s s i n t i m e   o f   h i d_ m a d a nd  o ut _m a dd  m o dul e s ,     t h e   m ul t i p l y   o pe r a t i o n   a n a dd  o pe r a t i o n   i s   pi pe l i n e d ,   s uc t ha t   t h e s e   m o dul e s   c a n   c a l c ul a t e   t h e   pr o duc t   o n e xt   i nput - w e i g h t   pa i r   w hi l e   a dd i n g   a n d   a c c um ul a t i ng  p r e v i o us   m u l t i pl i c a t i o n   p r o duc t   a s   s h o w n   i F i gu r e   2.   A s   i t h e   s i m ul a t i o n,   t h e   c o m pi l a t i o n   a n F P G A   i m p l e m e nt a t i o n   o f   t h e   de s i g n e H M L P   a r c h i t e c t u r e   i s   r e pe a t e t hr e e   t i m e s   w i t h   di f f e r e n t   n i n h   a n n o   c o m b i n a t i o n s .   F o r   e a c h   n i n h   a n n o   c o m b i n a t i o n ,     f i ve   di ffe r e n t   i nput   d a t a s e t s   a r e   us e d.   T h e   da t a s e t s   us e fo r   F P G A   i m pl e m e nt a t i o n   a r e   t h e   s a m e   da t a s e t   us e fo r   s i m ul a t i o n.   T h e   o ut c o m e   of  t h e   de s i gn e H M L P   a r c h i t e c t ur e   o n   F P G A   i s   c o m pa r e w i t h   t h e   s i m ul a t i o r e s ul t .   T h e   o ut p ut   v a l ue   f r o m   t h e   F P G A   i m p l e m e n t a t i o n   i s   f ound  t o   b e   t h e   s a m e   a s   i t s   s i m u l a t i o r e s ul t .       6.   C O N C LU S I O N   T h i s   p a pe r   ha de s c r i b e t h e   de v e l o pm e n t   o f   a r c h i t e c t ur e   o f   H M L P   n e ur a l   n e t w o r f o r   i m p l e m e nt a t i o n   o n   C y c l o n e   V   F P G A .   T h e   H M L P   a r c hi t e c t u r e   i s   de s i gn e t o   be   c o n c urr e nt   a n m o dul a r .     T h e   pr o po s e a r c h i t e c t ur e   i s   c o m pi l e us i n A l t e ra   Q ua r t us   II  a n s i m ul a t e o n   M o de l S i m .   T h e   s i m ul a t i o r e v e a l s   t h a t   t h e   p r o po s e H M L P   a r c h i t e c t u r e   i s   a b l e   t o   p r o duc e   de s i r e r e s ul t .   N e xt ,   H M L P   i s   i m pl e m e n t e o n   t h e   Cy c l o n e   V   F P G A   de v i c e   o n   bo a r D E 1 - S o de v e l o pm e n t   a n e duc a t i o n   ki t .   T h e   F P G A   p r o duc e d   s a m e   o ut pu t s   a s   c o m pa r e t o   t h e   s i m ul a t i o a nd  M A T L A B .       A C K N O WL ED G E M EN TS     A ppr e c i a t i o n s   a r e   e xt e n de fo r   t h e   f i na n c i a l   s uppo r t   f r o m   t h e   M i n i s t r y   o E duc a t i o n,   M a l a y s i a   t hr o ugh  t h e   M y B r a i n 1 s c h e m e ,   a n d   t h e   t o o l s ,   e qui p m e nt   a nd  e xpe rt i s e   a t   U n i v e r s i t i   M a l a y s i a   P e r l i s .         R EF ER EN C ES     [ 1]   X .   Z ha i ,   A .   A .   S .   A l i ,   A .   A m i r a ,   a nd  F .   B e n s a a l i ,   M L P   N e ur a l   N e t w o r B a s e G a s   C l a s s i f i c a t i o S y s t e m   o Z y nq   S o C ,   I E E E   A c c e s s ,   v o l .   4 ,   pp .   8138 814 6,   20 16.   [ 2]   M .   W e s s ,   P .   D .   S .   M a no j ,   a nd  A .   J a n t s c h,   N e ur a l   ne t w o r ba s e E C G   a no m a l y   de t e c t i o o F P G A   a nd  t r a de - o f f   a na l y s i s ,   i P r oc e e di ng s   -   I E E E   I nt e r n at i on al   Sy m pos i um   on   C i r c ui t s   and   Sy s t e m s ,   2017 .   [ 3]   M .   Y .   M a s ho r ,   H y br i d   m ul t i l a y e r e d   pe r c e pt r o n e t w o r k s ,   I n t .   J .   S y s t .   Sc i . ,   v o l .   3 1,   no .   6,   p p.   77 1 78 5,   20 00.   [ 4]   J .   A dna n ,   K .   A .   A hm a d,   M .   H .   M a t ,   Z .   I .   R i z m a n ,   a nd  S .   A hm a d ,   C a r d i a c   a b no r m a l i t y   pr e d i c t i o u s i ng   H M L P   ne t w o r k ,   i A I P   C on f e r e nc e   P r oc e e di ngs , 2 018 ,   v o l .   19 30.   [ 5]   N .   H .   H a r un ,   M .   K .   O s m a n,   M .   Y .   M a s ho r ,   a n R .   H a s s a n,   C l a s s i f i c a t i o o f   a c ut e   l ue ke m i a   us i ng   H M L P   ne t w o r k   t r a i n e d   by   g e ne t i c   a l g o r i t hm ,   A d v .   Sc i .   L e t t . ,   v o l .   2 3,   no .   4 ,   p p.   26 4 8 265 2,   20 17.   [ 6]   Z .   S a a d,   M .   Y .   M a s ho r ,   a nd  W .   K h a i r un i z a m ,   F o r m a t i o o f   m o m e nt um   a nd  l e a r ni ng   r a t e   pr o f i l e   f o r   o nl i n e   t r a i n i ng   a nd  t e s t i ng   o f   H M L P   w i t A L R P E ,   i L e c t ur e   N o t e s   i C om put e r   S c i e nc e   ( i nc l u di n s u bs e r i e s   L e c t ur e   N ot e s   i n   A r t i f i c i al   I nt e l l i ge nc e   and   L e c t ur e   N o t e s   i n   B i oi nf o r m a t i c s ) ,   2015 ,   v o l .   94 90,   p p.   26 8 27 5.   [ 7]   S .   M .   S ha r un ,   M .   Y .   M a s ho r ,   S .   Y a a c o b,   A .   Z u l   A z f a r ,   a nd   N .   H a m z a h ,   D e v e l o pm e nt   o f   A t t i t ud e   C o nt r o l   S i m ul a t o r   f o r   I nn o S A T   S a t e l l i t e   S y s t e m ,   i T he   2nd  I n t e r na t i o na l   M a l a y s i a - I r e l a nd  J o i n t   Sy m p os i um   on   E ngi ne e r i n g,   S c i e nc e   a nd  B us i ne s s   20 12  ( I M i E J S201 2) ,   2012 ,   pp .   2 25 23 4.   [ 8]   B .   M o ha m e d ,   A .   I s s a m ,   A .   M o ha m e d,   a nd  B .   A bde l l a t i f ,   C o m pa r i s o of   ha r dw a r e   a nd  N I O S   I I   ba s e s o f t w a r e   i m pl e m e n t a t i o o f   M L P   o t h e   F P G A   p l a t e f o r m ,   J .   T he or .   A p pl .   I nf .   T e c hn ol . ,   v o l .   72 ,   no .   3 ,   pp .   376 384 ,   2015 .   [ 9]   L .   Y .   A nn,   P .   E hka n ,   a n M .   Y .   M a s ho r ,   P o s s i b i l i t y   of   h y br i m ul t i l a y e r e pe r c e p t r o ne ur a l   ne t w o r r e a l i s a t i o o F P G A   a nd  i t s   c ha l l e ng e s ,   i L e c t u r e   N ot e s   i E l e c t r i c al   E n gi ne e r i ng ,   2 016 ,   v o l .   362 ,   pp .   1051 10 61.   [ 10]   I E E E ,   I E E E   S t a nd a r f o r   F l o a t i ng - P o i nt   A r i t hm e t i c , ”  I E E E   S t 75 4 - 20 08 ,   p p.   1 70,   A ug .   200 8.   [ 11]   A l t e r a ,   F l oat i ng - P oi n t   I P   C or e s   U s e r   G ui de .   20 16 .   [ 12]   T e r a s i c ,   D E 1 - SoC   U s e r   M anua l .   T e r a s i c   T e c hno l o g i e s ,   20 16.   [ 13]   I nt e l   F P G A ,   C y c l one   V   D e v i c e   H andb ook   V o l um e   1 :   D e v i c e   I nt e r f a c e s   an I nt e g r at i on .   201 8.                   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   1 4 ,   N o .   2 M a y   201 9   :    949     9 56   956   B I O G R A P H I ES   O F   A U T H O R S           L e e   Y e e   A nn  i s   a   P h. D   c a ndi da t e   a t   S c ho o l   o f   C o m put e r   a nd   C o m m uni c a t i o E ng i ne e r i ng ,   U ni v e r s i t i   M a l a y s i a   P e r l i s   ( U n i M A P ) ,   M a l a y s i a .   H e   o bt a i ne d   D i p l o m a   i C o m put e r   E ng i ne e r i ng   ( 2010 )   a nd  B . E ng   i C o m put e r   N e t w o r E ng i n e e r i ng   ( 2013 ) ,   bo t h   f r o m   U ni M A P .   H i s   f i e l o f   r e s e a r c i nc l ud e s   D i g i t a l   D e s i g n,   F P G A ,   a nd   E m be dde S y s t e m .   H e   i s   g r a d ua t e   m e m be r   o f   B o a r d   o f   E ng i ne e r s   M a l a y s i a   ( B E M ) .           P ha k l e E hka r e c e i v e t he   B E ng   E l e c t r i c a l - E l e c t r o ni c   E ng i n e e r i ng   ( U T M ) ,   M S c .   I T   ( U U M )   a nd   P h . D   i n   C o m put e r   E ng i ne e r i ng   ( U n i M A P   -   U ni v e r s i t y   of   B i r m i ng ha m ,   U K ) .     H e   w o r ke a s   a E ng i ne e r / S r .   E ng i ne e r   i M N C -   E l e c t r o ni c   I ndu s t r i e s   f o r   s i y e a r s   b e f o r e   j o i ne t he   U ni v e r s i t y   M a l a y s i a   P e r l i s   a s   a   l e c t ur e r   i 2 003 .   C ur r e nt l y ,   he   i s   a A s s o c i a t e   P r o f e s s o r   a t t a c he t o   S c hoo l   of   C o m put e r   a n C o m m uni c a t i o E ng i ne e r i ng ,   U ni M A P .     H i s   r e s e a r c i nt e r e s t s   i nc l ude   R e c o nf i g ur a bl e   C o m put i ng   a nd  F P G A ,   D i g i t a l   D e s i g a nd   E m be dde S y s t e m ,   D i g i t a l   a nd   I m a g e   P r o c e s s i ng ,   S y s t e m   o C hi ( S o C ) ,   S m a r t   S y s t e m   a n d   I o T .   H e   ha s   pub l i s h e o v e r   80  a r t i c l e s   i I nt e r n a t i o na l   J o ur n a l s   a nd  S c o pus   i nde x e d   P r o c e e di ng s .   D r .   P ha k l e E hka i s   c ur r e nt l y   a   C ha r t e r e E ng i ne e r   ( U K ) ,   P r o f e s s i o na l   T e c hno l o g i s t   ( M B O T ) ,   g r a du a t e   m e m be r   o f   B E M ,   m e m be r   o f   I E E E ,   B C S   a nd   I A C S I T .             M o hd  Y us o f f   M a s ho r   i s   a   P r o f e s s o r   a t   U n i v e r s i t i   M a l a y s i a   P e r l i s   i t h e   S c hoo l   of   M e c ha t r o ni c   E ng i n e e r i ng .   H i s   m a i r e s e a r c f i e l d s   a r e   a r t i f i c i a l   i nt e l l i g e nc e ,   c o nt r o l   s y s t e m s   a nd  i m a g e   p r o c e s s i ng .   H i s   r e s e a r c he s   a r e   m o s t l y   a ppl i e d   t o   m e di c a l   di a g no s t i c   s y s t e m s   a nd   s a t e l l i t e   c o nt r o l   s y s t e m s ,   w he r e   a r t i f i c i a l   i nt e l l i g e nc e   a r e   i nt e ns i v e l y   ut i l i s e d .   H e   o bt a i n e hi s   ba c he l o r   d e g r e e   ( i 1 990 )   f r o m   W e s t m i ns t e r   U n i v e r s i t y ,   U K   i C o nt r o l   a nd  C o m pu t e r   E ng i ne e r i ng ,   M . S c   ( i 1 991 )   f r o m   S he f f i e l U n i v e r s i t y ,   U K   i n   C o nt r o l   a n I nf o r m a t i o n   T e c hno l o gy ,   a nd  P h. D   ( i 199 5)   f r o m   S he f f i e l U n i v e r s i t y   i A r t i f i c i a l   I nt e l l i g e nc e .   H e   h a s   s e r v e a s   a   l e c t u r e r   i n   C o nt r o l   S y s t e m s   a nd   E l e c t r o ni c s   f o r   m o r e   t h a 20   y e a r s .   H e   s t a r t e h i s   c a r e e r   a s   a   l e c t u r e r   a t   U n i v e r s i t i   S a i ns   M a l a y s i a   a n c ur r e n t l y   s e r v e s   U n i v e r s i t i   M a l a y s i a   P e r l i s .           S i t i   M a r y a m   S ha r un  r e c e i v e B . S c   i E l e c t r i c a l   &   E l e c t r o ni c s   E ng i ne e r i ng   ( 19 97)   a nd  M .   E duc a t i o ( 199 9)   f r o m   U ni v e r s i t i   T e kno l o g i   M a l a y s i a ,   a n P h . D   i n   M e c ha t r o ni c   E ng i ne e r i ng   ( 201 3)   f r o m   U ni M A P .   H e r   f i e l o f   s pe c i a l i s a t i o a r e   C o nt r o l   S y s t e m ,   A r t i f i c i a l   I nt e l l i g e nc e ,   a nd  C o m put e r   T e c hno l o gy .   D r .   S i t i   M a r y a m   S ha r u w a s   a   l e c t u r e r   a t   P o l i t e kn i S h a A l a m ,   a   s e n i o r   l e c t u r e r   a t   P o l i t e kn i S u l t a A bdul   H a l i m   M u a dz a m   S h a h ,   a nd  i s   c ur r e nt l y   a   S e ni o r   L e c t ur e r   a t   F a c u l t y   of   I n ov a t i v e   D e s i g &   T e c hno l o gy ,   U ni v e r s i t i   S ul t a Z a i na l   A bi di n   ( U N I S Z A ) ,   M a l a y s i a .   S he   i s   a   m e m be r   o f   I A E N G .       Evaluation Warning : The document was created with Spire.PDF for Python.