I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   22 ,   N o .   1 A p r i l   2021 ,   p p.   252 ~ 259   IS S N :   25 02 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 22 .i 1 . pp 252 - 259             252       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   A u t o m a t e d   b r a i n   t u m o r   c l a ssi f i c a t i o n   u si n g   v a r i o u s   d e e p   l e a r n i n g   m o d e l s:   a   c o m p a r a t i v e   st u d y       A l aa  A h m e d   A b b o o d 1 ,   Q ah t an   M a k k i   S h a l l a l 2 ,   M o h am me d   A .   F ad h e l 3   1 F a c ul t y   of   B us i ne s s   I nf o r m a t i c s ,   U n i v e r s i t y   o f   I nf o r m a t i o T e c hno l o gy   a nd  C o m m uni c a t i o ns   ( U O I T C ) ,   B a g hda d ,   I r a q   2 M a na g e m e n t   T e c hni c a l   C o l l e g e   o f   B a s r a ,   S o ut he r n   T e c hn i c a l   U ni v e r s i t y ,   B a s r a ,   I r a q   3 C o l l e g e   o f   C o m put e r   S c i e nc e   a nd   I nf o r m a t i o T e c hno l o gy ,   U ni v e r s i t y   of   S um e r ,   T hi   Q a r ,   I r a q       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e O c t   1 1,   2020   R e v i s e J a n   27 ,   202 1   A c c e pt e M a r   2,   202 1       T he   b r a i n   t um o r ,   t he   m o s t   c o m m o a nd  a g g r e s s i v e   di s e a s e ,   l e a ds   t o   a   v e r y   s ho r t e r   l i f e s p a n .   T hu s ,   p l a n ni ng   t r e a t m e n t s   i s   a   c r uc i a l   s t e p   i i m pr o v i ng   a   pa t i e n t ' s   qua l i t y   of   l i f e .   I g e ne r a l ,   s e v e r a l   i m a g e   t e c hni q ue s   s uc a s   C T ,   M R I ,   a nd   ul t r a s o und   h a v e   b e e n   u s e d   f o r   a s s e s s i ng   t um o r s   i n   t h e   pr o s t a t e ,   b r e a s t ,   l u ng   a nd  b r a i n .   P r i m a r i l y ,   M R I   i m a g e s   a r e   a pp l i e t o   de t e c t   t um o r s   i n   t he   br a i n   dur i ng   t h i s   w o r k .   T h e   e no r m o us   a m o unt   o f   da t a   p r o duc e d   by   t h e   M R I   s c a t hw a r t s   t um o r   v s .   no n - t um o r   m a nua l   c l a s s i f i c a t i o a t   a   pa r t i c ul a r   t i m e .   U nf o r t una t e l y ,   w i t a   s m a l l   num be r   o f   i m a g e s ,   i t   h a s   c e r t a i l i m i t a t i o ns   ( i . e . ,   pr e c i s e   q ua n t i t a t i v e   m e a s ur e m e n t s ) .   T he r e f o r e ,   a a ut o m a t e c l a s s i f i c a t i o n   s y s t e m   i s   n e c e s s a r y   t o   a v o i d   hum a n   m o r t a l i t y .   T h e   a u t o m a t i c   c a t e g or i z a t i o n   o f   br a i n   t um o r s   i n   t h e   s u r r o und i ng   t um o r   r e g i o i s   a   c ha l l e ng i ng   t a s k   c o nc e r ni ng   s pa c e   a nd   s t r uc t ur a l   v a r i a b i l i t y .   F o ur   de e p   l e a r ni ng   m o de l s :   A l e xN e t ,   V G G 1 6,   G oo g l e N e t ,   a nd   R e s t N e t 50 ,   a r e   us e i t h i s   c o m pa r a t i v e   s t udy   t o   c l a s s i f y   br a i n   t um o r s .   B a s e d   o a c c ur a c y ,   t h e   r e s u l t s   s ho w e d   t ha t   R e s t N e t 5 0   i s   t h e   be s t   m o de l   w i t a a c c ur a c y   of   95. 8 % ,   w h i l e   A l e xN e t   ha s   t he   f a s t   pe r f o r m a nc e   w i t h   a   p r o c e s s i ng   t i m e   o f   1. s e c o nds .   I a dd i t i o n,   a   h a r dw a r e   pa r a l l e l   pr o c e s s i ng   u ni t   ( G P U )   i s   e m pl o y e f o r   r e a l - t i m e   pu r po s e s ,   w he r e   A l e xN e t   ( t h e   f a s t e s t   m o de l )   ha s   a   p r o c e s s i ng   t i m e   o f   o nl y   8. m s e c .     Ke y w or ds :   A c c ur a c y   B r a i t um o r   D e e l e a rni n g   GPU   P r o c e s s i n t i m e   T hi s   i s   an   ope n   ac c e s s   ar t i c l e   u nde r   t he   C C   B Y - SA   l i c e ns e .     Cor r e s pon di n g   Au t h or :   M o h a m m e A .   F a d h e l   Co l l e ge   of   Co m put e S c i e n c e   a nd  I n f o rm a t i o T e c hn o l o g y   U n i v e r s i t y   of   S um e r T h i   Q a r,   I r a q   E m a i l :   m o ha m m e d. a . f a dh e l @ uo i t c . e du . i q       1.   I N TR O D U C TI O N     T h e   hum a b ra i i s   o n e   o f   t h e   m o s t   c o m pl i c a t e d   a n d   f u n c t i o n a l   u ni t s   t h a t   c o n t r o l   t h e   e nt i r e   h u m a bo d y .   U n fo r t u na t e l y ,   t h e   b r a i c e l l s   u nde c e r t a i c o n d i t i o n s   go t   u n c o n t r o l l e d   di v i s i o due   t o   u nk n o w n   r e a s o c r e a t i n a a b n o r m a l   g r o up  o f   c e l l s   s urr o un d i n o r   i n s i de   hu m a n   b r a i n   na m e a s   " t um o r "   [1] .   T h e r e f o r e ,   t h e s e   a b n o rm a l   c e l l s   c a t e go r i z e de pe n d i n g   o n   t h e i r   i n i t i a l   o r i gi i n t o   m e t a s t a t i c   b r a i n   t u m o r s   a n p r i m a r y   b r a i t um o r s .   T h e   p ri m a r y   b r a i t u m o r s   o r i g i na t e d   f r o m   t h e   b r a i t i s s ue ,   w hi l e   t h e   m e t a s t a t i c   c a us e b y   c e l l s   c a n c e r o us   g r o w t h   i n   di f f e r e n t   pl a c e s   of   t h e   h u m a n   b o d y   c e l l s   a n t h e n   e xpa nd  t o   t h e   b ra i n.   Co n s e que nt l y ,   bo t t um o t y pe s   a f fe c t   t h e   m a i b r a i f un c t i o n a l i t y   t h r o ug da m a g i n g   t h e   h e a l t h y   c e l l s   [1 - 2] .   M e di c a l l y ,   t h e y   r e c o gn i z e t h e   b r a i t u m o a s   a   l o w - gr a de   c a l l e d   b e n i g n   a nd  h i g h - g ra de   na m e d   m a l i g na n t   [1] .   T h e   B e n i g n   t um o r s   a l s o   t e rm e a s   ( n o n - c a n c e r o us w hi c h   i s   o r i g i na t e d   f r o m   t h e   b r a i c e l l s   w i t g ra du a l   g r o w t a nd  c o n s i de r e t o   b e   l e s s   a gg r e s s i v e   w i t l i m i t   s p r e a t o   a n y w h e r e   e l s e   i t h e   b o d y .   W h i l e ,   t h e   m a l i g n a nt   t u m o r s   w h i c i s   c o n s i de r e a s   c a n c e r o us   w i t h   ra pi d l y   gr o w t h   f o r m i ng  u n k n o w n   b o un da ri e s   w i t h i g h   p r e v a l e n c e   ov e r   a l l   o f   t h e   h um a b o d y   [3 - 4]   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A ut om a t e br a i t um or   c l as s i f i c a t i on   us i n v ar i ous   de e p   l e a r ni ng  m o de l s :   a …  ( A l aa   A hm e d   A b bood )   253   T h e   pa t i e n t   w i t a   s y m pt o m   of   t h e   b ra i n   t u m o r   go e s   t hr o ug h   s e v e r a l   b i o l o gi c a l   a n ra di o l o gi c a l   t e s t s   t o   di a g n o s e   t h e   t u m o po s i t i o a nd  t h e i t y pe .   T h e   m o s t   c o m m o r a d i o l o g y   t e s t s   us e t o   i n s pe c t   b ra i t um o r s   a r e   P E T   ( po s i t r o e m i s s i o t o m o g r a p h y ),   S P E CT   ( s i ngl e   ph o t o e m i s s i o c o m put e t o m o gra p h y ),   M R ( m a g n e t i c   r e s o na n c e   i m a gi n g ),   a n d   C T   ( c o m put e d   t o m o gra p h y ).   M e di c a l l y   pr o v e n ,   t h e   M R I   c o n s i de r s   a s   o n e   of   t h e   b e s t   i m a gi ng   t e c hni que s   us e f o de m o n s t ra t i n g   t h e   t u m o i t h e   i de n t i f i c a t i o a n d   t r e a t m e n t   s t a ge s   [3 - 4] .   M R   i m a g i n ha s   a n   a dv a n t a ge   o v e r   o t h e i m a g i n s y s t e m s   i s   t ha t   i t   do e s n ' t   e m a na t e   a n y   un s a f e   ra di a t i o n   t t h e   hum a n   b o d y   [3 5] .   F u r t h e rm o r e ,   t h e   M R t e c hni que   p r o v i de s   r i c h   i n f o r m a t i o n   o n   t h e   b ra i n   t i s s ue s   s t r uc t u r e   w i t h i g h - qu a l i t y   i m a ge s   t o   v i s ua l i z i n g   t h e   a b n o rm a l i t i e s   i t h e   b r a i t i s s ue s   [5] .   T h e   a c c ura t e   d i a g n o s i s   w i t h   t h e   M R t e c hni que   s h o w s   a l l   t h e   a na t o m i c a l   i n f o r m a t i o o f   t h e   h u m a b r a i t ha t   gui de s   t o   a c hi e v e   a a c c u r a t e   di a g n o s i s   a n d   t r e a t m e n t   o f   t h e   b r a i n   t u m o r.   Cu rr e nt l y ,   m a n y   c l a s s i f i c a t i o a p p r o a c h e s   a r e   p r e s e nt e t o   c a t e go r i z e   M R b ra i i m a ge s   s uc h   a s   K - N N   ( k - n e a r e s t   n e i g h b o r n e u ra l   n e t w o r ks ,   f uz z y   l o gi c ,   r u l e - b a s e t e c hn i que s   a n d   S V M   ( s uppo rt   v e c t o r   m a c h i n e )   [6 - 9] .   I a d di t i o n,   t h e   de e l e a rni n a pp r o a c h   (D L ),   w hi c i s   a   m a c h i n e   l e a rni n t e c hni que ,   i s   us e a s   a e f f i c i e n t   t e c hni que   t o   c l a s s i fy   t h e   b ra i t um o r   [4 ,   2,   10] .   T h e r e f o r e ,   o ur  c o n t ri b ut i o n s   a r e   s u m m a r i z e a s   fo l l ow s :   a)   T h i s   pa pe t a ke s   a dv a nt a ge   o f   a   de e l e a rni n g   a l go r i t hm   t o   pe r f o r m   a u t o m a t i c   c l a s s i f i c a t i o o f   M R b r a i i m a ge s .     b)   T h e   c urr e n t   m e t h o do l o g y   i n t e nds   t o   m e a s u r e   t h e   pe r f o r m a n c e   o f   v a r i o us   de e l e a rni n m o de l s   w i t di f fe r e n t   p l a t f o r m s   t o   c l a s s i fy   b r a i t u m o r s .     c)   T h e   o ut l i n e   o f   t hi s   pa pe r   i n c l ude s   c o m pa r e by   f o ur   po pul a r   de e l e a rn i n g   m o de l s ,   A l e xN e t ,   V G G 16 ,   G oo gl e N e t ,   a n d   R e s t N e t 50  i t e r m   o f   a c c ur a c y   a n d   t i m e   o f   pr o c e s s i n i n   di f f e r e n t   pl a t f o r m s .         2.   R ELA TED   WO R K     R a di o l o gi s t s   i n v e s t i ga t e   t h e   M R   s l i c e s   t hr o ug v i s ua l   i n s p e c t i o n   t o   d i s t i n gui s a n d   r e c o gn i z e   t h e   a v a i l a b l e   t u m o o i rr e gul a g r o w t t i s s ue s .   T h e   huge   num b e of   t h e   M R I   s l i c e s   m a ke s   t h e   t ra di t i o na l   p r o c e s s e s   w i t h   v i s ua l   i n s pe c t i o i nt e r s pe r s e w i t h   l a b o r - i nt e n s i v e ,   c o s t l y ,   a n d   o f t e n   e rr o n e o us .   M o r e ov e r ,   i s o m e   c a s e s   e s pe c i a l l y   w h e n   l e s s   a v a i l a b l e   i n f o r m a t i o o M R s l i c e s   f o r   t h e   i n f l ue n c e r e gi o n   l e a t o   r e duc e   t h e   s e n s i t i v i t y   of   t h e   h u m a e y e   duri n g   i n s pe c t i o n s .   T h e r e f o r e ,   a a u t o m a t e a na l y s i s   a nd  c l a s s i f i c a t i o n   s y s t e m   w i t us e   of  c o m put e r   a l go ri t hm   i s   e s s e n t i a l   t o   di a g n o s e   t h e   t u m o i n   M R b r a i n   s l i c e s .   A ut o m a t i c   M R   b r a i i m a ge   c l a s s i f i c a t i o t e c hni que s   ha v e   be e n   w i de l y   i n v e s t i ga t e du r i n g   t h e   l a s t   de c a de .   O v e r   t h e   y e a r s ,   a   n u m b e r   o di f fe r e nt   c l a s s i f i c a t i o t e c hni que s   ha v e   b e e n   de v e l o pe us i ng  m ul t i p l e   c l a s s i f i c a t i o a pp r o a c h e s   a nd   da t a s e t s .   E a c c l a s s i f i c a t i o m e t h o d   h a s   i t s   o w n   s pe c i f i c   c h a ra c t e r i s t i c s   t ha t   r e s e a r c h e r s   c a pi t a l i z e   o n   t o   a dv a n c e   c l a s s i f i c a t i o r e s e a r c us i n g   a   p a r t i c ul a d a t a s e t   [3 ,   11] .   T h e   m o s t   c o m m o da t a s e t s ,   w i de l y   us e by   t h e   r e s e a r c h e r s ,   a r e   s u m m a r i z e a s   f o l l ow :   (I)  IB S R   ( i nt e rn e t   b r a i s e gm e n t a t i o r e po s i t o r y (10N o r m a l s _ T 1)   de vo i o f   b r a i t um o ge n e r a t e i U S A   by   t h e   m a s s a c h u s e t t s   ge n e ra l   h o s pi t a l ,   c e n t e f o r   m o r p h o m e t ri c   a n a l y s i s ,   (I I)  IB S R   (536_T 1)  c o n t a i n s   b ra i t u m o r   ( III)  m ul t i m o da l   b ra i t u m o r   s e gm e nt a t i o n   (B R A T S )   c h a l l e n ge   d a t a s e t   [11] .   In  201 t h e   s t udy   o f   [12]   a pp l i e t h e   S V M   c l a s s i f i c a t i o n s   t e c hni que   a n d   c r e a t e a   s y s t e m   t h a t   a b l e   t o   c a t e go r i z e   t h e   M R b r a i n   t um o r   i n t o   e i t h e r   b e ni g n   o r   m a l i g na n t .   T h e y   us e F P G A   ( f i e l pr o g r a m m a b l e   ga t e   a rr a y de v i c e   fo r   m a n a g i n t h e   da t a .   O n   t h e   o t h e r   h a nd,   m u l t i pl e   p h a s e s   a r e   p r o po s e f o r   di a g n o s i n t h e   M R b r a i t u m o r,   s t a r t i n w i t h   t h e   t e xt u r e   f e a t u r e   e xt ra c t i o t ha t   us e s   f o r   t h e   c l a s s i f i c a t i o n s ,   f o l l o w e by   t h e   e n s e m b l e   b a s e   c l a s s i f i e r   a nd  f i n a l l y   t h e   s e gm e n t a t i o p h a s e .   T h e   i m pl e m e nt e m e t h o do l o g y   w a s   a b l e   t o   de t e c t   n o rm a l   a nd  a b n o r m a l   M R b ra i t um o r   w i t a n   a c c ura c y   r e a c h e d   up   t o   99 [ 13] .   K ha rra t ,   w i t hi s   c o l l e a gue s   i n   20 10,   p r o po s e a ut o m a t i c   M R b r a i n   t um o r   c l a s s i f i c a t i o ns   by   i m pl e m e nt i ng  t h e   W T   ( w a v e l e t s   t r a n s f o r m a s   i n pu t   t o   ge n e t i c   a l go ri t hm   (G A )   a nd   S V M .   T h e i e xpe ri m e n t a l   r e s ul t   a c h i e v e a   s i g ni f i c a n t   ra t e   [14] .   O n e   y e a r   l a t e r,   N .   H e m a   R a j i ni   a n d   R .   B ha v a n i   i 20 11  p r o po s e h y b r i d   c l a s s i f i c a t i o n   s c h e m e   by   m e rgi n g   k - N N   a n A N N   ( a r t i f i c i a l   n e u ra l   n e t w o r k a l go ri t hm s .   T h e   p r o po s e t e c hni que   go e s   t hr o ug h   t w o   s t a ge s :   t h e   f e a t ur e s   e xt ra c t e by   a ppl y i n t h e   D W T   ( di s c r e t e   w a v e l e t   t ra n s f o r m t e c hn i q ue   i n   t h e   f i r s t   s t a ge .   T h e   s e c o n s t a ge   r e p r e s e n t s   t h e   c l a s s i f i c a t i o t e c hni que .   T h e i c l a s s i f i c a t i o a ppr o a c c o n s i s t s   o f   f o r w a r di n g   A N N   a n d   k - NN  c l a s s i f i e r s .   T h e   p r o po s e c l a s s i f i e r s   a pp r o a c c o m e   o ut   w i t a a c c u r a c y   of   90%,   us i ng  F P - ANN  c l a s s i f i e r ,   a n r e a c h e s   up   t o   9 9%  w i t k - N N   c l a s s i f i e r.   L a t e i 2015 ,   i m p r o v e pa r t i c l e   s w a rm   o pt i m i z a t i o n   (IP S O )   c l a s s i f i c a t i o n   a pp r o a c w a s   i nt r o duc e d   by   [15] .   T h e   s t udy   i n v o l ve a   p r e - p r o c e s s i n g   t e c hni que ,   w hi c i n c l ude s   i m a ge   s e gm e nt a t i o n,   f e a t u r e   e xt ra c t i o n ,   a n d   f e a t ur e   s e l e c t i o n .   S o m e   e m e n d a t i o n s   t o   t h e   dy n a m i c   c l a s s i f i e r   s e l e c t i o a nd  t h e   dy n a m i c   l o c a l   t r a i n i ng  w e r e   m a de   t o   f o r m   c o m b i n a t i o n s   o f   m ul t i - c l a s s i f i e r s   f o r   t h e   f i n a l   de c i s i o n   [ 16] .   T h e i r   t e c hn i q ue   w a s   e xa m i n e d   o n   20   M R I,   f r o m   t h e   IB S R   da t a s e t ,   a nd  t h e y   s h ow e a   s uf f i c i e nt   c l a s s i f i c a t i o r e s ul t .   C ha n d a n   S a h a   a n d   M d.   F a i s a l   H o s s a i n ,   i 201 us e K - M e a n s   Cl us t e ri n g ,   N S C T ,   a n d   S V M   a s   c l a s s i f i e r s   t o   de s i g f ul l y   a ut o m a t i c   M R b r a i t um o c l a s s i f i c a t i o s c h e m e .   T h e   s ugge s t e s y s t e m   e nha n c e t h e   M R b r a i n   i m a ge s   by   a ppl y i n g   a   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   22 ,   N o .   1 A p r i l   20 21   :     252   -   2 59   254   m e di a f i l t e r .   T h e n ,   i m a ge   s e gm e n t a t i o n   w a s   pe r f o r m e d   w i t h   K - m e a n s   c l us t e r i ng.   S ub s e que n t l y ,   t h e   c l a s s i f i c a t i o f e a t u r e s   w e r e   e xt ra c t e d   by   us i ng  N S C T   c o e ff i c i e n t s .   F i n a l l y ,   t h e   e xt ra c t e f e a t u r e s   a r e   f e t o   t h e   S V M   c l a s s i f i e r   o f   M R b r a i i m a ge s   a s   a b n o rm a l ,   i f   t h e   M R s l i c e   c o n t a i n s   t um o r   o t h e r w i s e ,   b e n i g [17] B a s i c a l l y ,   m o s t   o f   t h e   p r e v i o us   m e t h o do l o gi e s   s ha r e s   s i m i l a r   p r o c e s s   pi pe l i n e   t hr o ug i m pl e m e n t i n g   s a m e   pr o c e s s   ph a s e s   l i ke   p r e - p r o c e s s i n g,   f o l l o w e by   fe a t ur e   e xt r a c t i o n ,   a nd  f i n a l l y   a ppl y i n c l a s s i f i c a t i o n   t e c hn i q ue s .   M o r e o ve r ,   d i f f e r e n t   a l go r i t hm s   w e r e   a pp l i e t o   i m p r o v e   t h e   M R   b r a i i m a ge   qua l i t y .   L a t e r ,   t h e   f e a t ur e ' s   p ha s e   t ha t   d i f fe r e nt i a t e s   a l l   t h e   t i s s ue s   i t h e   M R b r a i w e r e   e xt r a c t e d .   S o m e   o f   t h e   m o s t   c o m m o M R b r a i f e a t u r e s   t ha t   w e r e   us e i p r e v i o us   s t udi e s   i n c l u de :   e dge - b a s e d,   i nt e n s i t y   gr a di e n t s ,   l o c a l   i m a ge   t e xt u r e s ,   a s y m m e t r y - r e l a t e f e a t u r e s ,   t e xt o n s ,   f i r s t - o r de s t a t i s t i c a l   f e a t u r e s ,   m ul t i f ra c t a l   B r o w n i a n   m o t i o f e a t ur e ,   v a r i a n c e   i nt e n s i t y ,   a n d   d i s c r e t e   w a v e l e t   t ra n s f o r m s   D W T   f e a t u r e s   [1 - 4,   6 ,   18,   1 9] .   F i na l l y ,   di f f e r e n t   c l a s s i f i c a t i o a pp r o a c p r o po s e b a s e o n   t h e   e xt ra c t e f e a t u r e s   i n c l ude n e u ra l   n e t w o r ks   (N N c l a s s i f i e r,   S V M   c l a s s i f i e r,   k - N N   c l a s s i f i e r,   s e l f - o r ga n i z i n g   m a ps   (S O M ),   m a c hi n e   l e a rn i ng   M L   a nd   de e l e a rni n g   D L   c l a s s i f i e r s   [1 ,   2,   4 ,   6 ,   9,   15 ,   17,   18 ] .   D e s pi t e   s e v e r a l   n o t a b l e   c ont r i b ut i o n s ,   t h e r e   r e m a i po t e nt i a l l y   n e w   f i n di n gs   i n   t hi s   a r e a .   M a n y   i s s ue s   r e l a t e t o   M R b r a i t u m o c l a s s i f i c a t i o n ,   a s   w e l l   a s   i m a ge   p r e - p r o c e s s i n g ,   a r e   b e i n g   r e s o l v e d.   H ow e ve r ,   t h e   f o l l ow i n g   ke y   a r e a   i s   w o r t l o o ki n g   a t .         3.   O V ER V I EW  O N   D EEP   LEA R N I N G     D e e l e a rni n t e c hn i que   i s   a a dv a n c e m a c h i n e - l e a rni n g   a l go r i t h m ,   de s i g n e b y   h i e ra r c h i c a l l y   r e p r e s e n t i n g   t h e   s y s t e m ' s   f e a t ur e s .   T h e   s t ruc t u r e   o f   t h e   D L   s y s t e m   w o r ks   a s   t h a t   t h e   t o p - l e v e l   f e a t ur e s   f o r m e by   t h e   b o t t o m   l e v e l   fe a t u r e s ,   a n d   t h e   b o t t o m   l e v e l   f e a t ur e s   a b l e   t o   ge n e ra t e   m a n y   o t h e r   t o p - l e v e l   f e a t ur e s   a nd  s o   o n   [4] .   P ra c t i c a l l y   pr o ve n   t ha t   t h e   o b t a i n e r e s ul t s   f r o m   t he   D L   t e c h ni que   a r e   hi g h e r   pe r f o r m a n c e   t h a t ha t   of   t h e   o t h e r   m a c h i n e   l e a rn i ng  a l go r i t hm s ,   e s pe c i a l l y   w h e n   a ppl i e f o r   l a r ge   d a t a s e t   [20 ] .   T h e   D L   t e c hn i q ue   c o n s i de r s   c l o s e s t   t o   m i m i c s   t h e   hum a n   b r a i n   f u n c t i o na l i t i e s   [21] .   I n   t h e   r e c e n t   s t udi e s ,   t h e   i n v e n t i o n   o f   de e p   l e a rn i ng  t e c hni que s   r a p i dl y   e xpa n ds   t h e   us e   of   a rt i f i c i a l   i nt e l l i ge n c e   i n   pa t t e rn   r e c o gn i t i o n,   i m a ge   s e gm e nt a t i o n,   a n d   c l a s s i f i c a t i o n s   [22 - 24] .   O t h e   o t h e ha n d,   G a t y s   a nd   h i s   c o l l e a gue s   i m p l e m e nt e t h e   de e l e a rn i ng  a l go ri t h m   i A r t i s t i c   S t y l e   t o   ge n e ra t e   i m a ge s   w i t h   d i f f e r e n t   s t y l e s   [25]   T h e   c o n v o l ut i o na l   n e u ra l   n e t w o r ks   ( CN N s ),   w hi c c o n s i de re a s   a   w e l l - kn o w a r c h i t e c t ur e   o f   D L ,   w e r e   a b l e   t o   pe r f o r m   c o m pl e p r o c e s s e s   w i t h   t h e   h e l p   o f   t h e   c o n v o l ut i o n   f i l t e r.   T h e   da t a   i CN N ' s   w e r e   pr o c e s s e a s   m ul t i pl e   a rra y s ;   fo r   e xa m p l e ,   t h e   a rra y   of   2D   r e p r e s e n t s   t h e   v a l ue s   o f   di ffe r e nt   pi xe l   i nt e n s i t i e s   i n   a   g r e y - s c a l e   i m a ge .   T h e   CN N s   a r e   a b l e   t o   us e   t h e   p r o pe rt i e s   of   t h e   n a t u r a l   s i g na l s   t hr o ug h   f o ur   w a y s ,   w h i c h   i n c l ude   po o l i ng,   l o c a l   c o nn e c t i o n s ,   s ha r e w e i ght s ,   a n d   ut i l i z a t i o o f   di ff e r e n t   l a y e r s   [4] G ra p h i c a l l y ,   F i gu r e   de s c ri b e s   t h e   CN N s   a r c h i t e c t ur e ,   w h e r e   a t   t h e   b e gi nn i ng,   o nl y   t w o   l a y e r s   a r e   c r e a t e d   t e r m e d   a s   c o n v o l ut i o na l   a n d   po o l i ng   l a y e r s .   T h e   e l e m e n t s   w i t h i t h e   f i r s t   l a y e r   o r g a ni z e d   a s   f e a t u r e   m a ps ,   e a c e l e m e nt   l i n ke d   t o   t h e   n e a r b y   f i xe s   of   t h e   f e a t ur e   m a ps   f r o m   t h e   p r e v i o us   l a y e r s   t hro ugh   w e i ght s .   A l l   t h e   c o m po n e nt s   i t h e   f e a t u r e   m a p   s h a r e   a   c o m pa r a t i v e   c h a nn e l   b a n k ,   w h i l e   di f f e r e n t   f e a t u re   m a ps   i n s i de   t h e   l a y e r   ut i l i z e   di s t i n c t i v e   c ha nn e l   b a n ks .   F r o m   F i gu r e   1 ,   c l e a rl y   s e e n   t h e r e   a r e   t w o   obj e c t i v e s   of   us i n g   t hi s   a r c h i t e c t u r e .   F i r s t ,   i n v e s t i ga t i n g   t h e   l o c a l   a r e a   t hr o ug t h e i r   v a l ue s   a n e a s i l y   de t e c t i n g   t h e   r e l a t e uni t s .   S e c o n d,   i n v a ri a b i l i t y   of   t h e   l o c a l   s t a t i s t i c a l   a n a l y s i s   v a l ue s .   F r o m   t h e   m e n t i o n e o b j e c t i ve s ,   i f   t h e   de t e c t e m o t i f s   f r o m   a   p a r t   o f   a n   i m a ge ,   t h e n   i t   m a y   pr e s e nt   e l s e w h e r e   o t h e   s a m e   i m a ge   a n s ha r i ng  t h e   s a m e   w e i ght s .   T h e   c o n v o l ut i o n   l a y e r   i de n t i f i e s   t h e   l o c a l   pa t t e rn  o f   t h e   f e a t u r e   b a s e o t h e   p r e v i o us   l a y e r   w hi l e   t h e   po o l i n g   l a y e r   m e rge s   o f   s i m i l a r   f e a t u r e s   i nt o   a   s i n g l e   f e a t ur e .             F i gu r e   1 .   I m a ge   c l a s s i f i c a t i o n   b a s e o n   t h e   CN N       In  t h e   s t udy   of   Ch e n   e t   al .   [2 6],   CN N ' s   m e t h o w a s   a ppl i e f o r   f a c i a l   c l a s s i f i c a t i o n   b a s e o e dge   de t e c t i o n .   I n   t h e   b e gi nni n g ,   t h e   ra w   pi xe l s   a r e   p r e s e n t e d   i t h e   l a y e r o f   CN N s   t o   i de nt i f y   t h e   e dge s .   T h e   s i m pl e   s h a pe   de t e c t i o n   a n d   t h e   h i g h - l e v e l   f e a t ur e   r e c o gn i t i o w e r e   pe r f o r m e o l a y e r   t w o   b a s e o n   t h e   i n f o r m a t i o n   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A ut om a t e br a i t um or   c l as s i f i c a t i on   us i n v ar i ous   de e p   l e a r ni ng  m o de l s :   a …  ( A l aa   A hm e d   A b bood )   255   ob t a i n e f r o m   l a y e r 1.   L a s t l y ,   t h e s e   h i g h - l e v e l   f e a t ur e s   a r e   us e i t h e   f i na l   l a y e r   t o   c l a s s i f y   t h e   f a c i a l   f e a t u r e .   G e n e ra l l y ,   t h e   CN N s   c o n s i s t   o f   m a n y   l a y e r s   n a m e a s   hi dde n ,   o ut put ,   a n d   i nput   l a y e r s .   T h e   h i dde n   l a y e r s   m i g ht   c o n v e n t i o n a l   l a y e r ,   po o l i n l a y e r ,   o r   c o m pl e t e l y   c o nn e c t e d.   T h e   p r o c e dur e s   a n d   f un c t i o na l i t i e s   o f   t h e s e   l a y e r s   w i l l   de s c r i b e   i t h e   n e x t   s e c t i o n.       3. 1 .       C o n v o l u ti o n al   l ay e r   T h e   c o n v o l ut i o na l   l a y e r   i s   a e s s e n t i a l   p a r t   o f   CN N ,   w hi c i s   o pe ra t e d   by   us i n g   t h e   c o n v o l ut i o o pe r a t i o n   a s   i n pu t   a n d   t h e p a s s   t h e   o ut pu t   t o   t h e   c o n s e que n t   l a y e r .   T h e   c o n v o l ut i o n a l   l a y e r   c o n s i s t s   o f   m a n y   f i l t e r s   t ha t   t a ke   t h e   s a m e   s i z e   a n d   d i m e n s i o o f   t h e   i nput   i m a ge .   I a dd i t i o n,   l o c a l   c o nn e c t i v i t y   a n d   p a ra m e t e r   s h a ri n a r e   t w o   c o n c e pt s   us e t o   r e duc e   t h e   n um b e r   o f   m o de l   pa r a m e t e r s .   I n   t h e   l o c a l   c o nn e c t i v i t y   c o n c e pt ,   t h e   w h o l e   n e u r o n s   i t h e   f e a t u r e   m a a r e   a s s o c i a t e w i t h   t h e   l o c a l   n e u r o n a l   pa t c o f   t h e   e a rl i e r   l a y e r .   W hi l e ,   i n   t h e   p a r a m e t e r   s h a ri n c o n c e pt ,   t h e   n e u r o n s   i t h e   f e a t u r e   m a p   w e r e   h a v i n s i m i l a r   p a r a m e t e r s ,   t ha t   m a de   a l l   t h e   n e u r o n s   i n   t h e   f e a t ur e   m a s c a n   f o r   t h e   s a m e   f e a t ur e s   o f   t h e   e a rl i e r   l a y e r s   a t   di f f e r e n t   a r e a s   o f   t h e   i m a ge .   H e n c e ,   t h e   v a r i e t y   o f   t h e   f e a t u r e   m a p   e n a b l e s   i t   t o   i de nt i f y   t he   e dge s   a t   m a n y   l o c a t i o n s   w i t h i t h e   i m a ge .   T h e   n e u r o na l   a c t i v i t y   of   t h e   c o n v o l ut i o na l   l a y e r   i s   c a l c ul a t e us i ng  a   di s c r e t e   c o n v o l ut i o n   f i l t e r   [27] .   T h e   s i z e   o f   t h e   o ut put   i s   m e a s u r e us i n t h e   3D   a rra y   t e r m e d   a s   z e r o   pa ddi ng,   s t r i de ,   a n de pt h .   T h e   de pt s h o w s   t h e   qu a n t i t y   of   f i l t e r s   t ha t   w e r e   a pp l i e d,   s uc h   a s   f i l t e r s   us e f o r   de t e c t i n g   b l o bs ,   c o r n e r s ,   a nd  e dge s .   T h e   s t r i de   i n di c a t e s ,   t h e   q ua nt i t y   of   pi xe l s   w e n t   t hr o ug h   t h e   f i l t e du r i ng  s l i di ng  o v e r   a n   i m a ge .   L a s t l y ,   z e r o   pa d di ng  de n o t e s   t h e   f i l l i ng  o f   0s   a r o u n a i n p ut   i m a ge ' s   b o u n d a r y   fo r   ke e pi n i t s   s i z e .     3. 2 .       R e c t i fi e d   l i n e ar   u n i ts   (R e LU )   l ay e r   T h e   c o n v o l ut i o n a l   l a y e r   d i r e c t l y   fo l l ow e by   a   n o nl i n e a l a y e r   o r   a a c t i v a t i o n   l a y e r   [28] .   T hi s   l a y e r   pr e s e nt s   n o n l i n e a ri t y   t o   a   s y s t e m   t ha t   c o m put e s   t h e   l i n e a p r o c e s s e s   i t h e   c o n v o l ut i o n a l   l a y e r s .   T h e   R e L U   l a y e r s   p r o v e n   a e f f i c i e n t   pe r f o r m a n c e   due   t o   t h e   n e t w o r c o ul b e   t ra i n e d   qu i c kl y ,   w i t h o ut   i n f l ue n c e   i t s   a c c ur a c y .   T h e   R e L U   l a y e r   us e f (x)   =   m a x   (0 ,   x)   f un c t i o n   t o   i n put   v a l ue s .   T h us ,   t hi s   l a y e r - a b l e   t o   i n c r e a s e   t h e   n e ga t i v e   v a l ue s   t o   [29] .   F u rt h e r m o r e ,   t h e   R e L U   i n c r e a s e t h e   n o n l i n e a p r o pe rt i e s   o f   t h e   us e d   m o de l   f o a l l   n e t w o r ks ,   w i t h o ut   a n y   e ffe c t   o n   t h e   r e c e pt i v e   f i e l ds   i t h e   c o n v o l ut i o n.       3. 3 .       P o o l i n l ay e r s   T h e   po o l i n g   l a y e r   di m i ni s h e s   t h e   i n f o r m a t i o s i z e   a nd   a c c e pt s   t h e   m ul t i - s c a l e   a na l y s i s .   T h e   s t a n d a r d   po o l i n p r o c e s s e s   i n c l ude   t h e   m a po o l i n g   a nd  t h e   a v e r a ge   po o l i n g .   T h e s e   p r o c e s s e s   a r e   e m pl o y e fo r   c a l c ul a t i n g   t h e   m a x i m a l   o t h e   a v e r a ge   v a l ue s   i t h e   l o c a l   a re a   o f   t h e   i m a ge .   I t h e   po o l i n g   l a y e r ,   2 × 2   f i l t e r s   a r e   us e t o   c a l c ul a t e   t h e   m a xi m um   v a l ue   [27,   30 ] .     3. 4 .       F u l l y - c o n n e c t e d   l aye r s   T h e   l a s t   po o l i ng   l a y e i s   c o nne c t e d   t o   o ne   o m a n y   f u l l y   c o nn e c t e d   l a y e r s .   T hi s   l a y e c o n s i de r s   a s   h y pe r - p a ra m e t e r s ,   l i ke   t h e   nu m b e o f   f e a t u re   m a ps ,   nu m b e o f   c o nv o l ut i o na l   l a y e r s ,   a nd   u s e d   d a t a s e t   [2 6 ,   27 ] .   T h e   c o nne c t i o b e t w e e t he   f u l l y   c o nne c t e d   l a y e a nd   t he   e a rl i e l a y e i s   t hr o ug t he   ne u r o ns .   F u rt he rm o re ,   t he s e   l a y e r s   a r e   u t i l i z e d   a s   t he   l a s t   s y s t e m   l a y e r.   T h e s e   f u l l y   c o nn e c t e d   l a y e r s   a r e   us e d   a s   t he   f i na l   n e t w o rk   l a y e r,   a nd   a r e   c o n c e rne d   w i t hi t he   c l a s s i f i c a t i o p r o c e s s e s ,   a s   s h o w i F i gu re   1 .   CN N s   a re   h e a v y   t a s a nd   re q u i r e d   hi g c o m p u t a t i o na l   t o o l s   t o   ha nd l e   t h e m   s uc a s   G P U s   [ 3 1 - 34 ]   a nd   F P G A   [2 3 ,   3 5 - 3 7] .       4.   M ET H O D O L O G Y     4. 1 .       Th e   typ e s   o C N N   ar c h i t e c tu r e   N um e r o us   s o r t s   o f   CN N   de s i gn   a r e   c r e a t e o v e r   t h e   r e c e n t   c o upl e   of   y e a r s .   T h e   m o s t l y   w e l l - k n o w n   CN N s   a r e   [ 33 ] :   a)   L e N e t - 5   i s   o n e   o f   t h e   e a s i e s t   s y s t e m s   t o   us e .   I t   ha s   t w o   c o nvo l ut i o na l   l a y e r s   a n d   t hr e e   f ul l y   c o n n e c t e o n e s .   T h e   a v e r a ge - po o l i n l a y e r   w a s   c o n s i de r e a s   t h e   s ub - s a m pl i n g   l a y e r   a nd  ha d   a   t ra i na b l e   w e i gh t .   T h i s   de s i g n   ha s   a b o ut   60, 000  pa ra m e t e r s .   b)   A l e xN e t .   I t   i s   t h e   f i r s t   s uc c e s s f ul   c o m put e v i s i o CN N .   T h e   na m e   c o m e s   f r o m   A l e x   K r i z h e v s k y ,   t h e   m a i p r o duc e r .   T h e   o t h e t w o   A l e t e a m   m e m b e r s   a r e   G e off   H i n t o a n d   I l y a   S ut s ke v e r .   T h e   I m a ge N e t   IL S V R w a s   que s t i o n e i 201 2.   A l e xN e t   a c hi e v e a n   e rr o r   of   16%,   w hi c h   i s   m uc h   b e t t e r   t h a 26 e rr o of   t h e   s e c o n d - b e s t .   A l e xN e t   i s   t h e   b e s t .   It   i s   b i gge r   a n de e p e r ,   s t i l l   t h e   s a m e   a s   t h e   L e N e t .   F u rt h e rm o r e ,   t h e   f e a t u r e CO N V   l a y e r s   a r e   pa c ke ups i de   do w n ,   w h e r e a s   i L e N e t ,   j us t   s i n gl e   CO N V   l a y e r   i s   p r e c e de by   t h e   po o l i n g   l a y e r   [ 33 ] .   c)   V G G N e t .   K a r e S i m o n y a a n d   A n d r e w   Z i s s e r m a p r o duc e t h e   V G G N e t .   I t h e   2014   IL S V R C,   i t   go t   t h e   s e c o n d   s t r o n ge s t   w i nn e r .   I t   ha s   r e v e a l e t ha t   t h e   n e t w o r k   de pt i s   a   v i t a l   c o m po n e n t   o f   h i g h - qu a l i t y   r e s ul t s .   T h e   a b s o l ut e   h i g h e s t   po s s i b l e   V G G N e t   ha s   s i xt e e n   C O N V / F l a y e r s   w i t a ppe a l i n g   f u n c t i o na l i t y   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   22 ,   N o .   1 A p r i l   20 21   :     252   -   2 59   256   of   a e xt r e m e l y   r e l i a b l e   de s i g n .   I t   j us t   pe r f o r m s   3 x3   c o n v o l ut i o n s   a nd   2x2   po o l i n g   t hr o ug h o ut   t h e   e n t i r e   pr o c e s s .   T h e   ke y   w e a kn e s s   of   V G G N e t   i s   t ha t   i t s   m e a s u re m e n t   i s   t o o   c os t l y .   It   a l s o   r e qui r e s   l a r ge   pa r a m e t e r s   a nd  m e m o r y   (140M ).   A n d ,   i t h e   f i r s t   f ul l y - c o n ne c t e d   r o w ,   a   l a r ge   n um b e o f   pa r a m e t e r s   a r e   fo un d.   N e v e r t h e l e s s ,   i t   w a s   n o t e t ha t   t h e   e ff i c i e n c y   of   t h e   n e t w o r i s   n o t   i m pa c t e d   by   t h e   e l i m i na t i o n   o f   t h e s e   f ul l y   c o nn e c t e l a y e r s   [ 04 ] .   T h us ,   i t   i s   s i g ni f i c a n t   t o   de c re a s e   t h e   num b e r   o f   t h e   r e qui r e p a r a m e t e r s .   d)   G oo gL e N e t . S z e ge d y   e t   al . ,   f r o m   G o o gl e   de v e l o p e t h e   G o o gL e N e t ,   w h i c w a s   t h e   w i nn e o f   t h e   2014   IL S V R C.   T h e   ke y   b e n e f i t   i s   t o   m a ke   t h e   r e duc t i o o f   n e t w o r v a r i a b l e s   (4M )   r e l a t i v e   t o   A l e xN e t ' s   60M   by   de s i gni n g   t h e   I n c e pt i o M o dul e .   A   f urt h e f u n c t i o o f   G ooL e N e t   i s   t h e   a v e r a ge   po o l i n g .   I t   i s   e m p l oy e d   t o   de c r e a s e   a   huge   ra n ge   o f   pa r a m e t e r s .   e)   R e s N e t ,   I t   w a s   c r e a t e d   by   K a i m i n g   H e   e t   al .   T h e   e xt e n s i v e   us e   o f   b a t c n o rm a l i z a t i o a n d   t h e   u ni que   s ki p   l i n ks   a r e   t h e   m a i f e a t u r e s   o f   R e s N e t .   F u r t h e rm o r e ,   t h e   de s i g o f   t h e   n e t w o r r e qu i r e s   t h e   f ul l y   c o nn e c t e l a y e r s   a s   t h e   f i na l   s t a ge   o f   t h e   n e t w o r k.   A t   c u rr e n t ,   R e s N e t s   i s   f a a w a y   f r o m   CN N   m o de l s   [ 01 ] .         5.   EX P ER I EN TI A R ES U LT  A N D   D I S C U S S I O N   T h e   f o ur   de e l e a rni n m o de l s   (A l e xN e t ,   V G G - 16,   G o o gl e N e t ,   a n d   R e s N e t a r e   i m p l e m e n t e i n   M A T L A B 2019a   o n   l a pt o ha v i n g   s pe c i f i c a t i o n   o f   32  gi ga by t e   R A M   a n I nt e l   Co r e   i H - S e r i e s   CP U s   (6 - Co r e ,   9M B   Ca c h e ,   up   t o   3 . 9G H z   w /   T u r b o   Boo s t ).     5. 1 .       D at as e t   an d   p r e - p r o c e s s i n g   T h e   da t a s e t   w a s   c o l l e c t e f r o m   di f f e r e n t   o n l i n e   a v a i l a b l e   re s o ur c e s   [ 02 - 44] .   T hr e e   t h o us a n M R b r a i t um o r   i m a ge s   w e r e   s e l e c t e t o   t r a i t h e   m o de l s   i t w o   c l a s s e s :   n o rm a l   a nd  a b n o r m a l .   T h e   da t a s e t   h a s   t w fo l de r s :   y e s   a n d   n o ,   w hi c i n c l u de s   3000   i m a ge s   f r o m   B ra i M R I.   T h e   f o l de r   y e s   c o n t a i n s   1800   t u m o r o us   (m a l i g na nt B r a i n   M R i m a ge s ,   a n d   t h e   f o l de r   n o   c o n t a i n s   1200  n o n - t um o r o us   (b e ni g n )   B r a i M R i m a ge s .   T h i s   m e a n s   t ha t   6 pe r c e nt   o f   t h e   da t a   (180 i m a ge s a r e   po s i t i v e   e xa m pl e s ,   a nd  4 pe r c e nt   (1200   i m a ge s a r e   n e ga t i v e   o n e s .     5. 2 .       D at p r e p r o c e s s i n g   T h e   f o l l ow i n p r e - p r o c e s s i n g   p r o c e dur e s   h a v e   b e e n   us e f o r   e a c h   i m a ge :   a)   S e pa ra t i n t h e   b ra i a r e a   f r o m   t h e   i m a ge ,   w hi c r e p r e s e n t s   t h e   a r e a   o f   i m po r t a n c e   a n d   i nt e r e s t .   b)   R e s i z i n g   t h e   s e pa ra t e b r a i i m a ge   t o   t h e   f o r m   (240 ,   240 ,   3) ,   b e c a us e   t h e   d a t a   s e t   h a s   i m a ge s   i d i f f e r e n t   di m e n s i o n s   (w i dt h ,   h e i g h t ,   n u m b e r   o f   c h a nn e l s ).   A l l   i m a ge s   s h o ul ha v e   t h e   s a m e   s h a pe   a s   a   CN N   i n p ut .   c)   N o r m a l i z i n g   t h e   i m a ge s   i n t o   a   s c a l e   t o   0 1 - p i xe l   v a l ue s .     5. 3 .       D at c at e go r i z e   D a t a s e t   w a s   di v i de i n t o   t hr e e   g r o ups   f o r   t r a i n i ng  (80%) ,   v a l i da t i n g   (10 %),   a nd  t e s t i n g   (10 %).     5. 4 .       D e e p   l e ar n i n g   m o d e l s   In   de e l e a rn i n g   n e t w o r ks ,   t h e   r e c e n t   c o m m o nl y   us e m o d e l s   a r e   A l e xN e t ,   V G G 16 ,   G o o gL e N e t ,   a n R e s N e t 50.   T h e s e   m o de l s   a r e   e m p l oy e i n   t hi s   c o m pa ra t i v e   s t ud y   t o   c l a s s i fy   b r a i n   t u m o r s   i nt o   n o r m a l   o a b n o rm a l .   H e r e i n,   w e   t r i e t o   c o m pa r e   w i t h   f o ur   de e l e a rni n m o de l s   i n   t e rm s   o f   a c c ur a c y   a n t i m e   o pr o c e s s i n t o   o b t a i t h e   b e s t   m o de l .   T h e   a i m   o f   o ur   s t ud y   i s   fo r   c o m pa ri s o n   a m o ng  A l e xN e t ,   V G G 16 ,   G oo gl e N e t ,   a n R e s t N e t 50.   A s   s h o w n   i n   F i gu r e   2,   w e   t oo a   di f f e r e n t   M R b r a i s c a n   t o   c l a s s i fy   t h e   i m a ge s   i n t o   n o r m a l   a n d   a b n o rm a l   c l a s s e s .   It   i s   w o r t m e nt i o ni n g   t h e   t r a i ni n g   c y c l e   h a s   50   e po c h s   w i t h   100 0   i t e r a t i o n s   a n 0 . 00 03  l e a rn i ng  ra t e .   T h e   o ut c o m e s   i ndi c a t e   t h a t   t h e   R e s N e t   m o de l   ha s   t h e   b e s t   pe r f o r m a n c e   a m o n g   t h e   o t h e r s   w i t h   a a c c ura c y   of   95. 8% .   I n   c o nt r a s t ,   t h e   A l e xN e t   m o de l   ha s   t h e   l o w e s t   a c c ura c y   of   82. 7% .   T h e   s e c o n pa ra m e t e us e f o c o m pa r i s o i s   t h e   p r o c e s s i n g   (e xe c ut i n g)   t i m e ,   a s   c l a ri f i e i T a b e l   1.   T h e   A l e xN e t   i s   t h e   f a s t e s t   o n e   w i t a   p r o c e s s i n t i m e   o f   1. 2   s e c o n ds ,   w h i l e   t h e   s l o w e s t   m o de l   i s   R e s N e t   w i t h   a   p r o c e s s i n g   t i m e   o f   1. s e c o n ds .   T h e   r e s ul t s   c l e a r l y   s h o w   t ha t   t h e   f i r s t   pa ra m e t e (a c c u r a c y b e h a v i o r   i s   di r e c t l y   pr o po r t i o na l   w i t t h e   s e c o n pa ra m e t e (p r o c e s s i n t i m e ) .   I t   m e a n s   t ha t   w h e t h e   a c c ur a c y   i n c r e a s e s   (i . e .   m o r e   a c c u r a t e ) ,   t h e   p r o c e s s i n g   t i m e   a l s o   i n c r e a s e s   ( i . e .   s l o w   pe r f o r m a n c e ).   H ow e v e r ,   t o   b oo s t   t h e   pr o c e s s i n g   t i m e   f urt h e t o   b e   s ui t a b l e   f o r e a l - t i m e   p u r po s e s ,   a   h a rdw a r e   pa ra l l e l   u n i t   na m e d   G P U   (g r a p h i c a l   pr o c e s s i n g   u ni t )   i s   r e p l a c e t h e   ge n e ra l - pu r po s e   uni t   c a l l e CP U   (c e n t r a l   p r o c e s s i n u ni t ) .   T h i s   h a rdw a r e   e nh a n c e s   t h e   p r o c e s s i n g   t i m e   by   m o r e   t ha n   o n e   h u n d r e d   t i m e s .   T h e   A l e xN e t   p r o c e s s i n t i m e   b e c o m e s   8. m s e c   (i . e .   i t   i s   144   t i m e s   f a s t e r ) ,   a nd  t h e   R e s N e t   pr o c e s s i n t i m e   b e c o m e s   29. m s e c   (i . e .   i t   i s   63  t i m e s   f a s t e r ).   T a b l e   s h o w n   t h e   a c c ura c y   pe r c e n t a ge   o f   CN N   m o de l s .   R e s N e t   ha s   t h e   b e s t   pe r c e nt a ge   b e c a us e   a s   t h e   de e pn e s s   i n c r e a s e s ,   t h e   n e t w o r p r e c i s i o n   i s   a l s o   i n c r e a s i n g ,   s o   l o n a s   i t   t a ke s   c a r e   o f   ov e r - f i t t i n g .         Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A ut om a t e br a i t um or   c l as s i f i c a t i on   us i n v ar i ous   de e p   l e a r ni ng  m o de l s :   a …  ( A l aa   A hm e d   A b bood )   257     (a )       (b )       (c )     (d)     F i gu r e   2 .   M R i m a ge s   f o r   (A A l e xN e t   m o de l (B V G G - 16   m o de l (C G o o gl e N e t   m o de l (D )   R e s N e t   m o de l       T a b l e   1 .   Co m p a r i s o b e t w e e n   di f f e r e n t   m o de l s   o f   de e l e a rni n g   N a m e   o f   M o d e l s   A c c u ra c y   T ra i n i n g   t i m e   T e s t i n g   T i m e   G P U   CP U   G P U   CP U   A l e x N e t   8 2 . 7   1 1   m i n   7 5   m i n   8 . 3   m s e c   1 . 2   s e c   V G G 1 6   8 6 . 4   2 4   m i n   9 3   m i n   1 0 . 1   m s e c   1 . 5   s e c   G o o g l e N e t   91   3 5   m i n   1 1 7   m i n   2 3 . 7   m s e c   1 . 7   s e c   Re s N e t   9 5 . 8   4 0   m i n   1 6 5   m i n   2 9 . 9   m s e c   2   s e c       6.   C O N C LU S I O N   T h e   m a i o bj e c t i v e s   of   t hi s   s t udy   a r e   t o   c o m pa r e   pe r f o r m a n c e   o f   fo ur   c o m m o nl y   us e de e l e a rn i ng  m o de l s   i t e rm s   o f   a c c ura c y   a n d   p r o c e s s i n g   t i m e   i o r de t o   o b t a i t h e   b e s t   m o de l .   T h e s e   m o de l s   a r e   A l e xN e t V G G 16,   G o o gl e N e t ,   a n d   R e s t N e t 50.   T h e   f i n d i n gs   o f   t h e   s t u d y   s h o w e t ha t   R e s N e t   h a s   t h e   hi g h e s t   a c c ur a c y ,   b ut   i t   i s   t h e   s l o w e s t   o n e .   I c o n t ra s t ,   A l e xN e t   i s   t h e   f a s t e s t   m o de l ,   b ut   w i t t h e   l o w e s t   a c c ur a c y .   H ow e ve r ,   a s   t h e   de pt h   o f   t h e   m o de l   i n c r e a s e s ,   t h e   a c c u r a c y   o f   t h e   n e t w o r i m p r o v e s ;   a s   l o n g   a s ,   i t   t a ke s   i nt o   a c c o un t   t h e   ov e r f i t t i n g   i s s ue .   S uc m o de l s   a r e   t ra i n i n g   a n d   t e s t i n g   o g e n e ra l - pu r po s e   pr o c e s s o r   (CP U ).   T h e   p r o c e s s i n g   t i m e   r a nge b e t w e e n   1. t o   1. 9   s e c o n ds .   A   h a rdw a r e   pa ra l l e l   u n i t   (G P U i s   e m p l o y e t o   a c c e l e r a t e   t h e   m o de l   pe r f o r m a n c e .   T h e   b oo s t e pe r f o r m a n c e   i s   r a nge f r o m   63  t o   144  t i m e s .   T h us ,   t h e s e   m o de l s   b e c o m e   m o r e   a pp r o pri a t e   f o r   r e a l - t i m e   pu rpo s e s .       R EF ER EN C ES   [ 1]   M .   G .   E r t o s un   a nd   D .   L .   R u bi n ,   " A ut o m a t e G r a d i ng   o f   G l i o m a s   u s i ng   D e e L e a r ni ng   i n   D i g i t a l   P a t ho l o gy   I m a g e s :   A   m o dul a r   a ppr o a c w i t h   t he   e ns e m b l e   o f   c o nvo l ut i o na l   ne ur a l   n e t w o r ks , "   A M I A   A n nu .   Sy m p .   p r oc e e di ng s .   A M I A   Sy m p. ,   v o l .   2 015 ,   pp.   1 899 - 190 8,   20 15.     [ 2]   W .   H .   I br a hi m ,   A .   A .   A .   O s m a n ,   a n d   Y .   I .   M o ha m e d ,   " M R I   b r a i n   i m a g e   c l a s s i f i c a t i o n   u s i ng   ne ur a l   n e t w o r k s , "   P r oc .   -   20 13  I n t .   C on f .   C om pu t .   E l e c t r .   E l e c t r on .   E n g. '   R e s e ar c M a k e s   D i f f e r .   I C C E E E   2 013 ,   p p.   253 - 25 8,   201 3 do i :   10. 1 109 / I C C E E E . 2013 . 66 3394 3 .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   22 ,   N o .   1 A p r i l   20 21   :     252   -   2 59   258   [ 3]   A .   I ş i n,   C .   D i r e ko ǧ l u,   a nd   M .   Ş a h ,   " R e v i e w   o f   M R I - ba s e B r a i n   T um o r   I m a g e   S e g m e nt a t i o U s i ng   D e e L e a r n i ng   M e t ho ds , "   P r oc e di a   C om p ut .   Sc i . ,   v o l .   10 2,   no .   A ug us t ,   pp .   317 - 32 4,   201 6 do i :   10. 1 016 / j . p r o c s . 2016 . 0 9. 4 07 .   [ 4]   H .   M o hs e n ,   E . - S .   A .   E l - D a hs h a n ,   E . - S .   M .   E l - H o r ba t y ,   a nd  A . - B .   M .   S a l e m ,   " C l a s s i f i c a t i o us i ng   d e e p   l e a r ni ng   ne ur a l   ne t w o r ks   f o r   br a i n   t um o r s , "   F ut ur .   C om pu t .   I n f o r m at i c s   J . ,   v o l .   3 ,   no .   1,   p p.   68 - 71 ,   201 8 do i :   10. 1 016 / j . f c i j . 201 7. 1 2. 001 .   [ 5]   C .   C .   B e ns o n ,   V .   L .   L a j i s h ,   a nd   K .   R a j a m a ni ,   " B r a i t um o r   e x t r a c t i o f r o m   M R I   br a i i m a g e s   us i ng   a   m a r ke r - ba s e d   w a t e r s h e d   a l g o r i t hm , "   2 015   I nt .   C on f .   A d v .   C om put .   C om m un .   I nf o r m at i c s ,   I C A C C I   20 15 ,   p p.   3 18 - 323 ,   201 5 do i :   10. 1 109 / I C A C C I . 2015. 72 7562 8 .     [ 6]   A .   A l - B a da r ne h ,   H .   N a j a da t ,   a n A .   M .   A l r a z i q i ,   " A   c l a s s i f i e r   t o   d e t e c t   t um o r   di s e a s e   i M R I   br a i i m a g e s , "   P r oc .   2012   I E E E / A C M   I n t .   C o nf .   A d v .   S oc .   N e t w or k s   A n al .   M i n i n g,   A SO N A M   20 12 ,   pp .   784 - 7 87,   2012 do i :   10. 1 109 / A S O N A M . 2012. 142 .     [ 7]   Y .   Z h a ng ,   Z .   D o ng ,   L .   W u ,   a nd   S .   W a ng ,   " A   h y br i d   m e t ho f o r   M R I   br a i n   i m a g e   c l a s s i f i c a t i o n, "   E x pe r t   Sy s t .   A ppl . v o l .   38,   no .   8 ,   pp.   1 0049 - 10 053 ,   2011 do i :   10. 1 016 / j . e s w a . 201 1. 0 2. 012 .     [ 8]   E .   S .   A .   E l - D a h s ha n,   T .   H o s ny ,   a nd  A .   B .   M .   S a l e m ,   " H y br i i n t e l l i g e nt   t e c hni que s   f o r   M R I   b r a i n   i m a g e s   c l a s s i f i c a t i o n, "   D i gi t .   Si g nal   P r oc e s s .   A   R e v .   J . ,   v o l .   2 0,   no .   2,   p p.   4 33 - 441,   2 010 do i :   10. 101 6/ j . ds p . 2 009 . 07 . 00 2 .   [ 9]   M .   M o ha m e d   S a t h i a nd  E .   S y nt hi y a   J udi t G na n a s e l v i ,   " A e f f i c i e n t   b r a i t um o r   c l a s s i f i c a t i o b a s e o s o bs   m e t ho f o r   M R I   br a i n   i m a g e s , "   I n t .   J .   E n g.   A dv .   T e c hno l . ,   v o l .   9 ,   no .   1 ,   pp .   826 - 83 3,   201 9 do i :   10. 3 5940 / i j e a t . a 9379 . 1 0911 9 .   [ 10]   M .   P a r e e k,   C .   K .   J ha ,   a nd  S .   M uk he r j e e ,   " B r a i T um o r   C l a s s i f i c a t i o f r o m   M R I   I m a g e s   a nd  C a l c ul a t i o o f   T um o r   A r e a , " ,   v o l .   1 053 ,   pp.   73 - 83,   20 20 do i :   10 . 359 40/ i j e a t . a 93 79 . 109 11 9 .     [ 11]   A t a t ,   R a c ha d ,   L i ng j i a   L i u,   J i ns o ng   W u,   G u a ngy L i ,   C hun xua n   Y e ,   a nd  Y i   Y a ng ,   " B i g   da t a   m e e t   c y be r - ph y s i c a l   s y s t e m s :   A   pa no r a m i c   s u r v e y , "   I E E E   A c c e s s ,   v o l .   6 ,   pp .   736 03 - 736 36 ,   20 18 do i :   10. 1109 / A C C E S S . 20 18 . 287 8681   [ 12]   M .   F .   B i O t hm a n ,   N .   A bdu l l a h,   a n N .   A .   B .   A .   R u s l i ,   " A o v e r v i e w   o f   M R I   br a i c l a s s i f i c a t i o us i ng   F P G A   i m pl e m e n t a t i o n, "   I S I E A   2010 - 20 10  I E E E   Sy m p .   I nd .   E l e c t r on .   A p pl . ,   no .   I s i e a ,   pp .   6 23 - 628 ,   2 010 do i :   10. 1 109 / I S I E A . 2010. 5 6793 89 .     [ 13]   G .   L a t i f ,   S .   B .   K a z m i ,   M .   A .   J a f f a r ,   a nd   A .   M .   M i r z a ,   " C l a s s i f i c a t i o a nd   S e g m e nt a t i o o f   B r a i n   T um o r   U s i ng   T e x t u r e   A na l y s i s , "   R e c e nt   A dv .   A r t i f .   I nt e l l .   K now l .   E ng .   D a t a   B a s e s ,   pp .   14 7 - 155,   20 10.     [ 14]   A .   K ha r r a t ,   M .   B e n   M e s s a o ud ,   M .   A bi d ,   K .   G a s m i ,   a nd   N .   B e n a m r a n e ,   " A ut o m a t e d   c l a s s i f i c a t i o n   o f   M a g ne t i c   R e s o na nc e   b r a i n   i m a g e s   u s i ng   W a v e l e t   G e n e t i c   A l g o r i t hm   a nd   S up po r t   V e c t o r   M a c hi ne , "   P r oc .   9t I E E E   I n t .   C o nf .   C ogn.   I nf or m a t i c s ,   I C C I   2 010 ,   pp.   3 69 - 374 ,   2010 do i :   10. 1 109 / C O G I N F . 2010 . 55 9971 2 .     [ 15]   V .   S he e j a kum a r i   a nd   B .   S a nka r a   G o m a t h i ,   " M R I   br a i n   i m a g e s   he a l t hy   a nd  pa t ho l o g i c a l   t i s s u e   c l a s s i f i c a t i o n   w i t h   t h e   a i d   o f   i m p r o v e pa r t i c l e   s w a r m   o pt i m i z a t i o n   a nd   ne u r a l   ne t w o r k, "   C om put .   M at h.   M e t ho ds   M e d. ,   v o l .   20 15 ,   2015 do i :   10. 1155 / 2 015 / 807 826 .     [ 16]   A .   A hm a dv a nd,   M .   S ha r i f i f a r ,   a nd  M .   R .   D a l i r i ,   " S upe r v i s e s e g m e nt a t i o o f   M R I   br a i n   i m a g e s   u s i ng   a   c o m bi na t i o o f   m ul t i p l e   c l a s s i f i e r s , "   A u s t r al as .   P hy s .   E ng .   Sc i .   M e d. ,   v o l .   3 8,   no .   2,   pp.   241 - 25 3,   201 5 do i :   10. 1007 / s 1324 6 - 015 - 0352 - 7 .     [ 17]   C .   S a h a   a n d   M .   F .   H o s s a i n ,   " M R I   b r a i n   t um o r   i m a g e s   c l a s s i f i c a t i o us i ng   K - m e a n s   c l us t e r i ng ,   N S C T   a nd   S V M , "   2017   4 t h   I E E E   U t t ar   P r ade s h   Se c t .   I n t .   C onf .   E l e c t r .   C om p ut .   E l e c t r on .   U P C O N   2017 ,   v o l .   201 8 - J a nu a ry ,   pp .   3 29 - 333,   2 017 do i :   10. 110 9/ U P C O N . 20 17. 8251 069 .     [ 18]   E .   I .   Z a c ha r a k i   e t   a l . ,   " C l a s s i f i c a t i o o f   br a i t um o r   t y pe   a nd  g r a de   u s i ng   M R I   t e xt ur e   a nd  s ha pe   i n   a   m a c hi n e   l e a r n i ng   s c he m e , "   M agn .   R e s o n.   M e d. ,   v o l .   62 ,   no .   6 ,   pp .   1609 - 16 18,   2 009 do i :   10. 1002 / m r m . 22 147 .     [ 19]   F .   S h i ,   Y .   F a n,   S .   T a ng ,   J .   H .   G i l m o r e ,   W .   L i n ,   a nd   D .   S h e n ,   " N e o na t a l   br a i n   i m a g e   s e g m e n t a t i o n   i n   l o ng i t u di n a l   M R I   s t ud i e s , "   N e ur oi m age ,   v o l .   49 ,   no .   1,   pp .   391 - 40 0,   20 10 do i :   1 0. 10 16/ j . ne ur o i m a g e . 2009 . 07 . 0 66 .     [ 20]   A l z uba i di ,   L . ,   A l - A m i di e ,   M . ,   A l - A s a di ,   A . ,   H um a i di ,   A .   J . ,   A l - S h a m m a ,   O . ,   F a d he l ,   M .   A . ,   . . .   &   D ua n ,   Y .   ( 2021 ) .   N ov e l   T r a n s f e r   L e a r n i ng   A ppr o a c f o r   M e di c a l   I m a g i ng   w i t h   L i m i t e L a be l e d   D a t a .   C a nc e r s ,   1 3( 7 ) ,   1 590 .   [ 21]   L.   A l z uba i di ,   A l - S ha m m a   O ,   F a dh e l   M A ,   F a r ha n   L ,   Z ha ng   J,   " C l a s s i f i c a t i o o f   r e d   bl o o c e l l s   i s i c k l e   c e l l   a n e m i a   us i ng   de e c o nv o l ut i o na l   ne ur a l   ne t w o r k , "   I I n t e r na t i o na l   C onf e r e nc e   on   I nt e l l i ge nt   Sy s t e m s   D e s i gn   a nd   A ppl i c a t i ons pp .   550 - 55 9,   S p r i ng e r ,   C ha m ,   D e c   6   201 8 d o i :   1 0. 100 7/ 9 78 - 3 - 0 30 - 1 66 57 - 1 _5 1 .     [ 22]   R I.   H a s a n,   Y u s uf   S M ,   A l z uba i d i   L ,   " R e v i e w   o f   t he   S t a t e   o f   t h e   A r t   o f   D e e p   L e a r ni ng   f o r   P l a n t   D i s e a s e s :   A   B r o a d   A na l y s i s   a nd   D i s c us s i o n, "   P l an t ,   v o l .   9 ,   no .   10 ,   p .   1 302 ,   2020   O c t do i :   10. 3390 / p l a n t s 9101 302 .     [ 23]   O .   A l - S ha m m a ,   F a dh e l ,   M .   A ,   H a m e e d ,   R .   A ,   A l z uba i d i ,   L a nd   Z h a ng ,   J ,   B o o s t i ng   c o n vo l ut i o na l   n e ur a l   ne t w o r ks   pe r f o r m a nc e   b a s e o n   F P G A   a c c e l e r a t o r ,   I n   I nt e r na t i ona l   C onf e r e nc e   on   I nt e l l i ge nt   Sy s t e m s   D e s i gn   and   A ppl i c a t i ons ,   S p r i ng e r ,   C ha m ,   pp .   509 - 517 ,   D e c e m be r   2 018 d oi :   10 . 1 0 07/ 9 78 - 3 - 03 0 - 1 66 57 - 1 _4 7 .     [ 24]   L.   A l z uba i d i ,   A l - S ha m m a   O ,   F a dh e l   M A ,   A r ka h   Z M ,   A w a F .   H ,   A   D e e p   C o nv o l ut i o na l   N e ur a l   N e t w o r k   M o de l   f o r   M ul t i - c l a s s   F r ui t s   C l a s s i f i c a t i o n,   I I nt e r na t i ona l   C on f e r e nc e   on  I nt e l l i ge nt   Sy s t e m s   D e s i gn   a nd  A pp l i c at i o ns pp.   90 - 99 ,   S pr i ng e r ,   C ha m ,   D e c   3   201 9 d oi :   10. 1 00 7/ 97 8 - 3 - 03 0 - 49 3 42 - 4 _9 .     [ 25]   L .   a   G a t y s ,   A .   S .   E c ke r ,   a nd   M .   B e t hg e ,   " A   N e ur a l   A l g o r i t hm   o f   A r t i s t i c   S t y l e , "   a r X i v   P r e pr . ,   pp .   1 - 16 ,   2 015 do i :   10. 1 167 / 16 . 12 . 32 6 .     [ 26]   C he n,   Y u - H s i n   a nd   K r i s hna ,   T u s ha r   a nd   E m e r ,   J o e l ,   a nd   S z e ,   V i v i e n ne ,   " E y e r i s s :   A E ne r gy - E f f i c i e nt   R e c o nf i g ur a bl e   A c c e l e r a t o r   f o r   D e e p   C o nv o l ut i o na l   N e ur a l   N e t w o r ks , "   i n   I E E E   I nt e r n at i on al   S ol i d - St at e   C i r c u i t s   C onf e r e nc e ,   I SSC C   2 016 ,   D i ge s t   o f   T e c hni c a l   P ape r s ,   pp.   2 62 - 263 ,   2016 do i :   10. 110 9/ J S S C . 201 6. 2 616 357 .     [ 27]   C .   A ng e r m ue l l e r ,   T .   P ä r na m a a ,   L .   P a r t s ,   a n O .   S t e g l e ,   " D e e l e a r n i ng   f o r   c om put a t i o na l   b i o l o gy , "   M ol .   Sy s t .   B i o l . v o l .   12,   no .   7 ,   pp.   1 - 16 ,   201 6 do i :   10. 1525 2/ m s b. 2015 6651 .     [ 28]   V .   N a i r   a nd   G .   E .   H i n t o n,   " R e c t i f i e d   L i n e a r   U ni t s   I m pr o v e   R e s t r i c t e d   B o l t z m a nn   M a c hi n e s , "   P r o c .   27t h   I nt .   C on f .   M ac h.   L e ar n . ,   no .   3 ,   pp .   8 07 - 814 ,   201 0.     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A ut om a t e br a i t um or   c l as s i f i c a t i on   us i n v ar i ous   de e p   l e a r ni ng  m o de l s :   a …  ( A l aa   A hm e d   A b bood )   259   [ 29]   G .   E .   D a h l ,   T .   N .   S a i n a t h ,   a nd   G .   E .   H i n t o n,   " I m pr o v i ng   D e e N e ur a l   N e t w o r ks   f o r   { L V C S R }   U s i ng   R e c t i f i e L i ne a r   U ni t s   a n D r o po ut , "   I E E E   I n t .   C onf .   A c ous t .   Spe e c S i gnal   P r o c e s s . ,   pp .   860 9 - 8613 ,   20 13 do i :   10. 1 109 / I C A S S P . 2013 . 66 3934 6 .     [ 30]   A .   K r i z he v s ky ,   I .   S ut s k e v e r ,   a nd  G .   E .   H i n t o n,   " I m a g e N e t   C l a s s i f i c a t i o w i t h   D e e C o nv o l ut i o na l   N e ur a l   N e t w o r k s , "   A dv .   N e ur a l   I n f .   P r oc e s s .   Sy s t . ,   p p.   1 - 9,   2 012 do i :   10. 11 45/ 3065 38 6 .     [ 31]   L . A l z uba i di ,   F a d he l ,   M .   A . ,   A l - S ha m m a ,   O . ,   Z ha ng ,   J . ,   a nd  D u a n ,   Y ,   " D e e L e a r n i ng   M o de l s   f o r   C l a s s i f i c a t i o o f   R e B l o o C e l l s   i n   M i c r o s c o p y   I m a g e s   t o   A i d   i n   S i c kl e   C e l l   A ne m i a   D i a g no s i s , "   E l e c t r on i c s v o l .   9 ,   no .   3 p .   427 ,   2020 do i :   10. 339 0/ e l e c t r o ni c s 90 3042 7 .     [ 32]   L . A l z uba i di ,   A l - S ha m m a ,   O . ,   F a d he l ,   M .   A . ,   F a r ha n ,   L . ,   Z ha ng ,   J . ,   a n D ua n,   Y ,   " O p t i m i z i ng   t h e   pe r f o r m a nc e   o f   br e a s t   c a nc e r   c l a s s i f i c a t i o by   e m pl oy i ng   t he   s a m e   do m a i n   t r a ns f e r   l e a r ni ng   f r o m   hy br i d e e p   c o nvo l ut i o na l   ne u r a l   ne t w o r k   m o de l " ,   E l e c t r oni c s ,   v o l .   9 , no .   3,   pp .   445 ,   20 20 do i :   10. 33 90/ e l e c t r o ni c s 903 0445 .     [ 33]   L.   A l z uba i d i ,   F a d he l ,   M .   A ,   O l e i w i ,   S .   R ,   A l - S ha m m a ,   O a nd   Z h a ng ,   J ,   " D F U _Q U T N e t :   di a be t i c   f o o t   ul c e r   c l a s s i f i c a t i o us i ng   no v e l   de e p   c o nvo l ut i o na l   ne u r a l   n e t w o r k , "   M ul t i m e di T oo l s   and  A pp l i c at i o ns ,   pp .   1 - 23 ,   2 019 do i :   10. 1007 / s 1104 2 - 019 - 0782 0 - w   [ 34]   L.   A l z uba i d i ,   F a dh e l   M A ,   A l - S ha m m a   O ,   Z ha ng   J ,   S a n t a m a r í a   J ,   D u a n   Y ,   O l e i w i   S .   R ,   " T o w a r d s   a   be t t e r   unde r s t a nd i ng   o f   t r a ns f e r   l e a r n i ng   f o r   m e d i c a l   i m a g i ng :   a   c a s e   s t u dy , "   A ppl i e S c i e nc e s ,   v o l .   10 ,   no .   13 ,   p.   452 3 2020   J a n do i :   10. 3390 / a pp10 1345 23 .     [ 35]   F a dhe l ,   M .   A ,   A l - S ha m m a ,   O ,   O l e i w i ,   S .   R ,   T a he r ,   B .   H a nd   A l z uba i d i ,   L,   " R e a l - t i m e   P C G   d i a g no s i s   us i ng   F P G A ,"   I I nt e r nat i on al   C on f e r e nc e   on  I n t e l l i ge n t   Sy s t e m s   D e s i gn  and   A p pl i c a t i o ns p p.   518 - 529 ,   S pr i ng e r ,   C h a m 2018 ,   D e c e m be r ,   d oi :   1 0. 1 0 07/ 9 78 - 3 - 0 30 - 1 66 57 - 1 _4 8 .     [ 36]   F a dhe l ,   M .   A ,   A l - S ha m m a ,   O ,   A l z uba i di ,   L a n d   O l e i w i ,   S .   R,   " R e a l - T i m e   S i c kl e   C e l l   A ne m i a   D i a g no s i s   B a s e d   H a r dw a r e   A c c e l e r a t o r , "   I I nt e r na t i ona l   C onf e r e nc e   on   N e w   T r e nds   i I n f or m a t i on   and   C om m un i c at i on s   T e c hn ol ogy   A ppl i c a t i ons pp .   189 - 19 9,   S p r i ng e r ,   C ha m ,   202 0,   J une ,   d oi :   1 0. 1 00 7/ 9 78 - 3 - 0 30 - 5 53 40 - 1 _1 4 .     [ 37]   F a dhe l ,   M .   A ,   A l - S ha m m a ,   O a nd   A l z uba i d i ,   L,   " H a r dw a r e   A c c e l e r a t o r   f o r   R e a l - T i m e   H o l o g r a phi c   P r o j e c t o r , "   I n   I nt e r n at i on al   C on f e r e nc e   on   I n t e l l i ge n t   S y s t e m s   D e s i gn  and   A pp l i c at i on s p p.   13 2 - 139,   S pr i ng e r ,   C h a m ,   20 19 ,   D e c e m be r ,   d oi :   1 0. 10 07 / 9 78 - 3 - 0 30 - 4 93 4 2 - 4 _ 13 .     [ 38 ]   A l z uba i di ,   L . ,   Z ha ng ,   J . ,   H um a i di ,   A .   J . ,   A l - D uj a i l i ,   A . ,   D u a n ,   Y . ,   A l - S ha m m a ,   O . ,   . . .   &   F a r h a n ,   L .   ( 2021 ) .   R e v i e w   o f   de e l e a r n i ng :   c o n c e pt s ,   C N N   a r c hi t e c t ur e s ,   c ha l l e ng e s ,   a p pl i c a t i o ns ,   f ut ur e   d i r e c t i o ns .   J o ur na l   o f   B i g   D a t a ,   8 ( 1 ) ,   1 - 74.   [ 39 ]   J .   C o ng   a nd  B .   X i a o ,   " M i ni m i z i n g   C om put a t i o i C o n vol ut i ona l   N e ur a l   N e t w o r ks , "   I nt .   C on f .   A r t i f .   N e ur a l   N e t w or k s ,   p p .   281 - 290 ,   201 4 d o i :   1 0. 10 0 7/ 9 7 8 - 3 - 319 - 1 1 17 9 - 7_ 36 .     [ 40]   J .   X u ,   T .   M e i ,   T .   Y a o ,   a nd   Y .   R u i ,   " M S R - V T T :   A   l a r g e   v i de o   de s c r i pt i o n   da t a s e t   f o r   b r i dg i ng   v i de o   a n d   l a ng ua g e , "   P r oc .   I E E E   C om pu t .   Soc .   C on f .   C om pu t .   V i s .   P at t e r n   R e c ogn i t . ,   v o l .   2016 - D e c e m be r ,   pp .   52 88 - 5296 ,   201 6.     [ 4 1 ]   M .   R a s t e g a r i ,   V .   O r do ne z ,   J .   R e dm o n,   a nd   A .   F a r ha d i ,   " X N O R - ne t :   I m a g e ne t   c l a s s i f i c a t i o u s i ng   bi n a r y   c o n vo l ut i o na l   ne u r a l   ne t w o r ks , "   L e c t .   N o t e s   C om p ut .   Sc i .   ( i n c l udi ng  S ubs e r .   L e c t .   N o t e s   A r t i f .   I nt e l l .   L e c t .   N o t e s   B i o i nf or m a t i c s ) ,   v o l .   9 908   L N C S ,   pp.   5 25 5 42,   2 016 d oi :   1 0. 1 0 07/ 97 8 - 3 - 31 9 - 46 4 93 - 0 _3 2   [ 42]   K a g g l e :   ht t ps : / / w w w . k a g g l e . c o m / r us l a n kl / br a i n - t um o r - de t e c t i o n - v1 - 0 - c nn - vgg - 16.   [ 43]   G i t h ub:   ht t ps : / / g i t hub . c o m / M o ha m e dA l i H a b i b / B r a i n - T um o r - D e t e c t i o n.   [ 44]   B r a i t um o r :   ht t ps : / / b r a i nt um o r . o r g / br a i n - t um o r - i nf o r m a t i o n/ .   Evaluation Warning : The document was created with Spire.PDF for Python.