I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   17 ,   N o .   2 F e b r ua r y   20 20 ,   pp .   10 14 ~ 10 20   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 1 7 .i 2 . pp1 0 14 - 10 20             1014       Jou r n al   h o m e pa ge :   ht t p: / / i j e e c s . i a e s c or e . c om   E n sem b l e   d e e p   l e a r n i n g   f o r   t u b e r c u l o s i s det e c t i o n       M o h d   H an afi   A h m ad   H i jaz i 1 Le o n Q i   Y an g 2 R a yn e r   A l fr e d 3 H ai r u l n i z am   M ah d i n 4 ,   R a z al i   Y a ak o b 5   1 ,2 F a c ul t y   o f   C om put i ng   a nd   I nf o r m a t i c s ,   U n i v e r s i t i   M a l a y s i a   S a ba h,   M a l a y s i a     3 K no w l e dg e   T e c hno l o gy   R e s e a r c U n i t ,   F a c ul t y   o f   C o m put i ng   a nd   I n f o r m a t i c s ,   U ni v e r s i t i   M a l a y s i a   S a ba h,   M a l a y s i a   4 F a c ul t y   of   C o m put e r   S c i e nc e   a n I nf o r m a t i o T e c hno l o gy ,   U ni v e r s i t i   T un   H u s s e i n   O nn   M a l a y s i a ,   M a l a y s i a   5 F a c ul t y   of   C o m put e r   S c i e nc e   a n I nf o r m a t i o T e c hno l o gy ,   U ni v e r s i t i   P u t r a   M a l a y s i a ,   M a l a y s i a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e A pr   3 ,   201 8   R e v i s e J un   4 ,   201 8   A c c e pt e J un   18 ,   201 8       T ube r c u l o s i s   ( T B )   i s   o ne   o f   t h e   d e a d l i e s t   i nf e c t i o us   d i s e a s e   i n   t he   w o r l d.     T B   i s   c a us e by   a   t y pe   o f   t ube r c l e   b a c i l l u s   c a l l e d   M y c oba c t e r i um   T ube r c u l o s i s .   E a r l y   de t e c t i o o f   T B   i s   pi v o t a l   t o   de c r e a s e   t he   m o r bi d i t y   a nd  m o r t a l i t y .   T B   i s   di a g no s e by   us i ng   t h e   c he s t   x - r a y   a nd  a   s put um   t e s t .   C ha l l e ng e s   f o r   r a d i o l o g i s t s   a r e   t o   a v o i c o nf us e a nd  m i s di a g no s e   T B   a nd  l ung   c a nc e r   be c a us e   t h e y   m i m i c   e a c o t he r .   S e m i - a ut o m a t e T B   de t e c t i o us i ng   m a c h i ne   l e a r ni ng   f o und  i n   t h e   l i t e r a t u r e   r e q ui r e s   i de n t i f i c a t i o o f   o bj e c t s   o f   i nt e r e s t .   T he   s i m i l a r i t y   of   t i s s ue s ,   v e i n s   a nd  s m a l l   no dul e s   pr e s e n t i ng   t he   i m a g e   a t   t h e   i n i t i a l   s t a g e   m a y   ha m pe r   t he   de t e c t i o n.   I t hi s   pa pe r ,   a a ppr o a c t o   de t e c t   T B ,   t ha t   do e s   no t   r e qu i r e   s e g m e nt a t i o o f   o bj e c t s   o f   i nt e r e s t ,   ba s e o e n s e m b l e   d e e l e a r n i ng ,   i s   p r e s e n t e d .   E v a l ua t i o o publ i c l y   a v a i l a bl e   da t a s e t s   s ho w   t ha t   t he   p r o po s e a p pr o a c p r o duc e d   m o de l   t ha t   r e c o r de t he   be s t   a c c ur a c y ,   s e ns i t i v i t y   a nd  s pe c i f i c i t y   o f   91 .0 % ,   89. 6 %   a n 90. 7 %   r e s pe c t i v e l y .   Ke y w or d s :   D e e l e a rni n g   E n s e m b l e     Im a ge   c l a s s i f i c a t i o n   M e di c a l   i m a ge   a na l y s i s   T ub e r c ul o s i s   de t e c t i o n   C opy r i gh t   ©   20 20   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e   A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   M o h H a n a f i   A hm a H i j a z i   F a c ul t y   of   Co m put i n g   a n d   I n f o r m a t i c s ,   U n i v e r s i t i   M a l a y s i a   S a b a h ,   J a l a U M S ,   884 00  K o t a   K i na b a l u ,   S a b a h ,   M a l a y s i a .   E m a i l :   h a na f i @ u m s . e du . m y       1.   I N TR O D U C TI O N   T ub e r c ul o s i s   (T B i s   c a us e by   t h e   b a c t e r i a   M y c ob a c t e r i u m   t ub e r c ul o s i s ,   a nd  i t   m o s t   o f t e n   a ff e c t s     t h e   l u n gs ,   i t   i s   a   po t e n t i a l l y   s e r i o us   i n f e c t i o us   di s e a s e .   Curr e n t l y ,   i t h e   g l o b a l   201 8   t ub e r c ul o s i s   r e po r t ,     t h e   W o r l H e a l t h   O rga ni z a t i o n   (W H O e s t i m a t e t ha t   1. 6   m i l l i o n   pe o pl e   b e i n i n f e c t e by   T B   di e (1. 2 - 1. 4   m i l l i o n   H IV - n e ga t i v e   a n 0. 3   m i l l i o n   H IV - po s i t i v e a n 10. 0   m i l l i o n   ha f a l l e n   i l l   [ 1 ] .   A m o ngs t   H IV   pa t i e nt s ,   T B   i s   t h e   l e a di ng  c a us e   o f   de a t [ 1 ].   T ub e r c ul o s i s   di a g n o s e m o s t l y   us i n t h e   s ki n   t e s t ,   c h e s t   x - ra y   a n a   s put um   t e s t   [ 2 ] .   X - ra y s   (CX R )   c a n   de t e c t   T B   t o   a   c e r t a i n   e x t e nt ,   b u t   i t   c a nn o t   gua ra n t e e   w h e t h e r   t h e   pa t i e n t   ha s   T B   o r   s o m e   o t h e r   i n f e c t i o n   due   t o   di f f i c ul t i e s   i n   i de n t i f y i n m a l i g na n t   [ 3 ] .   N e v e r t h e l e s s ,   CX R   ha s   b e c o m e   a n   i m po r t a nt   t o o l   t o   de t e c t   T due   t o   t h e   i n c r e a s e a v a i l a b i l i t y   of   r a di o gra p h y ,   i n   p a r t i c ul a r   di g i t a l   r a di o gra p h y ,   w i t h   b e t t e r   i m a ge   qua l i t y   a n s a f e t y   [ 4 ].   E a rl y   d e t e c t i o n   of   l un r e l a t e di s e a s e s   s uc h   t ub e r c ul o s i s   i s   pi vo t a l   t o   de c r e a s e   t h e   m o r b i di t y   a n m o r t a l i t y   [ 5 ].   H ow e ve r ,   i n   M a l a y s i a   m o s t   l u n c a n c e r   a n t ub e r c ul o s i s   c a s e s   a r e   d i a g n o s e l a t e   h e n ce  r e duc e s   c h a n c e   o f   s ur v i v a l   [ 6 ] .   F o r   c e nt u r y ,   c h a l l e n ge s   f o r   ra di o l o gi s t s   t o   a v o i c o n f us e a n m i s d i a g n o s e   t ub e r c ul o s i s   t o   o t h e r   l u n r e l a t e di s e a s e s   b e c a us e   t h e y   m i m i c   e a c h   o t h e r   [ 7 ].   A   s e m i - a ut o m a t e s y s t e m   t e ffe c t i ve l y   c l a s s i fy   pul m o n a r y   n o dul e s   w i t h   l o w   f a l s e   p o s i t i v e   r a t e   i s   de e m e n e c e s s a r y   t o   a s s i s t   r a d i o l o gi s t   t o   s c r e e n   t h e   c h e s t   ra di o g r a p i m a ge s   [ 8 ].   T h e   a pp l i c a t i o n   o f   m a c hi n e   l e a rni n a n i m a ge   p r o c e s s i n a ppr o a c h e s   o n   m e di c a l   i m a ge s   ha v e   b e e n   w i de l y   us e d,   a   c o m pr e h e n s i v e   r e v i e w   i s   pr e s e n t e i n   [ 9 ]   a n d   s o m e   e xa m pl e s   c a n   b e   fo un i n   [ 1 0 11 ].     T h o s e   w o r ha v e   pr o duc e s upe r i o c l a s s i f i c a t i o n   pe r f o r m a n c e   c o m pa r e t o   c o n v e n t i o n a l   a p p r o a c h.   W i t Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E ns e m b l e   de e p   l e ar ni ng   f or   t ube r c ul os i s   d e t e c t i on   ( Mohd  H a naf i   A hm ad  H i j az i )   1015   r e s pe c t   t o   s e m i - a u t o m a t e t ub e r c ul o s i s   de t e c t i o n ,   e xa m pl e s   of   pr e v i o us   w o r ha v e   b e e n   r e po r t e   i n   [ 9,   12 ,   1 3 ] .   T w o   s e t s   o fe a t ur e s ,   i n   t h e   f o r m   of   ob j e c t   d e t e c t i o n   b a s e a n c o n t e nt   b a s e fe a t ur e s ,   w e r e   e xt ra c t e f r o m   t h e   i m a ge s   w i t h   S u ppo rt   V e c t o r   M a c hi n e   ( S V M w a s   e m pl oy e a s   c l a s s i f i e r   [ 9 ].   T h e   b e s t   a c c ur a c y   of   84. 1%  w a s   r e c o r de w h e n   a ppl i e o n   t h e   S h e nz h e n   da t a s e t .   A n o t h e r   w o r t ha t   a ppl i e i m a ge   r e gi s t ra t i o b e fo r e   o bj e c t   b a s e f e a t ur e s   w e r e   e xt ra c t e t o   de t e c t   t ub e r c ul o s i s   r e c o r de t h e   b e s t   a c c ur a c y   of  60%  [ 1 2 ].   I [1 3 ] ,   di f f e r e n t   t y pe s   of   f e a t ur e s   a n d   a na l y s i s   w e r e   e m p l oy e t o   i m p r o v e   t h e   c l a s s i f i c a t i o r e s ul t .   R e c e n t l y ,   de e l e a rn i ng  a r c hi t e c t u r e s   h a v e   b e e n   e m pl o y e t o   l e a rn   f e a t u r e s   f r o m   t h e   m e di c a l     i m a ge s   [1 4 ].   D e e l e a rni n i s   a n   a pp r o a c h   t ha t   a pp l i e s   de e a r c hi t e c t u r e s   t ha t   i n c l ude   m a n y   l a y e r s   of   n o n - l i n e a r   i n f o r m a t i o n   p r o c e s s i n t o   l e a rn  f e a t ur e s   f r o m   da t a   [ 1 5 ].   T h e   de e l e a rni n t e c hn i que s   a r e   c a t e go ri z e i n t o   t w o ;   de e di s c r i m i na t i v e   n e t w o r s uc h   a s   Co n v o l ut i o n   N e ura l   N e t w o r (CN N a nd  u n s upe r v i s e   m e t h o s uc h   a s   de e b e l i e f   n e t w o r (D B N ).   D e e l e a rn i n c o m put e s   h i e ra r c h i c a l   f e a t u r e s   f r o m   i m a ge s .   T h e   hi g h e r   l e v e l   fe a t ur e s   a r e   de f i n e f r o m   l o w e r   l e ve l   fe a t u r e s .   I t s   a b i l i t y   t o   l e a rn   f e a t u r e s   a t   t h e   hi g h e r   l e v e l   h a s   b e e n   s h o w n   t o   pr o duc e   be t t e r   r e s ul t s .   E xa m p l e s   of   w o r t ha t   e m p l oy s   d e e l e a r ni n g ,   i n   p a r t i c ul a r   CN N ,   t o   de t e c t   t ub e r c ul o s i s   c a n   b e   fo un i n   [1 6 ]   a n d   [1 7 ].   U s i n a   c us t o m i z e CN N   pr o duc e t h e   b e s t   a c c ur a c y   of  82. 09 [1 6 ] .   I n   [1 7 ] ,   a n   o pt i m i z e CN N   a r c h i t e c t u r e   w a s   pr o pos e w h e r e   t h e y   m a na ge   t o   r e duc e   t h e   a m o u n t   of   c o m put a t i o w i t h o ut   s a c r i f i c i n t h e   pe r f o r m a n c e .   T h e   b e s t   a c c ur a c y   r e po r t e w a s   79. 0%  a n 84. 4%  f o r   M o n t go m e r y   a n S h e nz h e n   d a t a s e t s   r e s pe c t i v e l y .   In   m a c h i n e   l e a rni n do m a i n,   e n s e m b l e   b a s e c l a s s i f i e r s   a r e   w i de l y   us e t o   b ui l pr e d i c t i v e   m o de l   by   i n t e g ra t i ng  m ul t i pl e   m o de l s   [ 1 8 ] .   T h e r e   a r e   a   n u m b e r   o f   di f fe r e nt   e n s e m b l e   t e c hn i que s ,   t h e   m o s t   us e a r e   b a ggi n a n b o os t i ng.   T h e   b a ggi ng  m e t h o c o n s i de r s   v a r i o us   o ut put s   of   l e a rn e c l a s s i f i e r s   i nt o   a   s i n g l e   pr e di c t i o n   by   m e a n s   o f   v o t i n w h i l e   t h e   b oo s t i n a p p r o a c h   re pe a t e dl y   r u nn i ng  a   w e a l e a rn e r   o n   d i f fe r e nt   s e t   of   t r a i ni n d a t a   a n t h e n   c o m b i n e s   i nt o   a   s i n g l e   s t r o n c l a s s i f i e r .   T o   t h e   b e s t   o o ur   k n o w l e dge ,   t h e r e   a r e   l i m i t e n u m b e r   o f   pr e v i o us   w o r c o n s i de r   e n s e m b l e   of   de e l e a rn i ng  a r c h i t e c t ur e s   t o   l e a rn   f e a t u r e s   fo r   T B   de t e c t i o n ,   s o m e   e xa m pl e s   c a n   b e   f o un d   i [ 19 - 21 ] .   H ow e v e r ,   t h e   w o r p r e s e nt e l i m i t e a t   t h e   p r e - t ra i n e d   CN N   (G o o gL e n e t ,   R e s N e t   a n V ggN e t )   f e a t u r e s   o n l y   [ 19 ],   w h e r e   t h e   b e s t   a c c ura c y   r e c o r de w as   84. 7 o   t h e   S h e nz h e da t a s e t .   T h e   w o r p r e s e n t e i [ 2 0 ]   e m p l oy s   A l e xN e t   a n G o o gl e N e t   w i t h   e xc e s s i ve   a ugm e nt a t i o n   (i n c l udi ng  r a d i o l o gi s t s   i nt e r v e nt i o n a n r e c or de a n   A r e a   U n de r   Cu r v e   (A U C)  o 99%   us i n g   pr e - t ra i n e m o de l s A n   a ddi t i o n a l   c o n v o l ut i o n a l   l a y e r   f o r   fe a t u r e   e xt r a c t i o n   o t o o f   t h e   b a s i c   CN N   w a s   pr o po s e i [ 2 1 w h e r e by   a a c c ura c y   o f   84%  w a s   r e c o r de fo r   S h e n z h e da t a s e t .   B a s e o n   t h e   l i t e r a t u r e ,   m o r e   w o r i s   r e qui r e to   a c h i e v e   be t t e r   TB   de t e c t i o r a t e ,   i n   i t s   e a r l y   s t a ge     i n   pa rt i c ul a r,   w i t h   m i ni m a l   h um a n   i n t e r v e n t i o n .   I n   t hi s   pa pe r,   a n   a pp r o a c h   t o   e n s e m b l e   di f fe r e n t   a r c h i t e c t u r e s   of   de e l e a rni n g   f o r   t ub e r c ul o s i s   de t e c t i o n   i s   p r e s e nt e d.   T h e   c o n t ri b ut i o o f   t hi s   p a pe r   i s   a s   f o l l ow :   a)   T hr e e   di f f e r e n t   de e l e a rni n g   a r c h i t e c t u r e s   w e r e   e m pl oy e t pe r f o r m   t ub e r c ul o s i s   de t e c t i o n .   b)   E n s e m b l e   t e c hn i que   i t h e   f o r m   o f   s o f t   vo t i n us e t o   c o m b i n e   t h e   di f f e r e n t   de e l e a rni n g   a r c h i t e c t ur e s   e m pl oy e i n   t ub e r c ul o s i s   de t e c t i o n .     T h e   p r o po s e e n s e m b l e   de e l e a rn i ng ,   i t h e   f o r m   o f   CN N ,   fo r   t ub e r c ul o s i s   de t e c t i o i s   p r e s e n t e i S e c t i o 2.   S e c t i o 3   de s c r i b e s   t h e   e x pe ri m e nt a l   s e t up   a nd  d i s c us s i o n   of   r e s ul t s .   S e c t i o 4   c o n c l ude s   t hi s   p a pe r .       2.   TH E   P R O P O S ED   A P P R O A C H   In   t hi s   pa pe r ,   w e   pr e s e n t   a n   a pp r o a c h   t o   de t e c t   T B   us i n e n s e m b l e   de e l e a rn i ng  c l a s s i f i e r s .   F i gu r e   s h o w s   t h e   f r a m e w o r of   T B   d e t e c t i o n   us i n e n s e m b l e   de e p   l e a rni n c l a s s i f i e r s .   I t   h a s   t hr e e   m a i n   m o dul e s :     (i i m a ge   p r e - p r o c e s s i n g ,   (i i c l a s s i f i e ge n e ra t i o n ,   a n (i i i e n s e m b l e   c l a s s i f i c a t i o n.   T h e s e   m o dul e s   w e r e   i m p l e m e nt e a c r o s s   t w o   s t a ge s ;   t h e   t r a i ni n s t a ge   f o r   de e l e a rn i ng  m o de l   ge n e r a t i o n,   a nd  t h e   t e s t   s t a ge   t o   pe r f o r m   T B   de t e c t i o n .   D e t a i l s   of   e a c h   o f   t h e   m o dul e s   d e s c r i b e a bov e ,   w i t h   r e s pe c t   t o   t h e   p r o po s e d   a pp r o a c h,   a r e   p r e s e n t e d   i n   S ub - s e c t i o n   2 . 1   t o   2 . b e l o w .       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   17 ,   N o .   2 F e b r ua r y   2020   :     10 14   -   10 20   1016       F i gu r e   1 .   T h e   p r o po s e de e l e a rni n g   b a s e T B   de t e c t i o a p pr o a c h       2 . 1 .       I m age   P re - p r o c e s s i n g   T h e   i m a ge s   a c qui r e w e r e   f i r s t   p r e - p r o c e s s e t o   r e t a i o n l y   t h e   R e gi o n   O f   In t e r e s t   (R O I).   F i gu r e   s h o w s   a n   e xa m p l e   o f   CX R   i m a ge .   W i t r e s pe c t   t o   t h e   w o r pr e s e nt e i t hi s   p a pe r,   t h e   R O i s   t h e   l u n g   a r e a .   T o   a c hi e v e   t h i s ,   a   m a s k   o f   t h e   l u n a r e a   w a s   c o n s t ruc t e f o r   e a c CX R   i m a ge .   T h e   c o n s t r uc t e m a s k   w a s   t h e s upe r i m po s e o n   t h e   CX R   i m a ge .   F i g u r e   3   s h o w s   a n   e x a m p l e   o f   a   m a s ke i m a ge   o f   F i gur e   2 .           F i gu r e   2 .   C h e s t   X - R a y   i m a ge       F i gu r e   3 .   C h e s t   X - R a y   i m a ge   w i t R O i de n t i f i e d       2 . 2     C N N   C l as s i f i e r   G e n e r a ti o n   In  t hi s   p a pe r,   w e   e m pl oy e t hr e e   CN N   a r c h i t e c t u r e s ,   I n c e pt i o n V 3 ,   V G G 16   a n d   a   c us t o m - b ui l t   a r c hi t e c t u r e CN N   w a s   s e l e c t e due   t o   i t s   a b i l i t y   t e xt r a c t   a n l e a rn   m e a ni n gf ul   f e a t ur e s   o n   i t s   o w n   [ 8 ].     F urt h e r   r e a di ngs   o n   I n c e pt i o n V 3   a nd  V G G 16  c a n   b e   f o un i n   [2 2 a nd  [2 3 r e s pe c t i v e l y .   W i t h   r e s pe c t   t   t h e   c us t o m - b ui l t   CN N   a r c hi t e c t u r e ,   w e   r e duc e t h e   num b e r   o f   l a y e r s   t o   15 By   r e duc i n t h e   n u m b e r   o f   l a y e r s ,   l e s s   n u m b e r   o f   pa r a m e t e r s   a r e   ge n e r a t e f o r   t ra i ni n g   a n d   h e nc e   l e s s   t i m e   i s   r e qui r e t o   c o m pl e t e   t h e   t ra i ni n g .   E a c h   o f   t h e   CN N   a r c h i t e c t ur e   de s c ri b e a bo ve   ge n e r a t e i t s   ow n   m o de l   b a s e o n   t h e   p r e - t r a i n e m o de l   a n d   t h e   da t a s e t   us e i t hi s   pa pe r .   T h e   ge n e ra t e d   m o de l s   w e r e   t h e us e t o   pe r f o r m   T B   de t e c t i o n.       2 . 3     En s e m b l e   C l as s i fi c at i o n   E a c h   o f   t h e   ge n e r a t e CN N   m o de l ,   a s   de s c r i b e i t h e   f o r e go i n s ub - s e c t i o n ,   pe r f o r m ed   T de t e c t i o n   i n di v i du a l l y .   W i t h   a n   a i m   t o   pr o duc e   be t t e r   de t e c t i o n   r e s ul t ,   e n s e m b l e   c l a s s i f i c a t i o n   w a s   e m pl oy e d.     W i t h   r e s pe c t   t o   t h e   w o r p r e s e n t e i t hi s   pa pe r,   a   m a j o ri t y   v o t i n w a s   us e d.   T o   p r e di c t   t h e   f i n a l   l a b e l   of  e a c h   t e s t   i m a ge   (T B   o r   n o n - T B ),   t h e   p r e di c t i o n   m a de   by   i n d i v i dua l   CN N   m o de l   w a s   c o n s i de r e c o l l e c t i v e l y   a n l a b e l   w i t t h e   hi g h e s t   v o t e   w a s   s e l e c t e a s   t h e   f i n a l   l a b e l .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E ns e m b l e   de e p   l e ar ni ng   f or   t ube r c ul os i s   d e t e c t i on   ( Mohd  H a naf i   A hm ad  H i j az i )   1017   2 . 4     P e r fo r m an c e   M e as u r e m e n t   T o   m e a s ur e   t h e   pe r f o r m a n c e   o t h e   pr o po s e a ppr o a c h,   t hr e e   m e a s ur e m e n t   m e t ri c s   w e r e   e m pl oy e d:   s e n s i t i v i t y ,   s pe c i f i c i t y   a n a c c ura c y .   S e n s i t i v i t y   a n s pe c i f i c i t y   w e r e   us e t o   m e a s ur e   h o w   w e l l   t h e   p r o po s e d   a pp r o a c c o rr e c t l y   c l a s s i fy   T B   o r   n o n - T B   c a s e s .   A c c u r a c y   w a s   us e t o   m e a s u r e   t h e   o v e r a l l   pe r f o r m a n c e   o   t h e   p r o po s e a pp r o a c h   i de t e c t i n g   T B   c a s e s .       3.   EX P ER I M EN TA S E TU P   A N D   D I S C U S S I O N   O F   R ES U LTS   T h e   da t a s e t   us e t o   e v a l ua t e   t h e   pr o po s e w o r k,   t h e   na t u r e   o f   t h e   e xpe r i m e n t s   c o n duc t e d,     a n di s c us s i o n s   o f   t h e   r e s ul t s   o b t a i n e d   a r e   de s c r i b e i t hi s   s e c t i o n .     3. 1 .       Th e   Da tas et   T o   e v a l ua t e   t h e   pr o po s e a ppr o a c h   p r e s e nt e i n   t hi s   pa pe r ,   t w o   pu b l i c   CX R   i m a ge s ,   M o n t go m e r y   a n S h e nz h e n   da t a s e t s   [ 2 4 ] ,   a r e   us e d.   T h e   M o n t go m e r y   da t a s e t   c o n s i s t s   of   80  n o r m a l   i m a ge s   a n 58  i m a ge s   w i t h   m a n i f e s t a t i o n s   o f   T B .   T h e   s i z e   of   t h e   CX R   i s   e i t h e r   40 20× 489 pi xe l s   o r   489 40 20  pi xe l s   i n   P o r t a b l e   N e t w o r G ra p hi c s   (P N G f o r m a t .   T h e   S h e nz h e da t a s e t   c o n s i s t s   o f   662  i m a ge s ,   w h e r e   336  a r e   T B   m a ni f e s t e CX R s .   T h e   s i z e   o f   t h e   i m a ge s   a r e   a pp r o xi m a t e l y   3000× 3 000  pi xe l s .     3. 2 .       Ex p e r i m e n tal   S e tu p   T h e   a i m   o f   t h e   e xpe ri m e nt   c o n duc t e w a s   t o   e v a l ua t e   t h e   pe r f o r m a n c e   o f   t h e   p r o po s e a ppr o a c h   t o   T B   de t e c t i o n   us i n CX R   i m a ge s .   T o   a c h i e v e   t h i s ,   t w o   s e t s   of   e xpe r i m e nt s   w e r e   c o n duc t e d.   T h e   f i r s t   w a s   t o   e v a l ua t e   t h e   pe r f o r m a n c e   of   us i n d i f f e r e n t   CN N   a r c hi t e c t u re s   t o   T B   de t e c t i o n .   T h e   s e c o n w a s   c o n duc t e t c o m pa r e   t h e   pe r f o r m a n c e   o f   e n s e m b l e   of   c l a s s i f i e r s   us e i n   e xpe r i m e nt   w i t h   i n di v i du a l   c l a s s i f i e r.   T e n - f o l Cr o s s   V a l i d a t i o n   (T CV w a s   e m pl oy e d ,   w h e r e by   t h e   da t a s e t   w a s   r a n do m l y   di v i de i n t o   t e n   e qua l   s i z e s ub s e t s ;   a n d   o n   e a c h   i t e r a t i o n   o n e   s ub s e t   w a s   us e a s   t h e   t e s t   s e t   w h i l e   t h e   o t h e r   w a s   us e a s   t h e   t ra i ni n s e t .   T h e   i m a ge s   w e r e   r e s i z e t o   300× 30 pi xe l s   b e fo r e   t h e y   w e r e   f e t o   t h e   CN N   a r c hi t e c t u r e s   fo r   m o de l   ge n e ra t i o n.   T h e   s i z e   s e l e c t e i s   s i m i l a r   t o   t h e   w o r pr e s e nt e i n   [ 19 a nd  [2 0 ].   W i t h   r e s pe c t   t o   t h e   w o r k   pr e s e nt e i n   t h i s   pa pe r,   t h e   K e r a s   [ 25 i m p l e m e nt a t i o n   of   In c e pt i o n V a n V G G 16  w e r e   us e d.   B o t h   a r c hi t e c t u r e s   w e r e   p r e - t r a i n e us i n g   Im a ge n e t   d a t a s e t .     3. 3 .       Ex p e r i m e n tal   R e s u l ts   T h e   r e s ul t s   o t h e   e xpe r i m e nt s   de s c r i b e a b ove   a r e   pr e s e n t e i n   S ub - s e c t i o n   3. 3. a n 3 . 3. 2   r e s pe c t i v e l y .     3. 3 .   P e r fo r m an c e   o D i f fe r e n t   C N N   A r c h i t e c tu r e s   to   T D e t e c t i o n   In   t h i s   e xpe r i m e nt ,   t h e   i m a ge s   w e r e   c l a s s i f i e a s   e i t h e r   T B   o r   n o n - T B .   F o r   e a c h   CN N   a r c h i t e c t ur e ,   t h e   l e a rn i n ra t e   a nd  e po c h   w e r e   s e t   t o   1e - a n 15 r e s pe c t i v e l y .   S i gm o i c l a s s i f i e r   w a s   e m pl oy e t o   t r a i   t h e   m o de l .   T a b l e   s h o w s   t h e   r e s ul t s   o b t a i n e d .   T h e   b e s t   s e n s i t i v i t y ,   s pe c i f i c i t y   a n a c c ura c y   w e r e   r e c o r de b y   t h e   c us t o m - b ui l t   CN N   a r c h i t e c t u r e .       T a b l e   1 .   T h e   P e r f o r m a n c e   of  D i ff e r e n t   CN N   A r c h i t e c t ur e s   t o   T B   D e t e c t i o n   CN N   A r c h i t e c t u r e   S e n s i t i v i t y     (% )   S p e c i f i c i t y   (% )   A c c u ra c y   (% )   In c e p t i o n V 3   8 0 . 7   9 0 . 2   8 5 . 0   V G G 1 6   8 1 . 7   9 0 . 3   8 5 . 6   Cu s t o m   8 8 . 6   9 1 . 7   9 0 . 0       3. 3 .   P e r fo r m an c e   o En s e m b l e   C N N   to   T D e te c ti o n   F o r   t h e   s e c o n s e t   o f   e xpe r i m e nt ,   t h e   i n d i v i dua l   CN N   c l a s s i f i e r s   w e r e   e n s e m b l e   t o   pe r fo r m     t h e   c l a s s i f i c a t i o n .   T a b l e   2   s h o w   t h e   r e s ul t   o b t a i n e d.         T a b l e   2 .   T h e   P e r f o r m a n c e   of  E n s e m b l e   CN N   A r c hi t e c t u r e s   t o   T B   de t e c t i o n   CN N   A r c h i t e c t u r e   S e n s i t i v i t y     (% )   S p e c i f i c i t y   (% )   A c c u ra c y   (% )   E n s e m b l e   8 9 . 6   9 0 . 7   9 1 . 0       3. 4 .       A n a l ys i s   o R e s u l ts   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   17 ,   N o .   2 F e b r ua r y   2020   :     10 14   -   10 20   1018   B a s e o n   t h e   r e s ul t s   s h o w n   i n   T a b l e   a n d   2,   w e   ob s e rv e t h a t   t h e   p r o po s e e n s e m b l e   CN N   pr o duc e a n   i m p r o v e d e t e c t i o n   of   T B   c a s e s   (s e n s i t i v i t y a n o v e r a l l   a c c ur a c y   by   1%.   A l t h o ug h   t h e   s pe c i f i c i t y   i s   de c r e a s e a l s o   by   1%,   w i t h   r e s pe c t   t o   m e di c a l   i m a ge   a n a l y s i s ,   s e n s i t i v i t y   i s   d e e m e m o r e   pe r t i n e n t   a s   w e   do   n o t   w a n t   t o   m i s c l a s s i f y   p o s i t i v e   c a s e   a s   n e g a t i v e .   F u rt h e i n s pe c t i o o n   h o w   t h e   CN N   c l a s s i fy   t h e   CX R   i n t o   T B   o r   n o n - T B ,   w e   fo un t ha t   t h e   a re a   t ha t   t h e   n e t w o r w a s   fo c us   o n   w a s   bo t h   t h e   uppe l o b e s .   U s i n g   t h e   h e a t   m a o v e r l a y   ob t a i n e f r o m   t h e   f i f t h   c o n v o l ut i o na l   l a y e r   o f   In c e pt i o n V 3   c l a s s i f i e r,   F i gu r e   4   s h o w s   e xa m pl e s   w h e r e   t h e   da r pu rpl e   b a c kgr o und  r e p r e s e n t s   a r e a   t h a t   w e r e   n o t   a c t i v a t e w h i l e   t h e   da r r e d   w a s   h e a v i l y   a c t i v a t e d.   F o r   f ut u r e   w o r k,   i t   w o ul b e   r e c o m m e n de t o   f oc us   o n l y   o n   t h e   a c t i v a t e a r e a   fo r   T B   de t e c t i o n .           F i gu r e   4 .   A c t i v a t i o h e a t m a ps   o f   CX R s   us i n g   I n c e pt i o n V 3       4.   C O N C LU S I O N   T h i s   pa pe r   p r e s e nt e a n   a pp r o a c h   t o   de t e c t   T B   us i n e n s e m b l e   de e l e a rni n b a s e fe a t u r e s   a n d   m o de l s .   T hr e e   di f fe r e n t   CN N   a r c hi t e c t u r e s   w e r e   e m pl oy e d,   In c e pt i o n V 3 ,   V G G 16  a n c us t o m - b ui l t   a r c hi t e c t u r e .   T h e   r e s ul t s   o b t a i n e s h o w s   t h a t ,   t h e   e n s e m b l e   of   t h e   t hr e e   c l a s s i f i e r s   us i n m a j o r i t y   vo t i n g ,   pr o duc e t h e   b e s t   T B   de t e c t i o n   pe r f o r m a n c e .   F u r t h e r   i n s pe c t i o n   us i n I n c e pt i o n V a r c hi t e c t u r e ,   i t   i s   f o un t h a t   t h e   uppe r   l o be s   of   t h e   CX R   w e r e   t h e   m o s t   a c t i v a t e a r e a   w h i c i n d i c a t e s   t h e   s y m pt o m s   o f   T B   c o ul b e   fo un m o s t l y   i n   t h a t   a r e a .   H e n c e ,   f ut u r e   w o r m a y   f oc us   t h e   i de nt i f i c a t i o n   o f   f e a t ur e s   o n l y   o n   t h o s e   a r e a s   w h i c c o ul i m p r o v e   t h e   de t e c t i o n   pe r f o r m a n c e   w i t r e s pe c t   t o   a c c ura c y   a nd  r e duc i n g   p r o c e s s i n t i m e .       A C K N O WL ED G E M EN TS   T h i s   w o r w a s   f unde d   by   U n i v e r s i t i   M a l a y s i a   S a b a (U M S t hr o ug h   a   g ra nt   S D K 0018 - 2017   a nd  A r t i f i c i a l   I nt e l l i ge n c e   R e s e a r c U n i t ,   U M S .       R EF ER EN C ES     [ 1]   N .   F o g e l ,   T ube r c ul o s i s :   A   di s e a s e   w i t ho ut   bo unda r i e s ,   T u be r c u l o s i s ,   v o l .   9 5( 2 015 ) ,   pp .   527 - 53 1,   20 15.   [ 2]   M .   S a ba i t ,   e t   al . ,   C ha l l e ng e s   a nd  o ppo r t uni t i e s   t o   i m pr o v e   t ube r c ul o s i s   s c r e e n i ng   a m o ng   i m m i g r a nt   pl a nt a t i o w o r ke r s   i S a ba h,   M a l a y s i a ,   I nt e r n at i on al   J o ur n al   o f   P ub l i c   H e al t h ,   v o l .   5 ( 1) ,   pp .   41 - 45 ,   2 016 .   [ 3]   M .   N a s r   a nd  A .   A .   A .   E l - M a g e e d,   U s i ng   i m a g e   m i ni ng   t e c hni q u e s   f o r   o pt i m i z i ng   t he   t r e a t m e n t   m e t ho ds   o f   l ung  c a nc e r ,   J o ur n al   o f   M u l t i d i s c i p l i na r y   E ng i ne e r i ng   Sc i e nc e   an T e c hnol ogy ,   v o l .   3 ( 1) ,   pp .   3613 - 36 20 ,   2 016 .   [ 4]   W o r l H e a l t h   O r g a ni z a t i o n,   C he s t   r a di o g r a phy   i n   t u be r c ul o s i s   d e t e c t i o n,   W or l d   H e al t h   O r gan i z a t i on ,   2016 .   [ 5]   A .   O .   A nkr a h ,   e t   a l ,   T ube r c ul o s i s ,   Se m i n ar s   i n   N uc l e ar   M e di c i ne s ,   v o l .   4 8( 2 ) ,   p p.   10 8 - 130,   2 018 .   [ 6]   K .   C .   S i a ng   a nd  C .   K .   M .   J o hn,   A   r e v i e w   o f   l ung   c a nc e r   r e s e a r c i M a l a y s i a ,   M e J   M a l a y s i a ,   v o l .   71 ,     pp.   70 - 78 ,   201 6.   [ 7]   I .   H a m m e n,   T u be r c u l o s i s   m i m i c ki ng   l ung   c a nc e r ,   R e s p i r   M e d   C a s e   R e por t s ,   1 6,   pp .   45 - 47 ,   2015 .   [ 8]   S .   S .   M e r a j ,   e t   al . ,   A r t i f i c i a l   i nt e l l i g e nc e   i di a g no s i ng   t ub e r c ul o s i s :   A   r e v i e w ,   I nt e r n at i on al   J o ur na l   on   A dv an c e Sc i e nc e   E n gi ne e r i n I n f or m a t i on   T e c hno l og y ,   v o l .   9( 2 01 9) ,   p p.   81 - 91 ,   201 9.   [ 9]   C .   S .   P o o r ni m a d e v i   a nd  C .   H e l e S u l o c ha na ,   A ut o m a t i c   de t e c t i o o f   pul m o na r y   t ube r c ul o s i s   u s i ng   i m a g e   pr o c e s s i ng   t e c hn i qu e s ,   I E E E   W i SP N E T   201 6 20 16,   p p.   79 8 - 802.   [ 10]   M .   A .   K a hy a ,   C l a s s i f i c a t i o e nha nc e m e n t   o f   br e a s t   c a nc e r   hi s t o pa t ho l o g i c a l   i m a g e   us i ng   pe na l i z e l o g i s t i c   r e g r e s s i o n ,   I n done s i an   J ou r na l   of   E l e c t r i c al   E ng i ne e r i ng   a nd  C om p ut e r   Sc i e nc e ,   v o l .   13 ( 1) ,   pp .   405 - 410 ,   201 9.   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E ns e m b l e   de e p   l e ar ni ng   f or   t ube r c ul os i s   d e t e c t i on   ( Mohd  H a naf i   A hm ad  H i j az i )   1019   [ 11]   Y .   Z he ng ,   e t   al . ,   A ut o m a t e d i s e a s e / no   di s e a s e   g r a d i ng   o f   a g e - r e l a t e m a c ul a r   de g e n e r a t i o by   a i m a g e   m i ni ng   a ppr o a c h,   I nv e s t i gat i v e   O p ht hal m ol o gy   and   V i s u al   Sc i e nc e ,   v o l .   5 3( 13 ) ,   p p.   83 10 - 8318 ,   201 2.   [ 12]   S .   J a e g e r ,   e t   a l . ,   A ut o m a t i c   t ube r c ul o s i s   s c r e e ni ng   us i ng   c he s t   r a d i o g r a phs ,   I E E E   T r ans   M e I m ag i ng ,   v o l .   33( 2 ) ,   pp.   23 3 - 245,   2 014 .     [ 13]   L .   H o g e w e g ,   e t   al . ,   A ut o m a t i c   d e t e c t i o o f   t ub e r c u l o s i s   i n   c he s t   r a d i o g r a phs   us i ng   a   c o m bi na t i o o f   t e x t ur a l ,   f oc a l ,   a nd   s h a pe   a bno r m a l i t y   a na l y s i s , ”  I E E E   t r an s   M e I m ag i ng ,   v o l .   3 4( 1 2) ,   pp .   2 429 - 244 2,   20 15 .   [ 14]   G .   L i t j e n s e t   al . ,   A   s u r v e y   o de e p   l e a r ni ng   i m e di c a l   i m a g e   a n a l y s i s ,   M e di c a l   I m age   A na l y s i s ,   v o l .   42 ,     pp.   60 - 88 ,   201 7.   [ 15]   L .   D e ng   a nd  D .   Y u ,   D e e l e a r n i ng :   M e t ho ds   a nd  a pp l i c a t i o ns ,   F oundat i ons   and  T r e nds   i S i gna l   P r oc e s s i ng   v o l .   7( 3 - 4 ) ,   pp .   197 - 38 7,   20 1 4.   [ 16]   R .   H o o da ,   e t   al . ,   D e e p - l e a r n i ng :   A   po t e nt i a l   m e t ho f o r   t ube r c u l o s i s   d e t e c t i o us i ng   c he s t   r a d i o g r a phy ,   i P r oc .     O f   t he   20 17   I E E E   I nt e r n at i on al   C on f e r e nc e   on   S i gna l   and   I m age   P r oc e s s i ng   A p pl i c a t i ons ,   201 7,   pp .   497 - 50 2.   [ 17]   F .   P a s a ,   e t   al . ,   E f f i c i e nt   de e n e t w o r k   a r c h i t e c t ur e s   f o r   f a s t   c he s t   x - r a y   t ube r c ul o s i s   s c r e e ni ng   a nd  v i s ua l i z a t i o n,   Sc i e nt i f i c   R e por t s ,   v o l .   9 ( 62 68) ,   201 9.   [ 18]   L .   R o ka c h,   E ns e m bl e - ba s e c l a s s i f i e r s ,   A r t i f i c i a l   I n t e l l i ge nc e   R e v i e w ,   v o l .   33 ( 1 - 2) ,   pp.   1 - 39 ,   201 0.   [ 19]   U .   K .   L o pe s   a nd  J .   F .   V a l i a t i ,   P r e - t r a i ne c o n c o l ut i o na l   ne ur a l   ne t w o r k s   a s   f e a t ur e   e xt r a c t o r s   f o r   t ube r c ul o s i s   de t e c t i o n,   C om put e r s   i n   B i ol o gy   and   M e di c i ne ,   v o l .   8 9( 2 017 ) ,   p p.   135 - 143 ,   2017 .   [ 20]   P .   L a kha ni   a nd  B .   S und a r a m ,   D e e l e a r n i ng   a t   c he s t   r a d i o g r a phy :   A ut o m a t e c l a s s i f i c a t i o o f   pul m o na r y   t ube r c ul o s i s   by   us i ng   c o nvo l ut i o na l   ne u r a l   ne t w o r ks ,   R ad i o l ogy ,   v o l .   2 84( 2) ,   pp .   5 74 - 582 ,   2017 .   [ 21]   S .   H w a ng ,   e t   a l . ,   A   n ov e l   a ppr oac h   f or   t ube r c ul os i s   s c r e e ni ng  bas e on   de e c onv ol u t i ona l   ne ur al   ne t w or k s ,     I P r o c e e di ng s   o f   S P I E :   M e di c a l   I m a g i ng ,   V o l   978 5,   2 016 .   [ 22]   C .   S z e g e dy ,   e t   al . ,   R e t h i nk i n t he   i n c e pt i on  ar c hi t e c t u r e   f o r   c o m put e r   v i s i o n ,   I 2 016  I E E E   C o nf e r e nc e   o C o m put e r   V i s i o a nd   P a t t e r R e c og ni t i o n ,   2 016 ,   pp .   2 818 - 282 6.   [ 23]   K .   S i m o n y a a nd  A .   Z i s s e r m a n,   V e r y   de e c o nvo l ut i o na l   ne t w o r k s   f o r   l a r g e - s c a l e   i m a g e   r e c o g ni t i o n,   ar X i v : 1409. 15 56 ,   2 014 .   [ 24]   S .   J a e g e r ,   e t   a l . ,   T w o   P ub l i c   C he s t   X - R a y   D a t a s e t s   f o r   C o m p ut e r - A i de S c r e e ni ng   o f   P ul m o na r y   D i s e a s e s ,     Q uant   I m agi ng   M e d   Sur g ,   v o l .   4( 6 ) ,   p p.   47 5 - 477 ,   2 014 .   [ 25]   W o r l H e a l t h   O r g a ni z a t i o n,   G l o ba l   t ube r c ul o s i s   r e po r t   201 8,   W or l H e a l t h   O r g a n i z a t i o n,   201 8.       B I O G R A P H I ES   O F   A U T H O R S         M o hd  H a n a f i   A hm a H i j a z i   i s   a A s s o c i a t e   P r o f e s s o r   o f   C o m put e r   S c i e nc e   a t   t he   F a c ul t y   of   C o m put i ng   a n I nf o r m a t i c s ,   U n i v e r s i t i   M a l a y s i a   S a b a i M a l a y s i a .   H i s   r e s e a r c w o r k   a ddr e s s e s   t he   c ha l l e ng e s   i kno w l e dg e   d i s c o v e r y   a nd  da t a   m i n i ng   t o   i de n t i f y   pa t t e r ns   f o r   pr e d i c t i o o s t r uc t ur e a n d/   o r   u ns t r uc t ur e da t a ;   h i s   pa r t i c ul a r   a p pl i c a t i o do m a i n s   a r e   m e di c a l   i m a g e   a n a l y s i s   a nd   un de r s t a nd i ng   a nd  s e n t i m e nt   a na l y s i s   o s o c i a l   m e di a   da t a .   H e   ha s   a u t ho r e d/   co - a ut ho r e m o r e   t h a 40   j o ur na l s /   bo o c ha pt e r s   a nd  c o nf e r e nc e   pa pe r s ,   m o s t   o f   w hi c a r e   i nde xe by   S c o pus   a nd  I S I   W e of   S c i e nc e .   H e   a l s o   s e r v e o t he   p r o g r a m   a nd  o r g a ni z i ng   c om m i t t e e s   o f   num e r o us   n a t i o na l   a n i n t e r na t i o na l   c o nf e r e nc e s .           L e o n g   Q i   Y a ng   i s   a   g r a dua t e   o f   S o f t w a r e   E ng i n e e r i ng   o f   U ni v e r s i t i   M a l a y s i a   S a ba h .   H e   i s   c ur r e n t l y   w o r ki ng   a s   a   s o f t w a r e   de v e l o pe r   a t   A s uka   T h a i ,   w h e r e   he   he l ps   t o   t ur n   t h e   l e g a c y   m a nuf a c t ur i ng   s o f t w a r e   i n t o   c l o ud  a pp l i c a t i o ns .           R a y ne r   A l f r e i s   a A s s o c i a t e   P r o f e s s o r   o f   C om put e r   S c i e nc e   a t   t he   F a c ul t y   o f   C o m put i ng   a nd   I n f o r m a t i c s ,   U n i v e r s i t i   M a l a y s i a   S a ba i M a l a y s i a .   H e   l e a ds   a nd  d e f i ne s   p r o j e c t s   a r o und   kno w l e dg e   di s c ov e r y   a nd  i nf o r m a t i o r e t r i e v a l   t h a t   f o c us e s   o bui l di ng   s m a r t e r   m e c ha ni s m   t h a t   e na b l e s   kno w l e dg e   di s c o v e r y   i s t r uc t u r e a nd  un s t r uc t u r e d   da t a .   H i s   w o r a dd r e s s e s     t he   c ha l l e ng e s   r e l a t e t o   bi g   da t a   pr o bl e m .   H e   ha s   a ut ho r e a n c o - a ut ho r e m o r e   t ha 85   j o ur na l s / bo o c ha pt e r s ,   c o nf e r e nc e   p a pe r s   a n e di t o r i a l s .       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   17 ,   N o .   2 F e b r ua r y   2020   :     10 14   -   10 20   1020       H a i r ul n i z a m   M a hdi i s   a A s s o c i a t e   P r o f e s s o r   a t   D e pa r t m e n t   o f   I n f o r m a t i o S e c ur i t y   a nd  W e b,   F a c ul t y   of   C o m put e r   S c i e nc e   a n I nf o r m a t i o T e c hno l o gy ,   U ni v e r s i t i   T un  H u s s e i O n n   M a l a y s i a .   H e   c o m pl e t e hi s   P h . D .   t he s i s   i 201 a n w a s   c o nf e r r e a   do c t o r a t e   d e g r e e   f r o m   D e a ki U n i v e r s i t y   A us t r a l i a   i n   t he   s a m e   y e a r .   H i s   r e s e a r c f o c us e s   o t h e   a r e a   o f   da t a   m a na g e m e nt ,   I o T ,   R F I D ,   i nf o r m a t i o s e c ur i t y ,   s o f t w a r e   e ng i ne e r i n g   a nd  w e t e c hno l o gy .   H e   ha s   publ i s he d   h i s   r e s e a r c i n   bo t h   I S I   a nd  S c o pus - i nd e xe j o ur n a l s .           A s s oc .   P r o f .   R a z a l i   Y a a ko r e c e i v e t he   B a c he l o r   D e g r e e   i C o m put e r   S c i e nc e   i 1996   a n d   M a s t e r   i C o m put e r   S c i e nc e   f r o m   i 1999 ,   f r o m   U ni v e r s i t i   P u t r a   M a l a y s i a ,   a nd   P hD   f r o m   U ni v e r s i t y   o f   N o t t i ng ha m ,   U n i t e K i ng do m   i 200 8.   C ur r e n t l y ,   he   i s   a   l e c t ur e r   a t   t he   F a c ul t y   o f   C o m put e r   S c i e nc e   a nd  I T ,   U ni v e r s i t i   P u t r a   M a l a y s i a .   H i s   r e s e a r c a r e a s   i nc l ude   a r t i f i c i a l   n e u r a l   ne t w o r k ,   p a t t e r r e c o g ni t i o n,   a nd  e v o l ut i o na r y   c o m put a t i o i g a m e   pl a y i ng .   H e   i s   a   m e m b e r   o f   t he   I nt e l l i g e n t   C o m pu t i ng   G r o up  a t   t h e   f a c u l t y .     Evaluation Warning : The document was created with Spire.PDF for Python.