I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   20 ,   N o .   1 O c t o be r   20 20 ,   pp .   347 ~ 352   IS S N :   25 0 2 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 20 .i 1 . pp 347 - 352             347       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   D e e p   i m a g e   m i n i n g   f o r   c o n v o l u t i o n   n e u r a l   n e t w o r k       D h am e A .   Jas m 1 ,   M u r tad h M   H am ad 2 ,   A z m i   Taw f e k   H u s s e i n   A l r aw i 3   D e pa r t m e n t   o f   C o m put e r   S c i e nc e s ,   C o l l a g e   o f   c o m put e r   s c i e nc e s   a n I nf o r m a t i o T e c hno l o gy I r a q       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e F eb   6 ,   20 20   R e v i s e A pr   8 ,   2020   A c c e pt e A pr   22 ,   2020       I m a g e   m i ni ng   i s   t he   m e t ho o f   s e a r c hi ng   a nd  d i s c o v e r i ng   v a l ua b l e   i nf o r m a t i o a nd  kno w l e dg e   f r o m   a   h ug e   i m a g e   d a t a s e t .   I m a g e   m i ni ng   i s   ba s e o da t a   m i n i ng ,   di g i t a l   i m a g e   pr o c e s s i ng ,   m a c hi ne   l e a r ni ng ,   i m a g e   r e t r i e v a l ,   a nd  a r t i f i c i a l   i n t e l l i g e nc e .   I m a g e   m i ni ng   ha nd l e w i t t he   h i dd e i nf o r m a t i o e xt r a c t i o n,   a a s s o c i a t i o o f   i m a g e   da t a   a nd  a dd i t i o na l   p a t t e r n   w hi c a r e   no t   c l e a r l y   v i s i b l e   i t he   i m a g e .   C ho o s i ng   t he   p r o pe r   o bj e c t s   o r   t he   f e a t u r e   o f   t he   i m a g e   t o   be   s ui t a b l e   f o r   i m a g e   m i ni ng   pr o c e s s   i s   t he   m a i c ha l l e ng e   w o ul d   f a c e   t h e   pr o g r a m m e r .   T h e   pr o c e s s   i nc l u de s   f i n e   o u t   t he   m o s t   e f f i c i e nt   r o ut e s   a t   a   s ho r t e r   t i m e   a nd  s a v i ng   t he   us e r s   e f f o r t .   T he   m a i n   o bj e c t i v e   o f   t hi s   pa pe r   i s   t o   de s i g a nd  i m pl e m e n t   t he   i m a g e   c l a s s i f i c a t i o n   s y s t e m   w i t a   hi g he r   p e r f o r m a nc e ,   w he r e   a   C I F A R - 10  da t a   s e t   i s   us e t o   t r a i n   a n t e s t i ng   c l a s s i f i c a t i o m o de l s   us i ng   C N N .   A   c o nvo l ut i o na l   ne ur a l   ne t w o r i s   t r us t w o r t hy ,   a nd  i t   c o ul l e a t o   hi g h - qua l i t y   r e s u l t s .   T he   hi g a c c ur a c y   o f   98%   h a s   be e o bt a i n e u s i ng   de e p   c o nvo l ut i o n a l   ne u r a l     ne t w o r k   ( D C N N ) .     Ke y w or ds :   CN N   D CN N   Im a ge s   c l a s s i f i c a t i o n   C opy r i gh t   ©   2020   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   D ha m e a   A .   J a s m ,     D e pa rt m e n t   o f   Co m put e S c i e n c e s   a n d   I n f o r m a t i o T e c hn o l o g y ,     U n i v e r s i t y   of   A n b a r,   A l - A n b a r,   I ra q .     E m a i l :   d h a m e a a n w a r@ g m a i l . c o m       1.   I N TR O D U C TI O N   D e e l e a rn i n c a n   b e   de f i n e a s   a   s e t   o pr o c e s s e s   by   w h i c h   t h e   pa t t e rn s   o f   t h e   da t a   c a n   b e   a ut o m a t i c a l l y   e xc l ude d.   A f t e r   w h i c h   t h e   r e v e a l e da t a   i s   us e f o r   f ur t h e r   d a t a   p r e d i c t i o o r   b e i ng  ut i l i z e t e s t i m a t e   t h e   c o rr e c t   de c i s i o n   a t   u n c e r t a i n   c o n d i t i o n s   [1] .   T h e   D L   i s   i de n t i f i e f r o m   t h e   da t a ,   a n t h e   de c i s i o n   pr o c e s s e w i t h   a   l i m i t   o f   h u m a n’s   i nt e r v e nt i o n s   [2].   F i r s t l y ,   t h e   a na l y s i s   of   t h e   t r a i n i ng  d a t a   n e e ds   t o   be   f i gu r e o ut   b e fo r e   m a k i n a n y   pr e di c t i o n   i n t o   t h e   n e w   da t a   [3].   T h e   e ff e c t i v e n e s s   of   t h e   de e c o n v o l ut i o n a l   n e u r a l   n e t w o r (D CN N ) ,   w h i c h   i s   a   s pe c i a l   t y pe   of   a r t i f i c i a l   n e u r a l   n e t w o r (A N N ),   n e e ds   t o   be   t e s t e be fo r e   b e i n c o n duc t e i t h e   p h o t o   r e c o gn i t i o n   t a s [4 ,   5] .   Cu rr e n t l y ,   i m a ge   m i ni n (IM )   g ra b s   s i gni f i c a nt   a t t e nt i o by   t h e   r e s e a r c h e r s   due   t o   t h e   u nl i m i t e a v a i l a b l e   i m a ge s   w h e t h e r   i t   i s   s t o r e o di s p l a y e o n   t h e   i n t e rn e t .     A   s i m p l e   w a y   t o   c l a s s i fy   t h e   i m a ge s   i s   by   di v i di n t h e   i m a g e s   i nt o   gr o ups   c o n t a i ni n c l a s s e s ,   e xt r a c t i n t h e   i m po rt a nt   f e a t u r e s   f r o m   t h e   h u ge   n u m b e r   o f   i m a ge s   duri n a   s h o rt   t i m e   [6].   T h e   c l a s s i f i c a t i o n   p r o c e s s   of   t h e   i m a ge s   i s   a   s o phi s t i c a t e p r o c e s s   du e   t o   un s t r uc t u r e i m a ge   da t a   w hi c h   i s   a l s o   a s s o c i a t e w i t h   t h e   n o i s e     [7 ,   8 ].   T he   D C N N   i s   v e r y   e f f i c i e nt   a nd   h a s   b e e u s e d   e f f e c t i v e l y   i a   l a rg e - s c a l e   o b j e c t   re c o g ni t i o o f   t he   i m a g e s .   I t hi s   p a p e r,   a i m a g e   d a t a b a s e   w a s   u s e d   i g ro u p s   o f   d i f f e re nt   p a t t e r ns ,   c o l o rs ,   a nd   s ha p e s   t o   i nv e s t i g a t e   t he   e f f i c i e nc y   o f   t he   a l g o ri t h m   i c l a s s i f y i ng   a ny   i m a g e   re l a t e d   t o   a ny   o f   t ho s e   g ro u ps   i ns i d e   t he   d a t a b a s e ,     a nd   p re s e nt i ng   t he   m o s t   i m p o r t a nt   l a y e rs   i t he   a l g o ri t h m   D e e p   C o nv o l u t i o na l   N e u ra l   N e t w o rk   ( D C N N ) .     S e n a p a t i   [9],   p r o po s e ut i l i z i n c o l o r   f un dus   i m a ge s   t o   i de n t i fy   t h e   b r i g h t   l e s i o n s   o r   e xu da t e s   us i n g   a   c o m put e r   a s s o c i a t e w i t a   s c r e e ni n g   s y s t e m .   T h e   s us pi c i o us   r e gi o n s   o f   t h e   b r i g h t   l e s i o n s   w e r e   f i r s t l y   de t e c t e by   t h e   s c r e e n i n s y s t e m   t h e n   t h e   i n t e r e s t e r e gi o n   u n de r   i n v e s t i ga t i o n   w a s   c h a ra c t e ri z e by   t h e   t e xt u r e   f e a t ur e   e xt ra c t i o n   m e t h o d.   T h e   l a s t   s t a ge   w a s   pe r fo r m e us i ng  t h e   s uppo r t   v e c t o r   m a c h i n e   c l a s s i f i e r   t o   c l a s s i fy   t h e   i m a ge s   i nt o   n o rm a l   a n a b n o rm a l   i m a ge s .   S .   K um a r   e t   a l .   [10] ,   a p pl i e a   h y b r i a pp r o a c h.     T o   e xt ra c t   t h e   f e a t u r e s   f r o m   t h e   i m a ge s   t h e   a pp r o a c h   c o n d uc t e t h e   di s c r e t e   w a ve l e t   t r a n s f o r m   (D W T f o r   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     347   -   352   348   t h a t   pu rpo s e ,   w h i l e   t h e   G e n e t i c   a l go r i t h m   i s   us e t o   di m i ni s t h e   num b e o f   f e a t ur e s .   F i n a l l y ,   t h e   s uppo r t   v e c t o r   m a c h i n e   (S V M i s   us e t o   c l a s s i fy   t h e   b r a i t u m o r.   I n   c o m pa ri s o n   w i t h   t h e   o t h e r   r e po r t e t e c hn i que s ,     a n   i m p r o v e m e n t   i n   t h e   a c c u r a c y   a n a   m i ni m i z i n i n   t h e   RM S   e r r o r   (a   s i m i l a r   c o nt e xt   L i n e a r   a c c u r a c y   w a s   80% - 90% i s   r e c o r de v i a   us i n g   t h e   h y b r i a pp r o a c h .   V i s i o n - b a s e v e h i c l e   c l a s s i f i c a t i o n   h a s   b e e n   i n v e s t i ga t e by   R .   D urr a t u n   S a f i y a h ,   e t   a l .   [11] ,     T h e   e v a l ua t i o n   ha s   b e e n   c o n duc t e us i n Co n v o l ut i o n a l   N e ura l   N e t w o r (CN N m o de l s .   T h e   CN N   m o de l s   a r e   s i m pl e   CN N ,   a n p r e - t ra i n e CN N   m o de l s   (A l e xN e t   a nd  G oo gl e N e t ).   T h e   o pt i m u m   r e s ul t s   a r e   a c h i e v e d   by   A l e xN e t   us i ng  da t a s e t   i n c l ude s   700 i m a ge s .   N .   N .   A .   A .   H a m i d,   R .   A .   R a z a l i   e t   a l .   [12] ,   c o m pa r e t hr e e   di f fe r e nt   m o de l s   w h i c a r e   Co n v e n t i o n a l   Co n v o l ut i o n a l   N e ura l   N e t w o r (CN N ),   B a o f   F e a t ur e s   (B o F a n A l e xn e t   f o r   f r ui t e c o gn i t i o a i m i n t o   a c h i e v e   a   l o w e r   h u m a i nt e r f e r e n c e   i n   t h e   f r ui t   ha r v e s t i n g,   i a d di t i o n,   t o   r e duc e   t h e   c o s t   a n t h e   t i m e   o f   t h e   h a r v e s t i n p r o c e s s .   B .   B .   T ra o r e ,   B .   K a m s u - F o gue m ,   e t   a l .   [13] ,   c o n duc t e t h e   D CN N   r e c o gn i t i o n   a pp r o a c h   t o   c l a s s i fy   t h e   m i c r o s c o pi c   i m a ge s   w h i c h   i n c l ude   c h o l e r a   o r   m a l a ri a .   W .   L u m c ha n o w   a n S .   U do m s i r i   [14] ,   T hi s   p a pe r   p r e s e nt s   i m a ge   c l a s s i f i c a t i o n   a l go r i t h m s   t i m p r o v e   t h e   l e a rni n ra t e   a n t o   c o m pa r e   t h e   c l a s s i f i c a t i o n   e ff i c i e n c y .   U s i n a   c o n v o l ut i o n a l   n e u r a l   n e t w o r k   (CN N f o r   f e a t ur e   e xt r a c t i o n   a nd  m e t h o t o   f i n d   a pp r o p r i a t e   fo r   t h e   k - n e a r e s t   n e i g h b o r   (K N N ) .   M e di c a l   da t a s e t s   w e r e   us e i t h e   e xpe r i m e n t s   t o   c l a s s i fy   P l a s m o di u m   V i v a a nd  P l a s m o di um   F a l c i pa r u m .   A n   e v a l ua t i o n   s t udy   o n   l e a f   r e c o gn i t i o n   c a rri e o ut   by   N .   F .   S a h i d a n   e t   a l .   [15] ,   by   a do pt i n b o t (CN N a n d   B a o f   F e a t ur e s   (B o F a n d   ge t t i n t h e   b e n e f i t   o f   t h e   a v a i l a b l e   pub l i c   d a t a b a s e   c a l l e F o l i da t a s e t .   CN N   e xhi b i t e a   po w e r f ul   f e a t ur e   pe r f o r m a n c e   i n   c o m put e r   v i s i o n .   H .   S of i a n,   J .   T .   C .   M i n g ,     S .   M u h a m m a e t   a l .   [ 16] ,   f o r   c l a s s i f i c a t i o n   o f   Co r o n a r y   a r t e r y ,   t h e   r e s e a r c h e r s   c o n duc t e t h e   a v a i l a b l e   n e t w o r ks   us i ng  Ca r t e s i a n   Co o r di n a t e s   a nd  po l a r   r e c o n s t r uc t e c o o r di na t e   i m a ge s   fo r   a   de e un de r s t a n d i n o t h e   ul t ra s o un d   i m a ge s .   F o a   r e a l - t i m e   de t e c t i o n   o f   c a n c e r   c e l l s ,   A .   A .   A b dul l a h ,   e t   a l . ,   [17 ],   de v e l o pe a   M A T L A B   b a s e CN N   a l go r i t hm   f o r   a ut o - de t e c t i o n .   T h e   p ro pos e s o l ut i o n   b a s e o n   s e gm e nt i n t h e   n uc l e a of   t h e   c a n c e r o us   c e l l .   T h e   de t e c t i o n   o f   t h e   a l go ri t hm   w a s   o f   a c c ur a c y   a bo ut   88%.   T he   re l a t e d   w o rk s   a re   s ho w m a ny   re s e a rc he rs   ha v e   u s e d   v a ri o u s   a l g o ri t h m s   t o   c l a s s i f y   i m a g e s   a nd   g o t   m o re   k no w l e d g e   t o   t a k e   hi g h   a c c u ra c y   d e c i s i o ns .   C N N   w a s   t he   m o re   a l g o r i t hm   u s e d   i t he   c l a s s i f i c a t i o o f   t he   i m a g e   i m o d e rn  s t u d i e s .   B u t ,   s t i l l   a   l o t   o f   w o rk s   t o   i m a g e s   c l a s s i f i c a t i o i t he   hu g e   d a t a s e t s .   T he re f o re ,   i t hi s   re s e a rc e m p l o y   t he   C N N   a l go ri t hm   f o c l a s s i f i c a t i o hu g e   d a t a s e t   w hi c a re   C I F A R - 1 0   [ 1 8 ] ,   a nd   c o m p a re   t he   re s u l t   w i t h   s o m e   p re v i o u s   w o rk   t h a t   h a s   d i s p l a y e d   i re l a t e d   w o rk s   t o   d e t e rm i ne   w hi c h   a l g o r i t hm   t he   b e s t .       2.   M A TER I A LS   A N D   M E TH O D   2 . 1 .     C o n vo l u ti o n al   n e u r al   n e tw o r k   (C N N )   C N N   i s   a   c l a s s   o f   ne u ra l   ne t w o rk   m o d e l s   t ha t   i nc l u d e s   hu g e   ne t w o rk   l a y e rs   s u c a s   a i np u t   i m a g e   [ 1 9 ] ,   c o nv o l u t i o l a y e r,   a v e ra g e   po o l i ng ,   m a x   p o o l i ng   a nd   re c t i f i e d   l i ne a u ni t ,   e t c .   T he   nu m b e o f   l a y e rs   c o nt ro l s   t he   s i z e   o f   t he   i np u t   i m a g e s .   H o w e v e r,   s o m e   o f   t ho s e   l a y e rs   m i g ht   b e   u s e d   i t he   ne t w o rk .   B e t t e l e a r ni ng   c a b e   a c hi e v e f ro m   a   c o ns i d e ra b l e   l a rg e   ne t w o rk   s i z e   w hi c c a n   a l l o w   f o a   s e l f - l e a r a nd   s e l f - o rg a ni z e   [ 2 0 - 2 2 ] .   H o w e v e r,   t he   d i s a d v a nt a g e   o f   t he   l a rg e   a nd   m o re   d e p t n e t w o rk   i s   t he   i nc re m e nt   t he   c o m p u t a t i o na l   t i m e .     T he   c u r re nt   w o r k   i s   a a t t e m p t   t o   s e l e c t   t he   p ro pe p a ra m e t e rs   w hi c c a a l l o w   u s i ng   a   m i ni m u m   nu m b e o f   l a y e rs   t o   o b t a i m a x i m u m   o u t p u t   f ro m   t he   ne t w o rk   [ 7 ] .   T he   C N N   d o e s   ne e d   t o   i nv o l v e   o t he m e t ho d s   f o p re - p ro c e s s i ng   o ha nd c r a f t e d   f e a t u re   e x t ra c t i o n.   T he   hi e ra rc hi c a l   m a n ne i s   u t i l i z e d   t o   e x t ra c t   t he   f e a t u re s .   T he   p ro c e s s   i nv o l v e s   d e p i c t i ng   a nd   c l a s s i f y i ng   t he   o b j e c t s   o f   t he   i np u t   i m a g e .   F o hi g he r   c l a s s i f i c a t i o p e rf o rm a nc e   c o u l d   b e   a c hi e v e b y   a d j u s t i ng   t he   p a ra m e t e rs   [ 13,   23 2 4 ] .   F i g u re   1   d e s c ri b e s   t he   d i f f e re nt   C N N   u n i t s .     Co n v o l ut i o n   pe r f o r m e i e a c l a y e r   c o n s i s t s   o f   fo ur   s t e ps   a s   f o l l ow s :     S t e 1:   P l a c i ng  a   f i l t e o t h e   po s i t i o o f   t h e   i n pu t   i m a ge     S t e 2:   Ca l c ul a t i ng  t h e   po s i t i o n   o f   t h e   c e n t e o f   da t a s e t s   f r o m   (1):     (       ) [       ]     (       )     (               )         (1)     W h e r e       r e f e r   t o   t h e   i nput   m a t ri x ,   w h o s e   s i z e   i s   e qua l   t o   t ha t   o f   t h e   f i l t e r;       i s   a   m e di u m   m a t ri x;       a n d       i s   t h e   c e n t ra l   po s i t i o n   o f   m a t r i x   c o n s i de r i n g   po s i t i o n s ;         a n d   v   a r e   po s i t i o n s   o f   t h e   m e di u m   us e i t h e   c a l c ul a t i o n .     S t e 3:   M o v i n f i l t e r s   t o   d i f fe r e nt   po s i t i o n s   o n   t h e   i nput   i m a ge   pi xe l   t o   pi xe l   u nt i l   t h e   l a s t   o n e     S t e 4:   R e pe a t i n S t e 2   t o   S t e 3.     F o l l ow   c o n vo l ut i o n   l a y e r   of   t h e   R e c t i f i e L i n e a r   U ni t   (R e L u)  pr o po s e s e t t i n g   t h e   v a l ue   o f   z e r o   f o r   e a c h   v a l ue   l e s s   t ha n   z e r o   fo r   a n y   e l e m e n t   [25] .   T h e   p r o c e s s   l e a ds   t o   r e duc e   t h e   a b unda n c e   of   t h e   da t a   a nd  n o t   unda m a ge t h e   i m po r t a n t   f e a t u r e s .   H ow e ve r ,   t h e   o ut pu t   l a y e r   ha s   t h e   s a m e   s i z e   a s   t ha t   o f   t h e   pr e v i o us   l a y e r .   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       D e e p   i m ag e   m i ni ng  f or   c on v ol u t i o n e ur al   n e t w or k   ( D ham e A .   J as m )   349   T o   r e duc e   t h e   s i z e   o f   t h e   l a y e r ,   M a po o l i n w a s   a pp l i e d.   O v e r   t h e   w i n do w ,   a   m a x i m um   v a l ue   ha s   b e e n   c o n s i de r e a n d   i t   r e p l a c e t h e   w i n do w .   T h e   s i z e   i s   l o w e r   f o r   t h e   o ut put   l a y e r   c o m pa r e t o   t h e   p r e v i o us   l a y e r   [26].   F r o m   t h e   p r o c e s s   of   c o n vo l ut i o n   a l go r i t hm ,   t h e   m o re   c o n v o l ut i o n a l   l a y e r s   r e qui r e m o r e   t i m e   f o r   c a l c ul a t i o n.   I n   t hi s   r e g a r d,   m a po o l i n i s   a n   a l go r i t hm   us e t o   r e duc e   c a l c ul a t i o n   p r o b l e m s   a n i n c r e a s e   c a l c ul a t i o s pe e [8].   U po n   c o m pl e t i o n   o f   t h e   f e a t ur e   e x t r a c t i o n   p r o c e s s   us i n g   f i l t e r s   a nd   m a x   po o l i ng     [27 ,   28] ,   t h e   o ut p ut   w i l l   b e   i n   t h e   f o r m   o f   a   da t a s e t   t h a t   m us t   b e   pr e - p r o c e s s i n g   t hr o ug h   r e - a rra n ge m e n t   t o   b e   i n   t h e   f o r m   o f   o n e - di m e n s i o n   v e c t o r .   F r o m   t h e   CN N   s t ruc t ur e ,   t h e   n e u r o n s   o f   t h e   p r e v i o us   l a y e r   i . e .   m a x - po o l i n l a y e r ,   a   f ul l y   c o nn e c t e l a y e r   (F C),   a r e   c o n n e c t e t o   e a c h   n e u r o n   o f   t h a t   l a y e r .   T h e   o ut put   w o ul be   t h e   n u m b e r   o f   ge n e ra t e d   c l a s s e s   o n   t ha t   c l a s s i f i c a t i o n   f o r   t h a t   l a y e r   [29 ,   13] .           F i gu r e   1 .   T h e   ge n e ra l   CN N   a r c h i t e c t u r e       2 . 2   D atas e t   T h e   p y t h o n   h a s   b e e n   us e i n   t h e   e xpe r i m e n t s   o t h e   c urr e nt   re s e a r c h.   T h e   da t a s e t   of   t h e   CIF A R - 10  i s   c o n t a i ni n 1 c l a s s e s   of   60, 000,   32x32  i m a ge ’s   c o l o r .   E a c h   c l a s s   i n c l ude s   6000  i m a ge s .   F u rt h e rm o r e ,     t h e   n u m b e r   o f   t r a i ni n i m a ge s   i n s i de   t h e   s y s t e m   i s   50, 000  i n   a ddi t i o n   t o   10, 000  t e s t   i m a ge s .   P y t h o n   i s   us e d   fo r   t h e   p r o gra m m i ng  l a n g ua g e   o f   m a c h i n e   l e a rni n c o n d uc t e i n   t h i s   r e s e a r c h .   F i gu r e   i l l us t r a t e s   a   da t a s e t   i m a ge   c o n t a i n s   t e n   c l a s s e s .             F i gu r e   2 .   s a m p l e   i m a ge s   f r o m   t h e   da t a s e t   f o r   t e n   c l a s s e s       3.   R ES U LTS   A N D   A N A L Y S I S   CN N   i s   s t r uc t u r e o f   t hr e e   hi dde n   l a y e r s   w h i c h   a r e   t w o   c o n vo l ut i o n   l a y e r s   (e a c h   c o n v o l ut i o n   l a y e r   i n c l ude s   t h e   s a m e   a r c hi t e c t u r e f o l l ow e by   a   R e L U   e l e m e nt - w i s e   n o n l i n e a ri t y   a n M a xP o o l i n l a y e r .     T h e   c o n v e r ge n c e   of   t h e   e rr o r   ra t e   du ri n t h e   l e a rni ng  p r o c e s s   de c i de s   t h e   c r i t e ri a   b y   w h i c h   t h e   n u m b e r   of  Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     347   -   352   350   c o n vo l ut i o n   l a y e r s   i s   b e i n c h o s e n .   H e r e ,   t o   ge n e ra t e   t h e   e x pe r i m e n t ,   o r   i t e r a t i o n s   h a v e   b e e n   c o n s i de r e (v i a   e n l a rge t h e   n u m b e r   of   c o n vo l ut i o n   l a y e r s t o   c a l c ul a t e   t h e   c o n v e r ge .   F i gu r e   a n T a b l e   s um m a ri z e s   t h e   CN N   t r a i n i ng  a r c h i t e c t ur e   f o r   t hi s   r e s e a r c h.   T h e   CN N   t ra i ni n a l go r i t hm   i s   c o n duc t e w i t h   a   S t o c h a s t i c   gra di e nt   de s c e n t   v i a   c h o o s i n a   r a ndo m   da t a   c o n t a i n s   s m a l l   a nd  e qua l   b a t c h e s   o f   e a c h   i t e r a t i v e   l e a rn i ng  pha s e .   T h e   c ha l l e n ge   o f   pr o v i n t ha t   i t   i s   a   t e c hni que   t ha t   i s   b e s t   t o   di s t i n gu i s h   o bj e c t s   i n   t h e   i m a ge .   A c c ur a c y   a n L o s s   f r o m   CN N   a s   s h o w n   i n   F i gu r e   4 .           F i gu r e   3 .   T h e   c h o o s i n CN N   T ra i ni n g   a r c hi t e c t u r e       T a b l e   1 .   T h e   u l t i m a t e   s t e ps   o f   t h e   CN N   t ra i ni n m o de l   P a ra m e t e r s   o f   t h e   m o d e l   T ra i n i n g   s t e p   T h e   a c c u ra c y   V a l _ a c c u ra c y   L o s s   V a l _ l o s s   V a l u e s   3 8 3 (l a s t   s t e p )   0 . 9 7 65   0 . 9 8 %   0 . 5 6 7 0   0 .   5 8 %           F i gu r e   4 .   A c c ura c y   a n d   L o s s   f r o m   CN N       In   t hi s   r e s e a r c h   o f   pr ov i n t ha t   i t   i s   t h e   b e s t   t e c h n i que   Co n v o l ut i o n   N e ur a l   N e t w o r (CN N t c l a s s i fy   i m a ge s   w h e t h e r e   i s   a l w a y s   a   t h o us a n pi c t u r e s   a n d   t h e   a b i l i t y   t o   pr e di c t   t h e   t y pe   of   i m a ge ,     by   t a ki n l   n um b e r   o f   fe a t ur e s   e xt r a c t e s uc h   o f   e y e ,   n o s e ,   a n m o ut h   f r o m   t h e   i m a ge ,   i t   h a s   p r o v e n   t h e   a b i l i t y   t o   a c c ur a t e l y   c l a s s i fy   98%  w i t h   h u nd r e ds   of   t h o us a nds   of   i m a ge s   In   p r e v i o us   s t udi e s   t h a t   r e l i e o n   a   f e w   pi c t ur e s   a s   m e n t i o n e i T a b l e   2.         Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       D e e p   i m ag e   m i ni ng  f or   c on v ol u t i o n e ur al   n e t w or k   ( D ham e A .   J as m )   351   T a b l e   2 .   M e t h o ds   us e i n   t h e   p r e v i o us   r e l a t e w o r ks   w i t t h e   p r o po s e t e c h ni que s   R e fe r e n c e   A u t h o r   Y e a r s   T e c h n i q u e s   N u m b e r   o d a t a s e t s   A c c u ra c y   [9 ]   R.   K .   S e n a p a t i   2016   S u p p o r t   v e c t o m a c h i n e   (S V M )   1 2 8 9   i m a g e   96%   [1 0 ]   S .   K u m a e t   a l .   2017   h y b ri d   a p p ro a c h : (D W T &   (S V M )   1 4 5   i m a g e   85%   [1 1 ]   R.   D u rra t u n   S a f i y a h   2018   Co n v o l u t i o n a l   N e u ra l   N e t w o rk   (CN N ).   70 0 0   i m a g e   65%   [1 2 ]   N .   N .   A .   A .   H a m i d   e t   a l .   2018   Co m p a r i n g   ( Bo G ) ,   (C N N ),   A l e x e n t   1 2 0 0   i m a g e     Bo G = 9 8 %   A l e x e n t = 9 5 %   CN N = 9 9 %   [1 3 ]   B.   B.   T ra o r e   e t   a l .   2018   Co n v o l u t i o n a l   N e u ra l   N e t w o rk   (CN N ).     2 4 0   i m a g e     94%   [1 4 ]   W .   L u m c h a n o w   e t   a l .   2019   H y b r i d   a p p r o a c h : ( K N N )   &   (C N N ).   9 4 0   i m a g e   89%   [1 5 ]   N .   F .   S a h i d a n   e t   a l .   2019   H y b r i d   a p p r o a c h : (   Bo G )   &   ( CN N ).   6 4 0   i m a g e   82%   [1 6 ]   H .   S o f i a n   e t   a l .   2019   c o n v o l u t i o n a l   n e u ra l   n e t w o rk   (CN N ) .   2 1 7 5   i m a g e   85%   [1 7 ]   A .   A .   A b d u l l a h   e t   a l .   2019   c e l l u l a n e u ra l   n e t w o rk     1 5 0 0   i m a g e   88%     Cu rre n t   S t u d y   2020   Co n v o l u t i o n   n e u ra l   n e t w o rk   (C N N )   6 0 0 0 0   i m a g e   98%       4.   C O N C LU S I O N   T h e   c urr e n t   w o r po i n t e o ut   t h e   n e c e s s i t y   of   i m a ge   m i n i ng  due   t o   t h e   g r o w t h   o f   t h e   i m a ge   d a t a s e t s .   D e e C o n v o l ut i o n   N e ura l   N e t w o r h a s   b e e n   o pe r a t e f o r   i m a ge   c l a s s i f i c a t i o n.   T h e   i m a ge   c l a s s i f i c a t i o n   r e c o gn i z e t h e   i m a ge   w i t h   di f f e r e n t   s ha pe s ,   c o l o r s ,   a nd  t e xt u r e   t o   s uppo r t   t h e   de c i s i o o f   m a ki n g   f urt h e r   pr o c e s s i n g.   T h e   CN N   a r c hi t e c t u r e   a c hi e v e a n   o pt i m um   c l a s s i f i c a t i o n   r e s ul t   w i t h   a n   a c c ura c y   of   98%,     w i t h   600 00  i m a ge s .   T h e   r o b us t n e s s   of   t h e   pr o po s e s y s t e m   c a n   b e   by   us i n a   l a r ge   d a t a b a s e .   a n de e r e a d i n i n   t h e   r e s e a r c h e r s   t ha t   us e t h e   t e c hni que s   o f   i m a ge   m i n i ng  t o   c l a s s i f i c a t i o n.   H ow e ve r ,   a   f u r t h e e xpe r i m e nt   o n   o t h e r   da t a s e t s   i s   n e c e s s a r y   t o   be   c a r ri e o ut   us i n t h e   l e a rn i ng  m a c hi n e   a n de e l e a rni n g   t e c hn i q ue s .   T o   e n l a r ge   t h e   e ff i c i e n c y   of   t h e   a l go r i t hm ,   i t   i s   i m po r t a nt   t o   e s t i m a t e   t h e   num b e r   o f   h i dde n   l a y e r s   a n t h e i r   c hr o n o l o gi c a l   o r de r.   A   gl o b a l   W e b s   a r e   c o n s i d e r e a s   a i m a ge   d a t a b a s e   c o n t a i ni n a n   e n o r m o us   n u m b e r   o f   i m a ge s   t h a t   c a n   s upp l y   a n   u n l i m i t e a m o u n t   o f   i n f o r m a t i o n,   p r o po s i n g   s ui t a b l e   i n de xi n a n d   r e t ri e v i n g   k n o w l e dge   f r o m   i m a ge s .         R EF ER EN C ES   [ 1]   N .   E .   B i n t i   M I s a ,   e t   al . ,   " M o t o r   i m a g e r y   c l a s s i f i c a t i o i br a i c om put e r   i n t e r f a c e   ( B C I )   ba s e o E E G   s i g na l   b y   us i ng   m a c hi ne   l e a r n i ng   t e c hni q ue , "   B u l l .   E l e c t r .   E ng .   I n f or m a t i c s   ( B E E I ) ,   v o l .   8 ,   no .   1 ,   pp .   269 - 275 ,   201 9.     [ 2]   M .   A r m a n ur   R a hm a e t   a l . ,   " A   s ur v e y   of   m a c hi ne   l e a r n i ng   t e c hn i q ue s   f o r   s e l f - t un i ng   ha do o pe r f o r m a nc e , "   I nt .   J .   E l e c t r .   C om pu t .   E ng  ( I J E C E ) . ,   v o l .   8 ,   no .   3 ,   pp .   1 854 - 18 62,   2 018 .     [ 3]   P .   P a t e l   a nd  A .   T ha kka r ,   " T he   up s ur g e   o f   de e l e a r ni ng   f o r   c o m put e r   v i s i o a p pl i c a t i o ns , "   I nt .   J .   E l e c t r .   C om pu t .   E ng  ( I J E C E ) . ,   v o l .   10 ,   no .   1 ,   pp .   538 - 548 ,   202 0.     [ 4]   A .   A .   M .   A l - S a f f a r ,   e t   al . ,   " R e v i e w   o f   de e c o nvo l ut i o ne ur a l   n e t w o r i i m a g e   c l a s s i f i c a t i o n, "   P r oc e e di ng  -   201 7   I nt .   C on f .   R ada r ,   A nt e nna ,   M i c r ow av e ,   E l e c t r on .   T e l e c om m un .   I C R A M E T   2 017 ,   v o l .   2018 - J a nu a ,   p p.   26 - 31,   2017 ,   do i :   10. 1109 / I C R A M E T . 20 17 .     [ 5]   M .   S .   F a i r uz ,   e t   al . , " P r e - t r a i ne ba s e C N N   m o de l   t o   i de n t i f y   f i nge r   v e i n , "   B ul l .   E l e c t r .   E ng .   I n f o r m at i c s   ( B E E I ) ,   v o l .   8,   no .   3,   p p.   85 5 - 862 ,   2 019 .     [ 6]   N .   A .   R a hm a d ,   e t   a l . , " R e c o g ni t i o o f   ba dm i n t o a c t i o u s i ng   c onv o l ut i o na l   ne u r a l   ne t w o r k , "   I nd one s .   J .   E l e c t r .   E ng.   I nf o r m a t i c s ,   v o l .   7,   no .   4 ,   pp.   7 50 - 756 ,   2019 .     [ 7]   S .   A i c h,   e t   al . ,   " C o nvo l ut i o na l   ne u r a l   ne t w o r k - ba s e m o de l   f o r   w e b - ba s e t e x t   c l a s s i f i c a t i o n, "   I nt .   J .   E l e c t r .   C om put .   E ng   ( I J E C E ) . ,   v o l .   9 ,   no .   6,   pp .   518 5 - 5191 ,   2019 .     [ 8]   A .   S e t y o n o   a nd  D .   R .   I .   M .   S e t i a d i ,   " I m a g e   w a t e r m a r k i ng   us i ng   di s c r e t e   w a v e l e t - t c he bi c he f   t r a ns f o r m , "   I n done s .   J .   E l e c t r .   E ng .   C om pu t .   S c i   ( I J E E C S) . ,   v o l .   16 ,   no .   3 ,   pp .   1 416 - 142 3,   2019 .     [ 9]   R .   K .   S e na p a t i ,   " B r i g ht   L e s i o D e t e c t i o i n   C o l o r   F u ndu s   I m a g e s   B a s e o T e x t ur e   F e a t ur e s , "   B u l l .   E l e c t r .   E n g.   I nf or m a t i c s   ( B E E I ) ,   v o l .   5 ,   no .   1,   pp .   92 - 100 ,   201 6.     [ 10]   S .   K um a r ,   e t   al . ,   " C l a s s i f i c a t i o o f   B r a i M R I   T um o r   I m a g e s :   A   H y br i A ppr o a c h, "   P r oc e di C om pu t .   S c i .   v o l .   122 ,   pp.   5 10 - 517 ,   2017 .     [ 11]   R .   D ur r a t un  S a f i y a h,   e t   a l . ,   " P e r f o r m a nc e   E v a l u a t i o f o r   V i s i o n - B a s e V e hi c l e   C l a s s i f i c a t i o U s i ng   C o nvo l ut i o na l   N e ur a l   N e t w o r k , "   I n t .   J .   E ng .   T e c hno l . ,   v o l .   7 ,   no .   3 . 1 5,   p .   86,   2 018 .     [ 12]   N .   N .   A .   A .   H a m i d,   e t   a l . ,   " C o m pa r i ng   ba g s   o f   f e a t ur e s ,   c o n v e nt i o na l   c o nvo l ut i o na l   ne u r a l   n e t w o r a n a l e xne t   f o r   f r ui t   r e c o g ni t i o n, "   I nd one s .   J .   E l e c t r .   E n g.   C om p ut .   Sc i   ( I J E E C S) . ,   v o l .   14,   no .   1 ,   pp.   3 33 - 339 ,   2019 .     [ 13]   B .   B .   T r a o r e ,   e t   a l . ,   " D e e c o nvo l ut i o ne u r a l   ne t w o r f o r   i m a g e   r e c og ni t i o n, "   E c o l .   I nf or m . ,   v o l .   48,     pp.   25 7 - 268,   2 018 .     [ 14]   W .   L um c ha no w   a nd  S .   U do m s i r i ,   " I m a g e   c l a s s i f i c a t i o o f   m a l a r i a   us i ng   hy br i a l g o r i t hm s :   c o nvo l ut i o na l   ne u r a l   ne t w o r a nd   m e t ho t o   f i nd  a pp r o pr i a t e   K   f o r   K - N e a r e s t   n e i g hbo r , "   I ndo ne s .   J .   E l e c t r .   E n g.   C om pu t .   Sc i   ( I J E E C S) . ,   v o l .   16 ,   no .   1 ,   pp .   382 - 388 ,   201 9.     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     347   -   352   352   [ 15]   N .   F .   S a hi d a n ,   e t   al . ,   " E v a l u a t i o o f   ba s i c   c o n v o l ut i o na l   n e ur a l   n e t w o r a nd  b a g   of   f e a t ur e s   f o r   l e a f   r e c o g ni t i o n, "   I ndo ne s .   J .   E l e c t r .   E ng .   C om pu t .   S c i   ( I J E E C S) . ,   v o l .   14 ,   no .   1 ,   pp .   3 27 - 332,   2 019 .     [ 16]   H .   S o f i a n ,   e t   a l . ,   " C a l c i f i c a t i o de t e c t i o us i ng   c o nvo l ut i o na l   ne u r a l   ne t w o r a r c hi t e c t u r e s   i i n t r a v a s c u l a r   ul t r a s o und  i m a g e s , "   I ndo ne s .   J .   E l e c t r .   E ng .   C om pu t .   S c i   ( I J E E C S) . ,   v o l .   17 ,   no .   3 ,   pp .   1313 - 13 21 ,   2 019 .     [ 17]   A .   A .   A bdul l a h,   e t   al . ,   " C e r v i c a l   c a nc e r   de t e c t i o m e t ho us i n g   a i m pr o v e c e l l u l a r   n e ur a l   ne t w o r ( C N N )   a l g o r i t hm , "   I ndo ne s .   J .   E l e c t r .   E n g.   C om pu t .   Sc i   ( I J E E C S) . ,   v o l .   14 ,   no .   1,   pp .   210 - 21 8,   20 19 .     [ 18]   G .   H .   K r i z he v s ky ,   e t   al . ,   " C I F A R - 10  a nd  C I F A R - 100  da t a s e t s ,   20 09.     [ 19]   Z .   F a i s a l   a nd  N .   K .   E l   A bba d i ,   " D e t e c t i o a nd  r e c o g ni t i o o f   br a i t um o r   ba s e o D W T ,   P C A   a nd  A N N , "   I ndo ne s .   J .   E l e c t r .   E ng .   C om pu t .   S c i   ( I J E E C S) . ,   v o l .   18 ,   no .   1 ,   pp .   5 6 - 63,   201 9.     [ 20]   U .   R .   A c ha r y a ,   e t   al . ,   " A ut o m a t e de t e c t i o o f   a r r hy t hm i a s   u s i ng   di f f e r e n t   i n t e r v a l s   o f   t a c h y c a r di a   E C G   s e g m e nt s   w i t h   c o nvo l ut i o na l   ne u r a l   ne t w o r k, "   I n f .   S c i .   ( N y ) . ,   v o l .   4 05,   p p.   81 - 90,   20 17.     [ 21]   M .   M .   R .   K r i s h na a nd  O .   F a us t ,   " A ut o m a t e g l a uc o m a   de t e c t i o us i ng   hy br i f e a t ur e   e x t r a c t i o i r e t i n a l   f und us   i m a g e s , J .   M e c h.   M e d.   B i o l . ,   v o l .   13,   no .   1 ,   pp.   1 - 21 ,   201 3.     [ 22]   J .   H .   T a e t   a l . ,   " A g e - r e l a t e M a c u l a r   D e g e ne r a t i o de t e c t i o us i ng   de e c o nvo l ut i o na l   n e u r a l   ne t w o r k, "   F ut ur .   G e ne r .   C om pu t .   S y s t . ,   v o l .   87 ,   pp .   127 - 135 ,   201 8.     [ 23]   U .   R a g ha v e ndr a ,   e t   a l . ,   " D e e c o nv o l ut i o ne ur a l   ne t w o r f o r   a c c ur a t e   d i a g no s i s   o f   g l a uc om a   us i ng   di g i t a l   f un dus   i m a g e s , "   I nf .   Sc i .   ( N y ) . ,   v o l .   441 ,   pp .   4 1 - 49,   20 18 .     [ 24]   J .   L e e   e t   a l . ,   " D e e p   L e a r n i ng   i M e di c a l   I m a g i ng   G e n, "   v o l .   18 ,   no .   4,   pp .   570 - 584 ,   201 7.     [ 25]   S .   S h i ndo ,   e t   al . ,   " A o pt i m i z a t i o o f   f a c i a l   f e a t ur e   po i nt   de t e c t i o pr o g r a m   by   us i ng   s e v e r a l   t y pe s   o f   c o n vo l ut i o na l   ne ur a l   n e t w o r k , "   I ndo ne s .   J .   E l e c t r .   E ng .   C om pu t .   S c i   ( I J E E C S) . ,   v o l .   1 6,   no .   2,   p p.   82 7 - 834 ,   2 019 .     [ 26]   V .   S r e z - P a ni a g ua   a nd  I .   S e g ur a - B e dm a r ,   " E v a l ua t i o o f   poo l i n g   o pe r a t i o ns   i c o nv o l ut i o na l   a r c hi t e c t u r e s   f o r   dr ug - dr ug   i nt e r a c t i o e xt r a c t i o n, "   B M C   B i o i n f o r m at i c s ,   v o l .   1 9,   p p.   92 - 101,   2 018 .     [ 27]   M .   Z .   O s m a n,   e t   a l . ,   " A   m ul t i - c o l o r   ba s e f e a t u r e s   f r o m   f a c i a l   i m a g e s   f o r   a ut o m a t i c   e t h ni c i t y   i de nt i f i c a t i o m o de l , "   I ndo ne s .   J .   E l e c t r .   E ng .   C om pu t .   S c i   ( I J E E C S) . ,   v o l .   18 ,   no .   3 ,   pp .   1 383 - 1390 ,   202 0.     [ 28]   R .   R a s s e t i a d i   a nd   S uh a r j i t o ,   " F o r e i g e xc ha ng e   pr e di c t i o ba s e o i nd i c e s   a nd  c o m m o di t i e s   p r i c e   us i ng   c o n vo l ut i o na l   ne u r a l   ne t w o r k, "   I nd one s .   J .   E l e c t r .   E ng .   C om put .   Sc i   ( I J E E C S) . ,   v o l .   1 8,   no .   1 ,   p p.   49 4 - 501 ,   2019 .     [ 29]   H .   F .   P a r de d e ,   e t   al . ,   " C o nvo l ut i o na l   N e u r a l   N e t w o r a n F e a t u r e   T r a n s f o r m a t i o f o r   D i s t a n t   S p e e c R e c o g ni t i o n, "   I nt .   J .   E l e c t r .   C om p ut .   E ng   ( I J E C E ) . ,   v o l .   8 ,   no .   6 ,   p .   5 381 ,   2018 .     Evaluation Warning : The document was created with Spire.PDF for Python.