I n d on e s i a n  Jo u r n al  of   E l e c t r i c al  E n g i n e e r i n g   a n d  C om p u t e r  S c i e n c e   V ol .   40 , N o.   1 ,  O c t obe r   2025 , p p.  288 ~ 296   I S S N :  2502 - 4752, D O I :  10.11591/ i j e e c s . v 40 .i 1 . pp 288 - 296           288     Jou r n al  h om e page :  ht t p: / / i j e e c s .i ae s c or e .c om   Im p r ov i n g   b r e ast  c a n c e r  p r e d i c t i o n  t h r o u g h  e xp l ai n a b l e   ar t i f i c i al  i n t e l l i ge n c e   -   A  t r a n sd i sc i p l i n ar y  ap p r oac h       R e e n a L ok ar e 1 ,   Jyot i   S u n i l   M or e 2 ,  V ai s h al i   V .  S ar b h u k an 3 , M an s i n g R at h o d 1 ,    S ar i t a R at h o d 1 ,  S u n i t a  P at i l 4   1 D e pa r t m e n t   of   I n f o r m a t i o n   T e c hn ol o g y ,   K . J .   S om a i ya   I n s t i t ut e   of   T e c hn ol o gy,   M u m ba i ,   I ndi a   2 D e pa r t m e n t   of   C o m put e r   E ngi n e e r i ng,   F r .   C .   R odr i g ue s   I n s t i t ut e   of   T e c hn ol o g y,   N a vi   M u m ba i ,  I ndi a   3 D e pa r t m e n t   of   I n f o r m a t i o n   T e c hn ol o g y ,   F r .   C .   R odr i g ue s   I n s t i t ut e   of   T e c hn ol o gy,   N a vi   M u m ba i ,  I n d i a   4 S V K M ’ s   N M I M S ,   S h i r pu r   C a m p us   a t   S V K M ’ s   N a r s e e   M onj e e   I n s t i t ut e   of   M a n a g e m e n t   S t u di e s   ( N M I M S ) ,   D h ul e ,   I ndi a       A r t i c l e  I n f o     A B S T R A C T   A r t i c l e  h i s t o r y :   R e c e i v e d   A u g   24 ,  2024   R e v i s e d  M a r   17 ,  2025   A c c e pt e d  J ul   3 ,  2025       Ar ti f i c i a l   i n telli g e n c e   ( A I )   tec h n o l o g y   h a s   s h o wn   tr e m e n d o u s   c o n tr i b u ti o n s   i n   v a r i o u s   a p p l i c a t i o n s   li k e   s p e e c h   r e c o g n i t i o n ,   e x p e r t  s y s te m s ,   c o m p u ter   v i s i o n ,   r o b o ti c s ,   a n d   g a m i n g .  m a c h i n e   lea r n i n g   ( M L )   a n d   d e e p   l e a r n i n g   ( DL )   a lg o r i th m s   u n d e r   AI   a d d r e s s   p r o b l e m s   s u c h   a s   p r e d i c ti o n ,   c l a s s i f ica ti o n ,   a n d   r e g r e s s i o n .   AI   h a s   to u c h e d   m a n y   d o m a i n s .   T h e   r e s u l ts   o r   th e   p r e d i c ti o n s   g e n e r a ted   b y   th e s e   a l g o r i th m s   a r e   n o t  e a s il y   a c c e p ted   b y   th e   u s e r .   E s p e c i a ll y ,   th e   He a l t h c a r e   d o m a i n   i s   f a c i n g   a   g r e a t   c h a ll e n g e   i n   a c c e p t i n g   th e   r e s u l ts   o r   th e   p r e d i c ti o n s   wi th   th e   c o n c e r n ,   Ar e   AI   r e s u l ts   r e li a b l e ,   c o r r e c t,   a n d   e th i c a l ?   Do c to r s   o r   m e d i c a l  p r a c t i ti o n e r s   a r e   n o t  r e a d y   to   tr e a t  p a t i e n ts   b a s e d   o n   r e s u l ts   o r   s u g g e s ti o n s   g e n e r a ted   b y   AI   a l g o r i th m s .   He n c e ,   a   tec h n o l o g y   th a t   c a n   e x p l a i n   h o w  th e   r e s u l ts   r e tu r n e d   b y   AI   a l g o r i th m s   a r e   tr u s two r th y ,   tr a n s p a r e n t,   a n d   i n ter p r e tab l e   wa s   s tr o n g l y   n e e d e d .   T h i s   n e e d   h a s   g i v e n   r i s e   to   th e   l a tes t   tec h n o l o g y - e x p l a i n a b l e   a r ti f i c i a l  i n te ll i g e n c e   ( XA I ) .   W i th   th e   u s e   o f   XA I ,   a ll   th e   p r e d i c t i o n s ,   c l a s s i f ica ti o n s   m a d e   b y   AI   a l g o r i th m s   a r e   e x p l a i n a b l e ,   a u d i tab l e ,   c o m p r e h e n s i v e ,   v a li d a t i n g ,   a n d   s o c i a ll y   a c c e p tab l e .   T h i s   p a p e r   d i s c u s s e s   e x p l a i n i n g   th e   r e s u l ts   o f   b r e a s t  c a n c e r   p r e d i c ti o n   a s   a   c a s e   s tu d y .   T h e   r e s u l ts   s h o w  th a t  s u c h   a n   e x p l a n a ti o n   wi ll   b u il d   tr u s t  in   th e   d o c to r s   a n d   h e n c e   will   i n c r e a s e   th e   a c c e p tan c e   o f   th e   AI - b a s e d   s y s tem s .   K e y w or d s :   A r t i f i c i a l  i nt e l l i g e nc e   B r e a s t  c a nc e r   E xpl a i na bl e  A I   he a l t hc a r e   pr e di c t i on   T h i s   i s   a n   o p e n   a c c e s s   a r ti c l e   u n d e r   th e   C C   B Y - SA   l i c e n s e .     C or r e s pon di n g A u t h or :   R e e na  L oka r e   D e pa r t m e nt  of   I n f or m a t i on T e c hnol ogy ,  K .J . S o m a i y a   I ns t i t ut e  of  T e c hnol ogy   M um ba i ,  I ndi a   E m a i l :   r e e na .l @ s o m a i y a .e du       1.   I N T R O D U C T I O N   A r ound  85%   of   or g a ni z a t i ons   i n  2020   us e d  a r t i f i c i a l   i nt e l l i g e nc e   ( A I )   a nd  t hi s   n um b e r   i s   c ons i s t e nt l y   g r o w i ng   [ 1] .  T he s e   r e c e nt   de v e l op m e nt s   i n  t he   f i e l d  of   A I   a r e   not a bl e .  I t   ha s   not   l e f t   a   s i ng l e   f i e l d  unt ouc he d.  T he   w or l d  i s   be hi nd  a ut o m a t i on.  E v e r y   s e c t or   w a nt s   t o  a ut om a t e   t he i r   bus i ne s s e s   a nd  pr oc e s s e s .  B a nki ng ,  M a nuf a c t ur i ng   I ndus t r i e s ,  A ut o m obi l e ,  H e a l t hc a r e   t o  na m e   a   f e w .  T he   r e a s ons   f or   t hi s   a ut om a t i on  c a n  be   t o  r e duc e   m a npo w e r ,  i nc r e a s e   e f f i c i e nc y   i n  t he i r   pr oc e s s ,  f a s t   ou t c om e ,  f ut ur e   pr e di c t i ons ,  or   s ug ge s t i ons ,  s ol v i ng   c o m pl e x  pr obl e m s   l i ke   di s e a s e   pr e di c t i on,  obj e c t   de t e c t i on,  a n d  f r a ud  de t e c t i on.   E v e r y   s e c t or   l ooki ng   f or   a ut o m a t i on  t hr oug h  A I   t e c hnol ogy   i s   i nt r oduc i ng   i nt e l l i g e nc e   i n  t he i r   t r a di t i ona l   a ppl i c a t i ons .   M a ny   c o m pl e x  pr obl e m s   i n  t he   he a l t hc a r e   s e c t or   s uc h  a s   di s e a s e   pr e di c t i on  a nd  de t e c t i on,  dr u g  di s c o v e r y ,  a nd  p r e c i s i on  m e di c i ne   r e c o m m e nda t i ons . a r e  be i n g  s ol v e d  by t he   A I  a l g or i t h m s  [ 2] . F or  e xa m pl e ,   a n  A I   a ppl i c a t i on  t o  pr e di c t   c a nc e r   di s e a s e   i n  a   pa t i e nt   m a y   g i v e   pr e di c t i on  i n  t e r m s   of   a n  a c c ur a c y.     Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e   …   ( R e e na L o k ar e )   289   T hi s   pr e di c t i on  c a n  be   m a de   ba s e d  on  a t t r i bu t e s   or   f e a t ur e s   s uc h  a s   a g e ,  s ym pt o m s ,  t u m or   s t a g e ,  a nd  nu m be r   of   t um or s   obs e r v e d.  P r e di c t i ons   i n  A I / m a c hi ne   l e a r ni n g   ( ML ) / de e p  l e a r ni ng   ( DL )   a r e   not hi ng   but   a l g or i t h m s / m ode l s ’   “ g ue s s e s ,”   a bout   t he   t a r g e t   v a l ue   ba s e d  on  g i v e n  a t t r i but e s / f e a t ur e s .  T he s e   m ode r n   c o m pl e x  a l g o r i t hm s   a r e   na t ur a l l y   opa que ,  non -   i nt ui t i v e   a nd  di f f i c ul t   t o  unde r s t a nd.   F r o m   t hi s   opa que ne s s ,   one   m i g ht  g u e s s  but  c a n ne v e r  kno w   w ha t  i s  ha ppe ni n g  i ns i de  t he  n e t w or k.  T he   m ode l s  a r e  t r a i ne d a nd t e s t e d   w i t h  hug e   da t a   s a m pl e s ,  ge t t i ng   a   g ood  a c c ur a c y   w i t h  a   c on v i n c i ng   pos i t i v e   pr e di c t i v e   v a l ue .  C a l c ul a t i n g  onl y  a c c ur a c y  t o e xpl a i n t he  r e a l - l i f e  t a s ks  i s  not  s uf f i c i e nt .   M e di c a l   pr of e s s i ona l s   s uc h  a s   doc t or s / c l i ni c i a ns / m e di c i na l   e xpe r t s   a r e   not   r e a d y   t o  a c c e pt   r e s ul t s   g e ne r a t e d b y   A I   a l g or i t h m s   w i t h t he  bi gg e s t  c onc e r n,  ‘ P r e di c t i ons   m a de  b y  A I   a r e  t r us t w or t hy ? ’   H o w  t o t r us t   t he   r e s ul t s   g e ne r a t e d  b y   M L   a l g or i t h m s ?   A ppl y i n g   a n  une xpl a i ne d  ne t w or k  w i t h  pa t i e nt s ’   l i f e   i s   ne a r   t o  i m pos s i bl e .  I n  or de r   t o  t r us t   A I   g e ne r a t e d  r e s ul t s ,  a   doc t or   ne e ds   a n  e xpl a na t i on  of   t he   r e s ul t .  T he y   w a nt   t o   unde r s t a nd  t he   w a y   A I   w or ks   t o  he l p  t he m   i m pr o v e   t he i r   s e r v i c e s   a s   no  one   r e a l l y   know s   w h y   t he s e   a l g or i t h m s   m a k e   t he   c hoi c e s   t he y   do?   T hi s   l a c k  of   t r a ns pa r e nc y   i s   t he   bi g g e s t   c ha l l e nge   f or   t he   h e a l t hc a r e   s e c t or  i n us i ng  A I  pr e di c t e d r e s ul t s .   M os t   of   t he   A I   a l g or i t h m s   a r e   c o m pl e x  i n  na t ur e .  T he y   g e n e r a t e   pr e di c t i ons   or   c l a s s i f i c a t i ons   ba s e d  on  t he   f e a t ur e s   pr o v i d e d.  O ne   n e v e r   kno w s   w h a t   i s   h a ppe ni ng  i ns i de   t he   ne t w o r k.  C i of f i   e t   al .   [ 3] ,  t r us t i ng  pr e di c t i ons   m a d e   b y   A I   a l g or i t h m   ba s e d  on  c onf us i on  m a t r i x  i s   not   a t   a l l   a c c e pt a bl e   b y   H e a l t hc a r e ,  F i na nc e ,   D e pa r t m e nt   of   D e f e ns e   ( D oD )   l i ke   a ut o m a t e d  t a r g e t   r e c og ni t i on,  ba t t l e f i e l d  s ur v e i l l a nc e ,  a u t ono m ous   v e hi c l e s ,  s m a r t   ho m e s ,  a nd  s m a r t   bui l di ng s .  a s   w e l l   a s   ne a r l y   b y   e v e r y   do m a i n.  T he y   n e e d  j us t i f i c a t i on  t o   t r us t  t he  r e s ul t s ,  be c a us e  i t  i s  a  g r e a t  c onc e r n f or  pe opl e ’ s  l i v e s , he a l t h, s a f e t y , s e c ur i t y ,  a nd de pe nda bi l i t y .   ML   a l g or i t h m s   l i ke   s uppor t   v e c t or   m a c hi ne   ( S V M ) ,  l i ne a r   r e gr e s s i on  ( L R ) ,  n e ur a l   ne t w o r k  ( N N ) ,  de c i s i on  t r e e   ( D T ) ,  a nd  r a ndo m   f or e s t   ( R F )   a l g or i t h m .  ge ne r a t e   r e s ul t s   i n  t he   f or m   of   pr e di c t i on  a c c ur a c y,   T r ue / F a l s e   or   Y e s / N o.  B l a c k  box  i s   a   t e r m   us e d  f or   t he   m ode l   w he r e   t he   w or ki n g   of   t he   m ode l   i s   hi d de n  a nd  not   unde r s t ood  by   t he   us e r   [ 4] .  T he   m ode l   de c i s i ons   a r e   non - t r a ns pa r e nt   a nd  of t e n  i nc o m p r e he ns i bl e   e v e n  t o   t he  e xpe r t s  or  t he  c o m put e r  de v e l ope r s  a s  t he y  do not  e xpl a i n t he  r e s ul t s . T hus , t he  i nt e r pr e t a bi l i t y , r e l i a bi l i t y ,  r e s i l i e nc y , t r us t w or t hi ne s s  a nd e xpl a i na bi l i t y  i s  e xpe c t e d b y   a l l  c o m pl e x  a ppl i c a t i ons  us i ng  A I / M L / D L   m ode l   pr e di c t i ons .   L i a o  e t   al .   [ 5]   f ound  t ha t   t he   m a j or   l i m i t a t i on  of   t he   A I   a l g or i t h m   i s   t he i r   bl a c k  box  na t ur e .   I n  or de r   t o  a c c e pt   t he   r e s ul t s   g e ne r a t e d  b y   t he s e   a l g o r i t hm s ,  t he   t e c hnol ogy   c a l l e d  e xpl a i na bl e   a r t i f i c i a l   i nt e l l i g e nc e   ( X A I )   c a m e   i nt o  e xi s t e nc e .  T hi s   t e c hnol ogy   ha s   t he   c a pa bi l i t y   t o  e xpl a i n  t he   r e s ul t s   g e ne r a t e d  by   A I   m ode l s .   T hou g h  X A I   i s   v a s t l y   unde r   de v e l op m e nt ,  i t   ha s   s t r e ng t h  t o  br i dg e   t he   g a p  be t w e e n  r e s e a r c he r s   a nd   m a c hi ne s .  T he r e   a r e   m a n y   c ha l l e ng e s   i n  us i ng   i nt e r pr e t a bl e   ML   t e c hnol og y   a s   i ndi c a t e d  b y   R udi n  e t   al .   [ 6] .     I t   i nc l ude s   opt i m i z a t i on  of   DT s ,  opt i m i z a t i on  of   s c or i ng   s y s t e m s ,  a nd  pl a c i ng   c ons t r a i nt s   i nt o  m ode l s   f or   be t t e r   i nt e r pr e t a bi l i t y .  X A I   t e c hnol ogy   w i l l   pl a y   a   m a j or   r ol e   i n  t he   H e a l t hc a r e   s e c t or   w h e r e   t he r e   i s   s t i l l   a   l i t t l e  a c c e pt a nc e  of   AI - pr e di c t e d   r e s ul t s . C om pl e x di s e a s e s  s uc h  a s   c a n c e r ,  di a be t e s , he a r t  d i s e a s e s , a nd  m a n y  ot he r   he r e di t a r y   di s e a s e s   a r e   c o m m on  w o r l dw i de .  C ha n g i ng  l i f e s t y l e ,   s e l f - m e di c a t i on,  w r ong   e a t i ng   h a bi t s   a r e   s o m e   of   t he   r e a s ons   be hi nd  t he s e   di s e a s e s .  T houg h   m a ny  t r e a t m e nt   opt i ons   a r e   a va i l a bl e   a nd  be i n g  pr a c t i c e d i n  m a n y   c ount r i e s , a c c ur a t e   a nd  m os t  s ui t a bl e  t r e a t m e nt ,  a nd  t i m e l y  di s e a s e  pr e di c t i ons  a r e  s o m e  o f   t he   c ha l l e ng e s   [ 7] .  U s e   of   A I   t e c hnol ogy   i s   dr a s t i c a l l y   h e l pi ng   i n  pr e di c t i ng   t he   f ut ur e ,  ge ne r a t i ng   e xpe c t e d   r e s ul t s ,  pr o v i di ng   s ugg e s t i ons   i n  s uc h  v e r y   c o m pl e x  pr obl e m s .  T he   i n v e nt i on  of   X A I ,   a l ong   w i t h  t he   pow e r f ul  i m pl i c a t i ons  of  A I   w or ks   w e l l ,  m a ki n g   A I  t e c hnol ogy  s e r v e  hu m a nki nd t o a  gr e a t   e xt e nt .   X A I   i s   a   r e c e nt   r e s e a r c h  f i e l d  w he r e   t he   s ol ut i ons   pr ov i de d  by   A I   a l g or i t h m s   a r e   e xpl a i ne d.    W i t h  X A I ,  t he   s ol ut i ons   pr ov i de d  b y   a   NN   a r e   e x a m i ne d  a nd  pos s i bl y   i nt e r pr e t e d  by   a n  e xpe r t .   I nt e r p r e t a bl e / e xpl a i na bl e / t r a ns pa r e nt   ML   i s   a   s e t   of   t ool s   a nd  f r a m e w o r ks   or   m e t hods   f or   unde r s t a ndi ng   t he   pr e di c t i ons   of   A I   a l g or i t h m s   [ 8] .  E x pl a i na bl e   A I   a nd  t r a ns pa r e nt   A I   a r e   t he   t e r m s   us e d  i nt e r c ha n g e a bl y .  X A I   i s   a   t e c hnol og y   t ha t   m a ke s   t he   M L   m ode l s   i nt e r pr e t a bl e .  I f   t he   A I   m ode l   i t s e l f   i s   i nt e r pr e t a bl e ,    a l l   pr e di c t i ons   m a de   b y   t he   m ode l   i s   t he m s e l v e s   e xpl a i na bl e .  X A I   c on v e r t s   bl a c k  box  A I   m od e l   i nt o  a   w hi t e   box  m ode l .  I t  i nt r oduc e s  t r a ns pa r e n c y  i n t he  s ol ut i ons  pr ov i de d.  H o w e v e r , i t  i s  s t i l l   v a s t l y  u nde r  de v e l op m e n t   t o br i dg e  t he  ga p be t w e e n r e s e a r c h e r s  a nd  m a c hi ne s .  I nt e r pr e t a bi l i t y / e xpl a i na bi l i t y  c a n be  d e f i ne d a s ,      K no w i ng  t he  r e a s on be hi nd t he  de c i s i on.     M a i nt a i ni ng  c ons i s t e nc y  i n m ode l ’ s  pr e di c t i on.     M a ki ng  pr e di c t i ons  ba s e d on t he  f e a t ur e   v a l ue s .     U nde r s t a nd  m od e l ’ s  out put s  f or  c l a s s i f i c a t i on a nd r e g r e s s i on t a s ks .      S how s  c ont r i but i on of  e a c h f e a t ur e  i n t e r m s  of  f e a t ur e  i m por t a n c e .    H i g he r   t he   i nt e r pr e t a bi l i t y ,  i t  i s   e a s i e r   t o   unde r s t a nd t he   de c i s i on s   or  pr e di c t i ons   m a de   by   t he   m ode l .   F e w   of   t he   be ne f i t s   a c hi e v e d  t hr oug h  e xpl a na t i ons   a r e   i nc r e a s e d  s oc i a l   a c c e pt a nc e ,  unde r s t a ndi ng   t he     s c i e nc e   be hi nd  t he   s ol ut i ons   g e ne r a t e d  by   A I   a l g or i t h m s ,  i nc r e a s e d  r e s e a r c h  pur pos e ,  a c c ur a c y ,  f i de l i t y ,   c ons i s t e nc y ,  s t a bi l i t y ,  c om pr e he ns i bi l i t y ,  c e r t a i nt y ,  de g r e e   of   i m por t a nc e ,  no v e l t y ,  a nd  r e pr e s e nt a t i v e ne s s .   U s e r s   c a n  v e r i f y   w he t he r   t he   m ode l   i s   be ha v i ng   a s   e xpe c t e d,  r e c o g ni z e   bi a s e s   i n  m ode l s ,   a nd  g e t   i de a s   f or   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i ,  V ol .  40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   290   w a y s   t o  i m pr o v e   t he   m ode l   a nd  t r a i ni ng  da t a .  T he s e   e xpl a na t i ons   a r e   a l s o  us e f ul   t o  t he   de v e l ope r .  B e r t os s i   a nd  G e e r t s   [ 9]   s t a t e s   t ha t   de v e l ope r s   a nd  da t a   s c i e nt i s t s   c a n  v e r i f y   w he t he r   t he   m od e l   i s   be ha v i ng   a s   e xpe c t e d,  r e c o g ni z e   bi a s e s   i n  t he   m ode l s   a nd  g e t   i de a s   f or   w a y s   t o  i m pr o v e   t he   m ode l   a nd  t r a i ni ng   da t a .   I nt e r p r e t a bi l i t y   m a k e   A I   m ode l   pr e di c t i ons   t r a ns pa r e nt   a nd  t hus   i nc r e a s e s   a c c e pt a nc e   of   t he   r e s ul t s   by  bui l di ng   t he   t r us t   of   us e r s .  A s   m ode l s   be c o m e   m or e   c o m pl e x,  t he   t a s k  of   pr od uc i ng   a n  i nt e r pr e t a bl e   v e r s i on   of  t he   m ode l  be c o m e s   m or e  di f f i c ul t . S o, i t  i s  t r ue  t ha t   one  e xpl a na t i on doe s  no t  f i t  a l l  [ 10] .   I nt r i ns i c   m ode l - s pe c i f i c   m e t hods   i ns pe c t   m od e l   c o m pone nt s   a s   a   p a t h  i n  DT   or   a   r ul e   i n   de c i s i on  r ul e   or   a   w e i g ht   of   a   f e a t ur e .  F r o m   t he   r e g r e s s i on  m ode l s ,  c ons i de r   t he   LR   m ode l ,  i t   pr e di c t s   t he   t a r g e t   a s   a   w e i g ht e d  s u m   of   t he   f e a t ur e   i nput s   w he r e   f e a t ur e s   c oul d  be   nu m e r i c ,   bi na r y ,  c a t e g or i c a l   or   i nt e r c e pt   t y pe .   W hi l e   l og i s t i c   r e g r e s s i on  m ode l ,  i nt e r pr e t s   c l a s s i f i c a t i on  pr oba bi l i t i e s   w i t h t w o  pos s i bl e   ou t c o m e s .  I ns t e a d  of   pl ot t i ng   s t r a i g ht   l i ne ,  a   l og i s t i c   f unc t i on  i s   us e d  t o   s que e z e   t he   out put   of   a   l i ne a r   e qua t i on   be t w e e n  0  a nd  1.   T he   DT   f i nds   t he   r e l a t i ons hi p  be t w e e n  f e a t ur e s   a nd  out c om e   w hi c h  a r e   nonl i ne a r .  I nt e r a c t i on  a m on g   f e a t ur e s   i s   c ons i de r e d.  T h e   de c i s i on  r ul e   i s   a   s i m pl e   I F - T H E N   s t a t e m e nt   w i t h  c ondi t i on  a nd  t he n  pr e di c t i on.     F e w   m or e   i nt r i ns i c   m ode l   s pe c i f i c   m e t hods   a r e   R ul e F i t ,   g e ne r a l i z e d  l i ne a r   m ode l   ( G L M ) ,  ge ne r a l i z e d  a ddi t i v e   m od e l   ( G A M ) , N a ï v e  B a y e s ,   a nd  K - ne a r e s t  ne i g hbour   ( K NN ) .  a s   m e nt i one d by  L i n  a nd C ha ng   [ 11] .   G ui dot t i   e t   al .   [ 12]   s t a t e d  f e w   t ool s   or   m e t hods   w hi c h  a r e   de s i g n e d  f or   m ode l   a g nos t i c   i nt e r pr e t a t i ons   a r e :   r e v e r s e d  t i m e   a t t e nt i on  m ode l   ( R E T A I N )   w hi c h   w o r ks   on  r e c ur r e nt   ne ur a l   n e t w o r ks   ( R N N ) ,  l a y e r -   w i s e   r e l e v a nc e   pr opa ga t i on   ( L R P ) ,  l oc a l   i nt e r pr e t a bl e   m ode l - a g nos t i c   e xpl a na t i ons   ( L I M E ) ,  pa r t i a l   de pe nde nc e  pl ot   ( P D P ) ,  i ndi v i dua l  c ondi t i ona l  e xpe c t a t i on/ i m pa c t  c onf i de nc e   e a s e   ( I C E ) ,  p e r m ut a t i on f e a t ur e   i m por t a n c e ,  a c c u m ul a t e d  l oc a l   e f f e c t s   ( A L E )   p l ot ,  f e a t ur e   i nt e r a c t i on,  s c ope d  r ul e s   ( A nc hor s ) ,  E L I 5,  K e r ne l   S H A P .       2.   B R E A S T  C A N C E R   P R E D I C T I O N  U S I N G  G E N O M I C  D A T A S E T -   A  C A S E  S T U D Y   B r e a s t   c a nc e r   i s   t he   c o m m on  t y pe   o f   c a nc e r   s e e n  i n  I ndi a   a nd  w or l d - w i de   [ 13] .  C a nc e r   pr o g nos i s   i s   pos s i bl e  us i ng  G e ne  e xpr e s s i on da t a s e t . R i g or ous  s t udi e s  a r e  be i ng  c a r r i e d out  a c r os s  t he   w or l d  t o f i nd   c a nc e r   bi om a r ke r s .  C a nc e r   di s e a s e   ne e ds   pa t i e nt   s pe c i f i c   t r e a t m e nt   [ 14] .  C om m on  t r e a t m e nt   doe s   not   s ui t   e v e r y  pa t i e nt .  D a s   e t   al .   [ 15]   e xp l a i ns   t ha t   g e ne   e xpr e s s i on  i s   t he   pe r f e c t   bi om a r ke r   f or   g i v i n g   pa t i e nt   s pe c i f i c   t r e a t m e nt .  R e s e a r c h e r s   ha v e   f ound  s pe c i f i c   g e ne s   t ha t   m ut a t e   i n  s pe c i f i c   t y pe s   of   c a n c e r s .  I f   a   pa t i e nt   pe r f or m s   g e n e   t e s t i ng   f or   s pe c i f i c   g e ne s ,  c a n c e r   c a n  be   de t e c t e d  a t   a n  e a r l y   s t a g e .  D e t e c t i on  of   c a nc e r   a t   a n   e a r l y   s t a g e   i nc r e a s e s   t he   c ha nc e s   of   a   pa t i e nt ’ s   s ur v i v a l .  P a t hol og i e s   l i ke   M e t r opol i s   i n   I ndi a   a r e   of f e r i n g  g e ne  t e s t i ng   a t  a n a f f or d a bl e  c os t .      2.1 .     D at as e t   s ou r c e   T o  e xpl a i n  t he   A I / M L   m ode l   e xpl a i na bi l i t y   a nd  r e l i a bi l i t y   in   t he   he a l t hc a r e   dom a i n,  w e   ha v e   t a ke n   B r e a s t   C a nc e r   g e ne   e xpr e s s i on  da t a s e t   f r o m   U C I   ML   r e pos i t or y  of   M L   da t a ba s e s   ( C e nt r e   f or   ML   a n d   i nt e l l i g e nt   s y s t e m s )   f r o m   N a t i ona l   I ns t i t ut e   of   D i a b e t e s   a nd  D i g e s t i v e   a nd  K i dne y  D i s e a s e s   [ 16] .  T h e   obj e c t i v e   i s   di a g nos t i c a l l y   pr e di c t i ng   w he t he r   a   pa t i e nt   ha s   br e a s t   c a nc e r   m a l i g na nc y   or   not ,  ba s e d  on  c e r t a i n   di a g nos t i c   m e a s ur e m e nt s   i nc l ude d  i n   t he   da t a s e t .   F r om   t he   br e a s t   c a nc e r   g e n e   e xpr e s s i on  da t a s e t ,   21   g e ne s   a r e   i .e . ,   B R C A 1,  B R C A 2,  P A L B 2,  C H E K 2,  C D H 1,  P T E N ,  S T K 11,  T P 53,  A T M ,  B A R D 1 ,  B R I P 1,  C A S P 8 ,  C T L A 4,   C Y P 19A 1,  F G F R 2,  L S P 1,  M A P 3K 1,  M R E 11A ,   N B N ,  R A D 51,  T E R T   a r e   t a ke n .  T h e s e   g e n e s   a r e   t e s t e d us i ng  M i c r oa r r a y  t e s t i ng  a s  s t a t e d by   [ 17 ] . T hi s  da t a s e t  c ont a i ns  da t a  of  1 , 078 pa t i e nt s .     2.2 .    P r e d i c t i on   t e s t s   D i f f e r e nt   ML   a l g or i t h m s  a r e  t e s t e d on t hi s  da t a s e t . S V M  i s   g i v i n g  97.68 %  pr e di c t i on a c c u r a c y   w i t h   99%   pr e c i s i on,  96%   r e c a l l   a nd  97%  F 1 - s c or e .  N a ï v e   B a y e s   a l g or i t h m   g i v e s   92.59%   pr e di c t i on  a c c ur a c y   w i t h   94%   pr e c i s i on,  91%   r e c a l l   a nd  92%   F 1 - s c or e .  DT   a l g or i t h m   g i v e s   98.98%   pr e di c t i on  a c c ur a c y   w i t h  96%   pr e c i s i on,  95%   r e c a l l   a nd  96%   F 1 - s c or e .  K - N N   a l g or i t h m   g i v e s   93.05%   pr e di c t i on  a c c ur a c y   w i t h  100%   pr e c i s i on, 86%  r e c a l l  a nd 92%  F 1 - s c or e .   T he   pe r f or m a nc e   of   ML   a l g or i t h m s   m e nt i one d  a bo v e   s how s   t ha t   t he y   a l l   a r e   pe r f or m i ng   w e l l .  A n y  s of t w a r e   de v e l ope r   c a n  e a s i l y   t r us t   t he s e   a l g o r i t hm s   f o r   ge ne r i c   a ppl i c a t i ons .  B u t   t he   doc t or s ,  c l i ni c i a ns   or   m e di c a l  e xpe r t s  w ho t r e a t  pa t i e nt s , c onduc t  he a l t hc a r e  r e s e a r c h, de v e l op  m e di c i ne s  a nd  v a c c i ne s  a r e  ba s e d o n   t he i r  know l e d g e ,  e xpe r i e nc e  a nd  m a i nl y  pa t i e nt ’ s  hi s t or i c a l  da t a   w i t h di s e a s e  s ym pt o m s , a ge , a nd  m a n y  ot he r   f a c t or s .  D i s e a s e   pr e di c t i on  f or   a   p a t i e nt   us i ng   A I / M L   t e c hnol o g y  m us t   r e a di l y  be   unde r s t ood  by   m e di c a l   pr a c t i t i one r s   of   a l l   e xpe r i e nc e   l e v e l s .  T h e y   s houl d  unde r s t a nd  t he   c a us e   of   de c i s i ons , be   a bl e   t o  r e l a t e   f e a t ur e   v a l ue s   of   i ns t a nc e   t o  i t s   pr e di c t i on,  know   t he   r e a s on  be hi nd  c l a s s i f i c a t i on  a nd  pr e di c t i on  r e s ul t s ,  a nd  t o  unde r s t a nd  w hi c h  f e a t ur e   ha s   c ont r i but e d  i n  t he   pr e di c t i on  a nd  w ha t   v a l ue   of   f e a t ur e   w a s   c ons i de r e d  i n  t he   pr e di c t i on.  ML   a l g or i t h m s   m us t   e xpl a i n  t o  t he   doc t or s   w h y   a   pa t i e nt   i s   pr e di c t e d  c a nc e r   p os i t i v e   or   ne g a t i v e   br i ng i ng  t r us t  i n de c i s i ons . T he   m a c hi ne  pr e di c t e d r e s ul t s   s houl d be  a udi t a bl e , c om pl y ,  v a l i da t e , a nd de bug .   Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e   …   ( R e e na L o k ar e )   291   3.   I N T E R P R E T A T I O N  O F  M A C H I N E  L E A R N I N G  M O D E L S  WI T H  E X P L A N A B L E   A I   I n  t hi s   s e c t i on  w e   w i l l   s e e   how   t he   pr e di c t i ons   or   r e s ul t s   or   s ug ge s t i ons   g i v e n  by   A I / M L   m ode l s   a r e   e xpl a i ne d  or   i nt e r pr e t e d  f or   c o m pl e x  he a l t hc a r e   a ppl i c a t i ons   us i ng   t he   r e c e nt   t e c hnol ogy   e xpl a i na bl e   A I .     T he  t r a ns pa r e nc y  a nd t he  t r us t w or t hi ne s s  of  i nt r i ns i c  m ode l - s pe c i f i c   a nd pos t - hoc  i .e ., m od e l - a g nos t i c  m od e l s   a s   m e nt i one d  by   M i t r os   a nd  M a c   N a m e e   [ 18]   a r e   pr e s e nt e d  w i t h  t he   c a s e   s t udy   on  br e a s t   c a nc e r   da t a s e t .     F or   a n  i n t r i ns i c   m ode l - s pe c i f i c   m e t hod,  a   s i m pl e   LR   m ode l   i s   e xpl a i ne d  w hi c h  i t s e l f   i s   e x pl a i na bl e   w i t h  t he   he l p  of   a v a i l a bl e   f un c t i ona l i t i e s .  S uc h  e xpl a na t i ons   a r e   not   pos s i bl e   w i t h  a l l   t he   ML   m ode l s   due   t o  t he i r   c o m pl e x na t ur e . F or  pr e di c t i ng  r e s ul t s  of  pos t - hoc  m ode l - a g nos t i c  e xpl a na t i ons , L I M E  i s  i n t e r pr e t e d.     3.1 .    I n t r i n s i c   m od e l - s p e c i f i c  l i n e ar  r e gr e s s i on  m od e l   LR   m ode l   g i v e s   t he   out put   f r o m   t he   s u m   of   t he   w e i g ht s   of   t he   f e a t ur e   i nput s .  K i m   e t   al .   [ 19]   m e nt i ons   l i ne a r   m ode l s   a r e   e a s i e s t   t o  i nt e r pr e t .  M ode l - s pe c i f i c   e xpl a na t i ons   a r e   e a s i l y   pos s i bl e   w i t h  t he   LR   a l g or i t h m .   LR   c a n be  f or m ul a t e d a s  s how n i n  ( 1 ) .        =   0   +   1 1   +   2 2   +   3 3   +   … +      ( 1)     W he r e   Y i   i s   t he   t a r ge t ,  X i   r e pr e s e nt s   t he   i nput   f e a t ur e ,  β 0  i s   c a l l e d  t he   i nt e r c e pt   t e r m   a nd  i s   t he   c ons t a nt .    Β i  r e pr e s e nt s  t he   w e i g ht  of  t he  i nput  on t he  f i na l  out put . ϵ  i s  c a l l e d t he  noi s e  of  t he   m ode l .  T he  t a s k he r e  i s  t o   t r a i n,  t e s t   a nd  e xpl a i n  t ha t   a   p a t i e nt ’ s   br e a s t   c a nc e r   i s   be ni g n   or   m a l i g n a nt   w i t h  t he   g i v e n  da t a s e t ,  a ppl y i n g  LR   w i t h  P y t hon.   I ni t i a l l y   r e l e v a nt   l i br a r i e s   a nd  pa c ka g e s   a r e   l oa de d,  t he   da t a s e t   i s   r e a d  a nd  v i e w e d,  c ol u m n s   a nd  obs e r v a t i ons   a r e   s e e d  f r o m   t he   da t a s e t .  U s i n g   t he   s t a t s   m ode l   pa c ka g e   f r o m   P yt hon  c oe f f i c i e nt s ,    t - s t a t i s t i c s ,   s t a nda r d  e r r or s ,  a nd  p - v a l ue s   f or   e a c h  f e a t ur e   a r e   m e a s ur e d  a s   s ho w n  i n  t he   F i g ur e   1.  T h e   c onf i de nc e   i nt e r v a l s   v a l ue s   of   f e a t ur e s   a r e   i de nt i f i e d  a s   s how n  i n  F i g ur e   2.   T he   c oe f f i c i e nt ’ s   v a l ue s   a nd   s t a nda r d e r r or s  c a n be  pl ot t e d a s  s how n i n  F i g ur e  3.           F i g ur e  1.  S um m a r y  of   LR ’ s  out put  us i ng  s t a t s  m ode l  pa c ka g e           F i g ur e  2. C onf i de nc e  i nt e r v a l   v a l ue s  of  f e a t ur e s   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i ,  V ol .  40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   292       F i g ur e  3. C oe f f i c i e nt   v a l ue s  a nd s t a nda r d e r r or   pl ot       3.2 .    P os t - h oc   m od e l - agn os t i c   L I M E   m od e l   M ode l - a g nos t i c   m e t hods   a r e   m or e   f l e xi bl e   a nd  m o r e   us a bl e   c o m pa r e d  t o  m ode l - s pe c i f i c   m e t hods .   T he s e   m e t hods   c a n  be   a ppl i e d  t o  a ny   ML   m ode l .  L I M E   i s   a n  e xa m pl e   of   a   pos t - hoc   m ode l - a g nos t i c   m e t hod.   L I M E   c a n  e xpl a i n  t he   pr e di c t i o ns   m a de   by   a n y   M L   m ode l   l i ke   LR ,  a nd  D T   c l a s s i f i e r .  I t   pr o v i de s   a n   i ndi v i dua l   a nd   l oc a l   e xpl a na t i on  of   a   d e c i s i on  a f t e r   i t   ha s   be e n   m a de .  I t   m odi f i e s   a   s i ngl e   da t a   s a m pl e   b y  t w e a ki n g   t he   f e a t ur e   v a l ue s   a nd  obs e r v e s   t he   r e s ul t i ng   i m p a c t   on  t he   out pu t   by   c r e a t i ng   a   n e w   da t a s e t   ha v i n g  s a m pl e s  pe r m ut e d  a nd t he  ne w  p r e di c t i ons  on t he  m ode l .    T he  i nt e r pr e t a bl e   m ode l  i s  t r a i ne d on t hi s  ne w l y   g e ne r a t e d da t a s e t .  T hi s  ne w   m o de l  ha s  l e s s  l os s  a s  i t   f i nds   t he   c l os e ne s s   of   t he   e xpl a na t i on  t o  t he   pr e di c t i on  of   t he   i n i t i a l   m ode l .  T hus ,  L I M E   g i v e s   e xpl a na t i ons   w i t h  t he   he l p  of   t he   c ont r i but i on  of   e a c h  f e a t ur e   f or   t he   pr e di c t i on  a nd  f i nds   w hi c h  f e a t ur e   c ha nge s   w i l l   ha v e   t he   i m pa c t   o n  t he   pr e di c t i on  [ 20 ] ,  [ 21] .  H e r e   l e t   s e e   ho w   t he   pr e di c t i ons   m a de   b y   t he   DT   c l a s s i f i e r   a r e   e xpl a i ne d  w i t h  t he   he l p  of   t he   L I M E   m od e l   a s   s how n  i n  F i g ur e   4.  T he   g e ne s   t ha t   a r e   us e d  f or   m a ki ng   t h e   pr e di c t i on  by   t he   c l a s s i f i e r   a r e   s how n  a l ong   w i t h  t he   g e ne ’ s  v a l ue s .  A l s o,  t he   g e n e s   t ha t   po s i t i v e l y   c ont r i but e   i n  t he   pr e di c t i ons   a r e   s how n  i n  g r e e n  c ol or   a nd  one   w hi c h  ne g a t i v e l y   c ont r i but e   i n  t he   pr e di c t i on  a r e   s how n  i n  or a ng e   c ol or .   T he   L I M E   m ode l   ha s   a   not e book  f e a t ur e   w hi c h  e xpl a i ns   pr e di c t i on  r e s ul t s   i n  m o r e   de t a i l   a s   s how n i n F i g ur e  5.   T hi s   i s   t he   pr e di c t i on   m a de   f or   one   i ns t a nc e .  T he   not e book  s how s   f e a t ur e s   t ha t   pos i t i v e l y   c ont r i but e   t o  t he   pr e di c t i ons   a nd   i t   a l s o  s how s   f e a t ur e s   t ha t   ne g a t i v e l y   c ont r i but e   t o  t he   pr e di c t i ons .  I t  a l s o  s how s   w hi c h   f e a t ur e s   a r e   us e d  f or   t he   pr e di c t i on  a nd   w ha t   v a l ue s   of   t he   f e a t ur e s   a r e   us e d.  I t   he l ps   t he   do c t or   t o  unde r s t a nd   a nd  f i nd  w hi c h  g e ne s   a r e   m ut a t e d.  I f   s pe c i f i c   g e ne s   a r e   m ut a t e d  i n  a   pa t i e nt ,  i t   i ndi c a t e s   t ha t   t he   pa t i e nt   i s   l i ke l y   t o  de v e l op  c a nc e r   s oon.  I n  c a s e   of   hi g he r   c ha nc e s   of   de v e l opi ng   c a nc e r ,  t r e a t m e nt   c a n  be   s t a r t e d   i m m e di a t e l y   w i t h  t he   h e l p  of   m or e   t e s t i ng ,  pr e c a ut i ons ,  a nd  m e di c a t i ons   [ 22 ] - [ 25] .  B y   g e ne r a t i ng   t h e   c l a s s i f i c a t i on  r e por t   a nd  pr e di c t i ng   t he   m a c r o  a v e r a ge ,  w e i g ht e d  a v e r a g e   a c c u r a c y   w i t h  pr e c i s i on ,  r e c a l l   a nd  F  m e a s ur e  t he  s ugge s t e d r e s ul t s  be c o m e  e xpl a i na bl e .           F i g ur e  4. L oc a l  e xpl a na t i ons  of   DT   c l a s s i f i e r  b y   L I M E   Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e   …   ( R e e na L o k ar e )   293       F i g ur e  5. L I M E  N ot e book e xpl a i ni ng  pr e di c t i ons   m a de  b y  t he   DT   c l a s s i f i e r       4.   R E S U L T S   T he   i m pl e m e nt e d  r e s ul t s   f or   i nt r i n s i c   m ode l - s pe c i f i c   a nd  pos t - hoc   m ode l   a g nos t i c   e xpl a i na bl e   A I   m e t hods   c onc l ude   t ha t   A I / M L   a l g o r i t h m   pr e di c t i ons   c a n  be   m a de   us a bl e ,  t r us t w or t hy ,  r e l i a bl e ,  a nd  m or e   i m por t a nt l y   a c c e pt a bl e   i n  t oda y s ’   c om pl e x  a ppl i c a t i ons   l i ke   he a l t hc a r e   4.0.  X A I   m od e l s   s h ow   t ha t   t he   r e s ul t s   of   a ny   ML   a l g o r i t hm   c a n  be   e xpl a i ne d  t o   a l l  l e v e l s   of   us e r s ,  m a ki n g   t he m   t r us t   a nd  be l i e v e   t he   c or r e c t ne s s   of   pr e di c t e d  r e s ul t s .  X A I   p a c ka g e s   a r e   a v a i l a bl e   i n  P y t hon  a s   w e l l   a s   R   pr o g r a m m i ng  l a n g ua ge s   c ha n g i n g   t h e   bl a c k - box na t ur e  of  M L  a l g or i t h m s  i nt o c o m pl e t e l y  t r a ns pa r e nt   w hi t e - box  m ode l s .       5.   C O N C L U S I O N   T oda y   e v e r y   bus i ne s s   s e c t or ,   i ndus t r y   or   or g a ni z a t i on  i s   i m pl e m e nt i ng  I ndus t r y  4.0  s t a nda r ds   w i t h   de m a nd  f or   a udi t i ng ,  t r us t ,  a nd  r e l i a bi l i t y .  T he   e xpl a i na bl e / I nt e r p r e t a bl e   t r a ns pa r e nt / r e l i a bl e   A I   pr e s e nt e d  i n   t hi s   c ha pt e r   f oc us i ng   he a l t hc a r e   4.0  i s   a   s t e p   t ow a r ds   bui l di ng   c onf i de nc e   i n  A I   t e c hnol o gi c a l   t r e nds   f or   t he   be t t e r m e nt   of   hu m a nki nd.  T r a ns a p a r e nc y  a l s o  l e a ds   t o  a c c e pt a nc e   of   A I   t e c hnol ogy   e s pe c i a l l y   i n  he a l t hc a r e .   T hi s   c ha pt e r   ha s   pr e s e nt e d  t he   s c ope   f or   a dopt i ng   A I   i n  c o m pl e x  a ppl i c a t i ons   l i ke   he a l t hc a r e   w i t h  a   c onc e r n   a bout   ha r m   t o  one s e l f   a nd  t o  a   s oc i e t y .  C ha pt e r   f o c us e s   on  t he   e xpe c t a t i ons   f r o m   A I   r e s ul t s   t o  s uppor t   r e a s oni ng   a nd  e v i de n c e   f or   p r e di c t e d  out c o m e s   a nd  f i na l l y   pr o v i de s   t he   s ol ut i on  i n  t e r m s   of   e xpl a i na bl e   A I   s e r v i n g   t hi s   j ob.  A ny   h u m a n  be i ng   i s   a l w a y s   c ur i ous   t ow a r ds   t he   w o r l d,  i .e . ,   t ow a r ds   know i ng   t he   r e a s ons   be hi nd  e v e r y  e v e nt .  H e n a c e   X A I   i s   s uc h  t e c hnol ogy  w hi c h  he l ps   t he   us e r   kno w   t he   f a c t s ,  hi dde n  know l e dge   i n  t he   A I   m ode l ’ s   pr e di c t i ons .  O nc e   t he s e   f a c t s   a r e   know n  t o  t he   u s e r ,   t r us t   i s  bui l t   a nd  a c c e pt a nc e   of   A I   a l s o   i nc r e a s e s .  A l s o,   i t   i s   c l e a r   f r om   t he   e xpl a na t i on  w he t he r   t he   A I   m od e l   i s   m a ki ng   de c i s i ons   e t hi c a l l y .  H e n c e ,   i n  hi g h - i m p a c t   do m a i n  s uc h  a s   he a l t hc a r e   us e   of   X A I   ha v e   be c o m e   m a nda t or y .  B ut   t he r e   a r e   s o m e   s i t ua t i ons   w he r e   e xpl a na t i ons   a r e   not   i m por t a nt   s uc h  a s   p r obl e m s   w he r e   s ol ut i ons   w i l l   not   ha v e   m u c h  i m pa c t :   t a ke   e xa m pl e   of   A I   ba s e d  c he s s   g a m e   pl a y e d  f or   f un.  I n  t hi s   c a s e ,  a ny   de c i s i on  t a ke n  by   t he   A I   g a m e   i s   not   g oi ng  t o  c r e a t e   a n y   i m a c t   on  t he   us e r .  H e nc e ,  t he   pr e di c t i ons   w on ’ t   ha v e   a n y   i m a c t   l i ke   l os s   o r   g a i n.  S o  d m a i ns   s uc h  a s   e nt e r t a i nm e nt ,  g a m e s ,  f un  a r e   t e r m e d  a s   l ow - i m p a c t   c a us i ng   a r e a s   a nd  doe s n ’ t   de m a nd  a n y  e xpl a na i ons   f or   A I   m ode l ’ s   pr e di c t i ons .  W he r e a s   dom a i ns   s uc h  a s   he a l t hc a r e ,  f i na nc e   a r e   hi g h - i m pa c t ,   c a us i ng  a r e a s   t ha t   de m a nd f o r  e xpl a na t i ons .   A l s o,   w h e n  p  r obl e m s   a r e   s t udi e d  w e l l   e . g .,  C ha r a c t e r   r e c o g ni t i on  a ppl i c a t i on.  I t   i s   no t   e x pe c t e d  i n   s uc h  a n  a ppl i c a t i on  t o   e xpl a i n  t he   pr e di c t i ons   m a de .  T he   pr obl e m   i s   r e a l l y   w e l l - de s i g ne d  a nd  doe s ’ t   r e qui r e   a ny   e xpl a na t i on.  E i t he r   t he   c ha r a c t e r   i s   c l a s s i f i e d  c or r e c t l y   or   w r on g l y .  I f   A I   m ode l   i s   not   a bl e   t o  c l a s s i f y   t he   c ha r a c t e r   c or r e c t l y ,  m ode l   t uni ng   n e e d  t o  be   done   i n  or de r   t o  i m pr o v e   t he   p r e di c t i on  a c c ur a c y   a nd  w he n   m od e l s   a r e   not   e xpe c t e d  t o   m a n i pul a t e .  T he r e   a r e   m od e l s   w hi c h  a r e   not   e xpe c t e d  t o  m a ni pul a t e   a nd  ha v e   j us t   a s s i s t a nc e ,  i nf or m a t i v e ,  a na l y t i c a l   r ol e s   s uc h  a s   de s c r i pt i v e   m ode l s ,  di a g nos t i c   m ode l s ,  pr e di c t i v e   m ode l s ,   a nd  r e s o m m n e da t i on  m ode l s .  T hus ,  one   c a n  unde r s t a nd  t he   i m por t a nc e   of   X A I   i n  hi gh - i m p a c t   do m a i n.     U s e   of   X A I   e ns ur e s   e xpl a i na bi l i t y   w hi c h  he l s   i n  bui l di ng   t r us t   a nd  i nc r e a s e   a c c e pt a nc e   of   t he   A I   m ode l s .     I t  a l s o e ns ur e s  e t hi c a l  s t a nda r ds  a s  e v e r y t hi ng  i s  no w  i nt e r pr e t a bl e .    O ne   of   t he   di s a d v a nt a ge s   of   X A I   t e c hnol ogy   l i e s   i n  i t s   i nt e r pr e t a bl e   na t ur e .  T a ke   a n  e x a m pl e   of   a   C r e di t   c a r d  f r a ud  de t e c t i on  s y s t e m .  I f   t he   e xpl a na t i ons   of   s uc h  a   s y s t e m   w i l l   be   unde r s t ood  by   t he   f r a u d   pe r s on onl y , t he n he   w i l l  t a ke  c a r e  not  t o t a ke  t he  i de nt i f i e d s t e ps  a nd w i l l  f i nd out  ot he r   w a y s  of  doi n g  f r a ud.   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i ,  V ol .  40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   294   T hi s   a l t e r na t e   f r a ud  m i g ht   not   g e t   de t e c t e d  b y   t he   unde r l y i ng   m ode l .  T hus ,  w i t h  s uc h  num e r ous   c a s e s   a   r e s e a r c h  s c ope   i s   ope n  f or   a s pi r a nt s   w ho  w a nt   t o  s e e   a   be t t e r   c onc r e t e   A I   t e c hnol og i c a l   f ut ur e   w i t h   e xpl a i na bl e  A I .        A C K N O WL E D G E M E N T S   T hi s   r e s e a r c h  i s   s uppor t e d  by  D r .  V i v e k  S unna pw a r ,  P r i nc i pa l ,  K .  J .  S o m a i y a   I ns t i t ut e   of   T e c hnol ogy ,  M u m ba i .  W e   t ha nk  hi m   f or   a l l   t he   g ui da nc e   a nd  s uppor t   pr o v i de d  i n  t hi s   r e s e a r c h.  W e   a l s o   t ha nk our  f a m i l y   m e m b e r s  f or  t he i r  ki nd s uppor t .       F U N D I N G  I N F O R M A T I O N   A ut hor s  s t a t e  no f undi ng  i n v ol v e d.       A U T H O R  C O N T R I B U T I O N S  S T A T E M E N T   T hi s   j our na l   us e s   t he   C ont r i but or   R ol e s   T a xono m y   ( C R e di T )   t o  r e c og ni z e   i ndi v i du a l   a ut hor   c ont r i but i ons ,  r e duc e  a ut hor s hi p di s pu t e s , a nd f a c i l i t a t e  c ol l a bor a t i on.      N am e  of  A u t h or   C   M   So   Va   Fo   I   R   D   O   E   Vi   Su   P   Fu   R e e na  L oka r e                               J y ot i  M or e                               V a i s ha l i  S a r bhuka n                               M a ns i ng  R a t hod                               S a r i t a  R a t hod                               S uni t a   P a t i l                                 C   :    C on c e pt ua l i z a t i o n   M   :    M e t h o dol o g y   So   :    So f t w a r e   Va   :    Va l i da t i o n   Fo   :    Fo r m a l   a n a l ys i s   I   :    I n ve s t i g a t i o n   R   :    R e s our c e s   D   :   D a t a   C ur a t i on   O   :   W r i t i ng   -   O r i g i n a l   D r a f t   E   :   W r i t i ng   -   R e v i e w   &   E di t i ng   Vi   :    Vi s ua l i z a t i o n   Su   :    Su pe r vi s i on   P   :    P r oj e c t   a dm i n i s t r a t i o n   Fu   :    Fu n di ng   a c qui s i t i o n         C O N F L I C T  O F  I N T E R E S T  S T A T E M E N T   T he r e  i s  no c onf l i c t  of  i nt e r e s t .       D A T A  A V A I L A B I L I T Y   T he  da t a  us e d i n t he  r e s e a r c h i s  publ i c a l y  a v a i l a bl e  t o a c c e s s  a t   ht t ps : / / a r c hi v e .i c s .uc i .e du/ .       R E F E R E N C E S   [ 1]   S .   S pr e e u w e n be r g,   “ C h oos e   f o r   A I   a n d  f or   e x pl a i n a bi l i t y , ”   i n   L e c t ur e   N ot e s   i n  C om put e r   Sc i e n c e   ( i n c l ud i ng  s ubs e r i e s   L e c t ur e   N ot e s   i n  A r t i f i c i al   I nt e l l i ge n c e   and  L e c t ur e   N ot e s   i n  B i oi nf or m at i c s ) ,   vol .   11878  L N C S ,   2020 ,   pp.   3 – 8.   [ 2]   J .   B or a n a ,   “ A pp l i c a t i o n s   of   a r t i f i c i a l   i nt e l l i g e n c e   &   a s s oc i a t e d   t e c h n ol o gi e s , ”   P r oc e e di ng  of   I nt e r nat i onal   C on f e r e nc e   on  E m e r gi ng  T e c hn ol ogi e s   i n  E ngi ne e r i ng,   B i om e di c al ,   M anage m e nt   and  S c i e n c e   [ E T E B M S - 2016] ,   pp.   64 – 67,   2016.   [ 3]   R .   C i of f i ,   M .   T r a va g l i o n i ,   G .   P i s c i t e l l i ,   A .   P e t r i l l o,   a n d  F .   D e   F e l i c e ,   “ A r t i f i c i a l   i n t e l l i g e n c e   a n d  m a c h i n e   l e a r ni ng   a ppl i c a t i o n s   i n  s m a r t   pr oduc t i o n :   pr o g r e s s ,   t r e n ds ,   a n d  di r e c t i o n s , ”   Sus t ai nabi l i t y ,   vol .   12,   n o.   2,   p.   492,   J a n .   2020,   doi :   10. 3390/ s u12020492.   [ 4]   R .   A r u n ,   “ E x pl a i n a bl e   A I :   f r o m   bl a c k  bo x   t o  gl a s s   box , ”   J our nal   of   t he   A c ade m y   of   M ar k e t i ng  Sc i e nc e ,   vol .   4 8,   pp.   137 – 141 ,   2020.   [ 5]   Q .   V .   L i a o ,   M .   S i ngh,   Y .   Z h a ng,   a n d  R .   B e l l a m y,   “ I nt r oduc t i o n   t o  e xp l a i n a bl e   A I , ”   i n   C onf e r e nc e   on  H um an  F ac t or s   i n  C om put i ng  Sy s t e m s   -   P r oc e e di ngs ,   M a y  2021 ,   pp.   1 – 3,   doi :   10. 1145/ 3411763. 344501 6.   [ 6]   C .   R udi n ,   C .   C h e n ,   Z .   C h e n,   H .   H ua ng ,   L .   S e m e n ova ,   a n d  C .   Z h o ng,   “ I n t e r pr e t a bl e   m a c h i n e   l e a r n i ng :   f u n da m e n t a l   pr i n c i pl e s   a nd   10  g r a n d  c h a l l e ng e s , ”   St at i s t i c s   Sur v e y s ,   vol .   16,   n o.   n o n e ,   pp.   1 – 85,   J a n .   2022,   doi :   10. 1214/ 21 - S S 133.   [ 7]   J .   Z u g a z a g o i t i a ,   C .   G ue de s ,   S .   P on c e ,   I .   F e r r e r ,   S .   M ol i n a - P i n e l o,   a n d  L .   P a z - A r e s ,   “ C ur r e n t   c h a l l e ng e s   i n   c a n c e r   t r e a t m e nt , ”   C l i ni c a l   T he r ape ut i c s ,   vol .   38,   n o.   7,   pp.   1551 – 1566 ,   J ul .   2016,   doi :   10. 1016/ j . c l i n t h e r a . 2016. 03. 026.   [ 8]   F .   K .   D os i l ovi c ,   M .   B r c i c ,   a n d  N .   H l up i c ,   “ E x p l a i n a bl e   a r t i f i c i a l   i n t e l l i g e n c e :   a   s ur ve y , ”   i n   2018  41s t   I nt e r nat i ona l   C onv e nt i on  on   I nf or m at i on  and  C om m uni c at i on  T e c hn o l ogy ,   E l e c t r oni c s   and  M i c r oe l e c t r oni c s   ( M I P R O ) ,   M a y  2018 ,   pp.   0210 – 0215 ,     doi :   10. 23919/ M I P R O . 2018. 8400040.   [ 9]   L .   B e r t os s i   a n d  F .   G e e r t s ,   “ D a t a   qua l i t y  a n d  e x pl a i n a bl e   A I , ”   J our nal   of   D at a  and  I nf o r m at i on  Q ual i t y ,   vol .   12,   n o.   2,   pp.   1 – 9,   J un .   2020,   doi :   10. 1145/ 3386 687.     Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e   …   ( R e e na L o k ar e )   295   [ 10]   R .   H a m o n,   H .   J un kl e w i t z ,   a n d  I .   S a n c h e z ,   “ R obus t n e s s   a n d  e x pl a i n a bi l i t y  of   a r t i f i c i a l   i n t e l l i g e n c e , ”   J oi nt   R e s e ar c h  C e nt r e   ( E ur ope an  C om m i s s i on) ,   p.   40,   2020 ,   [ O n l i n e ] .   A va i l a bl e :   h t t ps : / / publ i c a t i o n s . j r c . e c . e ur opa . e u/ r e pos i t or y/ bi t s t r e a m / J R C 119336 / dpa d_r e po r t . pdf ? r e f = h t t ps : / / g i t hub h e l p. c o m .   [ 11]   Y .   L i n   a n d  X .   C h a ng,   “ T o w a r ds   i n t e r p r e t i ng   M L - ba s e d  a ut o m a t e d  m a l w a r e   de t e c t i o n   m ode l s :   a   s ur ve y, ”   A r X i v   pr e pr i nt ,   2021 ,   [ O n l i n e ] .   A va i l a bl e :   h t t p: / / a r x i v. or g/ a bs / 2101. 06232.   [ 12]   R .   G ui dot t i ,   A .   M o n r e a l e ,   S .   R u gg i e r i ,   F .   T ur i n i ,   F .   G i a nn ot t i ,   a n d  D .   P e dr e s c h i ,   “ A   s ur ve y  of   m e t h ods   f o r   e x p l a i n i ng   bl a c k  bo x  m o de l s , ”   A C M   C om put i ng  Sur v e y s ,   vol .   51,   n o.   5,   pp.   1 – 42,   S e p.   2019,   doi :   10. 1145/ 32360 09.   [ 13]   D .   V .   C a r va l h o ,   E .   M .   P e r e i r a ,   a nd  J .   S .   C a r dos o,   “ M a c hi n e   l e a r n i ng   i nt e r pr e t a b i l i t y:   a   s ur ve y  o n   m e t h od s   a n d  m e t r i c s , ”   E l e c t r oni c s ,   vol .   8,   n o.   8,   p.   832,   J ul .   2019,   doi :   10. 3390/ e l e c t r o n i c s 8080832.   [ 14]   S .   G a n e s h   N ,   D .   R a h u l ,   S .   J yot s a n a ,   S .   P i us h,   a n d  S .   K . K . ,   “ V a r i o us   T ype s   a n d  m a n a g e m e n t   of   br e a s t   c a n c e r :   a n   ove r vi e w , ”   J our nal   of   A dv anc e d  P har m a c e ut i c a l   T e c hn ol ogy   and  R e s e ar c h ,   vol .   1,   n o.   2,   pp.   109 – 126,   2010.   [ 15]   J .   D a s ,   K .   M .   G a yve r t ,   a n d  H .   Y u,   “ P r e di c t i ng   c a n c e r   pr o gn os i s   us i ng   f u n c t i o n a l   g e n o m i c s   da t a   s e t s , ”   C anc e r   I nf or m at i c s ,    vol .   13s 5,   p.   C I N . S 14064,   J a n .   2014,   doi :   10. 4137/ C I N . S 14064.   [ 16]   M .   L i c hm a n ,   “ U C I   m a c h i n e   l e a r n i ng   r e pos i t o r y, ”   U n i ve r s i t y  of   C a l i f or n i a ,   S c h ool   of   I nf or m a t i o n   a nd  C om p ut e r   S c i e n c e ,   2016.   [ 17]   J .   G a o  e t   al . ,   “ I n t e gr a t i ve   a n a l ys i s   of   c om pl e x   c a n c e r   g e n o m i c s   a n d  c l i n i c a l   pr of i l e s   us i ng   t h e   c B i oP o r t a l , ”   Sc i e nc e   Si gnal i ng ,    vol .   6,   n o.   269,   A pr .   2013,   doi :   10. 1126/ s c i s i gn a l . 2004088.   [ 18]   J .   M i t r os   a n d  B .   M a c   N a m e e ,   “ A   c a t e g o r i s a t i o n   of   P os t - h oc   e x pl a n a t i o n s   f or   p r e di c t i ve   m ode l s , ”   A r X i v   pr e pr i nt ,   A pr .   2019 ,   [ O n l i n e ] .   A va i l a bl e :   h t t p: / / a r x i v. or g/ a bs / 1904. 02495.   [ 19]   H .   K i m ,   W . - Y .   L o h,   Y . - S .   S h i h,   a n d  P .   C h a ud h u r i ,   “ V i s ua l i z a bl e   a n d  i nt e r p r e t a bl e   r e g r e s s i o n   m ode l s   w i t h   g ood  pr e di c t i o n  pow e r , ”   I I E   T r ans ac t i ons ,   vol .   39,   n o.   6,   pp.   565 – 579,   M a r .   2007,   doi :   10. 1080/ 0 740817060 0897502.   [ 20]   M .   R i be i r o,   S .   S i ngh ,   a n d  C .   G ue s t r i n ,   “ ‘ W hy  s h ou l d  i   t r us t   you? ’ :   E x pl a i ni ng   t h e   pr e di c t i o n s   of   a n y  c l a s s i f i e r , ”   i n  P r oc e e di ngs   of   t he   2016  C on f e r e nc e   of   t he   N or t h   A m e r i c an  C hapt e r   of   t he   A s s oc i at i on  f or   C om put at i onal   L i ngui s t i c s :   D e m on s t r at i ons ,   2016,     pp.   97 – 101,   doi :   10. 18653/ v1/ N 16 - 3020.   [ 21]   M .   R .   Z a f a r   a n d  N .   M .   K h a n ,   “ D L I M E :   a   de t e r m i n i s t i c   l oc a l   i n t e r pr e t a bl e   m ode l - a gnos t i c   e x pl a n a t i o n s   a p pr oa c h   f or   c o m pu t e r - a i de d  di a gn os i s   s ys t e m s , ”   A r X i v   pr e pr i nt ,   2019 ,   [ O n l i n e ] .   A va i l a bl e :   h t t p : / / a r x i v. or g / a bs / 1906. 10263.   [ 22]   F .   G a bba y,   S .   B a r - L e v,   O .   M ont a n o,   a n d  N .   H a da d,   “ A   L I M E - ba s e d  e x pl a i n a bl e   m a c h i n e   l e a r n i ng   m ode l   f o r   pr e di c t i ng   t he   s e ve r i t y  l e v e l   of   C O V I D - 1 9  di a gn os e d  pa t i e n t s , ”   A pp l i e d  Sc i e n c e s ,   vol .   11,   n o.   21,   p.   10417,   N ov.   2021,   doi :   10. 3390/ a pp112110417.   [ 23]   R .   E l S h a w i ,   Y .   S h e r i f ,   M .   A l ‐ M a l l a h ,   a n d  S .   S a kr ,   “ I nt e r pr e t a b i l i t y  i n   h e a l t h c a r e :   a   c om pa r a t i ve   s t udy  of   l oc a l   m a c h i n e   l e a r ni n g  i n t e r pr e t a bi l i t y  t e c hn i que s , ”   C om put at i onal   I nt e l l i ge nc e ,   vol .   37,   n o.   4,   pp.   1633 – 1650 ,   N ov.   2021,   doi :   10. 1111/ c oi n . 12410.   [ 24]   S .   D e y   e t   al . ,   “ H u m a n - c e n t e r e d  e x pl a i n a bi l i t y  f or   l i f e   s c i e n c e s ,   h e a l t h c a r e ,   a nd  m e di c a l   i nf or m a t i c s , ”   P at t e r ns ,   vol .   3,   n o.   5,     p.   100493,   M a y  2022,   doi :   10. 1016/ j . pa t t e r . 2022. 100493.   [ 25]   Y .   Z h a ng ,   Y .   W e ng,   a n d  J .   L u n d,   “ A ppl i c a t i o n s   of   e x pl a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   i n   di a gn os i s   a n d  s ur g e r y, ”   D i agnos t i c s ,    vol .   12,   n o.   2,   p.   237,   J a n .   2022,   doi :   10. 3390/ di a gn os t i c s 120202 37.       B I O G R A P H I E S  O F  A U T H O R S       Re e n a   L o k a r e           h o l d s   a   Do c to r   o f   P h i l o s o p h y   i n   C o m p u ter   E n g i n e e r i n g   d e g r e e   f r o m   M u m b a i   U n iv e r s i ty ,   I n d i a   i n   2 0 2 3 .   S h e   i s   wo r k i n g   a s   a n   a s s i s tan t  p r o f e s s o r   a t  K. J .   S o m a i y a   I n s ti tu te  o f   T e c h n o l o g y ,   M u m b a i ,   I n d i a .   S h e   h a s   n e a r l y   2 1   y e a r s   o f   tea c h i n g   e x p e r i e n c e .   He r   a r e a s   o f   e x p e r ti s e   i n c l u d e   d a ta  s tr u c tu r e s ,   a l g o r i th m s ,   a u to m a ta  th e o r y ,   s o f t   c o m p u ti n g ,   ML   a n d   DL ,  a n d   b i o i n f o r m a ti c s .   S h e   h a s   n e a r l y   2 0   r e s e a r c h   p u b l i c a t i o n s   a n d   2   c o l l o b o r a ti v e   r e s e a r c h   p r o jec ts   i n   th e   h e a l th c a r e   d o m a i n .   S h e   c a n   b e   c o n tac ted   a t  e m a i l :  r e e n a . l @s o m a i y a . e d u .           Dr .   J y o t i   S u n il   M o r e           p u r s u e d   B . E .   C o m p u ter   S c i e n c e   E n g g .   ( 2 0 0 3 )   f r o m   S h i v a j i   U n i v e r s i ty ,   M . T e c h .   i n   C o m p u ter   E n g i n e e r i n g   ( 2 0 0 6 )   f r o m   Dr .   B . A. T . U. ,   L o n e r e   a n d   P h .   D.   i n   C o m p u ter   E n g g .   F r o m   U n iv e r s i ty   o f   M u m b a i   i n   2 0 1 9 .   S h e   h a s   m o r e   th a n   2 0   y e a r s   o f   T e a c h i n g   e x p e r i e n c e   a n d   i s   c u r r e n tl y   a f f il i a ted   to   F r .   C .   R .   I .   T ,   a f f il i a ted   to   M u m b a i  U n iv e r s i ty .   S h e   h a s   p u b l i s h e d   s e v e r a l  r e s e a r c h   p a p e r s   i n   i n ter n a ti o n a l   co n f e r e n c e s   a n d   jo u r n a l s .   He r   a r e a   o f   e x p e r ti s e   a r e   c o m p u ter   n e tw o r k s ,   d a tab a s e s ,   d a ta  m i n i n g ,   ML ,  d a ta   s c i e n c e ,   a n d   AI .   S h e   c a n   b e   c o n tac ted   a t  e m a il :   jy o ti . m o r e @f c r i t. a c . i n .     Dr .   Va is h a li   V.   S a r b h u k a n   ( B o d a d e )           h a s   c o m p l e ted   h e r   P h . D .   ( I T )   i n   2 0 1 9   f r o m   M u m b a i   U n i v e r s i ty .   S h e   h a s   c o m p l e ted   h e r   M . E .   ( C o m p u ter )   a n d   B . E .   ( C S E )   i n   2 0 1 3   a n d   2 0 0 2   f r o m   M u m b a i   U n i v e r s i ty   a n d   Am a r a v a t i   U n iv e r s i ty   r e s p e c ti v e l y .   C u r r e n tl y   s h e   i s   wo r k i n g   a s   a s s o c i a te   p r o f e s s o r ,   De p a r tm e n t  o f   I n f o r m a ti o n   T e c h n o l o g y ,   F C R I T ,   Va s h i,   Na v i  M u m b a i .   S h e   h a s   1 9   y e a r s   o f   tea c h i n g   e x p e r i e n c e .   S h e   h a s   p u b l i s h e d   2 6   p a p e r s   i n   v a r i o u s   s c o p u s ,   S C I   a n d   i n ter n a ti o n a l   jo u r n a l   a n d   1 3   p a p e r s   i n   n a ti o n a l   a n d   i n ter n a t i o n a l  c o n f e r e n c e s .   He r   a r e a   o f   i n ter e s t  i s   s e c u r i ty ,   M L ,   d a ta  s c i e n c e ,   a n d   AI .   S h e   c a n   b e   c o n tac ted   a t  e m a il :   v a i s h a li . b o d a d e @f c r i t. a c . i n .       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i ,  V ol .  40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   296     M a n s in g   Ra t h o d           As s o c i a te  p r o f e s s o r   i n   th e   d e p a r t m e n t  o f   I n f o r m a ti o n   T e c h n o l o g y ,   K . J .   S o m a i y a   I n s ti tu te  o f   T e c h n o l o g y ,   M u m b a i   U n iv e r s i ty   a n d   h a v i n g   2 4   y e a r s ’   e x p e r i e n c e   i n   tea c h i n g .   C o m p l e ted   P h . D .   i n   i m a g e   p r o c e s s i n g   d o m a i n   wi th   r e s e a r c h   a r e a   i . e . ,   R e s o l u ti o n   E n h a n c e m e n t  o f   S a tell i te   i m a g e .   He   h a s   a u th o r e d   o v e r   3 4   p e e r   r e v i e we d   c o n f e r e n c e   a n d   jo u r n a l   p a p e r s .   He   c o n d u c te d   s e v e r a l   n a t i o n a l   l e v e l  f a c u l ty   d e v e l o p m e n t   p r o g r a m s   u n d e r   AI C T E .   He   c a n   b e   c o n tac ted   a t  e m a il :   r a th o d m @s o m a i y a . e d u .         S a r it a   Ra t h o d           p e r u s i n g   a   Do c to r   o f   P h il o s o p h y   i n   C o m p u ter   E n g i n e e r i n g   d e g r e e   f r o m   M u m b a i   U n iv e r s i ty ,   I n d i a .   S h e   i s   wo r k i n g   a s   a n   a s s i s tan t  p r o f e s s o r   a t  K. J .   S o m a i y a   I n s ti tu te  o f   T e c h n o l o g y ,   M u m b a i ,   I n d i a .   S h e   h a s   n e a r l y   1 8   y e a r s   o f   tea c h i n g   e x p e r i e n c e .   He r   a r e a s   o f   e x p e r ti s e   i n c l u d e   d a ta  s tr u c tu r e s ,   M L   a n d   DL ,  a n d   NL P .   S h e   h a s   n e a r l y   2 0   r e s e a r c h   p u b l i c a t i o n s .   S h e   c a n   b e   c o n tac te d   a t  e m a i l :  s a r i ta. r @s o m a i y a . e d u .         Dr .   S u n it a   P a t il           i s   a   d i r e c to r   a t   S VK M ’ s   NM I M S   S h i r p u r ,   I n d i a .   S h e   i s   a   m e m b e r ,   B o a r d   o f   S tu d i e s   i n   C o m p u ter   E n g i n e e r i n g ,   U o M .   S h e   r e c e i v e d   P h . D.   i n   C o m p u ter   E n g i n e e r i n g   i n   th e   d o m a i n   d a ta  m i n i n g ,   b ig   d a ta,   a n d   d a ta  s c i e n c e .   S h e   i s   h a v i n g   a r o u n d   2 0   y e a r s   o f   tea c h i n g   a n d   a d m i n i s tr a t i v e   e x p e r i e n c e .   S h e   h a s   p u b l i s h e d   h e r   r e s e a r c h   wo r k   i n   v a r i o u s   r e c o g n i z e d   Na t i o n a l /I n ter n a t i o n a l   J o u r n a l s   a n d   c o n f e r e n c e s .   S h e   h a s   v i s i ted   v a r i o u s   i n ter n a ti o n a l  u n i v e r s i t i e s   a n d   o r g a n i z a t i o n s   f o r   a tt e n d i n g   c o n f e r e n c e s ,   k n o wl e d g e   s h a r i n g   a n d   e x c h a n g e   o f   i n f o r m a ti o n .   He r   p a s s i o n   i s   to   b r i n g   i n   v a r i o u s   o u tco m e - b a s e d   r e f o r m s   i n   th e   f i e l d   o f   a c a d e m i c s   c o n tr i b u ti n g   to   th e   g r o wth   o f   s o c i e ty ,   n a ti o n   a n d   wo r l d   a t  l a r g e .   S h e   c a n   b e   c o n tac ted   a t  e m a i l:   s p a ti l @s o m a i y a . e d u .     Evaluation Warning : The document was created with Spire.PDF for Python.