I nd o ne s ia n J o urna l o f   E lect rica l En g ineering   a nd   Co m pu t er   Science   Vo l.   41 ,   No .   1 J an u ar y   20 2 6 ,   p p .   3 0 0 ~ 3 0 8   I SS N:  2 502 - 4 7 52 ,   DOI : 1 0 . 1 1 5 9 1 /ijee cs .v 41 . i 1 . pp 300 - 3 0 8           300     J o ur na l ho m ep a g e h ttp : //ij ee cs . ia esco r e. co m   Cy ber phys ica l sy stems ma intenan c e wit h  e x pla ina bl unsu perv ised ma chine learni ng       V .   Durg a   P ra s a d J a s t i 1 ,   K o ud eg a Ash o k 2 Ra ma ra o   G ud e 3 P ra bh a k a K a nd uk uri 4   Su re nd ra   Na dh   B ena rj i Bej j a m 5 ,   Anus ha   B . 6   1 D e p a r t me n t   o f   C o m p u t e r   S c i e n c e   a n d   E n g i n e e r i n g S i d d h a r t h a   A c a d e m y   o f   H i g h e r   Ed u c a t i o n ,   V i j a y a w a d a ,   I n d i a   2 D e p a r t me n t   o f   C o m p u t e r   S c i e n c e   a n d   E n g i n e e r i n g   ( C y b e r   S e c u r i t y ) V i g n a n a   B h a r a t h i   I n st i t u t e   o f   T e c h n o l o g y ,   H y d e r a b a d I n d i a   3 D e p a r t me n t   o f   El e c t r o n i c s a n d   C o m mu n i c a t i o n   En g i n e e r i n g ,   G .   P u l l a i a h   C o l l e g e   o f   E n g i n e e r i n g   a n d   Te c h n o l o g y ,   K u r n o o l ,   I n d i a   4 D e p a r t me n t   o f   A r t i f i c i a l   I n t e l l i g e n c e   a n d   M a c h i n e   L e a r n i n g C h a i t a n y a   B h a r a t h i   I n st i t u t e   o f   T e c h n o l o g y H y d e r a b a d ,   I n d i a   5 D e p a r t me n t   o f   C o m p u t e r   S c i e n c e   a n d   E n g i n e e r i n g ,   K o n e r u   L a k sh m a i a h   E d u c a t i o n   F o u n d a t i o n ,   V a d d e sw a r a m I n d i a   6 D e p a r t me n t   o f   El e c t r o n i c s a n d   C o m mu n i c a t i o n   En g i n e e r i n g A n d h r a   U n i v e r si t y ,   V i sa k h a p a t n a m ,   I n d i a       Art icle  I nfo     AB S T RAC T     A r ticle  his to r y:   R ec eiv ed   Feb   23 2 0 2 4   R ev is ed   Oct   16 202 4   Acc ep ted   Dec   13 2 0 2 5       As  c y b e r - p h y sic a s y ste m (CP S )   c o n t in u e   t o   p lay   a   p iv o tal  r o le  i n   m o d e rn   tec h n o l o g ica lan d sc a p e s,  t h e   n e e d   fo r o b u st  a n d   tra n sp a re n t   m a c h in e   lea rn in g   (M L)   m o d e ls  b e c o m e i m p e ra ti v e .   Th is  re se a rc h   p a p e e x p l o re th e   in teg ra ti o n   o e x p lain a b le  a rti f icia in telli g e n c e   (XA I)  p rin c i p les   in t o   u n su p e rv ise d   m a c h in e   lea rn i n g   (UML tec h n iq u e fo r   e n h a n c in g   th e   in terp re tab il it y   a n d   u n d e rsta n d in g   o c o m p lex   re lati o n s h ip wi th i n   CP S .   T h e   k e y   fo c u a re a in c lu d e   th e   a p p l i c a ti o n   o se lf - o r g a n izin g   m a p (S OMs)  a a   re p re se n tativ e   u n su p e rv ise d   le a r n in g   a l g o ri th m   a n d   th e   i n c o rp o ra ti o n   o f   in terp re tab le  ML   m e th o d o l o g ies .   Th e   stu d y   d e l v e in t o   th e   c h a ll e n g e p o se d   b y   th e   in h e re n tl y   i n tri c a te  n a tu re   o CP S   d a ta,  c h a ra c teriz e d   b y   th e   fu si o n   o f   p h y sic a l   p r o c e ss e a n d   d ig it a c o m p o n e n ts.   Trad it io n a b lac k - box  a p p ro a c h e in   u n su p e rv ise d   lea rn in g   o ften   h in d e th e   c o m p re h e n sio n   o f   m o d e l - g e n e ra ted   in si g h ts,  m a k i n g   th e m   les su it a b le  f o c rit ica CP S   a p p li c a ti o n s.  In   re sp o n se ,   t h is  re se a rc h   in tro d u c e a   n o v e fra m e wo rk   th a t   lev e ra g e S OM s,  a   p o we rfu u n su p e r v is e d   tec h n i q u e ,   wh il e   c o n c u rre n tl y   e n su rin g   i n terp re tab il it y   t h ro u g h   X AI  tec h n iq u e s.  T h e   p a p e p ro v i d e a   c o m p re h e n siv e   o v e rv iew   o e x isti n g   XA m e th o d a n d   th e ir  a d a p tatio n   to   u n su p e rv ise d   lea rn in g   p a ra d ig m s.   S p e c ial  e m p h a sis  is  p lac e d   o n   d e v e lo p i n g   tran sp a re n re p re se n tati o n o lea rn e d   p a tt e rn wit h in   th e   CP S   d o m a in .   Th e   p ro p o se d   a p p r o a c h   a ims   to   e n h a n c e   m o d e l   i n terp re tab il it y   t h ro u g h   th e   g e n e ra ti o n   o h u m a n - u n d e rsta n d a b le  v isu a li z a ti o n a n d   e x p lan a ti o n s ,   b rid g in g   t h e   g a p   b e twe e n   a d v a n c e d   ML   m o d e ls an d   d o m a in   e x p e rt s.   K ey w o r d s :   C y b er - p h y s ical  s y s tem s   E x p lain ab le  ar tific ial  in tellig en ce   I n ter p r etab le  m ac h in lear n in g   Self - o r g an izin g   m ap s   Un s u p er v is ed   m ac h i n lear n in g   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   An u s h a   B.   Dep ar tm en t o f   E lectr o n ics an d   C o m m u n icatio n   E n g in ee r i n g An d h r U n iv er s ity   Vis ak h ap atn am ,   An d h r Pra d e s h ,   I n d ia   E m ail:  an u tan h ar @ g m ail. co m       1.   I NT RO D UCT I O N   I n   th r ea lm   o f   cy b e r - p h y s ical  s y s tem s   ( C PS ) ,   th in teg r atio n   o f   m ac h in lear n i n g   ( ML )   a lg o r ith m s   is   b ec o m in g   in cr ea s in g ly   p r ev alen t.  Ho wev er ,   th e   b lack - b o x   n atu r o f   m an y   ML   m o d els  p o s es  ch allen g es  in   u n d er s tan d i n g   th eir   d ec is io n s ,   wh ich   is   cr itical  f o r   th s af ety   an d   r eliab ilit y   o f   C PS .   T h is   p ap er   ex p l o r es  th ap p licatio n   o f   e x p lain ab le  u n s u p er v is ed   m ac h i n lear n in g   ( E UM L )   tech n iq u es,  f o cu s in g   o n   e x p lain ab le   ar tific ial  in tellig en ce   ( XAI )   p r in cip les,  s elf - o r g an izin g   m a p s   ( SOMs) ,   in ter p r etab le  ML ,   an d   u n s u p er v is ed   m ac h in lear n in g   ( UM L )   [ 1 ] [ 3 ] .   T h r a p id   i n teg r atio n   o f   ML   tech n iq u es  i n to   C PS   h as  s ig n if ican tl y   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2 5 0 2 - 4 7 52         C yb er p h ysica l sys tem s   ma in ten a n ce   w ith   ex p la in a b le  u n s u p ervis ed   …  ( V .   Du r g a   P r a s a d   Ja s ti )   301   ad v an ce d   th ca p ab ilit ies  o f   th ese  co m p lex   s y s tem s .   Ho wev er ,   th o p ac ity   o f   m an y   ML   m o d els  p o s es  ch allen g es  in   u n d er s tan d i n g   a n d   tr u s tin g   th eir   d ec is io n s ,   p a r ticu lar ly   in   s af ety - cr itical  d o m ain s   [ 4 ] [ 5 ] .   T h is   p ap er   a d d r ess es  th n ee d   f o r   tr an s p ar en cy   an d   in ter p r eta b ilit y   in   C PS   b y   f o cu s in g   o n   E U ML   tech n iq u es.  Key   co m p o n en ts   o f   th is   ex p lo r ati o n   in clu d p r in cip les  f r o m   XAI ,   SOM s ,   in ter p r etab le  m ac h in lear n in g ,   an d   UM L   [ 6 ] [ 7 ] .   As  we  lear n   m o r e   ab o u E U ML ,   it' s   im p o r tan to   th in k   ab o u wh at  u n s u p er v is ed   lear n in g   m ea n s   in   C PS ,   wh er p h y s ical  an d   cy b e r   p ar ts   ar lin k ed   an d   r e q u ir e   h ig h e r   le v el  o f   o p en n ess .   T h is   in tr o d u ctio n   lay s   th g r o u n d wo r k   f o r   m o r in - d ep th   lo o k   at  E UM L .   T h e   g o al  is   to   clo s th g ap   b et wee n   th f ac th at  u n co n tr o lled   lear n in g   m o d els   ar en ' alwa y s   clea r   an d   th n ee d   f o r   clea r ,   u n d er s tan d ab l d ec is io n - m ak in g   p r o ce s s es  in   C PS   [ 8 ] .   T h s u b s eq u en s ec tio n s   o f   th is   p ap e r   will  u n f o ld   t h lay e r s   o f   s u p er v is ed   an d   UM L ex am in th p r in cip le s   o f   ex p lain ab ilit y ,   an d   u ltima tely   f o cu s   o n   th in ter s ec tio n   o f   u n s u p er v is ed   lear n in g   an d   in ter p r etab ilit y   in   C PS .   T h in v esti g atio n   will c u lm in at in   d etailed   ex p lo r atio n   o f   e x p lain ab le  SOMs a s   p r o m is in g   a p p r o ac h   to   ad d r ess   th ch allen g es  p o s ed   b y   t r ad itio n al  b lack - b o x   m o d els  in   C PS   ap p licatio n s   [ 9 ] [ 1 0 ] .   T h r o u g h   th is   ex p lo r atio n ,   we  aim   to   co n tr ib u te   to   th ev o lv i n g   lan d s ca p o f   in ter p r etab le  a n d   tr u s two r th y   ML   s o lu tio n s   f o r   t h in tr icate   d o m ain   o f   C PS   [ 1 1 ] [ 1 2 ] .   Su p er v is ed   m ac h in lear n in g   ( SML )   s tan d s   as   co r n er s to n in   th f ield   o f   ML ,   in v o lv in g   th tr ain in g   o f   m o d els  o n   lab eled   d atasets   to   m a k p r ed ictio n s   o r   class if icatio n s .   T h e f f ec t iv en ess   o f   SML   in   v ar io u s   d o m ain s   h as  b ee n   wel l - estab lis h ed ,   lead in g   to   its   wid esp r ea d   ad o p tio n .   H o wev er ,   th in ter p r etab ilit y   o f   th ese  m o d els  o f ten   d im in i s h es  as  th ey   g r o in   co m p le x ity ,   m ak in g   it  ch allen g in g   to   co m p r e h en d   t h e   d ec is io n - m ak in g   p r o ce s s es.  I n   s af ety - cr itical  a p p licatio n s ,   u n d er s tan d in g   wh y   m o d el   m ak es  a   s p ec if ic  p r ed ictio n   is   p ar a m o u n t,  p r o m p tin g   t h e x p lo r atio n   o f   alte r n ativ a p p r o ac h es  [ 1 3 ] ,   [ 1 4 ] .   Un lik SML ,   UM L   d ea ls   with   u n lab eled   d ata,   s e ek in g   to   u n co v er   u n d er ly i n g   p atter n s   an d   s tr u ctu r es  with o u ex p licit  g u id a n ce .   C lu s ter in g   an d   d im e n s io n ality   r ed u ctio n   ar e   co m m o n   task s   in   UM L ,   wh er e   th ab s en ce   o f   lab eled   e x am p les  ch allen g es  th in ter p r etab ilit y   o f   lear n ed   r ep r esen tatio n s .   As  C PS   in v o lv es  in tr icate   in ter ac tio n s   b etwe en   p h y s ical  an d   cy b er   co m p o n e n ts ,   th ab ilit y   to   d ec ip h er   th laten r elatio n s h ip s   with in   d ata  b ec o m es  cr u cial   f o r   ef f ec tiv d e cisi o n - m a k in g   [ 1 5 ] [ 1 7 ] .   E x p lain ab le  m ac h in lear n in g   ( XM L )   h as  em er g ed   as  cr iti ca f ield   to   ad d r ess   th b lack - b o x   n at u r o f   m an y   ML   m o d els.  W h ile  f ea tu r im p o r tan ce   an d   m o d el - ag n o s tic  m eth o d s   h av b ee n   s u cc ess f u in   en h an cin g   in ter p r etab ilit y ,   th e s tec h n iq u es  ar p r im ar ily   d esig n ed   f o r   s u p er v is ed   lear n i n g   s ce n ar io s .   As  th in teg r atio n   o f   ML   in   C PS   in ten s if ies,  th n ee d   f o r   ex p lain a b ilit y   in   u n s u p er v is ed   lear n in g   b ec o m es  ap p ar e n t,  p r o m p tin g   th e   ex p lo r atio n   o f   E UM L   tech n iq u es  [ 1 8 ] [ 2 0 ] .   W ith   th is   b ac k g r o u n d ,   y o u   ca n   b etter   u n d er s tan d   th p r o b lem s   th at  s tan d ar d   s u p er v is ed   an d   UM L   m o d els  ca u s e,   esp ec ially   wh en   it  co m es  to   C PS .   I n   th p ar ts   th at  f o llo w,   we' ll  g et  in to   t h e   s p ec if ics  o f   E UM L   b y   l o o k i n g   at  its   s h o r tc o m in g s ,   m a p p in g   ex is tin g   XM L   ter m s   to   u n s u p er v is ed   s itu atio n s ,   r e v iewin g   r ec en r esear ch ,   an d   f in ally   f o cu s in g   o n   h o it  ca n   b e   u s ed   t o   s o lv th u n i q u p r o b lem s   o f   C PS .   T h id ea   o f   ad d in g   XAI   to   th AI   wo r k   f l o is   s h o wn   in   i llu s tr atio n   1 .   T h g o al  is   to   u s m eth o d s   th a t c an   b ex p lain ed   in   d if f e r en t   s tag es o f   th life   cy cle  o f   AI .       2.   E XP L A I NA B L E   UN SUPER VIS E M A CH I N E   L E ARN I NG   E UM L   en co m p ass es  s et  o f   cr itical  r eq u ir em e n ts   th at  d is tin g u is h   it  f r o m   t r ad itio n al  u n s u p er v is e d   lear n in g   ap p r o ac h es.  T h p r i m ar y   d esid er ata  in clu d tr an s p ar en cy ,   i n ter p r eta b ilit y ,   an d   t h ab ilit y   to   p r o v id e   in s ig h ts   in to   th e   d ec is io n - m a k in g   p r o ce s s es  o f   u n s u p er v is ed   m o d els.  I n   th e   co n tex o f   C PS ,   wh er t h co n s eq u en ce s   o f   e r r o n eo u s   d ec is io n s   ca n   b e   s ev er e,   th ese  d esid er ata  b ec o m e   ess en tial  f o r   en s u r in g   th e   tr u s two r th in ess   an d   r el iab ilit y   o f   th d e p lo y e d   ML   m o d els [ 2 1 ] .   Dev elo p in g   ef f ec tiv E UM L   alg o r ith m s   r eq u ir es  ad ap t in g   an d   ex ten d i n g   XM L   co n ce p ts   to   u n s u p er v is ed   co n tex ts .   I n ter p r etab ilit y ,   o p e n n ess ,   an d   ac c o u n tab ilit y   m u s b r eth o u g h f o r   u n s u p er v is ed   lear n in g .   T h m ap p i n g   o f   XM L   ter m s   to   E UM L   p r o v id es   f r am ewo r k   f o r   e v alu atin g   an d   im p r o v in g   UM L   m o d el  in ter p r eta b ilit y   [ 2 2 ] .   A   co m p r eh e n s iv r ev iew  o f   th e   cu r r en s tate - of - th e - a r in   E UM L   tech n iq u es  is   p r esen ted ,   h ig h lig h tin g   a d v an ce m en ts ,   ch allen g es,  an d   p o te n tial  ap p licatio n s .   T h is   liter atu r r ev iew  p r o v id es  in s ig h ts   in to   th e   p r o g r ess   m ad in   ad d r ess in g   th e   in ter p r etab ilit y   is s u es  o f   u n s u p er v is ed   lear n i n g   m o d els ,   lay in g   th g r o u n d wo r k   f o r   th s u b s eq u en ex p lo r atio n   o f   E UM L   in   th s p ec if ic  co n tex o f   C PS   [ 2 3 ] [ 2 4 ] .   T h is   s ec tio n   f o cu s es  o n   th ap p licatio n   o f   E UM L   with in   th r ea lm   o f   C PS .   I ad d r ess es  th u n iq u c h allen g es   p o s ed   b y   C PS ,   s u ch   as  th d y n am ic  in ter p lay   b etwe en   p h y s ical  an d   cy b e r   co m p o n en ts ,   th n ee d   f o r   r ea l - tim e   d ec is io n - m ak in g ,   a n d   t h r e q u ir em en f o r   tr an s p ar e n cy   i n   co m p lex ,   in ter co n n ec ted   s y s tem s .   T h d is cu s s io n   in clu d es p o ten tial u s ca s es,  b en ef its ,   an d   co n s id er atio n s   f o r   d ep lo y i n g   E UM L   in   C PS   ap p licatio n s   [ 2 5 ] .   T h e   e x p l o r a t io n   o f   E U M L   in   t h i s   s e c t i o n   s e t s   t h e   s t a g f o r   a   m o r e   d e t a i le d   ex a m in a t i o n   o f   s p e c i f i c   a p p r o ac h     S O M s   i n   t h e   s u b s e q u en t   s e c t i o n s .   B y   l a y i n g   o u t   t h e   d e s id e r a t a,   m a p p i n g   ex i s t i n g   t e r m s ,   r e v i e w in g   l i te r a tu r e,   a n d   co n t e x tu a l i z in g   E U ML   w i t h i n   C P S ,   th i s   p ap e r   a i m s   t o   p r o v i d e   c o m p r eh e n s iv e   u n d er s t a n d i n g   o f   th e   p o t en t i a l   a n d   c h a ll e n g e s   a s s o c ia t e d   w i th   i n t er p r e t ab l e   U M L   in   c o m p l e x ,   d y n a m i c   s y s t e m s .   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 52   In d o n esian   J   E lec   E n g   &   C o m p   Sci Vo l.  41 ,   No .   1 J an u ar y   20 2 6 :   300 - 3 0 8   302   2 . 1 .     E x pla ina ble  s elf - o rg a ni zing   m a p s   SOMs h av em er g ed   as a   p o w er f u l te ch n iq u in   u n s u p er v is e d   lear n in g ,   p ar ticu la r ly   in   clu s ter in g   an d   d im en s io n ality   r ed u ctio n   task s .   I n tr o d u ce d   b y   Ko h o n en ,   S OM s   m ap   h ig h - d im en s io n al  in p u d ata  o n to   a   lo wer - d im en s io n al  g r i d   o f   n e u r o n s ,   p r eser v i n g   th to p o lo g i ca r elatio n s h ip s   o f   th in p u s p ac e.   W h ile  SOM s   ex h ib it  r em ar k ab le  ca p ab ilit ie s   in   ca p tu r in g   co m p lex   s tr u ct u r es  with in   d ata,   th eir   in ter p r etab ilit y   h as  b ee n   lim it ed   d u to   th e   in tr in s ic  co m p lex ity   o f   th lear n e d   r e p r esen tatio n s   [ 2 6 ] [ 2 7 ].   Fig u r 1   illu s tr ates  th s tr u ctu r o f   two - d im e n s io n al  SOM  in   b o th   th o u tp u s p ac a n d   th in p u t   s p ac e.   Fig u r 1 ( a)   r ep r esen ts   th SOM  o u t p u s p ac e,   wh er e   n eu r o n s   ar a r r an g ed   o n   f ix ed   two - d im e n s io n al   g r id   with   p r ed ef in e d   to p o l o g ic al  co n n ec tio n s   th at  p r eser v n eig h b o r h o o d   r elatio n s h ip s .   Fig u r 1 ( b )   s h o ws  th s am SOM  m ap p ed   in to   th in p u s p ac af ter   tr ain in g ,   w h er th n eu r o n s   ad ap th eir   p o s itio n s   to   f it  th e   d is tr ib u tio n   an d   clu s ter s   o f   th in p u d ata.   T h lear n i n g   b eh a v io r   o f   th SOM  is   g o v er n ed   b y   k e y   h y p er p ar am eter s ,   n am ely   th lear n in g   r ate  an d   t h n ei g h b o r h o o d   r a d iu s   o f   th e   b est  m atc h in g   u n it  ( B MU ) ,   b o th   o f   wh ich   ar g r ad u ally   r ed u ce d   at  ea ch   ep o c h   to   en s u r s m o o th   co n v e r g e n ce   an d   ac cu r ate  d at a   r ep r esen tatio n .           ( a)   ( b )     Fig u r 1 .   SOMs   s h o wn   in   ( a )   t h o u tp u t sp ac an d   ( b )   th in p u t sp ac ch an g ed   to   f it th 2 s p r ea d   o f   t h p o in ts   th at  wer en ter e d       T o   ad d r ess   th in ter p r etab ilit y   ch allen g es  o f   tr a d itio n al  S OM s ,   m o d if icatio n s   an d   ex te n s io n s   h av e   b ee n   p r o p o s ed ,   g iv in g   r is to   e x p lain ab le  SOMs .   T h is   s ec ti o n   d elv es  in to   th e n h an ce m e n ts   m ad to   SOMs,   f o cu s in g   o n   h o th ese  m o d if icatio n s   r en d er   th e   m o d el  m o r in ter p r etab le.   T ec h n iq u es  s u ch   as  n eu r o n   im p o r tan ce   s co r in g ,   f ea tu r at tr ib u tio n ,   an d   v is u aliza tio n   o f   lear n ed   r ep r esen tatio n s   ar e x p lo r ed   to   f ac ilit ate  d ee p er   u n d er s tan d in g   o f   th d ec is io n - m ak in g   p r o ce s s es  with in   th S OM s   f r am ewo r k   [ 2 8 ].   E x p lain ab ilit y   in   SOMs  is   im p o r tan in   C PS ,   w h er u n d e r s tan d in g   co m p lex   d ataset  co r r elatio n s   is   cr itical.   E x p lain ab le  SOMs   p r o m is to   p r o v id r o b u s s o lu tio n   f o r   u n s u p er v is ed   lear n in g   in   C PS   ap p licatio n s   b y   co m b in in g   SOMs'  to p o lo g ical  s tr u ctu r ca p tu r with   ex p lain ab ilit y ' s   tr an s p ar en cy .   T h s u b s eq u en t   s ec tio n s   will   f u r th er   ex p l o r th ex p er im en tal  s etu p   an d   r esu lts   o f   e x p lain ab le   SOMs,  ev alu atin g   th eir   m o d el  f id elity ,   lo ca l   an d   g lo b al  in ter p r etab ilit y ,   a n d   u s ab ilit y   with in   C PS .   T h is   em p ir ical  an aly s is   aim s   to   v alid ate  th ef f ec tiv en ess   o f   e x p lain ab le  S OM s   in   a d d r ess in g   th s p ec if ic  ch allen g es  p o s ed   b y   C PS   an d   ass ess   th eir   p o ten tial  f o r   r ea l - wo r ld   a p p licatio n s   in   co m p lex ,   d y n a m ic  en v ir o n m en ts .         3.   E XP E R I M E N T   S E T UP   A N RE SU L T S   3 . 1 .     M o del  f idelity   I n   th ex p er im en tal  s etu p ,   th f id elity   o f   e x p lain ab le  SO Ms   is   r ig o r o u s ly   ass ess ed .   C o m p ar ativ e   an aly s es  ar co n d u cted   ag ai n s tr ad itio n al  SOMs,  ev alu atin g   th a b ilit y   o f   e x p lain ab le  SOMs  to   ac cu r ately   r ep r esen th in tr icate   r elatio n s h ip s   with in   th g iv en   C PS   d ataset.   Me tr ics  s u ch   as  clu s ter in g   ac cu r ac y ,   p r eser v atio n   o f   to p o lo g ical   s tr u ctu r es,  a n d   r ec o n s tr u ctio n   e r r o r s   ar e   em p l o y ed   to   q u an tify   th e   f id elity   o f   th e   m o d els.   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2 5 0 2 - 4 7 52         C yb er p h ysica l sys tem s   ma in ten a n ce   w ith   ex p la in a b le  u n s u p ervis ed   …  ( V .   Du r g a   P r a s a d   Ja s ti )   303   3 . 2 .     L o ca i nte rpre t a bil it y   T h lo ca i n ter p r etab ilit y   o f   e x p lain ab le  SOMs  is   ex am in ed   to   u n d e r s tan d   h o well  t h m o d el  p r o v id es  in s ig h t s   in to   in d iv id u al  d ata  p o in ts .   Neu r o n   im p o r tan ce   s co r in g   a n d   f ea tu r attr ib u tio n   tech n iq u es   ar ap p lied   to   id en tify   t h k e y   f ac to r s   in f lu en cin g   th d ec i s io n s   m ad b y   th m o d el  o n   p er - in s tan ce   b asis .   T h is   an aly s is   aim s   to   h ig h li g h th g r a n u lar ity   o f   i n te r p r etab ilit y   ac h iev ed   b y   e x p lain ab le  SOMs  in   th co n tex t o f   C PS .     3 . 3 .     G l o ba i nte rpre t a bil it y   b r o a d er   p er s p ec tiv e   is   tak en   to   ev alu ate   th g lo b al   in t er p r etab ilit y   o f   e x p lain a b le  S OM s .   B y   ex am in in g   th lear n ed   r e p r esen tatio n s   at  s y s tem - wid le v el,   th e   m o d el' s   ab ilit y   to   u n co v er   o v er ar ch i n g   p atter n s ,   an o m alies,  an d   r elatio n s h ip s   with in   th C PS   d atas et  is   ass e s s ed .   Vis u aliza t io n   tech n iq u es,  s u ch   a s   h ea tm ap s   an d   clu s ter   s u m m a r ies,  ar em p lo y ed   to   f ac ilit ate  co m p r eh en s iv u n d er s ta n d in g   o f   th g lo b al  in te r p r etab ilit y   ac h iev e d   b y   e x p lain ab le  SOMs.     3 . 4 .     Usa bil it y   wit hin   cy ber - ph y s ica l sy s t em s   R ea l - wo r ld   ex p er im e n ts   ar c o n d u cte d   to   e v alu ate  th e   u s ab ilit y   o f   e x p lain ab le  SOMs  with in   C PS T h m o d els  ar d ep lo y e d   in   C PS   en v ir o n m en ts ,   an d   th eir   p e r f o r m a n ce   is   a s s ess ed   in   s ce n a r io s   th at  m im ic  th d y n am ic,   in te r co n n ec ted   n atu r o f   th ese  s y s tem s .   T h is   an aly s is   in clu d es c o n s id er atio n s   f o r   r ea l - tim d ec is io n - m ak in g ,   a d ap tab ilit y   to   c h an g i n g   co n d itio n s ,   an d   th o v er all  im p ac t o n   s y s tem   r eliab ilit y   a n d   s af ety .   T h v ar i atio n   in   clu s ter   q u alit y   m atr ices  u tili z ed   in   th is   in v e s tig atio n   f o r   th b a n k   m ar k eti n g   d ata   s et  is   illu s tr ated   in   Fig u r 2 .   I t   illu s tr ates  h o th n u m b er   o f   clu s ter s   an d   SOM  d im e n s io n s   in f lu en ce   th e   ev o lu tio n   o f   th ese  m atr ices.  C lu s ter   q u ality   m etr ics  ar e   co m p u ted   f o r   b o th   th SOM  n e u r o n   weig h ts   ( b lu e )   an d   th e   tr ain i n g   d ataset  ( o r an g e)   f o r   a   g i v en   SOM  s ize.   T h e   o b jectiv o f   t h is   an aly s is   is   to   d eter m in t h id ea l   SOM  d im en s io n   an d   clu s ter   c o u n t.  W h en   th tr ain e d   SOM  n eu r o n s   ac cu r ately   r ep r esen t h en tire   d ataset,   it   ca n   b e   ex p ec ted   th at  cl u s ter   an aly s is   o f   th e   SOM  weig h ts   wo u ld   r ev ea c o m p a r ab le  p a tter n s   to   th at  o f   t h en tire   d ataset.   Fig u r 2   illu s tr ates  th at  a s   th n u m b er   o f   clu s ter s   in cr ea s es,   th ey   ad h er to   th s am p atter n s .   T h Dav ies - b o u ld in g   in d ex   v a lu an d   th Sil h o u ette  c o ef f icien in d icate   th at  th r ee   to   f iv clu s ter s   ar o p tim al  f o r   th e x am in ed   SOM  d im en s io n s   ( 8 , 1 6 , 2 , 4 0 ) .           Fig u r 2 .   way   to   ju d g th q u ality   o f   clu s ter s   u s in g   th e   Sil h o u ette  c o ef f icien t a n d   th Dav ies - b o u ld in   i n d ex   f o r   v a r io u s   SOM  m ap   s izes   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 52   In d o n esian   J   E lec   E n g   &   C o m p   Sci Vo l.  41 ,   No .   1 J an u ar y   20 2 6 :   300 - 3 0 8   304   W s o r ted   f ea tu r es  b y   s tan d ar d   d ev iatio n   an d   ad j u s ted   r an d o m   o r   in co n s eq u en tial  f ea t u r e s   to   test   o u r   h y p o th esis .   T h at  is ,   we  m o d if i ed   p % f o r   t h m o s t im p o r tan f ea tu r es ( th o s with   th lo west   s tan d ar d   d e v iatio n   v alu es),   r an d o m ly   s elec ted   f e atu r es,  an d   least  im p o r ta n f ea tu r es,  all  g iv en   p ca r d in ality .   W ch ec k ed   ea ch   d ata  r ec o r d   i n   th e   test   s et  to   s ee   if   m o d if y i n g   t h f ea t u r v a lu ch an g ed   its   clu s ter   lab el  i n   ea ch   o f   th t h r ee   s itu atio n s   ab o v e.   T wo   p o s s ib ilit ies we r s tu d ied   f o r   ea ch   s ce n ar io i )   th p r o p o r tio n   o f   test   d ata  r ec o r d s   wh er an o th er   clu s ter   m ay   r ep lace   th clu s ter   lab el,   an d   ii )   th p r o p o r tio n   wh er all  o th er   clu s ter s   ca n   b s u b s titu ted .   Fo r   s o m d ata  p o in ts ,   p er t u r b i n g   f ea t u r v alu es  with   clo s clu s ter   cr iter ia  m a y   n o b e   en o u g h   to   r em o v t h em   f r o m   th in itial  clu s ter .   W m ad s u r f ea tu r v al u es  f r o m   a least  o n ex tr clu s ter   m ig h af f ec d ata  p o in t' s   clu s ter   ca teg o r izatio n .   C o n s id er   f o u r - cl u s ter   s ce n ar io   with   d ata  p o in in   clu s ter   2 .   W a ttem p ch an g i n g   its   clu s ter   d esig n atio n   f r o m   2   to   a n o th er   a n d   r ep lacin g   its   f ea tu r v alu es  with   th e   av er a g es  o f   clu s ter s   1 ,   2 ,   an d   4 .   R ed u cin g   ca r d in ality   n an d   g r o wi n g   s wap p e d   p e r ce n tag es  ar ex p ec te d .   T h s wap   f o r   all  d atasets   is   s h o wn   in   Fig u r 3 .   E x ce p f o r   th s ec o n d   KDD  d ataset  s ce n ar io   ( wh ich   ask s ,   "Wh at  is   th e   p er ce n tag o f   test   d ata  r ec o r d s   wh er all  o th e r   c lu s ter s   ca n   s wap   th clu s ter   l ab el?" ) ,   b lu b a r s   r e p r esen r e lev an f ea tu r es  an d   b r o wn   b a r s   r an d o m   f ea tu r es.  T h is   ap p lies   to   all  d atasets .   T h KDD  d ataset ' s   ex tr em ely   u n b alan ce d   class es   an d   s ig n if ican t   tr ain in g - test in g   g ap   m ay   ex p lain   th is   p o o r   p er f o r m a n ce .   Ho we v er ,   KDD  wo r k s   as  ex p ec te d   i n   th f ir s s ce n a r io   ( h o m an y   test   d ata  r ec o r d s   co n tain   clu s ter   lab el  th at  m ig h b ch an g e d ?) .   T h ese  p r ac tical  r esu lts   v alid ated   o u r   p r ed ictio n   b y   s h o win g   th at  th s u g g ested   SOM  tech n iq u s elec ted   d ata  r ec o r d   clu s ter   lab els b ased   o n   cr itical  cr iter ia .   An   ad d itio n al  ex p e r im e n t w as c o n d u cted   to   v er i f y   th p r o p o r tio n   o f   th ch o s en   ch ar ac te r is tics   th at   wer in clu d ed   in   th m o s t c r u cial  f ea tu r lis t o f   B M ( Al g o r ith m   I V) .   T h f ea tu r e - wis e   l 1   d is tan ce   b etwe en   ea ch   d ata  r ec o r d   an d   its   B M was  co m p u ted   f o r   ev er y   d a ta  r ec o r d   in   th test   s et.   T h is   was  f o llo wed   b y   an   ar r an g em e n o f   th f ea tu r es   ac co r d in g   to   t h in cr ea s in g   l1   d is tan ce s .   W p o s tu lated   th at  th m o s p r o m in en t   f ea tu r es  o f   d ata  p o in wo u ld   b th o s th at  ar g eo g r ap h ica lly   n ea r est  to   it,  an d   th at  th ese   f ea tu r es  wo u l d   b p ar o f   th B MU ' s   p r io r itis ed   f ea tu r lis ts .   Af ter   th f ea tu r e   d is tan ce s   ar s o r ted   in   in cr ea s in g   o r d er ,   o n o f   th r ee   s tr ateg ies i clo s est,  ii )   r an d o m ,   o r   iii )   f u r th est is   u s ed   to   ch o o s f ea tu r es.  Fu r th er m o r e,   we   d eter m in ed   wh at  p r o p o r tio n   o f   ch a r ac ter is tics   m ak it  o n to   th B MU ' s   k ey   f ea tu r lis t.  Fig u r 4   s h o ws  th e   r esu lts ,   with   th X - a x is   s h o wi n g   th e   to tal   n u m b er   o f   f ea tu r es  ( K)   an d   t h Y - a x is   s h o win g   th e   p r o p o r tio n   o f   th o s ch ar ac ter is tics   ( %)  th at   wer co n s id er ed   r elev an ( f ea t u r lis t) .   T h co lo u r   b lu d en o tes  ch ar ac ter is tics   th at  ar cl o s b y ,   wh e r ea s   y e llo d en o tes  f ea tu r es  th at   ar e   r an d o m   an d   g r ee n   d en o tes  f ea tu r es  th at  ar e   f ar   awa y .   W h ile  th y ello b a r   d is p lay s   th s ec o n d - h i g h est  p er ce n tag e,   th b lu b ar   s h o ws  th h ig h est   p er ce n tag e   f o r   all  ch a r ac ter is tics .   T h is   s u g g ests   th at  ea ch   B MU ' s   d eter m in ed   ess en tial  f ea tu r lis ts   co n tain   th n ea r b y   f ea tu r es.   Fig u r 5   s h o ws th g lo b al  in te r p r etab ilit y   o f   t h ' f lag '   f ea tu r in   th KDD  d ataset  as it v ar ies b etwe en   clu s ter s .   T h SOM  n eu r o n s   wer g r o u p ed   in t o   th r ee   g r o u p s ,   an d   th e   U - m atr ix   s h o we d   th d is tan ce s   an d   s ep ar atio n   b etwe en   th e   clu s ter s .   C r itical   f ea tu r v alu r an g es  wer s h o wn   ag ain s cl u s ter   ass ig n m en ts .   Ad d itio n ally ,   u - m ap s   wer em p lo y ed   to   v er if y   th d is p er s io n   o f   clu s ter s .   T h ' f lag '   ch a r ac ter is tic  o f   th KDD   d ataset  is   i llu s tr ated   in   Fig u r 5 .   T h f ir s p ictu r is   th r aw  d ata,   an d   it  d ep icts   th SO n eu r o n s '   clu s ter   s ep ar atio n .   Acr o s s   th r ee   clu s ter s   ( co m p o n e n p lan s ) ,   th ' f lag '   f ea tu r e's  v alu is   d ep icted   i n   th s ec o n d   im ag o f   th f ir s r o w.   T h f ea tu r v alu o f   "f lag v ar ies  b etwe e n   th th r ee   g r o u p s .   T h th r ee   clu s ter s   ar clea r ly   d elin ea ted   in   th th ir d   im a g o f   th in itial  r aw  d ata  s et,   wh er r eg io n   o f   lig h ter   co l o u r   s ig n if ies  th d is tan ce   b etwe en   n eu r o n s .   T h g r ea te r   th ar ea ,   th m o r d is tin ct  th clu s ter s   ar e.   f in e - g r ain ed   r e p r esen tatio n   o f   th e   s ca le  o f   f ea tu r v alu es  ac r o s s   clu s ter s   is   s h o wn   in   th s ec o n d   r o o f   Fig u r 5 .   On th in g   to   k ee p   in   m i n d   is   th at  ev en   with in   t h s am e   clu s ter ,   th er ca n   b n eu r o n s   with   v ar y in g   f ea tu r e   v alu es  f o r   t h s am f ea tu r e.   I f   a   d o m ain   ex p e r wan ts   to   k n o h o a   s p ec if ic  f ea t u r ac ts   i n s id cl u s ter ,   th ey   n ee d   th is   d a ta.   C lu s ter   0   h as  a   lar g er   f ea tu r v alu f o r   th ' f lag '   f ea tu r ( 0 . 7 - 1 . 0 ) ,   clu s ter   1   d is p lay s   an   in ter m ed iate  r an g ( 0 . 4 5 - 0 . 5 2 ) ,   a n d   clu s ter   3   d is p lay s   v er y   lo r an g ( 0 . 1 5 ) .   I n   ad d itio n ,   it  d i s p lay s   th lik elih o o d   o f   p a r t icu lar   f ea tu r v alu b ein g   p r esen t w ith in   clu s ter .   T ak clu s ter   0   as a n   e x am p le;  th 9 0 atu r e   v alu v ar ies f r o m   clu s ter   to   clu s ter .   I n itial  ex p er im e n in teg r it y   te s ( Fig u r 4 ) .   We   tr ied   s ev er a v alu es  f o r   p ,   ac tiv e   f ea tu r es,   r an d o m ly   p ick ed   f ea tu r es,  an d   least  im p o r tan f ea tu r es.  We   ca lcu lated   th p er ce n ta g o f   d ata  p o i n ts   wh er th clu s ter   lab el  ch an g e d   af te r   ch a n g in g   p   o u t   o f   all  f ea tu r es.   W ex a m in ed   two   s ce n a r io s th p r o p o r tio n   o f   test   d ata  r ec o r d s   wh e r an o th er   clu s ter ' s   lab el  co u ld   r e p lace   th e   cl u s ter   lab el  ( lef t)   an d   th e   p r o p o r tio n   wh er e   n o   clu s ter 's lab el  co u ld   r ep lace   it  ( r ig h t) .   T h r esu lts   o b tain ed   f r o m   th ex p er im en tal  s etu p   ar cr itically   d is cu s s ed ,   em p h asizin g   th s tr en g th s   an d   p o ten tial  lim itatio n s   o f   e x p lain a b le  SOMs  in   t h co n tex o f   C PS .   C o n s id er atio n s   f o r   s ca lab ilit y ,   co m p u tatio n al  ef f icien cy ,   an d   g en er aliza b ilit y   ar ad d r e s s ed .   Ad d itio n ally ,   in s ig h ts   in to   th p r ac tical  im p licatio n s   o f   d e p lo y in g   e x p lain ab le  SOMs  in   r ea l - wo r l d   C PS   ap p licatio n s   a r d is cu s s ed ,   p r o v id in g   a   co m p r eh e n s iv u n d e r s tan d in g   o f   th eir   ef f ec tiv e n ess   in   en h an cin g   m o d el  tr an s p ar en c y   a n d   in ter p r eta b ilit y .   T h is   s ec tio n   s h o ws  h o e x p l ain ab le  SOMs  ca n   s o l v UM L   p r o b lem s   in   C PS .   T h n ex s ec tio n   will  d r aw  in f er en ce s   f r o m   th d ata  an d   s u g g est f u r t h er   s tu d y   an d   d ev el o p m en t in   th is   f ast ex p an d i n g   s ec to r .   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2 5 0 2 - 4 7 52         C yb er p h ysica l sys tem s   ma in ten a n ce   w ith   ex p la in a b le  u n s u p ervis ed   …  ( V .   Du r g a   P r a s a d   Ja s ti )   305           Fig u r 3 .   C lu s ter in g   p er f o r m a n ce   co m p a r is o n   u s in g   SOM  a n d   in p u t d ataset           Fig u r 4 .   T h p er ce n tag o f   n e ar est K  f ea tu r es in   th B MU ' s   m o s t sig n if ican t f ea tu r lis t           Fig u r 5 .   Featu r e   b eh a v io r   f o r   th ' f lag '   f ea tu r o f   th KDD  d ata  s et  ac r o s s   clu s ter s   ( SOM  n eu r o n s   wer clu s ter ed   in to   th r ee   c ateg o r ies;   th d is tan ce s   b etwe en   clu s ter s   an d   th d eg r ee   o f   s ep ar atio n   b etwe en   clu s ter s   wer r ep r esen ted   b y   U - m atr i x ) ; th ' f lag '   f ea tu r v alu v a r ies ac r o s s   clu s ter s     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 52   In d o n esian   J   E lec   E n g   &   C o m p   Sci Vo l.  41 ,   No .   1 J an u ar y   20 2 6 :   300 - 3 0 8   306   4.   CO NCLU SI O N   T h ex p lo r atio n   o f   E UM L ,   d elv ed   in to   its   d esid er ata,   th ad ap tatio n   o f   ex is tin g   XM L   ter m s   to   u n s u p er v is ed   s ce n a r io s ,   r e v iew  o f   cu r r e n liter atu r e,   a n d   th ap p licatio n   o f   E UM L   p r in cip les  with in   th co m p lex   lan d s ca p o f   C PS .   T h in tr o d u ctio n   o f   e x p lain ab le   SOMs  as  a   p r o m is in g   E UM L   tech n iq u e   ad d r ess ed   th n ee d   f o r   in ter p r etab ilit y   in   u n s u p er v is ed   lear n in g   m o d els.   T h s u b s eq u en s ec tio n   d etailed   th ex p er im en s etu p   an d   r esu lts ,   cr itically   ex am in in g   th m o d el   f id elity ,   lo ca a n d   g lo b al  in te r p r etab ilit y ,   an d   t h u s ab ilit y   o f   e x p lain ab le  SOMs  with in   C PS   en v ir o n m en ts .   B y   co n d u ctin g   r ea l - wo r l d   ex p er im en ts   an d   an aly zin g   p er f o r m an ce   m etr i cs,  th is   s ec tio n   p r o v id ed   em p ir ical  ev id en ce   s u p p o r tin g   t h ef f ec tiv e n ess   o f   e x p lain ab le  SOMs  in   en h an cin g   tr an s p ar e n cy   a n d   i n ter p r etab ilit y   in   C PS   ap p licatio n s .   T h d is cu s s io n   b r o u g h to g et h er   th eo r etica in s ig h ts   an d   em p ir ical  f in d in g s ,   h ig h lig h tin g   th s tr en g t h s ,   lim itatio n s ,   an d   p r ac tical  im p licatio n s   o f   e x p la in ab le  SOMs  in   C PS .   C o n s id er atio n s   f o r   s ca lab ili ty ,   co m p u t atio n al  ef f icien cy ,   an d   r ea l - tim d ec is io n - m ak in g   wer ad d r ess ed ,   p r o v i d in g   a   h o lis tic  v iew  o f   th p o te n tial  im p ac o f   E UM L   o n   th f ield .   As  we  lo o k   to   th e   f u tu r e,   c o n tin u e d   r esear c h   in   E UM L ,   esp ec ially   with in   t h c o n tex o f   C PS ,   h o ld s   g r ea p r o m is e.   Ad v a n ce m en ts   in   in ter p r etab le  u n s u p e r v is ed   lear n in g   tech n i q u es  ca n   co n t r ib u te  s ig n if ican tly   to   th o n g o in g   d ev el o p m en t   o f   s af e,   r eliab le,   a n d   tr a n s p ar en ML   s o lu tio n s   f o r   co m p lex ,   d y n am ic  s y s tem s .   T h is   p ap er   s er v es  as  s tep p i n g   s to n e,   en co u r ag in g   f u r th er   ex p lo r atio n   an d   in n o v atio n   i n   th in ter s ec tio n   o f   E UM L   an d   C PS .       ACK NO WL E DG M E N T   T h au th o r s   wo u ld   lik to   ex p r ess   th eir   s in ce r g r atitu d to   t h eir   r esp ec tiv in s titu tio n s   f o r   p r o v id in g   th n ec ess ar y   f ac ilit ies,  in f r ast r u ctu r e,   an d   ac ad em ic  s u p p o r t   to   ca r r y   o u th is   r esear ch   wo r k .   T h au th o r s   also   th an k   c o lleag u es  a n d   r ev iew er s   f o r   th eir   v alu a b le  s u g g esti o n s   an d   co n s tr u ctiv f ee d b ac k ,   wh ich   h el p ed   im p r o v t h q u ality   o f   th is   p a p er .       F UNDING   I NF O R M A T I O   T h is   r esear ch   d id   n o r ec eiv an y   s p ec if ic  g r a n f r o m   f u n d i n g   ag en cies  in   th p u b lic,   co m m er cial,   o r   not - f o r - p r o f it secto r s .       AUTHO CO NT RI B UT I O NS ST A T E M E N T     T h is   jo u r n al  u s es  th C o n tr ib u to r   R o les  T ax o n o m y   ( C R ed iT)   to   r ec o g n ize  in d iv id u al  au th o r   co n tr ib u tio n s ,   r ed u ce   au th o r s h ip   d is p u tes,  an d   f ac ilit ate  co llab o r atio n .     Na m o f   Aut ho r   C   M   So   Va   Fo   I   R   D   O   E   Vi   Su   P   Fu   V .   Du r g Pra s ad   J asti                               Ko u d eg ai  Ash o k                               R am ar ao   Gu d e                               Pra b h ak ar   Kan d u k u r i                               B ejjam   S.  N.   B en ar ji                               An u s h B .                                 C     C o n c e p t u a l i z a t i o n   M     M e t h o d o l o g y   So     So f t w a r e   Va     Va l i d a t i o n   Fo     Fo r mal   a n a l y s i s   I     I n v e s t i g a t i o n   R     R e so u r c e s   D   :   D a t a   C u r a t i o n   O   :   W r i t i n g   -   O r i g i n a l   D r a f t   E   :   W r i t i n g   -   R e v i e w   &   E d i t i n g   Vi     Vi su a l i z a t i o n   Su     Su p e r v i s i o n   P     P r o j e c t   a d mi n i st r a t i o n   Fu     Fu n d i n g   a c q u i si t i o n         CO NF L I C T   O F   I N T E R E S T   ST A T E M E NT     T h au th o r s   d ec lar th at  th e r is   n o   co n f lict o f   in ter est r eg ar d in g   th p u b licatio n   o f   th is   p a p er .       DATA AV AI L AB I L I T   T h d ata  u s ed   to   s u p p o r th f in d in g s   o f   th is   s tu d y   ar av ail ab le  f r o m   th c o r r esp o n d in g   a u th o r   u p o n   r ea s o n ab le  r eq u est.       RE F E R E NC E S   [ 1 ]   M .   I .   M a l i k ,   A .   I b r a h i m,   P .   H a n n a y ,   a n d   L .   F .   S i k o s,  D e v e l o p i n g   r e s i l i e n t   c y b e r - p h y s i c a l   s y s t e ms :   a   r e v i e w   o f   st a t e - of - t h e - a r t   mal w a r e   d e t e c t i o n   a p p r o a c h e s ,   g a p s,   a n d   f u t u r e   d i r e c t i o n s ,   C o m p u t e rs ,   v o l .   1 2 ,   n o .   4 ,   p .   7 9 ,   A p r .   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / c o m p u t e r s 1 2 0 4 0 0 7 9 .   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2 5 0 2 - 4 7 52         C yb er p h ysica l sys tem s   ma in ten a n ce   w ith   ex p la in a b le  u n s u p ervis ed   …  ( V .   Du r g a   P r a s a d   Ja s ti )   307   [ 2 ]   R .   J a b e e n ,   Y .   S i n g h ,   a n d   Z.   A .   S h e i k h ,   M a c h i n e   l e a r n i n g   f o r   s e c u r i t y   o f   c y b e r - p h y si c a l   s y st e ms  a n d   se c u r i t y   o f   ma c h i n e   l e a r n i n g :   a t t a c k s,  d e f e n c e s ,   a n d   c u r r e n t   a p p r o a c h e s,   i n   T h e   I n t e r n a t i o n a l   C o n f e re n c e   o n   R e c e n t   I n n o v a t i o n i n   C o m p u t i n g ,   2 0 2 2 ,   p p .   8 1 3 8 4 1 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 9 8 1 - 99 - 0 6 0 1 - 7 _ 6 2 .   [ 3 ]   F .   S .   M o z a f f a r i ,   H .   K a r i mi p o u r ,   a n d   R .   M .   P a r i z i ,   Le a r n i n g   b a se d   a n o mal y   d e t e c t i o n   i n   c r i t i c a l   c y b e r - p h y s i c a l   sy s t e m s ,   i n   S e c u r i t y   o f   C y b e r - P h y si c a l   S y s t e m s ,   C h a m:   S p r i n g e r   I n t e r n a t i o n a l   P u b l i s h i n g ,   2 0 2 0 ,   p p .   1 0 7 1 3 0 .   [ 4 ]   M .   K .   H a s a n ,   R .   A .   A b d u l k a d i r ,   S .   I sl a m,   T.   R .   G a d e k a l l u ,   a n d   N .   S a f i e ,   A   r e v i e w   o n   ma c h i n e   l e a r n i n g   t e c h n i q u e f o r   sec u r e d   c y b e r - p h y si c a l   s y st e ms  i n   smar t   g r i d   n e t w o r k s,”   E n e r g y   Re p o rt s ,   v o l .   1 1 ,   p p .   1 2 6 8 1 2 9 0 ,   2 0 2 4 ,   d o i :   1 0 . 1 0 1 6 / j . e g y r . 2 0 2 3 . 1 2 . 0 4 0 .   [ 5 ]   R .   S a l i h   A h me d ,   E .   S a y e d   A l i   A h med ,   a n d   R .   A .   S a e e d ,   M a c h i n e   l e a r n i n g   i n   c y b e r - p h y si c a l   sy s t e m i n   i n d u st r y   4 . 0 ,   i n   Art i f i c i a l   i n t e l l i g e n c e   p a r a d i g m s f o r   s m a rt   c y b e r - p h y si c a l   s y st e m s ,   2 0 2 1 ,   p p .   2 0 4 1 .   [ 6 ]   C .   S .   W i c k r a mas i n g h e ,   K .   A m a r a si n g h e ,   D .   L .   M a r i n o ,   C .   R i e g e r ,   a n d   M .   M a n i c ,   E x p l a i n a b l e   u n s u p e r v i se d   ma c h i n e   l e a r n i n g   f o r   c y b e r - p h y si c a l   s y st e ms,”   I EEE   Ac c e s s ,   v o l .   9 ,   p p .   1 3 1 8 2 4 1 3 1 8 4 3 ,   2 0 2 1 ,   d o i :   1 0 . 1 1 0 9 / A C C ESS . 2 0 2 1 . 3 1 1 2 3 9 7 .   [ 7 ]   V .   B o ž i ć ,   E x p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   ( X A I ) :   e n h a n c i n g   t r a n s p a r e n c y   a n d   t r u s t   i n   A I   s y st e m s,”   Pre p r i n t ,   2 0 2 3 .   [ 8 ]   A .   G i a n n a r o s   e t   a l . ,   A u t o n o mo u s   v e h i c l e s:   s o p h i st i c a t e d   a t t a c k s,   saf e t y   i ssu e s,   c h a l l e n g e s ,   o p e n   t o p i c s,   b l o c k c h a i n ,   a n d   f u t u r e   d i r e c t i o n s,   J o u r n a l   o f   C y b e rsec u r i t y   a n d   Pri v a c y ,   v o l .   3 ,   n o .   3 ,   p p .   4 9 3 54 3 ,   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / j c p 3 0 3 0 0 2 5 .   [ 9 ]   N .   B u r k a r t   a n d   M .   F .   H u b e r ,   A   su r v e y   o n   t h e   e x p l a i n a b i l i t y   o f   s u p e r v i s e d   m a c h i n e   l e a r n i n g ,   J o u rn a l   o f   Art i f i c i a l   I n t e l l i g e n c e   Re se a rc h ,   v o l .   7 0 ,   p p .   2 4 5 3 1 7 ,   2 0 2 1 .   [ 1 0 ]   M a m t a ,   N .   G a r l a ,   I .   U .   H a q ,   a n d   H .   D h i m a n ,   R e v o l u t i o n i z i n g   B i o me d i c a l   e n g i n e e r i n g   w i t h   q u a n t u c o m p u t i n g   a n d   A I ,   i n   Q u a n t u m   I n n o v a t i o n s   a t   t h e   N e x u o f   Bi o m e d i c a l   I n t e l l i g e n c e ,   2 0 2 3 ,   p p .   2 0 6 2 2 2 .   [ 1 1 ]   S .   A l i   e t   a l . ,   Ex p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   ( X A I ) :   w h a t   w e   k n o w   a n d   w h a t   i s l e f t   t o   a t t a i n   t r u s t w o r t h y   a r t i f i c i a l   i n t e l l i g e n c e ,   I n f o rm a t i o n   F u si o n ,   v o l .   9 9 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . i n f f u s . 2 0 2 3 . 1 0 1 8 0 5 .   [ 1 2 ]   V .   F .   S a n t o s,   C .   A l b u q u e r q u e ,   D .   P a sso s,   S .   E.   Q u i n c o z e s,  a n d   D .   M o ss é ,   A sses si n g   m a c h i n e   l e a r n i n g   t e c h n i q u e s   f o r   i n t r u si o n   d e t e c t i o n   i n   c y b e r - p h y s i c a l   s y s t e m s ,   En e r g i e s ,   v o l .   1 6 ,   n o .   1 6 ,   p .   6 0 5 8 ,   A u g .   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / e n 1 6 1 6 6 0 5 8 .   [ 1 3 ]   M .   M .   Ta y e ,   U n d e r s t a n d i n g   o f   m a c h i n e   l e a r n i n g   w i t h   d e e p   l e a r n i n g :   a r c h i t e c t u r e s ,   w o r k f l o w ,   a p p l i c a t i o n s   a n d   f u t u r e   d i r e c t i o n s,   C o m p u t e rs ,   v o l .   1 2 ,   n o .   5 ,   p .   9 1 ,   A p r .   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / c o m p u t e r s 1 2 0 5 0 0 9 1 .   [ 1 4 ]   I .   H .   S a r k e r ,   M a c h i n e   l e a r n i n g :   a l g o r i t h ms,   r e a l - w o r l d   a p p l i c a t i o n a n d   r e s e a r c h   d i r e c t i o n s ,   S N   C o m p u t e r   S c i e n c e ,   v o l .   2 ,   n o .   3 ,   p .   1 6 0 ,   M a y   2 0 2 1 ,   d o i :   1 0 . 1 0 0 7 / s 4 2 9 7 9 - 0 2 1 - 0 0 5 9 2 - x.   [ 1 5 ]   S .   D e r k a r a b e t i a n ,   S .   C a s t i l l o ,   P .   K .   K o o ,   S .   O v c h i n n i k o v ,   a n d   M .   H e d i n ,   A   d e m o n s t r a t i o n   o f   u n s u p e r v i s e d   m a c h i n e   l e a r n i n g   i n   s p e c i e s   d e l i m i t a t i o n ,   M o l e c u l a r   P h y l o g e n e t i c s   a n d   E v o l u t i o n ,   v o l .   1 3 9 ,   p .   1 0 6 5 6 2 ,   O c t .   2 0 1 9 ,   d o i :   1 0 . 1 0 1 6 / j . y m p e v . 2 0 1 9 . 1 0 6 5 6 2 .   [ 1 6 ]   K .   K a r a đ u z o v i ć - H a d ž i a b d i ć   a n d   A .   P e t e r s,   A r t i f i c i a l   i n t e l l i g e n c e   i n   c l i n i c a l   d e c i si o n - m a k i n g   f o r   d i a g n o si o f   c a r d i o v a s c u l a r   d i s e a se   u si n g   e p i g e n e t i c s m e c h a n i sm s ,   i n   Ep i g e n e t i c s i n   C a rd i o v a sc u l a r D i se a se ,   El se v i e r ,   2 0 2 1 ,   p p .   3 2 7 3 4 5 .   [ 1 7 ]   K .   A .   A b b a s   e t   a l . ,   U n su p e r v i s e d   mac h i n e   l e a r n i n g   t e c h n i q u e   f o r   c l a ss i f y i n g   p r o d u c t i o n   z o n e s   i n   u n c o n v e n t i o n a l   r e serv o i r s,”   I n t e r n a t i o n a l   J o u r n a l   o f   I n t e l l i g e n t   N e t w o r k s ,   v o l .   4 ,   p p .   2 9 3 7 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . i j i n . 2 0 2 2 . 1 1 . 0 0 7 .   [ 1 8 ]   P .   Li n a r d a t o s,  V .   P a p a s t e f a n o p o u l o s,   a n d   S .   K o t si a n t i s ,   Ex p l a i n a b l e   AI a   r e v i e w   o f   ma c h i n e   l e a r n i n g   i n t e r p r e t a b i l i t y   me t h o d s,”   En t r o p y ,   v o l .   2 3 ,   n o .   1 ,   p p .   1 4 5 ,   2 0 2 1 ,   d o i :   1 0 . 3 3 9 0 / e 2 3 0 1 0 0 1 8 .   [ 1 9 ]   R .   Z h o u   a n d   T.   H u ,   E v o l u t i o n a r y   a p p r o a c h e t o   e x p l a i n a b l e   ma c h i n e   l e a r n i n g ,   i n   H a n d b o o k   o f   e v o l u t i o n a r y   m a c h i n e   l e a r n i n g 2 0 2 4 ,   p p .   4 8 7 5 0 6 .   [ 2 0 ]   K .   R a s h e e d ,   A .   Q a y y u m ,   M .   G h a l y ,   A .   A l - F u q a h a ,   A .   R a z i ,   a n d   J .   Q a d i r ,   E x p l a i n a b l e ,   t r u s t w o r t h y ,   a n d   e t h i c a l   m a c h i n e   l e a r n i n g   f o r   h e a l t h c a r e :   a   s u r v e y ,   C o m p u t e r s   i n   B i o l o g y   a n d   M e d i c i n e ,   v o l .   1 4 9 ,   p .   1 0 6 0 4 3 ,   O c t .   2 0 2 2 ,   d o i :   1 0 . 1 0 1 6 / j . c o m p b i o m e d . 2 0 2 2 . 1 0 6 0 4 3 .   [ 2 1 ]   P .   Th i s o v i t h a n ,   H .   A t h t h a n a y a k e ,   D .   P .   P .   M e d d a g e ,   I .   U .   Ek a n a y a k e ,   a n d   U .   R a t h n a y a k e ,   A   n o v e l   e x p l a i n a b l e   A I - b a se d   a p p r o a c h   t o   e st i mat e   t h e   n a t u r a l   p e r i o d   o f   v i b r a t i o n   o f   m a s o n r y   i n f i l l   r e i n f o r c e d   c o n c r e t e   f r a me  s t r u c t u r e s u s i n g   d i f f e r e n t   ma c h i n e   l e a r n i n g   t e c h n i q u e s,   R e su l t s   i n   E n g i n e e ri n g ,   v o l .   1 9 ,   p .   1 0 1 3 8 8 ,   S e p .   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . r i n e n g . 2 0 2 3 . 1 0 1 3 8 8 .   [ 2 2 ]   I .   H o r v á t h   a n d   J.  T a v č a r ,   D e s i g n i n g   c y b e r - p h y si c a l   sy s t e m f o r   r u n t i m e   s e l f - a d a p t a t i o n :   k n o w i n g   m o r e   a b o u t   w h a t   w e   mi s s . . . ,   J o u rn a l   o f   I n t e g r a t e d   D e s i g n   a n d   Pr o c e ss  S c i e n c e ,   v o l .   2 5 ,   n o .   2 ,   p p .   1 2 6 ,   2 0 2 1 ,   d o i :   1 0 . 3 2 3 3 / JI D 2 1 0 0 3 0 .   [ 2 3 ]   V .   B e l l e   a n d   I .   P a p a n t o n i s,   P r i n c i p l e a n d   p r a c t i c e   o f   e x p l a i n a b l e   ma c h i n e   l e a r n i n g ,   Fr o n t i e rs  i n   B i g   D a t a ,   v o l .   4 ,   J u l .   2 0 2 1 ,   d o i :   1 0 . 3 3 8 9 / f d a t a . 2 0 2 1 . 6 8 8 9 6 9 .   [ 2 4 ]   M .   E l a h i ,   S .   O .   A f o l a r a n mi ,   J.  L.   M .   La st r a ,   a n d   J.  A .   P .   G a r c i a ,   A   c o m p r e h e n si v e   l i t e r a t u r e   r e v i e w   o f   t h e   a p p l i c a t i o n o f   A I   t e c h n i q u e s   t h r o u g h   t h e   l i f e c y c l e   o f   i n d u s t r i a l   e q u i p m e n t ,   D i sc o v e Art i f i c i a l   I n t e l l i g e n c e ,   v o l .   3 ,   n o .   1 ,   p .   4 3 ,   D e c .   2 0 2 3 ,   d o i :   1 0 . 1 0 0 7 / s 4 4 1 6 3 - 0 2 3 - 0 0 0 8 9 - x.   [ 2 5 ]   P .   B i n d r a ,   M .   K sh i r sa g a r ,   C .   R y a n ,   G .   V a i d y a ,   K .   K .   G u p t ,   a n d   V .   K s h i r sag a r ,   I n si g h t s   i n t o   t h e   a d v a n c e m e n t o f   a r t i f i c i a l   i n t e l l i g e n c e   a n d   ma c h i n e   l e a r n i n g ,   t h e   p r e se n t   st a t e   o f   a r t ,   a n d   f u t u r e   p r o sp e c t s:   se v e n   d e c a d e s   o f   d i g i t a l   r e v o l u t i o n ,   S m a r t   I n n o v a t i o n ,   S y st e m a n d   T e c h n o l o g i e s ,   v o l .   2 2 5 ,   p p .   6 0 9 6 2 1 ,   2 0 2 1 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 9 8 1 - 16 - 0 8 7 8 - 0 _ 5 9 .   [ 2 6 ]   B .   A .   Y i l ma,   P e r s o n a l i sa t i o n   i n   c y b e r - p h y si c a l - s o c i a l   s y st e ms,   U n i v e r si t e   d e   L o r r a i n e ,   2 0 2 1 .   [ 2 7 ]   D .   M i l j k o v i c ,   B r i e f   r e v i e w   o f   sel f - o r g a n i z i n g   m a p s,”   i n   2 0 1 7   4 0 t h   I n t e rn a t i o n a l   C o n v e n t i o n   o n   I n f o rm a t i o n   a n d   C o m m u n i c a t i o n   T e c h n o l o g y ,   El e c t ro n i c a n d   M i c r o e l e c t r o n i c s   ( MIPRO ) ,   M a y   2 0 1 7 ,   p p .   1 0 6 1 1 0 6 6 ,   d o i :   1 0 . 2 3 9 1 9 / M I P R O . 2 0 1 7 . 7 9 7 3 5 8 1 .   [ 2 8 ]   A .   Jami l ,   A .   A .   H a me e d ,   a n d   Z.   O r man ,   A   f a st e r   d y n a mi c   c o n v e r g e n c y   a p p r o a c h   f o r   s e l f - o r g a n i z i n g   m a p s ,   C o m p l e x   a n d   I n t e l l i g e n t   S y s t e m s ,   v o l .   9 ,   n o .   1 ,   p p .   6 7 7 6 9 6 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 0 7 / s 4 0 7 4 7 - 0 2 2 - 0 0 8 2 6 - 2.       B I O G RAP H I E S O F   AUTH O RS       V.   Durg a   Pra s a d   J a sti           re c e iv e d   h is  M . Tec h   (CS E)  fr o m   Ac h a ry a   Na g a rju n a   Un iv e rsity ,   G u n tu r .   He   is  c u rre n tl y   p u rsu i n g   P h . D .   fro m   Ac h a ry a   Na g a rju n a   U n iv e rsit y ,   G u n tu a n d   wo r k i n g   a a n   As sista n P ro fe ss o i n   S i d d h a rth a   Ac a d e m y   o Hig h e Ed u c a ti o n ,   d e e m e d   to   b e   Un iv e rsit y ,   i n   th e   De p a rtme n o Co m p u ter  S c ien c e   a n d   En g in e e rin g ,   Vijay a wa d a ,   An d h ra   P ra d e sh .   His  re se a r c h   in tere sts  i n c lu d e   d e e p   lea rn in g   a n d   ima g e   p ro c e ss in g .   He   c a n   b e   c o n tac ted   a e m a il :   p ra sa d jas ti 2 0 1 8 @ g m a il . c o m .   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 52   In d o n esian   J   E lec   E n g   &   C o m p   Sci Vo l.  41 ,   No .   1 J an u ar y   20 2 6 :   300 - 3 0 8   308     K o u d e g a As h o k           is  c u rre n tl y   wo rk i n g   a a ss o c iate   p ro fe ss o in   Vig n a n a   Bh a ra th In stit u te  o Tec h n o l o g y   a ffil iat e d   to   JN TUH,  Hy d e ra b a d .   He   h a 2 1   y e a rs  o tea c h in g   e x p e rien c e   in   e n g in e e ri n g   e d u c a ti o n .   He   re c e iv e d   h is  B. Tec h   in   1 9 9 9   fro m   RG M CET ,   Na n d y a la  a n d   M . Tec h   in   2 0 0 6   f ro m   JN TUA  An a n ta p u r   a n d   c u r re n tl y   p u rsu i n g   P h . D.  fr o m     Un i v e rsity ,   Vijay a wa d a .   His  re se a rc h   in tere sts  in c lu d e   c y b e s e c u rit y ,   c o m p u ter   n e two r k s ,   n e two rk   se c u rit y ,   a n d   o p e r a ti n g   sy ste m s.  He   c a n   b e   c o n tac ted   a e m a il :   k o u d e g a i. a sh o k @ v b i th y d . a c . i n .         Ra m a r a o   G u d e           is  c u rre n tl y   a ss o c iate   p ro fe ss o o f   El e c tro n ics   a n d   Co m m u n ica ti o n   E n g i n e e rin g   o f   G .   P u ll a iah   C o ll e g e   o E n g i n e e ri n g   a n d   Tec h n o lo g y ,   Ku r n o o l,   h e   h a a b o u 1 8   y e a rs  o f   e x p e rien c e   in   tea c h in g   a n d   re se a rc h .   He   h a p u b li sh e d   se v e ra l   re se a rc h   p a p e rs  in   jo u rn a ls  o b o t h   in tern a ti o n a a n d   n a ti o n a re p u t e .   He   h o ld M . Tec h   d e g re e   fro m   JN TUCEA,   An a n th a p u ra m u   in   t h e   field   o e lec tro n ics   a n d   c o m m u n ica ti o n   e n g i n e e rin g .   He   c a n   b e   c o n tac ted   a e m a il :   ra m a ra o g 1 9 @ g m a il . c o m .         Pra b h a k a r   K a n d u k u r i           re c e iv e d   h is   P h . D.  i n   c o m p u ter  sc ien c e   a n d   e n g in e e rin g   fro m   JN Un iv e rsity   An a n t h a p u r,   In d ia.  M .   Tec h .   De g re e   in   c o m p u ter sc ien c e   a n d   e n g i n e e rin g   fro m   JN TUA  Co ll e g e   o E n g i n e e rin g ,   B .   Tec h .   De g re e   in   c o m p u ter  sc ien c e   a n d   e n g in e e rin g   fro m   Ac h a ry a   Na g a rju n a   Un iv e rsity ,   a n d   h e   re c e iv e d   h is  D ip lo m a   fro m   th e   S BT ET ,   Hy d e ra b a d .   He   is  a   p ro fe ss o r   o Artifi c ial  In telli g e n c e   a n d   M a c h in e   Lea rn i n g   De p a rtme n t ,   Ch a it a n y a   Bh a ra th In stit u te  o Tec h n o l o g y ,   Hy d e ra b a d ,   I n d ia.  His  m a in   re se a r c h   in tere st   in c lu d e so ftwa re   e n g i n e e rin g ,   m a c h in e   lea rn in g He   c a n   b e   c o n tac ted   a t   e m a il :   p ra b h a k a rc s@ g m a il . c o m .         Mr.  S u r e n d r a   N a d h   Be n a r ji  Be jja m           is  c u rre n tl y   wo rk i n g   a a ss istan p ro fe ss o in   KL   Un i v e rsity   a ffi li a ted   t o   Ko n e ru   Lak sh m a iah   Ed u c a ti o n   F o u n d a ti o n ,   Va d d e sw a ra m ,   G u n tu r.   He   h a 8 - y e a rs  o tea c h i n g   e x p e rien c e   in   e n g in e e rin g   e d u c a ti o n .   He   re c e iv e d   B. Tec h   in   2 0 1 2   fro m   Ac h a ry a   Na g a rj u n a   Un iv e rsit y   (KLCE),   M . Tec h   in   2 0 1 5   fr o m   P o n d ich e rr y   Ce n tral  Un iv e rsit y   a n d   p a rt - ti m e   re se a rc h   sc h o lar  (P h . D.)  fro m   P o n d ich e rr y   Ce n tral   Un iv e rsity .   His  Re se a rc h   in tere s ts  in c lu d e   c y b e se c u rit y ,   m a c h i n e   lea rn in g ,   d e e p   lea rn i n g ,   n e two rk s,  a rt ifi c ial  in tell ig e n c e ,   a n d   c l o u d   se c u rit y .   He   c a n   b e   c o n tac ted   a e m a il :   b e n a rji @k l u n i v e rsity . in .         Anu sha   B.           is  c u rre n t ly   i n   t h e   De p a rtme n o El e c tro n ics   a n d   Co m m u n ica ti o n   En g i n e e rin g ,   An d h ra   U n iv e rsit y ,   An d h ra   P ra d e sh ,   In d ia.  Re se a rc h   in tere sts   a re   a rti ficia in telli g e n c e   in   ECE ,   e m b e d d e d   sy ste m s,  n a n o e lec tro n ics ,   i n tern e o th in g (Io T)  se c u rit y ,   ro b o ti c s a n d   a u t o m a ti o n .   S h e   c a n   b e   c o n tac ted   a e m a il a n u tan h a r @g m a il . c o m .     Evaluation Warning : The document was created with Spire.PDF for Python.