I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   20 ,   N o .   1 O c t o be r   20 20 ,   pp .   329 ~ 337   IS S N :   25 0 2 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 20 .i 1 . pp   329 - 33 7             3 29       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   E x p e r i m e n t s o n   c i t y   t r a i n   v i b r a t i o n   a n o m a l y   d e t e c t i o n   u s i n g   d e e p   l e a r n i n g   a p p r o a c h e s       Tae h e e   K i m 1 ,   C h e o l w oo   R o 2 ,   K i h o   S u h 3   1 S c hoo l   o f   C ul t u r e   a nd   C o nt e nt s ,   Y o ung s a n   U ni v e r s i t y ,   K o r e a   2 D e pa r t m e n t   D i v i s i o n   o f   C o m put e r   S o f t w a r e   E ng i n e e r i ng ,   S i l l a   U n i v e r s i t y ,   K o r e a   3 A r t i f i c i a l   I nt e l l i g e nc e   R e s e a r c h   I ns t i t ut e ,   Y o ung s a n   U ni v e r s i t y ,   K o r e a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e J a n   18 ,   2 020   R e v i s e M a 22 ,   20 20   A c c e pt e A p r   6 ,   2020       A n o m a l y   de t e c t i o i s   w i de l y   i de m a nd  i t h e   f i e l w he r e   a ut o m a t e de t e c t i o o f   a no m a l o us   c o ndi t i o ns   i m a ny   o bs e r v a t i o t a s k s .   W h i l e   c o n v e nt i o na l   da t a   s c i e nc e   a pp r o a c he s   h a v e   s ho w i nt e r e s t i ng   r e s ul t s ,   de e p   l e a r n i ng   a ppr o a c he s   t o   a no m a l y   de t e c t i o pr o b l e m s   r e v e a l   ne w   pe r s p e c t i v e s   o f   p o s s i bi l i t i e s   e s p e c i a l l y   w he r e   m a s s i v e   a m o unt   o f   da t a   ne e t o   be   ha nd l e d .   W e   de v e l o a no m a l y   de t e c t i o a pp l i c a t i o ns   o c i t y   t r a i n   v i br a t i o da t a   u s i ng   de e l e a r ni ng   a ppr o a c he s .   W e   c a r r i e d   o ut   p r e l i m i na r y   r e s e a r c o a no m a l y   de t e c t i o i n   g e ne r a l   a nd  a pp l i e o ur   r e a l   w o r l da t a   t o   e xi s t i ng   s o l ut i o ns .     I t hi s   pa p e r ,   w e   p r o v i de   a   s ur v e y   o a no m a l y   de t e c t i o a nd  a n a l y s e   o ur   r e s ul t s   o f   e xpe r i m e nt s   us i ng   d e e p   l e a r ni ng   a pp r o a c he s .     Ke y w or ds :   A c c e l e r o m e t e r     A n o m a l y   de t e c t i o n   D e e l e a rni n g   T i m e - s e r i e s   d a t a   T r a i n   v i b ra t i o da t a   C opy r i gh t   ©   2020   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   Ch e o l w oo   Ro ,     D i v i s i o n   o f   Co m put e S o f t w a r e   E n gi n e e r i ng,     S i l l a   U ni v e r s i t y ,   B us a n   469 58,   S o ut h   K o r e a .   E m a i l :   c w r o @ s i l l a . a c . k r       1.   I N TR O D U C TI O N   A n o m a l y   de t e c t i o n   t a ke s   pl a c e   i n   m a n y   di f fe r e n t   ki n ds   o f   da t a   t y pe s   s pa nn i n g   f r o m   s y m b o l i c   da t a   t o   n u m e r i c   da t a ,   t hus   t a c kl e s   m a n y   di ff e r e n t   t e c hn o l o gi c a l   p r o b l e m s .   S i n c e   m a n y   a n o m a l y   de t e c t i o n   t a s ks   r e qui r e   h a ndl i n o f   m a s s i ve   a m o un t   o f   da t a ,   de e l e a rni n a pp r o a c h e s   a r e   b e i n a c t i v e l y   a t t e m pt e a n d   s ugge s t   po s i t i v e   r e s ul t s .   H ow e ve r ,   a n o m a l y   de t e c t i o n   fo r   c o n t i n uo us   t i m e - s e r i e s   da t a ,   s uc h   a s   v i b r a t i o s i g n a l ,   i s   l e s s   s t udi e c o m pa r e t o   a n o m a l y   de t e c t i o n   of   o t he r   n o n - t e m po r a l   a n s y m bo l i c   t y p e s .   M o r e ov e r ,   o n l i n e   r e a l - t i m e   a n o m a l y   de t e c t i o n   i s   t e c hn o l o gi c a l l y   m uc h   de m a n di ng  f o r   r e a l   w o r l a ppl i c a t i o n s ,   w h i c w o ul p r o v i de   m uc b e n e f i t   w h e s o l v e d.     W e   c a rr y   o ut   a   de ve l o pm e n t   o f   a n o m a l y   de t e c t i o n   s o l ut i on   o n   c i t y   t r a i n   o pe r a t i o n   by   o bs e r v i n g   v i b r a t i o n   da t a   c o l l e c t e us i n a n   a c c e l e r o m e t e r   t h a t   i s   m o u nt e o n   a   t ra i n.   O u r   go a l   i s   t o   e xpe r i m e nt   f e e di n o ur   da t a   t o   t y pi c a l   a pp l i c a t i o n s   a s   a   f e a s i b i l i t y   s t ud y .   I n   t hi s   pa pe r,   w e   f i r s t   l o o a t   e xi s t i n a n o m a l y   de t e c t i o n   w o r ks   us i ng  de e l e a rni n a p p r o a c h e s .   W e   t h e n   d e s c r i b e   our   e xpe r i m e nt s   o n   t h e   a ppl i c a t i o n   o f   o ur   da t a   t t w of   t h o s e   e xi s t i n s y s t e m s   t h a t   a r e   kn o w n   t o   be   a ppr o pri a t e   fo r   t i m e - s e ri a l   d a t a .   T h e   r e s ul t   s h o w s   pos i t i v e   f e a s i b i l i t y   fo r   a n o m a l y   de t e c t i o n   o n   t i m e - s e ri e s   v i b r a t i o da t a   us i n g   t h o s e   de e l e a rni n a pp r o a c h e s .   H ow e ve r ,   i n   a c t ua l   p r a c t i c a l   c i r c um s t a n c e s   w e   of t e n   e n c ount e s i t u a t i o n s   w h e r e   t h e r e   a r e   l a c o f   o r   n o   a n o m a l o us   da t a   t ha t   m a ke s   r o b us t   c l a s s i f i c a t i o n   v e r y   di ff i c ul t   o r   i m po s s i b l e .   W i t h o ut   s o l v i n t hi s   p r o b l e m ,   t h e   c a pa c i t y   of  a n o m a l y   de t e c t i o n   us i n de e l e a rn i ng  a pp ro a c h e s   w i l l   b e   v e r y   l i m i t e W e   s ugge s t   t h a t   o n e   c l a s s   c l a s s i f i e r   s h o ul p r o v i de   a   s t r o n c l ue   f o r   t a c kl i ng  t hi s   pr o b l e m   of   l a c of   a n o m a l o us   da t a ,   w hi c h   w e   s ugge s t   a s   f ut u r e   r e s e a r c h   di r e c t i o n.         Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     329   -   33 7   330   2.   S U R V EY   O N   A N O M A L Y   D ET EC TI O N   In   a   l a r ge   d a t a s e t ,   s o m e   ra r e   c a s e s   of   da t a   t h a t   s t a nd  o ut   a m o n o t h e r s ,   t ha t   i s   k n o w n   t o   b e   a n o m a l y   c o n di t i o n s ,   a r e   o f t e n   r e qui r e t o   b e   pi c ke up.   A n o m a l y   c o ul b r o a dl y   f a l l   i n t o   s uc h   c a t e go r i e s   a s   po i nt ,   c o n t e xt ua l ,   a nd  c o l l e c t i ve   a n o m a l i e s   w i t h   r e s pe c t   t o   t h e   c h a ra c t e ri s t i c s   o da t a   [1 - 6] .   P o i nt   a n o m a l i e s   w o r ks   o n   a   s e t   o f   c l a s s i f i a b l e   e n t i t i e s   s o   t h a t   a n o m a l o us   v a l ue s   c o u l b e   l i n e a rl y   s e pa ra t e f r o m   o t h e r s .   Co n t e x t ua l   a n o m a l i e s   r e f e r   t o   c o n di t i o na l   a n o m a l i e s   w h e r e   a n   i n d i v i du a l   da t a   i n s t a n c e   i s   a n o m a l o us   w i t h i n   a   c o n t e xt ,   s uc h   a s   i n   a   c a s e   w h e r e   a b r u pt   t e m pe ra t u r e   c ha n ge   i n   a   m o nt h l y   r o o m   t e m pe r a t u r e   p a t t e rn.   Co l l e c t i v e   a n o m a l i e s   r e f e r   t o   a   c a s e   w h e n   a   s e t   of   r e l a t e da t a   i n s t a n c e s   i s   a n o m a l o us   c o m pa r e t o   t h e   r e s t   o f   t h e   da t a   s uc h   a s   i n   a   c a s e   w h e r e   m i s s i n g   h e a rt b e a t   f o un a m o n g   a   s e ri e s   of   o t h e o n e s .     O t h e   o t h e r   ha n d ,   a n o m a l y   de t e c t i o n   p r o c e s s i n m e t h o ds   c a n   b e   c a t e go r i z e i nt o :   Cl us t e r i n g - b a s e t e c hn o l o g y   [7];   S t a t i s t i c a l   t e c hni que s   [8];   I n f o r m a t i o n   t h e o r y - b a s e t e c hn o l o g y   [9];   S pe c t r a l   t e c hn i que s ;   R o b us t   P CA - b a s e m e t h o [10] ,   e t c .   D i r e c t l y   r e l a t e t o   t h e   t o pi c   of   t hi s   p a pe r,   S e que n t i a l   a n o m a l y   de t e c t i o n   l o o ks   a t   da t a   t ha t   a r e   s e que n t i a l ,   e . g. ,   s y s t e m   c a l l   i nt r us i o n,   c l i m a t e   d a t a ,   D N A   s e que n c e ,   e t c .   M a j o r i t y   o c o n v e n t i o n a l   a pp r o a c h e s   a r e   o f   t h e   t y pe   of   off - l i n e   w hi l e   i t h e   r e a l   w o r l d   o n - l i n e   a pp l i c a t i o i s   o f t e n   de s i r e d.   R e c e n t   a pp l i c a t i o n s   o f   de e l e a rni n t e c hn o l o gi e s   t o   a n o m a l y   de t e c t i o n   s h o w s   i n   go o pe r f o r m a n c e   i n   s o m e   d o m a i n s   a n t h e   s c o pe   of  a ppl i c a t i o n   i s   r a pi d l y   e xp a n di ng.   M a n y   a n o m a l y   de t e c t i o n   a ppl i c a t i o n s   f o r   s e que n t i a l   da t a ,   s uc h   a s   t i m e - s e ri e s   v i b r a t i o n   da t a ,   a r e   i m pl e m e nt e us i ng  L o n S h o r t   T e r m   M e m o r y   (L S T M )   n e t w o r ks   (e . g .   [11,   12 ]).     A n o m a l y   d e t e c t i o n   f r o m   a   t i m e - s e ri e s   a n s t r e a m i n t y pe   of   da t a   c a n   b e   a ppl i e t o   s uc h   t a s ks   a s   de a l i n w i t h   s e n s o r   da t a   a na l y s i s ,   di a g n o s i n m a c h i n e ri e s ,   m e di c a l   a pp l i c a t i o n s ,   n e t w o r i n t r us i o n,   do c um e n t s ,   f i n a n c e ,   e t c   [13].   I n   t i m e - s e ri e s   da t a ,   a n o m a l y   d e t e c t i o n   t a s ks   f i rm l y   r e l y   o n   t h e   c h a ra c t e ri s t i c   o „t h e   c o n t i nui t y   i t i m e .   H ow e v e r ,   i r e a l i t y ,   o n e   w i l l   o f t e n   f i n d   l a c o f   a n o m a l o us   da t a .   F o e xa m pl e ,   i n   s uc h   a   c a s e   i n   a   f a c t o r y   m a c hi n e ,   i t   i s   v e r y   di ff i c ul t   t ob t a i n   a n o m a l o us   da t a   t h a t   w o ul o n l y   a v a i l a b l e   f r o m   a   ve r y   l i m i t e ra r e   c a s e   of   m a l f un c t i o n   o f   m a c h i n e s .   T h e r e f o r e ,   m a n y   t r y   t o   s o l v e   t h i s   p r o b l e m   by   m o d e l l i n n o rm a l   ob s e r v a t i o n   a n d   f i ndi n g   o ut   a n o m a l i e s   by   f i gur i ng  o ut   di s t a nc e   f r o m   t h e   n o rm a l   o b s e r v a t i o n.     G e n e ra t i v e   A dve r s a r i a l   N e t w o r k(G A N i s   r e c e n t l y   of t e n   us e f o r   a n o m a l y   de t e c t i o n .   S c h l e gl ,   e t   a l .   r e po rt e un s upe r v i s e a n o m a l y   de t e c t i o n   us i n G A N   o n   m e di c a l   i m a ge s   [14] .   T h e y   f i r s t   t r a i n   di s c ri m i na t o t h a t   w i l l   l e a rn   t o   di s c r i m i na t e   r e a l   da t a   f r o m   f a ke   da t a .   T hi s   t ra i n e di s c r i m i na t o r   i s   t h e n   us e t o   f i n o ut   a n o m a l o us   da t a .   O n c e   l e a rn e d,   t h e   di s c r i m i na t o r   w i l l   ob t a i n   m a ni f o l i n   t h e   l a t e n t   s pa c e   t h a t   ha b e e n   fo r m e f r o m   gi v e n   s o ur c e   da t a .   I n   o r de r   t o   de t e c t   a n o m a l y   c o n di t i o n s ,   a n y   i n c o m i n d a t a   t ha t   i s   s uf f i c i e n t l y   off   t h e   l e a rn e m a ni f o l c a n   b e   r e ga r de a s   a n o m a l o us   da t a .   G A N   i s   a l s o   a ppl i e t o   n o i s y   i m a ge   t r a i n i ng  da t a   i n   t h e   c a s e   o f   h a n w r i t t e n   c ha r a c t e r   r e c o gn i t i o n   [15] .   G A N   a n o m a l y   de t e c t i o n   i s   a l s o   a ppl i e t o   t i m e - s e r i e s   da t a   (e g.   [16 ,   17 ]).   W e   f i r s t   us e   G A N   f o r   o ur  f i r s t   e xpe ri m e n t   t o   e xa m i n e   f e a s i b i l i t y   fo r   o ur   t r a i n   da t a   t o   b e   us e d   fo r   a n o m a l y   de t e c t i o n .       3.   C I TY   TR A I N   V I B R A TI O N   D A TA   F o r   o ur   e xpe r i m e n t s ,   w e   us e   v i b r a t i o n   da t a   f r o m   a n   a c c e l e r o m e t e r   t ha t   i s   m o u n t e o n   a   c i t y   t r a i n   o B us a n   c i t y ,   Re pub l i c   of   K o r e a .   E xpe r i m e nt   d a t a   w e r e   c o l l e c t e i n   a A S CII  da t a   f o r m   du ri n a   n o rm a l   t r i p   o a   t r a i n   o n   a   ra i l w a y .   T h e   da t a   f o r m a t   i s   s h o w n   i F i g u r e   1 .             F i gu r e   1 .   R a w   v i b r a t i o da t a   f o r m a t   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E x p e r i m e nt s   on  c i t y   t r a i v i br a t i o an om al y   d e t e c t i o us i ng  de e p   l e ar ni ng  appr oa c he s   ( T ae he e   K i m )   331   T h e   s a m pl i n r a t e   of   t h e   da t a   i s   a pp r o xi m a t e l y   33. 3H z .   W e   us e   t h e   l o n gi t udi na l   v i b r a t i o n   da t a   a n d   l a t e ra l   v i b r a t i o n   d a t a   f o r   o ur   e xpe r i m e n t .   S i n c e   t h e   t ra i n   t r a v e l s   i n   v a r i o us   s pe e ds   f r o m   a   s t a t i o n   t o   a n o t h e s t a t i o n ,   w e   t oo a   s e c t i o n   o f   da t a   t ha t   a r e   s a m p l e du ri n a   c o n s t a nt   s pe e o f   a ppr o xi m a t e l y   70K m / w h i c h   i s   a   t y pi c a l   t o s pe e o f   t r a i b e t w e e n   s t a t i o n s .   F i g u re   2   l e f t   s ho w s   t he   f o rm a t   o f   l o ng i t u d i na l ( X - c o l u m n)   a nd   l a t e ra l ( Y - C o l u m n)   v i b ra t i o d a t a   e x t ra c t e d   f ro m   t he   r a w   d a t a   t a b l e   t o   f e e d   i nt o   o u ne t w o rk   a s   i np u t   d a t a .   F ro m   t he   r a w   d a t a ,   F i g u re   2   ri g ht   s ho w s   l o ng i t u d i n a l   a nd   l a t e ra l   v i b ra t i o w a v e f o rm   a l o ng   t i m e   o f   t ri p ,   i n   w hi c h   t he   v i b ra t i o ns   a re   c l e a r l y   s ho w n.               F i gu r e   2 .   l o n g i t ud i n a l   (X a n d   l a t e r a l   (Y )   v i b r a t i o d a t a   a s   i nput   da t a   (l e f t ),   w a v e fo r m   ( ri g ht )       W e   c a rri e o ut   s pe c t r a l   de n s i t y   a n a l y s i s   o n   t h e   t ra i n   v i b r a t i o n   d a t a   a s   s h o w n   i n   F i gu r e   3.     T h e   w a ve fo r m   s h o w n   o n   t h e   t o s h o w s   ve r t i c a l   v i b r a t i o n   m i dd l e ,   h o ri z o nt a l   v i b r a t i o n   a n t h e   l a s t ,   r o o t - m e a n - s qu a r e   of   ve r t i c a l   a n h o ri z o n t a l   v i b r a t i o n s .   T h e   t hr e e   bo t t o m   gr a p h s   s h o w   t h e   pow e r   s pe c t r um   de n s i t y   of   t h e   w a v e fo r m s   i n   a n   o r de r   f r o m   l e f t   t o   r i g h t .   T h e y   s h ow   t ha t   l a rge   po r t i o n s   o f   f r e que n c y   c o m po n e nt s   of   t h e   v i b r a t i o n s   a r e   l o c a t e be l ow   a ppr o xi m a t e l y   20H z .   T hi s   f r e que n c y   c h a ra c t e r i s t i c   w i l l   pr o b a b l y   c h a n ge   a c c o r di n t o   t ra i s pe e w h i l e   s t i l l   r e f l e c t i ng  s o m e   m e a ni n gf ul   i n f o r m a t i o n   a b o ut   t h e   t r a i n   o pe ra t i o n   i n c l udi ng  t h e   c o n di t i o n   o f   t h e   r a i l r o a d,   l e a v i ng  o ut   s uc h   t r a i n - s pe d - de pe nde nt   a na l y s i s   l e f t   fo r   o ur     f ut ur e   w o r k.             F i gu r e   3 .   P o w e r   s pe c t r a l   de n s i t y   a na l y s i s   of   v i b r a t i o s i g na l s       4.   TR A I N I N G   D A TA   U S I N G   G A N   W e   f i r s t   c a rr i e o ut   a n   e xpe ri m e n t   t o   e xa m i n e   w h e t h e r   a   de e l e a rni n s y s t e m   c o ul l e a rn   o ur   t ra i da t a   w a ve fo r m   pa t t e rn.   O n c e   a   s y s t e m   l e a rn s   t y pi c a l   v i b r a t i o n   w a v e fo r m   pa t t e rn s   t h e n   a n o m a l y   d e t e c t i o n   c o ul b e   r e a l i z e by   c a l c ul a t i n g   di s t a n c e   f r o m   l e a rn e d   f o r m   a n d   t h e   i n c o m i n g   s i g na l .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     329   -   33 7   332   W e   c h o s e   i n f o G A N   by   Ch e n   e t   a l .   f o r   o ur   f i r s t   e xpe r i m e n t   [1 8].   I n f o G A N   i s   a   ge n e r a t i v e   a dv e r s a ri a l   n e t w o r t ha t   l e a rn s   di s e n t a n gl e r e p r e s e n t a t i o n s   i a   c o m pl e t e l y   un s upe r v i s e m a nn e r.   T hus   s uc c l a s s i f i c a t i o n   a b i l i t y   c o ul b e   us e t l e a rn   t y pi c a l   pa t t e rn   o f   t i m e - s e r i e s   v i b r a t i o n   d a t a .   W e   a do pt e a In f o G A N   i m pl e m e n t a t i o n   [19 f o r   t i m e - s e r i e s   da t a   a n f e e d   o ur   da t a   t o   e xe c ut e   l e a rn i n p r o c e s s .   T h e   r e s ul t   i s   s h o w n   i n   F i g u r e   4 ,   w h e r e   t h e   c r o s s   e n t r o p y   v a l ue (l o s s / c e dr o ps   s i g n i f i c a n t l y   t ha t   i n d i c a t e s   t h a t   l e a rni n g   pr o c e s s   c o n v e r ge s   t o   a   c e r t a i di r e c t i o n .             F i gu r e   4 .   R e s ul t   o f   l e a rn i ng  p r o c e s s   of   v i b r a t i o d a t a   us i n t i m e - s e r i e s   i m p l e m e nt a t i o o f   In f o G A N       5.   TR A I N I N G   D A TA   U S I N G   LS T M   In   t h i s   s e c t i o n,   w e   de s c r i b e   o ur   e xpe ri m e n t   o n   o ur   c i t y   t ra i n   v i b r a t i o n   da t a   a n o m a l y   d e t e c t i o n   b a s e d   o n   a L S T M   i m p l e m e n t a t i o n   a n o m a l y   de t e c t i o n   [11 ,   2 0].   A n o m a l y   de t e c t i o n   us i n m a c hi n e   l e a rni n g   c a n   b e   di v i de i nt o   t w o   ki n ds   o a ppr o a c h e s :   1)  b o t h   n o rm a l   da t a   a n a n o m a l o us   a r e   a v a i l a b l e ;   2)  o n l y   n o r m a l   da t a   a r e   a v a i l a b l e .   T h e   c a s e   2)  a b o ut   i s   di f f i c ul t   s i n c e   t h e   n e t w o r n e v e r   s a w   a n o m a l o us   da t a .   H ow e ve r ,   a   n e t w o r t h a t   c o ul l e a rn  t o   p r e di c t   n e x t   c o m i n s e que n c e   l i ke   L S T M   c o ul b e   us e t o   t a c kl e   t h i s   p r o b l e m .   A L S T M   n e t w o r l e a rn s   o ff - l i n e   t h e   pa t t e rn   o f   t h e   n o rm a l   h e a l t h y   da t a   a nd  b e   a b l e   t o   pr e di c t   n e xt   c o m i n s e que n c e   gi v e n   t h e   p r e v i o us   da t a .   T h e t h e   s y s t e m   c o m pa r e s   t h e   i n c o m i n g   r e a l   da t a   w i t h   t h e   p r e di c t e d a t a   t o   f i gur e   o ut   t h e   di f f e r e n c e .   If   t h e   di f fe r e n c e   i s   h i g h e r   t h a n   a   c e r t a i n   t hr e s h o l d,   t h e   s y s t e m   r e po r t s   t h e   i n c o m i n d a t a   a s   a n o m a l y .   S i n c e   t h e   v i b r a t i o n   da t a   t ha t   w e   h a v e   a v a i l a b l e   a re   o n l y   n o rm a l   d a t a ,   t h e r e f o r e   „l e a n i n t o   pr e di c t   a n c o m pa r i ng‟  a s   e xpl a i n e a b o ve   w o ul b e   a n   a p p r o pri a t e   a pp r o a c h .   A n   L S T M   i s   c o n s i de r e t o   b e   a   s ui t a b l e   m e t h o f o r   t hi s   pu r po s e .   T h i s   a pp r o a c h   c o ul b e   m o r e   a rt i c ul a t e t o   b e   a b l e   t o   w o r o n l i n e   f o r   r e a l - t i m e   a pp l i c a t i o n s .   W e   de s c r i b e   o ur   f e a s i b i l i t y   s t udy   fo r   t ra i n   v i b r a t i o n   d a t a   b e l ow   us i n g   a L S T M   m o de l .     T h e   s t r uc t u r e   of   l a y e r e L S T M   t h a t   w e   a do pt e fo r   o ur   e xpe r i m e nt   i s   s h o w n   i n   F i g u r e   [11] .   T hi s   m o de l   i s   b a s e o n   t y pi c a l   L S T M   s t r uc t u r e   a n d   w e   us e a   l a y e r e L S T M   s t r uc t u r e .             F i gu r e   5 .   T y pi c a l   L S T M   s t r uc t u r e (l e f t a n d   L a y e r e L S T M   s t r uc t u r e   ( ri g h t [ 11]   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E x p e r i m e nt s   on  c i t y   t r a i v i br a t i o an om al y   d e t e c t i o us i ng  de e p   l e ar ni ng  appr oa c he s   ( T ae he e   K i m )   333   T h e   w a y   t h e   L S T M   c e l l s   a r e   c o n n e c t e i s   i n   a   f o r m   o f   f ul l y   c o n n e c t e s t a c ke L S T M   a s   s h o w n   i F i gu r e   a l o n i n pu t   a n o ut pu t   s e que n c e s .   I n   o r de f o r   t h e   L S T M   n e t w o r t o   l e a rn   t h e   s e que n c e   o f   t h e   v i b r a t i o n   d a t a ,   t h e   m o de l   us e p a ra m e t e r s   s h o w n   i T a b l e   1 .             F i gu r e   6 .   F u l l y   c o nn e c t e s t a c ke L S T M   m o de l   T a b l e   1 .   P a ra m e t e r s   us e f o r   L S T M   m o de l   t ra i ni n g   P a ra m e t e r   V a l ue   N um be r   o f   i npu t   f e a t u r e s   128   N um be r   o f   hi dd e n   l a y e r s   p e r   l a y e r   128   N um be r   o f   l a y e r s   2   N um be r   o f   e po c h   400   I ni t i a l   l e a r n i ng   r a t e   0. 00 02   B a t c s i z e   64   S e que nc e   l e ng t h   50   dr o po ut   0. 2           U s i ng  t h e   p a ra m e t e rs   a b o v e ,   w e   t ra i ne t he   L S T M   m o de l .   F i gu re   7 .   s h o w s   t he   s i g na l   t ha t   o u r   L S T M   m o de l   ge ne ra t e s   a l o n t h e   l e a rni ng   s p a o f   400  e po c hs .   A c c o rdi ng  t o   t he   w a v e f o rm   p re d i c t i o n   r e s u l t s   s h o w n   i F i gu re   7 ,   a l o ng  t h e   p r o g r e s s   o f   l e a rni ng ,   o u L S T M   m o de l   l e a rns   t o   ge n e ra t e   s o p hi s t i c a t e w a v e f o rm s   g ra d ua l l y   r e s e m b l i ng  t he   t ra i d a t a .   H o w e v e r ,   e v e n   i n   t he   ge ne ra t e w a v e f o rm   i t h e   l a s t   g ra p r e s e m b l e s   t he   s i g na l   i t e rm s   o f   gl o b a l   pe ri o d i c   v a ri a t i o n ,   i t   m i s s e s   o u t   de t a i l s   o f   t e xt u r e s .   W e   l e a v e   f u rt he r   t u ni ng   o f   t h e   m o de l   a nd   p a ra m e t e r s   f o f u t u r e   w o r k   w h e s e ns i ng   de v i c e   i s   re - e ng i ne e re d   a nd   m uc m o re   d a t a   a r e   a v a i l a b l e .             (1)   (2)       (3)   (4)     F i gu r e   7 .   T h e   w a v e fo r m s   t ha t   t h e   L S T M   m o de l   p r e d i c t s   a nd  ge n e ra t e s   (f r o m   t o t o   b o t t o m   a l o ng  e po c h s )       W e   n e xt   c a rr y   o ut   c o m pa ri s o n   b e t w e e n   r e a l   i n p ut   s i g n a l   a n d   t h e   p r e di c t e s i g n a l .   T h e   m e a s u r e   t ha t   i n di c a t e s   t h e   a m o u n t   o f   di ff e r e n c e   b e t w e e n   i n put   s i g na l   a nd  p r e di c t e (o r   de s i r e d)  s i g na l   i s   r e f e r r e t o   a s   „A n o m a l y   S c o r e . ‟  I o ur  e xpe r i m e n t ,   w e   t a ke   t h e   A n o m a l y   s c o r e   by   M ul t i v a r i a t e   G a us s i a D i s t ri b ut i o s h o w n   b e l ow   [11].                               (           )       (           )     (1)   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     329   -   33 7   334   T h e   c o m pa ri s o n   r e s ul t   i s   s h o w n   i n   F i g u r e   8.   T h e   o ve r l a ppe s i g n a l   a r e a   o n   t h e   t o o i n   t h e   f i gu r e   s h o w s   t h e   s i g n a l s   o v e r l a ppe d ,   t h e   i nput   o r i g i n a l   n o rm a l   s i g na l   a n t h e   ge n e r a t e p r e di c t e s i g n a l .   T h e   r e gra p h   i n   t h e   b o t t o m   of   t h e   gr a p h s   s h o w   t h e   r e s ul t s   of   c om put e a n o m a l y   s c o r e .   T h e   s m a l l e r   a m pl i t ude   i n di c a t e s   t h e   hi g h e r   p r e c i s i o n   t h e   p r e di c t i o n   i s .   T h e r e   a r e   m a n y   ve r y   h i g pe a ks   i t h e   a n o m a l y   s c o r e   a nd  t hi s   m e a n s   t h e   m o de l ‟s   poo r   pe r f o r m a n c e   s uc h   t h a t   t h e   p r e di c t e s i gn a l   ke e ps   s i gni f i c a nt   di s t a n c e   f r o m   t h e   o r i gi na l   s i g na l .   T hi s   m e a n s   t h a t   t h e   s y s t e m   w o ul m o s t   l i ke l y   r e po r t   s uc h   pe a ks   a s   a n o m a l y   c o n di t i o n s .     W e   w i l l   w o r o n   i m p r o v i n t h e   pe r f o r m a n c e   w h e w e   ob t a i m o r e   v i b r a t i o da t a   i t h e   f ut u r e .                 F i gu r e   8 .   T h e   o v e r l a p   o f   i n pu t   a n d   o ut put   d a t a   (b l ue   p a r t a nd  t h e   f o l l o w i n a n o m a l y   s c o r e   (r e pa rt ),   (t o p:   v e r t i c a l   v i b r a t i o n,   b o t t o m :   h o r i z o nt a l   v i b ra t i o n )       S o   f a r ,   w e   de s c r i b e o ur   e xpe ri m e n t s   us i n a n   L S T M   m o de l   t h a t   p r e di c t s   n e xt   s t e ps   o f   s i gn a l s   gi v e n   t h e   c urr e nt   s i g n a l s .   W e   t h e n   s h o w e d   o ur   r e s ul t s   of   c o m put a t i o n   o a n o m a l y   s c o r e s .   T h i s   m e t h o c o ul be   e ffe c t i ve   w h e n   o n e   l a c ks   a n o m a l o us   da t a   o n o n e .     H ow e ve r ,   w e   c r i t i c i s e   t h a t   t hi s   m e t h o m us t   b e   l i m i t e i n   s i t ua t i o n s   w h e r e   na t u ra l   s i g na l   d a t a   a r e   uni que   o r   s h o w   a   n a rr o w   s c o pe   of   v a r i a t i o n s .   T h i s   m e a n s   t h a t   i f   t h e   v i b ra t i o n   c h a ra c t e ri s t i c   w o ul v a r y   de pe n di n g   o l o c a t i o n s   o f   r a i l r o a a n d   t h e   k i n ds   o f   t r a i n s ,   s uc m e t h o w i l l   b e   t o o   l i m i t e d.   T h us ,   w e   i n t r o duc e   a   c l a s s i f i c a t i o n   a n c l us t e r i ng  m e t h o t h a t   w oul o ve r c o m e   t h e   pr o b l e m   of  v a r y i n s i g na l   c h a ra c t e ri s t i c s .   T h e   p r o c e dur e   o f   a a n o m a l y   de t e c t i o n   by   c l a s s i f i c a t i o a nd  c l us t e ri n g   i s   a s   f o l l o w s :   a)   T a k i n s a m p l e s   o f   s i gn a l   s e gm e n t s   us i n o v e r l a p pe w i ndow s   by   h a l f   o f   e a c h   s e gm e nt   t o   p r e v e n t   f e a t ur e   l o s s ;   b)   Ca rr y i n o ut   c l a s s i f i c a t i o a n d   c l us t e r i n g   by   un s upe r v i s e l e a rni n o n   t h e   s a m p l e s e gm e nt s ,   t h e n   t h e   r e s ul t i n g   s e t s   o f   s e gm e n t s   w i l l   b e   c l a s s i f i e s e t s   i t e rm s   o f   kn o w n   c h a ra c t e ri s t i c s   o f   f e a t ur e s ;   c)   G i v e n   t h e   l e a rn e c l us t e r s ,   a c t ua l   i n c o m i ng  da t a   i s   f e by   t a k i n s a m p l e s   o f   ov e r l a ppe w i n do w e d   s i g n a l s   t h e l o c a t e   t h o s e   s a m pl e s   i t h e   c l us t e r   s p a c e   f o r   c o m pa r i s o w i t h   t h e   l e a rn e c l us t e r s ;   d)   If   t h e   i n c o m i n g   da t a   f a l l   o n t o   a n   e x i s t i ng  c l us t e r   s pa c e   t h e n   t h e   s i g na l   i s   c l a s s i f i e a s   n o rm a l ,   o t h e r w i s e   t h e   i n c o m i n g   s i g na l   i s   c l a s s i f i e a s   a n o m a l y .   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E x p e r i m e nt s   on  c i t y   t r a i v i br a t i o an om al y   d e t e c t i o us i ng  de e p   l e ar ni ng  appr oa c he s   ( T ae he e   K i m )   335   Cl a s s i f i c a t i o n   a nd  c l us t e ri n m e t h o de s c r i b e a bo ve   i s   e xpe c t e t o   b e   a n   e f fe c t i ve   a n o m a l y   de t e c t i o n   i n   t h e   r e a l   a ppl i c a t i o n   t o   t h e   t r a i n   o pe r a t i o n.   W e   i m pl e m e n t e c l us t e r i n o f   t h e   t ra i n   v i b r a t i o n   d a t a   m e nt i o n e a b o v e   us i n t h e   c o de   pr o v i de i n   [21].   T o t a l   4 0, 0 00  num b e r s   o f   qua n t i z e s a m pl e s   o ve r t i c a l   a n d   h o ri z o n t a l   v i b ra t i o n s   a r e   p r o c e s s e d.   In  t h e   s t e o f   da t a   p r e - pr o c e s s i n w e   f i r s t   n o r m a l i z e   t h e   d a t a   a n t a ke s   s e gm e n t s   o 100  da t a   s a m pl e s   w h i c h   t h us   m a ke s   4, 000  n u m b e r s   of   s e gm e n t s .   W e   c h o s e   o n l y   100  s e gm e n t s   f r o m   t hi s   po o l   fo r   s i m pl i c i t y .   S i m i l a r i t i e s   a r e   c o m put e b e t w e e n   e v e r y   pa i r   o f   da t a   s e gm e n t s .   W e   t r i e f o ur   di f f e r e nt   k i n ds   o f   s i m i l a r i t y   c o m put a t i o m e t h o ds   a s   f o l l ow s :   a)   E uc l i de a D i s t a n c e :   S i m i l a ri t i e s   by   ge o m e t r i c a l   di s t a n c e   t ha t   i s   w i de l y   us e fo r   s t a n da rd  d a t a ;   b)   Ro o t   M e a n   S qu a r e   E rr o r (R M S E ) :   S t a n d a r d   de v i a t i o n   ge n e r a l i z e d i s t a n c e ;   c)   D y n a m i c   T i m e   W a r p i n g(D T W ) :   Ca l c u l a t i n o pt i m a l   m a t c hi n pa i r s   o f   s e que n c e s   i n   t i m e   t ha t   a l l o w s   w a r pi n g   i t i m e   s pa c e ;   d)   L o n ge s t   Co m m o n   S ub s e que n c e (L CS ):   T i m e - s e ri e s   s i m i l a ri t y   c o m put a t i o by   f i n di n t h e   l o n ge s t   pr o g r e s s i o n ,   w h i c i s   r o b us t   t o   n o i s e .     O ur   e xpe r i m e nt   i s   l i m i t e t o   m a ke   s i c l us t e r s   g i v e n   100  s e gm e nt s   o f   t h e   i n p ut   s i g na l .     T h e   e xpe r i m e nt   s h o w e t h a t   L CS   m e t h o p r o v i de s   t h e   be s t   r e s ul t .   R o ugh l y   c l us t e r e da t a   c a n   b e   ob s e r v e i n   t h e   P ri n c i p a l   Co m po n e n t   A na l y s i s (P CA c a l c ul a t e by   t h e   L CS   m e t h o d.   F i gu r e   9   s h o w s   t h e   c o de s   a n d   r e s ul t   of   P CA   o n   t h e   c l us t e r i ng  us i n g   t h e   L CS   m e t h o d.     W e   e xt r a c t   i nt e r s e c t i n g   f e a t ur e s   g i v e n   m e a n,   s t a nda r d   de v i a t i o n,   a n s l o pe   b a s e o n   t h e   r e s ul t   c o m put e by   L CS   m e t h o o n   t h e   s i g na l   s a m p l e s .   F i gu r e   1 0 .   s h o w s   t h e   r e s u l t .   T h e   b o t t o m   l e f t   a n b o t t o m   c e n t r e   t ha t   i s   t h e   h o r i z o nt a l   v i b ra t i o n (s e n s o r2)  s h o w s   c l us t e r s   a r e   r o ug hl y   f o r m e d.             F i gu r e   9 .   E xa m p l e s   o f   s a m pl i ng  o f   w i n do w e s e gm e n t a t i o n   o f   s o ur c e   t r a i n   v i b ra t i o da t a       F i gu r e   1 0 .   Cl us t e g r a p h s   o b t a i n e b y   c a l c ul a t i o a c r o s s   t h e   r e f e r e n c e   o f   m e a n,   s t a n d a r d   de v i a t i o n ,   a nd  s l o p       T h e   r e s ul t   s o   f a r   s h o w s   po s i t i v e   f e a s i b i l i t y   of   a n o m a l y   de t e c t i o n   o f   o ur   t r a i n   v i b ra t i o n   da t a   by   c l a s s i f i c a t i o a nd  c l us t e r i ng.   W e   n e e t o   i n c r e a s e   t h e   s i z e   o f   da t a   f o r   m o r e   ge n e ra l i z e r e s ul t s .   T h e   num b e of  c l us t e r s   a l s o   n e e t o   be   c h a n ge du ri n c l us t e r i n e xpe ri m e nt s   t o   f i n a n   o pt i m a l   n u m b e r   o c l us t e r s .     W e   c h o s e   100  da t a   s a m pl e s   a s   t h e   s i z e   o f   t h e   s a m pl i n w i n do w .   T hi s   da t a   s a m p l e   n u m b e r   n e e ds   t o   be   a dj us t e fo r   o pt i m a l   c l a s s i f i c a t i o n   a n c l us t e ri n g .   D i f f e r e n t   da t a   s e t s   a n d i f fe r e nt   w i n do w   s i z e   m i g h t   a l s o   i n f l ue n c e   a n o m a l y   de t e c t i o n   a l go r i t hm   t o   b e   c h o s e n .         6.   F U TU R R ES EA R C H   A N D   C O N C LU S I O N     O ur   f ut u r e   w o r ks   n e e b e   c a rr i e o ut   i t w o   di r e c t i o n s :   1)  r e a l - t i m e   a da pt i v e   a n o m a l y   de t e c t i o n ;   a nd  2)  a n o m a l y   de t e c t i o n   us i n o n e - c l a s s   c l a s s i f i e r.   F i r s t ,   r e a l - t i m e   a da p t i v e   a n o m a l y   d e t e c t i o n   i s   c r uc i a l   b e c a us e   o ur   t r a i n s   w i l l   e xpe ri e n c e   v a r i o us   r a i l w a y   c o n di t i o n s   [2 2].   T h e   p h y s i c a l   c o n s t ruc t i o n   o f   t ra i n s   m i g ht   a l s o   be   v a r i a b l e .   T h us ,   i t   i s   n o t   s u r p r i s i ng  t ha t   e v e n   n o r m a l   s i g na l s   c o ul v a r y   d e pe n di n o n   l o c a t i o n s ,   t i m e ,   a n d   t r a i n s .   T h e r e f o r e ,   t a k i n a   de v e l o pm e n t   di r e c t i o n   i n   t h e   a d a pt i v e ,   r e a l - t i m e ,   a nd  o n l i n e   l e a rn i ng  i s   de s i r e d.   S e c o n d,   s i n c e   i t   i s   di f f i c ul t   t o   o b t a i n   a n o m a l o us   da t a   i n   o ur  c a s e ,   de v e l o pi n a   r o b us t   m e t h o t ha t   us e s   o nl y   n o rm a l   d a t a   t o   l e a rn  e ff e c t i v e l y   a n di s t i n gu i s h   a n y   unk now n   a n o m a l y   s i gn a l   f r o m   n o rm a l   o n e s .   I n   t hi s   pe r s pe c t i v e ,   r e s e a r c h   o n   o n e - c l a s s   c l a s s i f i e r   w i l l   b e   v e r y   h e l pf ul .   S a b o kr o u,   e t   a l .   r e po r t e a   s uc c e s s f ul   e n d - to - e n n e t w o r f o r   l e a rni n o n e - c l a s s   c l a s s i f i e r.   By   pr e s e r vi n b o t h   ge n e r a t o r   a n d i s c ri m i n a t o r,   t h e y   w e r e   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     329   -   33 7   336   a b l e   t o   b ui l a   r o b us t   c l a s s i f i e r   l e a rn i ng  n e t w o r k.   O t h e a pp r o a c h e s   t o   o n e - c l a s s   c l a s s i f i e r   i n c l ude s   [23 - 26] .   O t h e r   a r e a s   o f   a r t i f i c i a l   i nt e l l i ge n c e   n e e t o   b e   c o n s i de r e t o   t a c kl e   a n o m a l y   de t e c t i o n   pr o b l e m s ,   f o r   e xa m pl e   t h e   f e a t u r e   e xt r a c t i o i N a t u ra l   L a n gu a ge   P r o c e s s i n [27 ].   W e   de s c r i b e i n   t hi s   p a pe o ur   e xpe r i m e nt s   o n   a n o m a l y   de t e c t i o n   us i n g   o ur   t i m e - s e r i e s   d a t a   c o l l e c t e f r o m   c i t y   t ra i n   v i b ra t i o n   du ri n n o r m a l   o pe ra t i o n s .   W e   f i r s t   e xa m i n e f e a s i b i l i t y   fo r   t ra i ni n o f   da t a   us i n G A N   a n o b t a i n e po s i t i v e   r e s ul t s .   W e   t h e a pp l i e o ur  da t a   t o   a   l a y e r e L S T M .   T h e   s y s t e m   l e a rn s   t o   pr e di c t   v i b r a t i o s i g na l s   a l t h o ug h   t h e   a n o m a l y   s c o r e s   w e r e   n o t   s a t i s f a c t o r y .   O u r   de v e l o pm e n t   o f   n e w   de v i c e   t o   c o l l e c t   v i b r a t i o n   d a t a   i s   u n de r w a y .   O n c e   t h e   de v i c e   i s   a v a i l a b l e   w e   w i l l   c a rr y   o ut   a n   upg ra de de v e l o pm e n t   us i n n e w   da t a   s e t s .   W e   ha v e   s h o w n   i n   t hi s   p a pe r   c l a s s i f i c a t i o a n d   c l us t e r i n g   e xpe ri m e n t s   o n   o u r   v i b r a t i o n   da t a .   W e   o b t a i n e a   s a t i s f a c t o r y   de gr e e   of   t r us t   o f   f e a s i bi l i t y   s o   t h a t   f ut u r e   r e f i n e m e n t   a n i nt r o duc i n a l t e rna t i v e   m e t h o ds   s uc h   a s   o n e - c l a s s   c l a s s i f i e r   w o ul d   b e   e xpe c t e t o   be   pr a c t i c a l l y   f e a s i b l e   i n   r e a l - t i m e   a n o m a l y   de t e c t i o n   o t i m e - s e ri e s   v i b r a t i o d a t a .         A C K N O WL ED G E M EN T   T h i s   w o r w a s   s uppo r t e d   by   Y o un gs a n   U ni v e r s i t y   R e s e a r c F un d   o f   2019.       R EF ER EN C E   [ 1]   R .   C h a l a pa t hy   a nd   S .   C h a w l a ,   D e e p   L e a ni ng   f o r   A no m a l y   D e t a c t i o n :   A   S ur v e y ,   a r X i v : 1901. 034 07v 2,   201 9.     [ 2]   H .   W a ng ,   M . J .   B a h ,   a nd  M .   H a m m a d ,   P r o g r e s s   i O ut l i e r   D e t e c t i o T e c hni que s :   A   S ur v e y ,   I E E E   A c c e s s ,   v o l .   7,   pp.   10 7964 - 10 8000 ,   A ug us t ,   2019 .     [ 3]   V .   C ha ndo l a ,   A .   B a ne r j e e ,   a n V .   K um a r ,   A no m a l y   de t e c t i o n,   A C M   C o m put i ng   S ur v e y s ,   vo l .   41,   no .   3,   pp .   1 - 58,   J ul .   200 9.     [ 4]   M .   S i t i   a nd  K .   F i t r a ,   A na l y s i s   o f   D B S C A N   a nd  K - m e a ns   A l g o r i t hm   f o r   E v a l ua t i ng   O ut l i e r   o R F M   M o de l   o f   C us t o m e r   B e ha v i o r ,   T e l e c om m u ni c at i o n,   C om pu t i ng,   E l e c t r o ni c s   a nd  C o nt r ol ,   v o l .   17,   no .   1 ,   p p.   110 - 11 7,   F e br ua r y   2019 .     [ 5]   C . G . ,   M a dh a nd  R . G . M .   S r e e r a m a ,   F r a m e w o r f o r   C o nt e xt u a l   O ut l i e r   I de nt i f i c a t i o u s i ng   M ul t i v a r i a t e   A na l y s i s   a ppr o a c a nd  U ns u e r v i s e L e a r n i ng ,   I n t e r na t i ona l   J our na l   o f   E l e c t r i c al   and   C om p ut e r   E ng i ne e r i ng ,   v o l .   8,   no .   2 ,   pp.   10 92 - 1101 ,   A pr i l   2 018 .     [ 6]   R .   M a r y e m ,   e t   a l ,   F o r e c a s t i ng   F i na nc i a l   B udg e t   T i m e   S e r i e s :   A I R M A   R a ndo m   W a l v s .   L S T M   N e ur a l   N e t w o r k ,   I nt e r n at i on al   J o ur n al   o f   A r t i f i c i a l   I n t e l l i ge nc e ,   v o l   8,   no .   4 ,   p p.   31 7 - 327,   201 9.     [ 7]   E .   E s ki e t   a l . ,   A   G e o m e t r i c   F r a m e w o r f o r   U ns upe r v i s e A no m a l y   D e t e c t i o n:   D e t e c t i ng   I nt r us i o ns   i U n l a b e l e D a t a ,   20 02.     [ 8]   K .   Y a m a ni s h i ,   O n - l i n e   uns u pe r v i s e o ut l i e r   de t e c t i o us i ng   f i ni t e   m i xt ur e s   w i t di s c o unt i ng   l e a r ni ng   a l g o r i t hm s ,   K D D ,   2 000 .     [ 9]   W .   L e e ,   e t   a l ,   I nf o r m a t i o n - T he o r e t i c   M e a s ur e s   f o r   A no m a l y   D e t e c t i o n,   I E E E   Sy m pos i um   on   Se c ur i t y ,   2 001 .     [ 10]   M .   S hy u,   S .   C he n ,   K .   S a r i nna p a ko r n ,   L .   C ha ng ,   A   no v e l   a no m a l y   de t e c t i o s c he m e   b a s e o pr i nc i pa l   c o m po ne nt   c l a s s i f i e r ,   I P r oc e e di ngs   o f   t he   I E E E   F ounda t i o ns   and   N e w   D i r e c t i o ns   o f   D a t a   M i n i ng   W or k s hop ,   2003 .     [ 11]   P .   M a l ho r t r a ,   L   V i g ,   G .   S h r o f f ,   P .   A g a r w a l ,   L o ng   S ho r t   T e r m   M e m o r y   N e t w o r ks   f o r   A no m a l y   D e t e c t i o i n   T i m e   S e r i e s P r o c .   O f   E u r ope an  S y m pos i um   on  A r t i f i c i a l   N e ur al   N e t w or k s ,   C om put at i on al   I n t e l l i ge nc e   and  M a c hi ne   L e ar ni n g ,   pp .   89 - 94 ,   2015 .     [ 12]   P .   M a l ho t r a ,   A .   R a m a k r i s hn a n,   G .   A na nd ,   L .   V i g ,   P .   A g a r w a l ,   G .   S hr o f f ,   L S T M - ba s e E nc o de r - D e c o de r   f o r   M ul t i - s e n s o r   A no m a l y   D e t e c t i o n ,   A no m a l y   D e t e c t i o W o r ks ho p,   I C M L ,   2 016 .     [ 13]   J .   G a m bo a ,   D e e p   L e a r n i ng   f o r   T i m e - S e r i e s   A na l y s i s ,   ar X i v   p r e pr i nt   a r X i v : 1701 . 01 887 v 1,   2 017 .     [ 14]   T .   S c hl e g l ,   e t   a l ,   U ns up e r v i s e A no m a l y   D e t e c t i o w i t G e n e r a t i v e   A dv e r s a r i a l   N e t w o r ks   t o   G ui d e   M a r ke r   D i s c o v e r y ,   P r oc e e di ngs   o f   I P M I ,   2017   [ 15]   M .   K i nur a ,   T .   Y a na g i ha r a ,   A no m a l y   D e t e c t i o U s i ng   G A N s   f o r   V i s u a l   I ns pe c t i o i N o i s y   T r a i n i ng   D a t a ,   ar X i v   pr e pr i nt   ar X i v : 18 07 . 011 36v 2   ( 201 8) .     [ 16]   S .   H y l a nd,   C .   E s t e ba n ,   G .   R ä t s c h,   R e a l - V a l ue ( M e d i c a l )   T i m e   S e r i e s   G e ne r a t i o w i t R e c ur r e n t   C o ndi t i o na l   G A N s ,   ar X i v   p r e pr i nt   a r X i v : 1 706 . 026 33v ( 201 7) .     [ 17]   D .   L i ,   D .   C he n ,   J .   G o h,   S .   N g ,   A no m a l y   D e t e c t i o w i t h   G e ne r a t i v e   A d v e r s a r i a l   N e t w o r ks   f o r   M u l t i v a r i a t e   T i m e   S e r i e s ,   7 th   I n t e r na t i ona l   W or k s ho on   B i D at a,   St r e am s   an H e t e r oge ne ous   So ur c e   M i ni n g:   A l g or i t hm s ,   Sy s t e m s ,   P r ogr am m i n M ode l s   and  A ppl i c at i on s   on  t he   A C M   K now l e dge   D i s c ov e r y   a nd  D a t M i ni n c o nf e r e nc e a r X i v   pr e pr i nt   ar X i v : 18 09 . 047 58v 2 ,   201 8.     [ 18]   X .   C he n ,   Y .   D ua n ,   R .   H o ut ho o f t ,   J .   S c hul m a n ,   H   S ut s ke v e r ,   P .   A bbe e l ,   I nf o G A N :   I nt e r pr e t a b l e   R e p r e s e n t a t i o n   L e a r ni ng   by   I nf o r m a t i o M a x i m i z i ng   G e ne r a t i v e   A dv e r s a r i a l   N e t s ,   a r X i v   pr e pr i nt   a r X i v : 1606 . 03 657 v 1,   2 016   [ 19]   ht t ps : / / g i t hub . c o m / bur i bur i s ur i / t i m e s e r i e s _g a n   [ 20]   ht t ps : / / g i t hub . c o m / c hi c ke nbe s t l o v e r / R N N - T i m e - s e r i e s - A nom a l y - D e t e c t i o n   [ 21]   ht t ps : / / g i t hub . c o m / e f f a / t i m e - s e r i e s - c l u s t e r i ng   [ 2 2 ]   S .   A h m a d ,   S .   P u r d y ,   R e a l - T i m e   A n o m a l y   D e t e c t i o n   f o r   S t r a m i n g   A n a l y t i c s ,   a r X i v   p r e p r i n t   a r X i v : 1 6 0 7 . 0 2 4 8 0 v 1 ,   2 0 1 6 .     [ 23]   S .   P i dho r s ky i ,   R .   A l m o hs e n,   D .   A dj e r o h,   G .   D o r e t t o ,   G e ne r a t i v e   P r o ba bi l i s t i c   N o v e l t y   D e t e c t i o w i t A dv e r s a r i a l   A ut o e nc o de r s ,   ar X i v   pr e pr i n t   ar X i v : 180 7. 0258 8v 2 ,   2018 .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       E x p e r i m e nt s   on  c i t y   t r a i v i br a t i o an om al y   d e t e c t i o us i ng  de e p   l e ar ni ng  appr oa c he s   ( T ae he e   K i m )   337   [ 24]   S . R .   A r a s h l o o ,   J .   K i t t l e r ,   O ne - C l a s s   K e r n e l   S pe c t r a l   R e g r e s s i o f o r   O ut l i e r   D e t e c t i o n,   a r X i v   pr e pr i nt   ar X i v : 1 807 . 01 085v 5,   20 18 .     [ 2 5 ]   P .   P e r e r a   a n d   V .   P a t e l ,   L e a r n i n g   D e e p   F e a t u r e s   f o r   O n e - C l a s s   C l a s s i f i c a t i o n ,   a r X i v   p r e p r i n t   a r X i v : 1 8 0 1 . 0 5 3 5 v 2 ,   2 0 1 9 .     [ 26]   L .   R uf f ,   e t   a l . ,   D e e O n e - C l a s s   C l a s s i f i c a t i o n,   I I n t e r na t i o na l   C onf e r e nc e   on   M ac hi ne   L e ar ni ng   ( I C M L ) ,   2 018 .     [ 27]   X .   W a ng ,   a nd  H . C .   K i m ,   N e w   F e a t ur e   S e l e c t i o M e t ho f o r   T e xt   C a t e g o r i z a t i o n,   J ou r na l   o f   I nf o r m a t i o an C om m u ni c at i on   C o nv e r ge nc e   E n gi ne e r i n g ,   v o l .   1 5,   no .   1 ,   p p.   53 - 61 ,   M a r   2017 .         B I B LI O G R A P H I ES   O F   A U TH O R S       T ae h e e   K i m .   T a e h e e   K i m   r e c e i v e hi s   P h. D .   d e g r e e   i 19 96  a t   t h e   U ni v e r s i t y   o f   E di nbur g i n   A r t i f i c i a l   I nt e l l i g e nc e .   H e   j o i ne K o r e a   I ns t i t u t e   o f   S c i e nc e   a nd  T e c hno l ogy   I n f o r m a t i o f o r   t hr e e   y e a r s   be f o r e   he   t o o a   pr o f e s s o r s hi a t   Y o ung s a n   U ni v e r s i t y   unt i l   no w .   P r o f .   K i m   ha s   r e c e nt l y   w o r kde a s   a   s e ni o r   r e s e a r c he r   a t   t h e   A r t i f i c i a l   I nt e l l i g e nc e   R e s e a r c I ns t i t u t e   i n   P a ngy o ,   K o r e a   f o r   a bo ut   a   y e a r   i 2 017  w h e r e   he   d e v e l o pe d e e p   l e a r n i ng   s y s t a m s   f o r   hum a n   bo d y   m o t i o l e a r n i ng .   H i s   pr i m a r y   i nt e r e s t   i s   i l e a r ni ng   m o t i o ns   g i v e c o ndi t i o i s uc a s   i n   da nc i ng   t o   m us i c .         C h e o l w o o   R o .   C he ul w o o   R o   i s   w o r ki ng   a s   P r o f e s s o r   i C o m put e r   S o f t w a r e   E ng i ne e r i ng   D i v i s i o o f   S i l l a   U n i v e r s i t y ,   K O R E A .   H e   w o r ke a n d e v e l o pe T D X   a nd  C D M A   a s   a   s e n i o r   r e s e a r c he r   f o r   10  y e a r s   a t   E T R I .   H i s   a r e a   o f   r e s e a r c a n s pe c i a l i s a t i o a r e   m o de l i ng   a nd   pe r f o r m a nc e   a na y s i s   o f   s y s t e m ,   S D N ,   s y s t e m   pr e d i c t i o us i ng   m a c hi ne   r u nni ng ,   a nd  c l o ud  c om put i ng .         K i h o   S u h .   K i ho   S uh   i s   w o r ki ng   a s   r e s e a r c e ng i ne e r   i I nt e l l i g e nc e   D e s i g ba s e i S o ut h   K o r e a .   H i s   a r e a   o f   r e s e a r c i nc l ude s   g e n e r a t i v e   m o de l s ,   r e i nf o r c e m e nt   l e a r ni ng ,   a nd  g r a ph  ne u r a l   ne t w o r k s .   H i s   p r e v i o us   e xpe r i e nc e   i nc l ud e s   A r t i f i c i a l   I nt e l l i g e nc e   R e s e a r c I ns t i t u t e ,   I B M ,   a nd   L G .     Evaluation Warning : The document was created with Spire.PDF for Python.