I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   20 ,   N o .   1 O c t o be r   20 20 ,   pp .   306 ~ 312   IS S N :   25 0 2 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 20 .i 1 . pp 306 - 312             306       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   Im p r o v i n g   d a t a   q u a l i t y   u s i n g   a   d e e p   l e a r n i n g   n e t w o r k       C h u l h y u n   H w an g 1 ,   K yo u h w an   Le e 2 ,   H o e k yu n Ju n g 3   1 D e pa r t m e n t   o f   S m a r t   I T   S o f t w a r e ,   K y ung b o U ni v e r s i t y ,   S o ut K o r e a   2 , 3 D e pa r t m e n t   o f   C o m put e r   E ng i ne e r i ng ,   P a i C ha i   U ni v e r s i t y ,   S o ut K o r e a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e F e b   10,   2 020   R e v i s e A pr   9 ,   2020   A c c e pt e M a y   1 1 ,   20 20       I o T   da t a   i s   c o l l e c t e d   i n   r e a l   t i m e   a nd   i s   t r e a t e a s   hi g h l y   r e l i a bl e   d a t a   be c a u s e   o f   i t s   hi g pr e c i s i o n .   H o w e v e r ,   i t   o f t e e xh i b i t s   i nc o m pl e t e   v a l ue s   f o r   r e a s o ns   s uc a s   s e ns o r   a g i ng   a nd  f a i l ur e ,   po o r   o pe r a t i ng   e nv i r o n m e nt ,   a nd   c om m uni c a t i o p r o bl e m s .   T h e   c ha r a c t e r i s t i c s   o f   I o T   da t a   t r a n s m i t t e w i t hi g pr e c i s i o a nd   t i m e   s e r i e s   a r e   s u i t a b l e   t o   us e   L S T M ,   w h i c i s   o ne   k i nd   o f   R N N .   I t hi s   p a pe r ,   w he n   a p pl y i ng   L S T M   t o   da t a   qu a l i t y   i m pr o v e m e nt   i I o T   e nv i r o nm e nt   w h e r e   d a t a   a r e   c o l l e c t e d   s i m ul t a n e o us l y   f r om   s e v e r a l   s e ns o r s ,   i t   i s   s ug g e s t e t ha t   i t   i s   e f f e c t i v e   t o   c o ns t r uc t   L S T M   i nd i v i dua l l y   f o r   e a c s e ns o r   a c c ur a c y .     Ke y w or ds :   D a t a   qu a l i t y     D e e l e a rni n g   Io T   L S T M   R e c urr e nt   n e u ra l   n e t w o r kl   C opy r i gh t   ©   2020   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   H o e k y un J u n g   D e pa rt m e n t   o f   Co m put e E ngi n e e ri n g ,     P a i c ha i   U n i v e r s i t y ,     155 - 40   B a e j a e - r o ,   S e o gu,   D a e J e o n ,   S o ut K o r e a .     E m a i l :   h kj u n g @ pc u. a c . k r         1.   I N TR O D U C TI O N   Io T   t e c hn o l o g y   h e l ps   t o   c r e a t e   a   m o r e   s o phi s t i c a t e v i rt u a l   w o r l by   r e c o r di n t h e   r e a l   w o r l m o r e   c l o s e l y .   T h e r e f o r e ,   Io T   t e c h n o l o g y   i s   t h e   n e xt   ge n e ra t i o n   t o o l   t ha t   t ra n s f o r m s   m o s t   of   o ur   e v e r y da y   l i fe   a n i n dus t r y   [1 - 6].   Io T   i s   de f i n e a s   a   gl o b a l   n e t w o r w i t h   a n   i n f ra s t r uc t u r e   t ha t   ha s   s e l f - c o n f i gur i ng    c a pa b i l i t i e s   [7] .     S i n c e   t h e   s e n s o r s   c o nn e c t e t e a c h   o t h e r   us i n v a r i o us   c o m m u n i c a t i o n   t e c hn o l o gi e s   fo r m   a   n e t w o r w h i l e   i n t e ra c t i n g   w i t e a c o t h e r,   t h e   d a t a   t ra n s m i t t e f r o m   e a c o bj e c t   m us t   b e   r e l i a b l e .   H ow e ve r ,   t h e   l e ve l   of   qua l i t y   of   I o T   da t a   i s   t h r e a t e n e due   t o   e xt e r na l   e xpo s ur e   o r   m o v i n o b j e c t s ,   t h e   ph y s i c a l l y   unp r o t e c t e n e t w o r ks   o l o c a l   a r e a   n e t w o r ks ,   a nd  t h e   a gi ng  o f   t h e   na t u r a l   e n v i r o nm e nt   o r   o b j e c t s .   D ue   t t h e   i m po r t a n c e   of  Io T   da t a ,   e ff o r t s   t o   i n c r e a s e   t he   r e l i a b i l i t y   of   t h e   Io T   s e n s o r   a n t h e   c o m m uni c a t i o n   e n v i r o n m e n t   i t s e l f   a r e   c o n t i n ui ng.   I n   a dd i t i o n ,   i t   i s   r e c o gn i z e t ha t   t h e   Io T   e n v i r o nm e nt   i s   i n f e r i o r,   a n e ff o r t s   a r e   b e i n m a de   t o   ve r i fy   r e l i a b i l i t y   o r   t r e pl a c e   i t   w i t h   t h e   c o r r e c t   v a l ue   w h i l e     c o l l e c t i n d a t a .     F o r   e xa m pl e ,   s t a t i s t i c a l   m o de l s   ha v e   b e e n   de v e l o pe f o r   a   l o n t i m e   a s   a   w a y   t o   i m pr o v e   qua l i t y   pr o b l e m s   by   r e pl a c i n m i s s i n d a t a   w i t h   p r e di c t e v a l ue s   [8 - 15].   Io T   da t a   ha s   t i m e - s e r i e s   c ha r a c t e r i s t i c s   b e c a us e   i t   pe r i o di c a l l y   c o l l e c t s   da t a   f r o m   s e n s o r s .   U s i n t hi s   c h a r a c t e r i s t i c ,   R e c ur r e n t   N e u r a l   N e t w o r s uc h   a s   L S T M   i s   us e [16 - 28] .     In  t hi s   p a pe r,   w h e L S T M   i s   a pp l i e t o   qua l i t y   pr o b l e m s   s uc h   a s   m i s s i n g   da t a   ge n e ra t i o n   i n   Io T   e n v i r o n m e n t ,   t h e   a c c ura c y   of  pr e di c t i o n   de pe n ds   o n   t h e   di m e n s i o na l i t y   of   t h e   i nput   d a t a .   I n   t h e   Io e n v i r o n m e n t ,   m ul t i p l e   da t a   a r e   c o l l e c t e a t   t h e   s a m e   t i m e ,   s o   i t   i s   po s s i b l e   t o   c o n s t r uc t   a i n d i v i dua l   L S T M   n e t w o r f o r   e a c h   s e n s o r   o r   t o   i nt e g r a t e   a   l a rge   n u m b e r   o f   da t a   i nt o   o n e   L S T M   n e t w o r k.   I n   t hi s   pa pe r,   w e   t r y   t o   s h o w   h o w   t h e   di f f e r e n c e   b e t w e e n   t h e   t w o   m e t h o ds   a f fe c t s   t h e   qu a l i t y   of   Io T   da t a .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       Im pr ov i ng   da t a   qual i t y   us i ng   de e l e ar ni ng   n e t w or k   ( Chul hy un   H w ang )   307   O ur   a pp r o a c h   i m pl e m e n t s   m ul t i p l e   L S T M   n e t w o r ks   t o   i n di v i dua l l y   pr o c e s s   t h e   da t a   c o l l e c t e f r o m   t h e   s e n s o r s   a n a   s i n g l e   L S T M   n e t w o r t h a t   b a t c h e s   t h e   i n p ut   da t a   i nt o   a n   a rr a y .   W e   c o m pa r e   h o w   t h e   t w n e t w o r c o n f i gur a t i o n s   s h o w   pe r f o r m a n c e   di ff e r e n c e s   w h e m ul t i pl e   da t a   i s   i n put t e s i m u l t a n e o us l y .   In   t hi s   pa pe r,   w e   pr o po s e   a e ff i c i e n t   m e t h o f o r   c o n s t r uc t i n g   L S T M   i Io T   e n v i r o n m e nt .     T h e   r e m a i n de r   o f   t h i s   p a pe r   i s   o r g a n i z e a s   f o l l ow s .   S e c t i o n   de s c r i b e s   t h e   r e l a t e r e s e a r c h.   S e c t i o n   pr o v i de s   a   de t a i l e de s c r i pt i o n   o f   t h e   pr o po s e ve r i f i c a t i o n   m e t h o d.   I n   S e c t i o n   4,   s i m ul a t i o n   r e s ul t s   a n d   a n a l y s i s   a r e   pe r f o r m e d.   S e c t i o n   p r e s e nt s   c o n c l us i o n s .         2.   EX I S TI N G   R ES EA R C H ES   A BO U R ES EA R C H   D A T A   T h e   di r e c t i o n   o f   da t a   q ua l i t y   i m p r o v e m e n t   i n   Io T   e n v i ro n m e n t   ha s   m a i n l y   b e e n   f oc us e o n   pr e di c t i n m i s s i n d a t a .   M i s s i ng  da t a   p r e di c t i o n   i s   a   p r o c e s s   of   pr e di c t i n a nd  c o r r e c t i ng  a   n o rm a l   da t a   v a l ue   w h e n   da t a   c a nn o t   b e   c o l l e c t e f r o m   t h e   s e n s o r   due   t o   v a r i o us   r e a s o n s .   T hi s   pr o c e s s   e n s u r e s   t h e   qua l i t y   of   t h e   unde rl y i n d a t a   r e qu i r e t o   p r o c e s s   o r   a na l y z e s   da t a   a f t e r   da t a   c o l l e c t i o n .     Cl i ni c a l   d a t a   i s   a   r e p r e s e n t a t i v e   e xa m pl e   o f   a ppl y i n L S T M   t o   t h e   qu a l i t y   pr o b l e m   of   I o T   da t a .   S i n c e   t h e   c l i n i c a l   d a t a   c o n s i s t s   o f   m ul t i v a ri a t e   t i m e   s e ri e s   o f   ob s e r v a t i o n s ,   i t   i s   e a s y   t o   a ppl y   i L S T M .     A s   a   r e s ul t   o f   a ppl y i n t h e   L S T M   m o de l ,   i t   p r o v e t ha t   t h e   pe r f o r m a n c e   i s   s upe r i o t o   t ha t   o f   t h e   c o n v e n t i o n a l   ha n d - de s i g n e m o de l   a n d   m ul t i - l a y e r   pe r c e pt r o n   [3] .     D e s pi t e   v a r i o us   r e s e a r c h   r e s ul t s ,   t h e r e   i s   a   l a c o f   r e s e a r c h   o n   h o w   t o   de a l   w i t h   s e n s o r   d a t a   i n pu t .   F o r   e xa m p l e ,   i t   i s   de t e r m i n e w h e t h e r   pl u ra l i t y   of   da t a   t o   b e   s i m ul t a n e o us l y   i n put   i s   t r e a t e a s   o n e   da t a   s e t   o i n di v i du a l   i n p ut   da t a .       3.   D EEP   LEA R N I N G   F O R   D A TA   Q U A LI T Y   I N   I o D A T A   3. 1 .     LS T M   m o d e l   d e s i gn   fo r   d ata  q u al i ty   L S T M   l e a rn s   d a t a   i n pu t   i n   t i m e   s e r i e s   ( t n - 1 …  t 0)  a n p r e di c t s   da t a   o f   n e xt   t i m e (t 1 ).   A s s um i ng  t ha t   t h e   p r e di c t e v a l ue   p r o v i de s   a a c c ura t e   v a l ue   a b ov e   a   c e r t a i l e v e l ,   t h e   d i f fe r e n c e   b e t w e e n   t h e   p r e di c t e v a l ue   a nd  t h e   i n p ut   d a t a   i n d i c a t e s   t h e   po s s i b i l i t y   of   e r r o r   d a t a .   I n   p a rt i c ul a r ,   i f   t h e   i nput   d a t a   h a s   a   m i s s i n g   v a l ue ,   i t   c a b e   c o r r e c t e t o   t h e   p r e di c t e d   v a l ue   c a l c ul a t e d   by   t h e   L S T M .     F i gu r e   i s   a   ge n e r a l   m o de l   t ha t   us e s   L S T M   t i m pr o v e   t h e   qua l i t y   of   t i m e   s e r i e s   da t a .   I n   F i gu r e   1,     t   +   i s   t h e   c urr e nt   t i m e   a t   w h i c h   t h e   m i s s i n v a l ue   o c c urr e a nd  t . . .   t i s   t h e   v a l ue   of   t h e   pr e v i o us   da t a   of    t h e   s e n s o r.               F i gu r e   1 .   M i s s i n v a l ue   p r e di c t i o m o de l   us i ng  L S T M       3. 2 .     Tw o   m e th o d s   fo r   LS TM   i n p u l ay e r   d e s i gn   i n   I o T   d ata   W e   l oo ke a t   t h e   m o s t   c o m m o n   m o de l   of   us i n L S T M   f o r   da t a   qua l i t y   pr o b l e m s .   H ow e v e r ,   i n   a c t ua l   Io T   e n v i r o nm e nt ,   i t   i s   ra r e   t o   c o l l e c t   o n l y   o n e   s e n s o r   da t a .   M os t   of  t h e   t i m e ,   da t a   i s   c o l l e c t e d   f r o m   m a n y   se n s o r s   a t   t h e   s a m e   t i m e .     In   t h i s   c a s e ,   t h e   n e t w o r i s   de s i g n e by   de t e r m i n i ng  w h e t h e r   t h e   d a t a   i n pu t   a t   t h e   s a m e   t i m e   i s   pr o c e s s e d   a s   o n e   L S T M   i n put   o r   e a c h   i nde pe n de n t   L S T M .   In   t hi s   p r o c e s s ,   i t   s h o ul n o t   b e   c h o s e n   a s   e xpe c t a t e t h a t   t h e   i nput   o f   da t a   a t   t h e   s a m e   t i m e   w i t h o ut   e x pe r i m e n t   o r   v e ri f i c a t i o o f   t h e   da t a   e n v i r o n m e n t   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     306   -   312   308   w i l l   b e t t e r   de s c ri b e   t h e   s i t u a t i o n   i w h i c h   t h e   da t a   i s   ge n e ra t e d.   T h e r e f o r e ,   i t hi s   p a pe r,   t h e   d i f fe r e n c e   o f   t h e   pr e di c t i o r a t e   i s   v e r i f i e t hr o ug t h e   e xpe r i m e n t   w h e t h e   t w o   m e t h o ds   a r e   a p pl i e d.     T h e   v e r i f i c a t i o m e t h o p r e s e nt e i t hi s   pa pe r   i s   s h o w n   i n   F i gu r e   a nd  F i g u r e   3 .   F i r s t ,   F i g u r e   i s   a   m e t h o o f   i n t e g ra t i n a n p r e d i c t i n g   i n p ut   d a t a   i o n e   L S T M   s i m ul t a n e o us l y .   F i gu r e   s h o w s   h ow   L S T M s   a r e   i n d i v i dua l l y   c o n s t ruc t e a n p r e di c t e f o r   e a c h   s e n s o r .   T h e   e rr o r   r a t e   (R M S E b e t w e e n   t h e   p r e di c t e r e s ul t   a n t h e   a c t u a l   v a l ue   o t h e   t e s t   i n t e r v a l   i s   c a l c ul a t e a n c o m pa r e d,   a n t h e n   t h e   n e t w o r c o n f i gur a t i o m e t h o i s   s e l e c t e d.           F i gu r e   2 .   M u l t i   d i m e n s i o n a l   i n put   l a y e r   de s i g n           F i gu r e   3 .   S i ngl e   d i m e n s i o n a l   i n pu t   l a y e r   de s i g n       4.   EX P ER I M EN TS   4. 1 .      Ev al u ati o n   m e th o d o l o gy   In   o r de r   t o   c a l c ul a t e   t h e   e rr o r   r a t e   a c c o r di ng  t o   t h e   a bo ve   t w o   m e t h o ds ,   t h e   e xpe r i m e nt a l   e n v i r o n m e n t   i w h i c h   d a t a   i s   i n p ut t e d   s i m u l t a n e o us l y   by   a   pl u ra l i t y   of   s e n s o r s   i s   c o n s t ruc t e d.   T h e   L S T M   e n v i r o n m e n t   a pp l i e t o   e a c h   e xpe ri m e n t a l   c a s e   i s   t h e   s a m e .   I n   o u r   i m pl e m e nt a t i o n,   o u r   de e l e a rn i ng  pl a t f o r m s ,   t e n s o r f l o w   a n d   K e ra s ,   w e r e   us e d,   a n g r a d i e nt   a l go ri t hm s   w e r e   us e t o   pe r f o r m   f i v e   e poc h s   i e a c h   m o de l .   I a ddi t i o n ,   n o rm a l i z a t i o a n d r o p - o ut   a r e   a pp l i e t o   p r e v e n t   o ve r - f i t t i ng.     S o m e   of   t h e   da t a   us e i n   t h e   e xpe r i m e n t s   a r e   pe ri o di c   a n pa r t l y   i r r e gul a r,   b ut   a l l   ha v e   t i m e - s e r i e s   c h a ra c t e ri s t i c s .   O n l y   t h e   t e s t   r e s ul t s   w e r e   a na l y z e w i t h o ut   pe r f o r m i ng  t h e   v e ri f i c a t i o p r o c e s s .     T h e   f o l l ow i n F i gu r e   4   p r e s e nt s   t h e   da t a   p a t t e rn  o f   t h e   e xpe r i m e nt a l   d a t a .   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       Im pr ov i ng   da t a   qual i t y   us i ng   de e l e ar ni ng   n e t w or k   ( Chul hy un   H w ang )   309       F i gu r e   4 .   P a t t e rn s   o f   e xpe r i m e n t a l   da t a       D a t a   c o l l e c t e f r o m   100  s e n s o r s   w e r e   us e i n   a l l   e xpe ri m e nt s .   T o   e s t i m a t e   t h e   e rr o r   ra t e   a c c o r di ng  t o   l o n -   t e r m   de pe n de n c e ,   w e   us e   t w o   ki n ds   of   da t a ,   t o t a l   of   540, 00 a n t h e   l a t e s t   3, 600  da t a .   A   t o t a l   of   fo ur   e xpe r i m e nt s   w e r e   pe r fo r m e us i n a   s i n g l e ,   m ul t i - d i m e ns i o n   n e t w o r a c c o r di n t o   t h e   i n pu t   t y pe   o   t h e   n e t w o r k.     4. 2 .      R e s u l ts   T a b l e   a nd  F i gu r e   5   s h o w   t h e   a v e r a ge   e rr o r   ra t e s   o f   t h e   s e ns o r s   fo r   e a c t e s t   m e t h o d.   R M S E   (R oo t   M e a n   S q ua r e   E rr o r )   w a s   us e f o r   e a c h   s e n s o r .   E x pe ri m e n t a l   r e s ul t s   s h o w   t h a t   w h e n   t h e   L S T M   i s   i n di v i du a l l y   c o n f i gur e f o r   e a c h   s e n s o r,   t h e   e rr o r   ra t e   i s   l o w .       T a b l e   1 .   A s   a   r e s ul t   o f   c a l c ul a t i ng  t h e   e rr o r a t e   S i n g l e   D i m e n s i o n a l   L S T M   M u l t i   D i m e n s i o n a l   L S T M   5 4   m i l l i o n   3600   5 4   m i l l i o n   3600   4 . 8 0 2   1 7 . 5 9 3   4 7 . 1 9 1   2 8 . 5 0 0           F i gu r e   5 .   A s   a   r e s ul t   o f   c a l c ul a t i ng  t h e   e rr o r a t e       In  a dd i t i o n   t o   t h e   a v e r a ge   v a l ue   o f   R M S E ,   t h e   R M S E   c a l c u l a t i o n   r e s ul t   o f   e a c h   s e n s o a l s o   s h o w s   t h a t   t h e   e rr o r   r a t e   i s   l o w   by   i m pl e m e n t i ng  L S T M   i n d i v i du a l l y   i n   a l l   c a s e s .   T a b l e   s h o w s   r e pr e s e nt a t i v e   v a l ue s   o f   t h e   e rr o r   ra t e s   o f   100  s e n s o r s   a n d   s h o w s   t h e   i ndi v i d ua l   e rr o r   ra t e s   i n   F i gu r e   6 .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     306   -   312   310   T a b l e   1 .   R e pr e s e nt a t i v e   v a l ue   o f   e r r o ra t e   Re p r e s e n t a t i v e   V a l u e   S i n g l e   D i m e n s i o n a l   L S T M   M u l t i   D i m e n s i o n a l   L S T M   5 4   m i l l i o n   3600   5 4   m i l l i o n   3600   A v e ra g e   4 . 8 0 2   1 7 . 5 9 3   4 7 . 1 9 1   2 8 . 5 0 0   S t a n d a rd   D e v i a t i o n   4 . 6 8 4   2 2 . 2 2 1   1 0 4 . 3 2 1   4 1 . 1 6 1   V a ri a n c e   2 1 . 9 4 1   4 9 3 . 7 7 0   1 0 8 8 2 . 9 6 1   1 6 9 4 . 1 9 2   M i n   V a l u e   0 . 0 4 4   0 . 1 5 6   2 . 3 3 8   0 . 2 8 0   M a x   V a l u e   1 8 . 4 7 2   1 2 3 . 7 7 2   9 6 5 . 8 5 9   2 4 8 . 7 7 2       F i gu r e   s h o w s   t h a t   t h e   e rr o r   ra t e   i s   l i m i t e t o   100   i o rde r   t o   f a c i l i t a t e   t h e   c o m pa ri s o n   a n i s   pr e s e nt e i o rde o f   e r r o r   ra t e   o f   ' a l l   d a t a   -   i ndi v i dua l   L S T M ' .           F i gu r e   6 .   E rr o r a t e   o f   i ndi v i du a l   s e n s o r       4. 4 .      D i s c u s s i o n   In  t h e   e xpe r i m e nt   us i n w h o l e   da t a ,   t h e   i ndi v i dua l   L S T M   c o n s t r uc t i o n   m e t h o s h o w e l ow   e rr o r   ra t e   i a l l   s e n s o r s .   I s o m e   da t a   e xpe r i m e n t s ,   95   L S T M   c o n s t ruc t i o m e t h o ds   s h o w e l ow   e r r o r a t e   i 95  s e n s o r s .   I b o t h   c a s e s ,   i t   i s   s ugge s t e t ha t   t h e   c o n s t r uc t i o n   m e t h o o f   i n di v i du a l   L S T M   ha s   hi g h e r   p r e di c t i v e   pow e r   t h a n   t h e   m e t h o o f   i n put t i n da t a   a t   o n c e .   I n   p a r t i c ul a r,   t h e   e rr o r   ra t e   i n c r e a s e s   f r o m   29%  t o   42%   de pe n di n o n   t h e   i n p ut   m e t h o d.   T hi s   s ugge s t s   t ha t   c o n s t r uc t i n a n us i n L S T M   by   i n pu t t i n c o l l e c t e da t a   s e pa ra t e l y   h a s   b e t t e r e s ul t s   i t e r m s   o f   l o n g - t e r m   de pe n de n c e .         5.   C O N C LU S I O N   T he   i np u t   d a t a   t o   b e   p ro c e s s e d   i o ne   L S T M   ne t w o rk   i s   no t   o nl y   d ue   t o   i t s   e a s e   o f   c o ns t ru c t i o n,   b u t   a l s o   t o   c o ns i d e t he   e f f e c t   o f   t he   d a t a   a p p e a ri ng   a t   t he   s a m e   t i m e .   E x p e ri m e n t s   ha v e   s ho w t ha t   t hi s   m e t ho d ,   ho w e v e r,   re d u c e s   p re d i c t i o a c c u ra c y   c o m p a re d   t o   i nd i v i d u a l   ne t w o rk   c o nc e p t i o m e t ho d s .   T he re f o re ,   w e   c o nc l u d e   t ha t   L S T M   s ho u l d   b e   c o ns t ru c t e d   s e p a ra t e l y   f o e a c nu m b e o f   t i m e   s e ri e s   d a t a   e v e i t he   e nv i ro n m e nt   w he re   a   l a rg e   nu m b e o f   d a t a   i s   c o l l e c t e d   a t   t he   s a m e   t i m e .   F u t u re   re s e a rc s ho u l d   i nc l u d e   a d d i t i o na l   m e t ho d s   t o   c o ns i d e t he   a s s o c i a t i o b e t w e e d a t a   c o l l e c t e d   a t   t he   s a m e   t i m e   a nd   c ri t e ri a   t o   i d e nt i f y   e rro r   d a t a .       A C K N O WL ED G E M EN TS   T h i s   s t udy   w a s   s uppo r t e by   t h e   r e s e a r c h   g r a nt   o f   P a i   C h a i   U ni v e r s i t y   i 202 0.       R EF ER EN C ES   [ 1]   B F e ka d e . ,   e t   a l . ,   P r o ba b i l i s t i c   R e c o v e r y   o f   I nc o m pl e t e   S e ns e D a t a   i n   I o T ,   I E E E   I n t e r ne t   o f   T hi n g i s s u e 99 ,     J ul   20 17 .     [ 2]   H .   B .   K i m ,   J .   B .   O t hm a n ,   L .   M o kda d,   S .   C ho ,   P .   B e l l a v i s t a ,   O c ol l i s i o n - f r e e   r e i nf o r c e ba r r i e r s   f o r   m ul t i   do m a i n   I o T   w i t he t e r o g e n e o us   U A V s ,   U bi q ui t ou s   C om pu t i n E l e c t r oni c s   and  M ob i l e   C om m uni c a t i o C onf e r e nc e   ( U E M C O N )   2017   I E E E   8t A n nua l ,   p p.   46 6 - 471,   2 017 .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       Im pr ov i ng   da t a   qual i t y   us i ng   de e l e ar ni ng   n e t w or k   ( Chul hy un   H w ang )   311   [ 3]   V A ndr u s hc ha k ,   T M a ks y m y uk,   S .   D um y c h,   M .   K a i da n,   O U r i ko v a ,   I nt e l l i g e nt   da t a   f l o w s   m a n a g e m e nt   f o r   pe r f o r m a nc e   i m pr o v e m e nt   o f   o pt i c a l   l a be l   s w i t c he ne t w o r k,   A d v anc e T r e nds   i R ad i oe l e c r t r on i c s   T e l e c om m uni c at i on s   a nd  C om pu t e r   E ng i ne e r i ng   ( T C SE T )   2018   14 t h   I n t e r na t i ona l   C o nf e r e nc e   on   pp.   11 43 - 1146 ,   201 8.     [ 4]   O K r a s ko ,   H .   Al - Z a y a di ,   V .   P a s h ke v y c h,   H .   K o pe t s ,   B .   H um e n i u k,   N e t w o r k   f unc t i o ns   v i r t ua l i z a t i o f o r   f l e x i b l e   de pl o y m e nt   o f   c o nv e r g e o pt i c a l - w i r e l e s s   a c c e s s   i nf r a s t r uc t u r e ,   A dv an c e T r e nd s   i R adi oe l e c r t r on i c s   T e l e c om m uni c at i on s   a nd  C om pu t e r   E ng i ne e r i ng   ( T C SE T )   2018   14 t h   I n t e r na t i ona l   C o nf e r e nc e   on   pp.   11 35 - 1138 ,   201 8.     [ 5]   V A ndr us hc ha k,   T .   M a ks y m y uk,   M .   K l y m a s h,   D .   A g e y e v ,   D e v e l o pm e nt   o f   t he   i B e a c o n’ s   P o s i t i o ni ng   A l go r i t hm   f o r   I ndoo r   S c e na r i o s ,   P r ob l e m s   o f   I nf o c om m un i c at i on s .   Sc i e nc e   and  T e c hn ol o gy   ( P I C   S& T )   2018  I nt e r na t i ona l   Sc i e nt i f i c - P r ac t i c al   C o nf e r e nc e ,   pp .   741 - 744 ,   201 8.     [ 6]   H .   E .   K o ,   S .   H .   P a c k,   V i c t o r   C .   M .   L e ung ,   S pa t i o t e m po r a l   C o r r e l a t i o n - B a s e E nv i r o nm e nt a l   M o ni t o r i ng   S y s t e m   i E ne r gy   H a r v e s t i ng   I nt e r ne t   o f   T hi ng s   ( I o T ) ,   I ndu s t r i al   I nf or m at i c s   I E E E   T r an s ac t i on s   on ,   v o l .   15 ,   no .   5,     pp.   29 58 - 2968 ,   201 9.     [ 7]   R .   M i ne r v a ,   A .   B i r u,   D .   R o t o ndi ,   T o w a r d s   a   D e f i ni t i o o f   t he   I nt e r ne t   o f   T hi ng s   ( I o T ) ,   I E E E   I nt e r ne t   I ni t i at i v e T o r i no ,   I t a l y ,   20 15.     [ 8]   R .   L .   P r e nt i c e ,   B .   J .   W I L L I A M S ,   A .   V .   P E T E R S O N . ,   O t he   R e g r e s s i o A na l y s i s   o f   M ul t i v a r i a t e   F a i l ur e   T i m e   D a t a ,   B i om e t r i k a v o l .   68 ,   no .   2,   pp .   373 - 37 9,   A ug   1981   [ 9]   Z .   C .   L i pt o n. ,   e t   a l . ,   M o de l i ng   M i s s i ng   D a t a   i C l i n i c a l   T i m e   S e r i e s   w i t R N N s ,   P r oc e e di ngs   o f   M ac h i ne   L e ar ni n f or   H e al t hc ar e   20 16   J M L R   W & C   T r ac k ,   v o l .   56 ,   no .   21 ,   M a r   2 017 .     [ 10]   Y T i a n a ,   K .   Z h a ng a ,   J .   L i b ,   X .   L i na ,   B .   Y a ng a ,   L S T M - ba s e t r a f f i c   f l o w   pr e di c t i o w i t h   m i s s i ng   da t a ,   N e ur oc om pu t i ng ,   v o l .   318 ,   pp .   297 - 305 ,   N o v   2018   [ 11]   X .   M a ,   Z .   T a o ,   Y .   W a ng ,   H .   Y u ,   Y .   W a ng ,   L o ng   s ho r t - t e r m   m e m o r y   ne ur a l   n e t w o r f o r   t r a f f i c   s pe e p r e di c t i o us i ng   r e m o t e   m i c r o w a v e   s e ns o r   d a t a ,   T r ans por t a t i o R e s e ar c P ar t   C :   E m e r gi ng  T e c hn ol ogi e s ,   v o l .   54 ,     pp  1 87 - 197 ,   M a y   2015 .   [ 12]   R .   F u ,   Z .   Z h a ng ,   L .   L i ,   U s i ng   L S T M   a n G R U   ne u r a l   ne t w o r k   m e t ho ds   f o r   t r a f f i c   f l o w   pr e d i c t i o n,   2016   31 s t   Y out h   A c ade m i c   A n nua l   C o nf e r e nc e   o f   C hi ne s e   A s s oc i at i on   o f   A ut o m at i on  ( Y A C ) pp .   11 - 13   N o v   2016   [ 13]   Z .   Z ha o ,   W .   C he n,   X .   W u ,   P .   C .   Y .   C he n ,   J .   L i u,   L S T M   ne t w o r k :   a   de e l e a r n i ng   a pp r o a c f o r   s ho r t - t e r m   t r a f f i c   f o r e c a s t . ,   I E T   I nt e l l i g e nt   T r a n s po r t   S y s t e m s ,   v o l .   11 ,   no .   2 ,   pp .   68 - 75,   M a r   20 17   [ 14]   M .   L i a ng ,   R W e n   L i u,   Q .   Z ho ng ,   J .   L i u ,   J .   Z ha ng ,   N e ur a l   N e t w o r k - B a s e A ut o m a t i c   R e c o ns t r uc t i o o f   M i s s i ng   V e s s e l   T r a j e c t o r y   D a t a ,   2 019   I E E E   4 t h   I nt e r na t i ona l   C on f e r e nc e   o B i D at a   A n al y t i c s   ( I C B D A ) ,   M a r   2 019   [ 1 5 ]   V i c t o r   O .   K .   L i ,   J a c q u e l i n e   C .   K .   L a m ,   Y .   C h e n ,   J .   G u ,   D e e p   L e a r n i n g   M o d e l   t o   E s t i m a t e   A i r   P o l l u t i o n   U s i n g   M - B P   t o   F i l l   i n   M i s s i n g   P r o xy   U r b a n   D a t a ,   G L O B E C O M   2 0 1 7   -   2 0 1 7   I E E E   G l o b a l   C o m m u n i c a t i o n s   C o n f e r e n c e ,   D e c   2 0 1 7   [ 16]   T .   S hum w a y ,   F o r e c a s t i ng   B a nk r up t c y   M o r e   A c c ur a t e l y :   A   S i m pl e   H a z a r d   M o de l ,   T he   J ou r na l   o f   B us i ne s s ,     v o l .   74,   n o .   1 ,   pp.   1 01 - 124 ,   J a n   2 001   [ 17]   D .   H .   C ho i ,   J .   O .   P a r k . ,   T h e   A ppl i c a t i o M e t ho o f   M a c hi ne   L e a r ni ng   f o r   A na l y z i ng   U s e r   T r a n s a c t i o T e nde nc y   i B i g   D a t a   e nv i r o nm e n t s ,   T he   J our nal   of   t he   K o r e I ns t i t u t e   of   I nf or m a t i on  a nd  C om m u ni c at i on   E ng i ne e r i ng ,   v o l .   19,   n o .   10 ,   pp .   2232 - 22 40 .   O c t   200 5.     [ 18]   K .   B .   K i m ,   H y br i N e ur a l   N e t w o r ks   f o r   P a t t e r R e c og ni t i o n ,   J ou r na l   o f   I n f or m a t i on  a nd  C om m uni c a t i o C onv e r ge nc e   E ng i ne e r i ng ,   v o l .   9 ,   no .   6,   pp .   637 - 64 0,   D e c   2 011 .     [ 19]   Y .   H .   K i m ,   D i s t r i b ut e E s t i m a t i o U s i ng   N o n - r e g ul a r   Q ua n t i z e d,   J our n al   o f   I n f o r m at i on  a nd  C om m un i c a t i on   C onv e r ge nc e   E ng i ne e r i ng ,   v o l .   1 5,   no .   1,   p p.   7 - 13 ,   M a r   201 7.     [ 20]   C .   H .   H w a ng ,   H .   S .   K i m ,   H .   K .   J ung ,   D e t e c t i o a nd  C o r r e c t i o M e t ho o f   E r r o ne o us   D a t a   U s i ng   Q ua n t i l e   P a t t e r n   a nd  L S T M ,   J ou r na l   o f   I nf or m a t i on  a nd  C om m u ni c at i on   C onv e r ge nc e   E ng i ne e r i ng ,   v o l .   16 ,   no .   4   pp.   24 2 - 247,   D e c   2018   [ 21]   K .   C a o ,   H .   Y .   K i m ,   C .   H .   H w a ng ,   H .   K .   J ung ,   C N N - L S T M   C o upl e M o de l   f o r   P r e di c t i o o f   W a t e r w o r k s   O pe r a t i o D a t a ,   J ou r na l   of   I nf or m a t i on  P r o c e s s i ng  Sy s t e m s v o l .   1 4 ,   no .   6,   p p .   150 8 - 1520 ,   D e c   201 8   [ 22]   İ br a hi m   K ök,   M e hm e t   U l v i   Ş i m ş e k ,   S ua t   Ö z de m i r ,   A   de e l e a r ni ng   m o de l   f o r   a i r   qua l i t y   pr e di c t i o i s m a r t   c i t i e s ,   2017   I E E E   I n t e r na t i ona l   C onf e r e nc e   o B i g   D a t ( B i g   D at a ) pp .   11 - 1 4 ,   D e c   201 7   [ 23]   H .   L i ,   K .   O t a ,   M .   D o ng ,   L e a r n i ng   I o T   i E dg e :   D e e L e a r ni ng   f or   t h e   I nt e r ne t   o f   T hi ng s   w i t E dg e   C o m put i ng ,   I E E E   N e t w or k v o l .   32 ,   no .   1,   p p.   46 71 - 4679 ,   F e b   20 18   [ 24]   F .   T a ng ,   B .   M a o ,   Z .   M d .   F a d l u l l a h ,   N .   K a t o ,   O a   N o v e l   D e e p - L e a r n i ng - B a s e d   I nt e l l i g e nt   P a r t i a l l y   O v e r l a pp i ng   C ha nne l   A s s i g nm e n t   i n   S D N - I o T ,   I E E E   C om m u ni c at i o ns   M agaz i ne v o l .   5 6,   no .   9 ,   p p.   80 - 8 6,   S e 2 018   [ 25]   M .   M o ha m m a di ,   A .   Al - F uqa ha ,   S .   S o r o ur ,   M .   G ui z a n i ,   D e e L e a r ni ng   f o r   I o T   B i g   D a t a   a nd  S t r e a m i ng   A na l y t i c s :   A   S ur v e y ,   I E E E   C om m un i c a t i ons   Su r v e y s   &   T ut or i al s v o l .   20 ,   no .   4 ,   p p.   29 23 - 2960 ,   201 8   [ 26]   U .   N a r a y a na n,   V P a u l ,   S J o s e ph ,   A   no v e l   a ppr o a c t o   bi g   d a t a   a na l y s i s   us i ng   de e be l i e f   ne t w o r f o r   t he   de t e c t i o o f   a ndr o i m a l w a r e ,   I ndo ne s i an   J ou r na l   o f   E l e c t r i c a l   E n gi n e e r i ng  and  C om put e r   Sc i e nc e ,   v o l .   16 ,   no .   3 pp.   14 47 - 1454 D e c   20 19   [ 27]   M A ko ur ,   H A S g ha i e r ,   O .   A .   Q a s e m ,   A   c o m pa r a t i v e   r e v i e w   o de e l e a r n i ng   m o de l s   f o r   t e x t   c l a s s i f i c a t i o n,   I ndo ne s i an   J our nal   o f   E l e c t r i c a l   E ngi ne e r i ng   and   C om p ut e r   Sc i e nc e ,   v o l .   19 ,   no .   1 ,   pp .   325 - 3 35 J ul   20 20   [ 28]   N A R a hm a d,   N .   A .   J .   S uf r i ,   N .   H M uz a m i l ,   M .   A .   A s ' a r i ,   B a dm i n t o pl a y e r   de t e c t i o u s i ng   f a s t e r   r e g i o c o n vo l ut i o na l   n e ur a l   ne t w o r k,   I n done s i an  J our nal   of   E l e c t r i c a l   E n gi ne e r i ng  and  C om pu t e r   Sc i e nc e ,   v o l .   14 ,   no .   3 pp.   13 30 - 1335 J un   20 19         Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   20 ,   N o .   1 O c t o b e r   20 20  :     306   -   312   312   B I O G R A P H I ES   O F   A U T H O R S       C h u l h y u n   H w an g   r e c e i v e t h e   M . S .   d e g r e e   i 199 a nd  P h.   D .   de g r e e   i 201 f r o m   D e pa r t m e n t   o f   C om put e r   E ng i ne e r i ng   o f   P a i   C ha i   U n i v e r s i t y ,   K o r e a .   F r o m   1991  t o   2000 .     H e   w o r ke f o r   K o r e a   N a vy   a s   a   C o m pu t e r   O f f i c e r .   S i nc e   20 19,   he   ha s   w o r ke i n   t h e   D e pa r t m e n t   o f   S m a r t   I T   S o f t w a r e   a t   K y ung   B o U ni v e r s i t y ,   w he r e   he   w o r ks   a s   a   p r o f e s s o r .   H i s   c ur r e n t   r e s e a r c i nt e r e s t s   i nc l ud e   de e l e a r n i ng ,   m a c hi n e   l e a r n i ng ,   I o T ,   bi g   da t a   a nd   a r t i f i c i a l   i n t e l l i g e nc e .         K y o u h w an   L e e   r e c e i v e t h e   M . S .   de g r e e   i 20 19  f r o m   t he   D e pa r t m e n t   o f   C o m put e r   E ng i ne e r i ng   of   P a i c ha i   U n i v e r s i t y ,   K o r e a .   S i nc e   19 90 ,   he   h a s   b e e w o r ki ng   i K o r e a   W a t e r   R e s o ur c e s   C o r po r a t i o n.   H i s   c ur r e n t   r e s e a r c i nt e r e s t s   i nc l ud e   b i g da t a ,   i nf o r m a t i o r e t r i e v a l ,   E R P   a n I o T .         H o e k y u n Ju n g   r e c e i v e t h e   M . S .   d e g r e e   i 1 987  a nd  P h.   D .   de g r e e   i 1993  f r o m   t h e   D e pa r t m e n t   o f   C o m put e r   E ng i ne e r i ng   o f   K w a ng w oo n   U ni v e r s i t y ,   K o r e a .   F r o m   1994  t o   1995 ,   he   w o r ke f o r   E T R I   a s   a   r e s e a r c he r .   S i nc e   1994 ,   he   h a s   w o r ke i t he   D e pa r t m e n t   o f   C o m put e r   E ng i ne e r i ng   a t   P a i c ha i   U n i v e r s i t y ,   w he r e   h e   no w   w o r ks   a s   a   pr o f e s s o r .   H i s   c ur r e nt   r e s e a r c i nt e r e s t s   i nc l ude   m ul t i m e d i a   do c um e nt   a r c h i t e c t ur e   m o de l i ng ,   i nf o r m a t i o n   pr o c e s s i ng ,   i nf o r m a t i o n   r e t r i e v a l ,   m a c hi ne   l e a r ni ng ,   b i g da t a ,   a n I oT .     Evaluation Warning : The document was created with Spire.PDF for Python.