I nd o ne s ia n J o urna l o f   E lect rica l En g ineering   a nd   Co m pu t er   Science   Vo l.   24 ,   No .   2 N o v em b e r   2 0 2 1 ,   p p .   1 1 0 7 ~ 1 1 2 0   I SS N:  2 5 0 2 - 4 7 5 2 ,   DOI : 1 0 . 1 1 5 9 1 /ijeecs.v 24 .i 2 . p p 1 1 0 7 - 1 1 2 0          1107       J o ur na l ho m ep a g e h ttp : //ij ee cs.ia esco r e. co m   Electrici ty co nsu mptio n f o recas ti n g  using  DF T d ecom po sitio ba sed hy brid A RI M A - DLST M  mo del       O s m a n Ya k ub u 1 Na re nd ra   B a bu   C . 2   1 De p a rtme n o Co m p u ter  S c ien c e ,   G a rd e n   Cit y   Un i v e risty   C o ll e g e ,   Ku m a si,  G h a n a   1, 2 De p a rtme n o C o m p u ter S c ien c e   a n d   En g in e e ri n g ,   M   S   Ra m a iah   Un i v e rsity   o Ap p li e d   S c ien c e s,   Ba n g a lo re ,   In d ia       Art icle  I nfo     AB S T RAC T   A r ticle  his to r y:   R ec eiv ed   J u n   16 2 0 2 1   R ev is ed   Sep   8 2 0 2 1   Acc ep ted   Sep   16 2 0 2 1       F o re c a stin g   e lec tri c it y   c o n su m p t io n   is  v it a l,   it   g u i d e p o l icy   m a k e rs  a n d   e lec tri c it y   d istri b u ti o n   c o m p a n ies   in   fo rm u latin g   p o li c ies   to   m a n a g e   p ro d u c ti o n   a n d   c u r b   p il fe rin g .   Ac c u ra tely   fo re c a stin g   e lec tri c it y   c o n su m p ti o n   is  a   c h a ll e n g in g   tas k .   Re l y in g   o n   a   sin g le  m o d e t o   fo re c a st  e lec tri c it y   c o n su m p ti o n   d a ta  wh ich   c o m p ri se b o th   li n e a a n d   n o n li n e a c o m p o n e n ts   p ro d u c e in a c c u ra te  re su lt s.  I n   th is  p a p e r,   a   h y b ri d   m o d e u sin g   a u to re g re ss iv e   i n teg ra ted   m o v i n g   a v e ra g e   (ARIMA)  a n d   d e e p   l o n g   sh o rt - term   m e m o ry   (D LS TM m o d e b a se d   o n   d isc re te  fo u rier  tran sfo rm   (DFT d e c o m p o siti o n   is   p re se n ted .   Ai d e d   b y   it s   su p e ri o d e c o m p o si ti o n   c a p a b il it y ,   fil terin g   u si n g   DFT   c a n   e fficie n tl y   d e c o m p o se   t h e   d a ta  in to   l i n e a a n d   n o n li n e a c o m p o n e n ts.   ARIMA  i e m p lo y e d   t o   m o d e t h e   l i n e a c o m p o n e n t,   wh il e   DLS TM   is ap p l ied   o n   t h e   n o n li n e a c o m p o n e n t;   th e   two   p re d ictio n s a re   th e n   c o m b in e d   t o   o b tain   th e   f i n a p re d icte d   c o n su m p ti o n .   Th e   p r o p o se d   tec h n iq u e a re   a p p li e d   o n   th e   h o u se h o l d   e lec tri c it y   c o n su m p ti o n   d a ta  o f   F ra n c e   to   o b tain   fo re c a sts  fo o n e   d a y ,   o n e   we e k   a n d   ten   d a y a h e a d   c o n su m p ti o n .   Th e   re su l ts  re v e a th a th e   p r o p o se d   m o d e o u tp e rf o rm o th e r   b e n c h m a rk   m o d e ls  c o n sid e re d   in   th is   in v e stig a ti o n   a it   a tt a in e d   l o we e rro r   v a lu e s.  T h e   p ro p o se d   m o d e l   c o u ld   a c c u ra tely   d e c o m p o se   t ime   s e ries   d a ta  with o u e x h i b it i n g   a   p e rf o rm a n c e   d e g ra d a ti o n ,   t h e re b y   e n h a n c in g   p re d ictio n   a c c u ra c y .   K ey w o r d s :   ANN   AR I MA   DL STM   Fo r ec asti n g   T im s er ies   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   Osma n   Yak u b u   Dep ar tm en t o f   C o m p u ter   Scie n ce   Gar d en   C ity   Un iv er s ity   C o lleg e   P.O.   B o x   KS 1 2 7 7 5 ,   Ku m asi,  Gh an a   E m ail:  Osma n . y ak u b u @ g cu c. ed u . g h       1.   I NT RO D UCT I O N   Mo d er n   lif e   is   d ep en d en o n   e lectr icity b u s in ess es  an d   h o u s eh o ld   co n s u m e r s   ar h ea v ily   r elian o n   elec tr icity   f o r   th eir   d aily   en e r g y   r e q u ir em e n ts .   Acc u r ately   f o r ec asti n g   elec tr icity   co n s u m p tio n ,   wh ich   f alls   u n d er   th d o m ain   o f   tim s e r ies  p r ed ictio n s ,   c o n tin u es  t o   en g ag e   th e   atten tio n   o f   r esear c h er s   wh o   h av e   em p lo y ed   v ar io u s   p r ed ictio n   tech n iq u es.  I n   b o t h   d ev el o p e d   an d   d ev elo p in g   ec o n o m ies,   g o v er n m en ts   an d   th eir   ag e n cies  em p h asize  th e   im p o r tan ce   o f   p r e d ictin g   ele ctr icity   co n s u m p tio n   p r ec is el y   f o r   p o licy   in   [ 1 ] .   E r r o n e o u s ly   p r ed ictin g   elec tr i city   co n s u m p tio n   h as  a   n eg at iv f in a n cial  im p ac t   [ 1 ] .   Acc u r ac y   is   t h m o s s ig n if ican f ac to r   c o n s id er ed   i n   ch o o s in g   s u itab le  f o r ec asti n g   m o d el  [ 2 ] [ 3] .   E lectr icity   co n s u m p tio n   d ata   ar tim s er ies  s in ce   it  is   g ath er ed   at  tim i n ter v als.  I n   f o r e ca s tin g   tim s er ies,  p ast  o b s er v atio n s   o f   t h s am v ar iab le  ar e   g ath er e d   f o r   an al y s is   to   d ev elo p   m o d el  to   b e   u s ed   f o r   p r ed ictin g   f u tu r e   v al u es  [ 4 ] .   Mo s r ea l - life   tim s er ies  d ataset s   in clu d in g   wea th e r ,   elec tr icity   co n s u m p tio n ,   a n d   o il  f ield   p r o d u ctio n   h av th e   s eq u en tial  p r o p er ty   o f   tim e.   S o   f in d in g   an   e f f ec tiv tec h n iq u f o r   tr en d   f o r ec asti n g   co n tin u es  to   b a   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci,   Vo l.  24 ,   No .   2 No v em b er   2 0 2 1 1 1 0 7   -   1 1 2 0   1108   ch allen g [ 5 ] [ 6 ] .   Owin g   t o   its   u n iq u p r o p e r ties ,   tim s er ies  f o r ec asti n g   ac cu r ac y   is   o n o f   th m o s ch allen g in g   p r o b lem s   in   d ata   m in in g   [ 7 ] .   T im e   s er ies   d ata  ca n   s h o w   d iv er s c o m p o n e n ts   s u ch   as  tr en d s ,   s ea s o n ality ,   an d   ju m p s   [ 8 ] .   Si n g le  m o d els  th at   h av e   b ee n   u s ed   f o r   tim e - s er ies  f o r ec asti n g   h a v b ee n   f o u n d   d ef ici en in   f o r ec asti n g   ac cu r a cy   [ 4 ] .   H y b r id   m o d els  h av b ee n   id en tifie d   as  th b est  in   te r m s   o f   f o r ec asti n g   ac cu r ac y   [ 4 ] [ 9 ] .   I n   co m p r eh en s iv r ev iew  b y   [ 2 ] ,   it  was  d is co v er ed   th at  h y b r i d   m e th o d s   ar th m o s s u itab le  an d   ac cu r ate  m eth o d s   f o r   f o r ec asti n g   tim s er ies.  P ar allel - s er ies  h y b r id   s tr u ctu r es  co u ld   also   p r o v id e   m o r p r ec is an d   p r o m is in g   r e s u lts   co m p ar ed   to   o n ly   h y b r id   m eth o d s   [ 2 ] .   T im e   s er ies  d ata   s u ch   as  elec tr icity   co n s u m p tio n   co u l d   b c o m p o s ed   o f   lin ea r   an d   n o n lin ea r   c o m p o n e n ts ,   an d   a   s in g le  m o d el  m ay   n o t   p r o v id a n   ac cu r ate  f o r ec ast  a u to r e g r ess iv in teg r ated   m o v in g   a v er ag ( AR I MA )   h as b e en   wid ely   u s ed   in   f o r ec asti n g   th e   lin ea r   co m p o n e n ts   o f   tim s er ies  [ 4 ] [ 9 ] ,   an d   it  is   wid e ly   ac k n o wled g e d   th at  ar tific ial  n eu r al  n etwo r k s   ( ANNs)   m o d el  th n o n lin ea r   co m p o n en ts   o f   tim s er ies  m o r ac cu r atel y   [ 1 0 ] .   AR I MA   is   tr ad itio n al  s tatis t ical  m eth o d   u s ed   i n   tim e   s er ies  f o r ec asti n g   [ 1 1 ] .   E f f ec t iv tech n iq u es  ca p ab le  o f   s p litt in g   th elec tr icity   co n s u m p tio n   d ata  in to   lin ea r   an d   n o n lin ea r   co m p o n e n ts   to   b m o d eled   d if f er e n tly   an d   co m b i n ed   f o r   a n   ef f ec tiv f o r ec ast,  ar th er ef o r d esire d .   Mo tiv ated   b y   th p o s s ib ilit y   o f   m o d ellin g   lin ea r   an d   n o n - lin ea r   co m p o n en ts   o f   tim s er ies  d ata  s ep ar ately   to   o b tain   m o r a cc u r ate  p r e d ictio n s ,   we  p r o p o s h y b r i d   a u to r eg r ess iv in teg r ated   m o v in g   av er ag e - d ee p   lo n g   s h o r ter m   m em o r y   ( AR I MA - DL STM )   m o d el  b ased   o n   d is cr ete  f o u r i er   tr an s f o r m   ( DFT)   to   f o r ec ast  d aily   elec tr icity   c o n s u m p tio n .   T h e   p r o p o s ed   AR I MA - DL STM   m o d el  is   em p l o y ed   t o   o b tain   o n e - s tep - ah ea d ,   o n e - week - ah ea d ,   an d   1 0 - d ay s - ah ea d   p r ed ictio n s .   Usi n g   ro o m ea n   s q u ar er r o r   ( R MSE ) ,   m ea n   ab s o lu te  p er ce n ta g er r o r   ( M APE) ,   an d   m ea n   ab s o lu te  er r o r   ( MA E ) ,   t h p r o p o s ed   m o d el  is   co m p ar ed   with   s ix   r ef er en ce   m o d els.  T h p r o p o s ed   AR I MA - DL STM   m o d el  ac h iev e d   a   lo wer   er r o r   m ea s u r th a n   th e   r ef er en ce   m o d els,  i n f er r i n g   t h at  it  o u t p er f o r m s   th e   r ef er e n ce d   m o d els  in   p r ed ictio n   ac cu r ac y   b ec au s th e   elec tr icity   co n s u m p tio n   d ata  wer d ec o m p o s ed   m o r ac cu r ately .     T h r est  o f   t h p a p er   is   o r g a n ized   as  f o llo ws,   in   s ec tio n   2 ,   r elate d   wo r k   is   d is cu s s ed ,   a n d   s ec tio n   co n tain s   th p r o p o s ed   AR I MA - DL STM   m o d el.   Sectio n   4   d escr ib es  th d etails  o f   th ex p er im en tal  s etu p   f o llo wed   b y   th ex p er im en tal  r esu lts   wh ich   ar p r esen ted   an d   d is cu s s ed   in   s ec tio n   5 .   T h p ap er   is   co n clu d ed   in   s ec tio n   6 .       2.   RE L AT E WO RK     n u m b er   o f   ap p r o ac h es  h av b ee n   p r esen ted   to   o v er c o m th ch allen g es  ass o ciate d   with   tim e - s er ies  f o r ec asti n g ,   in   g en er a l,  an d   elec tr icity   co n s u m p ti o n   tim s er ies  f o r ec asti n g   in   p ar ticu lar .   T h ese  p r o p o s ed   m eth o d s   ca n   b clas s if ied   as  s tatis tical  an d   s o f c o m p u tin g   tech n i q u es.  AR I MA   an d   a r tific ial  n eu r al  n etwo r k s   ( ANN )   m o d els  ar ex p lo r ed   b y   [ 9 ]   a n d   n o v el  h y b r id   AR I MA - ANN  m o d el  is   d ev is ed   f o r   th e   f o r ec asti n g   o f   tim s er ies  d ata .   T h e   v o latile  n atu r e   o f   tim s er ies  is   ex p lo r e d   b y   d ec o m p o s in g   th e   tim s er ies  d ata  in to   lin ea r   an d   n o n lin ea r   co m p o n e n ts   u s in g   an   MA   f ilter   th at  ac h iev ed   b etter   p r e d ictio n   ac cu r ac y   th a n   in d iv id u al  AR I MA   an d   ANN  m o d els  an d   t h h y b r id   AR I MA - ANN  m o d el  p r esen ted   in   [ 4 ] .   I n   [ 1 0 ] ,   a n   ANN   m o d el  b ased   o n   an   m u ltil ay er   p er ce p tr o n   ( MLP )   with   b ac k p r o p a g atio n   tr ain in g   alg o r ith m ,   wh ich   is   u s ed   as  th n eu tr al  n etwo r k   to p o lo g y   was  p r o p o s ed   to   p r ed ict  t h elec tr icity   co n s u m p tio n   o f   T u r k e y .   T a n g en t - s ig m o id   an d   p u r e - lin ea r   tr an s f er   f u n ctio n s   wer s elec ted   i n   th h id d en   a n d   o u ter   la y er   p r o ce s s in g   elem en ts ,   r esp ec tiv el y .   A   n o v el  d ee p   l ea r n in g   f o r ec asti n g   m o d el  th at  ex p lo its   th ab ilit y   o f   co n v o lu tio n al  lay e r s   to   ex tr ac u s ef u k n o wled g a n d   th ef f icac y   o f   lo n g   s h o r t - ter m   m em o r y   ( L STM )   lay er s   f o r   th id en tific atio n   o f   s h o r t - ter m   an d   l o n g - ter m   d ep en d en cies  f o r   ac c u r ate  f o r ec a s tin g   o f   g o ld   p r ices   was  p r esen ted   b y   [ 1 2 ] T h ey   co n ten d   th at  t h e   u s o f   L STM   lay er s   to g et h er   with   ad d itio n al  co n v o lu tio n al   lay er s   co u ld   en h an ce   f o r ec asti n g   p er f o r m an ce .   I n   f in an cial  tim s er ies,  ac cu r ately   f o r ec asti n g   s to ck   p r ices  is   ch allen g in g   task   b ec au s th er ar d r awb ac k s ,   s u ch   as  th u n s u itab ilit y   o f   s o m m o d els  th a d o   n o f o llo s tatis tical  ass u m p tio n s   an d   s to ck   d ata  th at  ar e   v er y   n o is y .   I n   [ 1 3 ] ,   a   h y b r id   tim s er ies  ad a p tiv n etwo r k   b ased   o n   f u z zy   in f er e n ce   s y s tem   ( ANFI S)  th at  u s es  em p ir ical  m o d d ec o m p o s itio n   was  p r o p o s ed   to   ad d r ess   th ese  d r awb ac k s .   T im s er ies  co u ld   b p u r ely   lin ea r ,   p u r ely   n o n lin ea r ,   o r   h y b r i d   an d   an y   p r o p o s ed   m o d el  s h o u l d   b e   ab l to   r ec o g n ize  t h is   p a t t e r n   f o r   b e t t e r   p r e d i c t i o n .   I n   [ 1 4 ] ,   a   n e w   h y b r i d   a p p r o a c h   u s i n g   a   c o m b i n a t i o n   o f   l i n e a r   a n d   n o n l i n e a r   e x p o n e n t i a l   s m o o t h i n g   m o d e l s   f r o m   t h e   i n n o v a t i o n   s t a t e   s p a c e   ( E T S )   w i t h   a r t i f i c i a l   n e u r a l   n e t w o r k s   ( E T S - A N N )   th at  en h an ce   th p o s s ib ilit y   o f   p ick in g   u p   th v ar ied   c o m b in atio n s   o f   lin ea r   an d /o r   n o n lin ea r   co m p o n en ts   in h er en t in   tim s er ies wa s   p r o p o s ed .     T o   p r ed ict  s h o r t - te r m   r esid e n tial  el ec tr icity   co n s u m p tio n   in   C h in a,   h y b r id   h o lt wi n ter s   ( HW )   m eth o d   an d   an   ex tr em e   lear n in g   m ac h in e   ( E L M)   n etwo r k   was  p r o p o s ed   b y   [ 1 5 ] .   T h o r ig in al   d ata   ar e   d ec o m p o s ed   in to   lin ea r   a n d   n o n lin ea r   co m p o n en ts   u s in g   m o v in g   a v er ag f ilter .   T h H W   m eth o d   is   u s ed   to   m o d el  th lin ea r   co m p o n en t,  wh ile  E L is   u s ed   to   f o r ec ast th n o n lin ea r   m o d el,   a n d   th r esu lts   ar co m b in ed   to   p r ed ict  1 5 - m in u te  elec tr icit y   co n s u m p tio n .   Fu r th er ,   p ar titi o n in g   an d   in ter p o latio n   ( PI)   b ased   AR I MA - ANN   m o d el  [ 1 6 ]   o u tp er f o r m e d   MA   f ilter   b as ed   AR I MA - ANN  tech n iq u i n   f o r ec asti n g   tim s er ies  d ata.   I n   [ 1 7 ] ,     Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:  2502 - 4 7 5 2       E lectricity c o n s u mp tio n   fo r ec a s tin g   u s in g   DF T d ec o m p o s itio n   b a s ed   h yb r id   ( Osma n   Ya ku b u )   1109   n o v el  tim s er ies  p r ed ictio n   m o d el  ter m ed   Ser iesNet,  ca p ab le  o f   co m p letely   lear n in g   tim s er ies  d at a   f ea tu r es  at  d if f e r en in te r v als   was  p r esen ted .   T h e   m o d el  is   ca p ab le  o f   lear n in g   m u lti - r an g an d   m u lti - lev el   f ea tu r es  f r o m   tim s er ies  an d   i m p r o v es  g e n er aliza tio n   b y   ad o p tin g   r esid u al  lear n in g   an d   b atch   n o r m aliza tio n ,   r esu ltin g   in   a   h ig h e r   p r ed ictiv ab ilit y .   I n   [ 1 8 ] ,   tech n i q u b ased   o n   d ee p   lear n in g   to   d ea l   with   th ch allen g es  o f   f o r ec asti n g   b ig   d ata   tim s er ies  was  also   p r o p o s ed .   T h e   d ee p   f o r war d   n e u r al   n etwo r k   o f   th e   H2 0   b i g   d ata  an aly s is   f r am ewo r k   is   u s ed   wh er th e   p r o b lem   at   h an d   i s   s p lit  in to   f o r ec asti n g   s u b - p r o b lem s .   h y b r id   s y s tem   th at  lo o k s   f o r   an   ap p r o p r iate  f u n ctio n   to   c o m b in li n ea r   an d   n o n lin ea r   m o d el  f o r ec asts   wa s   p r esen ted   by  [ 1 9 ] .   An   AR I MA   m o d el  is   u s ed   o n   th e   lin ea r   c o m p o n en t ,   an d   ML a n d   s u p p o r v ec to r   r eg r ess io n   m o d el,   two   in tellig en t n o n lin ea r   m o d els,  ar u s ed   o n   t h n o n lin ea r   co m p o n en t.    ANNs  h av b ee n   u s ed   wid el y   in   e n e r g y   p r ed ictio n   f o r   a   lo n g   tim e.   T o   im p r o v e   th p r ed ictio n   ac cu r ac y   f o r   elec tr icity   co n s u m p tio n   in   t h s h o r ter m ,   a   ty p o f   o p tim ized   ANN  m o d el  f o r   p r ed ictin g   h o u r ly   b u ild in g   elec tr icity   c o n s u m p t io n   was  p r esen ted   in   [ 1 9 ] .   d ee p   lear n in g - b ased   f r am e wo r k   f o r   elec tr icity   d em an d   f o r ec asti n g   th at  co n s id er s   lo n g - ter m   h is to r ical  d ep en d en cies  was  also   p r esen ted   in   [ 2 0 ] .   C lu s ter   an aly s is   is   in itially   ex ec u ted   o n   th elec tr icity   c o n s u m p tio n   d ata  f o r   all  m o n t h s ,   an d   s ea s o n - b ased   s eg m e n ted   d ata  ar g e n er ated .   L o ad   t r e n d   ch ar ac ter izatio n   is   p e r f o r m ed   to   o b tain   d ee p e r   u n d er s tan d in g   o f   m etad ata  b y   ev alu atin g   ea c h   o f   th clu s te r s .   Fu r th er ,   t h ey   tr ai n ed   L ST m u lti - in p u t   an d   o u tp u m o d els  to   p r e d ict  th e   d em an d   f o r   elec tr icity   d e p en d in g   o n   th s ea s o n ,   d a y ,   an d   in ter v al.   T o   im p r o v e   th p r e d ictio n   r esu lts ,   th ey   in co r p o r ated   th co n ce p o f   m o v in g - win d o w - b ased   ac tiv le ar n in g .   An   L STM - b ased   s h o r t - ter m   tim e - p h ased   elec tr icity   co n s u m p tio n   p r ed ictio n   m o d el  with   a n   atten tio n   m ec h a n is m   was   also   p r o p o s ed   b y   [ 2 1 ]   T h tech n iq u ass ig n s   weig h co ef f icien to   th in p u s eq u en ce   d ata.   T h e n ,   th o u tp u d ata  o f   ea ch   ce ll  o f   th L STM   ar co m p u ted   u s in g   th f o r war d   p r o p a g atio n   tec h n iq u e.   T h b ac k p r o p a g atio n   tech n iq u was  u s ed   to   ca lcu late  th er r o r   b etwe en   th r ea an d   p r ed icted   v alu es.  T o   f o r ec ast  elec tr icity   co n s u m p tio n   ac cu r ately ,   a   tech n iq u o f   p r o b ab ilit y   d en s ity   f o r ec asti n g   b ased   o n   t h le ast  ab s o lu te  s h r in k ag an d   s elec tio n   o p er at o r   an d   th q u an tile r eg r ess io n   n e u r al  n etwo r k   ( L ASSO - QR NN)   wa s   p r esen ted   in   [ 2 2 ] .   T o   f o r ec as p r ec is ely   th to tal   an d   in d u s tr ial  elec tr icity   co n s u m p tio n   o f   C h in a,   a   m o d if ied   g r ay   p r ed ictio n   m o d el  t h at  co m b in es  n ew  in itial  co n d itio n   an d   r o llin g   m ec h an is m   was  p r o p o s ed   in   [ 2 3 ] .   T h ey   em p lo y ed   a   p ar ticle  s war m   o p tim izatio n   alg o r ith m   to   g en er ate  p ar am et er s   th at  ca n   b d eter m i n ed   o p t im ally   in   ac co r d a n ce   with   v ar i o u s   f ea tu r es  o f   t h in p u d ata.   A n   in te g r ated   a p p r o ac h   f o r   t h 2 4   h o u r - a h ea d   p r ed ictio n   o f   elec tr icity   c o n s u m p tio n   in   b u ild i n g s   u s in g   th e   h ilb er t h u a n g   t r an s f o r m   ( HHT ) ,   r eg r o u p in g   p ar tic le  s war m   o p tim iz ati o n ,   a n d   ANFI S   was  p r o p o s ed   b y   [ 2 4 ] .   T h e r ar e   co m p lex iti es  an d   u n ce r tain ties   in   th el ec tr icity   s y s tem .   s elf - ad a p tiv g r a y   f r ac tio n al   weig h ted   m o d el  f o r   th ac c u r ate  p r ed ictio n   o f   th city   o f   J ian g s u s   elec tr icity   co n s u m p tio n   was  also   p r esen ted   b y   [ 2 5 ] .     T h s h o r t - f alls   o f   AR I MA   in   ac cu r ately   p r ed ictin g   tim s er ies  d ata  th at  h av b len d   o f   lin ea r   an d   n o n lin ea r   c o m p o n en ts   co m p el led   f ac eb o o k   to   in tr o d u ce   p r o p h et ,   wh ich   is   an   o p e n - s o u r c p r ed ictio n   m o d el   b ased   o n   d ec o m p o s ab le  m o d e ls   f o r   d ata  with   tr en d s ,   s e aso n ality ,   an d   h o lid ay s .   I is   r ep u t ed   to   f o r ec ast  tim s er ies  m o r ac cu r ately   b y   em p lo y in g   s im p le,   in tu itiv p ar a m eter s   an d   ca n   in clu d cu s to m   s ea s o n ality   an d   h o lid ay s   [ 2 6 ] .   T h e   u s o f   an   im p r o v e d   p a r ticle  s war m   o p ti m izatio n   in   d esig n in g   h y b r i d   p r e d icti o n   m o d el   f o r   f u tu r p r ed ictio n   o f   elec tr icity   co n s u m p tio n   ca n   s ig n if ican tly   im p r o v e   p r e d ictio n   ac cu r ac y   [ 2 7 ] Acc o r d in g   to   [ 2 8 ] ,   f o r ec asti n g   elec tr icity   c o n s u m p tio n   i n   h o u s eh o ld s   is   c h allen g in g ,   th e y   th u s   d ev elo p e d   a n   en h an ce d   s u p p o r v ec to r   r e g r ess io n   m o d el  with   th e   c ap ab ilit y   o f   f o r ec asti n g   h o u s eh o ld   elec tr icity   co n s u m p tio n   th r o u g h   s ev er al   in ter v en tio n   ap p r o ac h es.  A   s u p p o r v ec t o r   m ac h in ( SVM)   m o d el  was  also   cr ea ted   in   [ 2 9 ]   to   ac c u r ately   f o r ec ast  en er g y   c o n s u m p tio n   i n   h o tel  b u ild in g s .   T h ca p ab il ity   an d   p r ec is io n   o f   s u p er v is ed   m ac h i n lear n in g   tech n iq u es  was  ass ess ed   in   [ 3 0 ]   a n d   G au s s ian   p r o ce s s   r eg r ess io n   ( GPR )   was   f o u n d   to   o f f er   b etter   p r ed ict io n s   o f   e n er g y   co n s u m p tio n   o f   o f f ice  b u ild in g s .   O n o f   th m o s ef f ec tiv e   m eth o d s   em p lo y e d   in   th e   class if icatio n   o f   tim s er ies  d ata   i s   r ec u r r e n n e u r al  n etwo r k   ( R NN)   [ 3 1 ] ,   a n d   h as  b ee n   u s ed   in   f o r ec asti n g   s to ck   p r ices  [ 3 2 ] .   ANNs  h av e   also   b ee n   u s ed   in   th e   im p r o v em en t   o f   f o r ec asti n g   f o r   th p r ices  o f   g o ld   [ 3 3 ] .   C o n v o lu tio n al  n e u r al  n etwo r k s   h as   b ee n   p r o v en   t o   o f f er   s lig h tly   b etter   p r ed ictio n   ac cu r ac y   co m p a r ed   to   L STM   [ 3 4 ] .   T im s er ies  d ata   r elat ed   to   esp ec ial  f in a n ce   c o u ld   ex h ib it  f ea t u r es  o f   v o latilit y ,   it  co u ld   also   in   ad d itio n ,   b n o n - lin ea r   a n d   n o n - s tatio n ar y ,   as  it  is   s u s ce p tib le  to   ec o n o m ic  f ac to r s   th at  ar ex ter n al  [ 3 5 ] .   No twith s tan d in g   th n u m er o u s   m o d els  p r o p o s ed   to   ac cu r ately   p r ed ict  elec tr icity   co n s u m p tio n ,   en h a n ce m en o f   th p r ed ictio n   p er f o r m an ce   o f   elec tr icity   co n s u m p tio n   m o d els  is   s till   r eq u ir ed .   Sev er al  p r esen ted   m o d els  ar s in g le  m o d els  th at  ar eith er   s tatis tical,   s u ch   as  A R I MA ,   o r   s o f co m p u tin g ,   s u ch   as  ANN,   wh ich   in   th e s tim atio n   o f   [ 4 ]   d o   n o g e n er ate  ac cu r ate  p r e d ictio n s   wh en   u s ed   in d iv id u ally .   T h h y b r id   m o d els  p r esen ted   also   r eq u ir g r ea ter   ac c u r ac y ,   as  th tech n iq u es  em p lo y e d   d eg r ad p er f o r m an ce   wh en   d ec o m p o s in g   t h d ata  i n to   lin ea r   a n d   n o n lin ea r   co m p o n en ts   in   all  th e   p er u s ed   liter atu r e.   T h e r ef o r e,   m o r en h an ce d   tech n iq u es  s h o u ld   b d is co v er ed   t h at  ac c u r ately   d ec o m p o s elec tr icity   co n s u m p tio n   tim e   s er ies  d ata  in to   its   lin ea r   an d   n o n lin ea r   c o m p o n en ts ,   an d   r o b u s s tatis t ical  an d   s o f co m p u tin g   m o d els  co u ld   b h y b r id ized   f o r   m o r r eliab l p r ed ictio n s .     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci,   Vo l.  24 ,   No .   2 No v em b er   2 0 2 1 1 1 0 7   -   1 1 2 0   1110   I n   s u m m ar y ,   s ig n if ica n n u m b er   o f   r esear ch   o n   e n h an cin g   tim s er ies  p r ed ictio n   ac c u r a cy   h as  b ee n   ex p lo r ed .   All  th r esear ch   e x p lo r ed   h a v co n f ir m ed   t h at  s in g le  m o d els  lack   th ca p ab ilit y   t o   p r o d u ce   ac c u r ate  f o r ec ast  s in ce   th ey   ass u m th at  th d ata  ar p u r ely   lin ea r   o r   p u r ely   n o n lin ea r   a n d   h y b r id   m o d el s   ar r eq u ir e d .   Hy b r id   m o d els  r eq u ir e   th e   d ec o m p o s itio n   o f   th d at in to   lin ea r   an d   n o n lin ea r   co m p o n en ts .   T h e   d ec o m p o s itio n   tech n i q u es  co n tin u to   p r esen ch allen g es  as  q u ality   o f   p r ed ictio n s   ar d eg r ad ed   d u to   in ef f ec tiv d e co m p o s itio n   tec h n iq u es.  T o   e n s u r m o r ac c u r ate  f o r ec ast o f   elec tr icity   co n s u m p tio n ,   s u p er io r   d ec o m p o s itio n   tech n iq u es th at   d o   n o t d eg r ad th q u ality   o f   p r ed ictio n s   ar th u s   d esire d       3.   P RO P O SE M O D E L     In   th is   p a p er ,   n ew  h y b r id   AR I MA - DL STM   p r ed ictio n   m o d el  b ased   o n   DFT  d ec o m p o s itio n   is   p r esen ted .   E lectr icity   co n s u m p tio n   tim s er ies  h av tr en d s   an d   s ea s o n ality co n s u m p tio n   f o r   in d u s tr y   is   v er y   h ig h   d u r i n g   p ar ticu lar   tim es  a n d   d ay s ,   s u c h   as p ea k   wo r k in g   h o u r s ,   a n d   v er y   lo w   at  o th er   t im es,  s u ch   as   b r ea k   tim es  an d   h o lid ay s .   T h co n s u m p tio n   o f   d o m esti u s er s   is   h ig h er   o n   wee k en d s   an d   h o lid ay s   wh en   th ey   a r e   h o m e,   wh ile  th eir   co n s u m p tio n   is   lo wh e n   th e y   a r at  w o r k .   T h is   im p lies   th at  elec tr icity   co n s u m p tio n   d at ar co m p o s ed   o f   lin ea r   an d   n o n lin ea r   co m p o n e n ts .   I n d u s tr ial  an d   d o m esti elec tr icity   h av th s am ch ar ac ter is tics .   T ec h n iq u es  m u s b em p lo y ed   to   s eg r eg ate  p r ec is ely   th lin ea r   an d   n o n li n ea r   co m p o n en ts   o f   th d ata  to   m o d el  th em   f o r   p r ed ictio n .   I n   t h h y b r id   m o d els   p r esen ted   b y   [ 4 ]   an d   [ 3 6 ] ,   th ass u m p tio n   is   th at   th d ata  ar s u m   o f   lin ea r   an d   n o n lin ea r   co m p o n en ts .   Ho wev er ,   th d ata  ar n o t   d ec o m p o s ed   i n to   co m p o n en ts   o f   lin ea r   an d   n o n lin ea r in s tead ,   an   AR I MA   m o d el  is   ap p lied   d ir ec tly   to   th d ata,   an d   th e   r esid u al  er r o r   is   m o d eled   as  a   n o n li n ea r   c o m p o n en t,   wh ich   d eg r a d es  p er f o r m a n ce .   T h m eth o d o l o g y   o f   th e   p r o p o s ed   AR I MA - DL STM   elec tr icity   co n s u m p tio n   p r ed icti o n   m o d el  is   s h o wn   in   Fig u r e   1 ( a) ,   Fig u r e   1 ( b )   also   s h o ws th ar ch itectu r o f   th DL STM   r ec u r r en t   n etwo r k .             ( a)   ( b )     Fig u r 1 .   T h ese  f ig u r es a r e;  ( a )   Pro p o s ed   p r ed ictio n   m eth o d ,   ( b )   DL STM   r ec u r r en n etwo r k   ar ch itectu r e       Usi n g   DFT,   th elec tr icity   co n s u m p tio n   tim s er ies  is   co n v er ted   in to   Fo u r ier   co e f f icien ts .   First,  a   lo w - p ass   f ilter   is   u s ed   to   is o late  Fo u r ier   co ef f icien ts   th at  ar b elo th cu t - o f f   p o in t.  T h lo Fo u r ier   co ef f icien ts   ar th lin ea r   c o m p o n e n ts   o f   th d ata.   AR I M A,   wh ich   is   r ep u ted   to   p er f o r m   v er y   well  o n   lin ea r   tim s er ies  d ata  [ 4 ] [ 1 4 ]   is   u s ed   to   m o d el  th lin ea r   co m p o n e n o f   th d ata.   h ig h - p ass   f il ter   is   s u b s eq u en tly   em p lo y ed   t o   o b tain   Fo u r ier   c o ef f icien ts   ab o v th e   cu t - o f f ,   w h ich   r ep r esen t h h ig h   Fo u r ie r   co ef f icien ts .   T h e   h ig h   Fo u r ier   c o ef f icien ts   ar n o n lin ea r   co m p o n e n ts   o f   th d a ta.   DL STM ,   wh ich   is   v er y   ef f icien in   m o d elin g   n o n lin ea r   d ata,   is   u s ed   o n   th n o n lin ea r   co m p o n e n th at   in cl u d es  th l o Fo u r ier   c o ef f icie n ts   an d   t h r esid u al  er r o r   f r o m   t h AR I MA   m o d eli n g .   T h e   r esu lts   f r o m   b o th   p ar t s   ar co m b in e d   to   p r o v id e   th f in al  p r ed ictio n .   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:  2502 - 4 7 5 2       E lectricity c o n s u mp tio n   fo r ec a s tin g   u s in g   DF T d ec o m p o s itio n   b a s ed   h yb r id   ( Osma n   Ya ku b u )   1111   3 . 1       Co nv er t ing   t he  elec t ric it y   co ns um ptio n da t a   into   F o urier   co ef f icient s   us ing   DF T   DFT  is   th d is cr ete   f o r m   o f   th Fo u r ier   tr an s f o r m   an d   co n v e r ts   s ig n al  o r   d is cr ete  s eq u en ce   f r o m   r ep r esen tatio n   o f   th e   tim d o m ain   to   its   r ep r esen tatio n   in   t h Fo u r ier   c o ef f icien t   d o m ain   [ 3 7 ] .   T h e   eq u i v alen o f   th e   co n tin u o u s   F o u r i er   tr a n s f o r m   is   th e   DFT  f o r   s ig n al s   k n o wn   at    in s tan ts   an d   s ep ar ated   b y   s am p le   tim es,  ,   wh ich   is   f in ite  d ata  s eq u en ce .   T h DFT  co ef f icien ts   ar o b tain ed   as f o llo ws:     [ ] = [ ] 2     1 = 0     ( 1 )       r ep r esen ts   t h n u m b e r   o f   o b s er v atio n s   o f   th e   d ata.   [ ]   r ep r esen ts   th DFT  o f   t h s eq u en ce   [ ] .   T h e   ( 1 )   c an   b wr itten   in   m atr ix   f o r m   as:     [         [ 0 ] [ 1 ] [ 2 ] [ 1 ] ]         = [           1 1 1 1 1 1 2 3 1 1 2 4 6 2 1 3 6 9 3 1 1 2 3 ]             [         [ 0 ] [ 1 ] [ 2 ] [ 1 ] ]           ( 2 )     wh er = e xp   ( 2 ) .     3 . 2     Appl ica t io n o f   t he  lo w - pa s s   a nd   hig h - pa s s   f ilte in d a t a   deco m po s it io n   T h elec tr icity   co n s u m p tio n   d ata  ar co n v er ted   in to   Fo u r ier   co ef f icien ts   af ter   th ap p licatio n   o f   th e   DFT.   lo w - p ass   f ilter   is   u s e d   to   f ilter   th lin ea r   co m p o n e n o f   th d ata,   wh ile  h ig h - p ass   f ilter   is   u s ed   to   f ilter   o u th n o n lin ea r   co m p o n en o f   t h d ata.   T h lo w - p a s s   f ilter   s elec t s   s ig n als  with   Fo u r ier   co e f f icien lo wer   th an   th s elec ted   cu t - o f f ,   allo win g   th em   to   p ass ,   an d   Fo u r ier   co ef f icien ts   h ig h e r   th an   th cu t - o f f   ar e   b lo ck ed .   h ig h - p ass   f ilter   d o es  th o p p o s ite  o f   t h lo w - p ass   f ilter ,   as  it  f ilter s   s ig n als  with   Fo u r ier   co ef f icien h ig h er   th an   th cu t - o f f ,   a n d   Fo u r ier   co ef f icien ts   lo wer   th an   th c u t - o f f   p o in a r th en   b lo c k ed .   W co n ten d   th at  Fo u r ier   c o ef f icie n ts   th at  ar lo wer   th an   c u t - o f f   p o in a r lin ea r   an d   th o s h i g h er   ar n o n lin ea r .   T h lo w - p ass   f ilter   is   im p lem e n ted   m ath em atica lly   as :     ̂ ( ) =   { 1                          | | , 0                        | | > ,     ( 3 )     T h s p ec if ied   cu t - o f f   Fo u r ier   co ef f icien is   d en o ted   as   .   T h am p litu d s p ec tr u m   o f   th f ilter   is   th e   u n ity   o f   | | < f u r th e r ,   f o r   h ig h er   F o u r ier   co e f f icien ts ,   th f ilter   h as  an   am p litu d s p ec tr u m   o f   z er o .   T h e   h ig h - p ass   f ilter   is   im p lem en te d   with   th r ev e r s o f   ( 3 ) .     3 . 3 .       Appl ica t io n o f   I DF T   t o   co nv er t   t he  da t a   ba ck  t o   t he  t im do m a in   A f t e r   t h e   a p p l i c a t i o n   o f   D F T   t o   t h e   e l e c t r i c i t y   c o n s u m p t i o n   d a t a ,   t h e   d a t a   w i l l   b e   i n   F o u r i e r   c o e f f i c i e n t s ,   a n d   i t   h a s   t o   b e   c o n v e r t e d   b a c k   i n t o   i t s   o r i g i n a l   f o r m   u s i n g   t h e   I D F T .   T h e   I D F T   o f   i s   r e p r e s e n t e d   a s :     [ ] = 1 [ ] + 2     1 = 0   ( 4 )     3 . 4 .       M o delin g   t he  lin ea co m po nent  wit h AR I M A   AR I MA   is   lin ea r   m o d elin g   tech n iq u e   wh er e   th s p e cif ie d   tim s er ies  d ata  ar ch ec k e d   f ir s f o r   s tatio n ar ity .   T im s er ies  elec tr icity   co n s u m p tio n   d ata  h av tr en d s   an d   s ea s o n ality ,   an d ,   th er ef o r e ,   ar n o s tatio n ar y .   W h er d ata  ar n o s tatio n ar y ,   d if f er e n cin g   o p er atio n   h as  to   b p er f o r m ed .   Af te r   ea ch   di f f er en cin g ,   if   th d ata  s till   e x h ib it  n o n - s tatio n a r ity ,   d if f er e n cin g   is   ag ain   p er f o r m ed   u n til   th d ata  ar f in ally   s tatio n ar y .   W h en   th d if f er e n cin g   is   p er f o r m ed     tim es,  th o r d er   o f   in te g r atio n   o f   th AR I MA   tech n iq u is   .   T o   p r ed ict  th tim s er ies u s in g   AR I MA ,   th g en e r al  eq u ati o n   is   g iv en   as :     = 0 + 1 1 + 2 2 + + + 1 1 2 2   ( 5 )     wh er   is   th ac tu al  v alu e     is   th r an d o m   er r o r   at  tim t     ( = 1 , 2 , . )   an d     ( = 1 , 2 , . )   r ep r esen t th m o d el’ s   p ar am eter s       an d     r ep r esen t th o r d er   o f   t h e   m o d el  an d   th v alu es a r in te g er s   if   = 0   th en   ( 5 )   tu r n s   in to   an   AR   m o d el  with   th o r d er     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci,   Vo l.  24 ,   No .   2 No v em b er   2 0 2 1 1 1 0 7   -   1 1 2 0   1112   if   = 0   in   ( 5 )   tu r n s   in to   an   MA   m o d el  with   th o r d er     s u itab le  m o d el  o r d er   ( ; )   is   d eter m in ed   in   b u ild in g   an   AR I MA   m o d el.     3 . 5 .       Dee lo ng   s ho rt - t er m em o ry     T h e   L S T M   a r c h i t e c t u r e   c o m p r is e s   a n   i n p u t   g a t e ,   o u t p u t   g a t e ,   c e l l   s t at e ,   a n d   f o r g e t   g a t e .   T h e   f i r s t   s t e p   is   t o   d e c i d e   w h i c h   i n f o r m a ti o n   t h e   f o r g e t   g a t e     s h o u l d   t h r o w   a wa y   f r o m   t h e   c e l l   s t a t e   a n d   i s   r e p r e s e n t e d   b y :     = ( . [ 1 , ] + )   ( 6 )     T h n ex s tag is   to   d ec id o n   th in f o r m atio n   to   b r etain e d   in   th ce ll  s tate.   T h is   s tag co m p r is es  t wo   p ar ts :   th in p u g ate  lay er ,   ,   wh ich   is   s ig m o id   lay er   th v alu es  o f   wh ich   ar u p d ate d ,   an d   n e ca n d id ate  v alu e   ̃ ,   wh ich   is   cr ea ted   b y      lay er   a n d   is   ad d ed   to   th s tate.   T h is   i s   m ath em atica lly   r ep r esen ted   b y :     =   ( . [ 1 , ] + )   ( 7 )     ̃ =    ( . [ 1 , ] + )   ( 8 )     T h p r io r   ce ll st ate  1   is   u p d ated   in to   n ew  ce ll st ate,     wh ich   is   r ep r esen ted   as :     = 1 + ̃   ( 9 )     T h f in al  o u tp u t   is   b ased   o n   ce ll  s tate,   wh ich   is   f ilter e d   v er s io n .   T h c ell  s tate  to   b o u tp u t   is   d ec id ed   b y   s ig m o id   lay er   th at  is   r u n .   DL STM   is   s im ilar   t o   o th e r   n e u r al  n etwo r k s   a n d   r eq u ir es  th at  d ata  b e   with in   th n etwo r k s   ac tiv atio n   f u n ctio n .   T h h y p er b o lic  tan g en t ta n h   is   th L STM   d ef au lt   ac tiv atio n   f u n ctio n   an d   th e   v al u es  o f   th e   o u t p u f a ll  b etwe en   - 1   an d   1 ,   wh ich   is   th id ea r a n g e   in   th e   ca s o f   tim s er ies  d ata  [ 5 ] .   T h ce ll  s tate  is   th e n   p lace d   t h r o u g h      an d   it   p u s h es  th e   v alu es  f r o m   - 1   to   1 ,   wh ich   is   th en   m u ltip lied   b y   th o u tp u t o f   th e   s ig m o id   g ate,   an d   th c o m p o n en d ec id ed   o n   is   o u tp u t a s   f o llo ws:     =   ( 0 [ 1 , ] + 0 )   ( 1 0 )     =    ( )   ( 1 1 )     Fro m   ( 1 0 )   an d   ( 1 1 ) ,   th e   in p u weig h t,   r ec u r r en weig h t,  a n d   b ias  a r p r esen ted   b y   th e   L STM .   T o   im p r o v e   g en e r al  p e r f o r m an ce ,   an   e f f ec tiv m et h o d   is   to   in c r ea s th d ep t h   o f   th e   n eu r al  n etwo r k   [ 3 8 ] .   Dee p   r ec u r r en n etwo r k   a r ch itectu r es  h av im p r ess iv lear n in g   ab ilit ies  [ 3 9 ] .   I n   th p r o p o s e d   DL STM ,   s ev er al  L STM   b lo ck s   a r s tack ed ,   as  s h o wn   in   Fig u r e   1 ( b ) .   T h ey   ar co n n ec ted   i n   a   d ee p   r ec u r r e n n etwo r k   to   d e r iv e   th ad v an tag es  o f   s in g le  L S T lay er .   T h p u r p o s o f   s tack in g   m an y   L STM s   h ier ar ch i ca lly   is   to   b u ild   th f ea tu r es  at  th lo wer   lay er s   f o r   th s ep ar atio n   o f   th e   f ac t o r s   o f   v a r iatio n s   in   th d ata  u s ed   f o r   in p u an d   s u b s eq u en tly   co m b in th em   a th h ig h er   lay e r s .   Su ch   d ee p   ar ch itectu r will  b etter   g en er alize   b ec au s th e   r ep r esen tatio n   is   m o r e   co m p ac t th an   th s h allo r e p r esen tatio n   [ 4 0 ] .   Fro m   th ar c h itectu r in   Fig u r 1 ( b ) ,   th in p u   is   ass ig n ed   to   L STM   lay er   1   at  tim   with   1 w h ich   is   th p r ev io u s   h id d en   s tate  o f   th in itial   L STM   lay e r ,   an d   tr an s f er s   to   th s ec o n d   lay er .   T h h id d e n   s tate     is   u s ed   b y   lay er   2   o f   t h e   L STM   to g eth e r   with   th p r io r   h id d en   s tate   1   f o r   th c o m p u t atio n     o f   lay er   2   o f   th L STM   a n d   m o v es  af ter war d   t o   th e   s u b s eq u e n s tag u n til  th co m p ilatio n   o f   t h last   L STM   lay er .   Par o f   th task   is   p r o ce s s ed   b y   ea ch   lay e r   an d   is   p ass ed   to   th n ex lay e r   u n til  th e   last   lay er   is   r ea ch ed .   T o   m o d el  th n o n lin ea r   p a r o f   th elec tr icity   co n s u m p tio n   d ata  u s in g   DL STM ,   th s eq u en ce   d ata  ar in itially   lo ad ed ,   w h ich   r esu lts   in   ce ll a r r ay ,   a n d   ea ch   elem e n is   s i n g le  tim s tep .   T h e   d ata  ar e   r e s tr u ctu r ed   to   r o w   v ec to r   to   h av m ea n   o f   ze r o   an d   u n it  v ar ian ce   f o r   b etter   f itti n g   b y   s tan d ar d izin g   th tr ai n in g   d ata.   T h e   test   d ata  ar e   also   s tan d a r d ized   d u r in g   th e   f o r ec ast  u s in g   th e   s am p ar am ete r s   as  th o s u s ed   f o r   th e   tr ain in g   d ata.   T h p r ed icto r s   an d   r esp o n s es a r s u b s eq u en tly   p r ep ar e d .   T o   p r ed ict  s eq u en ce s   tim s tep s ,   th r esp o n s es a r lis ted   as  th tr ain i n g   s eq u en c e s ,   an d   th v alu es  ar e   s h if ted   b y   a   s in g le  s tep .   T h e   L STM   n e two r k   at   ea ch   s tep   o f   th s eq u e n ce   lear n s   to   p r ed i ct  th s u b s eq u en v alu e   o f   th tim s tep .   T h er ef o r e ,   th p r ed i cto r   is   th tr ain in g   s eq u en ce   with o u t th e   last   s tep .         4.   E XP E R I M E N T A L   SE T UP     T h ex p e r im en tal   s ettin g s   th a wer im p lem e n ted   f o r   b o th   th p r o p o s ed   an d   r e f er en ce   m o d els  ar e   p r esen ted   in   th is   s ec tio n .   b r ief   o v er v iew  o f   th r e f er en ce   m o d els  an d   th id ea cr iter ia  to   b r elied   o n   f o r   co m p ar in g   th eir   p er f o r m an ce   ag ain s t th p r o p o s ed   m o d el  ar e   also   p r esen ted .     Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:  2502 - 4 7 5 2       E lectricity c o n s u mp tio n   fo r ec a s tin g   u s in g   DF T d ec o m p o s itio n   b a s ed   h yb r id   ( Osma n   Ya ku b u )   1113   4 . 1 .       H y brid ARIM A D L S T M   predict io n m o del   AR I MA   i s   u s ed   to   m o d el  th r ec o n s tr u cted   lin ea r   p a r o f   th elec tr icity   co n s u m p tio n   d ata;  th r esid u als  an d   th e   n o n lin ea r   p ar ar m o d eled   u s in g   DL ST M.   T h g en er ated   p r e d ictio n s   f r o m   AR I MA   an d   DL STM   ar ag g r eg ated   to   att ain   th to tal  f o r ec ast.  T h tim s er ies  d en o ted   ,   co m p r is ed   lin ea r   ( lo w)   an d   n o n lin ea r   ( h ig h )   Fo u r ie r   co ef f icien ts ,   wh ich   is :     = +   ( 1 2 )       r ep r esen ts   th n o n lin ea r   ( h ig h )   Fo u r ier   co ef f icie n p ar an d     r ep r esen ts   th lin ea r   ( lo w)   F o u r ier   co ef f icien p ar t.    is   m ad s tati o n ar y   as  lin ea r   f u n ctio n ,   an d ,   as  s h o wn   in   ( 1 3 ) ,   m o d eled   u s in g   AR I MA .     is   ex p r ess ed   as a   n o n lin ea r   f u n ctio n ,   an d   DL STM   is   u s ed   f o r   its   m o d elin g ,   as sh o wn   in   ( 1 4 ) .     ̂ = ( 1 , 2 , )   ( 1 3 )     ̂ = ( 1 , 2 , , ) +   ( 1 4 )       s i g n i f i e s   t h e   n o n l i n e a r   f u n c t i o n   a n d     s i g n i f i e s   t h e   m o d e l   e r r o r .   T h e   f o r e c a s t   v a l u e   ̂   i s   s h o w n   i n   ( 1 5 ) :     ̂ =   ̂ +   ̂   ( 1 5 )     I n   s elec tin g   th b est  f it  m o d el  in   AR I MA ,   th ak aik in f o r m atio n   c r iter io n   ( A I C )   is   u s ed ,   wh ich   s u g g ests   th at  th b est  m o d el  i s   AR I MA   ( 7 ,   0 ,   0 ) .   T h elec tr icity   co n s u m p tio n   d ata  ar d i v id ed   in to   7 0 f o r   tr ain in g   an d   3 0 f o r   test in g ,   a n d   b ec au s o n ly   th n ex t d ay s   f o r ec ast  is   d esire d ,   o n e - s tep - ah ea d   p r e d ictio n   is   em p lo y ed .   T h L STM   n etwo r k   ar ch itectu r is   th en   d ef in e d   b y   co n s tr u ctin g   an   L STM   r eg r ess io n   n etwo r k .   T h n etwo r k   s tr u ctu r is   [ A,   B ,   C ,   D] .   r ep r esen ts   th in p u lay er ,   its   s ize  i s   d en o ted   b y   B ,   wh ich   f ee d s   in to   an   L STM   lay e r   with   B   n eu r o n s ,   wh ich   s u b s e q u en tly   f ee d s   in to   an o th er   lay er   o f   L STM   with   C   n eu r o n s   a n d   th en   f ee d s   in to   n o r m al  lay e r   o f   n eu r o n s   th at  is   f u lly   c o n n ec ted   t o   lin ea r   ac tiv atio n   th at  is   u s ed   in   th e   s u b s eq u en s tep s   f o r ec ast.  T o   p r ev en g r ad ien ex p lo s io n ,   t h th r esh o ld   o f   th g r a d i en is   s et  to   1 .   Af ter   th L STM   n etwo r k   is   tr ain ed   with   th tr ain in g   o p ti o n s   in d ica ted ,   th tim s tep s   f o r   th f u tu r ar p r ed icted   in d iv id u ally ,   an d   th e   s tate  o f   t h n etwo r k   is   u p d ated   f o r   ea c h   f o r ec ast.  T h e   p r io r   f o r e ca s is   u s ed   as  an   in p u f u n ctio n   i n   f o r ec asti n g   f u tu r s tep s .     4 . 2 .       Re f er ence   m o dels     T o   ac h ie v a   f air   ev alu atio n ,   th e   p r o p o s ed   h y b r id   AR I MA DL STM   m o d el   b ased   o n   DFT   d ec o m p o s itio n   is   co m p ar ed   a g ain s r ef er en ce   m o d els,  wh ic h   ar s in g le  s tatis tical  o r   s in g le  m ac h in lear n i n g   m o d els,  an d   h y b r id   s tatis tical  an d   m ac h in lear n i n g   m o d els.   T h r e f er en ce   m o d els  ar e   s elec ted   b ased   o n   th e   im p ac f ac to r   o f   th j o u r n als  in   wh ich   th e y   ar p u b lis h ed ,   t h eir   citatio n s ,   an d   t h citatio n s   o f   th au th o r s   in   s im ilar   wo r k   u n d er tak en   in   o t h er   p ap er s ,   th q u ality   o f   m o d els  th ey   wer c o m p ar e d   wit h ,   an d   t h eir   y ea r   o f   p u b licatio n .   T h r ef e r en ce   m o d els u s ed   ar as f o llo ws:     4 . 2 . 1 .   ARIM m o del   T h co n ce p o f   t h AR I MA   m o d el  is   ex p lain ed   in   s ec tio n   2 .   T h AR I MA   c o m p ar is o n   s ig n if ies  s tatis t ical  co m p ar is o n .   T h s tats m o d el  lib r ar y   in   Py th o n   was   u s ed   to   im p lem en th AR I MA   p r o g r am .   g r id   s ea r ch   th at  ex p lo r es d iv er s c o m b in atio n s   o f   th id e n tifie d   p ar am eter s   ( p ,   d ,   q )   is   u s ed .   n ew  AR I MA   m o d el   is   f it  f o r   ea ch   p ar am eter   co m b in atio n   an d   th AI C   is   th en   u s ed   to   s elec th b est  co m b in atio n .   T h AI C   m ea s u r es h o well  th m o d el  f its   th d ata,   co n s id er in g   th o v er all  co m p lex it y   o f   t h m o d e l.     4 . 2 . 2 .   H y brid E T S - ANN  m o del f o t im s er ies  f o re ca s t in g   [ 1 4 ]   T h is   m o d el  e n s u r es  th at  p u r e ly   lin ea r ,   p u r el y   n o n lin ea r ,   o r   co m b in atio n   o f   lin ea r   an d   n o n lin ea r   co m p o n en ts   ar m o d eled   ac c u r ately .   I n   th eir   m et h o d ,   th E T is   in itial ly   ap p lied   to   th tim s er ies  d ata.   T h is   in cr ea s es  th ch an ce s   o f   f in d in g   lin ea r   p atter n s   wh er t h ey   ex is t.  T o   ca lcu late  th r esid u al  er r o r ,   th e   p r ed ictio n s   f r o m   th E T m o d el  ar d ed u ce d   f r o m   th o r i g in al  s er ies.  ANN  is   u s ed   to   m o d el  th r esid u al   er r o r   s eq u en ce ,   wh ich   is   ass u m ed   to   b n o n lin ea r .   T h e   f in a p r ed ictio n s   ar o b tain ed   th r o u g h   co m b in atio n   o f   th p r ed ictio n s   f r o m   th E T S a n d   ANN.     4 . 2 . 3 .   M o delin g   a nd   predict i o n o f   T urk ey s   elec t ricit y   co ns um ptio n us ing   ANN  [ 1 0 ]   An   ML n eu r al  n etwo r k   to p o lo g y   an d   b ac k p r o p a g atio n   tr ain in g   alg o r ith m   ar e   u s ed   in   t h is   m o d el.   T an g en t - s ig m o i d   an d   p u r e - lin ea r   d ata  r esp ec tiv ely   ar s ele cted   in   th h id d en   an d   o u tp u lay er   p r o ce s s in g   elem en ts .   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci,   Vo l.  24 ,   No .   2 No v em b er   2 0 2 1 1 1 0 7   -   1 1 2 0   1114   4 . 2 . 4 .   E lect ricit y   co ns um ptio n pre dict io n ba s e o n L S T M   wit h a t t ent io n m ec ha nis m   [ 2 1 ]   I n   th is   wo r k ,   a n   L STM   with   an   atten tio n   m ec h an is m   i s   p r esen ted   f o r   s h o r t - ter m   t im e - p h ase   elec tr icity   co n s u m p tio n   m o d e lin g .   T h atten tio n   m ec h an is m   is   in itially   u s ed   to   allo ca te  co ef f icien ts   to   th e   s eq u en ce   d ata   o f   th e   in p u t.  T h v al u o f   th e   o u tp u t   o f   e ac h   L STM   ce ll  is   ca lc u lated   u s in g   th f o r war d   p r o p a g atio n   m eth o d .   T h b a ck p r o p ag atio n   m eth o d   is   u s ed   to   co m p u te  th er r o r   b etw ee n   th ac tu al  an d   p r ed icted   v alu es.  E ac h   g r ad ie n t’ s   weig h is   co m p u ted   in   ac co r d an ce   with   th c o r r esp o n d i n g   er r o r   ter m ,   an d ,   to   r ed u ce   t h er r o r ,   th e   m o d el’ s   weig h t is u p d ated   b y   th g r a d ien t d escen t d ir ec tio n .     4 . 2 . 5 .   A   hy brid  predict io mo del  f o r   re s identia elec t ricit y   co ns um ptio us ing   H o lt Winte rs  a n ex t re m le a rning   m a chine   [ 1 5 ]   A   h y b r id   m o d el   b ased   o n   th e   h o lt - win ter s   ( HW )   m eth o d   a n d   a n   E L M   n etwo r k   ar e   u s ed   to   p r ed ict   r esid en tial  elec tr icity   co n s u m p tio n   in   th e   s h o r ter m .   An   M f ilter   is   u s ed   to   d ec o m p o s th o r ig i n al  d ata   in   co m p o n en ts   o f   a   s tatio n ar y   li n ea r   an d   f lu ct u an n o n lin ea r   r esid u al.   T h lin ea r   p r e d ictio n   m o d el  is   g en e r ated   b y   th HW   m eth o d   an d   is   u s ed   to   p r ed ict  th lin ea r   co m p o n en t.  T h E L b u ild s   n o n lin ea r   m o d el  f o r   p r ed ictin g   r esid e n tial  elec tr icity   co n s u m p tio n   b y   u s in g   lin ea r   f o r e ca s r esu lts ,   n o n lin ea r   r esid u als,  an d   o r ig in al  d ata  as in p u ts .     4 . 2 . 6 .   F a ce bo o k s   P ro ph et   Pro p h et  is   d ec o m p o s ab l ti m s er ies  m o d el  th at  h as  th r ee   m o d el   p a r ts tr en d ,   s ea s o n ality ,   an d   h o lid ay s .   T h e y   ar r ep r esen ted   as f o llo ws:     ( ) = ( ) + ( ) + ( ) +   ( 1 6 )     wh er ( )   d en o tes  th e   tr en d   f u n ct io n   f o r   m o d elin g   n o n - p er io d ic   ch an g es  in   th e   v alu e   tim s er i es,  ( )   is   th p er io d ic  c h an g e   ( i.e . ,   s ea s o n ality ) ,   ( )   d en o tes  th e   ef f ec t o f   h o li d ay s   th at  o cc u r   with   ir r eg u lar   s ch ed u les,  an d     r ep r esen ts   th e r r o r   ter m   th at  ac co u n t s   f o r   a n y   u n co m m o n   ch a n g es  th at  a r n o ac co m m o d ated   b y   th m o d el.     4 . 3 .       M ea s urem ent   o f   mo del pre dict io n per f o rm a nce   T o   m ea s u r th p er f o r m an ce   o f   th p r o p o s ed   m o d el  a n d   c o m p ar it  ag ai n s th r ef er en ce   m o d els;   R MSE ,   MA PE,   an d   MA E   r ep u ted   to   b ef f ec tiv e   in   m ea s u r in g   p r e d ictio n   er r o r s   [ 4 1 ]   ar co m p u ted .   T h e   R MSE   m ea s u r es th er r o r   b etwe en   th p r ed icted   a n d   o b s er v ed   v alu es.  T h s m aller   th er r o r ,   th b etter   will b e   th p r ed ictio n .   R MSE   is   co m p u ted   as f o llo ws:       = ( ) 2 = 1       ( 1 7 )     T h e   MA PE   u s u ally   ex p r ess ed   as a   p er ce n tag g en er ally   s tate s   th ac cu r ac y   o f   p r ed ictio n   as   r atio   an d   is   d ef in e d   b y   th f o r m u la:     M A PE = 1 | = 1 | 100   ( 1 8 )     T h MA E   is   s im p ly   an   av e r ag o f   th a b s o lu te  p er ce n tag er r o r s   b etwe en   th ac t u al  an d   p r ed icted   v alu es a n d   is   co m p u te d   as f o llo ws:     = | | = 1   ( 1 9 )     wh er   d en o tes  th v alu p r ed icted ,   th o b s er v ed   v alu es  at  tim   ar d en o ted   b y   ,   an d   th n u m b er   o f   tim elem en ts   is   d en o ted   b y   .       5.   RE SU L T A ND  D IS CU SS I O   E lectr icity   co n s u m p tio n   d ata  h av tr en d s   an d   s ea s o n ality   an d ,   th er e f o r e,   a r co m p o s ed   o f   lin ea r   an d   n o n lin ea r   co m p o n en ts .   DFT  co n v er ts   th d ata  in to   Fo u r ie r   co ef f icien ts ,   an d ,   b ased   o n   cu t - o f f   Fo u r ier   co ef f icien t,  l o w - p ass   an d   h i g h - p ass   f ilter s   ar e   u s ed   t o   d ec o m p o s th d ata  in to   lin ea r   an d   n o n lin ea r   co m p o n en ts .   T h Fo u r ier   co e f f icien ts   ar co n v er ted   b ac k   in to   th eir   o r ig in al  f o r m s   u s in g   in v er s d is cr ete   Fo u r ier   tr a n s f o r m   ( I DFT) .   T h lin ea r   c o m p o n en t   is   m o d el ed   b y   AR I MA ,   an d   th e   n o n li n ea r   co m p o n en is   mode led   b y   DL STM ,   wh ich   h as  th ca p ab ilit y   o f   m o d e lin g   n o n lin ea r   d ata  v er y   ac c u r ately .   Ho u s eh o l d   elec tr icity   co n s u m p tio n   d ata  g ath er ed   in   Fra n ce   e v er y   m in u te  f o r   4 7   m o n th s   f r o m   Dec em b er   2 0 0 6   t o   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:  2502 - 4 7 5 2       E lectricity c o n s u mp tio n   fo r ec a s tin g   u s in g   DF T d ec o m p o s itio n   b a s ed   h yb r id   ( Osma n   Ya ku b u )   1115   No v em b er   2 0 1 0 ,   r ep r esen tin g   2 , 0 7 5 , 2 5 9   p o wer   m ea s u r em e n ts   [ 4 2 ] ,   ar e   u s ed   in   th ev alu atio n   o f   th m o d el.   T o   en s u r ac c u r ate  p r ed ictio n s ,   th d ata  wer e   ag g r e g ated   d aily   an d   u s ed   f o r   th f o r ec ast.  T h q u an titativ an d   v is u al  r esu l ts   o f   th p r o p o s ed   h y b r id   AR I MA - DL STM   m o d el  alo n g   with   th r ef er en ce   m o d els  ar p r esen ted   in   th is   s ec tio n .   T h in d iv id u al  h o u s eh o ld   elec tr icity   co n s u m p tio n   d ataset   is   u s ed   f o r   th p r o p o s ed   an d   r ef er en ce   m o d els.  T h is   d ataset  r ep r esen ts   2 , 0 7 5 , 2 5 9   p o we r   m ea s u r em e n ts   co llected   in   h o u s s itu ated   in   Scea u x   n ea r   Par is ,   Fra n ce ,   f o r   4 7   m o n th s   s p an n in g   Dec e m b er   2 0 0 6   to   No v em b er   2 0 1 0   with   d ata  tak en   ev er y   m in u te.   T h attr i b u tes u s ed   ar as f o llo ws:     d ate:  Date   in   f o r m at  d d /m m /y y y y   tim e:  tim in   f o r m at  h h :m m :s s   g lo b al_ ac tiv e_ p o wer : r e p r ese n ts   th elec tr icity   co n s u m p tio n   in   m in u tes     I n   a n a l y z i n g   t h e   r aw   d a ta ,   s o m e   m i s s i n g   v al u e s   w e r e   d et e c te d   t h u s   t h d a t h a d   t o   b e   p r e - p r o c e s s e d .   T h e   f o r e c a s ti n g   m o d e l s   p r e d i ct i v e   e f f i ci e n c y   m a y   b e   a f f e c t e d   i f   p a r t   o f   t h e   d a t is   m is s i n g   an d   t h e   m e a n ,   w h ic h   i s   o n e   o f   t h e   m e t h o d s   f o r   f i ll i n g   m i s s i n g   d a t i n   P y t h o n ,   i s   u s e d   t o   f i ll   t h e   m i s s i n g   v a l u es .   T h e   d a t a   a r e   g at h e r e d   a t   i n t e r v a ls   o f   o n e   m i n u t e .   G i v e n   t h e   t r e n d s   a n d   s e a s o n a li t y   i n h e r e n t   i n   e l e c t r i ci t y   c o n s u m p t i o n   d a t a ,   t h e   i d e a f o r e c a s t   s h o u l d   b e   p e r f o r m e d   w i t h i n   2 4   h o u r s   ( 1   d a y ) .   T h e   c o n s u m p t i o n   d a t a ,   w h i c h   i s   t ak e n   e v e r y   m i n u t e ,   i s   c o n v e r t e d   t o   h o u r l y   d a t a   b y   d i v i d i n g   e a c h   v a l u e   i n   g l o b a l - a c t i v e - p o w e r   b y   6 0 .   T o   a f f i r m   t h e   p r e c i s i o n   o f   p r e d i c t i o n   a t t a i n e d   b y   t h e   p r o p o s e d   m o d e l   a g a i n s t   t h e   s i x   s in g l e   a n d   h y b r i d   m o d e l s   d i s c u s s e d   i n   s ec t i o n   2 ,   a   s i m u l at i o n   e x p e r i m e n t   i s   p er f o r m e d ;   t h e s e   m o d e l s   a r e   a p p l i e d   t o   t h e   i n d i v i d u a l   h o u s e h o l d   e l e c t r i ci t y   c o n s u m p t i o n   d a t a .   Fi g u r e   2   s h o w s   a   p l o t   o f   t h e   d ai l y   h o u s e h o l d   e l e c t r i c i t y   c o n s u m p t i o n   t i m s e r i es   d a t a .             Fig u r 2   Ho u s eh o ld   elec tr icity   tim s er ies d ata       I n   c o m p ar in g   t h ac c u r ac y   o f   p r e d ictio n s   o f   th e   p r o p o s ed   m o d el  a n d   th r ef er en ce d   m o d els,  th r ee   m ea s u r es  ar u s ed .   T h e y   ar R MSE ,   MA PE,   an d   MA E   wh ich   ar d ep icted   in   ( 1 7 ) ,   ( 1 8 ) ,   an d   ( 1 9 ) .   g o o d   p r ed ictio n   m o d el  s h o u ld   h av lo wer   er r o r   v al u es.  T h elec tr icity   co n s u m p tio n   d ata  wh ich   is   m ad u p   o f   2 , 0 7 5 , 2 5 9   h o u r ly   d ata  p o in ts   i s   p r o ce s s ed   to   o b tain   1 4 3 3   p o in ts   o f   d aily   co n s u m p tio n   in   k W h   as  d ep icted   in   Fig u r 2 .   I n   th e x p er im e n t,  o n e - d ay - ah ea d   f o r ec asti n g   with   4 3 0   p o in ts   as  f o r ec ast  h o r izo n ,   o n e - week - ah ea d   p r ed ictio n   with   6 2   p o in ts   as  f o r ec ast  h o r iz o n   an d   1 0 - d ay   ah ea d   p r e d ictio n   r ep r esen tin g   4 4   p o in ts   is   u s ed .   T h e   er r o r   p er f o r m an ce   r esu lts   ar s h o wn   in   T a b le  1   a n d   c o n f ir m s   th at  th p r e d ictio n   ac c u r a cy   o f   t h p r o p o s ed   m o d el  is   b etter   th an   th o th e r   m o d els.       T ab le  1 .   Per f o r m an ce   co m p a r is o n   o f   m o d els     M o d e l   O n e - d a y - a h e a d   O n e - w e e k - a h e a d   Te n - d a y s - a h e a d   R M S E   M A P %   M A E   R M S E   M A P   %   M A E   R M S E   M A P %   M A E   A R I M A   7 . 5 4 0   3 5 . 6 1 6   5 . 7 1 9   3 1 . 3 0 1   1 5 . 6 2 5   2 2 . 4 2 4   5 7 . 0 3 4   2 6 . 9 9 7   3 9 . 0 7 7   P r o p h e t   ( F a c e b o o k )   7 . 2 3 2   3 3 . 7 6 8   5 . 5 0 4   3 1 . 0 8 9   1 5 . 7 5 7   2 2 . 9 8 2   5 6 . 7 9 2   2 6 . 6 3 9   3 7 . 9 1 9   A N N   ( K o v a k l i o g l u ,   2 0 1 1 )   7 . 0 5 4   3 0 . 6 1 0   5 . 3 9 0   3 0 . 7 3 8   1 5 . 6 1 5   2 2 . 4 2 2   5 6 . 8 0 4   2 6 . 6 9 6   3 8 . 0 5 8   ETS A N N   ( P a n i g r a h i   a n d   B e h e r a   [ 1 4 ] )   6 . 9 9 8   3 2 . 2 2 3   5 . 3 3 1   3 0 . 7 4 2   1 5 . 6 3 7   2 2 . 5 5 4   5 6 . 9 8   2 6 . 6 7 1   3 7 . 6 9 8   H o l t - W i n t e r   a n d   Ex t r e m e   L e a r n i n g   ( L i u   e t   a l .   [ 1 5 ] )   6 . 9 3 3   3 1 . 8 4 7   5 . 3 0 9   3 0 . 5 7 1   1 5 . 5 6 4   2 2 . 4 4 4   5 7 . 1 3 5   2 6 . 6 6 1   3 7 . 7 1 4   LSTM   w i t h   A t t e n t i o n   M e c h a n i sm ( L i n   e t   a l .   [ 2 1 ] )   6 . 9 1 8   3 0 . 5 1 4   5 . 3 0 5   3 1 . 3 7 7   1 5 . 9 4 7   2 3 . 3 8 5   5 7 . 4 2 6   2 6 . 4 7 6   3 6 . 9 2   P r o p o se d   A R I M A D LST M   5 . 9 0 5   2 8 . 7 8 6   5 . 2 9 2   2 7 . 5 8 7   1 2 . 5 2 8   1 8 . 3 8 2   4 3 . 2 4 6   2 4 . 2 4 6   3 0 . 6 1 3   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci,   Vo l.  24 ,   No .   2 No v em b er   2 0 2 1 1 1 0 7   -   1 1 2 0   1116   Pro p h et  was  p r esen ted   b y   f ac eb o o k   to   a d d r ess   th e   ch allen g es  ass o ciate d   with   AR I MA s   p r ed ictio n   ac cu r ac y .   Fro m   T ab le  1 ,   Pro p h et  p er f o r m ed   b etter   th an   AR I MA   in   1 - d ay   a h ea d ,   o n e - week - ah ea d ,   a n d   1 0 - d a y   ah ea d   p r e d ictio n s .   ANN  o u tp e r f o r m e d   p r o p h et  ( f ac e b o o k )   a n d   AR I MA   in   1 - d ay - a h ea d ,   o n e - week - ah ea d   an d   10 - d a y s - ah ea d   p r ed ictio n   ac cu r ac y .   C o m p ar e d   with   th o th er   b en ch m ar k   m o d els,  ANN  is   th b est p er f o r m in g   s in g le  m o d el  f o r   o n e - d a y - ah ea d   an d   o n e - week - a h ea d   p r e d ictio n s ,   h o wev er ,   f o r   1 0 - d a y   ah ea d   p r e d ictio n   Pro p h et  o u p er f o r m e d   ANN.   L STM   with   atte n tio n   s ee k in g   p r o p o s ed   in   [ 2 1 ] ,   p er f o r m ed   b etter   th an   th o th er   s in g le  an d   h y b r id   r ef er e n ce d   m o d els  in   o n e - d ay - a h ea d   p r ed ictio n ,   h o wev er ,   its   p er f o r m an ce   d eg r a d ed   in   o n e - week - ah ea d   an d   ten - d a y   ah e ad   p r ed ictio n   as  th o th er   m o d els  o u tp er f o r m ed   it.   T h o n e - d ay - ah ea d ,   o n e - week - ah ea d   an d   1 0   d ay s - ah e ad   p r ed ictio n s   ac h ie v ed   b y   th b en ch m ar k   m o d els  an d   th p r o p o s ed   AR I MA - DL STM   m o d el  ar d e p icted   in   Fig u r 3 ,   Fig u r 4 ,   an d   Fig u r e   5   r esp ec tiv ely .           ( a)   ( b )       ( c)   ( d )       ( e)   (f)     ( g )     Fig u r 3 .   T h ese  f ig u r es a r e;  ( a )   AR I MA ,   ( b )   Pro p h et  ( Face b o o k ) ,   ( c)   ANN  ( Ko v ak lio g lu ,   2 0 1 1 ) ,     ( d )   E T S - ANN  ( Pan ig r a h i a n d   B eh er [ 1 4 ] ) ,   ( e)   Ho lt - W in ter   an d   E x tr e m L ea r n i n g   ( L i u   et  a l .   [ 1 5 ] ) ,   ( f )   L STM   with   Atten tio n   Me c h an is m   ( L in   et  a l .   [ 2 1 ] .   On e - d ay - ah ea d   p r ed ictio n   o f   elec tr ic ity   co n s u m p tio n   in   k W h   attain ed   b y   th p r o p o s ed   AR I MA - DL STM   m o d el  an d   th b en ch m a r k   m o d els   Evaluation Warning : The document was created with Spire.PDF for Python.