I n d on e s i an   Jo u r n al   o f  El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   18 ,   N o .   1 ,  A p r i l   20 20 ,   p p.   150 ~ 157   IS S N :   2502 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 1 8 .i 1 . pp 150 - 157             150       Jou r n al   h o m e pa ge :  ht t p: / / i j e e c s . i a e s c or e . c om   S h o r t - t e r m   w i n d   sp e e d   p r e d i c t i o n   b a sed  o n   M L P   a n d   N A R X   n e t w o r k   m o d e l s       Y o u s r a  A m e l l as 1 ,   O u tm an   El   B a k k al i 2 ,   A b d e l o u ah e d   D je b i l 3 ,   A d i l   Ec h c h e l h 4   1 ,4 L a bo r a t o r y   o f   M a t e r i a l s   a nd   E ne r gy ,   F a c ul t y   o f   S c i e nc e ,   U n i v e r s i t y   of   K e ni t r a ,   M o r o c c o   1 , 3 L a bo r a t o r y   o f   E ne r g e t i c s ,   F l u i d   M e c ha n i c s   a nd  M a t e r i a l s ,   F a c ul t y   o f   S c i e nc e ,   U ni v e r s i t y   o f   T e t o ua n,   M o r o c c o   2 L a b o r a t o r y   of   S e m i - C o nduc t o r s   a nd   T h i n  L a y e r s ,   F a c ul t y   o f   S c i e nc e ,   U n i v e r s i t y   o f   K e ni t r a ,   M o r o c c o       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e d  J un   2 4 ,   201 9   R e v i s e d   S e p  25 ,   201 9   A c c e pt e d  O c t   16 ,   2 01 9       T he   a r t i c l e   a i m s   t o   pr e d i c t   t he   w i n d  s pe e d  by   t w o   a r t i f i c i a l   ne u r a l   ne t w o r k ’ s   m o de l s .   T he   f i r s t   m o de l   i s   a   m u l t i l a y e r   pe r c e pt r o n  ( M L P )   t r e a t e d   b y   ba c k - pr o pa g a t i o n  a l g o r i t hm   a nd  t h e   s e c o nd  o ne   i s   a   r e c ur r e n t   ne u r o n  ne t w o r k  t y pe ,   pr o c e s s e d  by   t he   N A R X   m o de l .   T he   t w o   m o de l s   h a v i ng   t he   s a m e   N e t w o r k’ s   s t r uc t ur e ,   w hi c h  t he y   a r e   c o m po s e d  by   4  I nput s   l a y e r s   ( W i nd  S pe e d ,   P r e s s ur e   T e m pe r a t ur e   a n d  H um i di t y ) ,   a n   i nt e r m e di a t e   l a y e r   de f i n e d  by   20  ne ur o ns   a nd   a n  a c t i v a t i o n  f unc t i o n,   a s   w e l l   a s   a   s i ng l e   o ut pu t   l a y e r   c ha r a c t e r i z e d  by   w i nd   s pe e d  a nd  a   l i n e a r   f unc t i o n.   N A R X   s ho w s   t he   be s t   r e s u l t s   w i t h  a   r e g r e s s i o n   c o e f f i c i e nt   R   =   0. 984   e t   R M S E   =   0. 3 14 .     Ke y w or ds :   A r t i f i c i a l   n e u r a l   n e t w o r k   D a i l y   pr e di c t i o n   M ul t i - l a y e r   pe r c e pt r o n   (M L P )   N A R X   R e c urr e nt   n e u r a l   n e t w o r k  (R N N )   C opy r i gh t   ©   2020   I n s t i t ut e   o f   A dv anc e d  E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   Y o us r a   A m e l l a s ,     L a bo r a t o r y   of   M a t e r i a l s   a nd  E n e rgy ,     F a c ul t y   of   S c i e n c e ,   U n i v e r s i t y   of   K e n i t ra ,   M o r o c c o .     E m a i l :   y o us r a . a m e @ g m a i l . c o m       1.   I N TR O D U C TI O N   T h e   fo r e c a s t   of   t h e   w i n d  s pe e d  i s   a n   e s s e n t i a l   p r o c e s s   i n   t he   m a n a ge m e nt   o f   e l e c t r i c i t y   ge n e r a t i o n  s y s t e m s   of   w i n d  o r i g i n,   i t   a l l o w s   t h e   p r o v i s i o n   o f   t h e   n e c e s s a r y   i n f o r m a t i o n   t o   e l a b o r a t e   go o d  s t ra t e g i e s   a n d   t o   a c h i e v e   t h e   pl a nn e d  o b j e c t i ve s   t o   o pt i m i z e   e ff i c i e n c y ,   de c r e a s i n g  a nd  s t a b i l i z i n g  t h e   di f f e r e n c e   be t w e e n   de m a n d  a n d  o ff e r   [1].   S e v e r a l   m e t e o r o l o gi c a l ,   m e c ha n i c a l   a n d  e l e c t ri c a l   c h a ra c t e ri s t i c s   a l l o w d  a n   o pt i m a l   e l e c t r i c   e n e r gy .   T h e   W i nd  i s   t h e   ke y   e l e m e n t   t h a t   i s   us ua l l y   c h a ra c t e ri z e d  b y   h i s   s pe e d  a n d   hi s   di r e c t i o n   w h i c h   ha v e   t h e   s t r o n g  i n f l ue n c e   o n   t h e   f i n a l   p r o duc t i o n,   o t h e r   v a ri a b l e s   a r e   t a ke n   i n t o   c o n s i de ra t i o n   a s   t h e   pr e s s u r e ,   t e m pe ra t u r e ,   h u m i d i t y   a n d   t h e   de w   po i n t   t e m pe ra t u r e ,   t h e y   a r e   a l l   u np r e di c t a b l e   a n d   r a ndo m .     T h e r e   a r e   s e v e r a l   t e c hni que s   f o r   p r e di c t i n g  a n d   a nt i c i p a t i n g   t h e   f ut u r e .   T w o   b r o a d  c a t e go r i e s   o f   a pp r o a c h e s   ha v e   be e n   de ve l o pe d,   P h y s i c a l   a pp r o a c h e s   s uc h   a s   N W P   (N um e ri c   W e a t h e r  P r e di c t o r s ),   G F S   (G l o b a l   fo r e c a s t   s y s t e m ),   H IRL A M   [2]  a r e   us ua l l y   a ppl i e d  fo r   t he   l o n g - t e rm   f o r e c a s t .   W h i l e   fo r   t h e   s h o r t - t e rm   fo r e c a s t   s t a t i s t i c a l   a pp r o a c h e s   h a v e   s h o w n   e ff e c t i v e   a n d  e ff i c i e n t   r e s ul t s .   T h e y   i n t e g ra t e   t w o   b r o a d  m e t h o ds   t i m e   s e ri e s   l i ke   A R M A ,   A R IM A ,   G r e y   P r e di c t o r s ,   L i n e a r   P r e di c t i o n s ,   A R X …  us ua l l y   c o n s i de r e d  a s   l i n e a r   m e t h o ds   t h a t   t h e y   de a l   l i n e a r   a n d   s i m pl e   m o de l s .   F o r   n o n - l i n e a r  a n d   c o m pl e x  m o de l s ,   t h e   s e c o n d  m e t h o d  w h i c h   i s   a rt i f i c i a l   i nt e l l i ge n c e   (A I)  [3]  p r e s e nt s   go o d  r e s ul t s   i n c l ude ,   a r t i f i c i a l   n e u ra l   n e t w o r ks   (A N N ),   S uppo r t   V e c t o r   M a c h i n e   (S V M ),   F u z z y   L o gi c   M e t h o ds ,   W a v e l e t   P r e di c t i o n s   [4 ,  5]   … a s   w e l l   a s   o t h e r   h y b r i d  m o de l s   a s   A N F IS .   T hi s   s t udy   de a l s   w i t h   t h e   24 - h o u r   w i n d  f o r e c a s t   t a ki n g  a s   a n   e xa m pl e   3  y e a r s   of  m e t e o r o l o gi c a l   da t a   (2015 - 2016 - 2 017)  o f   t h e   T e t o ua n   r e gi o n .   W e   c h o s e   s upe r v i s e d  l e a rni n g   f o r   o ur   r e g r e s s i o n   p r o b l e m   us i n g  t w o   di ffe r e n t   t y p e s   of   n e ur a l   n e t w o r ks .   T h e   m u l t i l a y e r   pe r c e pt r o n   (M L P )  t y pe   o f  f e e d - fo r w a r d  n e u r a l   n e t w o r k  (F N N )  b a s e d  o n   b a c k - p r o pa ga t i o n  a l go ri t hm   us i ng  L e v e n b e r g - M a r qua rdt   t r a i ni n g  f un c t i o n   (L M ).   T h e   s e c o n d  i s   N o n l i n e a r   A u t o r e g r e s s i v e   e xo g e n o us   m o d e l   (N A R X )   t y pe   of   R e c urr e nt   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       Shor t - t e r m   w i nd  s pe e d  pr e di c t i on   bas e d  on   ML P   a nd  NA R X   ne t w or k   m ode l s   ( Y ous r a  A m e l l as )   151   n e u r a l   n e t w o r k  (R N N )  b a s e d  o n   T i m e   s e r i e s   us i n g  S c a l e d  Co n j uga t e   G ra d i e nt   (S G C)  t r a i n i ng  f un c t i o n   [6].   W e   fo un d  t ha t   t h e   l a t t e r  l e a ds   t o   b e t t e r   r e s ul t s .   T o   e v a l ua t e   t h e   pe r f o r m a n c e   o f   t h e   m o de l   a n d  s e l e c t   a   b e t t e r  s t ruc t u r e .   W e   ha v e   b a s e d  o n   M S E   a nd  R M S E   e s t i m a t o r s .       2.   R ES EA R C H   M ET H O D     2. 1 .       M e te o r o l o gi c al   D ata   T hr o ug h   t hi s   s t udy   w e   w a nt   t o   c h o o s e   t h e   m o s t   pe r f o r m i n g   p r e di c t i v e   m o de l   of   t h e   da i l y   w i n d  s pe e d  of   T e t o ua n   s i t e .   M e t e o r o l o gi c a l   da t a   o f  t h e   T e t o ua n   s i t e   ha v e   be e n   t a k e n   e v e r y   da y   fo r   t hr e e   y e a r s ,   2015 - 2016 - 2017 ;   t h e y   a r e   o b t a i n e d  f r o m   t h e   s i t e   h t t ps : / / w w w . h i s t o r i que - m e t e o . n e t / a f r i que / m a r o c / t e t o ua n/ .     T h e   T a b l e   1  m e t e o r o l o gi c a l   da t a s h e e t   i n c l ude s   t h e   da t e   ( T IM E )  da y   by   da y ,   W i n d  s pe e d  (W S )  i n   m / s ,   T e m pe ra t u r e   (T M P )  i n   ° C ,   A t m o s p h e ri c   pr e s s ur e   (A T M )  i n   h P a ,   D e w   p o i n t   t e m pe r a t u r e   (D E W )  i n   ° C  a nd  H um i di t y   ( H )  i n   % .   A l s o   t h e   t a b l e   p r e pr o c e s s e s   m e t e o r o l o gi c a l   da t a   t o   f a c i l i t a t e   t h e i r   us e     a n d  e xp l o i t a t i o n  [7] .   O ur   m e t e o r o l o gi c a l   d a t a   w a s   p r o c e s s e d  by   E xc e l   s of t w a r e   a s   w e l l   a s   t h e   m o de l i n g  w a s   do n e   by   N N T O O L   fo r   M L P   a n d  N N S T A R T   f o r   N A R X   o n   M A T L A B   s of t w a r e .   M o r e o ve r ,   m e t e o r o l o gi c a l   da t a   pr e t r e a t m e nt   s i m pl i f i e s   t h e   c h o i c e   of   t h e   pa ra m e t e r s   of   t h e   pre di c t i v e   m o de l s .   T o   a v o i d  e xpe n s i v e   c a l c ul a t i o n,   i t ’s   p r e f e r a b l e   t o   m i ni m i z e   t h e   n um b e r  o f   m o de l ' s   i n pu t   v a r i a b l e s .       T a b l e   1 .   P r e s e n t a t i o n  o f   t h e   W e a t h e r  D a t a   S h e e t   o f   T e t o ua n   D a t e   W i n d   S p e e d   ( m / s )   P re s s u r e   ( h P a )   T e m p e ra t u re   ( ° C)   H u m i d i t y   ( % )   D e w   p o i n t   t e m p e ra t u re   ( ° C)               3 0 / 1 2 / 2 0 1 7   1 , 6 6 6 6 6 6 6 6 7   1028   15   74   13   2 9 / 1 2 / 2 0 1 7   3 , 6 1 1 1 1 1 1 1 1   1024   15   87   13   2 8 / 1 2 / 2 0 1 7   6 , 6 6 6 6 6 6 6 6 7   1024   13   86   12   2 7 / 1 2 / 2 0 1 7   10   1027   10   87   12   2 6 / 1 2 / 2 0 1 7   6 , 9 4 4 4 4 4 4 4 4   1028   12   83   10   2 5 / 1 2 / 2 0 1 7   1 , 9 4 4 4 4 4 4 4 4   1031   12   66   11   2 4 / 1 2 / 2 0 1 7   3 , 6 1 1 1 1 1 1 1 1   1032   12   86   11   2 3 / 1 2 / 2 0 1 7   2 , 7 7 7 7 7 7 7 7 8   1037   14   62   7   2 2 / 1 2 / 2 0 1 7   2 , 7 7 7 7 7 7 7 7 8   1037   12   69   8   2 1 / 1 2 / 2 0 1 7   5 , 5 5 5 5 5 5 5 5 6   1032   11   69   7   2 0 / 1 2 / 2 0 1 7   5 , 2 7 7 7 7 7 7 7 8   1029   11   75   8       2. 2 .      N e u r al   N e tw o r k   A   n e u ra l   n e t w o r k  i s   a   m o de l   w h i c h   i s   de s c ri b e d  us ua l l y   by   m a n y   c o m po n e n t s .   U s ua l l y   c h a r a c t e r i z e d  by   i n pu t s   ( x 0 , …   , x j )   c o m e   f r o m   pr e v i o us   n e u r o n,   e v e r y   i n pu t   i s   a s s oc i a t e d  t o   a   w e i ght     r e p r e s e n t i n g  c o n n e c t i o n   s t r e n gt h,   t h e i r   v a l ue s   a r e   c a l c ul a t e d  i n   t h e   l e a rni n g  p h a s e   i n   h i dde n   l a y e r ,   i t   i s   c o n s t i t u t e d  of  s e v e r a l   n e u r o n s   a s   w e l l   a s   a c t i v a t i o n   f u n c t i o n   a =   ∑ ( w ij . x i ) ( x j   pr e s e nt   t h e   i n pu t s   o f   t h e   n e t w o r k,   a nd  w ij   pr e s e nt   t h e   w e i gh t s   a s s o c i a t e d  t o   e a c h   n e u r o n )  i t   c a n   b e   pr e s e n t e d  i n   d i f fe r e nt   t y pe s ,   t h e   m o s t   us e d  a r e ,   l i n e a r  f un c t i o n,   h y pe r bo l i c - t a n ge nt   e t   s i gm o i d  f un c t i o n,   a n d  a n   o ut put   l a y e r   ge n e ra l l y   c h a r a c t e r i z e d  by   a     l i n e a r  f un c t i o n   [8 - 9] .   F o r m a l   n e u r o n  p r e s e n t a t i o n   a s   s h o w n   i n  F i gu r e   1.           F i gu r e   1 .   F o rm a l   n e u r o n   p r e s e n t a t i o n         :   I n pu t .     :   Co nn e c t i o n   w e i ght .   ∑    :   T h e   w e i g h t e d  s u m   o f   t h e   I n p ut s   w e i gh t e d   by   .     :   A c t i v a t i o n   f u n c t i o n.     :   T hr e s h o l d.     :   O ut pu t .       … … … ∑        =  ( ∑      )      Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     1 5 0   -   1 5 7   152   A s   pr e v i o us l y   m e n t i o n e d  w e   us e d  t w o   t y p e s   of   n e ur a l   n e t w o r ks .   T h e   M L P   [10]  i s   a   c l a s s i c   n e u r o n  n e t w o r k  w h i c h   c o n s i s t s   o f   a n   i n pu t ,   hi dde n   a n d   a n  o ut put   l a y e r s   b a s e d  o n   t h e   e rr o r  b a c kpr o pa g a t i o n  a l go ri t hm   w hi c h   i s   m a i nl y   b a s e d  o n   t h e   g r a d i e n t   de s c e n t   a l g o r i t hm .   T h e   b a c kpr o pa g a t i o n   a l go r i t hm   m e a s u r e s   t h e   e rr o r   b e t w e e n   t h e   de s i r e d  o ut put   d  a nd  o ut put s   O   c a l c ul a t e d  by   t h e   n e t w o r k.   T o   m i ni m i z e   t h e   e rr o r,     t h e   i n f o r m a t i o n   i s   pr o pa ga t e d  f r o m   t h e   o ut put   t o   t h e   i n p ut   by   a dj us t i n g  t h e   w e i gh t s   [11] .   T h e r e   a r e   o t h e r   t y p e s   of   c l a s s i c a l   n e u r a l   n e t w o r ks   t ha t   b e l o n g  t o   b a c kpro pa ga t i o n   f a m i l y   a s :   A da l i n e   (A da p t i v e   L i n e a r   N e ur o n ) ,   M a da l i n e   (M ul t i - A d a l i n e )  a l s o   RB F   (R a di a l   B a s i s   F un c t i o n )  i s   s t ruc t u r a l l y   s a m e   a s   p e r c e pt r o n   M L P .   E x a m pl e   o f   m ul t i l a y e r   pe r c e pt r o n  w i t h   a   hi dde n  l a y e r   a n d  a n  o ut put   l a y e r   a s   s h o w n   i n  F i g u r e   2 .           F i gu r e   2 .   E xa m p l e   o f   m ul t i l a y e r   pe r c e pt r o n   w i t h  a   hi dde n   l a y e r   a n d   a n  o ut put   l a y e r       W h i l e   N A R X   i s   a   t y pe   of   r e c urr e nt   n e u r a l   n e t w o r k  w h o   ha s   t h e   s a m e   t ra i ni n g  t e c hn i q ue s   t h a t   c l a s s i c a l   n e t w o r ks   b a s e d  o n   t h e   gra di e n t   b a c k - p r o pa g a t i o n   a l go r i t hm .   T o   c o m pa r e   t h e   t w o   t y p e s   of   n e t w o r ks   w e   ke e p  t h e   s a m e   s t ruc t u r e   o f   t h e   n e t w o r k.   N A R X   i s   c h a ra c t e r i z e d  by   i t s   gr e a t   po w e r   t o   a n a l y z e   n o n - l i n e a r   t i m e   s e r i e s   l i ke   dy n a m i c   s y s t e m s   a s   w e l l   a s   t h e   de s c e n t   g ra d i e nt   a l go ri t hm   b e ha v e s   e ff i c i e n t l y   a nd  c o n v e r ge s   qui c kl y   t h a n   i n   o t h e r   n e t w o r ks .   T h e r e   a r e   o t h e r s   t y pe s   of   de e p  R N N   c a l l e d  E l m a n   N e u r a l   N e t w o r k  [12]  L S T M   (L o n g  S h o r t - T e r m   M e m o r y )  [13]  a n d   G R U   (G a t e d  Re c ur r e nt   U n i t ) .   E xa m pl e   o f   N A R X - N N   s t r uc t u r e   (c l o s e   l oo p   a n d   o pe n  l o o p )   a s   s h o w n   i n  F i gu r e s   3   a n d   4 .                           F i gu r e   3 .   E xa m p l e   o f   N A R X - N N   s t ruc t u r e     (c l o s e   l oo p)     F i gu r e   4 .   E xa m p l e   o f   N A R X - N N   s t ruc t u r e     (o pe n   l o o p)       S o m e   s t udi e s   c a s e   h a s   b e e n   a n a l y z e d  by   N A R X   f o r   H o ur l y   S o l a r   R a d i a t i o n   P r e di c t i o n.   O f   c o ur s e ,   t h e r e   a r e   o t h e r s   c a s e   s t ud i e s   w h o   h a v e   us e d  N A R X   fo r   f o r e c a s t i n g   w i n d  s pe e d.     E r a s m o   & W i l f r i do   [14]   di d  t h e   s t udy   o n   t w o   s i t e s   i n   M e xi c o   c o m pa r i n g   t w o   w i n d  s pe e d  p r e di c t i o n   m o de l s   un i v a r i a t e   m o de l   de ve l o pe d  by   A R IM A   a n d  t h e   m ul t i v a ri a t e   m o de l   de v e l o pe d  by   N A R X .   N A R X   pr e s e nt e d  a c c u r a t e   r e s ul t s .     H i d d e n   L a y e r O u tp u t  . . . . . . . . . . I n p u t (       ) (       ) (         ) y (       ) y (       ) y (         )   (   ) Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       Shor t - t e r m   w i nd  s pe e d  pr e di c t i on   bas e d  on   ML P   a nd  NA R X   ne t w or k   m ode l s   ( Y ous r a  A m e l l as )   153   Z i na   &   O c t a v i a n  [15 ]  d i d  t h e   s t udy   o n   P r e di c t i o n   o f   da i l y   di r e c t   s o l a r   ra di a t i o n   us i n g  N A R X   m o de l a n d  t h e y   c o n c l ude d  t h a t   t h e   m o de l   s h o w s   pow e r f ul   r e s ul t s   i n  t h e   pe ri o di c a l   t ra i ni n g   p h a s e .     M .   A .   H a m da n  &   E .   A b de l ha f e z   [16]  pe r f o r m e d  t h e   p r e di c t i o n   o f   h o ur l y   s o l a r   ra di a t i o n   i n   A m m a n   w i t h   t hr e e   t y p e s   of   n e ur o n s   n e t w o r k:   N A R X ,   F e e dfo r w a r d  a n d  E l m a n.   F o r   t h e i r   s t udy   c a s e   t oo ,   N A R X   w a s   be t t e r   a n d   s h o w e d  t h e   b e s t   r e s ul t s   i n  t ra i ni n g  a n d  v a l i d a t i o n   p e r i o d  o f   s o l a r   da t a   p r e d i c t i o n  c o m pa r e d  t o     o t h e r  n e t w o r ks .     T o   e v a l ua t e   t h e   s o l a r   ra d i a t i o n  o f   t h e   M ut a h   c i t y   Y a z e e d  &   K ha l e d  [17]  ha v e   b ui l t   s e v e n   di f f e r e n t   m o de l s   of   N A R X   n e t w o r k  by   m o di fy i n g  i n pu t   pa ra m e t e r s ,   t h e   num b e r   o f   n e u r o n s   a nd  t h e   num b e r   o f   T i m e   D e l a y .   T h e   r e s ul t s   s h o w e d  t h a t   t h e   m o de l   h a s   t hr e e   pa ra m e t e r s :   t e m pe ra t u r e ,   hum i di t y   a n d  w i n d  s pe e d  i s   t h e   m o s t   a de qu a t e   t o   p r e di c t   t h e   s o l a r  r a d i a t i o n.     L ub n a   &   M o h a m m e d   [18]  a l s o   us e d  t h e   N A R X   m o de l   fo r   h o url y   s o l a r   ra d i a t i o n   i n   A m m a n.     T o   e v a l ua t e   t h e   N A R X   m o de l a nd  e xa m i n e   hi s   pe r f o r m a n c e ,   t h e y   h a v e   ke pt   t h e   s a m e   m o de l   s t ruc t u r e   b y   m o di fy i n g  t h e   t r a i n i ng  a l go ri t hm s   a s :   L M   (L e v e n be rg - M a r qu a r dt ),   R P   (R e s i l i e nt B a c kpr o pa ga t i o n ) ,     S CG   (S c a l e d  C o n j uga t e   G ra d i e nt ),   CG P   (Co n j uga t e   G r a d i e nt   w i t h   P o l a k - R i b i é r e   upda t e s ),   CG F   (Co n j uga t e   G ra di e n t w i t h   F l e t c h e r - R e e ve s   upda t e s ),   CG B   (Co n j uga t e   G ra di e n t   w i t h   P o w e l l - B e a l e   r e s t a rt s )  a n d  O S S   (O n e - S t e p   s e c a n t   b a c kp r o pa ga t i o n ) .   T h e   b e t t e r   t r a i n i ng  a l go ri t hm   w a s   L M .     T h e r e   a r e   o t h e r   t y pe s   of   n e t w o r ks   by   w h i c h   w e   c a n  fo r e c a s t   t h e   w i n d  s pe e d  l i ke   CN N   (Co n v o l ut i o n a l   N e u r a l   N e t w o r k).   T h e r e   a r e   a l s o   o t h e r s   l e a rn i ng  a l go r i t hm s   a s   S V R   [19],   S V M   [2 0],     F uz z y   L o gi c s   [21] ,   A N F IS   [22 ],   G e n e t i c   a l go ri t hm s   [2 3] .      2. 3 .       I n p u t  V ar i ab l e s   P r e t r e a t m e n t   o f   m e t e o r o l o gi c a l   da t a   w a s   c a rri e d  o ut   i n   t o   f a c i l i t a t e   m o de l i n g  o n   N N T O O L   (N e ura l   N e t w o r k  T o o l ).   T o   o pt i m i z e   t h e   i n p ut   n u m b e r   o f   o ur   n e u ra l   n e t w o r k  a n d  a v o i d  t h e   e xpe n s i v e   c a l c ul a t i o n   c r e a t e d  by   a l l   t h e   v a r i a b l e s   l i s t e d  b e l ow   w e   c a l c ul a t e d  t h e   c o rr e l a t i o n   c o e ff i c i e n t s   b e t w e e n   t h e     i n put   v a r i a b l e s .   In   T a b l e   2 ,   w e   ob s e r v e   t h a t   t h e r e   i s   a   s t r o ng  c o rr e l a t i o n   b e t w e e n   t e m pe ra t u r e   a n d  de w   po i n t   t e m pe ra t u r e ,   w i t h   t h e   hi g h e s t   c o rr e l a t i o n   c o e f f i c i e n t   0 , 6 76  c l o s e   t o   1  t h a t   m e a n s   t ha t   t h e   de w   po i n t   t e m pe ra t u r e   ha s   t h e   s a m e   c h a ra c t e r i s t i c s   a s   t e m pe ra t u r e   a n d   i t   w o n ’t   h a v e   i n f l ue n c e   o n   t h e   t ra i ni n g .   T hi s   i s   t h e   r e a s o n  t ha t   a l l o w s   us   t o   n e gl e c t   de w   po i n t   t e m pe r a t u r e   v a ri a b l e .         T a b l e   2 .   P r e s e n t a t i o n  o f   Co r r e l a t i o n   Co e f f i c i e n t s   b e t w e e n   V a ri a b l e s   V a r i a b l es   W i nd  S pe e d   P r e s s u r e   T e m pe r a t ur e   H um i di t y   D e w   po i n t   t e m p e r a t u r e   W i nd  S pe e d   1   - 0, 0139 5912 9   - 0, 3584 4039 6   0, 16 3211 507   - 0, 2094 0145 3   P r e s s u r e       1   - 0, 3425 5043 6   - 0, 1566 5098 5   - 0, 4889 6021 5   T e m pe r a t ur e         1   - 0, 1968 9524   0, 67 6457 342   H um i di t y           1   0, 39 2057 985   D e w   po i n t   t e m p e r a t u r e             1       3.   R ES U LTS   A N D   D I S C U S S I O N   T h e   n e u r a l   n e t w o r k  ha s   b e e n   e s t a b l i s h e d  w i t h   t w o   di f fe r e nt   t y p e   of   n e ur o n   n e t w o r ks   (M L P )  a nd  (R N N )  w i t h   t w o   di ff e r e n t   a l go r i t hm s ,   L e v e n be r g - M a rqu a r dt   b a c k - p r o pa ga t i o n   a n d  S c a l e d  Co n j ug a t e   G ra di e n t   (S CG )   s uc c e s s i v e l y   [24].   A f t e r   s e ve r a l   t r y   w e   c h a n ge d  e v e r y - t i m e   t h e   n um b e r  o f   i n p ut s ,   f r o m   3  i n pu t ;   W i nd  s pe e d  a t   (t - 1),   P r e s s ur e   a t   (t - 1 )  a n d  T e m pe r a t u r e   a t   ( t - 1)  ;   t o   4  i n put s ;   W i nd  s pe e d  a t   (t - 1) ,   P r e s s u r e   a t   ( t - 1) ,   T e m pe ra t u r e   a t   (t - 1)  a n d  h u m i di t y   a t   (t - 1);   w e   c h a n ge d  a l s o   t h e   n um b e r s   o f  n e u r o n s   o f   h i dde n  l a y e r   b e t w e e n   5  n e u r o n s   a n d   25  n e ur o n s   w e   f o un d  t h a t   t h e   n e t w o r k  w h o   ha s   4  i n pu t s ;   W S   a t   ( t - 1) ,   A L T M   a t   ( t - 1)  a n d  T M P   a t   (t - 1)  a nd  H   a t   (t - 1) ;   w i t h  20   n e u r o n s   o n  h i dde n  l a y e r   p r e s e nt   t h e   b e t t e r  pe r f o r m a n c e s .   T h e   e rr o r   M S E   (M e a n  S qu a r e   E rr o r )  a nd  R M S E   (R o o t   M e a n   S q ua r e   E rr o r )  s h o w   t h e   d i f fe r e n c e   b e t w e e n   t h e   de s i r e d  o ut pu t   a nd  c a l c ul a t e d  o ut put .   T h e y   h a v e   b e e n   a pp l i e d  f o r   a l l   t h e   c a s e s   m e nt i o n e d  b e fo r e   (f r o m   3  i n pu t   t o   4  i n pu t s ,   f r o m   5  n e u r o n s   t o   25  n e ur o n s ) .   T h e   T a b l e   3  pr e s e nt   t h e   b e s t   c a s e   f o un d  a c c o r di n g   t o   t h e   t e s t s ,   a n d  s i n c e ,   w e   c a n   c o n c l ude   t ha t   a   n e u r a l   n e t w or k  w i t h   4  i n put s   a nd  25  n e u r o n s   i n   hi dde n   l a y e r   pr e s e nt s   t h e   b e s t   c a s e .   W e   n o t i c e   i n   F i g u r e   5  t h a t   t h e   v a l ue s   of   R   i n   t h e   t hr e e   t ra i ni n g   p h a s e ,   T ra i ni n g ,   V a l i d a t i o n   a n d  T e s t   a r e   0 . 402 1,   0. 4 5163  a n d  0 . 52 008  s uc c e s s i v e l y   a r e   v e r y   w e a k.   T h i s   s h o w s   t h a t   t h e   m o de l   i s   u na b l e   t o   pr e d i c t   c o rr e c t l y   a n d   a c h i e v e   t o   pe r f o r m i ng  re s ul t s .   G e n e ra l l y ,   w e   fo un d  t h a t   t h e   L M   b a c k - pr o pa g a t i o n  m e t h o d  g i v e s   w e a k  r e s ul t s   w i t h  R   =   0 . 4246 .         Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     1 5 0   -   1 5 7   154   T a b l e   3 .   T a b l e   A l l o w s   t o   F i n d  t h e   B e s t   N e t w o r k’s   A r c hi t e c t u r e     3   In p u t s   4   In p u t s     M S E   RM S E   M S E   RM S E   5   N e u ro n s   2 , 2 2 9 3 3 1 9 5   1 , 4 9 3 0 9 4 7 6   2 , 2 5 2 0 8 9 7 9   1 , 5 0 0 6 9 6 4 3   1 0   N e u ro n s   2 , 2 4 5 1 4 9 0 2   1 , 4 9 8 3 8 2 1 3   2 , 2 5 6 3 0 6 5 3   1 , 5 0 2 1 0 0 7 1   1 5   N e u ro n s   2 , 2 3 3 8 4 9 1   1 , 4 9 4 6 0 6 6 7   2 , 2 7 7 5 0 3 1 2   1 , 5 0 9 1 3 9 8 6   2 0   N e u ro n s   2 , 2 1 8 4 7 1 0 2   1 , 4 8 9 4 5 3 2 6   2 , 1 9 3 1 8 0 5 1   1 , 4 8 0 9 3 9 0 6   2 5   N e u ro n s   2 , 2 0 4 5 5 4 2 8   1 , 4 8 4 7 7 4 1 5   2 , 2 3 4 5 4 5 5 6   1 , 4 9 4 8 3 9 6 4       W i t h     M S E   =     ∑   (   )       R M S E   = √   ∑   (   )       O :   C a l c ul a t e d  O u t pu t   d:   D e s i r e d  O u t put   T h e r e   a r e   o t h e r s   s t a t i s t i c a l   e rr o r  m o de l s   t o   a n a l y s i s   di ff e r e n t   a l go ri t hm s   a s :   a)   R ² :   Co e ff i c i e n t   de   de t e rm i na t i o n .   b)   M B E :   M e a n   B i a s   E rr o r.   T o   o pt i m i z e   t h e   fo r e c a s t ,   i m p r o v e   p e r f o r m a n c e ,   a n d  m i n i m i z e   t h e   e r r o r   by   c h a ngi n g  t h e   w e i gh t s ,     w e   e v a l ua t e d  t h e   n e t w o r ks   (M L P )   a nd  (R N N )  by   t w o   di f fe r e nt   a l go r i t hm s :   a)   L e v e n b e r g - M a r qua rdt   b a c k - p r o pa ga t i o n:   b a s e d  o n  G r a di e n t   B a c k - pr o pa ga t i o n .   b)   S c a l e dCo n j uga t e   G ra di e nt   a l go r i t hm   (S CG ):   b a s e d  o n  Co n j u ga t e   G ra di e n t .   c)   1s t   c a s e :   L e v e n b e r g - M a r qu a r dt   b a c k - p r o pa ga t i o n           F i gu r e   5 .   P r e s e nt a t i o n  o f   M L P   w i t h   b a c k  P r o pa g a t i o n   L e v e n b e r g - M a r qu a r dt   A l go r i t h m       T h e   f i gur e s   b e l ow   pr e s e n t   t h e   t r a i n i ng  s t e ps   of   t h e   M L P   n e t w o r k.   F i r s t l y ,   T r a i n i ng  i s   us e d  t o   f i t   t h e   m o de l   i t   m e a n s   t ha t   t h e   m o de l   m us t   s e e s   a n d  l e a rn s   t h e   da t a .   S e c o n dl y ,   V a l i da t i o n   i s   us e d  t o   a ppl y   a n   e v a l ua t i o n  o f   t h e   f i t   of   t h e   m o de l   w h e n   s e t t i n g  p a ra m e t e r s .   T h e   go a l   i s   t o   a dj us t   t h e   pa ra m e t e r s   (w e i gh t   a n d   b i a s )  t o   f i n d  a   po w e r f ul   m o de l .   F i na l l y ,   T e s t   s t e p  t h a t   m a k e s   t h e   l a s t   e v a l u a t i o n   o n   t h e   m o de l   s o   t h a t   i t   i s   m o r e   o r g a ni z e d  [ 25] .                 F i gu r e   5 .   R e gr e s s i o n  r a t e   p r e s e n t a t i o n  f o r   l e v e n b e r g - m a r qu a rdt   b a c k  p r o pa g a t i o n       F i gu r e   6  s h o w s   t h e   b i g  di ff e r e n c e   b e t w e e n   t h e   pr e di c t i o n   o f   t h e   w i n d  s pe e d  by   t h e   m o de l   a n d  t h e   r e a l   w i n d  s pe e d.   W e   c a n   s e e   ve r y   w e l l   t h e   di f fe r e n c e   b e t w e e n   t h e   t w o   s e r i e s .   2 n d  c a s e :   S c a l e d  Co n j uga t e   G ra di e n t   (S CG ) .  P r e s e n t a t i o n   o f   N A R X   w i t h   S c a l e d  C o n j uga t e   G ra di e nt   a l go r i t h m   (S CG )   a s   s h o w n     i n   F i gu r e   7 .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       Shor t - t e r m   w i nd  s pe e d  pr e di c t i on   bas e d  on   ML P   a nd  NA R X   ne t w or k   m ode l s   ( Y ous r a  A m e l l as )   155       F i gu r e   6 .   W i nd  s pe e d  p r e di c t i o n  g r a p h   w i t h  L e v e n be r g - M a rq ua r dt   b a c k - p r o pa ga t i o n  m o de l           F i gu r e   7 .   P r e s e nt a t i o n  o f   N A R X   w i t h  S c a l e d  Co n j uga t e   G r a d i e nt   a l go r i t hm   (S CG )       O ur   N A R X   m o de l   h a s   4  e xo ge n o us   i nput s   i n   i nput   l a y e r,   20  n e u r o n s   a nd  h y pe r bo l i c   t a n ge n t   f un c t i o n   w i t h  2  de l a y s   t i m e   i n   hi dde n   l a y e r ,   a n d   1  e n do ge no us   o ut put   w i t h   l i n e a r  f un c t i o n   i n   o ut pu t   l a y e r .   F i gu r e   8  pr e s e n t s   t h e   pe r f o r m a n c e   of  t h e   N A R X   m o de l   t r e a t e d  by   S c a l e d  Co n j uga t e   G ra di e n t .   W h o s e   R  i s   pr e s e nt e d  by   0. 98454 ,   0 . 984 08  a n d  0. 98 598  i n   t r a i n i ng,   v a l i d a t i o n   a n d  t e s t   pe r i o d  r e s pe c t i v e l y .   In   c o m pa ri s o n   w i t h   t h e   L M   m o de l ,   N A R X   da t a   a r e   i de nt i c a l   t o   r e a l   w i n d  s pe e d  da t a   w i t h  R =   0. 9 8454 .   T h e   p r e s e n t a t i o n   o f  t h e   t w o   s e r i e s ;   p r e di c t   w i n d  s pe e d  a n d  r e a l   w i n d  s pe e d;   t h e   F i gur e   9  b l ow   c o n f i r m s   t ha t   t h e   N A R X   m o de l   s h o w s   a   h i g h  pe r f o r m a n c e   i n   w i n d   s pe e d  p r e di c t i o n.     In  T a b l e   4  w e   c h o s e   R M S E   (  R o o t   M e a n   S qu a r e   E rr o r   )  b e c a us e   i t ’s   us ua l l y   a ppl i e d   i n  c l i m a t o l o g y ,   fo r e c a s t   a n d   r e s gr e s s i o n  a na l y s i s   c a s e s   t o   v e r i fy   r e s ul t s   i n  o r de r   t o   de m o n s t ra t e   t h a t   N A R X   m o de l   i s   m o r e   e ffe c t i ve   t ha n  t h e   M L P   m o de l   f o r   o ur  s t udy   c a s e .                   F i gu r e   8 .   R e gr e s s i o n  r a t e   p r e s e n t a t i o n  f o r   s c a l e d  c o n j uga t e   g ra di e n t       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i ,   V o l .   18 ,   N o .   1 ,  A p r i l   20 20  :     1 5 0   -   1 5 7   156       F i gu r e   9 .   W i nd  s pe e d  p r e di c t i o n  g r a p h   w i t h  N A R X   m o de l       T a b l e   4 .   S t a t i s t i c a l   E rr o r s   G e n e ra t e r e d  b y  t h e   M L P   A n s   N A R X   M o de l s   M o d e l   RM S E   M L P   1 , 4 8 0 9 3 0 6   N A R X   0 , 3 1 4 5 5 6 2 1       4.   C O N C LU S I O N   W i n d   s pe e d  da i l y   fo r e c a s t   o f   T e t o ua n   r e gi o n,   ha s   b e e n   d o n e   by   t w o   a rt i f i c i a l   n e u r a l   n e t w o r ks ,   m ul t i l a y e r   pe r c e pt r o n   m o de l   (M L P )  a nd  r e c urr e n t   n e u ra l   n e t w o r k  (R N N ),   w h i c h   t h e y   ke e p  t h e   s a m e   s t r uc t u r e   de f i n e d  by   f o ur   i n pu t s   v a r i a b l e s   de f i n e   t h e   i nput   l a y e r   V (t - 1) ,   P (t - 1) ,   T( t - 1) a n d   H (T - 1),   a   h i d de n  l a y e r   c h a ra c t e ri z e d  by   20  n e ur o n s   a n d  a n   a c t i v a t i o n   f un c t i o n .   W i n d  s pe e d  a t   t h e   i n s t a nt   (t )  de f i n e s   t h e   o ut put   l a y e r .   W e   us e d  t w o  di ff e r e n t   a l go ri t hm s ,   L e v e n b e r g - M a r qua rd t   B a c k - pr o pa g a t i o n   t ha t   i t   ga v e   l ow   r e s ul t s   R =   0, 4246 ,   a nd  m o de l   N A R X   t ra i n e d  by   S c a l e d  Co n j uga t e   G r a d i e nt .   T h i s   l a s t   ga v e   goo d  r e s ul t s   w i t h     R =   0. 9845 4.   T h e r e f o r e ,   w e   c a n   b e   c o n c l ude d  t ha t   N A R X   e ff e c t i v e l y   t r e a t s   n o nl i n e a r  a nd  c o m pl e x  p r o b l e m s   b e t t e r   t ha n  M L P s .       R EF ER EN C ES   [ 1]   R .   B a ï l e .   " A na l y s e   e t   m o dé l i s a t i o n  m ul t i f r a c t a l e s   de   v i t e s s e s   d e   v e nt .   A ppl i c a t i o n  à   l a   p r é v i s i o n  de   l a   r e s s o ur c e   é o l i e n ne .   O c é a n,   A t m o s phè r e , "   U ni v e r s i t é   P a s c a l   P a o l i ,   ( 2010 ) .     [ 2]   M .   L e i ,   e t   a l . ,   " A   r e v i e w   o n  t he   f o r e c a s t i ng   o f   w i nd  s pe e d  a n d  g e ne r a t e d  po w e r , "   R e ne w abl e   and  Sus t ai nab l e   E ne r gy   R e v i e w s   13,   91 5 - 920   ( 2 009 ) .     [ 3]   Y .   W a ng ,   e t   al . ,   " R e v i e w   o n  S t udi e s   a nd  A dv a nc e s   o f   M a c hi n  L e a r ni ng   A ppr o a c he s , "   T E L K O M N I K A   ( I ndone s i an  J our nal   o f   E l e c t r i c a l   E ngi ne e r i ng) .   201 4;   12 ( 2 ) :   1487 - 1494 .     [ 4]   X .   W a ng ,   e t   a l . ,   " A   r e v i e w   o f   W i nd   P o w e r   F o r e c a s t i ng   M o de l s , "   E n e r gy   P r o c e di a   12 ,   7 70 - 778   ( 2011 ) .     [ 5]   C o s t a ,   e t   a l . ,   " A   r e v i e w   o n  t h e   y o ung   hi s t o r y   of   t he   w i nd  po w e r   s ho r t - t e r m   p r e di c t i o n, "   R e ne w abl e   and  Su s t a i n abl e   E ne r gy   R e v i e w s   12,   17 25 – 1 744   ( 2008 ) .     [ 6]   G .   Z h a ng ,   e t   al . ,   " F o r e c a s t i ng   w i t h   a r t i f i c i a l   ne u r a l   n e t w o r k s :   T he   s t a t e   o f   a r t , "   I n t e r na t i ona l   J our nal   o f   F or e c as t i ng  14 ,   3 5 - 62  ( 19 98) .     [ 7]   A .   S a l a m i ,   e t   a l . ,   " P r é d i c t i o n  de   l a   m oy e nne   ho r a i r e   de   l a   v i t e s s e   du  v e nt   s ur   l e   s i t e   de   L o m é   pa r   r é s e a u  d e   ne ur o ne s , "   V o l .   2( 1) ,   I S S N   23 12 - 8712   J une   ( 2017 ) .     [ 8]   K .   S r e e l a ks hm i ,   e t   a l . ,   " N e ur a l   N e t w o r k s   f o r   S ho r t   T e r m   W i nd  S pe e d   P r e d i c t i o n, "   W or l d  A c ade m y   o f   Sc i e nc e ,   E ngi ne e r i n g  and   T e c hno l og y   I n t e r na t i o nal   J our nal   o f   C om pu t e r   a n d  I nf o r m a t i o n  E ng i ne e r i ng .   V o l : 2,   N o : 6  ( 2008 ) .     [ 9]   M .   B i l g i l i ,   e t   al . ,  " A ppl i c a t i o n  o f   a r t i f i c i a l   ne ur a l   ne t w o r ks   f o r   t he   w i nd  s p e e d  p r e d i c t i o n  o f   t a r g e t   s t a t i o n  us i ng   r e f e r e nc e   s t a t i o ns   da t a , "   R e ne w abl e   E ne r gy ,   32 ,   235 0 - 2360   ( 2007 ) .   [ 10]   M .   W .   G a r dn e r ,   e t   al . ,  " A r t i f i c i a l   N e u r a l   N e t w o r k s   ( T h e   m ul t i l a y e r   pe r c e p t r o n) - A   r e v i e w   of   A ppl i c a t i o n  i n  t he   a t m o s phe r i c   s c i e nc e s , "  S c ho o l   o f   E n v i r o nm e nt a l   S c i e nc e s ,   U n i v e r s i t y   of   E a s t   A ng l i a ,   N o r w i c h,   N o r f o l k  N R 4  7T J ,     U K   ( 19 98 ) .     [ 11]   S .   B e nka c hc ha ,   e t   a l . ,  " S e a s o na l   T i m e   S e r i e s   F o r e c a s t i ng   M o de l s   b a s e d  o n  A r t i f i c i a l   N e ur a l   N e t w o r k , "   I nt e r n at i on al   J o ur n al   o f   C om put e r   A pp l i c a t i ons ,   ( 0 975 - 888 7)   V o l u m e   11 6 - N o .   20   A pr i l   ( 201 5) .     [ 12]   M .   Y u he nd r i ,   e t   al . ,  " M a x i m um   O u t pu t   P o w e r   T r a c k i ng   o f   W i nd  T ur b i n e   U s i ng   I nt e l l i g e n t   C o nt r o l , "   T E L K O M N I K A   ( I ndone s i an   J o ur n al   o f   E l e c t r i c al   E n gi ne e r i n g) .   20 1 1;   9( 2) :   217 - 226 .     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a n  J   E l e c   E ng  &   Co m p  S c i     IS S N :   2502 - 4752       Shor t - t e r m   w i nd  s pe e d  pr e di c t i on   bas e d  on   ML P   a nd  NA R X   ne t w or k   m ode l s   ( Y ous r a  A m e l l as )   157   [ 13]   Q .   L y u,   e t   al . ,  " R e v i s i t   L o ng  S ho r t - T e r m   M e m o r y :   A n  O pt i m i z a t i o n  P e r s p e c t i v e , "   W or k s ho p  on  D e e p  L e ar ni ng  and  R e p r e s e nt at i on   L e ar n i n g   ( 201 4) .     [ 14]   E .   C a de n a s ,   e t   a l . ,  " W i nd  S p e e d   P r e di c t i o n  U s i ng   a   U n i v a r i a t e   A R I M A   M o de l   a n d  a   M u l t i v a r i a t e   N A R X   M o de l , "   E ne r gi e s ,   V o l um e   9 ,   I s s ue   2   ( 2016 ) .     [ 15]   Z .   B o us s a a d a ,   e t   a l . ,   " A   N o nl i ne a r   A ut o r e g r e s s i v e   E xo g e no us   ( N A R X )   N e u r a l   N e t w o r k  M o de l   f o r   t he   P r e d i c t i o n  o f   t he   D a i l y   D i r e c t   S o l a r   R a di a t i o n, "   E ne r gi e s ,   V o l um e   11 ,   I s s ue   3  ( 201 8) .     [ 16]   M .   A .   H a m da n ,   e t   al . ,  " Pr e di c t i o n  o f   H o ur l y   S o l a r   R a d i a t i o n  i n  A m m a n - J o r da n  by   U s i ng   A r t i f i c i a l   N e u r a l   ne t w o r k s , "   I n t . J . of   T he r m a l   &   E n v i r onm e nt al   E ng i ne e r i ng ,   V o l um e   14 ,   N o . 2   1 03 - 108   ( 2 017 ) .     [ 17]   Y .   A .   A l   S bo u,   e t   al . ,  " N o nl i ne a r   A ut o r e g r e s s i v e   R e c ur r e n t   N e ur a l   N e t w o r k  M o de l   F o r   S o l a r   R a di a t i o n  P r e d i c t i o n , "   I n t e r na t i ona l   J our na l   o f   A p pl i e d  E n gi ne e r i n g  R e s e ar c h,   I S S N   0973 - 4562   V o l um e   12,   N um be r   14    pp.   45 18 - 4527   ( 2017 ) .     [ 18]   L .   B .   M o ha m m e d,   e t   al . ,   " H o ur l y   S o l a r   R a di a t i o n  P r e d i c t i o n  B a s e d  o n  N o nl i ne a r   A ut o r e g r e s s i v e   E xo g e no us   ( N A R X )   N e ur a l   N e t w o r k,   " J or dan   J o ur na l   of   M e c han i c a l   and   I n dus t r i a l   E n gi ne e r i ng .   V o l um e ,   N um b e r   1 ,   D e c e m be r   ( 2 013 ) .     [ 19]   H .   W a ng ,   e t   a l . ,  " E l e c t r i c i t y   C o ns um pt i o n  P r e d i c t i o n  ba s e d   o n  S V R   w i t h   A nt   C o l o ny   O pt i m i z a t i o n.   T E L K O M N I K A   ( I ndone s i an   J o ur n al   o f   E l e c t r i c al   E n gi ne e r i n g ), "   2 0 13;   11 ( 11 )   :   692 8 - 6934 .     [ 20]   J .   W a ng ,   e t   a l . ,  " A   r o bus t   c o m bi na t i o n  a ppr o a c h  f o r   s ho r t - t e r m   w i nd  s p e e d   f o r e c a s t i ng   a nd   a n a l y s i s - C o m bi na t i o n  o f   t he   A R I M A   ( A ut o r e g r e s s i v e   I nt e g r a t e d  M o v i ng   A v e r a g e ) ,   E L M   ( E x t r e m e   L e a r n i ng   M a c hi n e ) ,   SV M   ( S up po r t   V e c t o r   M a c h i ne )   a nd  L S S V M   ( L e a s t   S q ua r e   S V M )   f o r e c a s t s   us i ng   a   G P R   ( G a u s s i a n   P r o c e s s   R e g r e s s i o n)   m o de l , "     E ne r gy   93   ( 2 015 ) .     [ 21]   B .   S i v a ne a s a n,   e t   al . ,   " Sol a r   F or e c as t i ng  us i n g  A N N   w i t h  F uz z y   L o gi c   P r e - pr o c e s s i ng , "   W o r l d  E ng i ne e r s   S um m i t - A ppl i e d  E ne r gy   S y m po s i um   &   F o r um :   L o w   C a r bo n  C i t i e s   &   U r b a n  E ne r gy   J o i nt   C o nf e r e nc e ,   W E S - C U E   2017 ,   19 - 21  J ul y   2017 ,   S i ng a po r e .   E ne r gy   P r o c e di a   143 , 72 7 - 732   ( 2 017 ) .     [ 22]   S .   J o v i c ,   e t   al . ,   " M a n a g e m e nt   o f   t he   w i nd  s p e e d  d a t a   us i n g   a da pt i v e   ne ur o - f uz z y   m e t ho do l ogy , "   F l o w   M e as ur e m e nt   and   i ns t r um e n t at i on ,   002 - 07   ( 201 6) .     [ 23]   H .   L i u,   e t   al . ,   " N e w   w i nd  s pe e d  f o r e c a s t i ng   a p pr o a c he s   u s i ng   f a s t   e n s e m b l e   e m pi r i c a l   m o de l   d e c o m po s i t i o n,   g e ne t i c   a l g o r i t hm ,   M i nd  E v o l ut i o na r y   A l go r i t hm   a n d  A r t i f i c i a l   N e ur a l   N e t w o r k s , "   R e ne w abl e   E ne r gy   8 3 ,   1066 - 1075   ( 2 015 ) .     [ 24]   S .   N a y a k,   e t   a l . ,  " S c a l e d   C o nj ug a t e   G r a di e n t   B a c kpr o pa g a t i o n  A l go r i t hm   f o r   S e l e c t i o n  o f   I ndus t r i a l   R o bo t s , "   I nt e r n at i on al   J o ur n al   o f   C om put e r   A pp l i c a t i on   ( 2 250 - 179 7) .   V o l u m e   7 -   N o . 6 ,   N o v e m be r - D e c e m be r   ( 20 17) .     [ 25]   M .   C a ne r ,   e t   al . ,  " I n v e s t i g a t i o n  o n  t he r m a l   pe r f o r m a nc e   c a l c ul a t i o n  o f   t w o   t y pe   s o l a r   a i r   c o l l e c t o r s   u s i ng   a r t i f i c i a l   ne ur a l   n e t w o r k , "   E x pe r t   Sy s t e m s   w i t h   A pp l i c a t i o ns   28 ,   166 8 - 1674   ( 2011 ) .       Evaluation Warning : The document was created with Spire.PDF for Python.