I AE S In t er na t io na l J o urna l o f   Art if icia l In t ellig ence   ( I J - AI )   Vo l.   15 ,   No .   4 ,  A u g u s t 2 0 2 6 ,   p p .   3 1 3 1 ~ 3 1 4 3   I SS N:  2 2 5 2 - 8 9 3 8 ,   DOI : 1 0 . 1 1 5 9 1 /ijai.v 15 .i 4 . p p 3 1 3 1 - 3 1 4 3           3131       J o ur na l ho m ep a g e :  h ttp : //ij a i . ia esco r e. co m   H y bridiza tion o f  hy brid - ARIM A - EM  and XGBoo st  f o r  enha nced p rice p redictive mo de lin g       I s a m   Ahm ed  M .   Ya qo o b,  K ha irul Az ha r  K a s m ira n,  T eh   No ra nis   M o hd   Ari s ,   No r  Azura   H us in,    M o hd   Yu nu s   Sh a rum   F a c u l t y   o f   C o m p u t e r   S c i e n c e   a n d   I n f o r mat i o n   T e c h n o l o g y ,   U n i v e r s i t i   P u t r a   M a l a y si a ,   S e l a n g o r ,   M a l a y si a       Art icle  I nfo     AB S T RAC T   A r ticle  his to r y:   R ec eiv ed   Feb   2 4 ,   2 0 2 5   R ev is ed   Ma y   2 0 ,   2 0 2 6   Acc ep ted   J u n   1 9 ,   2 0 2 6       M a n a g in g   fi n a n c e   e n tails  th e   a rt   a n d   sc ien c e   o f  d istri b u ti n g   a v a i lab le  a n d   p o ten ti a l  f u n d s  a m o n g   v a ri o u s   c o m p e ti n g   n e e d s.  G o v e rn m e n t  e x p e n d i tu re s   fu n d   p ro g ra m s  th a t   p r o v i d e   a   wi d e   ra n g e   o f  se rv ice s  to   d iffere n t   p o p u lati o n   se g m e n ts.  As   a   re su l t,   th e   d e m a n d   f o r  e n h a n c e d   a n d   a d d it i o n a l   se rv ice s  o ften   su rp a ss e s  th e   g o v e r n m e n t' s  fin a n c ial  c a p a c it y .   F irst ly ,   th e   p rice   f o re c a stin g   p ro c e d u re s  f o r  t h e   e x trem e   g ra d ien t  b o o sti n g   (XG Bo o st),   g a ted   re c u rre n t   u n it   (G RU),  a n d   h y b ri d - ARIMA - EM   m o d e ls  will   b e   su m m a rize d .   S e c o n d l y ,   th e   a c c u ra c y   o f  th e   m o d e ls  will   b e   a ss e ss e d   o n   two   re a l  d a tas e ts  c o ll e c ted   fro m   Ka g g le  (Cru d e _ Oil_ P rice   a n d   KL_ a p a rtme n t).   T h is  st u d y   th e n   p ro p o se s  c o m b i n i n g   th e   h y b ri d - ARIMA - EM   m o d e l   with   X G Bo o st  to   e n h a n c e   th e   p rice   f o re c a stin g   p e r fo rm a n c e   in   term s  o f  ti m e   se ries   a n a ly sis.  Ex p e rime n tal   re su lt s  s h o w   th a t   th e   su g g e ste d   c o m b in a ti o n   o u tp e rf o rm s  o th e r   se lec ted   m o d e ls i n   p rice   fo re c a stin g   a c c u ra c y .   K ey w o r d s :   AR I MA   E x tr em e  g r a d ien t b o o s tin g   Gate d   r ec u r r e n t u n it   Pre d ictio n   Pric e  f o r ec asti n g   T h is i s  a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   Kh air u l A zh ar   Kasm ir an   Fac u lty   o f   C o m p u ter   Scien ce   an d   I n f o r m atio n   T ec h n o lo g y ,   Un iv er s iti Pu tr a  Ma lay s ia   Selan g o r ,   Ma lay s ia   E m ail:  k _ az h ar @ u p m . ed u . m y       1.   I NT RO D UCT I O N   Pric e  f o r ec asti n g   is   ess en tial  an d   cr itical.   H o wev er ,   th e  k e y   q u esti o n   is   wh at  t h e  b est  p r ed ictio n   m eth o d   is   an d   wh eth er   it  ca n   b e  o p tim ized   f o r   g r ea ter   ac c u r ac y .   Ad d itio n ally ,   wh ic h   f a cto r s   o r   in d icato r s   in f lu en ce   p r ice  th e  m o s t  an d   s h o u ld   b e  p r io r itized   in   th e  ca lcu latio n   s tep s ,   g iv en   th e  wid e  r an g e  o f   c o m p lex   an d   d y n a m ic  f ac to r s .   B y   lev er ag in g   ar tific ial  in tellig en ce   ( AI )   alg o r ith m s ,   b u s in ess es  ca n   en h an ce   p r ice  f o r ec asti n g   ac cu r ac y ,   m itig ate   th e  r is k   o f   o v er esti m atin g   o r   u n d er esti m atin g   ca s h   in f lo ws   an d   o u tf lo ws,  an d   m ak e  b etter   d ec is io n s   r e g ar d in g   in v estme n ts ,   f in an ci n g ,   a n d   o th er   f in an cial  s tr ateg ies.   Fu r th er m o r e,   it  is   ch allen g in g   to   estab lis h   a  s u itab le  r elatio n s h ip   b etwe en   th ese  in d icato r s   ( ex ter n al  o r   n o n - f in an cial  f ac to r s )   an d   p r ices  to   ev alu ate   th e  ef f ec tiv en ess   o f   th e   m en tio n e d   f ac to r s   o n   p r ices  [ 1 ] – [ 3 ] ,   b u t  AI   ca n   h elp .   A   r em ar k ab le   m o d el,   ex tr e m e  g r ad ien t  b o o s tin g   ( XGBo o s t) ,   h as  b ee n   wid ely   u tili ze d   b y   m an y   au t h o r s   t o   ac h iev e  h ig h   ac cu r ac y   in   f o r ec asti n g .   I t  is   an   ef f ec tiv e  f o r ec asti n g   m o d el  with   n u m er o u s   am az in g     ad v an tag es  b ec au s e  o f   its   m ec h an is m   [ 4 ] .   Firstl y ,   b ec au s e  o f   its   en s em b le   n atu r e   a n d   im p lem en tatio n   o p tim izatio n s ,   XGBo o s t  p er f o r m s   well,   o u tp er f o r m in g   co n v en tio n al   m ac h in e   lear n i n g   ( ML )   alg o r ith m s .   Seco n d ,   it  in te g r ates  r eg u lar iz atio n   s tr ateg ies ,   in clu d in g   L 1   an d   L 2   r e g u lar izatio n   to   r ed u ce   o v e r f itti n g   a n d   im p r o v e  g e n er aliza tio n   ca p ac i ty .   Ad d itio n ally ,   XGBo o s t  o f f er s   a  m eth o d   f o r   d ete r m in in g   th e  s ig n if ican ce   o f   a  f ea tu r e,   aid in g   in   f ea tu r e   s elec tio n   an d   m o d el  in ter p r etatio n .   I t  also   d o es  a  g r ea t  jo b   o f   m an ag in g   m is s in g   v alu es,  wh ich   elim in ates  th e  n ee d   f o r   im p u tatio n   o r   p r ep r o c ess in g .   T h e  last   f ea tu r e  o f   XG B o o s t  is   it s   s u p p o r t  f o r   p ar allel  p r o ce s s in g ,   wh ic h   g r ea tly   r ed u ce s   co m p u tin g   tim e  an d   allo ws  f o r   ef f ec ti v e  tr ain in g   o n   b i g   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 2 5 2 - 8 9 3 8   I n t J Ar tif   I n tell ,  Vo l.  15 ,   No .   4 ,  Au g u s t 2 0 2 6 :   3 1 3 1 - 3 1 4 3   3132   d atasets .   XG B o o s t   is   a  r ec o m m en d ed   o p tio n   f o r   p r ed ictin g   wo r k lo ad s   b ec a u s e  o f   its   s tab ilit y ,   in ter p r etab ilit y ,   an d   s ca lab ilit y .   Pra k a s h   e t  a l .  [ 5 ]   p r es en t ed   a   n ew  m e th o d   th a t  u s e s   an   X G B o o s t - aid ed   ML   m o d e l  to   e n h an ce   th e  p er f o r m an c e  o f   d is tr ib u ted   R am an   am p l if ier s   ( D R A)   i n   n ex t - g en er at io n   u lt r a - lo n g - h au l  o p t ic al  n et wo r k s .   T h e  f o c u s   o f   th e  m o d e l  i s   to   o p ti m i ze   t h e  f lex ib i l ity   an d   c o n s is te n cy   o f   D R A  p er f o r m a n ce .   I t  ad d r e s s e s   t h e   is s u e  o f   i n co n s is ten t   d im en s io n al ity   b e tw ee n   p u m p   f r e q u en cy   an d   p o wer   b y   u t il iz in g   a  d ec i s io n - tr e e  s y s te m   to   ac cu r a te ly   p r ed i ct  th e  s ig n al  g a in   s p e ct r u m   an d   b i t  er r o r   r at e  ( B E R ) .   T h e ir   f in d in g s   i n d i ca te  t h a t  th e  m eth o d   c an   id en t if y   f au lt s   w ith in   2 . 3   m i ll i s ec o n d s   wi th   9 9 . 6 %   a cc u r ac y ,   o u tp er f o r m i n g   o th er   ML - b a s ed   tr e e  m o d e l s   in   e s tim at io n   a c cu r ac y   an d   ef f ec tiv en e s s .   C o n s eq u en tly ,   th e   s t u d y   s h o wc as e s   th e   s u c ce s s f u l   ap p l ic at io n   o f   an   XG B o o s t  m o d el  in   e s t im a t in g   th e  d e s i r ed   g ain   p r o f il e  an d   B E R   o f   D R As  in   th e  lo w - lo s s   o p ti ca l  wav e le n g th   r eg io n   ( 1 2 6 0 – 1 6 5 0   n m ) ,   en ab l in g   ad v an ce m e n t s   in   u lt r a - lo n g - h au l   o p t ica l n et wo r k s .   Af ter   th e  C OVI D - 1 9   p an d em ic,   m an y   r esear ch er s   h av e  s tar ted   f o cu s in g   o n   an aly zin g   d ata  an d   m ak in g   p r e d ictio n s   in   v ar io u s   ar ea s .   J in   et   a l .  [ 6 ]   aim ed   to   an aly ze   p a n d em ic   tr en d s ,   d ev elo p   p r e d ictiv e  m o d els,  an d   p r o v id e   in s ig h ts   f o r   co n tr o llin g   f u tu r e   o u tb r e ak s   ef f ec tiv ely .   T r ad itio n al  f o r ec asti n g   m eth o d s   s tr u g g le  to   ac cu r ately   p r e d ict  p an d em ic  tr en d s   d u e  to   th e  p r esen ce   o f   b o t h   lin ea r   an d   n o n lin ea r   f ac to r s   i n   C OVI D - 1 9   d ata.   T o   ad d r ess   th is ,   th e  s tu d y   p r o p o s ed   th r ee   co m b in ed   f o r ec asti n g   m o d els:   co n v o lu tio n al   n eu r al  n etwo r k   ( C NN ) - lo n g   s h o r t - ter m   m em o r y   ( L ST M ) - au to r eg r ess iv e  in teg r ated   m o v in g   av er a g e  ( AR I MA ) ,  tem p o r al   co n v o l u tio n al  n etwo r k   ( T C N) - L STM - AR I MA ,   an d   s p ar r o w   s ea r ch   alg o r ith m     ( SS A) - L STM - AR I MA ,   wh ich   in teg r ates   d ee p   lear n in g   a n d   tr ad itio n al  AR I MA   tech n iq u es  to   ca p tu r e  b o t h   lin ea r   an d   n o n lin ea r   f ac to r s .   T h ese  m o d els  wer e  in itially   test ed   o n   C OVI D - 1 9   d ata  f r o m   Q u eb ec   an d   C an a d a,   an d   th e n   v alid ated   u s in g   d ata   f r o m   I taly .   C o m p ar ativ e   an aly s es  s h o wed   th at  t h e  C NN - L STM - AR I MA   m o d el   p er f o r m ed   th e  b est  in   ter m s   o f   p r ed ictiv e  ac cu r ac y ,   s tab ilit y ,   an d   s u itab ilit y   f o r   f o r e ca s tin g   C OVI D - 1 9   p an d em ics.  T h e  s tu d y ' s   f in d in g s   d em o n s tr ate  th e  im p o r ta n ce   o f   in teg r atin g   d ee p   lear n in g   an d   tr ad itio n a l   tech n iq u es  f o r   ef f ec tiv e   p an d e m ic  f o r ec asti n g   a n d   h ig h lig h t   th e  p o ten tial  o f   th e  C NN - L STM - AR I MA   m o d el  in   g u id in g   f u tu r e  c o n tr o l  m ea s u r es  an d   m itig atio n   s tr ateg ie s .   Ad d itio n ally ,   th e  T C N  m o d el  is   d esig n ed   f o r   p r o ce s s in g   s eq u en tial  d ata  in   p ar allel,   r ed u cin g   m o d elin g   an d   f o r ec asti n g   tim e.   T C N  m o d els  ca n   h an d le   s eq u en ce s   o f   v ar y in g   len g t h s   an d   m a p p in g   in p u t  s eq u en ce s   d ir ec tly   to   o u tp u t  s eq u e n ce s   o f   th e   s am e  len g th .   T h e  s tu d y   also   e m p h asized   th e  in co r p o r atio n   o f   d ilated   ca u s al  co n v o l u tio n s   an d   r esid u al  co n n ec tio n s   with in   T C N  m o d els an d   h ig h lig h ted   t h e  r eliab ilit y   o f   a n   AR I MA - b a s ed   m o d el  in   f o r ec asti n g   p an d em ic  tr en d s .     No wad ay s ,   r esear ch er s   ten d   to   co m b in e  p r e d ictio n   alg o r ith m s   to   lev er ag e  th eir   u n iq u e   s tr en g th s ,   en h an cin g   th e  ac cu r ac y   a n d   r eliab ilit y   o f   f o r ec asts   [ 7 ] – [ 9 ] .   I n teg r atin g   two   ty p es  o f   m o d e ls /alg o r ith m s   h elp s   m itig ate  th e  s h o r tco m in g s   an d   lim itatio n s   th at  p r ed ictio n   m o d els  o f ten   f ac e   ac r o s s   d if f er e n t  f ield s   [ 1 0 ] ,   [ 1 1 ] .  I n   a  p r ev io u s   s cien tific   p ap er ,   Yaq o o b   et  a l.  [ 1 2 ]   d is cu s s ed   v ar io u s   f o r ec asti n g   m eth o d s   in   th e  f ield   o f   d ata  an aly s is .   A   n ew  m o d el  is   in tr o d u ce d   f o r   ca s h   f o r ec asti n g   ca lled   th e  h ybr id - AR I MA - E M  m o d el  an d   co m p ar ed   its   ac cu r ac y   with   o th er   well - k n o wn   ca s h   f o r ec asti n g   m eth o d s   s u ch   as  r an d o m   f o r est,  d ec is io n   tr ee s ,  Pro p h et ,  lin ea r   r eg r ess io n ,   m u ltiv ar iate   ad ap tiv e  r eg r ess io n   s p lin es  ( MA R S),   an d   p er ce p tr o n .   T h e  co m p ar is o n   s h o wed   th at  o u r   p r o p o s ed   m o d el  p r o v id ed   s u p er io r   ac cu r ac y   in   ca s h   f o r ec asti n g .   XGBo o s t  an d   g ated   r ec u r r en t  u n it   ( GR U)   ar e  s o m e   o f   th e   m o s t  f am o u s   m o d els  [ 1 3 ] .   T h er e f o r e,   th is   p ap e r   will  c o n s id e r   th ese  m o d els  in   co m p ar is o n   with   h y b r id - AR I MA - E M.   R y u   et  a l.  [ 1 4 ]   tac k les  th e  ch allen g e  o f   p r ed ict in g   d em en tia  r is k ,   h ig h lig h tin g   a  d ee p   lear n in g   m eth o d   th at  d em a n d s   ex ten s iv e  im ag e  d ata  a n d   t r ain in g   tim e.   R ec o g n izin g   th ese   lim itatio n s ,   th e  s tu d y   p r esen ts   a  d em en tia  r is k   p r ed ictio n   m o d el  b ased   o n   XGBo o s t,  wh ich   im p r o v es  ef f icien cy   th r o u g h   v a r iab le  ex tr ac tio n   f r o m   n u m er ical  d em en tia  d ata  an d   h y p er p ar a m eter   o p tim izatio n .   I n itially ,   th e  m eth o d   ex tr ac t s   v ar iab le  im p o r tan ce   f r o m   s tan d ar d   in d e p en d e n t  v ar ia b les  u s in g   g r ad ien t   b o o s tin g   to   cr ea te  d er iv ed   v a r iab les.  T h ese  d er iv e d   v a r iab l es  ar e  th en   a n aly ze d   f o r   im p o r tan ce   in   f o r m in g   T o p - N  g r o u p s .   Hy p e r p ar am et er   tu n in g   is   s u b s eq u e n tly   a p p l ied   to   o p tim ize  th e   m o d el' s   p e r f o r m a n ce   b ased   o n   th e  ch ar ac ter is tics   o f   ea ch   T o p - N  g r o u p .   T h e   s tu d y   e v alu ates  th e  XGBo o s t  m o d el’ s   p er f o r m an ce   u s in g   g o o d n ess - of - f it  m etr ics  f o r   ML   class if icatio n   m o d els.  T h e  r esu lts   in d icate d   th at  th e  T o p - 2 0   m o d el  ex h ib its   th e  b est  p e r f o r m an ce ,   ac h iev in g   an   ac cu r ac y   o f   8 5 . 6 1 %  an d   a n   F1 - s co r e   o f   7 9 . 2 8 %.   C o m p ar ed   to   th e   d ec is io n   tr ee ,   r an d o m   f o r est,  s u p p o r t v ec to r   m ac h in e ,   an d   k - n ea r est n eig h b o r s   m o d els,  th e  p r o p o s ed   XGBo o s t   m o d el  d em o n s tr ated   s u p e r io r   p er f o r m an ce .       2.   M E T H O D   2 . 1 .     Da t a s et   T wo   Kag g le  d atasets   h av e  b e en   s elec ted   an d   u tili ze d   i n   th i s   p ap er .   T h e  f ir s t  o n e   co n tain s   cr u d e  o il   p r ices  av ailab le  at  h ttp s ://ww w. k ag g le. co m /d atasets /s c2 3 1 9 9 7 /cr u d e - o il - p r ice.   T h e   s ec o n d   o n e   co n tain s   t h e   m o n th ly   r en t  o f   Ku ala  L u m p u r   ap a r tm en ts   av ailab le  at  h ttp s ://www. k ag g le. co m /d atasets /ar iewijay a/r en t - p r icin g - k u ala - lu m p u r - m alay s i.     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J Ar tif   I n tell     I SS N:   2252 - 8 9 3 8       Hyb r id iz a tio n   o f h yb r id - A R I MA - E M a n d   X GB o o s t fo r   en h a n ce d   p r ice  p r ed ictive  …   ( I s a m  A h med   M.  Ya q o o b )   3133   2 . 2 .     H y brid - ARIM A - EM  f o re ca s t ing   T h e  h y b r id - AR I MA - E M  m o d el  will  b e  im p lem en ted   to   o b tain   th e  f o r ec asti n g   o f   th e  y ea r s     2017 - 2 0 2 1   th e n   a  c o m p ar is o n   p r o ce s s   will  b e  ap p lied   b etwe en   th e  o b tain ed   d ata  an d   th e  o r ig in al  d ata  f o r   th e   s am e  s elec ted   p er io d .   T h e  m o d el  f o r m u la  is   g iv en   in   ( 1 ) .     Hyb r id − A R IM A − EM = A VG ( AF + ф + Ơ i ) × W i     ( 1 )     W h er e  AVG  i s   av er ag e  f u n ctio n ;  AF  is   AR I MA   f o r ec asti n g   o f   th e  f o r ec asted   p er io d ;  Ф   is   th e  v alu e  o f   th e  s am e  p er io d ;  Ơ  is   th e  v alu e   o f   th e  n ex t p e r io d ;   an d   W   is   weig h t r atio .   T h e  weig h t w ill b e  co m p u ted   t h r o u g h   ( 2 ).     α = A VG ( TS )     ( 2 )     W h er e  T S  is   tim e  s er ies :  th e  wh o le  p er io d   o f   th e   s elec ted   t im e  s er ies.   T h en ,   g et  th e   s ig m o id   o f   α   as  d ef in e d     in   ( 3 ).     W = 1 + 1 1 e − α       ( 3 )     T h e  f o r ec asti n g   m et h o d o lo g y   lev er ag in g   th e  p r o p o s ed   h y b r i d - AR I MA - E M  m o d el  ca n   b e  co n cisely   s u m m ar ized   as:   i)   Pre p ar e  th e  d ataset :  t h e  r elev an t  d ata  is   ex tr ac ted :  two   v ar iab les  s tar t_ y ea r   an d   en d _ y e ar   d ef in e  th e   r an g e  o f   y ea r s   to   ex tr ac t  f r o m   th e  d ataset.   R o ws  will  b e  s elec ted   f r o m   th e   d ataset  wh er e  th e   ' Yea r '   co lu m n   is   g r ea ter   th an   o r   eq u a l to   s tar t_ y ea r   an d   less   th an   o r   eq u al  to   en d _ y ea r .     ii)   C alcu latin g   th e  av e r ag e   tim e  s er ies  len g th :  t h e   n u m b er   o f   r o ws  in   th e  d ataset  is   d eter m in e d   an d   u s ed   to   ca lcu late  th e  v ar iab le  AVG( T S).   iii)   Per f o r m   AR I MA   f o r ec asti n g :   a n   ar r ay   AR I MA   f o r ec asti n g   is   cr ea ted   an d   in itialized   with   a  s er ies  o f   n u m er ical  v alu es r e p r esen tin g   th e  AR I MA   f o r ec asti n g   d ata.   iv )   Dete r m in e   alp h a   or   :  t h e  v ar i ab le  alp h a  is   ass ig n ed   th e  v alu e  o f   AVG( T S),   r ep r esen tin g   th e  av er ag e   tim e  s er ies len g th   ca lcu lated   e ar lier .   v)   C alcu late  weig h t :  a p p ly in g   s ig m o id   ex p o n e n tial  f u n ctio n   will  m ak e  th e  d ata  r an g e  f all  b etwe en   0   to   1   wh ich   is   ea s y   to   illu s tr ate  in   th e  g r ap h   an d   f ac ilit ates c alcu latio n s .   v i)   C alcu late  f o r ec asted   v alu es :  t h e  ' C r u d e  Oil  Pric e '   co lu m n   v alu es  ar e  ex tr ac ted   f r o m   th e  d ataset  an d   ass ig n ed   to   th e  v ar ia b le  Ф .   v ii)   T h e  p r o ce s s   s h if t  ( - 1 )   s tep :  wh er e  s elec tin g   th e   y ea r   to   s h if t  t h e  ' C r u d e  Oil  Pric e'   co lu m n   v alu es  o n e   s tep   f o r war d ,   an d   ass ig n s   th em   to   th e  v ar iab le  Ơ.   v iii)   T h e  f o r ec asted   v alu es  ar e   c alcu lated   b y   ap p ly i n g   th e   s u g g ested   eq u atio n   t o   th e   ar r ay s   AR I MA   f o r ec asti n g ,  Ф ,   an d   Ơ   alo n g   with   t h e  weig h t a r r a y   W .   T o   s u m   u p   th e  wh o le  p r o g r ess   in   s h o r t p o in ts :   i)   T h e  h y b r i d - AR I MA - E M  eq u atio n   co m b i n es  th e  AR I MA   f o r ec asti n g   with   a d d itio n al   co m p o n en ts     ( ф   an d   Ơ )   an d   weig h ts   ( W i)   to   g e n er ate  f o r ec asts .   ii)   T h e  weig h ts   a r e  d eter m in ed   b y   av e r ag in g   th e   en tire   tim e  s e r ies  an d   ap p ly i n g   a  s ig m o i d   tr an s f o r m atio n   to   th e  av er a g e.   iii)   T h is   ap p r o ac h   aim s   to   in co r p o r ate  b o th   h is to r ical  d ata  ( AR I MA   f o r ec asti n g )   an d   ad d itio n al  f ac to r s   ( ф   an d   Ơ )   in to   th e  f o r ec asti n g   p r o ce s s ,   with   weig h ts   ad ju s ted   b ased   o n   th e  a v er ag e   b eh a v io r   o f   tim e   s er ies.     2. 2 . 1 .   P re dict io n r esu lt s   co m pa riso n a nd   ev a lua t io n   W h en   ev alu atin g   th e  ef f ec tiv en ess   o f   d if f er en t  f o r ec asti n g   m o d els,  it  is   ess en tia l  to   q u an tify   th eir   ac cu r ac y .   T h is   is   ty p ically   ac h iev ed   b y   co m p a r in g   th eir   f o r ec asts   ag ain s t  th e  ac tu al  o b s er v ed   v alu es  u s in g   s tatis t ical  m etr ics.  T wo   co m m o n   m etr ics  u s ed   f o r   th is   p u r p o s e  ar e  r o o t  m ea n   s q u ar e  er r o r   ( R MSE )   an d   m ea n   ab s o lu te  p er ce n ta g e  e r r o r   ( M APE) ,   as sh o wn   in   ( 4 )   an d   ( 5 ).     R M SE   = √ ∑ ( x i N i = 1 − Ý i ) 2 N   ( 4 )     W h er e     v ar iab le  v alu es ;    is   th e  n u m b er   o f   n o n - m is s in g   d ata  p o in ts ;    is   an   ac tu al  o b s er v ati o n   tim e  s er ies ;  an d   Ý   is   an   esti m ated   tim e  s er ies .     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 2 5 2 - 8 9 3 8   I n t J Ar tif   I n tell ,  Vo l.  15 ,   No .   4 ,  Au g u s t 2 0 2 6 :   3 1 3 1 - 3 1 4 3   3134   M A PE =   1 n   ∑ | A t −   F t A t | n i = 1   ( 5 )     W h er e   A t   is   ac tu al  v alu e ;  F t   is   f o r ec ast v alu e ; a n d   n  is   n u m b er   o f   tim es th e  s u m m atio n   iter atio n   h ap p en s .   R MSE   m ea s u r es  th e  av e r ag e   m ag n itu d e   o f   th e   er r o r s   b etw ee n   p r ed icted   an d   o b s er v ed   v alu es.  I t  is   co m p u ted   b y   tak in g   th e  s q u a r e  r o o t  o f   th e  a v er ag e  o f   th e   s q u ar ed   d if f er e n ce s   b etwe en   p r ed icted   ( Ý )   an d   o b s er v ed   ( )   v alu es,  d iv id e d   b y   th e  to tal  n u m b er   o f   o b s e r v atio n s   ( ) .   T h is   p r o v id es  a   s in g le  n u m b er   r ep r esen tin g   th e  ty p ical  m a g n itu d e  o f   e r r o r s   i n   th e   f o r ec a s t.   W h er ea s   MA PE  m ea s u r es  th e  ac c u r ac y   o f   a  f o r ec asti n g   m o d el   as  a   p er ce n tag e  o f   th e   ab s o lu te   er r o r   r elat iv e  to   th e   ac tu al  v alu es.  I t   is   c alcu lated   b y   tak i n g   th e  m ea n   o f   th e   ab s o lu te  p er c en tag e  er r o r s   b etwe en   ac tu al  ( At)   an d   f o r ec asted   ( Ft)   v alu es ,   av er ag i n g   o v er   all  o b s er v atio n s   ( n ) .   Usi n g   th e   h y b r i d - AR I MA - E M  p r ed ictio n   p r o ce s s ,   Fig u r es  1   a n d   2   illu s tr ate  th e  y ea r ly   a n d   m o n th ly   f o r ec asti n g   o u tco m es   f o r   th e   y ea r s   2 0 1 5 - 2 0 2 2   ap p lied   to   th e  s elec ted   d ataset  ( C r u d e_ Oil_ Pric e) .           Fig u r e  1 .   Fo r ec asted   y ea r s   ( 2 0 1 5 - 2 0 2 2 )   b y   u s in g   th e  h y b r i d - AR I MA - E M  m o d el           Fig u r e  2 .   Mo n th ly   f o r ec asti n g   f o r   th e  y ea r s   2 0 1 5 - 2 0 2 2   f o r   th e  C r u d e_ Oil_ Pric e  d ataset  b y   u s in g     h ybr id - AR I MA - E M  m o d el       2 . 3 .     E x t re m e  g r a dient  bo o s t ing   XGBo o s t  is   a  p o wer f u l   f o r ec asti n g   m o d el   with   s ev er al  im p r ess iv e  ad v an ta g es.  Firstl y ,   i t  d eliv er s   s u p er io r   p er f o r m a n ce   co m p ar ed   to   tr ad itio n al  ML   alg o r it h m s   d u e  to   its   en s em b le  n at u r e  an d   o p tim ize d   im p lem en tatio n .   Seco n d ly ,   it  u s es  r eg u lar izatio n   m eth o d s   li k e  L 1   an d   L 2   to   r ed u ce   o v er f itti n g   an d   en h an ce   its   ab ilit y   to   g en e r alize   [ 1 5 ] .   Ad d itio n ally ,   XGBo o s t  in clu d es  a  f ea tu r e   im p o r tan ce   ass ess m en t  m ec h an is m ,   wh ich   aid s   in   m o d el   in ter p r etatio n   an d   f ea tu r e  s elec tio n .   I t  also   h an d les  m is s in g   v alu es  ef f ec tiv ely ,   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J Ar tif   I n tell     I SS N:   2252 - 8 9 3 8       Hyb r id iz a tio n   o f h yb r id - A R I MA - E M a n d   X GB o o s t fo r   en h a n ce d   p r ice  p r ed ictive  …   ( I s a m  A h med   M.  Ya q o o b )   3135   elim in atin g   th e  n ee d   f o r   d ata  i m p u tatio n   o r   p r ep r o ce s s in g   [ 1 6 ] .   L astl y ,   XGBo o s t  s u p p o r ts   p ar allel  p r o ce s s in g ,   allo win g   ef f icien t   tr ain in g   o n   lar g e   d atasets   an d   s ig n if ic an tly   cu ttin g   d o wn   c o m p u tatio n al  tim e.   T h ese   ch ar ac ter is tics   co llectiv ely   m ak e  XGBo o s t  a  f av o r ed   ch o ice  f o r   f o r ec asti n g   task s ,   o f f er in g   s ca lab ilit y ,   r o b u s tn ess ,   an d   in te r p r etab ilit y   [ 1 7 ] .   T h e  XGBo o s t  f o r ec asti n g   m o d el  h as  s ev er al  b e n ef its ,   b u t  it   also   h as  ce r tain   lim itatio n s .   T h e  f ir s t  is   th at  it  is   co m p licated ,   wh ic h   co u l d   b e   d if f ic u lt  f o r   in e x p er ien ce d   u s er s   to   u n d er s tan d   an d   a d ju s t  th e   p ar am eter s .   Seco n d ly ,   th er e   is   th e  co m p u tatio n ally   d em an d in g   p a r t  o f   tr ain in g   a n   XGBo o s t  m o d el,   p ar ticu lar ly   wh en   wo r k in g   w ith   h u g e  d atasets   o r   h ig h - d i m en s io n al  f ea tu r e  s p ac es,  wh ich   co u ld   ca ll  f o r   a  s u b s tan tial a m o u n t o f   p r o ce s s in g   p o we r   [ 1 8 ] .      2 . 3 . 1 .   XG B o o s t   in t im e  s er ies predict io n   I n   ter m s   o f   ex am i n in g   th e   p o wer   o f   th e   XGBo o s t  m o d el  in   tim e  s er ies  f o r ec asti n g ,   th e  m o d el  will  b e   ap p lied   to   th e  s elec ted   d ataset,   wh ich   is   th e  C r u d e_ Oil_ Pric e  d ataset  f o r   th e  y ea r s   2 0 1 5 - 2 0 2 3   f r o m   th e   Kag g le  web s ite.   T h e  s tep s   o f   th e  p r o ce s s   ar e  as  f o llo ws  th at  p er f o r m s   a  tim e  s er ies  f o r ec asti n g   task   f o r   th e   s elec ted   d ataset  b y   u s in g   th e  XGBo o s t a lg o r ith m   to   f o r ec ast th e  y ea r s   2 0 1 5 - 2 0 2 2 ,   as in   T ab le  1   an d   Fig u r e  3 .   i)   Data   lo ad in g   an d   p r ep ar atio n :   lo ad s   a  d ataset  co n tain in g   h is to r ical  cr u d e  o il  p r ices  an d   s ets  th e  r elev an t  co lu m n   ( y ea r   an d   c r u d e  o il  p r ice )   as  a  p r im e  co lu m n   th at  w ill  b e  u s ed   to   an aly ze   an d   f o r ec ast  th e  n ew  v alu es f o r   th e   d eter m in e d   r esu lt.   ii)   T r ain - test   s p lit:   th e  d ataset  will  b e  s p lit  i n to   tr ai n in g   an d   test in g   s ets.  T h e   tr ain in g   s et  c o n tai n s   d ata  u p   to   a  ce r tain   p o in t  ( all  d ata  ex c ep t  th e  last   8   y ea r s ) ,   wh ile  t h e  test in g   s et  co n tain s   th e   r em ain in g   d ata     ( th e  last   8   y ea r s ) .   iii)   Mo d el  tr ain in g :  a n   XGBo o s t   r eg r ess io n   m o d el  will b e  in itial ized   an d   f itted   u s in g   th e  tr ain i n g   d ata.   iv )   Pre d ictio n :  t h e  m o d el   p r e d icts   cr u d e   o il  p r ices  f o r   ea ch   m o n th   o f   t h e  y ea r s   2 0 1 5   to   2 0 2 2 .   I t  iter ates   th r o u g h   ea ch   y ea r ,   p r ed icts   p r i ce s   f o r   ea ch   m o n th   o f   th at  y ea r ,   an d   s to r es th e  p r ed ictio n s .       T ab le  1 .   Fo r ec ast o f   y ea r s   2 0 1 5 - 2 0 2 2   f o r   th e  d ataset  C r u d e_ Oil_ Pric e  b y   u s in g   th e   XGBo o s t m o d el   Y e a r   P r e d i c t e d   c r u d e   o i l   p r i c e   2 0 1 5   4 9 . 3 0 7 5 2 5 6 3   2 0 1 6   4 4 . 4 6 8 7 3 8 5 6   2 0 1 7   5 1 . 8 5 5 0 6 4 3 9   2 0 1 8   6 4 . 5 8 9 4 8 5 1 7   2 0 1 9   5 7 . 1 8 2 8 0 0 2 9   2 0 2 0   3 8 . 5 9 6 1 4 5 6 3   2 0 2 1   6 8 . 0 6 9 1 4 5 2   2 0 2 2   9 4 . 6 3 5 7 7 2 7 1           Fig u r e  3 .   Fo r ec ast o f   y ea r s   2 0 1 5 - 2 0 2 2   f o r   t h e  d ataset  C r u d e _ Oil_ Pric e  b y   u s in g   t h e  XGBo o s t m o d el       2 . 3 . 2 .   Acc ura cy   ex a m ina t io n   R MSE   an d   MA PE  wer e   im p le m en ted   to   ch ec k   th e  lev el  o f   a cc u r ac y   o f   t h e  XGBo o s t  m o d el  in   ter m s   o f   tim e  s er ies.  T h e  r esu lts   wer e  th en   co m p ar ed   with   t h e  R MSE   an d   MA PE  v alu es  o f   th e  p r o p o s e d     hybr id - AR I MA - E M  p r esen ted   in   s ec tio n   2 . 2 .   B o th   m o d els  wer e  ev alu ated   u s in g   th e   s am e  d ataset  an d   p er io d ,   as sh o wn   in   T ab le  2 .   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 2 5 2 - 8 9 3 8   I n t J Ar tif   I n tell ,  Vo l.  15 ,   No .   4 ,  Au g u s t 2 0 2 6 :   3 1 3 1 - 3 1 4 3   3136   T ab le  2 .   R esu lts   o f   R MSE   an d   MA PE  f o r   th e  f o r ec asti n g   m o d els XGBo o s t a n d   h y b r id - AR I MA - EM   F o r e c a st i n g   m o d e l   R M S E   M A P E   X G B o o st     2 . 6 7   3 . 1 0   H y b r i d - A R I M A - EM     1 . 0 4   0 . 0 0 9       2 . 4 .     G a t ed  re curr ent   un it   T h e  GR U - b ased   p r ed ictio n   m o d el  aim s   to   f o r ec ast  f u tu r e  p o in ts   b ased   o n   p r e v io u s   d ata     p o in ts   [ 1 9 ] – [ 2 1 ] .   I t  will  b e  ap p lied   to   p r e d ict  y ea r s   2 0 1 0 - 2 0 2 3   f o r   th e  d ataset  C r u d e_ O il_ Pric e ,   as  s ee n   in   T ab le  3   an d   Fig u r es  4   a n d   5 .   T h e  s tep s   as  f o llo ws  th at  ar e  n ee d ed   to   d em o n s tr ate  an d   s h o r tly   ex p lain   t h e   wh o le  p r o g r ess :   i)   Data   ex tr ac tio n   an d   p r e p ar a tio n :  lo ad s   th e  tar g eted   co l u m n s   ( y ea r s ,   o il  p r ices )   f r o m   th e  d ataset   ( C r u d e_ Oil_ Pric e) .   ii)   No r m aliza tio n :  th e  d ata  is   n o r m alize d   u s in g   m in - m ax   s ca li n g   to   b r in g   all  f ea t u r es  to   th e  s am e  s ca le,   ty p ically   b etwe en   0   an d   1 .   iii)   T r ain - test   s p lit:   th e  d ataset  is   s p lit  8 0 :2 0   in t o   tr ain in g   an d   test in g   s ets,  with o u t  s h u f f lin g   to   p r eser v e   tem p o r al  o r d er .   iv )   Data   r esh ap in g :  th e  in p u t d ata  is   r esh ap ed   to   f it th e  i n p u t r e q u ir em en ts   o f   th e   GR U  m o d el.   v)   Mo d el  b u ild in g :   a   s eq u e n tial  n eu r al  n etwo r k   m o d el  is   co n s tr u cted   u s in g   Ker as   with   th e   A d am   o p tim izer   an d   m ea n   s q u a r ed   er r o r   ( MS E )   lo s s   f u n ctio n .   I t  c o n s is ts   o f   a   GR U  lay er   with   5 0   u n it s   an d   r ec tifie d   lin ea r   u n it   ( R eL U )   ac tiv atio n   f u n ctio n ,   f o llo wed   b y   a  d en s e  l ay er   with   o n e   u n it.   v i)   Mo d el  tr ain in g :  t h e  m o d el  is   tr ain ed   u s in g   th e  tr ain in g   d ata  f o r   5 0   ep o ch s   with   a  b at ch   s ize  o f   3 2 .   Valid atio n   d ata  is   p r o v id ed   to   m o n ito r   th e   m o d el' s   p er f o r m a n ce   d u r i n g   tr ain i n g .   v ii)   Pre d ictio n :  th e   tr ain ed   m o d el   is   u s ed   t o   m a k e  p r ed ictio n s   o n   th e   test in g   d ata.   Pre d ictio n s   ar e  i n v er s e - tr an s f o r m ed   to   o b tain   ac tu al  cr u d e  o il p r ices.   v iii)   E v alu atio n :  th e   m o d el' s   p er f o r m an ce   ( R MSE   an d   MA PE )   is   co m p ar e d   with   h y b r id - A R I MA - E M  in   T ab le  4 .   T o   co n clu d e,   Fig u r e  6   s h o ws  f o r ec asti n g   f o r   all  s elec ted   m o d els  ( XGBo o s t,  G R U ,   an d   h y b r id _ AR I MA _ E M ) ,   o n   th e  C r u d e_ Oil_ Pric e  d ataset  f o r   th e  y ea r s   2 0 1 5 - 2 0 2 2 .       T ab le  3 .   Fo r ec ast o f   y ea r s   2 0 1 5 - 2 0 2 2   f o r   th e  d ataset  C r u d e_ Oil_ Pric e  b y   u s in g   th e   GR U  m o d el   Y e a r   P r e d i c t e d   C r u d e _ O i l _ P r i c e   2 0 1 5   7 3 . 3 8 4 5 7   2 0 1 6   8 4 . 8 3 7 6 2   2 0 1 7   8 8 . 6 4 7 5 8   2 0 1 8   8 8 . 0 4 5 4 3   2 0 1 9   8 8 . 0 4 5 4 3   2 0 2 0   5 9 . 2 8 6 8 5   2 0 2 1   5 1 . 2 5 0 3 9   2 0 2 2   6 1 . 8 5 5 0 1           Fig u r e  4 .   An n u al  f o r ec ast o f   t h e  y ea r s   2 0 1 5 - 2 0 2 2   f o r   th e  d ataset  C r u d e_ Oil_ Pric e  b y   u s in g   th e  GR U  m o d el     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J Ar tif   I n tell     I SS N:   2252 - 8 9 3 8       Hyb r id iz a tio n   o f h yb r id - A R I MA - E M a n d   X GB o o s t fo r   en h a n ce d   p r ice  p r ed ictive  …   ( I s a m  A h med   M.  Ya q o o b )   3137       Fig u r e  5 .   Mo n th ly   f o r ec ast o f   th e  y ea r s   2 0 1 5 - 2 0 2 2   f o r   th e  d a taset C r u d e_ Oil_ Pric e  b y   u s in g   th e  GR U  m o d el       T ab le  4 .   R esu lts   o f   R MSE   an d   MA PE  f o r   th e  f o r ec asti n g   m o d els XGBo o s t a n d   h y b r id - AR I MA - EM   F o r e c a st i n g   m o d e l   R M S E   M A P E   G R U   4 . 1 0   0 . 4 7   H y b r i d - A R I M A - EM   1 . 0 4   0 . 0 0 9           Fig u r e  6 .   Fo r ec ast o f   th e  y ea r s   2 0 1 5 - 2 0 2 2   f o r   th e   d ataset  C r u d e_ Oil_ Pric e  b y   u s in g   th e  s ele cted   m o d els       2 . 5 .     H y brid - ARIM A - E M + X G B o o s t   inte g ra t io n   T h e  m o d els  p r esen ted   in   t h is   s tu d y   h av e  b ee n   m er g e d   s eq u en tially ,   an d   th e  b est  r esu lts   wer e  f r o m   th e  m er g e r   o f   th e   h y b r i d - AR I MA - E M  an d   XGBo o s t  m o d els.  R ef er   to   T ab les  5   an d   6 ,   an d   Fig u r e  7 .   T h e  hyb r id - AR I MA - E M  m o d el  a n d   XGBo o s t  ap p r o a ch   f o r ec a s tin g   f r o m   f u n d am en tally   d if f er en t  p e r s p ec tiv es,  an d   co m b in i n g   th eir   m eth o d o lo g ies  ca n   cr ea te  a  s y n er g is tic  ef f ec t  th at  lead s   to   im p r o v ed   f o r ec asti n g   ac cu r ac y .   T h e  h y b r i d - AR I MA - E M  m o d el   is   d esig n ed   to   h an d le  tem p o r al  d ata  b y   f o c u s in g   o n   th e  li n ea r   p atter n s   an d   s ea s o n al  tr e n d s   th at  o f ten   ch ar ac ter ize   tim e  s er ies.  I t  u s es  AR I MA   to   estab lis h   a  b aselin e  f o r ec ast  f o r   t h ese  p atter n s   [ 2 2 ] – [ 2 4 ] .   W h at  m ak es  th e  hyb r i d - AR I MA - E M  m o d el  u n iq u e  is   its   in co r p o r atio n   o f   a d d itio n al  c o m p o n en ts   ( e. g . ,   ф   an d   Ơ ) ,   wh ich   r ep r esen t   h is to r ical  an d   f u tu r e  s h if ts   in   th e   d at a,   alo n g   with   a  weig h tin g   m ec h an is m   th at  a d ju s ts   p r ed ictio n s   d y n am ically .   T h is   weig h tin g   is   ca lcu lated   u s in g   a   s ig m o i d   f u n ctio n   ap p lied   to   th e  av er ag e  len g th   o f   th e  tim e  s er ies,  en ab lin g   th e  m o d el  to   f in e - tu n e  its   f o r ec asts   b ased   o n   o v e r all  d ata  b e h av io r .       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 2 5 2 - 8 9 3 8   I n t J Ar tif   I n tell ,  Vo l.  15 ,   No .   4 ,  Au g u s t 2 0 2 6 :   3 1 3 1 - 3 1 4 3   3138   T ab le  5 .   Or ig i n al  an d   f o r ec ast ed   d ata  o f   cr u d e  o il p r ices f o r   th e  y ea r s   2 0 1 5 - 2 0 2 1   f o r   th e  co m b in ed   m o d els   Y e a r   O r i g i n a l   X G B o o st - G R U   H y b r i d - A R I M A - G R U   H y b r i d - A R I M A - X G B o o s t   2 0 1 5   4 8 . 2 4   5 4 . 1 2   5 5 . 9 9   5 1 . 1 8   2 0 1 6   4 8 . 3 3   5 0 . 7 7   5 5 . 9 8   4 9 . 6 8   2 0 1 7   5 4 . 0 1   5 6 . 4 8   5 8 . 6 2   5 3 . 9 9   2 0 1 8   7 4 . 7 3   6 3 . 5 2   6 0 . 5 6   6 1 . 6 3   2 0 1 9   5 3 . 7 9   6 0 . 6 0   5 8 . 8 4   5 5 . 4 2   2 0 2 0   3 5 . 4 9   5 3 . 3 0   5 6 . 4 0   4 1 . 7 0   2 0 2 1   5 2 . 2 0   6 7 . 5 3   6 0 . 8 5   6 1 . 3 8       T ab le  6 .   R esu lts   o f   R MSE   an d   MA PE  f o r   th e  co m b in ed   f o r e ca s tin g   m o d els   C o m b i n i n g   m o d e l   R M S E   M A P E   H y b r i d - A R I M A - EM   +   X G B o o s t     0 . 8 1   0 . 0 1 5   H y b r i d - A R I M A - EM   +   G R U   1 3 . 4 0   2 5 . 6 8   X G B o o st   +   G R U     7 . 0 8 6   1 3 . 5 8           Fig u r e  7 .   Fo r ec asted   c r u d e   o il  p r ices f o r   th e   y ea r s   2 0 1 5 - 2 0 2 1   u s in g   th e  co m b in ed   f o r ec asti n g   m o d els       Ho wev er ,   AR I MA - b ased   a p p r o ac h es  ar e   lim ited   in   th eir   a b ilit y   to   ca p tu r e  n o n li n ea r   r elatio n s h ip s   with in   th e  d ata.   T h is   lim itatio n   r em ain s   ev en   wh en   AR I MA   is   en h an ce d   with   co m p o n e n ts   s u ch   as  th o s e  in   h y b r id - AR I MA - EM .   Fo r   d ata s ets  lik e  cr u d e  o il  p r ices,  wh e r e  n o n lin ea r   d y n am ics  ( e. g . ,   g eo p o liti ca l  ev en ts ,   m ar k et  s p ec u latio n )   ca n   s ig n if ican tly   in f lu en ce   tr en d s ,   th is   li m itatio n   b ec o m es a   k ey   co n s tr ain t.   XGBo o s t,  o n   th e  o th er   h an d ,   ex ce ls   in   m o d elin g   co m p le x ,   n o n lin ea r   r elatio n s h ip s .   I t   wo r k s   b y   b u ild in g   an   e n s em b le  o f   d ec is io n   tr ee s   th at  iter ativ ely   r ed u c es  er r o r s   in   th e  p r ed ictio n s ,   a d ap tin g   f lex ib ly   t o   a  wid e  r an g e   o f   d ata  b e h av io r s   [ 2 5 ] .   H o wev er ,   XGBo o s t  lack s   in tr in s ic  awa r en ess   o f   t h e  tem p o r al  o r d er in g   an d   s ea s o n al  d ep en d e n cies  in h er e n t  in   tim e - s er ies  d ata.   T h is   r e q u ir es  ad d itio n al  p r e p r o ce s s in g ,   s u ch   as  c r ea tin g   lag g ed   f ea tu r es o r   ca p tu r in g   r o llin g   av er ag es,  to   in co r p o r ate  t h ese  tem p o r al  d y n am ics.  R ef e r   to   Fig u r e  8 .   W ith   th e  in teg r atio n   o f   th e  t wo   s elec ted   m o d els,  th e  s tr en g th s   o f   b o th   a p p r o ac h es  will  b e  r ev ea led     an d   will  b e  m o r e   b en e f icial.   T h e  AR I MA   co m p o n e n t  o f   th e  hyb r id - AR I MA - E M  ca n   p r o v i d e  a  r o b u s t   f o u n d atio n   b y   ca p tu r in g   lin ea r   tr en d s   an d   s ea s o n al  p atter n s .   T h is   o u tp u t  ca n   th e n   b e  in teg r ated   in to   XGBo o s t   as  an   en g in ee r ed   f ea tu r e .   Ad d itio n ally ,   th e  ф  an d   Ơ  v ar ia b les — r ep r esen tin g   h is to r ical  s h if ts   an d   f o r war d - lo o k in g   a d ju s tm en ts — co u ld   f u r th er   en r ich   th e  f ea t u r e  s et  f o r   XGBo o s t,  en ab lin g   it  to   a cc o u n t  f o r   s p ec if ic   tim e - s er ies d y n am ics.  T o   s u m m ar ize:   i)   E n h an ce d   f ea tu r e  e n g in ee r in g :  th e  ф   an d   Ơ   co m p o n e n ts   f r o m   hybr id - AR I MA - E M  co u ld   b e  u s ed   as  en g in ee r ed   f ea tu r es in   t h e  XGBo o s t m o d el  to   in co r p o r ate  tim e - s er ies d y n am ics.   ii)   No n lin ea r ity   a n d   tem p o r al   tr e n d s :  th e  lin ea r   f o r ec asti n g   s tr e n g th   o f   AR I MA   co m p lem en ts   th e  n o n lin ea r   p atter n   r ec o g n itio n   o f   XGBo o s t.  AR I MA 's  p r ed ictio n s   ( AR I MA   f o r ec asti n g )   ca n   ac t  as   an   ad d itio n al   f ea tu r e  o r   b en c h m ar k   f o r   XGBo o s t.   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J Ar tif   I n tell     I SS N:   2252 - 8 9 3 8       Hyb r id iz a tio n   o f h yb r id - A R I MA - E M a n d   X GB o o s t fo r   en h a n ce d   p r ice  p r ed ictive  …   ( I s a m  A h med   M.  Ya q o o b )   3139   iii)   W eig h t  o p tim izatio n :  th e   s ig m o id - weig h tin g   m ec h a n is m   c an   b e  a p p lied   t o   f ea tu r es  f ed   in to   XGBo o s t,  em p h asizin g   th eir   i n f lu en ce   b ased   o n   th e  tim e - s er ies av er a g e.   iv )   R o b u s tn ess   to   d ata  v ar iab ilit y :  co m b in in g   th e  m o d els  wo u ld   in teg r ate  AR I MA ' s   r esil ien ce   to   s h o r t - ter m   v ar iab ilit y   with   XGBo o s t's   ad ap tab ilit y   to   co m p lex   r elatio n s h ip s .           Fig u r e  8 .   Hy b r id - AR I MA - XGBo o s t p r ed ictio n   p r o ce s s       3.   RE SU L T S AN D  D I SCU SS I O N   As  n o ted   in   th e   p r e v io u s   s ec tio n ,   T a b les  5   an d   6 ,   an d   Fig u r e  7   s h o w  th e   p er f o r m an ce   o f   co m b in ed   m o d els  with   th e  C r u d e_ Oil_ P r ice  d ataset,   with   b est  r esu lts   co m in g   f r o m   hyb r i d - AR I MA - E M  +  XGBo o s t .   A  s ec o n d   d ataset  f r o m   Ka g g le,   th e  KL _ ap ar tm e n t  d ataset,   w as  ch o s en   to   s h o w  th e  ac cu r a cy   o f   th e  p r o p o s ed   co m b in ed   m o d el  o n   a  d if f er e n t  d ataset.   T h e  d ataset  d ea ls   with   ap ar tm en t  m o n th ly   r e n t  p r ices  th r o u g h   th e   y ea r s   1 9 9 4   to   2 0 2 4 ,   a n d   t h e  p er io d   2 0 0 0 - 2 0 2 4   was  s elec ted   f o r   th e  p r ed ictio n   p r o ce s s .   T ab les  7   an d   8 ,   an d   Fig u r e  9   s h o w  th at  b y   co m b in in g   XGBo o s t  with   th e  h y b r id _ AR I MA _ E M  m o d el,   th e   m o s t  ac cu r ate  o u tco m es   ar e  o b tain ed ,   wh ich   ar e  s o   n ea r   to   th e  o r ig in al  v alu es.  T h ese  r esu lts   en h an ce   th e  p r o p o s ed   s u g g esti o n   o f   co m b in in g   th e  s tated   m o d els s in ce   it is   th e  m o r e  p r ec is e  m eth o d   to   m ak e  th e   p r ed ictio n s .     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 2 5 2 - 8 9 3 8   I n t J Ar tif   I n tell ,  Vo l.  15 ,   No .   4 ,  Au g u s t 2 0 2 6 :   3 1 3 1 - 3 1 4 3   3140   T ab le  7 .   Or ig i n al  an d   f o r ec ast ed   d ata  o f   th e  y ea r s   2 0 0 0 - 2 0 2 4   f o r   t h e  co m b in ed   m o d els   Y e a r s   X G B o o st   +   h y b r i d _ A R I M A _ E M   G R U   +   X G B o o st   G R U   +   h y b r i d _ A R I M A _ EM   O r i g i n a l   d a t a   2 0 0 0   2 , 1 9 9   2 , 2 0 0   2 , 0 9 9   2 , 3 0 0   2 0 0 1   1 , 5 0 5   1 , 7 2 2   1 , 9 2 7   1 , 3 0 0   2 0 0 2   1 , 5 0 6   1 , 6 9 9   1 , 9 0 4   1 , 2 0 0   2 0 0 3   1 , 4 8 2   1 , 6 8 3   1 , 8 6 6   1 , 1 0 0   2 0 0 4   1 , 8 4 6   1 , 9 3 2   1 , 9 7 8   1 , 8 0 0   2 0 0 5   1 , 8 4 4   1 , 9 2 7   1 , 9 7 2   1 , 8 0 0   2 0 0 6   1 , 5 8 2   1 , 7 2 5   1 , 9 0 8   1 , 4 0 0   2 0 0 7   1 , 7 1 3   1 , 8 2 5   1 , 9 3 8   1 , 6 0 0   2 0 0 8   2 , 6 3 4   2 , 5 2 4   2 , 1 5 8   3 , 0 0 0   2 0 0 9   2 , 4 1 3   2 , 5 2 3   1 , 9 3 7   1 , 6 0 0   2 0 1 0   1 , 9 7 6   2 , 0 2 3   2 , 0 0 0   2 , 0 0 0   2 0 1 1   2 , 1 3 4   2 , 0 2 3   2 , 1 5 7   3 , 0 0 0   2 0 1 2   2 , 0 4 2   2 , 0 7 3   2 , 0 1 5   2 , 1 0 0   2 0 1 3   2 , 4 3 6   2 , 3 7 3   2 , 1 1 0   2 , 7 0 0   2 0 1 4   1 , 8 4 5   1 , 9 2 3   1 , 9 6 8   1 , 8 0 0   2 0 1 5   3 , 6 2 0   3 , 2 7 3   2 , 3 9 3   4 , 5 0 0   2 0 1 6   1 , 7 1 3   1 , 8 2 3   1 , 9 3 6   1 , 6 0 0   2 0 1 7   1 , 7 9 2   1 , 8 2 3   2 , 0 1 5   2 , 1 0 0   2 0 1 8   2 , 6 3 4   2 , 5 2 3   2 , 1 5 7   3 , 0 0 0   2 0 1 9   1 , 3 8 5   1 , 5 7 3   1 , 8 5 8   1 , 1 0 0   2 0 2 0   2 , 1 0 8   2 , 1 2 3   2 , 0 3 1   2 , 2 0 0   2 0 2 1   2 , 1 2 4   2 , 1 2 3   2 , 0 4 7   2 , 3 0 0   2 0 2 2   2 , 1 7 4   2 , 1 7 3   2 , 0 4 7   2 , 3 0 0   2 0 2 3   2 , 3 0 5   2 , 2 7 3   2 , 0 7 8   2 , 5 0 0   2 0 2 4   1 , 7 7 6   2 , 2 7 3   1 , 5 4 9   1 , 4 5 0       T ab le  8 .   R esu lts   o f   R MSE   an d   MA PE  f o r   th e  co m b in ed   f o r e ca s tin g   m o d els   C o m b i n e d   mo d e l   R M S E   M A P E   H y b r i d - A R I M A - EM   +   X G B o o s t     5 4 2 . 3 1   0 . 3 7   H y b r i d - A R I M A - EM   +   G R U   8 6 8 . 7 9   0 . 5 9   X G B o o st +   G R U     1 1 1 5 . 4 8   0 . 3 8           Fig u r e  9 .   Fo r ec ast o f   th e  y ea r s   2 0 0 0 - 2 0 2 4   u s in g   th e  co m b in e d   f o r ec asti n g   m o d els       4.   CO NCLU SI O N   Pric e  f o r ec asti n g   is   a  f u n d a m en tal  an d   c r itical  elem en t  o f   f in a n cial  an aly s is   an d   ec o n o m ics.   E f f ec tiv e  f o r ec asti n g   is   ess en tial  f o r   in f o r m e d   d ec is io n - m a k in g .   Acc u r ate  an d   r eliab le   d ec is io n s   h in g e  o n   p r ec is e  p r ed ictio n s ,   a n d   th e  u s e  o f   ad v a n ce d   AI   an d   s o p h is ticated   s tati s tical  m o d els  i s   th e   m o s t  ef f ec tiv e   ap p r o ac h   to   ac h iev in g   th ese   ac cu r ate  r esu lts .   T h is   s tu d y   m eticu lo u s ly   h ig h lig h ts   t h e   d is tin ctio n s   am o n g   s ev er al  p r ed ictiv e  eq u atio n s   u s in g   ML   m o d els.  T h e  r esear ch   d em o n s tr ates  th at  in teg r atin g   th e     hybr id - AR I MA - E M  m o d el  an d   XGBo o s t  is   th e  m o s t  ef f ec ti v e  an d   ac cu r ate  m o d el  f o r   tim e  s er ies  p r ed ictio n   th at  co v er s   th e  d ata.   W h ile  th e  p r esen t  s tu d y   ch a m p io n s   t h e  ef f icac y   o f   th e  h y b r id - AR I MA - E M  m o d el  in   ter m s   o f   m er g in g   it  with   a n   ef f ec tiv e  class if ier   ( XGBo o s t) ,   it  is   cr u cial  to   ac k n o wled g e  th e  m u ltifa ce ted   n atu r e  o f   th e  f o r ec asti n g   m e th o d o lo g y   lan d s ca p e.   E ac h   m o d el,   en co m p ass in g   AR I MA   an d   ML   m o d els,  Evaluation Warning : The document was created with Spire.PDF for Python.