I AE S   I n t e r n at ion al  Jou r n al   of   Ar t if icial   I n t e ll ig e n c e   ( I J - AI )   Vol.   14 ,   No.   5 ,   Oc tober   2025 ,   pp .   3744 ~ 3756   I S S N:  2252 - 8938 ,   DO I 10 . 11591/i jai . v 14 .i 5 . pp 37 44 - 3756             3744     Jou r n al  h omepage ht tp: // ij ai . iaes c or e . c om   B ac k p r op aga t io n  n e u r al  n e t w or k s f o r  sol vi n g gas f lo w   e q u at io n s i n   p or o u s m e d ia       Adrian t o 1 Z u h e r   S yih ab 2 ,   S u t op o 2 ,   T au f an   M a r h ae n d r aj an a 2   1 D oc to r a P r ogr a m   of  P e tr ol e um E ngi ne e r in g,  F a c ul ty  of  M in in g a nd P e tr ol e um  E ngi ne e r in g I ns ti tu T e knol ogi  B a ndung , B a n dung,  I ndone s ia   2 D e pa r tm e nt   of  P e tr ol e um E ngi ne e r in g, F a c ul ty  of  M in in g a nd P e tr ol e um  E ngi ne e r in g I ns ti tu T e knol ogi  B a ndung , B a ndung, I ndone s ia       Ar t icle   I n f o     AB S T RA CT   A r ti c le  h is tor y :   R e c e ived  Nov   05 2024   R e vis e J ul   15 2025   Ac c e pted  Aug   06 2025       T h i s   s t u d y   p r o p o s e s   b a ck p ro p ag a t i o n   n eu ra l   n e t w o rk   (BP N N a s   a n   al t er n at i v s o l v er   fo n o n l i n ear   eq u at i o n s   i n   g a s   fl o w   s i m u l a t i o n   t h r o u g h   p o r o u s   med i a.   Co n v en t i o n a l   s o l v ers   l i k t h N ew t o n - Ra p h s o n   (N - R)   me t h o d   are  accu rat b u t   may   b eco me  i n eff i ci e n t   f o l a rg e - s ca l o h et er o g e n eo u s   s y s t ems .   W d ev e l o p   feed fo r w ar d   BPN N   arc h i t e ct u re  w i t h   ad a p t i v e   l earn i n g   rat es   t o   s o l v d i s cre t i ze d   res i d u a l   eq u at i o n s   fro t h o n e - d i me n s i o n al   g as   fl o w   m o d e l .   T h met h o d o l o g y   i n c l u d es   fi n i t d i ffere n ce   d i s cret i zat i o n   an d   map p i n g   t h n o n l i n ear  al g eb ra i s y s t em  i n t o   fo u r - l a y er   n eu ra l   n et w o r k .   T h BPN N   s o l v er  i s   v a l i d at e d   ag a i n s t   t h N ew t o n   met h o d   acro s s   v ar i o u s   g ri d   s i zes   a n d   h e t ero g en e o u s   p ermeab i l i t y - p o r o s i t y   d i s t ri b u t i o n s .   Res u l t s   s h o w   t h at   BPN N   ach i e v es   h i g h   acc u racy ,   w i t h   max i m u ab s o l u t err o rs   (M A E )   o o n l y   0 . 2 4 1   p s i   i n   t h h o m o g e n eo us  mo d e l   an d   0 . 0 4 1 8   p s i   i n   t h h et er o g e n eo u s   m o d e l .   W h i l t h BP N N   re q u i res   mo re  i t erat i o n s   a n d   l o n g er  c o mp u t a t i o n   t i me,   e s p ec i al l y   f o fi n er  g r i d s ,   i t   ex h i b i t s   t h ab i l i t y   t o   l ear n   p res s u re  p a t t er n s   an d   i mp ro v effi c i en c y   o v e r   t i me.   T h i s   ap p ro ac h   d emo n s t r a t es   t h at   BP N N   ca n   s er v as   v i a b l n o n l i n ea r   s o l v er  i n   res erv o i s i mu l at i o n ,   o fferi n g   fl e x i b i l i t y   i n   h a n d l i n g   n o n l i n eari t i e s   w h i l mai n t a i n i n g   accu rac y .   K e y w o r d s :   B a c kpr opa ga ti on   Ga s   f low   Ne ur a ne twor ks   Nonlinea r   s olver   R e s e r voir   s im ulation   Th i s   i s   a n   o p en   a c ces s   a r t i c l u n d e r   t h CC  B Y - SA   l i ce n s e.     C or r e s pon din A u th or :   Adr ianto   Doc tor a P r ogr a m   of   P e tr oleum   E nginee r ing ,   F a c ult of   M ini ng  a nd  P e t r oleum  E nginee r ing   I ns ti tut   T e knologi   B a ndung   Ga ne s ha   S tr e e No. 10,   B a ndung - 40132,   I ndone s ia   E mail:   a dr ianto . it b@gmail . c om       1.   I NT RODU C T I ON   F os s il   f ue ls ,   pa r ti c ular ly  thos e   or igi na ti ng  f r om  h ydr oc a r bon  ( oil   a nd  ga s ) ,   r e main  a s   the  pr im a r y   global  s our c e   of   e ne r gy   de s pit e   the  r is ing  us e   of   r e ne wa ble  r e s our c e s   [ 1] [ 3] .   T e f f e c ti ve ly  de ve lo the  oil   a nd  ga s   f ield,   we   ne e to   unde r s tand  how  f lui ds   move  thr ough   the   por ous   medium   in  the   s ubs ur f a c e .   I n   a ddi ti on,   the  knowle dge   of   f lui d   f low   in   po r o us   media   a ls o   plays   a n   im por tant  r ole   in   the   s tudy  of   gr oundwa ter   [ 4] [ 6] ,   ge other mal   e ne r gy  [ 7] ,   [ 8 ] ,   a nd  C O 2   s e que s tr a ti on  [ 9 ] [ 11] .   R e s e r voir   s im ulati on  is   one   of   the  f ields   in  pe tr oleum   r e s e r voir   e ngin e e r ing  w he r e   numer ica c omput e r   pr ogr a ms   a r e   us e to  pr e dict  f lui d   f low  be ha vior   withi n   oil   a nd   ga s   r e s e r voir s .   S ince   t his   model  c ontains   unc e r tainti e s ,   the  phys ica pr op e r ti e s   of   r oc ks   a nd  f lui ds ,   a nd  ini t ial  r e s e r voir   c ondit ions   c a be   a djus ted  a s   long   a s   they   a r e   withi n   r e a s ona ble   e nginee r ing  li mi ts   unti a   p r oduc ti on  his tor matc is   a c hieve [ 12] [ 14] .   good  his tor y   m a tch  im pli e s   that  the  r e s e r voir   model  c a pr e dict  the  f utu r e   be h a viour   of   hydr oc a r bon  p r oduc ti on.   T he r e f o r e ,   r e s e r voir   s im ulation  c a a s s i s the  de c is ion - m a king  pr oc e s s   in  r e s e r voir   mana ge ment  a nd  de ve lopm e nt  a s   it   c a n   e s ti mate   oil   a nd/or   ga s   r e c ove r unde r   va r ious   pr o duc ti on  s c e na r ios   [ 15] .   Evaluation Warning : The document was created with Spire.PDF for Python.
I nt  J   Ar ti f   I ntell     I S S N:   2252 - 8938       B ac k pr opagati on  ne ur al  ne tw or k s   for   s olving  gas   fl ow   e quati ons   in  por ous   me dia  ( A dr iant o)   3745   Due   to  the  nonli ne a r it y   of   the   s ys tem  of   e qua ti ons   in  a   r e s e r voir   s im ulation ,   s olvi ng  it   a c c ur a tely  a nd   e f f icie ntl is   a   c ha ll e ng ing  tas k.   A   r e s e r voir   mod e is   a   s im pli f ica ti on   o f   the  p r ope r ti e s   o f   r oc ks ,   f l uids ,   a nd   their   int e r a c ti ons   a s   we ll   a s   the  f lui f low  mec ha ni s in  the  r e s e r voir   dur ing  p r oduc ti on.   R e s e r voir   g e ometr c a be   modele with  va r ious   gr id  s ha pe s ,   s uc a s   r e gular   c a r tes ian,   r e c ti li ne a r ,   c ur vil inea r ,   or   uns tr uc tur e d.   R e s e r voir   f lui ds   c ould  be   r e pr e s e nted  by  blac k - oil   or   c ompos it ional  models ,   de pe nding  on  the  nu mber   of   pha s e s   a nd  the  number   of   c omponents   the   modele r   is   c onc e r ne wi th.   T he   pr oduc ti on   pe r iod  is   divi de int o   s e ve r a ti mes teps   ba s e on  the   li mi t   o f   a c c ur a c to   be   a c hieve d.   W e   f ound   that   the  mor e   c ompl e the   r e s e r voir   numer ica l   model  a nd   the  higher   the   e xpe c ted  a c c ur a c y,   the  g r e a ter   the   c os a nd  c omput a ti o na ti me   to  s olve  i t.   T hus ,   ou r   s tudy   a im s   to  de ve lo p   a   ne a ppr oa c to   a c c ur a tely  s olve  the  nonli ne a r   e qua ti o ns   f ound   in  oil /gas   r e s e r voir   s im ulations .   Ar ti f icia ne u r a ne twor ks   ( AN N)   ha ve   be e wide ly  us e s uc c e s s f ull in  modeling   nonli ne a r it ies   in   many  f ields   [ 16] [ 18] .   Among   AN Ns ,   ba c kpr opa g a ti on  ne ur a l   ne twor ks   ( B P NN )   a r e   the   mos popula r ly  us e d   ne ur a ne twor models .   B P NN   is   ba s ica ll a   f e e df or wa r ne twor tr a ined  us ing  the   e r r or   gr a dient   c a lcula ti on,   whic is   c a ll e ba c kwa r d   pa s s .   T he   B P NN   ne twor c a lea r n   a nd   r e membe r   e xtens ive  input - output   mapping  r e lations   without   r e quir ing  p r ior   knowle dge   of   t he   mathe matica e qua ti on  that  de f ines   thes e   r e lat ions hips .   T he   lea r ning  r ule  e mpl oys   the  s tee pe s de s c e nt  method,   uti li z ing  ba c kpr opa ga ti on  to  a djus t/ mo dif the    we ight   to  r e duc e   the  s um  of   s qua r e e r r or s .   T h is   f e a tur e   make s   B P NN   popular   f or   pr e dicting  c ompl e nonli ne a r   s ys tems .   B e s ide s   B P NN ,   other   AN N   methods   ha ve   a l s o   be e us e in   f lui f low   s tudi e s .   I s ka nda r   a nd  Kur ihar a   [ 19]   uti li z e   long   s hor t - ter memor y   ( L S T M )   to   f o r e c a s the   pr oduc e oi l,   CO 2   a nd   wa ter   d ur ing  the   c a r bon  c a ptur e ,   uti li ty ,   a nd  s tor a ge   ( C C US)   ope r a ti ons .   Z ha ng  e al [ 20]   s uc c e s s f ull c ombi ne d   B a ye s ian   M a r kov  c ha in  M onte  C a r lo  ( M C M C )   a nd  L S T M   to  a s s is the  hi s tor matc hing  pr oc e s s   a n c a ptur e   s ubs ur f a c e   unc e r tainty  in  the   10th   S P E   c ompar a ti v e   model.   I n   the  wor k   by   Z ha ng   e al [ 21] r e c ur r e nt  ne ur a l   ne twor ( R NN ) ,   L S T M ,   a nd  ga ted  r e c ur r e nt  uni ( GR U)   c a a c c ur a tely  a nd  e f f e c ti ve ly  pr e dict  r e s e r voir   outf low  in   wa ter   r e s our c e s .   L e t   al [ 22]   pr opos e a   de e ne ur a ne two r k   ( DN N) - ba s e r e s e r voir   s im ulator   f or   hydr a uli c   f r a c tur ing   a nd  va li da ted   by   s im ulating  3D   s ynthetic  model   a nd   unc onve nti on a f ield .     S a ntos   e al [ 23 ]   p r opos e a   3D  c onvolut ional  ne ur a ne twor k   ( C NN )   that   is   a ble  to   p r e dict  f lui d   f l ow  in   3D   digi tal  r oc i mage s .   T he s e   methods   e xc e in  te r ms   of   c omput a ti ona t im e   be c a us e   they  a r e   s tand - a lone   models   a nd  a r e   not  a ppli e to   s olve  nonli ne a r   di s c r e te  e qua ti ons   in  r e s e r voir   s im ulation.   How e ve r ,   the   a f or e mentioned  ne ur a l   ne twor k   a ppr oa c he s   ne c e s s it a te  a   s ubs tantial  qua nti ty   of   his tor ica l   da ta   to   f or e c a s a   li mi ted  tempo r a s pa n,   a nd   a r e   c ompar a ti ve ly   les s   e f f e c ti ve   in  p r ovidi ng   a n   e xplana ti on  o f   t he   f l uid  f low   phe nomena   oc c ur r ing  withi n   the  r e s e r voir .   R a is s e al [ 24 ]   int r oduc e phys ics - inf or med  ne ur a ne twor ks   ( P I NN )   whic uti li s e s   ne ur a ne twor ks   that  a tt e mpt   to  obtain  c onti nuous   s olut io ns   of   pa r ti a dif f e r e nti a e qua ti on s   ( P DE )   by  incor por a ti ng   the  phys ics   of   ini ti a l   a nd   bounda r y   c ondit ions   a s   the   los s   f unc ti on .   I hunde   a nd   Olor ode   [ 25]   de m ons tr a ted  that  P I NN   c a incor po r a te  phys ica c ons tr a int s   wi thout   s igni f ica ntl y   r e duc ing  the  a c c ur a c of   c omp os it ional  model,   but  r e qui r e   up  to  mi ll ions   o f   unique  da t a   in  their   s tudi e s .   Ha e al [ 26]   pr opos e the  phys ics - inf or med  ne ur a ne twor k   ba s e on  domain  de c o mpos it ion  ( P I NN - DD )   whic s uc c e s s f ull s olved  the  pr oblem   of   lar ge - s c a le  r e s e r voir   s im ulation   with  li mi ted  da ta,   but   a a   high   c omput a ti ona ti me  a nd   c os t.   Z h a ng  [ 27]   c a me  up  with  phys ics - inf or med  de e c onvolut ion a ne ur a ne twor k   ( P I DC NN ) ,   whic is   mor e   e f f ic ient  than  f ull c onne c ted  ne ur a ne twor ks ,   a s   2D  va r iabl e s   may  be   tr e a ted  a s   im a ge s .   T he   pr im a r c on s tr a int   of   P I DC NN   is   it s   r e s tr iction  to  s tr uc tur e gr ids ,   while  the  method  f or   r e pr e s e nti ng  f e a tur e s   s e up  on  uns tr uc tur e gr ids   in   a im a ge - li ke   f or mat   r e mai ns   unc lea r .   A   P I NN   us ing  a   c a pa c it a nc e   r e s is tanc e   model  ( C R M )   wa s   de ve loped  by  M a nigl io  e al [ 28]   to   f or e c a s oil   pr oduc ti on  in  r e s e r voir s   with  wa ter f loodi ng,   e li mi na ti ng  the   ne e f or   a   3D  model   a nd   e ns ur i ng  c ons is tenc in  p r oduc ti on   da ta.   W hil e   AN N   a nd  the  c ombi na ti on  of   s ome  methods   wi th  other   types   of   ne u r a ne two r ks   ha ve   be e de ve loped,   c on ve nti ona r e s e r voir   s im ulation  is   s ti ll   r e quir e d   f or   va r ious   typ e s   of   r e s e r voir   mana ge ment  pr oblems   s uc a s   opti mi z a ti on  of   inf i ll   dr il li ng  c a mpaign   a nd  a ppli c a ti on  o f   a ppr o pr iate   e nha nc e oil   r e c ove r y   ( E OR )   methods .   T his   s tudy  a im s   to  ha r ne s s   the  nonli ne a r it modeling  c a pa bil it ies   of   B P NN   to  be   us e a s   a   ne w   a lt e r na ti ve   nonli ne a r   s olver   in   r e s e r voir   s im ulati on.   T his   pa pe r   is   or ga nize d   a s   f oll ows i s e c ti on  2,   the   gove r ning  e qua ti ons   f or   the   1D  ga s   f low   in   po r ous   medium,   dis c r e t iza ti on,   a nd   wor kf lows   f or   Ne wton  method  a nd  ne ur a ne twor a ppr oa c is   p r e s e nted.   S e c ti on  c ontains   the  r e s ult s   of   the  ne ur a l   ne twor a ppr oa c to  s olvi ng  one - dim e ns ional  ga s   f low  in   a   por ous   medium ,   va li da ted  by   c ompar ing  the   s olut ions   obtaine f or   the  N e wton   method.   T he   e f f e c o f   l e a r ning  r a te  pa r a mete r s   on  the   c omput a ti on  ti me   a nd  the   number   of   it e r a ti ons   is   inves ti ga ted  on  bo th  homo ge ne ous   a nd  he ter oge ne ous   model.   S e c ti on   4   s umm a r ize s   the  pe r f or manc e   of   the  pr opos e ne ur a ne twor k - ba s e nonli ne a r   s olve r   in  r e s e r voir   s im ulation  a nd  pr ovides   s ome  s ugge s ti ons   f or   f utur e   r e s e a r c h.         Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2252 - 8938   I nt  J   Ar ti f   I ntell ,   Vol.   14 ,   No.   5 Oc tober   20 25 37 44 - 3756   3746   2.   M E T HO D   2. 1 .     M od e d e s c r ip t ion   F igur e   1   il lus tr a tes   the  one - dim e ns ional  model   th e   s ingl e - pha s e   ga s   f low  in   a   po r ous   medium .   At   ini ti a c ondit ions ,   a ll   c e ll s   a r e   a s s umed  to  ha ve   the  identica pr e s s ur e   of   5 , 000   ps i.   T he   Dir ichle c o ndit ion  is   a s s igned  a the  lef by   ke e ping  the  p r e s s ur e   c ons ta nt ,   whe r e a s   the  Ne umann  c ondit ion  of   no - f low  bo unda r is   a s s igned  a the  r ight .   Othe r   model   pa r a mete r s   whic r e late to   the  s im ulation  a r e   s umm a r ize in   T a bl e   1 .           F igur e   1 .   one - dim e ns ional  model  of   ga s   f low   in  a   por ous   medium       T a ble   1.   M ode pa r a mete r s   P a r a me te r s   V a lu e   T e mpe r a tu r e   200   I ni ti a pr e s s ur e  ( ps i)   5 , 000   C 1 ( % )   100   P e r me a bi li ty  ( md)   1, 10 - 20  ( he te r oge ne ous )   P or os it y ( f r a c ti on)   0.1, 0.1 - 0.2 ( he te r oge ne ous )   D is ta nc e  ( f t)   1 , 000   D ur a ti on ( da y)   6.9   Δ   0.0069       I one   dim e ns ion   ( li ne a r   f low) ,   the   e qua ti ons   r uli ng  the   s ingl e - pha s e   ga s   f low  in   a   por ous   medium     is   a s   ( 1) :      (    ) = 1    ( )   ( 1)     whe r e     is   ga s   vis c os it y;    is   ga s   de viation  f a c tor     is   pr e s s ur e   is   dis tanc e   in  the  x - c oor dinate   is   ti me;    is   dif f us ivi ty  c oe f f icie nt,   e qua l   to  0 . 0 0 6 3 3   / ,   with     a nd    is   th e   pe r mea bil it a nd  po r os it y,   r e s pe c ti ve ly.   W e   us e the   dir e c t   c or r e lation   of   P a pa y   [ 29 ]   to   e s ti mate   ga s   de viation   f a c tor ,   Z ,   a nd   the   c or r e l a ti on  of   Gonz a lez   e al [ 30]   to  e s ti mate   ga s   vis c os it y,   .   T obtain  a   numer ica s olut ion ,   ( 1 )   is   dis c r e ti z e us ing  the  f ini te  dif f e r e nc e   method.   T he   lef t - ha nd   s ide  of   ( 1 )   r e lating   to   s pa c e   is   dis c r e ti z e us ing   c e nter e f ini te   dif f e r e nc e ,   whe r e a s   the  r ight - ha nd  s ide   r e lating  to  ti me  us e s   f or wa r d   f ini te   dif f e r e nc e ,   thus   r e s ult ing  in   the  r e s idual  in   ( 2 ) :     =   1 + 1 β i + 1 + + 1 + 1   ( 2)     with  c oe f f icie nts     a nd    de f ined  a s   (3 - 5) :     = ( (  ) 1 + 1 + 4 (  ) + 1 (  ) + 1 + 1 ) 4 Δ 2   ( 3 )     = 2 (  ) + 1 2 + 1  ( 1 + 1 + 1 )   ( 4 )     = ( (  ) 1 + 1 + 4 (  ) + 1 + (  ) + 1 + 1 ) 4 Δ 2   ( 5 )     F igur e   s hows   the  dis tr ibut ion  o f   r oc k   pr ope r t ies   to  s e e   the  e f f e c of   r e s e r voir   he ter oge ne it y     on  s olver   pe r f or manc e T he   pe r mea bil it dis tr i buti on  is   pr e s e nted  in  F igur e   2( a ) ,   while  the  por os it dis tr ibut i on  is   s hown  in   F igur e   2( b ) .   W e   us e uni f or m   dis tr ibut ion   to   ge ne r a te  pe r mea bil it y   with   a   r a nge   of   10  to  20   m il idar c ies ,   a nd   por os it with   a   r a nge   of   0 . to   0. 2 .   Evaluation Warning : The document was created with Spire.PDF for Python.
I nt  J   Ar ti f   I ntell     I S S N:   2252 - 8938       B ac k pr opagati on  ne ur al  ne tw or k s   for   s olving  gas   fl ow   e quati ons   in  por ous   me dia  ( A dr iant o)   3747     ( a )       ( b)     F igur e   2.   Dis tr ibut ion   of   ( a )   pe r mea bil it in  10   ( to p) ,   25   ( mi dd le) ,   a nd  50  ( bott om )   gr ids ,   a nd  ( b)   por os it in  10  ( top) ,   25   ( mi ddle ) ,   a nd  50  ( bott om)   gr ids   in  he t e r oge ne ous   models       2. 2 .     Ne wt on   m e t h o d   T he   Ne wton - R a phs on  ( N - R )   method  is   one   of   the   mos f r e que ntl y   us e a nd   e f f icie nt   tec hniques   in   s olvi ng  s ys tems   of   e qua ti ons   f ound  in  mathe matic a a nd  e nginee r ing   pr ob lems .   T he   N - R   method   s e a r c he s   f or   the  r oots   of   a n   e qua ti on  us ing  the   tange nt  li ne   o f   a   c u r ve   it e r a ti ve ly   unti l   it   a ppr oa c he s   the  s olut ion.   T he   r e s idual  in  ( 2 )   c a be   w r it ten  in   matr ix   f o r a s    = ,   a s   s tate in  ( 6 ).     [         0 0 0 0 0 + 1 + 1 + 1 0 0 0 0 0 0 0 0 1 1 1 0 0 0 0 0 + ]         × [         + 1 1 ]         = [          0 0 0 0 ]             ( 6)     T upda te  t he   s olut ion  a e a c it e r a ti on ,   the  s olut i on  a the  pr e vious   it e r a ti on  a nd  the  inver s e   of   the  J a c obian   matr ix  a r e   r e quir e d   in   ( 7 ) .     + 1 = 1 ( )   ( 7)     T he   J a c obian  matr ix  is   a   c oll e c ti on  of   a ll   the  f i r s p a r ti a de r ivatives   of   the  r e s idual   in  ( 8 ) .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2252 - 8938   I nt  J   Ar ti f   I ntell ,   Vol.   14 ,   No.   5 Oc tober   20 25 37 44 - 3756   3748   = [       1 1 1 1 ]         ( 8)     2. 3.     B ac k p r op agat ion   n e u r al   n e t wor k s   W e r bos   [ 31 ]   f i r s pr opos e the  us e   of   c ha in  r u l e s   to  s ys tema ti c a ll c a lcula te  gr a dients   in  ne ur a l   ne twor ks ,   whic is   the  ba s ic  c onc e pt  in  ba c kpr opa ga ti on.   L a ter ,   R umelha r e t   al [ 32]   popular ize the   ba c kpr opa ga ti on  a lgor it hm  by  us ing  it   to  tr a in  n e ur a ne twor ks   with  mul ti ple  laye r s .   Gouliana s   e al [ 33]   int r oduc e a   method  to  s olve  a   s ys tem  of   nonli ne a r   a lgebr a ic  e qua ti ons   by  us ing  the  ba c kpr opa ga ti on  method.   F o r   e xa mpl e ,   f or   s ys tem  of   e qua ti ons   with     e qua ti ons   a nd    unknown   va r iable s   a ( 9) :     1 ( ) = 1 ( 1 ,   2 , , ) = 11 11 ( ) + 12 12 ( ) + + 1 , 1 1 1 ( ) 1 = 0       2 ( ) = 2 ( 1 ,   2 , , ) = 21 21 ( ) + 22 22 ( ) + + 2 , 2 2 2 ( ) 2 = 0       ( ) = ( 1 ,   2 , , ) = 1 1 ( ) + 2 2 ( ) + + , ( ) = 0     ( 9)     In   ( 9 )   a b ov e   i s   a na lo go u s   t r e s i du a ( 2 ) .   S o,   f or   e x a m pl e ,   th e   r e s i du a l   f or   th e   s e c o nd  gr i c a be   wr i tt e n     i ( 10) :     2 ( 1 , 2 , 3 ) = 2 ( 1 , 2 , )     ( 10)     He nc e ,   we   ha ve   the  f o ll owing  ( 11 ) :     2 ( ) 1 + 2 ( ) 2 + 2 ( ) 3 = 21 21 ( ) + 22 22 ( ) + 23 23 ( )     ( 11)     whe r e   21 ( ) = 2 ( ) 1 ;   22 ( ) = 2 ( ) 2 ;   23 ( ) = 2 ( ) 3   a nd  21 = 22 = 23 = 1 .     ne ur a ne twor k   a r c hit e c tur e   with  f our   laye r s   c a be   f or med  a s   s hown  in   F igur e   3 .   T he   we ight   va lue  c onne c ti ng  the  f ir s a nd  s e c ond  laye r s   is   u pda ted  it e r a ti ve ly  to  ge the    va lue  that  is   c los e s to  the  s olut ion.   T he n ,   the   we ight   that   c onne c ts   laye r   to   laye r   3   r e pr e s e nts   the  f unc ti on   ( ) .   W hil e   the   we ight   on   laye r   to  laye r   p uts   the    c oe f f icie nt  in  the  e qua ti on.   T he   r e s idual  e qua ti on  in  ( 2 )   doe s   not  a dd  a   f ixed  c ons tant  s that  thi s   ne ur a l   ne twor model  doe s   no include   b ias   in   the  las laye r   o r   o ther   laye r s .   T he   it e r a ti on   pr oc e s s   to  upda te  the  s olut ion  is   c a r r ied  out   with  t h e   f oll owing  ( 12) :     + 1 = ( ) ( )  ( ) = 1     ( 12)     with  ( )   is   the  a da pti ve   lea r ning  r a te  pa r a mete r   a e a c it e r a ti on   in  ( 13 ) :     ( ) < 2 ( ( ) ) 2 = 1     ( 13)     T he   a bove   s ys tem  of   nonli ne a r   e qua ti ons   is   s im il a r   to  the  r e s idual  e qua ti ons   f ound  in  r e s e r voir   s im ulations .   One   ne ur on  in  laye r   ha s   a   f ixed  va lue  of   1.   I laye r   2 ,   thi s   va lue  is   the  pr e s s ur e   s olut ion  that  will   be   s olved  f or   e a c gr id  s the  nu mber   of   ne ur ons   will   de pe nd  on  the  number   of   gr ids   in  the  mo de l.   T he   ne ur ons   in  laye r   3   r e p r e s e nt  the  th r e e   ter ms   in   t he   lef t - ha nd  s e gment  of   the   r e s idual  e qua ti on W hil e   the  ne ur on  in  laye r   4   is   the  output   laye r   whos e   va lue  is   e xpe c ted  to  be   c los e   to  z e r o.   T a ble  2   s hows   the  n umber   of   ne ur ons   in  e a c ne twor laye r .       T a ble  2 .   Numbe r   o f   ne ur ons   in   e a c ne twor k   laye r   N umbe r  of  gr id s   N umbe r  of  ne ur ons   L a ye r  1   L a ye r  2   L a ye r  3   L a ye r  4   10   1   10   30   10   25   1   25   75   25   50   1   50   150   50     Evaluation Warning : The document was created with Spire.PDF for Python.
I nt  J   Ar ti f   I ntell     I S S N:   2252 - 8938       B ac k pr opagati on  ne ur al  ne tw or k s   for   s olving  gas   fl ow   e quati ons   in  por ous   me dia  ( A dr iant o)   3749       F igur e   3 B P NN   f o r   s olvi ng   nonli ne a r   e qua ti ons   [ 3 3]       3.   RE S UL T S   AN DI S CU S S I ON   3. 1.     M od e va li d at ion   W e   va li da te d   the  s im ulation  r e s ult s   by  c ompar ing  the  pr e s s ur e   dis tr ibut ion  s olut ion  f r om  the  c a lcula ti on  us ing  the  B P NN   a ppr oa c with   the  s o lut ion  f r om  the  Ne wton  method.   C ons tant  pr e s s ur e   a the   lef bounda r c ondit ion   a nd  no  f low  a t   the  r ight   bo unda r c ondit ion  lea d   to   the  pr e s s ur e   dis tr ibut ion   p r of il e   a s   s e e in  F igur e   4 .   B e c a us e   the  pe r mea bil it of   the  he ter oge ne ous   model  ( 10 - 20  md)   is   r e latively  higher   than  the  homogene ous   model  ( md) ,   the  pr e s s ur e   dr op  in  the  he ter oge ne ous   model  is   much  f a s ter .   Highe r   pe r mea bil i ty  f a c il it a tes   the   mor e   e f f icie nt  moveme nt  of   f lui ds   th r ough   the   r oc k   matr ix   [ 34] ,   [ 3 5] .   T his   indi c a tes   that  f lui c a be   quickly  e xt r a c ted  f r om   t he   r e s e r voir   upon  the  be ginni ng   of   p r oduc ti on,   r e s ult ing  in   a   mor e   r a pid  de c r e a s e   in  pr e s s ur e .   At  the  e nd  of   the  s im ulation  ti me  of   6. da ys ,   the  pr e s s ur e   a the  r ight   e nd  dr ops   to   4987   ps i   a n 4962   ps i   f o r   the  ho mogene ous   a nd  he ter oge ne ous   models ,   r e s pe c ti ve ly.   F igur e   4   s hows   that  the  pr e s s ur e   s olut ions   on  e a c gr id  a r e   in   go od  a gr e e ment  be twe e the  pr e s s ur e   point s   f r om  t he   B P P a ppr oa c a nd  f r om   Ne wton's   method  in   both   the   homogene ous   model  i n   F igur e   4( a )   a nd   the  he ter oge ne ous   model  in  F igur e   4( b) .   T he   li ne s   de note  the  s olut ion  of   the  Ne wton  method,   while  the  s ymbol s   de note  the  s olut ion  of   the   B P NN   method .           ( a )   ( b)     F igur e   4 .   P r e s s ur e   dis tr ibut ion   in   ( a )   homogene ous   model  a nd  ( b)   he ter oge ne ous   model   Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2252 - 8938   I nt  J   Ar ti f   I ntell ,   Vol.   14 ,   No.   5 Oc tober   20 25 37 44 - 3756   3750   F igur e   5   s hows   the  pr e s s ur e   e r r or   incr e a s ing  ove r   ti me  in  both   the  homogene ous   model   in     F igur e   5 ( a )   a nd   the   he ter oge ne ous   model  in   F igu r e   5( b) .   T his   may   be   due   to   the  tr unc a ti on  e r r or   of   the  f ini te   dif f e r e nc e   method  gr owing  a s   ti me  pr ogr e s s e s   [ 36] ,   [ 37 ] .   M or e ove r ,   f ini te  pr e c is ion  in  n umer ica c omput a ti ons   c a us e s   r ound - of f   e r r or s .   T he s e   s mall  inac c ur a c ies   c a n   a c c umul a te  ove r   a   long   s im ula ti on  a nd   a f f e c s olut ion  a c c ur a c [ 38 ] ,   [ 39] .   T ove r c ome  thi s ,   s ome  r e s e a r c he r s   us ua ll us e   high - or de r   f ini te   dif f e r e nc e s   [ 40] ,   [ 41]   or   us e   s maller   ti me   s teps   dur ing  c r i ti c a pa r ts   of   the  s olut ion   [ 42 ] .   How e ve r ,   it   s hows   that  the   magnitude   of   the   pr e s s ur e   e r r or   is   ve r y   s mall  with   maximum   a bs olut e   e r r or   ( M AE )   of   2 . 41 × 10 7   ps a nd  4 . 18 × 10 8   ps i   in  the  homogene ous   a nd  he ter oge ne o us   models .   T his   ind ica tes   that  B P NN   pr oduc e s   a a c c ur a te  s olut ion  in  p r e dicting  the  p r e s s ur e   dis tr ibut ion  in  thi s   model.           ( a )   ( b)     F igur e   5 .   Abs olut e   e r r o r   o f   pr e s s ur e s   be twe e NN   s olver   a nd  Ne wton   method  in   ( a )   homogene ous   m ode   a nd  ( b)   he ter oge ne ous   model       3. 2.     Num b e r   of   it e r at ion s   T a c hieve   a e f f icie nt  B P NN   c omput a ti on ,   Gou li a na s   [ 33]   r e c omm e nds   s e tt ing  the  lea r ning  r a te   be twe e a nd   2.   T he r e f or e ,   w e   c ompar e d   the   le a r ning  r a te   pa r a mete r   whic is   a   hype r pa r a mete r   in  ne ur a l   ne twor ks   with  va lues   f r om   0. 1   to   0. 9   with   a   r a n ge   of   0. 2 F igur e   6   s hows   the  pe r f or manc e   o f   th e   B P NN   s olver   a s   indi c a ted  by   the   a ve r a ge   it e r a ti ons   a ga ins the   a da pti ve   lea r ning   r a te   pa r a mete r   on   the  ho mo ge ne ous   model  in   F igur e   6( a )   a nd   the   he ter oge ne ous   mo d e in   F igur e   6( b ) .   I t   s hows   that   the  i ter a ti ons   r e q uir e to   obtain  the  s olut ion   on   e a c ti mes tep  incr e a s e   by  us ing  a   f ine r   gr id .   I nc r e a s ing  the  r e s olut ion  of   the   gr id   r e s ult s   in   a   g r e a ter   number   of   unknowns   while   s olvi ng  is s ue s thus   incr e a s e s   the  s ize   a nd  c ompl e xit of   the  s ys tem  of   e qua ti ons   a s   we ll   a s   t he   dim e ns ion  J a c obian  matr ix Nonlinea r it ies   in  the  gove r ning  e qua ti ons   may  be   higher   on  f iner   g r ids .   T he r e f or e ,   a dd r e s s ing  thes e   nonli ne a r it ies   may  ne c e s s it a te  mor e   it e r a ti ons ,   a s   t he   a ppr oa c h   mus c onti nuous ly   li ne a r ize   a nd   r e s olve    the  s ys tem.   M or e ove r ,   he ter oge ne ous   models   a ls a r e   mor e   li ke ly  to   r e quir e   a   lar ge r   number   of   it e r a ti ons .   T he   he ter oge ne ous   model  with  50   gr ids   r e quir e   the   hi ghe s number   of   it e r a ti ons   a mong   other   models .   T his   may   be c a us e   phys ica va r iable s   li ke   pe r mea bil it a nd   por os it e xhibi loca li z e va r iabili ty ,   r e s ult ing  in   a   mo r e   c ompl e s e of   e qua ti ons   to  s olve.   S igni f ica nt  va r i a ti ons   in  thes e   c ha r a c ter is ti c s   mi ght  lea to  s ha r gr a dients   that  r e quir e   mor e   it e r a ti ons   [ 43] .   I n   a ddit ion,   e r r or s   a r is ing   a loca ti ons   with  majo r   pr ope r ty   dif f e r e nc e s     ( e . g. ,   bounda r ies   be twe e high -   a nd  low - p e r mea bil it z one s )   c ould  pr opa ga te  a c r os s   the  s olut ion   domain,   lea ding  to  a ddit ional  it e r a ti ons   f o r   c or r e c ti ons   [ 44] ,   [ 45] .   I e a c s im ul a t io r un,   we   s e a   t ol e r a n c e   of   a b s ol ut e   m a x im u e r r or   of   10 6   p s i,   s th a t he   i te r a ti on s   o f   th e   N e wt on  a n B P N m e t ho d s   wi ll   c o nt in ue   t r u u nt il   t he r e a c th a li m it .   F i gu r e   s h o w s   t he   d e c r e a s e   i r e s i du a e r r or   a s   i t e r a ti on s   pr o gr e s s   f o r   t he   h omo g e n e o u s   m od e l   i F i gu r e   7 ( a )   a nd  t h e   he t e r o ge n e o u s   mo de in  F ig ur e   7( b ) .   I s ho w s   t ha B P N r e qu ir e s   mor e   it e r a t io n s   th a Ne wt on  m e t ho in   a ll   c a s e s .   A in ter e s t in f i nd in f r om  F i gur e   7   i s   t h a th e   N e wt on  m e th od   r e qu ir e s   f e w e r   it e r a ti on s   a t   th e   b e gi nni ng   of   t he   s im ul a t io a n t h e n   in c r e a s e s .   T h e   v ic e   v e r s a   i s   ob s e r ve f or   B P N N,   wh e r e   mor e   i te r a ti on s   a r e   r e q uir e a t he   be gi nn in of   th e   s im u l a t io bu d e c r e a s e   a s   th e   s im ul a t io pr ogr e s s e s .   T hi s   m a be   d u e   to  t he   a b il i ty  of   B P NN   t l e a r th e   p a t te r of   p r e s s ur e   dr o s th a f e w e r   i te r a ti on s   a r e   r e q uir e a t he   e n o f   s im ul a t io n.     Evaluation Warning : The document was created with Spire.PDF for Python.
I nt  J   Ar ti f   I ntell     I S S N:   2252 - 8938       B ac k pr opagati on  ne ur al  ne tw or k s   for   s olving  gas   fl ow   e quati ons   in  por ous   me dia  ( A dr iant o)   3751       ( a )   ( b)     F igur e   6 .   N umber s   o f   it e r a ti on   a s e ve r a a da pti ve   l e a r ning  r a te  pa r a mete r s   ( AL R P )   in    ( a )   homogene ous   model  a nd   ( b)   he ter oge ne ous   mo de l                   ( a )   ( b)     F igur e   7 T he   de c r e a s e   in  r e s iduals   a e a c it e r a ti o f or   a ll   c a s e   s tudi e s   of   ( a )   homogene ous   model  a n   ( b)   he ter oge ne ous   model   Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2252 - 8938   I nt  J   Ar ti f   I ntell ,   Vol.   14 ,   No.   5 Oc tober   20 25 37 44 - 3756   3752   3. 3.     Com p u t at io n   t im e   C omput a ti on  ti me  indi c a tes   the  e f f icie nc of   a   n onli ne a r   s olver   in  r e a c hing  a   s olut ion.   F igur e   8   s hows   the  e f f e c of   the  lea r ning  r a te  pa r a mete r   on  the  c omput a ti on  ti me  to  r e a c a   c onve r ge s olut io f or   the   homogene ous   model  in   F igur e   8 ( a )   a nd   the   he ter o ge ne ous   model  in   F igu r e   8 ( b) .   It   s hows   that   the   e f f icie nc of   the  B P NN   method   is   a f f e c ted  by  the  lea r ning  r a t e   whic is   s e on  the  ne twor k .   I ge ne r a l,   a   lea r nin r a te  of   0. r e qui r e s   the   mos c omput a ti on   ti me   c ompar e to  the  other s   in   a ll   c a s e s .   T he   c omput a ti on   t im e   will   de c r e a s e   a s   the  lea r ning  r a te  incr e a s e s   unti a   c e r tain  point   whe r e   incr e a s ing  the  lea r ning  r a te  wil inc r e a s e   the   c omput a ti on  ti me.   T he   lea r ning   r a te  de ter mi ne s   t h e   s ize   of   the  s teps   take in  the  t r a ini ng  pr oc e s s   of   t he   ne ur a l   ne twor k,   e s pe c ially  in  mi n im izing  the   los s   f un c ti on   [ 46] .   s mall  lea r ning  r a te  c a a void  th e   r is of   ove r s hooti ng  but   c ons e que ntl take s   mor e   ti me.   W hil e ,   a   lar ge   lea r ning  r a te  c a n   s pe e up  the   c on ve r ge nc e   r a te  but  ha s   the  r is of   ove r s hooti ng .   I n   the  homog e ne ous   model,   it   wa s   f ound   that  the  opti mum   lea r ning  r a te   is   1. 1,   1. 3 ,   a nd   1. 9   f o r   the   number   of   gr ids   10 ,   2 a nd  50 .   W hil e   in  the   he ter oge ne ous   model,   the  opti mum   lea r ning  r a te  is   a t   1. 1 ,   1 . 7 ,   a nd  1 . f o r   the   number   of   gr ids   10 ,   25 ,   a nd   50.         ( a )   ( b)     F igur e   8 .   C omput a ti on  t im e   f o r   ( a )   homogene ous   model  a nd  ( b )   he ter oge ne ous   model       T a ble  3   s hows   that  B P NN   is   not  a s   e f f icie nt  a s   Ne wton  method  in  s olvi ng  the  s ingl e - pha s e   ga s   f low   in  thi s   s tudy.   On   homogene ous   models ,   the   c om putation  ti me   of   B P NN   is   a bout   double  that  o f   Ne wton  method.   M e a nwhile,   the  dif f e r e nc e   in  c omput a ti on  ti me  incr e a s e s   non - li ne a r ly  in  the  he ter oge ne ou s   model.   T he   di f f e r e nc e   is   a bout   1 . 5   ti mes   in   the   he ter oge n e ous   model  with   10   g r ids ,   while   it   is   10   ti mes   in   t he   model   with  50  gr ids .   T he   inef f icie nc of   B P NN   may  be   d ue   to  the  na tur e   o f   B P NN   whic invol ve s   f o r wa r pa s s   a nd   Evaluation Warning : The document was created with Spire.PDF for Python.
I nt  J   Ar ti f   I ntell     I S S N:   2252 - 8938       B ac k pr opagati on  ne ur al  ne tw or k s   for   s olving  gas   fl ow   e quati ons   in  por ous   me dia  ( A dr iant o)   3753   ba c kwa r pa s s   s that  the   c a lcula ti on  is   e xpe ns ive   [ 47] M or e ove r ,   the   f low   model   in  thi s   s tudy  is   r e latively  s im ple  s ince   it   is   only  one   pha s e   a nd  invol ve s   onl a bout  a   doz e n   gr ids   w he r e   Ne wton  method  is   k nown  f or   it s   e f f icie nc on  s mall   pr oblem  d im e ns ions   [ 48] .   W e   e xa mi ne c omput a ti ona pe r f or manc e   a t   va r i ous   Δ va lues 0. 0138s ,   0. 0069 s ,   a nd   0. 000345s .   R e duc ing   time - s tep  s ize s   ( Δ )   incr e a s e   c omput a ti o na c os ts   f or   bo th  methods   a c r os s   a ll   models   a n gr id   r e s olut ions .   F or   e xa mpl e ,   in   the   homogene ous   mo de with   50   gr ids ,   the   Ne wton  method  take s   30 . 5   s e c onds   f or   Δ t =   0 . 0 1 3 8 s ,   45. s e c onds   f or   Δ t = 0 . 0069s ,   a nd  69. 9   s e c onds   f or   Δ t = 0 . 0 0 0 3 4 5 s .   I nc r e a s ing  the   number   of   g r ids   s igni f ica ntl incr e a s e s   c omput a ti ona ti me  f o r   both  methods T his   e f f e c is   mor e   pr o nounc e in  the  B P NN   a ppr oa c h.   F or   ins tanc e ,   in  the  homogene ous   model  with  Δ t = 0 . 0 1 3 8 s ,   B P NN   take s     4. s e c onds   f or   10  g r ids   but  178. 9   s e c onds   f or   50  gr ids .   T he   pe r f or manc e   ga be twe e Ne wton  a nd  B P NN   is   mor e   pr onounc e in  models   with  highe r   gr id  r e s olut ions   a nd  s maller   ti me  s teps .   F or   e xa mpl e ,   in  the   he ter oge ne ous   model  with  50  gr ids   a nd   Δ t = 0 . 006 9 s ,   the  Ne wton  method  take s   90. s e c onds   c ompar e to  610. s e c onds   f o r   B P NN .   T he   c omput a ti ona l   ti m e s   f or   the   he ter oge ne ous   model   a r e   typi c a ll y   lon ge r   than   thos e   f or   the   homogene ous   one ,   indi c a ti ng   the   gr e a ter   c ompl e xit y   invol ve d   in   s olvi ng  he ter oge ne o us   gr ids .   F or   e xa mpl e ,   a t   Δ = 0 . 0138   a nd  50   g r ids ,   the  Ne wton   method   r e quir e s   30. 5   s e c onds   f or   the   homogene ous   model  a nd  63. s e c onds   f or   the  he ter oge ne ous   model.   I a ddit ion ,   the  dif f e r e nc e   in  c omput a ti on  ti me  a ls o   looks   nonli ne a r   a s   s hown  in   T a ble  4 .       T a ble  3 .   C omput a ti on  ti me   f or   B P NN   a ppr oa c a n Ne wton  method   M ode l   C omput a ti ona ti me  ( s e c onds )   Δ = 0 . 0138   s   Δ = 0 . 0069   s  ( ba s e  c a s e )   Δ = 0 . 000345   s   N e w to n   B P N N   N e w to n   B P N N   N e w to n   B P N N   H omoge ne ous               10 gr id s   2.3   4.3   3.8   7.9   7.3   16.7   25  gr id s   8.9   23.5   14.8   30.7   24.5   66.9   50 gr id s   30.5   178.9   45.5   172.3   69.9   518   H e te r oge ne ous               10 gr id s   3.3   6.1   6.2   8.1   12.6   19.5   25 gr id s   15.1   76.1   22.5   73.2   36.6   198.4   50 gr id s   63.3   547.99   90.4   610.9   104.1   496.6       T a ble  4 R e lative  c omput a ti ona ti me   of   B P NN   wit Ne wton  method   M ode l   Δ = 0 . 0138   s   Δ = 0 . 0069   s  ( ba s e  c a s e )   Δ = 0 . 000345   s   H omoge ne ous         10 gr id s   1.8   2   2.2   25 gr id s   2.6   2   2.7   50 gr id s   5.8   3.7   7.4   H e te r oge ne ous         10 gr id s   1.8   1.3   1.5   25 gr id s   5   3.2   5.4   50 gr id s   8.6   6.7   4.7       4.   CONC L USI ON   T his   r e s e a r c pr e s e nts   a   nove l   method  f or   s olvi ng  nonli ne a r   e qua ti ons   in   r e s e r voir   s im ulation   ba s e on  B P NN .   T he   s tudy  s uc c e s s f ull de mons tr a tes   the  s olver 's   a bil it to  p r oduc e   highl y   a c c ur a te  s olut ions ,   whic we r e   ve r if i e a ga ins the  c las s ic  Ne wton  method.   T he   pr e s s ur e   s olut ions   a c hieve a   M AE   of   only   2 . 41 × 10 7   ps a nd  4 . 18 × 10 8   ps i   f o r   homogene ous   models   a nd  he t e r oge ne ous   models ,   r e s pe c ti ve ly.   How e ve r ,   a   de tailed  pe r f o r manc e   a na lys is   r e ve a ls   that  the  B P NN   s olver ,   in  it s   c ur r e nt  f o r m,   is   les s   c omput a ti ona ll e f f icie nt  than  the  Ne wton  method   f or   the  pr ob lems   s tudi e d.   R e ga r ding  c omput a ti on  ti me,   the   B P NN   a ppr oa c wa s   a ppr oxim a tely  twice   a s   s low   f or   homogene ous   models .   T his   pe r f o r manc e   ga wide ne non - li ne a r ly  f or   mo r e   c ompl e x,   he ter oge ne ous   models ,   whe r e   the  B P NN   s olver   wa s   be twe e 1. 5   to  10  ti mes   s lowe r ,   de pe nding  on   the   gr id   r e s olut ion.   T he   nu mber   of   gr ids ,   r oc he ter oge ne it y ,   a nd   the  a da pti v e   lea r ning   r a te  pa r a mete r   he a vil y   inf luenc e   the   s olver 's   e f f ici e nc y.   T he   s im ulatio n   r e s ult s   s howe that   while   th e   B P NN   method  r e quir e mo r e   it e r a ti ons   ove r a ll ,   it   e xhibi ted  a   lea r ning  be ha vior ;   the  i ter a ti on  ne e de in   e a c ti me   s tep  de c r e a s e ove r   the  s im ulation  ti me,   in  c ont r a s to  the  Ne wton  method .   T h is   s ugge s ts   that  the  ne twor a da p ts   to  the  s olut ion's   pa tt e r ove r   ti me .   T he   s e lec ti on  of   a opti mal   lea r ning  r a te  wa s   a l s c r it i c a l,   a s   it   s igni f ica ntl im pa c ted  c onve r ge nc e   s pe e a nd  c omput a ti ona c os t.   F ur ther   r e s e a r c s hould  tes th e   B P NN   method  on  mor e   c ompl e f lui models   a nd  inves t igate   dif f e r e nt  ne twor a r c hit e c tu r e s   a nd  opti mi z a ti ons   to  im pr ove   it s   e f f icie nc f or   lar ge r   s im ulations .     Evaluation Warning : The document was created with Spire.PDF for Python.