T E L K O M NIKA   T elec o mm un ica t io n,  Co m pu t ing ,   E lect ro nics   a nd   Co ntr o l   Vo l .   19 ,   No .   6 Dec em b er   2 0 2 1 ,   p p .   1 8 4 7 ~1 8 5 6   I SS N:  1 6 9 3 - 6 9 3 0 ,   ac cr ed ited   Firs t G r ad b y   Ke m e n r is te k d i k ti,  Dec r ee   No : 2 1 /E/KPT /2 0 1 8   DOI : 1 0 . 1 2 9 2 8 / T E L KOM NI KA . v 1 9 i6 . 1 9 7 9 1     1847       J o ur na l ho m ep a g e h ttp : //jo u r n a l . uad . ac . id /in d ex . p h p /TELK OM N I K A   An ef fec tive new  it erativ e C G - m eth o d t o  so lv e uncon stra ined  no n - linea r opti m i z a tion  iss ues       Ra na   Z .   Al - K a w a z 1 ,   Abba s   Y .   Al - B a y a t i 2   1 De p a rtme n o f   M a th e m a ti c s,  Co ll e g e   o f   Ba si c   Ed u c a ti o n ,   Un iv e rsity   o f   T e l a f e r,   T a ll Afa r,   M o su l ,   Ir a q   2 Un iv e rsit y   o f   Tela f e r ,   Tall‘ Af a r,   M o su l ,   Ira q       Art icle  I nfo     AB ST RAC T   A r ticle  his to r y:   R ec eiv ed   J an   2 5 ,   2 0 2 1   R ev i s ed   Ma y   2 5 ,   2 0 2 1   A cc ep ted   J u n   1 4 ,   2 0 2 1       In   th is  p a p e r,   w e   p ro p o se d   a   m a tri x - f r e e   d o u b le - se a rc h   d irec ti o n   b a se d   o n   th e   u p d a te d   p a ra m e ter  f il e   o f   th e   d o u b le - se a rc h   d irec ti o n   w it h   a   n e w   m a th e m a ti c a f o rm u la  f o th e   g a m m a   p a ra m e ter .   W h e n   c o m p a rin g   th e   n u m e rica re su lt s o f   th is alg o rit h m   w it h   th e   sta n d a rd   ( HW Y a lg o r it h m   w h ich   g iv e n   b y   H a li lu ,   W a z iri   a n d   Yu su f   in   2 0 2 0 .   W e   g e v e r y   ro b u st  n u m e rica re su lt s .   T h e   p ro p o se d   a lg o rit h m   i d e v o id   o f   d e riv a ti v e to   so lv e   larg e - s c a le   non - li n e a p ro b lem b y   c o m b in in g   tw o   s e a rc h   d irec ti o n in   o n e   se a rc h   d irec ti o n .   W e   d e m o n stra ted   th e   o v e ra ll   c o n v e rg e n c e   o f   th e   p ro p o se d   a lg o rit h m   u n d e c e rtain   c o n d it io n s .   T h e   n u m e rica re su lt p re se n ted   in   th i s   p a p e sh o w   th a th e   n e w   se a rc h   d irec ti o n   is   u se f u f o so lv in g   w id e sp re a d   non - li n e a tes p ro b lem s .   K ey w o r d s :   Do u b le - s ea r ch   d ir ec tio n   Ga m m a - p ar a m eter   L ar g e - s ca le   No n - l in ea r   p r o b le m s   Stan d ar d   HW Y - al g o r ith m   T h is i a n   o p e n   a c c e ss   a rticle   u n d e th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   R an Z .   Al - Ka w az   Dep ar t m en t o f   Ma th e m at ics   C o lleg o f   B asic E d u ca tio n   Un i v er s it y   o f   T elaf er   Mo s u l,  I r aq   E m ail:  r an a . al k a w az @ y ah o o . co m ,   r a n az id an @ u o tela f er . ed u . iq       1.   I NT RO D UCT I O N     Mo s t   o f   t h ap p lied   p r o b l em s   d er iv ed   f r o m   t h f o llo w i n g   b r an ch e s e n g i n ee r i n g ,   b io lo g ical,   m at h e m a tics ,   p h y s ical,   c h e m i ca l,  an d   t h r est   o f   th e   s cie n tif ic   b r an ch e s   ar n o n - li n ea r .   R esear c h er s   h a v e   co n tin u ed   to   d ev elo p   n u m er ic al  m et h o d s   t h at  s o lv e   th is   t y p o f   p r o b le m   as   in   [ 1 ] ,   [ 2 ] .   I n   th is   ar ticle,   w w ill   d is cu s s   h o w   to   s o l v s y s te m   o f   n o n l in ea r   eq u atio n s ,   w h ic h   w ca n   r ep r esen t b y :     ( ) = 0                   ( 1 )     So ,   w k n o w   th f u n ctio n   :   is   a   n o n li n ea r   f u n ctio n .   T h p r em i s o f   t h is   f u n ctio n     r ef er s   to   th r ea s p ac o f   th d im e n s io n - n   m ea s u r ed   b y   th E u c lid ea n   s ta n d ar d   .   A s   f o r   th m et h o d s   th at  ca n   s o lv s u c h   n o n - li n ea r   s y s te m ,   th e y   ar th i ter ativ m et h o d s ,   s u ch   a s   th Ne w to n   m et h o d ,   Qu asi - Ne w to n   m et h o d   [ 3 ] - [ 8 ],   an d   th d er iv a tiv e - f r ee   m et h o d   [ 9 ] - [ 11 ] .   W h en   s o l v i n g   i n   ( 1 )   u s in g   t h m o s co m m o n l y   u s ed   iter ativ m eth o d   th r o u g h   t h li n ea r   s eq u e n ce   as i n   [ 1 2 ] ,   as th s ea r ch   d ir ec tio n     is   o b tain ed   f r o m   ( 2 ) .     ( ) + ( ) = 0                 ( 2 )     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l Vo l .   19 ,   No .   6 Dec em b er   2 0 2 1 :   1 8 4 7   -   1856   1848   W h er   ( )   is   th j ac o b ian   m atr ix   th a eq u al  to   ( )   o r   an   ap p r o x i m at io n   o f   it .   O n o f   t h e   g o o d   ch ar ac ter is tic s   o f   Ne w to n s   m eth o d   is   t h s p ee d   in   r ea c h i n g   th o p ti m a s o l u tio n   a n d   its   r ap id   co n v er g e n ce ,   b u it  r eq u ir e s   t h co m p u tatio n   o f   th J ac o b ian   m atr i x .   T h f ir s id ea   o f   t h d o u b le - s ea r ch   d ir ec tio n   s u g g ested   in   [ 1 3 ]   r elies o n   g en er ati n g   d u p licates f r o m   t h e   ( 3 ) .     + 1 = + + 2                 ( 3 )     W h er > 0   is   th s tep - s ize,   + 1   is   th e   n e w   p o i n o f   ( 3 ) ,     is   th p r ev io u s   p o in w h ile    an d     ar th f ir s a n d   t h s ec o n d   s ea r ch   d ir ec tio n s ,   r esp ec ti v el y .   I n   t h i s   ar ticle,   w w ill   s h ed   lig h o n   ap p r o x i m at in g   a   m atr i x   ( )   u s in g   d iag o n a m atr i x   (   is   th id en tit y   m atr ix )   i . e . ,   th at  ( 4 ) .     ( )                   ( 4 )     W ca n   d ef in ( )   as a   m o d u lar   f u n ct io n   t h at  d ef i n es it ( 5 ) .     ( ) = 1 2 ( ) 2                 ( 5 )     No te  th at  th p r o b le m   o f   eq u a t io n s   i n   ( 1 )   is   eq u iv ale n t to   th f o llo w in g   g lo b al  o p ti m izatio n   p r o b lem   ( 6 ) .     min ( ) ,                           ( 6 )     I n   th d o u b le  s ea r ch   d ir ec tio n   m et h o d   ( 3 ) ,   th iter ativ in f o r m atio n   is   u s ed   in   m u ltip le   s tep s ,   an d   cu r v e s   ar s ea r ch ed   to   g e n er at n e w   i ter ativ p o i n ts .   R esear ch er s   co n tin u to   d e v elo p   s p ec ial  t y p o f   s ea r c h   d ir ec tio n ,   f o r   e x a m p le,   P etr o v ic  a n d   Sta n i m ir o v ic   [ 1 4 ]   d e al  w it h   d o u b le - d ir ec tio n   to   s o lv u n co n s tr ai n ed   o p tim izatio n   i s s u es .   T h tr an s f o r m atio n   o f   t h d o u b le - s tep   l en g t h   s ch e m i s   s u g g es te d   in   [ 15 ] [ 16 ]   to   b o o s t   th n u m er ical  e f f icie n c y   a n d   g lo b al  co n v er g e n ce   p r o p er ties   o f   d o u b le - d ir ec tio n   m et h o d s .   I is   also   p o s s ib le  to   co m p u te  th s tep - le n g t h   alp h a ,   eith er   b y   u s in g   ex ac o r   in ex ac lin s ea r ch es .   T h u s ,   i n ex a ct  lin s ea r ch   [1 7 ],   [ 1 8 ]   is   t h m o s co m m o n l y   u s ed   ap p r o ac h   in   th is   f ield .   A   f u n d a m e n tal  r eq u ir e m e n o f   lin s ea r c h   is   to   m i n i m ize  f u n ctio n   v al u es p r o p er l y ,   i . e .   to   ev alu ate  t h f u n cti o n   v al u es ( 7 ) .     ( + 1 ) ( )                 ( 7 )     W o r g an ized   th ar ticle  in   th f o llo w i n g   o r d er s ec tio n   2 ,   d ea ls   w i th   t h t w o   n e w   al g o r ith m s   ( S - R an d   D - R A ) .   Sectio n   3   d ea ls   w it h   i n tr o d u ci n g   s o m n e w   t h eo r e m s   t h at  p r o v th co n v e r g en ce   o f   t h n e w l y   p r o p o s ed   alg o r ith m s   ( S - R A   a n d   D - R A ) .   Sectio n   4 ,   co n ce r n s   th n u m er ical  r esu lts   w h ic h   d e m o n s tr ate  th e   ef f icien c y   o f   t h n e w l y   p r o p o s ed   alg o r ith m s   w h e n   co m p a r ed   to   th s tan d ar d   ( H WY )   a lg o r ith m .   Sectio n   5   d ea ls   w i th   g en er al  co n c lu s io n s .         2.   T WO   NE AL G O R I T H M S   (S - RA  AND   D - RA)   I n   th i s   s ec tio n ,   w s u g g es r ed u cin g   t h t w o   v ec to r   d ir ec tio n s   ( 3 )   in to   s in g le  t h at   w i th   r ely in g   o n   th p r o j ec tio n   tech n iq u to   f in d   th at  d ir ec tio n   o f   r esear c h .   T h is   is   m ad p o s s ib le  b y   allo w i n g   t h t w o   d ir ec tio n s   to   b id en t ical,   i . e .   = .   W p r o p o s th at  t h   an d     in   ( 3 ) ,   th u n iq u s ea r ch   d ir ec tio n   is   d escr ib ed   as ( 8 )     = = 1 ( )                 ( 8 )     No w ,   p u t ( 8 )   in to   ( 3 ) ,   w g et  ( 9 ) .     + 1 = + ( 1 ( 1 + ) ) ( )             ( 9 )     T h r o u g h   ( 9 ) ,   w ca n   co n clu d th at  t h d o u b le - d ir ec tio n   w i ll  b ec o m ( 1 0)     = 1 ( 1 + ) ( )               ( 1 0 )     Set th ac ce ler atio n   p ar a m eter   u s ed   in   ( 1 0 )   as ( 1 1 ) ,   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         A n   effec tive  n ew iter a tive  C G - meth o d   to   s o lve  u n co n s tr a in ed   n o n - lin e a r     ( R a n a   Z .   Al - K a w a z )   1849   + 1 = [ 2 2 ] ( + 1 ) 2                 ( 1 1 )     w h er = + 1   an d   th d if f er en ce   b etw ee n   th t w o - p o in is   = + 1   .   T h er ef o r e,   th r o u g h   t h e   ( 9 )   an d   ( 1 0 ) ,   w ca n   g et  ( 1 2 ) .     + 1 = +                 ( 1 2 )     T h p r o j ec ti o n   ap p r o ac h   r elie s   o n   th u s o f   m o n o to n ca s to   ac ce ler ate  an d   ch an g th n e p o in t u s i n g   r ep etitio n .   A s   i n   t h ( 1 3 ) .     = +                   ( 1 3 )     T h h y p er p lan e,   as a n   o r ig i n al   iter ativ e,   is   ( 1 4 ) .     = { | ( ) ( ) = 0 }             ( 1 4 )     T o   s tar u s in g   t h p r o j ec tio n   te ch n iq u e,   w u s th u p d ate  o f   th n e w   p o i n + 1   as  g iv en   i n   t h [ 19 ] [ 20 ]   to   b th p r o j ec tio n   o f     o n to   th h y p er p la n .   So ,   ca n   b ev alu a ted   as:     + 1 = [ ( ) ]                 ( 1 5 )     =  ( ) ( )  ( ) 2                   ( 1 6 )     I n   th e   n e x p ar ag r ap h ,   w w il p r esen t h s tan d ar d   ( H WY )   alg o r ith m   [ 1 2 ]   an d   t h n e w l y   p r o p o s ed   alg o r ith m s   w h ic h   ar d iv id ed   in to   t w o   p ar ts :   f ir s o f   o n e   (S - R A )   alg o r it h m   w h ic h   u s e s   ( 1 2 ) ,   ( 8 ) ,   an d   ( 1 1 )   an d   th s ec o n d   (D - R A )   al g o r ith m   w h ic h   u s es  ( 1 2 ) ,   ( 1 0 ) ,   an d   ( 1 1 ) .   T o   clar if y   t h id ea   o f   th n u m er ical  alg o r it h m s   u s ed   in   t h i s   r esear ch ,   w p r ese n t th s tep s   o f   ea c h   o f   t h ese  al g o r ith m s   i n   d etail .     2 . 1 .     Alg o rit h m   ( H WY )   [ 12 ]   I n p u t: Gi v e n   0 0 ( 0 , 1 ) > 0 = 10 4 , 1   an d   2 > 0 ,   s et  k =0 .     C o m p u te  = ( ) .     T est th s to p p in g   cr iter io n .   I f   y es,  t h en   s to p ; o th er w is e,   co n t in u to   t h n e x t s tep .     C o m p u te  s ea r ch   d ir ec tio n     u s i n g   ( 1 0 ) .       C o m p u te  s tep   len g t h     u s i n g   t h i s   lin e - s ea r c h :     ( + ) ( ) 1     2 2     2 +   ( )             Set  + 1 = + .     C o m p u te  ( + 1 ) .     Dete r m i n + 1   u s in g                 + 1 = 2                 Set k = k +1 ,   an d   g o   to   2 .     2 . 2 .     Ne w   s ing le  s ea rc h direc t io a lg o rit h m   ( S - RA)   I n p u t: Gi v e n   0 Ω ,   0 ,   r ,   ,   ( 0 , 1 ) ,   > 0 > 0 ,   s et  k =0 .     C o m p u te  = ( )   an d   test   I f     y es,  t h e n   s to p ; o th e r w i s e,   co n ti n u to   th n ex s tep .     C o m p u te  s ea r ch   d ir ec tio n     ( u s i n g   ( 8 ) ) .     Set    f r o m   ( 1 3 )   an d   co m p u te  s t ep   len g t h       u s in g   t h is   li n e - s ea r c h :     ( +   )         ( +   )   2       ( 1 7 )       I f   Ω   an d   ( )     s to p ,   else c o m p u te  + 1   f r o m   ( 1 2 ) .     Dete r m i n + 1   u s in g   ( 1 1 ) .     Set k = k +1 ,   an d   g o   to   2 .       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l Vo l .   19 ,   No .   6 Dec em b er   2 0 2 1 :   1 8 4 7   -   1856   1850   2 . 3 .     Ne w   do ub le  s ea rc h direc t io a lg o rit h m   ( D - RA)   I n p u t: Gi v e n   0 Ω ,   0 ,   r ,   ,   ( 0 , 1 ) > 0 > 0 ,   s et  k =0 .     C o m p u te  = ( )   an d   test   I f     y es,  t h e n   s to p ; o th er w i s e,   co n ti n u to   th n ex s tep .     C o m p u te  s ea r ch   d ir ec tio n     ( u s i n g   ( 1 0 ) ) .     Set    f r o m   ( 1 3 )   an d   co m p u te  s t ep   len g t h       u s in g   t h is   li n e - s ea r c h   f r o m   ( 1 7 ) .     I f   Ω   an d   ( )     s to p ,   else c o m p u te  + 1   f r o m   ( 1 2 ) .     Dete r m i n + 1   u s in g   ( 1 1 ) .     Set k = k +1 ,   an d   g o   to   2 .       3.   C O NVER G E NC E   ANA L YS I S   I n   th p r ev io u s   s ec tio n ,   w p r o p o s ed   tw o   n e w   al g o r ith m s   ( S - R A   a n d   D - R A )   d ep en d in g   o n   t h e   p ar am eter   + 1 .   No w   in   t h is   s ec t io n ,   w w ill  p r esen an   af f i n it y   an al y s is   f o r   th s ec o n d   alg o r it h m ,   w h ic h   is   m o r e   g e n er al  t h a n   t h f ir s as   in   t h co m i n g   t h eo r e m s ,   b u b ef o r th a t,  w m u s t   g iv e   t h b asic  as s u m p tio n s   a   s p ac o f   atten tio n   w h ich   i s :     3 . 1 .     Ass u m ptio n A   Ass u m p t io n   A   m ea n s   t h at  t h s p ec ial  s o lu tio n   o f   ( 1 )   in     s tan d s   f o r   .   Sin ce   ( )   is   ap p r o x im a ted   b y     alo n g   t h d i r ec tio n   ,   w m i g h m e n tio n   an o th er   ass u m p tio n   o f   t h s a m id ea .     Su p p o s th er is   s e t le v el  d e f i n e d   b y :       = { | ( ) ( 0 ) }                     T h er is   an     th at  b elo n g s   to   ,   w h er ( ) = 0     is   tr u e .     L et  t h f u n ctio n     b d if f er en ti ab le  an d   co n tin u o u s   i n   s o m n eig h b o r h o o d ,   th at  is ,   o f       co n tain ed   i n   .     On   N,   i . e . ,   th er is   J ac o b ian   o f     r estricte d   an d   p o s itiv d ef in ite,   i . e .   th er ar p o s itiv co n s ta n ts   m   0   ar s u ch   t h at:     ( )   ,     .                 ( 1 8 )     A nd     2     ( ) ,     ,   .             ( 1 9 )     3 . 2 .     Ass u m ptio n B   I f   w co n s id er   t h at      is   g o o d   ap p r o x im a tio n   o f   ( ) ,   w h ich   m ea n s   th at:     ( ( )   )       ( )             ( 2 0 )     w h er   ( 0 , 1 )   is   s m all  q u an tity   [ 6 ] .     3 . 3 .     T heo re m   ( des ce nt  direc t io n )   Su p p o s ass u m p tio n   B   h o ld s   a n d   th at  n e w   al g o r ith m   ( S - R A )   an d   ( D - R A )   p r o d u ce s   { } .   T h en ,     in   ( 8 )   in   th d ir ec tio n   o f   th d esc en t o f   ( )   at    i . e .     ( ) < 0                   ( 2 1 )     P r o o f :   W w ill  d iv id th p r o o f   in to   tw o   p ar ts ,   ea ch   p ar co n ce r n ed   w ith   an   alg o r i th m   to   ch an g th s ea r ch   d ir ec tio n   in   ea ch   o f   th em   as f o llo w s :   P ar t 1 : w h en   d ea lin g   w ith   th f ir s alg o r ith m ,   w w ill  n ee d   s ea r ch   d ir ec tio n   f r o m   ( 8 ) ,   as:      ( ) = ( ) ( ) = ( ) [ ( ( )   ) ( ) ]         ( ) = ( ) ( ( )   ) ( ) 2         ( 2 2 )     b y   C au ch y - Sc h w ar in eq u ality ,   w h av e:     Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         A n   effec tive  n ew iter a tive  C G - meth o d   to   s o lve  u n co n s tr a in ed   n o n - lin e a r     ( R a n a   Z .   Al - K a w a z )   1851   ( )     ( ) ( ( )   ) ( ) 2         ( 2 3 )     I f   ( 2 0 )   s atis f y   th en ,     ( )     ( ) 2 ( ) 2 ( 1   ) ( ) 2       ( 2 4 )     Hen ce   f o r   ( 0 , 1 ) ,   th is   p r o v es o f   p ar t 1   is   tr u e .   P ar t 2 : w h en   d ea lin g   w ith   th s ec o n d   alg o r ith m ,   w w ill  n ee d   s ea r ch   d ir ec tio n   f r o m   ( 8 )   an d   ( 1 0 ) ,   as:     ( ) = ( ) ( ) = ( ) ( ( )   ) ( 1 + ) ( ) 2   ( 2 5 )     b y   C au ch y - Sc h w ar in eq u ality ,   w h av e:       ( )     ( ) ( ( )   ) ( 1 + ) ( ) 2         I f   ( 2 0 )   s atis f y   th en ,     ( )     ( ) 2 ( 1 + ) ( ) 2 ( 1   + ) ( ) 2         Hen ce   th is   p r o v es  p ar 2 .   T h is   m ea n s   th a th tw o   n ew   p r o p o s ed   alg o r ith m s   h av d escen s ea r ch   d ir ec tio n s .   W ca n   d ed u ce   f r o m   th th eo r em   ( d escen d ir ec tio n )   th at  th n o r m   f u n ctio n   ( )   is   d ec lin f o r   ,   w h ich   im p lies   th at  ( + 1 )   ( )   . . .   ( 0 ) .   T h is   im p lies   th at  Ω .     3 . 4 .     L e m m a   ( bo un d e + 1 )   Su p p o s th at  a s s u m p tio n   A   h o ld s   an d   { }   is   g en er ated   b y   a n   al g o r ith m   ( S - R A )   a n d   ( D - R A ) .   T h en   th er ex i s ts   co n s tan ts   M >  m   > 0   s u ch   t h at  f o r   all  k :     [ 2 2 ]  ( + 1 ) 2 3 2                 ( 2 6 )     P r o o f   Fro m   ass u m p tio n   A   w g et:             2                 ( 2 7 )     f r o m   [ 1 8 ] ,   w h av e:     2           2                 ( 2 8 )     th en ,     [   2   2 ] [   2     ] [ 2 2 ] [ 1 2 ]       f r o m   th th eo r em   w h av e:           + 1   + 1               ( 2 9 )     h en ce ,     [ 2 2 ]  ( + 1 ) 2   [ 1 2 ] 2 2       [ 1 2 ] 2             ( 3 0 )     T h in eq u ality   ( 2 6 )   is   tr u e .   Usi n g   ( 2 6 ) ,   + 1   is   g en er ated   b y   th u p d ate  o f   ( 1 1 )   an d   w ca n   d ed u ce   th at  + 1 I   in h er it  th p o s itiv d ef in iten ess   o f   I .     3 . 5 .     L e m m a   ( bo un de )   Su p p o s th at  ass u m p tio n   A   an d   B   h o ld s   an d   { }     is   g en er ated   b y   an   alg o r ith m   ( S - R A )   an d   ( D - R A ) .   T h en   th er ex i s ts   co n s ta n t b >0   s u ch   t h at  > 0 ,     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l Vo l .   19 ,   No .   6 Dec em b er   2 0 2 1 :   1 8 4 7   -   1856   1852                       ( 3 1 )     w h er i=1 , 2 .     P r o o f :   W w ill  p r e s en tw o   p ar ts   in   th is   lem m a,   ea ch   o f   w h ich   d ep en d s   o n   th s ea r ch   d ir ec tio n   r esu ltin g   f r o m   an   alg o r ith m   as  in :   P ar t 1 : Fr o m   ( 8 ) ,   ( 1 1 ) ,   an d   ass u m p tio n   A   w h av e:     =  ( ) 2 2 ( + 1 ) 2                 ( 3 2 )     an d   u s i n g   th r es u lt o f   L e m m a   ( bou n d ed   + 1 ) ,     [ 1 2 ] 2 ( )     [ 1 ( 0 ) ]     1           ( 3 3 )     w h er 1 >0   an d   1 = 1 ( 0 ) .   P ar t 2 : Fr o m   ( 1 0 ) ,   ( 1 1 ) ,   an d   ass u m p tio n   A   w h av e:     = ( 1 + )  ( ) 2 2 ( + 1 ) 2                 ( 3 4 )     an d   u s in g   th r esu lt  o f   L em m ( b o u n d ed   ψ k + 1 ) ,       ( 1 + ) [ 1 2 ] 2 ( )   [ ( ( 0 ) + ( ) ) [ 1 2 ] 2 ]     ( 3 5 )         [ ( ( 0 ) + 2 ) [ 1 2 ] 2 ]     2             ( 3 6 )     w h er 2 >0   an d   2 = ( ( 0 ) + 2 ) [ 1 2 ] 2 .   T h f o llo w in g   th eo r em   d ea ls   w ith   th g lo b al  co n v er g en ce   p r o p er ty .   T o   p r o v th a u n d er   f ew   s u itab le  co n d itio n s ,   th er ex is an   ac cu m u latio n   p o in o f     w h ich   is   s o lu tio n   to   th p r o b lem   ( 1 ) .     3 . 6 .     T heo re m   ( g lo ba l c o nv er g ence )   Su p p o s th at  ass u m p tio n   B   h o ld s ,   { }     is   g en er ated   b y   an   alg o r ith m   ( S - R A )   an d   ( D - R A ) .   Ass u m e   fu r t h er   > 0 ,           |  ( ) | 2                   ( 3 7 )     w h er   is   s o m p o s itiv co n s tan t .   T h en      ( ) = 0                   ( 3 8 )     P r o o f :   Fro m   ( 3 1 ) ,   an d   ( Descen t D ir ec tio n   T h eo r em )   w h av e:      = 0                   ( 3 9 )     an d   th b o u n d ed   o f   ,   w h av e:      2 = 0                   ( 4 0 )     Fro m   ( 3 7 )   an d   ( 4 0 )   it f o llo w s   th at:   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         A n   effec tive  n ew iter a tive  C G - meth o d   to   s o lve  u n co n s tr a in ed   n o n - lin e a r     ( R a n a   Z .   Al - K a w a z )   1853    | ( ) | = 0                 ( 4 1 )     I n   th is   s tag o f   th p r o o f ,   w w ill  tak tw o   p ar ts   ac c o r d in g   to   th tw o   n ew   alg o r ith m s   as in :   P ar t 1 : A cc o r d in g   to   th ( S - R A )   alg o r ith m   an d   f r o m   ( 8 ) ,   w h av e:     ( ) = 1 ( ) 2 | | | ( ) | = ( ) 2           an d   as w im p o s ed   in   th th eo r em :     | | 1 2   ( ) 2               ( 4 2 )     W h ile  | | = [ 1 2 1 2 ] ( ) 2 [ 1 2 ] 2                 s o ,   f r o m   th ( 4 2 ) ,   th en     0   2     ( ) 2   0               ( 4 3 )     th er ef o r e,   in   ( 4 2 )   is   tr u an d   th p r o o f   f o r   p ar t 1   is   co m p leted .   P ar t 2 : A cc o r d in g   to   th ( D - R A )   alg o r ith m   an d   u s in g   ( 1 0 ) ,   w h av e:     ( ) = 1 ( 1 + ) ( ) 2                 ( ) 2 = ( ) ( ) 2 | | | ( ) |       ( 4 4 )     w h ile  | |   as in   p ar t 1 ,   s o   f r o m   th ( 5 0 ) ,   th en     0   | ( ) |     ( ) 2   0             ( 4 5 )     th er ef o r e,   th ( 3 8 )   is   tr u an d   th p r o o f   f o r   p ar t   2   is   co m p leted .       4.   NUM E RICAL   P E RF O RM ANCE   I n   th is   s ec tio n ,   w w ill  p r esen o u r   n u m er ical  r esu lts   f o r   co m p ar is o n s   b etw ee n   th tw o   n ew   p r o p o s ed   alg o r ith m s   ( S - R A )   an d   ( D - R A )   an d   th s tan d ar d   ( H WY )   alg o r ith m   w h ich   is   d ev o id   o f   th d er iv ativ to   s o lv ce r tain   n o n lin ea r   test   p r o b lem s .   I n   o u r   im p lem en tin g   all  th r ee   alg o r ith m s ,   w u s ed   th Ma tlab   R 2 0 1 8 b   p r o g r am   in   lap to p   ca lcu lato r   w ith   its   C o r ei5   s p ec if icatio n s .   A s   f o r   th to o ls   u s ed   in   th tw o   alg o r ith m s ,   th ey   ar as  f o llo w s 0 = 0 . 6        1 , = 0 . 9 , = 0 . 02 , = 1 , 1 =   2 = 10 4 , ( ) < 10 8 .   T h p r o g r am   f in d s   th r esu lts   o n   s ev er al  n o n - d er iv ativ f u n ctio n s   th r o u g h   s ev er al  tw o   in itial  p o in ts   in d icate d   in   th   T ab les 1   an d   2 .       T ab le   1 .   T h in itial p o in ts   N a me   o f   V a r i a b l e   I n i t i a l   p o i n t   1   ( 1 , 1 , 1 , . . , 1 )   2   ( 0 . 2 , 0 . 2 , 0 . 2 , . . , 0 . 2 )   3   ( 20 , 20 , 20 , . . , 20 )   4   (  ,  ,  , . . ,  )       T h ese  alg o r ith m s   w im p lem en ted   w ith in   d im en s io n s   n   ( 1 0 0 0 ,   2 0 0 0 ,   5 0 0 0 ,   7 0 0 0 ,   1 2 0 0 0 ) .   A ll  s u ch   alg o r ith m s   ar r ec o g n ized   b y   th eir   p er f o r m an ce   in   ( I ter )   th n u m b er   o f   iter atio n s ,   ( E v al - F)  th n u m b er   o f   ev alu atio n s   o f   f u n ctio n s ,   ( T im e)   in   s ec o n d   C P tim e,   ( No r m )   ap p r o x im atio n   s o lu tio n   n o r m .   T h   test   p r o b lem s   ( ) = ( 1 , 2 , 3 , . . . , )   w h e r = ( 1 , 2 , 3 , , ) ,   f o r   = 1 , 2 , . . . ,   an d   = +   ar f r o m   [ 2 1 ] - [ 2 4 ]   an d   lis ted   as  s h o w n   in   T ab le  2 .   Usi n g   Do lan   an d   Mo r ´ s ty le  [ 2 5 ] ,   th Fig u r es  1 - 3   ar u s ed   f o r   co m p ar is o n   b etw ee n   th ( HW Y)   w ith   ( S - R A )   an d   ( D - R A )   alg o r ith m s   w h en   s w itch in g   th s ea r ch   d ir ec tio n .   T h Fig u r es  1 - ar ab o u t th in itial  p o in t 1   b ec au s it is   th b est p er f o r m an ce .         Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l Vo l .   19 ,   No .   6 Dec em b er   2 0 2 1 :   1 8 4 7   -   1856   1854   T ab le   2 .   Def in th p r o b le m s   No .     P r o b l e ms   1   ( ) =      2   ( ) = 1   3   ( )   =   ( 1 1 ) , = 2 , 3 , . . , 1 .   ( ) = 1 4 2 = 1 1 / 4 , = 1 10 5   4   ( ) =  ( | | + 1 )   5   ( ) =  (  ( | | , 2 ) ,  ( | | , 3 ) )   6   1 ( ) = 1  ( 1 + 2 ) + 1   ( ) =  ( + 1 + + 1 ) + 1    = 2 , 3 , . . , 1   ( ) =  ( 1 + ) + 1   7   ( ) =   1   8   1 ( ) = 1 1   ( ) =   1 1   9   ( ) = | | = 1   10   ( ) = | | = 1   11   ( ) =  = 1 , . . , | |   12   ( ) = | | = 1   ( 2 ) = 1   13   ( ) = | | + 1 = 1         ( a)     ( b )     Fig u r e   1 .   P er f o r m a n ce   o f   iter a tio n s   f o r   th ( S - R A   a n d   D - R v s .   HW Y)   alg o r ith m s ( a)   S - R A   an d   HW Y   an d   ( b )   D - R A   an d   HW Y   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l         A n   effec tive  n ew iter a tive  C G - meth o d   to   s o lve  u n co n s tr a in ed   n o n - lin e a r     ( R a n a   Z .   Al - K a w a z )   1855       ( a)   ( b )       Fig u r e   2 .   P er f o r m a n ce   o f   f u n c tio n   ev al u atio n s   f o r   th ( S - R an d   D - R A   v s .   H WY )   alg o r ith m s ( a)   S - R A   a n d   HW Y   a n d   ( b )   D - R A   an d   HW Y           ( a)   ( b )     Fig u r e   3 .   P er f o r m a n ce   o f   ti m e   f o r   th ( S - R A   a n d   D - R A   v s .   HW Y )   alg o r ith m s ( a)   S - R A   a n d   HW Y   an d     ( b )   D - R A   an d   HW Y       5.   CO NCLU SI O NS   T h r esu lts ,   p r esen ted   in   t h s ix   f ig u r es  s h o w   t h e f f icien c y   o f   th t w o   n e w   al g o r ith m s   ( S - R A )   a n d   (D - R A )   w h e n   co m p ar ed   w it h   th p r ev io u s   s tan d ar d   ( H WY )   alg o r ith m ,   a n d   th eir   e f f icie n c y   is   b etter   b y   ta k i n g   th f ir s in itial  p o in a n d   in cr e ase  w h e n   in cr ea s in g   t h d i m e n s io n s   i n   th v ar iab les  u s ed .   T h n e w   al g o r ith m s   h av g i v en   clea r   co n v er g e n c in   r ea ch i n g   t h o p ti m al  p o in t   f o r   s o lv i n g   n o n - li n ea r   f u n ctio n s .       ACK NO WL E DG E M E NT S   T h r esear ch   is   s u p p o r ted   b y   th C o lleg o f   C o m p u ter   Scien ce s   an d   Ma th em atics,  Un iv er s ity   o f   Mo s u l,  an d   C o lleg o f   B asic  E d u ca tio n ,   Un iv er s ity   o f   T elaf er ,   R ep u b lic  o f   I r aq .   Th au th o r s   d ec lar th at  th er ar n o   co n f licts   o f   in ter est  r eg ar d in g   th is   w o r k .       RE F E R E NC E S   [ 1 ]   R .   Z .   Al - Ka w a z ,   A .   Y .   Al - Ba y a ti ,   a n d   M .   S .   Ja m e e l,   " In tera c ti o n   b e tw e e n   u n - u p d a ted   F R - CG   a lg o rit h m w it h   a n   o p ti m a Cu c k o o   a lg o rit h m , "   In d o n e sia n   J o u rn a o El e c trica En g in e e rin g   a n d   Co mp u ter   S c ien c e ,   v o l .   1 9 ,   n o .   3 ,   pp .   1497 - 1 5 0 4 ,   2 0 2 0 ,   d o i:   1 0 . 1 1 5 9 1 /i jee c s . v 1 9 . i3 . pp1497 - 1504 .   [ 2 ]   A .   A .   Al - A rb o   a n d   R .   Z .   Al - Ka w a z ,   " Im p lem e n tatio n   o f   a   c o m b in e d   n e w   o p ti m a c u c k o o   a lg o rit h m   w it h   a   g ra y   w o lf   a lg o rit h m   to   so lv e   u n c o n stra in e d   o p ti m iza ti o n   n o n li n e a p ro b lem s,"   In d o n e sia n   J o u rn a o El e c trica En g in e e rin g   a n d   Co mp u ter   S c ien c e v o l .   1 9 ,   n o   3 ,   p p .   1582 - 1 5 8 9 ,   2 0 2 0 ,   d o i:   1 0 . 1 1 5 9 1 /i jee c s . v 1 9 . i3 . pp1582 - 1589 .     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   1 6 9 3 - 6930   T E L KOM NI K A   T elec o m m u n   C o m p u t E C o n tr o l Vo l .   19 ,   No .   6 Dec em b er   2 0 2 1 :   1 8 4 7   -   1856   1856   [ 3 ]   J .   E .   De n n is  a n d   R .   B .   S c h n a b e l,   Nu me ric a me th o d fo u n c o n st ra in e d   o p ti miza ti o n   a n d   n o n li n e a e q u a ti o n s ,   P h il a d e lp h ia:  S IA M ,   1996 ,   d o i:   1 0 . 1 1 3 7 /1 . 9781611971200 .   [ On li n e ] .   A v a il a b le:  h tt p s:// e p u b s . sia m . o rg /d o i/ p d f /1 0 . 1 1 3 7 /1 . 9781611971200 . fm   [ 4 ]   M .   W .   Yu su f ,   L .   W .   Ju n e ,   a n d   M .   A .   Ha ss a n ,   " Ja c o b ian - f re e   d iag o n a Ne w to n ’s  m e th o d   f o so lv in g   n o n li n e a sy ste m w it h   sin g u lar  Ja c o b ian , M a la y sia n   J o u rn a o M a th e ma ti c a S c ien c e s ,   v o l .   5 ,   n o .   2 ,   p p .   241 - 255 ,   2 0 1 1 .   [ On li n e ] .   A v a il a b le:  h tt p s:// e in sp e m . upm . e d u . m y /j o u rn a l/ f u ll p a p e r/v o l5 n o 2 /7 . % 2 0 w a z iri . pdf   [ 5 ]   Q .   R .   Ya n ,   X .   Z .   P e n g   a n d   D .   H .   L i,   " A   g lo b a ll y   c o n v e rg e n d e riv a ti v e - f re e   m e th o d   f o so lv in g   larg e - sc a le  n o n li n e a m o n o to n e   e q u a ti o n s , J o u rn a o c o mp u ta ti o n a a n d   a p p li e d   ma th e ma ti c s ,   v o l .   234,   no .   3 ,   p p .   649 - 6 5 7 ,   Ju n e   2 0 1 0 ,   d o i:   1 0 . 1 0 1 6 /j . cam . 2010 . 01 . 001 .   [ 6 ]   G .   Yu a n   a n d   X .   L u ,   " A   n e w   b a c k trac k in g   in e x a c BF G S   m e th o d   f o sy m m e tri c   n o n li n e a e q u a ti o n s , Co mp u ter a n d   M a th e ma ti c s wit h   Ap p li c a ti o n ,   v o l .   55 ,   n o .   1 pp .   116 - 129 ,   Ja n u a ry   2 0 0 8 ,   d o i:   1 0 . 1 0 1 6 /j . c a m w a . 2006 . 12 . 081 .   [ 7 ]   D .   L a n d   M .   F u k u sh im a ,   " A   g lo b a a n d   su p e rli n e a c o n v e rg e n G a u ss - Ne w to n   b a se d   BF G S   m e th o d   f o a n   a sy m m e tri c   n o n li n e a e q u a ti o n , S IAM   J o u rn a o Nu me ric a An a lys is ,   v o l .   37,   no .   1,   pp .   152 - 172 ,   1 9 9 8 ,   d o i:   10 . 1 1 3 7 /S 0 0 3 6 1 4 2 9 9 8 3 3 5 7 0 4 .   [ On li n e ] .   A v a il a b le:  h tt p :/ /cites e e rx . ist . p su . e d u /v iew d o c /d o w n lo a d ? d o i=1 0 . 1 . 1 . 48 . 2 8 5 7 & re p = re p 1 & ty p e = p d f   [ 8 ]   G .   F a sa n o ,   F .   L a m p a riello   a n d   M .   S c ian d ro n e ,   " A   tru n c a ted   n o n - m o n o to n e   G a u ss - Ne w to n   m e th o d   f o larg e - sc a le  n o n li n e a lea st - sq u a re p ro b lem s , Co mp u ta ti o n a Op ti miza ti o n   a n d   Ap p li c a ti o n ,   v o l .   3 4 ,   p p .   343 - 358 ,   2 0 0 6 ,   d o i:  10 . 1 0 0 7 /s1 0 5 8 9 - 006 - 6444 - 2 .   [ 9 ]   A .   B .   A b u b a k a r,   P .   Ku m a m ,   a n d   H .   M o h a m m a d .   " A   n o te  o n   th e   sp e c tral  g ra d ien p ro jec ti o n   m e th o d   f o n o n li n e a m o n o to n e   e q u a ti o n s w it h   a p p li c a ti o n s , Co mp u ta ti o n a a n d   Ap p li e d   M a th e ma ti c s ,   v o l .   39,   no .   1 2 9 ,   p p .   1 - 3 5 ,   2 0 2 0 ,   do i 1 0 . 1 0 0 7 /s4 0 3 1 4 - 020 - 01151 - 5 .   [1 0 ]   D .   W .   M a rq u a rd t,   " A n   a lg o rit h m   f o lea st - sq u a re e stim a ti o n   o f   n o n li n e a p a ra m e ters , J .   Soc .   In d u st .   Ap p l .   M a th . ,   v o l .   11,   no .   2 ,   p p .   431 - 441 ,   1963,   doi 1 0 . 1 1 3 7 /0 1 1 1 0 3 0 .   [1 1 ]   K .   L e v e n b e rg ,   " A   m e th o d   f o th e   so lu ti o n   o f   c e rtain   n o n - li n e a p ro b lem in   th e   lea st - sq u a re s , Qu a rte rly   Ap p li e d   M a th e ma ti c s ,   v o l .   2,   no .   2 ,   p p .   164 - 166 ,   1 9 4 4 .   [ On li n e ] .   A v a il a b le:  h tt p s:// w w w . jsto r . o rg /stab le/4 3 6 3 3 4 5 1   [1 2 ]   I .   Yu su f ,   A .   S .   Ha li lu   a n d   M .   Y .   W a z iri ,   " Ef f icie n m a tri x - f re e   d irec ti o n   m e th o d   w it h   li n e   se a rc h   f o so lv in g   a   larg e - sc a le  sy ste m   o f   n o n li n e a e q u a ti o n s , Y u g o sla v   J o u rn a o Op e ra ti o n Res e a rc h ,   v o l .   3 0 ,   n o .   4 ,   p p .   394 - 4 1 2 ,   2020,   doi 1 0 . 2 2 9 8 /YJO R1 6 0 5 1 5 0 0 5 H .   [ 13 ]   N .   I .   Du ra n o v ic - M il icic ,   " A   m u lt i - ste p   c u rv e   se a rc h   a lg o rit h m   in   n o n li n e a o p ti m iza ti o n , Y u g o sla v   J o u rn a o Op e ra ti o n Res e a rc h ,   v o l .   18,   no .   1 ,   p p .   47 - 52 ,   2008,   doi 1 0 . 2 2 9 8 /YUJ OR0 8 0 1 0 4 7 D .   [ On li n e ] .   A v a il a b le:  h tt p :/ /y u jo r . f o n . bg . ac . rs/in d e x . p h p /y u jo r/article /v iew /3 0 0 /1 9 1   [ 14 ]   M .   J .   P e tro v ić  a n d   P .   S .   S tan im iro v ić,  " A c c e lera ted   Do u b le  Dire c ti o n   M e th o d   f o S o lv in g   Un c o n stra in e d   Op ti m iza ti o n   P ro b lem s , M a th e ma ti c a Pro b lem s in   En g in e e rin g ,   v o l .   2014,   2014 ,   doi 1 0 . 1 1 5 5 /2 0 1 4 /9 6 5 1 0 4 .   [ 15 ]   C . G .   Bro y d e n ,   " A   c las o f   m e th o d f o so lv in g   n o n li n e a sim u lt a n e o u e q u a ti o n s , M a t h e ma ti c o Co mp u ta ti o n ,   v o l .   19,   no .   9 2 ,   p p .   577 - 593 ,   1 9 6 5 .   [ On li n e ] .   A v a il a b le:  h tt p s:// w w w . jsto r . o rg /stab le/2 0 0 3 9 4 1   [ 16 ]   A .   S .   Ha li lu ,   M .   K .   Da u d a ,   M .   Y .   W a z iri ,   a n d   M .   M a m a t,   " A   d e riv a ti v e - f re e   d e c e n m e th o d   v ia  a c c e lera ti o n   p a ra m e ter  f o S o lv in g   sy ste m o f   n o n li n e a e q u a ti o n s , Op e n   J o u rn a o S c ien c e   a n d   T e c h n o lo g y ,   v o l .   2,   no .   3 ,   p p .   1 - 4 ,   2 0 1 9 ,   d o i:   1 0 . 3 1 5 8 0 /o jst . v 2 i3 . 931 .   [ 17 ]   A .   Bo u a rich a   a n d   R .   B .   S c h n a b e l,   " T e n so m e th o d s f o larg e   sp a rse   sy ste m o f   n o n li n e a e q u a ti o n s , M a th e ma ti c a Pro g ra mm in g ,   v o l .   82,   pp .   377 - 400,   1998,   doi 1 0 . 1 0 0 7 /BF 0 1 5 8 0 0 7 6 .   [ 1 8]   W .   Zh o u   a n d   D .   S h e n ,   " A n   in e x a c P RP   c o n ju g a te  g ra d ien m e th o d   f o sy m m e tri c   n o n li n e a e q u a ti o n s , Nu me ric a Fu n c ti o n a An a lys is a n d   Op ti miza ti o n ,   v o l .   35,   no .   3 ,   p p .   370 - 388,   2014,   d o i:   1 0 . 1 0 8 0 /0 1 630563 . 2013 . 871290 .     [ 1 9]   J .   M .   Orte g a   a n d   W .   C .   Rh e in b o ld t,   Iter a ti v e   so lu ti o n   o n o n li n e a e q u a ti o n in   se v e ra v a ria b les ,   Un iv e rsity   o f   A u c k lan d ,   NZ:  S IA M ,   1 9 7 0 3 0 ,   d o i:   1 0 . 1 1 3 7 /1 . 9780898719468 .   [ 2 0]   M .   V .   S o lo d o v   a n d   B .   F .   S v a it e r,   " A   g lo b a ll y   c o n v e rg e n in e x a c Ne w to n   m e th o d   f o sy ste m o f   m o n o to n e   e q u a ti o n s , In :   Refo rm u la ti o n No n sm o o th ,   Pi e c e wise   S mo o th ,   S e mism o o th   a n d   S mo o th in g   M e th o d s .   Ap p li e d   Op ti miza ti o n ,   M .   F u k u sh im a   a n d   L .   Qi,   Ed s . Bo sto n ,   M A ,   v o l .   2 2 ,   1 9 9 8 ,   p p .   355 - 3 6 9 ,   d o i:   10 . 1 0 0 7 /9 7 8 - 1 - 4 757 - 6388 - 1_18 .   [ 2 1]   X .   S .   Ya n g ,   " T e st  P ro b lem in   Op ti m iza ti o n ,”   En g in e e rin g   Op ti miza ti o n An   In tro d u c ti o n   wit h   M e ta h e u ristic  Ap p li c a ti o n s ,   W il e y 2010 d o i:   1 0 . 1 0 0 2 /9 7 8 0 4 7 0 6 4 0 4 2 5 .   [ 2 2]   M .   Ja m il   a n d   X .   S .   Ya n g ,   " A   li tera tu re   su rv e y   o f   b e n c h m a rk   f u n c ti o n f o g lo b a o p ti m iza ti o n   p ro b lem s , In ter n a ti o n a J o u rn a o M a th e ma ti c a M o d e ll in g   a n d   Nu me ric a Op ti misa ti o n ,   v o l .   4,   no .   2 ,   p p .   150 - 1 9 4 ,   2 0 1 3 ,   d o i:   1 0 . 1 5 0 4 /IJM M NO . 2013 . 055204 .   [ 2 3 ]     Da i,   Z . ,   &   Zh u ,   H .   " A   m o d if ied   He ste n e s - S ti e f e l - ty p e   d e riv a ti v e - f re e   m e th o d   f o larg e - sc a le  n o n li n e a m o n o to n e   e q u a ti o n s,"   M a th e ma ti c s ,   v o l .   8 ,   n o .   2 ,   p p .   1 6 8 ,   2 0 2 0 ,   d o i . o rg /1 0 . 3 3 9 0 /m a th 8 0 2 0 1 6 8 .   [ 24 ]   R .   Z .   Al - Ka w a z   a n d   A .   Y .   Al - Ba y a ti ,   " S h o w   o f f   th e   e f f icie n c y   o f   th e   d a i - L iao   m e th o d   in   m e rg in g   tec h n o lo g y   f o m o n o to n o u n o n - li n e a p ro b lem s , In d o n e sia n   J o u rn a o El e c trica En g in e e rin g   a n d   Co mp u ter   S c ien c e s ,   v o l .   2 1 ,   no .   1 ,   p p .   505 - 515,   2 0 2 1 ,   doi 1 0 . 1 1 5 9 1 /i jee c s . v 2 1 . i1 . pp505 - 515 .   [ 2 5 ]   E .   D .   Do lan   a n d   J .   J .   M o e ,   " Be n c h m a rk in g   o p ti m iza ti o n   so f tw a re   w it h   p e rf o rm a n c e   p ro f il e s , Ma th .   Pro g ra m . v o l .   91,   pp .   201 - 213 ,   2 0 0 2 ,   d o i:   1 0 . 1 0 0 7 /s1 0 1 0 7 0 1 0 0 2 6 3 .   Evaluation Warning : The document was created with Spire.PDF for Python.