I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   19 ,   N o .   2 A ugus t   20 20 ,   pp .   701 ~ 70 8   IS S N :   25 02 - 4752 ,   D O I :   10. 1 1591 / i j e e c s . v 19 .i 2 . pp 701 - 70 8             701       Jou r n al   h o m e pa ge ht t p: / / i j e e c s . i a e s c or e . c om   A   n e w   v a r i a n t s o f   q u a s i - n e w t o n   e q u a t i o n   b a sed  o n   t h e   q u a d r a t i c   f u n c t i o n   f o r   u n c o n st r a i n e d   o p t i m i z a t i o n       B as i m   A .   H as s an ,   M o h am m e d   W.   Tah a   D e pa r t m e n t   o f   M a t he m a t i c s ,   C o l l e g e   o f   C o m put e r s   S c i e nc e s   a nd   M a t h e m a t i c s ,   U n i v e r s i t y   o f   M o s ul ,   I r a q       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e J a n   14 ,   2 020   R e v i s e F e b   23,   202 0   A c c e pt e M a r   9,   2020       T he   f o c us   f o r   qua s i - N e w t o m e t ho ds   i s   t he   qua s i - N e w t o e qu a t i o n.   A   ne w   qua s i - N e w t o e q ua t i o i s   d e r i v e f o r   qua dr a t i c   f unc t i o n.   T h e n ,   b a s e o t h i s   ne w   qua s i - N e w t o e qu a t i o n,   a   ne w   qu a s i - N e w t o upda t i ng   f o r m ul a s   a r e   pr e s e n t e d .   U nd e r   a ppr o pr i a t e   c o ndi t i o ns ,   i t   i s   s ho w t ha t   t he   pr o po s e m e t ho i s   g l o ba l l y   c o n v e r g e nt .   F i na l l y ,   s o m e   num e r i c a l   e x pe r i m e nt s   a r e   r e po r t e d   w hi c h   v e r i f i e s   t he   e f f e c t i v e ne s s   o f   t he   ne w   m e t ho d.   Ke y w or ds :   G l o b a l   c o n v e r ge n c e   N e w   q ua s i - N e w t o n   e qua t i o n   Q ua s i - N e w t o n   m e t h o ds   C opy r i gh t   ©   2020   I n s t i t ut e   o f   A dv anc e E ng i ne e r i ng   and   S c i e nc e .     A l l   r i gh t s   r e s e r v e d .   Cor r e s pon di n g   Au t h or :   B a s i m   A .   H a s s a n ,   D e pa rt m e n t   o f   M a t h e m a t i c s ,     Co l l e ge   of   Co m put e r s   S c i e n c e s   a n d   M a t h e m a t i c s ,   U n i v e r s i t y   of   M o s ul ,   M o s ul ,   I ra q .   E m a i l :   b a s i m a h @ uo m o s ul . e du . i q       1.   I N TR O D U C TI O N     T h e   qua s i - N e w t o n   (Q N m e t h o i s   a   w i l l i ng  de v i c e   t o   f i n t h e   m i n i m u m   v a l ue   o pr o b l e m .     L e t   us   t hi n k   o ve r   p r o b l e m   f o r   t h e   f o l l ow i n f o r m :     n R     x ,    ) ( x f M i n   (1)     w h e r e   R R f n :   i s   c o n t i n uo us l y   di ff e r e n t i a b l e .   F o m o r e   de t a i l s   c a b e   f o un i [1 ].     T h e   b a s i c   f o r m   o f   a   qua s i - N e w t o n   m e t h o f o r   s o l v i n g   (1) .   a nd  i t   i s   w r i t t e a s :     k k k k d x x 1   (2)     w h e r e   k   i s   t h e   s t e l e ngt w h i c s a t i s f i e s   c e r t a i W o l f e   c o n di t i o n s :     k T k k k k k k d g x f d x f  ) ( ) (     (3)       k T k k k k T k g d d x g d   ) (   (4)     fo r   s o m e   pa ra m e t e r s   1 0 .   F o r   de t a i l s   s e e   [2] .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   19 ,   N o .   2 A ugus t   20 20  :     701   -   70 8   702   T h e   s e a r c d i r e c t i o o f   t h e   qu a s i - N e w t o n   m e t h o i s   de f i n e by :       0 k k k g d B     (5)     w h e r e   k B   i s   a n   a pp r o xi m a t i o m a t ri o f   t h e   H e s s i a n,   a n k g   de n o t e s   ) ( k x g .   T h e   m a t ri k B   a r e   po s i t i v e   de f i n i t e   a n t h e y   s a t i s fy   t h e   qu a s i - N e w t o n   e qua t i o n:       k k k y s B 1   (6)     w h e r e   k k k x x s 1 a nd  k k k g g y 1 ,   i s   s a t i s f i e d.   F o r   de t a i l s   s e e   [3] .   O n e   po s s i b i l i t y   t o   o b t a i 1 k B   f r o m   k B   by   a upd a t e   f o r m u l a   i s   t o   ha v e   a   B F G S   upda t e :     k T k T k k k k T k T k T k k k k B F GS k y s y y s B s B s s B B B 1   (7)     P r e c i s e l y ,   i f   ) , , ( , 1 1 k k k k k k s y B U B B H   a n d   ) , , ( 1 k k k k y s H U H t h e n   1 1 1 k k B H   t h i s   p r o pe rt y   c a l l e dua l i t y   t ra n s f o r m a t i o n.   A pp l y i n t hi s   r e l a t i o n   t o   t h e   B F G S   m e t h o d,   w e   w i l l   ge t   t h e   du a l   of   t h e   B F G S   fo r m u l a :     k T k T k k k T k k k T k k T k k T k k T k k k k B F G S k y s s s y s y H y y s H y s s y H H H 1 1   (8)     F o r   de t a i l s   s e e   [4].   D i f fe r e n t   qua s i - N e w t o n   m e t h o ds   c o rr e s po n t o   di f f e r e n t   w a y s   of   upda t i n t h e   m a t r i 1 k H   t i n c l ude   t h e   n e w   c ur v a t u r e   i n f o r m a t i o n   o b t a i n e du r i ng  t h e   th k   i t e ra t i o n .   D i f f e r e n t   Im p r o v i n o f   t h e s e   m e t h o ds   a r e   m a de ,   i n   t h e   a i m   t o   de v e l o t h e m   i n   [5 - 8] .   W e   a r e   go i ng  t o   p r e s e n t   a   n e w   qua s i - N e w t o n   e qua t i o n   b a s e o qu a d r a t i c   f u n c t i o n   a n d   s h o w   t h a t   t h e s e   m e t h o ds   a r e   t h e   b e s t   f o r   s o l v i n u n c o n s t r a i n e d.       2.   D ER I V I N G   Q UASI - N EWT O N   E Q U A TI O N   B A S ED   O N   TH Q U A D R A TI C   F U N C TI O N :   B e fo r e   pr e s e nt i ng  n e w   qua s i - N e w t o n   e qua t i o n,   w e   s h a l l   de r i v e   a n   e s t i m a t e   o f   a   s t e s i z e .     A s s um e   t h a t   t h e   f u n c t i o i s   de f i n e a   qua d ra t i c   f u n c t i o o f   t he   fo r m :     k T k k k T k k k k Qd d d g f f 2 1 2 1   (9)     T h e t h e   m i n i m u m   po i nt   k   o f   a bo ve   f un c t i o i s   g i v e n   b y :       k T k k T k k Qd d d g   (10)     N ow ,   w e   s h a l l   de r i v e   a l t e rn a t e   qu a s i - N e w t o n   e qua t i o n.   T h e re fo r e ,   f r o m   a b ov e   e qua t i o n   w e   ge t :       k T k k T k k d g Qd d   (11)     T h e   b a s i c   i de a   i s   t o   a pp r o xi m a t e   e i t h e r   Q   by   a n o t h e r   m a t ri 1 k B   t o   o b t a i n   a   h i g h e r   a c c ur a c y ,   c a n   b e   e xpr e s s e a s :     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A   n e w   v ar i ant s   of   quas i - Ne w t on  e quat i on   bas e on   t he   quadr at i c   f unc t i o f or   ( B as i m   A .   H as s an )   703   k T k k k T k g s s B s 1   (12)     By   t h e   f o l l ow i n de f i n i t i o o f   t h e   di f f e r e n t   g r a di e n t   k y   w e   ge t :     k T k k T k k T k s g s g s y 1   (13)     By   put t i n g   ) 13 (   i n   ) 12 (   w e   ge t :     k T k k T k k k T k s g s y s B s 1 1   (14)     O n e   o f   t h e   po s s i b l e   c h o i c e s   i a pp r o xi m a t i o n   o f   k k s B 1   c a n   b e   gi v e by :     k k T k k T k k k k k k z z s s g y y y s B 1 1 ,   (15)     w h e r e   0 k T k z s   a n d   k z   i s   a n y   ve c t o r .   T h e   v a l ue   of   k z   a r e   n o t   u n w a v e r i n i n   a   u n i que   t e c hn i q ue ,   b ut   t h e   s ui t a b l e   c h o i c e   a r e   k k y z   a n k k g z .     If   f   i s   n o n - c o n v e m a y   m i s l a y   t h e   po s i t i v e   de f i n i t e n e s s .   W e   n e e fo r   s o m e   e xt r a   a s s um p t i o n s     o n   t h e   upd a t e .   In  o r de t o   p r o v e   t h e   f o l l ow i n g   t h e o r e m s ,   w e   de f i n e   t h e   i n de s e t   K   a s :     , : k k k T k g s y s k K   (16)     w h e r e   0   i s   c o n s t a n t   a nd  0   i s   b o un de d.   N ow ,   w e   gi ve   t h e   a l go ri t hm   o f   t h e   n e w   m e t h o d.   A s s u mp ti o n s :   n R x 0 .   L e t   0 k .   S t a ge   1 :   i f   0 k g ,   t h e n   s t o p.   S t a ge   2 :   S o l v e   k k k g d H 1   f o r   k d   S t a ge   3 :   D e t e r m i n e   t h e   s t e s i z e   k   s uc t ha t   W o l f e   l i n e   s e a r c r u l e s   h o l d.   S t a ge   4:   S e t   k k k k d x x 1 .   If   0 k T k y s ,   upd a t e   1 k H   by   t h e   fo r m u l a   (8)  a n ( 15) ,   o t h e r w i s e   l e t   k k H H 1     S t a ge   5:   1 k k ,   r e t u rn  t o   s t a ge   1 .   T h e   n e xt   t h e o r e m   i s   v e r y   i m po r t a nt .   W e   pr o ve   t h e   c o n di t i o n   0 k T k y s   w h i c h   i s   k n o w n   a s   t h e   c ur v a t u r e   c o n d i t i o n   Th e o r e m   1.     T h e   n e w   upda t e   (8)   a n d   (15 r e t a i n s   po s i t i v e   de f i n i t e n e s s   i f   a n d   o nl y   i f   0 k T k y s .   P r oo f:   H a v i n i v i e w   t ha t   t h e   de f i n i t i o n   o f   t h e   di f f e r e n t   g ra di e n t   by :     k k T k k T k k k z z s s g y y 1   (17)   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   19 ,   N o .   2 A ugus t   20 20  :     701   -   70 8   704   M ul t i pl y i n g   a b o ve   e qua t i o by   T k s ,   w e   ha v e :     k T k k T k k T k k T k g s s g y s y s 1   (18)     F r o m   (2)   w e   ge t   k k k d s .   I n   f a c t ,   t h e   s e a r c h   di r e c t i o n   o f   a   Q N   i s   de s c e n t ,   w e   n o t i n t ha t   0 k T k k k T k g d g s ,   s uc h   t h a t :     0 k T k k k T k g d y s   (19)     T h e   p r o o f   i s   c o m pl e t e .       3.   C O N V ER G EN C E   A N A L Y S I S   In  o r de r   t o   p r o v e   t h e   c o n v e r ge n c e ,   w e   c o n s i de r   t h e   f o l l ow i n a s s um p t i o n s :   T h e   l e v e l   s e t     ) ( ) ( 0 x f x f x D ,   w i t 0 x   i s   a n   i n i t i a l   po i n t   o f   i t e ra t i v e   m e t h o i s   r e s t ri c t e d.   A s s u mp ti o n   A .   U s i n g   L i ps c hi t z   c o nt i n uo us ;   t ha t   i s   e xi s t   c o ns t a n t s   L   a n d   ,   s uc h   t h a t :     D y x y x L y f x f , , ) ( ) (   (20)     A n d     D x x f , ) (   (21)     S i nc e   ) ( k x f   i s   a   d e c re a s i ng ,   w hi c e ns u re s   k x   i s   c o nt a i ne d   i D   a nd   t he   e x i s t e nc e   o f   * x   w e   g e t :     ) ( ) ( lim * x f x f k k   (22)     In  r e a l i t y ,   t ha t   s e que n c e   k x   i s   r e s t r i c t e d ,   t h e r e   e xi s t   s o m e   po s i t i v e   c o n s t a n t     s uc t ha t   f o r   a l l   , k :     x x x x s k   (23)     F o r   m o r e   de t a i l s   s e e   [9, 10] .   E xi s t i n g   t h e   ha n dy   t h e o r e m   t o   e xpl a i n   t ha t   o ur  m e t h o i s   g l o b a l l y   c o n v e r ge n t .   Th e o r e m   2.   If   ) ( x f   i s   n o t   h o l ds   f o r   a l l   k .   L e t   k x   b e   ge n e r a t e by   n e w   m e t h o ds ,   a n d   t h e   f o l l ow i n g   i n e qua l i t y   h o l ds :     k k k s a s B 1   a n d   2 2 k k k T k s a s B s ,   (24)     w h e r e   0 1 a   a n d   0 2 a   a r e   c o n s t a n t s .   F o i n f i ni t e l y   , k t h e w e   h a v e :     0 i n f lim k k g .   (25)     Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A   n e w   v ar i ant s   of   quas i - Ne w t on  e quat i on   bas e on   t he   quadr at i c   f unc t i o f or   ( B as i m   A .   H as s an )   705   P r oo f:    By   ) 4 ( of   t h e   W o l fe   c o n di t i o n s   w e   ob t a i n :     k T k k T k k d g d g g ) 1 ( ) ( 1   (26)     M o r e ov e r ,   f r o m   L i ps c hi t z   c o n d i t i o n   w e   o b t a i n:     2 1 ) ( k k k T k k d L d g g   (27)     Co m b i n i ng  a b ov e   t w o   e qua t i o n   w e   ge t :     L a d L d B d d L d g k k k T k k k T k k 2 2 2 ) 1 ( ) 1 ( ) 1 (   (28)     us i n ), 22 (   w e   ob t a i n :     * 1 1 1 1 1 1 1 ) ( lim ) ( lim ) ( f f f f f f f f N N N k k k N k k k   (29)     T h e r e f o r e ,     , ) ( 1 1 k k k f f   (30)     w h i c c o m b i n i ng  w i t W o l f e   c o n di t i o n   (3)  y i e l ds :     1 k k T k k d g   (31)     T h e n:     0 lim k T k k k d g   (32)     t o ge t h e r   w i t ) 31 (   pr o v i de   t ha t :     0 lim lim k T k k k k T k k d g d B d   (33 )     Co m b i n i ng  ) 33 (   w i t h   ) 24 (   w e   ob t a i n   t h e   c o n c l us i o ) 25 ( .   T h e   p r o o f   i s   f i n i s h e d.     F o r   p r o of   a   g l o b a l   c o n v e r ge n c e   f o r   n o n - c o n v e p r o b l e m s ,   w e   s t a t e   a   l e m m a   due   t o   P ow e l l   [11].   Le m m 1.   If   B F G S   m e t h o w i t h   W o l f e   c o n di t i o i s   a ppl i e t o   a   c o n t i nuo us l y   di ff e r e n t i a b l e   f un c t i o n   f t h a t   i s   bo un de b e l ow ,   a n d   i f   t h e r e   e xi s t s   a   c o n s t a n t   M s uc h   t h a t   t h e   i n e qua l i t y   h o l ds :     M y s y k T k k 2   (34 )     t h e n:   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   19 ,   N o .   2 A ugus t   20 20  :     701   -   70 8   706   0 i n f lim k k g   (35 )     F o r   m o r e   de t a i l s   c a n   b e   f o un i [1 2].       Th e o r e m   3.   L e t   k x   b e   ge n e ra t e d   by   t h e   n e w   m e t h o d.   T h e w e   h a v e :     0 i n f lim k k g   (36 )     P r oo f:   If   K   i s   a   f i ni t e   s e t ,   t h e k B   i s   a   c o n s t a nt - m a t r i x ,   o bv i o us l y ,   (24)  s a t i s f i e s .   N o w ,   i f   K   i s   a   i n f i n i t e   w e   w i l l   de duc e   a   c o n t r a di c t i o n   w i t t h e r e   e xi s t s   0   s uc t ha t :     k g   (37)   It   f o l l ow s   f r o m   (28)   a n d   (16 t h a t :     k k T k s y s    ( 38 )     By   t h e   de f i n i t i o n   o f   k y ,   w e   ha v e :     k k k k k k T k k T k k k s s g y z z s s g y y 1 1   (39)     It   f o l l ow s   f r o m   (20) , (23) ,   ( 28)  a n d   (39)   t h a t :     L g s L y k k k 1   (40)     T h i s ,   t o ge t h e r   w i t (38) ,   l e a d   t o :     M y s y k T k k 2   (41)     U s i n l e m m a   1,   t o   t h e   s ub   K k k B ,   o bv i o u s l y ,   e xi s t e n c e   1 a   a n 2 a   w e   ge t   (24)  f o r   i n f i ni t e l y   m a n y   k .   B y   us i n t h e o r e m   t h e   p r o o f   i s   F i ni s h e d.       4.   TES TS   N U M ER I C A LLY   F O R   M ETH O D S   A N D   D I S C U S S I O N S     In  t hi s   s e c t i o n ,   s o m e   n u m e r i c a l   t e s t s   a r e   pe r f o r m e i n   o r d e r   t o   i l l us t r a t e   t h e   i m p l e m e nt a t i o a nd  e ff i c i e n c y   of   t h e   pr o po s e m e t h o d.   I o ur   t e s t s ,   w e   c o n s i de r   t h e   u n c o n s t r a i n e o pt i m i z a t i o n   p r o b l e m s   f r o m   t h e   s e t   pr o v i de by   [13].   O t h e r   t e s t   f un c t i o n s   h a v e   be e n   us e i n   v a r i o us   r e s e a r c h   s uc h   a s   [14 - 2 4].   I n   s o l v e d   t h e   pr o b l e m s   r e qui r e t h e   n um b e r   o f   i t e r a t i o n s   (N I)  a n t h e   n u m b e r   o f   f un c t i o n   e v a l ua t i o n s   (N F ),   r e s pe c t i v e l y ,   w h i c c o n t a i i t a b l e s .   A l l   r u n s   r e po rt e i t hi s   pa pe r   t e r m i n a t e   w h e n:   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2502 - 4752       A   n e w   v ar i ant s   of   quas i - Ne w t on  e quat i on   bas e on   t he   quadr at i c   f unc t i o f or   ( B as i m   A .   H as s an )   707   If   , 10 ) ( 5 k x f   l e t   ; ) ( / ) ( ) ( 1 1 k k k x f x f x f s t o p   O t h e r w i s e ,   l e t   ) ( ) ( 1 1 k k x f x f s t o p   F o r   e v e r y   pr o b l e m ,   i f   k g   o r   5 10 1 s t o p i s   s a t i s f i e d,   t h e   p r o g r a m   w i l l   b e   s t oppe d” .   F o r   m o r e   de t a i l s   c a b e   fo un i [25] .   Co m pa ri s o n   t h e   n e w   m e t h o ds   w i t h   t h e   s t a n d a r B F G S   m e t h o d   a s   s h o w n   i n   T a b l e   1 .       T a b l e   1 .   Co m p a r i s o t h e   n e w   m e t h o ds   w i t t h e   s t a nda r d   B F G S   m e t h o d   BF G S   w i t h   k k g z   BF G S   w i t h   k k y z   BF G S   a l g o ri t h m       NF   NI   NF   NI   NF   NI   N   P ro b l e m s   82   24   127   33   140   35   2   Ro s e   23   8   23   8   26   9   2   F ro t h   129   36   133   34   166   43   2   Ba d s c p   30   3   30   3   30   3   2   Ba d s c b   37   12   47   14   50   15   2   Be a l e   27   2   27   2   27   2   2   J e n s a m   88   29   105   33   113   34   3   H e l i x   50   16   58   18   54   16   3   Ba rd   4   2   4   2   4   2   3   G a u s s   27   2   27   2   27   2   3   G u l f   27   2   27   2   27   2   3   Bo x   53   18   58   19   60   20   4   S i n g   41   13   62   20   61   19   4   W o o d   69   21   98   22   65   21   4   K o w o s b   48   15   49   16   54   17   4   Bd   27   2   27   2   27   2   5   O s b 1   43   7   77   25   72   25   6   Bi g g s   31   3   31   3   31   3   11   O s b 2   78   26   101   32   102   31   20   W a t s o n   49   16   170   51   209   64   400   S i n g x   164   53   27   2   27   2   400   P e n 1   5   2   5   2   5   2   200   P e n 2   27   2   27   2   27   2   100   V a r d i m   24   8   32   9   33   9   500   T ri g   4   2   4   2   4   2   500   Bv   19   7   19   7   16   6   500   Ie   65   11   180   36   281   57   500   Ba n d   4   2   4   2   4   2   500   Lin   7   3   7   3   7   3   500   L i n 1   7   3   7   3   7   3   500   L i n o   1289   350   1593   409   1756   453     T o t a l       B a s e o n   t h e   a b ov e   c o m pa r i s o n s ,   i t   i n d i c a t e s   o ur   m e t h o h a s   i m p r o v e r a t e   (9 - 26)  i n   t o t a l   n u m b e r   o f   t h e   i t e r a t i o n s   a n ( 9 - 27)  %   i n   t o t a l   num b e r   o f   t h e   f un c t i o n   e v a l ua t i o n   by   c o m pa r e   w i t h   t h e     B F G S   m e t h o d.   R e l a t i v e   e ff i c i e n c y   of   t h e   b e t w e e n   a l go ri t hm s   a s   s h o w n   i n   T a b l e   2.       T a b l e   2 .   R e l a t i v e   e f f i c i e n c y   of   t h e   b e t w e e n   a l go r i t h m s     BF G S   a l g o ri t h m   BF G S   w i t h   k k y z   BF G S   w i t h   k k g z   N1   100%   9 0 . 2 8 %   7 7 . 2 6 %   NF   100%   9 0 . 7 1 %   7 3 . 4 0 %       5.   C O N C LU S I O N S   B a s e o n   a   qua d ra t i c   f un c t i o n   w e   d e r i v i n n e w   qua s i - N e w t o n   e qua t i o n .   T h e   e ffe c t i ve n e s s   of   t h e   pr o po s e m e t h o ds   ha v e   be e n   s h o w n   by   s o m e   n um e r i c a l   e xa m p l e s .   E xc i t i n t h e   r e m a rka b l e   pe r f o r m a n c e   o m e t h o w i t h   c h o i c e   a r e   k k y z   a n d   k k g z   o n   t h e s e   t e s t   p r o b l e m s ,   i t   i s   o ka y   t o   gue s s   o n   1 k k g z .       A C K N O WL ED G M EN T   T h e   a ut h o r s   a r e   v e r y   gr a t e f ul   t o   t h e   U n i v e r s i t y   of   M o s ul   /   Co l l e ge   of   Co m put e r s   S c i e n c e s   a n M a t h e m a t i c s   f o r   t h e i p r o v i de f a c i l i t i e s ,   w h i c h e l pe t o   i m pr o v e   t h e   qua l i t y   o f   t h i s   w o r k.       Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2502 - 4752   In do n e s i a J   E l e c   E ng  &   Co m S c i ,   V o l .   19 ,   N o .   2 A ugus t   20 20  :     701   -   70 8   708   R EF ER EN C ES   [ 1]   L uks a L .   a nd  V l c e J . ,   N e w   v a r i a b l e   m e t r i c   m e t ho ds   f o r   unc ons t r a i ne m i n i m i z a t i o n   c ov e r i ng   t he   l a r g e - s c a l e   c a s e ,   T e c hni c a l   r e po r t   N o .   V   8 76 2 002   [ 2]   W o l f e   P . ,   C o nv e r g e nc e   c o nd i t i o n s   f o r   a s c e n t   m e t ho d s ,   ( I I ) :   s o m e   c o r r e c t i o n s ”,   S I A M   R e v i e w ,   v o l .   1 3 ,     pp .   1 85 - 1 88 ,   1 97 1 .   [ 3]   S u n , W . ,   Y u a n ,   Y a - X i a ng   O p t i m i z a t i o n   T h e o r y   a n d   M e t ho d s :   N o n l i n e a r   P r o g r a m m i ng ”,   S p r i nge r ,   N e w   Y o r k   20 0 6 .   [ 4]   J e a n   C .   G . ,   N um e r i c a l   m e t ho ds   f o r   l a r g e - s c a l e   m i n i m i z a t i o n ,   I nr i a , ,   R o c que nc o ur t ,   F r a nc e ,   pp . 106 .   [ 5]   B a s i m   A . H . ,   '' A   ne w   t y pe   of   qua s i - N e w t o upda t i ng   f o r m ul a s   ba s e o t he   ne w   qua s i - N e w t o e qua t i o n S I A M   J .   N um e r i c a l   al ge br a,   c ont r o l   and   op t i m i z a t i on .   T o   be   a pp e r .   201 9.   [ 6]   B i g l a r i   F . ,   H a s s a M . A . ,   a nd  L e o ng   W .   J . ,   N e w   qu a s i - N e w t o m e t ho ds   v i a   hi g he r   o r de r   t e n s o r   m o de l s ,     J .   C om put .   A pp l .   M a t h . ,   ( 8)   pp .   241 2 24 22,   2 011 .   [ 7]   C he L . H . ,   D e ng   N . Y . ,   a nd .   Z h a ng   J . Z ,   A   m o di f i e d   qu a s i - N e w t o m e t ho f o r   s t r uc t u r e d   o pt i m i z a t i o w i t pa r t i a l   i nf o r m a t i o n   o t he   H e s s i a n C om pu t .   O p t i m .   A pp l .   35 ,   pp .   5 18 ,   2 006 .   [ 8]   W e i   Z . ,   L i   G . ,   a nd  Q i   L . ,   N e w   qua s i - N e w t o m e t ho ds   f o r   unc o ns t r a i ne o pt i m i z a t i o pr o bl e m s A p pl .   M a t h.   C om put . , 175 ,   pp .   1156 118 8 ,   20 06 .   [ 9]   D e hg ha ni   R . ,   H o s s e i ni   M   a nd  B i d a ba d i   N . ,   T he   m o di f i e qu a s i - N e w t o m e t ho ds   f o r   s o l v i ng   unc o ns t r a i ne d   o pt i m i z a t i o p r o bl e m s W I L E Y ,   pp .1 - 8 201 7 .   [ 10]   Z a hr a   K .   a nd  A l i   A . ,   A   ne w   m o di f i e s c a l e c o nj ug a t e   g r a d i e n t   m e t ho f o r   l a r g e - s c a l e   u nc o ns t r a i ne o pt i m i z a t i o w i t h   no n - c o n v e o bj e c t i v e   f unc t i o n O pt i m i z a t i o M e t ho ds   an S o f t w ar e ,   pp . 1 - 14 2 018 .   [ 11]   P o w e l l   M . J . D .,   S o m e   g l o ba l   c o nv e r g e nc e   pr o pe r t i e s   o f   a   v a r i a b l e   m e t r i c   a l g o r i t hm   f o r   m i ni m i z a t i o w i t ho ut   e xa c t   l i n e   s e a r c he s ,   i N o nl i ne a r   P r o g r a m m i ng SI A M - A M P r oc e e di ng s ,   L e m k e ,   e ds . ,   SI A M ,   1976 ,   pp . 53 - 72 ,   197 6 .   [ 12]   B y r R . ,   N o c e da l   J . ,   '' A   t oo l   f o r   t he   a na l y s i s   o f   qua s i - N e w t o m e t ho ds   w i t a p pl i c a t i o t o   unc o ns t r a i ne d   m i ni m i z a t i o n SI A M   J .   N um e r .   A na l .   2 6,   P P . 72 7 73 9 ,   19 89 .   [ 13]   M o r e   J . ,   G a r bo w   B . ,   a n H i l l s t r o m e   K . ,   T e s t i ng   unc o ns t r a i n e o pt i m i z a t i o s o f t w a r e A C M   T r an s .   M a t h.   Sof t w ar e ,   7 , pp .   17 - 41 ,   1981 .   [ 14]   B a s i m   A .   H a s s a a nd   H a w r a z   N .   J a bb a r ,   A   N e w   T r a n s f o r m e B i g g s   ' s   S e l f - S c a l i ng   Q ua s i - N e w t o M e t ho f o r   O pt i m i z a t i o n Z A N C O   J ou r na l   of   P ur e   and   A p pl i e S c i e nc e s ,   31: 1 - 5 ,   2 018 .   [ 15]   B a s i m   A .   H . ,   H u s s e i K .   K .   A   ne w   c l a s s   o f   B F G S   up da t i ng   f o r m ul a   ba s e o n   t he   ne w   qua s i - n e w t o e qua t i o n I ndo ne s i an   J our nal   o f   E l e c t r i c a l   E ngi ne e r i ng   and   C om p ut e r   Sc i e nc e ,   3:   945 - 953 ,   2019 .   [ 16]   B a s i m   A .   H . ,   Z e y a M .   A .   a n H a w r a z   N .   J .   A   de s c e n t   e xt e ns i o o f   t he   D a i   -   Y ua c o nj ug a t e   g r a d i e nt   t e c hn i qu e I ndo ne s i an   J our nal   o f   E l e c t r i c a l   E ngi ne e r i ng   and   C om p ut e r   Sc i e nc e ,   2:   661 - 668 ,   2019 .   [ 17]   B a s i m   A .   H . A   m o di f i e d   qu a s i - N e w t o m e t ho ds   f o r   unc o ns t r a i ne O p t i m i z a t i o n I t a l i an  j ou r na l   o f   pur e   an d   appl i e m a t he m at i c s ,   42 ,   504 - 51 1 ,   20 19   [ 18]   B a s i m   A .   H .   H us s e i O .   D . a nd  A z z a m   S .   Y .   A   ne w   ki nd  o f   p a r a m e t e r   c o nj ug a t e   g r a d i e n t   f o r   unc o ns t r a i ne d   o pt i m i z a t i o n I ndo ne s i an   J our nal   o f   E l e c t r i c a l   E ng i ne e r i ng   and   C om put e r   Sc i e nc e ,   17:   404 - 411 ,   2020 .   [ 19]   B a s i m   A .   H a s s a n ,   O s a m a   M . T .   W .   a n A y a A .   M .   A   C l a s s   o f   D e s c e nt   C o nj ug a t e   G r a d i e n t   M e t ho ds   f o r   S o l v i ng  O pt i m i z a t i o P r o b l e m s ,   H I K A R I   L t d,   A ppl i e M a t he m a t i c a l   S c i e nc e s ,   12 ,   559     567 ,   201 9 .   [ 20]   B a s i m   A .   H a s s a a n M o ha m m e W .   T .   A   M o di f i e Q u a s i - N e w t o E qua t i o i t he   Q ua s i - N e w t o M e t ho ds   f o r   O pt i m i z a t i o n ,   H I K A R I   L t d,   A ppl i e M a t he m a t i c a l   S c i e nc e s ,   10 ,   4 63    4 72 ,   2 019 .   [ 21]   B a s i m   A .   H a s s a n,   A   G l o ba l l y   C o n v e r g e nc e   S pe c t r a l   C o nj ug a t e   G r a d i e nt   M e t ho f o r   S o l v i ng   U nc o ns t r a i n e d   O pt i m i z a t i o P r o b l e m s   a n M o ha m m e d R a f .   J .   of   C om p .   &   M a t h’ s . ,   10,   2 1 - 28 ,   20 13 .   [ 22]   B a s i m   A .   H a s s a n ,   D e v e l o pm e nt   a   S pe c i a l   C o nj ug a t e   G r a d i e nt   A l g o r i t hm   f o r   S o l v i ng   U nc o ns t r a i ne M i n i m i z a t i o P r o bl e m s R a f .   J .   o f   C om p.   &   M a t h s . ,   9 ,   73 - 84 ,   2012 .   [ 23]   B a s i m   A .   H a s s a a n O m e r   M .   E . ,   A   N e w   s uf f i c i e nt   de s c e nt   C o nj ug a t e   G r a d i e n t   M e t ho f o r   N o nl i ne a r   O pt i m i z a t i o n I r aq i   J ou r na l   of   S t a t i s t i c a l   Sc i e nc es ,   26 ,   12 - 24 ,   2 01 4 .   [ 24]   B a s i m   A .   H a s s a n ,   A   ne w   f o r m ul a   f o r   c o nj ug a t e   p a r a m e t e r   c o m put a t i o ba s e o t he   qua dr a t i c   m o de l I ndone s i an   J our nal   o f   E l e c t r i c a l   E ngi ne e r i ng   and   C om p ut e r   Sc i e nc e ,   3,   pp .   95 4 - 961 ,   20 19 .   [ 25]   Y ua Y .   a nd   S u W . ,   T he o r y   a nd  M e t ho ds   o f   O p t i m i z a t i o n ,   S c i e nc e   P r e s s   o f   C hi na ,   1 999 .   Evaluation Warning : The document was created with Spire.PDF for Python.