I nte rna t io na l J o urna l o f   E lect rica l a nd   Co m pu t er   E ng ineering   ( I J E CE )   Vo l.   1 4 ,   No .   5 ,  Octo b er   20 2 4 ,   p p .   6 0 1 6 ~ 6 0 2 2   I SS N:  2088 - 8 7 0 8 ,   DOI : 1 0 . 1 1 5 9 1 /ijece. v 1 4 i 5 . pp 6 0 1 6 - 6 0 2 2           6016       J o ur na l  ho m ep a g e :  h ttp : //ij ec e. ia esco r e. co m   Es tima tion o f  ke r nel  densi ty func ti o n using  K a pur  e ntropy       L ee na   Cha wla ,   Vij a y   K um a r,   Art i Sa x ena   D e p a r t me n t   o f   A p p l i e d   S c i e n c e s,  S c h o o l   o f   E n g i n e e r i n g   a n d   Te c h n o l o g y ,   M a n a v   R a c h n a   I n t e r n a t i o n a l   I n st i t u t e   o f   R e se a r c h   a n d   S t u d i e s,  F a r i d a b a d ,   I n d i a       Art icle  I nfo     AB S T RAC T   A r ticle  his to r y:   R ec eiv ed   Ap r   1 3 ,   2 0 2 4   R ev is ed   J u l 1 1 ,   2 0 2 4   Acc ep ted   J u l 1 7 ,   2 0 2 4       In fo rm a ti o n - th e o re ti c   m e a su re s  p lay   a   v i tal  ro le  in   train i n g   lea rn in g   sy ste m s.   M a n y   re se a rc h e rs  p ro p o se d   n o n - p a ra m e tri c   e n tro p y   e stim a to rs  th a t  h a v e   a p p li c a ti o n s  i n   a d a p ti v e   sy ste m s.  In   th is   wo r k ,   a  k e rn e l   d e n sit y   e stim a to r  u sin g   Ka p u r  e n tro p y   o f   o rd e r   α   a n d   ty p e   β   h a s  b e e n   p ro p o se d   a n d   d isc u ss e d   with   th e   h e lp   o f  th e o re m s  a n d   p ro p e rti e s.  F ro m   th e   re su lt s,  it   h a s  b e e n   o b se rv e d   th a t  t h e   p r o p o se d   d e n sity   m e a su re   is  c o n siste n t ,   m in i m u m ,   a n d   sm o o th   fo r  t h e   p ro b a b il i ty   d e n sity   fu n c ti o n   (P DF)   u n d e rl y i n g   g i v e n   c o n d i ti o n s  a n d   v a l id a ted   wi th   t h e   h e lp   o f   th e o re m s  a n d   p ro p e rti e s.  Th e   o b jec ti v e   o f   th e   p a p e r   is  t o   u n d e rsta n d   t h e   t h e o re ti c a l  v iew p o in t   b e h in d   th e   u n d e rl y i n g   c o n c e p t .    K ey w o r d s :   E n tr o p y   esti m ato r   I n f o r m atio n   th e o r etic  m ea s u r e   Kap u r   en tr o p y   Ker n el  d en s ity   esti m atio n   No n - p ar am etr ic  esti m ato r   T h is i s  a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   Vijay   Ku m ar   Dep ar tm en t o f   Ap p lied   Scien c es,  Sch o o l o f   E n g in ee r in g   a n d   T ec h n o lo g y ,   Ma n av   R ac h n a  I n ter n atio n al  I n s titu te  o f   R esear ch   an d   Stu d ies   Far id ab ad ,   Har y an a,   I n d ia    E m ail: v ijay k u m ar . s et@ m r iu . ed u . in       1.   I NT RO D UCT I O N   E n tr o p y   esti m atio n   p lay s   a  s i g n if ican t  r o le  ac r o s s   th e  d is cip lin es  o f   s cien ce   an d   tech n o lo g y   s u ch     as  en g in ee r in g   [ 1 ] – [ 3 ] ,   b i o l o g y   [ 4 ] ,   an d   p h y s ics  [ 5 ] .   Ma th em atica l  g en er aliza tio n   o f   n o n - p ar am et r ic    en tr o p y   in   ter m s   o f   co n tin u o u s   r an d o m   v a r iab les  h as  b ee n   p r o p o s ed   b y   m an y   r esear c h er s .   Un iv ar iate  a n d   m u ltiv ar iate  p r o b ab ilit y   d en s it y   f u n ctio n s   ( PDF s ) - b ased   Sh an n o n   e n tr o p y   ex p r ess io n s   wer e  d is cu s s ed   in   [ 6 ] ,   [ 7 ] .   I n   a  s im p le   p ar a m etr ic  f a m ily ,   th e   ch an g in g   PDF   o f   th e  d ata  m ay   n o t   ex is t.  T h er ef o r e,   it  is   n ec ess ar y   to   esti m ate  n o n - p ar am etr ic  e n tr o p y .   T h ese  esti m ates  ar e  o b tain ed   b y   in tr o d u cin g   a  d en s ity   esti m ato r   o f   th e  d ata   in   th e  en tr o p y   ex p r ess io n   in s tead   o f   th e   ac tu al  PDF .  PDF s   ar e  r eq u ir e d   to   esti m ate  en tr o p y ,   wh ich   ca n   ef f ec tiv ely   ev al u ate  en tr o p y   u s in g   k er n el  d en s ity   m eth o d s ,   a  well - s tu d ied   ar ea   o f   r esear ch .   W eg m an   an d   Dav ies   [ 8 ]   in tr o d u ce d   a  r ec u r s iv e  d en s ity   esti m ato r   to   esti m ate  tim e  s er ies an d   s p atial  d ata  p ar am eter s .   Ker n el   d en s ity   esti m ato r s   ar e  wid ely   u s ed   f o r   th e   esti m atio n   o f   en t r o p y   [ 9 ]   b ec a u s e  th ey   ar e  c o m p u tatio n ally   f aster ,   ea s y   to   in co r p o r ate,   a n d   s im p l e  to   u n d er s tan d   [ 1 0 ] .       2.   P L UG - I N  E ST I M AT O RS   Plu g - in   esti m ato r s   ar e  u s ed   to   esti m ate  a  f ea tu r e  o f   p r o b ab ilit y   d is tr ib u tio n .   Dif f er e n t  p lu g - i n   esti m ato r s   h av e  b ee n   u s ed   f o r   d en s ity   esti m atio n ,   s u ch   as  in t eg r al  esti m ates,  r esu b s titu tin g   esti m ates,  s p litt in g   d ata  esti m ates,  an d   c r o s s - v alid atio n   esti m ates.  A  b r ief   in tr o d u ctio n   to   th e  d if f er e n t  ty p es  o f   p lu g - in   esti m ato r s   is   d is cu s s ed   as   f o llo ws .   −   I n teg r al  esti m ates:  ap p r o x im a te  in f in ite  in teg r als  p r esen ted   in   th e  en tr o p y   ex p r ess io n .   E n tr o p y   m ea s u r es  h av e  b ee n   u s ed   to   esti m ate  th e  ex ac t  ev alu atio n   o f   th e  in te g r al.   Dm itrie v   an d   T ar asen k o   [ 1 1 ]   p r o p o s ed   a   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8       E s tima tio n   o f  k ern el  d en s ity  fu n ctio n   u s in g   K a p u r   en tr o p y   ( L ee n a   C h a w la )   6017   s im ilar   esti m at io n   f o r   Sh an n o n   en tr o p y .   I n   m u ltiv ar iate  ca s es,  J o e  [ 1 2 ]   ap p r o x im ated   th e  in teg r al  esti m ate  o f   Sh an n o n   en tr o p y   u s in g   k er n el  esti m atio n   o f   PDF   an d   in v esti g ated   th at  in teg r al  ap p r o x i m atio n   b ec o m es  co m p licated   in   m a n y   ca s es o f   s tu d y .     −   Re - s u b s titu tio n   esti m ates:  th e  ex p ec tatio n   o p er ato r   h as  b ee n   ap p r o x im ated   in   th e  en t r o p y   ex p r ess io n   with   th e  s am p le  m ea n .   I n   1 9 7 6 ,   Ah m ad   an d   L in   [ 1 0 ]   p r o p o s ed   an   esti m ate  f o r   Sh an n o n   en tr o p y   u s in g   a  k er n el   an d   in v esti g ated   t h e  m ea n - s q u ar e  co n s is ten cy   o f   th e  p r o p o s ed   esti m ate.   I n   m u ltiv a r iate  s itu atio n s ,   J o e  [ 1 2 ]   d is cu s s ed   th e  r e - s u b s titu tio n   esti m ate  o f   Sh an n o n   en t r o p y   with   k er n el  PDF   an d   o b tain ed   th at  th e  n u m b er   o f   s am p les  ar e  in cr ea s in g   with   th e  d im e n s io n ality   o f   th e  d ata.   I n   elec tr ical  en g in e er in g   p r o b lem s ,   en tr o p y   esti m ates  ca n   b e   o b t ain ed   u s in g   s p ec tr al  esti m atio n   b ased   o n   p o ly n o m ial  ty p e  PDF   [ 1 3 ] .   Sti ll,  f r o m   th e  liter atu r e,   it  is   r ev ea led   th at  r e - s u b s titu tio n   esti m ates  ar e  u s ed   to   esti m ate   S h an n o n   en tr o p y .   Kap u r ' s   en tr o p y   o f   o r d er     an d   ty p e    is   also   p ar t  o f   th e  r e - s u b s titu tio n   class .   Dep en d in g   o n   th e  k in d   o f   ap p licatio n ,   r esear ch er s   cu s to m ize  en tr o p y   esti m atio n   ac co r d in g   to   t h e  r eq u ir em en t  o f   th e  alg o r ith m .     −   Sp illi n g   d ata  esti m ate  is   s im ilar   to   r e - s u b s titu tio n   esti m ate  b u t  h as  a  d if f er e n t  m eth o d o lo g y .   I n   th is   esti m atio n ,   a  d ata  s am p le  is   f r ag m en ted   in to   two   p ar ts ;  th e  f ir s t  p ar t  is   u tili ze d   f o r   d en s ity   esti m atio n ,   an d   th e  o th er   p ar t is u s ed   f o r   s am p le  m ea n   [ 1 4 ] – [ 1 6 ] .   −   C r o s s - v alid atio n   esti m ate  is   th e  g en er aliza tio n   o f   r e - s u b s titu tio n   esti m ate  b ased   o n   th e  p r i n cip le  o f   leav e - one - o u t.  T h e  esti m ate  is   o b tai n ed   b y   ta k in g   th e  m ea n   o f   t h e   leav e - o n e - o u t  r e - s u b s titu tio n   esti m ates  o f   th e  g iv en   d ata  s et.   I v an o v   an d   R o zh k o v a   [ 1 7 ]   p r o p o s ed   a  cr o s s - v alid atio n   en tr o p y   esti m at o r   f o r   Sh a n n o n   en tr o p y   u s in g   k e r n el  PDF .         3.   USE F U L   E ST I M A T E S   A  s am p le  o f   o b s er v atio n s   d r a wn   f r o m   th e   g iv en   d is tr ib u tio n .   Plu g - in   esti m ate  is   a  f ea tu r e  th at  ca n   b e   ap p r o x im ated   b y   th e  s am e  f ea tu r e  o f   th e  em p ir ical  d is tr ib u ti o n .   Oth er   th an   p l u g - in   esti m ates,  m o r e  esti m ates   h av e  b ee n   d is cu s s ed   in   th e  lite r atu r e,   p r o p o s ed   b y   v ar io u s   r e s ea r ch er s   u n d er   d if f e r en t sit u atio n s .     3 . 1 .     E s t im a t es ba s ed  o n sa m ple sp a cing   B ased   o n   s am p le  d if f er en ce s ,   a  d en s ity   esti m ate  is   co n s tr u cted .   I n   u n iv ar iate  ca s es,  PDF   ca n   b e  esti m ated   b y   o r d e r in g   th e  s a m p les  f r o m   th e   s m allest  to   th e  lar g est  an d   s ep ar atin g   t h e  s am p les  b y   d ef i n in g     m - s p ac in g   b etwe en   t h e  s am p les  an d   th en   s u b s titu tin g   th e   PDF   esti m ate  in   th e  en tr o p y   ex p r ess io n   ( lik e     re - s u b s titu tio n   esti m ates) .   H o wev er ,   th ese  d en s ity   esti m ates  n ee d   to   b e  m o r e  c o n s is ten t,  an d   th eir   g en er aliza tio n   in   m u ltiv ar iate  ca s es is   n o t tr iv ial  [ 1 8 ] – [ 2 0 ] .     3 . 2 .     E s t im a t es ba s ed  o n nea re s t   neig hb o r  dis t a nces    I n   n o n - p ar am et r ic  s tatis tic s ,   n ea r est  n eig h b o r   m eth o d s   ar e   co n s id er ed   a  class ical  ap p r o ac h .   I n   th e   m u ltiv ar iate  ca s es,  th e   d en s ity   esti m ate  is   co n s tr u cte d   as  t h e   s am p le  m ea n   o f   th e   lo g ar ith m   o f   th e   n o r m alize d   n ea r est  n eig h b o r   d is tan ce s   w ith   a  co n s tan t.  I n   [ 2 1 ] – [ 2 3 ] ,   th e  p r o p o s ed   n ea r est  n eig h b o r   esti m ates  h av e  v ar io u s   f o r m s   o f   c o n s is ten cy   u n d er   ce r tain   co n d itio n s .     3 . 3 .     E ntr o py   estima t io n f o r  lea rning   T h e  liter atu r e  s h o ws  th at  th e  Sh an n o n   m ea s u r e  o f   e n tr o p y   d r ew  a  lo t  o f   atten tio n   f r o m   r esear ch er s   to   p r o p o s e  alg o r ith m s   f o r   v ar io u s   lear n in g   s y s tem s .   E s tim at in g   Sh an n o n ’ s   en tr o p y   h as  ap p lied   to   R en y i’ s   en tr o p y ,   a  g en e r aliza tio n   o f   Sh an n o n ' s   en tr o p y .   T h is   wo r k   p r o p o s es  s im p le  en tr o p y   esti m ato r s   f o r   tr ain in g   lear n in g   s y s tem s   u s in g   Kap u r   en tr o p y   o f   o r d e r     an d   ty p e    th at  ar e  co n tin u o u s   an d   d if f e r en tia b le  in   ter m s   o f   s am p les.  T h e  m ain   o b jectiv e  o f   th e  wo r k   is   to   u n d er s tan d   th e   m ath em atics b eh in d   t h e  co n c ep t.       4.   P RE L I M I NAR I E S   T h e  ter m s   lik e  e n tr o p y   an d   t h e  m ea s u r es  o f   en tr o p y   ar e  n o t  co v er ed   as  t h ese  wer e  d i s cu s s ed   b y   m an y   r esear ch e r s .   So m e  o f   th e  r eq u ir e d   p r elim in a r ies ar e  d e f in ed   as   f o llo ws.     4 . 1 .   Wind o w  f un ct io n   Fo r   a  h y p er cu b e   o f   u n it len g t h   1   ce n ter ed   at  o r ig i n ,   th e  win d o w  f u n ctio n   is   d ef in ed   as :     ( ) = { 1 ,   | | ≤ 1 2 0 ,    ℎ  } ; ( = 1 , 2 , . . . . , )     T h e  g en er aliza tio n   o f   th e  win d o w  f u n ctio n   is   g iv en   b y   Hass an   et  a l.   [ 2 4 ] ,   k n o wn   as  th e  Par ze n   W in d o w ,   a   tech n iq u e  to   esti m ate  d en s ity   f u n ctio n .   T h is   is   a  n o n - p ar am et r ic  d en s ity   esti m atio n   tech n iq u e,   d ef in e d   as   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   1 4 ,   No .   5 ,  Octo b e r   2 0 2 4 :   6 0 1 6 - 6 0 2 2   6018   ( ) = 1 ∑ 1 ℎ   ( − ℎ ) = 1    ℎ   ( − ℎ ) =     wh er e  ,   ℎ ,     a n d  ( )   ar e   th e  n u m b er s   o f   ele m en ts ,   d im en s io n ,   win d o w  f u n ctio n ,   an d   p r o b ab ilit y   d en s ity   o f   .   W in d o w  wid th   an d   k e r n e l  ar e  th e  two   cr itical  p ar am et er s   o f   P ar ze n   W in d o w .   L et  { 1 , . . . . , }   b e  th e  s am p les    d r awn   f r o m   th e  r a n d o m   v ar ia b le.   T h ese  s am p les  ar e  in d ep e n d en t  a n d   i d en tically   d is tr ib u ted   ( i.i. d ) .   T h e  k er n el  f u n ctio n   ( ar b itra r y )   ( . )   esti m ate  o f   th e  PDF   is   g iv en   b y   Par ze n   [ 2 5 ]   an d   is   d e f in ed   as:     ̂ ( )   = 1 ∑ ( − ) = 1       4 . 2 .   K er nel  dens it y   estim a t o r   I n   th e  esti m atio n   o f   p r o b a b ilit y   d is tr ib u tio n ,   k e r n el  d en s ity   esti m ato r   is   u s ed   wh en   th er e  ar e  m o r e   d ata  p o i n ts   in   a   s am p le  ar o u n d   a  l o ca tio n ,   th e  lik elih o o d   o f   o cc u r r en ce   f o r   an   o b s er v atio n   is   h i g h er   at  th a t   lo ca tio n .   Fo r   s m o o th i n g   p ar a m eter   ℎ   an d   n o n - ze r o   k er n el  f u n ctio n   ,   th e   g en er al   ex p r ess io n   o f   k er n el   d en s ity   esti m ato r   is   d ef in ed   as:       ℎ ̂ ( ) = 1 ∑ ℎ ( − )   =   = 1 1 ∑ ( − ℎ ) = 1     4 . 3 .     K a pu r’ s   M ea s ure  o f   ent ro py   T h e   c o n t i n u o u s   a n d   d i f f e r e n t i ab l e   f o r m   o f   K a p u r   e n t r o p y   o f   o r d e r     a n d   t y p e     i s   g i v e n   a s   K a p u r   [ 2 6 ] :     , ( ) = 1 −      ( ∑ = 1 ( ∑ = 1 ) ) ;   ℎ    ∑ = 1 ≤ 1 ;   ≠ ;   , > 0   ( 1 )     Kap u r   en tr o p y   with   e x p ec tatio n   o p er at o r   is   wr itten   as,      , ( ) = 1 −      ( ∫ ( )    ∞ − ∞ ∫ ( )    ∞ − ∞ ) = 1 −      ( [ − 1 ( ) ] [ − 1 ( ) ] )     E n tr o p y   ap p r o x im atio n   with   s am p le  m ea n   is   wr itten   as ,     , ( ) = 1 −    1   ( ∑ − 1 ( ) = 1 ∑ − 1 ( ) = 1 )     Usi n g   Par ze n   W in d o w   esti m ato r ,   th e  n o n - p ar am etr ic  esti m at o r   o f   Ka p u r   e n tr o p y   ( 1 )   is   g iv e n   as ,     , ( ) = 1 −    1   ( ( ∑ 1 ∑ ( − ) = 1 = 1 ) − 1 ( ∑ 1 ∑ ( − ) = 1 = 1 ) − 1 )       5.   M AIN R E S UL T S   T h e  p r o p o s ed   non - p ar am etr ic  en tr o p y   ( 1 )   is   g en er al.   T h er ef o r e,   it  ca n   esti m ate  en tr o p y   o n   a  lear n in g   s y s tem   th at  em p lo y s   a   p er f o r m an ce   in d e x   to   ap p r o x im ately   d ef in e d   weig h ts .   T h e  r esu lts   ar e  p r esen ted   in   t h e   f o r m   o f   th eo r em s   an d   p r o p er ti es f o r   th e  p r o p o s ed   en tr o p y   es tim atio n   ( 1 )   a n d   ar e   d is cu s s ed   as   f o llo ws.     5 . 1 .     T heo re m   5 . 1   Giv en   th at  f o r   c o n s is ten t   P ar ze n   W in d o w in g   an d   s am p le  m e an ,   Kap u r   e n tr o p y   o f   o r d er     an d   ty p e     en tr o p y   esti m ato r   ( 1 )   is   co n s is ten t f o r   th e   p r o b ab ilit y   d e n s ity   f u n ctio n   o f   lin ea r ly   in d e p en d en t sam p les.   P r o o f :   A c c o r d i n g   t o   P a r z e n   [ 2 5 ] ,   i n   t h e   e s t i m a t i o n   o f   t h e   P D F ,   t h e   s a m p l e   m e a n   c o n v e r g e s   t o   t h e   p o p u l a t i o n   m e a n ,   w h i c h   is   t h e   d i r e ct   i m p l ic a t i o n   o f   t h e   c o n s is te n t   P a r ze n   W i n d o w   es t i m a t o r   ( 1 ) .     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8       E s tima tio n   o f  k ern el  d en s ity  fu n ctio n   u s in g   K a p u r   en tr o p y   ( L ee n a   C h a w la )   6019   5 . 2 .     P ro pert y   5 . 2   E n tr o p y   esti m ato r   ( 1 )   u s in g   P ar ze n   W in d o w in g   an d   m ea n   ap p r o x im atio n   is   th e  lim itin g   ca s e  o f   Sh an n o n   e n tr o p y   f o r   ( , → 1 )   b o th   in   c o n tin u o u s   an d   d is cr ete  ca s e.     Pro o f :  I t  s h o u ld   b e  n o ted   th at  Kap u r   en tr o p y   o f   o r d er     an d   ty p e    ( 1 )   is   d is co n tin u o u s   at  = .  Fo r     ( , → 1 ) ,   s h an n o n   m ea s u r e  o f   en tr o p y   is   o b tain ed .     I n   co n tin u o u s   ca s e:     , ( ) = 1 −  [ ∫ ( )    ∫ ( )    ]   =  → 1 → 1 { 1 − [  ( ∫ ( )    ∫ ( )    ) ] }   =   − ∫ ( )    ( )      −   ∫ ( )    ( )      = 2 ( )     I n   d is cr ete  ca s e:      → 1 → 1 ̂ , ( ) =  → 1 → 1 1 −  [ 1 ∑ ( 1 ∑ ( − ) ) − 1 1 ∑ ( 1 ∑ ( − ) ) − 1 ]   =  → 1 − 1 ∑  ( 1 ∑ ( − ) ) −  → 1 1 ∑  ( 1 ∑ ( − ) )     =     − 2   ̂ ( )     T h er ef o r e,   it is   p r o v ed   th at  th e   p r o p o s e d   en tr o p y   m ea s u r e  ( 1 )   ap p r o ac h es   Sh an n o n   en tr o p y .     5 . 3 .   P r o pert y   5 . 3   Scalin g   p r o p e r ty   o f   e n tr o p y   e s tim ato r   ( 1 ) .   L et  { 1 , . . . . , }   b e  th e  s am p les  o f   r an d o m   v ar ia b le  ,  esti m ated   with   k er n el   s ize  .   T o   esti m ate  s am p les  { 1 , . . . . , }   o f   a  r an d o m   v ar iab le    ,   th e  s ize  o f   th e   k er n el  will   b e  s ca led   to   | | ,  i.e . ,   n ew  k er n el  s ize  is   | | .    Pro o f : Co n s id er   th at  f o r   a  r an d o m   v ar iab le    ,   th e  PDF   is   ( / ) / | |   I n   co n tin u o u s   ca s e:     , ( ) = 1 −  [ ∫ ( )    ∫ ( )    ]   =   1 − [  ∫ 1 | | ( )    ∞ − ∞ −  ∫ 1 | | ( )    ∞ − ∞ ]   = 1 − [ ( 1 − ) ( ) − ( 1 − ) ( ) ] +  | |   ⇒ , (  ) = { ( )   +    | | ,         = 1 ( )   +    | | ,       = 1 }     I n   d is cr ete  ca s e:     ̂ , (  ) = 1 − [            1 ∑ ( ∑ | | ( − ) ) − 1 −    1 ∑ ( ∑ | | ( − ) ) − 1 ]             = 1 − [ ( 1 − ) ̂ ( ) − ( 1 − ) ̂ ( ) + ( − )  | | ]   ⇒ ̂ , (  ) = { ̂ ( )   +    | | ,         = 1 ̂ ( )   +    | | ,         = 1 }   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   1 4 ,   No .   5 ,  Octo b e r   2 0 2 4 :   6 0 1 6 - 6 0 2 2   6020   I t is co n clu d ed   th at  th e  k e r n el  s ize  af f ec ts   th e  wid th   o f   th e  k e r n el  f u n ctio n   lin ea r ly .   R em ar k s : T h e  p r o p er ty   ( 5 . 3 )   h as a p p licatio n s   wh en   th e  en tr o p y   co s t f u n ctio n   is   n ea r   th e  g lo b al  ex tr em u m   an d   is   o b tain ed   b y   s ca lin g   th e  en tr o p y   co s t f u n ctio n .     5 . 4 .   T heo re m   5 . 4   Acc o r d in g   to   C h awla   [ 2 7 ] ,   f o r   eq u al  s am p les,  1 = 2 = . . . . = =   ( s a y )   with   m ax im u m   v alu e  o f   k er n el   ( 0 ) ,   th e  p r o p o s ed   en tr o p y   esti m ato r   ( 1 )   is   m in im u m .   Pro o f :  Sin ce ,   1 = 2 = . . . . = =   ( s a y ) ,   th e  en tr o p y   est im ato r   ( 1 )   o b tain e d   th e  v al u e  −  ( 0 ) .  W e   h av e  to   s h o w  t h at     1 − [  1 ∑ ( ∑ ( − ) ) − 1 −      1 ∑ ( ∑ ( − ) ) − 1 ]   ≥   −  ( 0 )   ⇒ { 1 ∑ ( ∑ ( − ) ) − 1 1 ∑ ( ∑ ( − ) ) − 1 }   ≤     − ( 0 )   ⇒ ∑ ( ∑ ( − ) ) − 1 ∑ ( ∑ ( − ) ) − 1     ≤     − − ( 0 )     r ep lacin g   with   th e  u p p e r   b o u n d s     = ∑ ( ∑ ( − ) ) − 1 ∑ ( ∑ ( − ) ) − 1         ≤        ( ∑ ( − ) ) − 1  ( ∑ ( − ) ) − 1   ≤  ( − 1  [ − 1 ( − ) ] )  ( − 1  [ − 1 ( − ) ] )   = −  , − ( − )     = − − ( 0 )     I t  is   ev id e n t  th at   en tr o p y   co s t  f u n ctio n   r ea ch es  its   g l o b al  m in im u m ,   w h en   all  th e   er r o r   s a m p les  ar e  ze r o   an d   u s ed   to   tr ain   k er n els in   s u p e r v is ed   lear n in g .     5 . 5 .   P r o pert y   5 . 5   Fo r   jo in t  en tr o p y   esti m atio n   o f   a  r an d o m   v a r iab le,   all  o r th o n o r m al  m atr ices  ,   s atis f ies  th e  co n d itio n   ∑ ( ) = ∑ ( − 1 ) ,   th e  p r o p o s ed   e n tr o p y   esti m a to r   ( 1 )   is   in v ar ian t  u n d e r   r o tat io n   with   ∑ ( )   as  th e  m u lti - d im en s io n al  k er n el  f u n ctio n .   Pro o f :  Fo r   n - d im en s io n al   r a n d o m   v ec to r s     an d   ,  ∃   =    in   wh ic h   [ ]   ×     r ea l  o r th o n o r m al  m atr ix .     I n   co n tin u o u s   ca s e:     , ( ) = 1 −  [ ∫ ( )   ∫ ( )   ]   = 1 − [  ∫ 1 | | ( − 1 )     ∞ − ∞ −    ∫ 1 | | ( − 1 )   ∞ − ∞ ]   = 1 − [  | | 1 − ∫ ( )      ∞ − ∞ −    | | 1 − ∫ ( )    ∞ − ∞ ]   = 1 − [ ( 1 − ) ( ) − ( 1 − ) ( ) + ( − )  | | ]     , ( ) = { ( )   +    | | ,         = 1 ( )   +    | | ,         = 1 }     I n   d is cr ete  ca s e:    Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8       E s tima tio n   o f  k ern el  d en s ity  fu n ctio n   u s in g   K a p u r   en tr o p y   ( L ee n a   C h a w la )   6021   ̂ , ( ) = 1 −  [ 1 ∑ ( ∑ ∑ ( − ) ) − 1 1 ∑ ( ∑ ∑ ( − ) ) − 1 ]   = 1 − [  1 ∑ ( ∑ 1 | | ∑ ( − 1 ( − ) ) ) − 1 −    1 ∑ ( ∑ 1 | | ∑ ( − 1 ( − ) ) ) − 1 ]   = 1 − [  | | − 1 1 ∑ ( ∑ ∑ ( − ) ) − 1 −    | | − 1 1 ∑ ( ∑ ∑ ( − ) ) − 1 ]   = 1 − [ ( 1 − ) ̂ ( )   −   ( 1 − ) ̂ ( ) ]   ̂ , ( ) = { ̂ ( ) ,         = 1 ̂ ( ) ,         = 1 }       6 .     CO NCLU SI O N   I n   th is   wo r k ,   g en er al  p r o p er ties   o f   th e  en tr o p y   esti m ato r   ( 1 )   th at  h av e  ap p licatio n s   in   lear n in g   s y s tem s   h av e  b ee n   ad d r ess ed .   T h e   r esu lts   wer e  o b tain ed   in   m ath em atica l  v alid atio n s ,   wh ich   ca n   b e   s ee n   in   th eo r em s   5 . 1   an d   5 . 4 ,   an d   p r o p er ties   5 . 2 ,   5 . 3 ,   5 . 5   u n d e r   ce r tain   co n d itio n s   f o r   c h o o s in g   t h e  k er n el   f u n ctio n .   T h e  p r o p o s ed   e n tr o p y   esti m ato r   co u l d   b e  th e   n ec ess ar y   b u ild in g   b l o ck   to   tr ai n   s u p er v is ed   lear n in g   s y s tem s .       RE F E R E NC E S   [ 1 ]   T.   M .   C o v e r ,   E l e m e n t s  o f   i n f o rm a t i o n   t h e o ry .   Jo h n   W i l e y   & S o n s ,   1 9 9 9 .   [ 2 ]   S .   H a y k i n ,   U n su p e r v i s e d   a d a p t i v e   f i l t e ri n g .   W i l e y - I n t e r sc i e n c e ,   2 0 0 0 .   [ 3 ]   C .   E .   S h a n n o n   a n d   W .   W e a v e r ,   T h e   m a t h e m a t i c a l   t h e o ry   o f   c o m m u n i c a t i o n .   U r b a n a ,   1 9 6 4 .   [ 4 ]   R .   D u r b i n ,   S .   R .   E d d y ,   A .   K r o g h ,   a n d   G .   M i t c h i s o n ,   Bi o l o g i c a l   se q u e n c e   a n a l y s i s .   C a mb r i d g e   U n i v e r si t y   P r e ss,  1 9 9 8 ,   d o i :   1 0 . 1 0 1 7 / C B O 9 7 8 0 5 1 1 7 9 0 4 9 2 .   [ 5 ]   C .   B e c k   a n d   F .   S c h ö g l ,   T h e r m o d y n a m i c s   o f   c h a o t i c   s y s t e m s .   C a m b r i d g e   U n i v e r s i t y   P r e s s ,   1 9 9 3 ,   d o i :   1 0 . 1 0 1 7 / C B O 9 7 8 0 5 1 1 5 2 4 5 8 5 .   [ 6 ]   A .   V   L a z o   a n d   P .   R a t h i e ,   “ O n   t h e   e n t r o p y   o f   c o n t i n u o u s  p r o b a b i l i t y   d i s t r i b u t i o n s   ( C o r r e sp . ) , ”   I EEE   T ra n s a c t i o n s  o n   I n f o rm a t i o n   T h e o ry ,   v o l .   2 4 ,   n o .   1 ,   p p .   1 2 0 – 1 2 2 ,   J a n .   1 9 7 8 ,   d o i :   1 0 . 1 1 0 9 / TI T. 1 9 7 8 . 1 0 5 5 8 3 2 .   [ 7 ]   N .   A .   A h m e d   a n d   D .   V   G o k h a l e ,   “ E n t r o p y   e x p r e ss i o n s   a n d   t h e i r   e st i ma t o r s  f o r   mu l t i v a r i a t e   d i st r i b u t i o n s , ”   I E EE  T ra n s a c t i o n s  o n   I n f o rm a t i o n   T h e o r y ,   v o l .   3 5 ,   n o .   3 ,   p p .   6 8 8 – 6 9 2 ,   M a y   1 9 8 9 ,   d o i :   1 0 . 1 1 0 9 / 1 8 . 3 0 9 9 6 .   [ 8 ]   E.   J .   W e g m a n   a n d   H .   I .   D a v i e s,   “ R e mark s   o n   so m e   r e c u r si v e   e s t i m a t o r s  o f   a   p r o b a b i l i t y   d e n s i t y , ”   T h e   A n n a l s   o f   S t a t i st i c s ,   v o l .   7 ,   n o .   2 ,   p p .   3 1 6 – 3 2 7 ,   1 9 7 9 .   [ 9 ]   J.  B e i r l a n t ,   E.   J .   D u d e w i c z ,   L .   G y ö r f i ,   a n d   E .   C .   V a n   d e r   M e u l e n ,   “ N o n p a r a met r i c   e n t r o p y   e st i ma t i o n :   a n   o v e r v i e w , ”   I n t e r n a t i o n a l   J o u rn a l   o f   M a t h e m a t i c a l   a n d   S t a t i st i c a l   S c i e n c e s ,   v o l .   6 ,   n o .   1 ,   p p .   1 7 – 3 9 ,   1 9 9 7 .   [ 1 0 ]   I .   A h mad   a n d   P i - Er h   Li n ,   “ A   n o n p a r a met r i c   e st i ma t i o n   o f   t h e   e n t r o p y   f o r   a b s o l u t e l y   c o n t i n u o u s  d i s t r i b u t i o n s  ( C o r r e s p . ) , ”   I EE E   T ra n s a c t i o n s  o n   I n f o rm a t i o n   T h e o r y ,   v o l .   2 2 ,   n o .   3 ,   p p .   3 7 2 – 3 7 5 ,   M a y   1 9 7 6 ,   d o i :   1 0 . 1 1 0 9 / TI T. 1 9 7 6 . 1 0 5 5 5 5 0 .   [ 1 1 ]   Y .   G .   D m i t r i e v   a n d   F .   P .   T a r a se n k o ,   “ O n   t h e   e st i ma t i o n   o f   f u n c t i o n a l s   o f   t h e   p r o b a b i l i t y   d e n s i t y   a n d   i t s  d e r i v a t i v e s, ”   T h e o r y   o f   Pro b a b i l i t y   & Its   A p p l i c a t i o n s ,   v o l .   1 8 ,   n o .   3 ,   p p .   6 2 8 – 6 3 3 ,   J u n .   1 9 7 4 ,   d o i :   1 0 . 1 1 3 7 / 1 1 1 8 0 8 3 .   [ 1 2 ]   H .   Jo e ,   “ Es t i m a t i o n   o f   e n t r o p y   a n d   o t h e r   f u n c t i o n a l s  o f   a   m u l t i v a r i a t e   d e n s i t y , ”   An n a l s  o f   t h e   I n st i t u t e   o f   S t a t i st i c a l   M a t h e m a t i c s ,  v o l .   4 1 ,   n o .   4 ,   p p .   6 8 3 – 6 9 7 ,   D e c .   1 9 8 9 ,   d o i :   1 0 . 1 0 0 7 / B F 0 0 0 5 7 7 3 5 .   [ 1 3 ]   J. - F .   B e r c h e r   a n d   C .   V i g n a t ,   “ Est i m a t i n g   t h e   e n t r o p y   o f   a   s i g n a l   w i t h   a p p l i c a t i o n s, ”   I EEE   T ra n s a c t i o n s  o n   S i g n a l   Pr o c e ssi n g ,    v o l .   4 8 ,   n o .   6 ,   p p .   1 6 8 7 – 1 6 9 4 ,   J u n .   2 0 0 0 ,   d o i :   1 0 . 1 1 0 9 / 7 8 . 8 4 5 9 2 6 .   [ 1 4 ]   L.   G y ö r f i   a n d   E .   C .   v a n   d e r   M e u l e n ,   “ D e n s i t y - f r e e   c o n v e r g e n c e   p r o p e r t i e s   o f   v a r i o u s   e s t i mat o r s   o f   e n t r o p y , ”   C o m p u t a t i o n a l   S t a t i st i c s   & D a t a   A n a l y si s ,   v o l .   5 ,   n o .   4 ,   p p .   4 2 5 – 4 3 6 ,   S e p .   1 9 8 7 ,   d o i :   1 0 . 1 0 1 6 / 0 1 6 7 - 9 4 7 3 ( 8 7 ) 9 0 0 6 5 - X.   [ 1 5 ]   L.   G y ö r f i   a n d   E.   C .   M e u l e n ,   “ O n   t h e   n o n p a r a met r i c   e s t i m a t i o n   o f   t h e   e n t r o p y   f u n c t i o n a l , ”   i n   N o n p a ra m e t ri c   Fu n c t i o n a l   Est i m a t i o n   a n d   Re l a t e d   T o p i c s ,   D o r d r e c h t :   S p r i n g e r   N e t h e r l a n d s ,   1 9 9 1 ,   p p .   8 1 – 95 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 94 - 0 1 1 - 3 2 2 2 - 0 _ 6 .   [ 1 6 ]   L.   G y ö r f i   a n d   E .   C .   v a n   d e r   M e u l e n ,   “ A n   e n t r o p y   e st i ma t e   b a se d   o n   a   K e r n e l   d e n si t y   e s t i m a t i o n , ”   L i m i t   T h e o re m s  i n   Pr o b a b i l i t y   a n d   S t a t i s t i c s ,   p p .   2 2 9 – 2 4 0 ,   1 9 8 9 .   [ 1 7 ]   A .   V   I v a n o v   a n d   M .   N .   R o z h k o v a ,   “ P r o p e r t i e s  o f   t h e   s t a t i s t i c a l   e s t i m a t e   o f   t h e   e n t r o p y   o f   a   r a n d o m  v e c t o r   w i t h   a   p r o b a b i l i t y   d e n si t y , ”   Pro b .   I n f o .   T r a n s . ,   v o l .   1 7 ,   n o .   3 ,   p p .   1 7 1 – 1 7 7 ,   1 9 8 2 .   [ 1 8 ]   J.  B e i r l a n t   a n d   M .   C .   A .   v a n   Zu i j l e n ,   “ T h e   e mp i r i c a l   d i st r i b u t i o n   f u n c t i o n   a n d   s t r o n g   l a w s  f o r   f u n c t i o n s  o f   o r d e r   st a t i s t i c s  o f   u n i f o r m   sp a c i n g s, ”   J o u rn a l   o f   M u l t i v a ri a t e   A n a l y si s ,   v o l .   1 6 ,   n o .   3 ,   p p .   3 0 0 – 3 1 7 ,   J u n .   1 9 8 5 ,   d o i :   1 0 . 1 0 1 6 / 0 0 4 7 - 2 5 9 X ( 8 5 ) 9 0 0 2 3 - 5.   [ 1 9 ]   P .   H a l l ,   “ L i m i t   t h e o r e ms   f o r   s u ms   o f   g e n e r a l   f u n c t i o n s  o f   m - s p a c i n g s, ”   i n   M a t h e m a t i c a l   Pr o c e e d i n g s  o f   t h e   C a m b r i d g e   Ph i l o so p h i c a l   S o c i e t y ,   N o v .   1 9 8 4 ,   v o l .   9 6 ,   n o .   3 ,   p p .   5 1 7 – 532 ,   d o i :   1 0 . 1 0 1 7 / S 0 3 0 5 0 0 4 1 0 0 0 6 2 4 5 9 .   [ 2 0 ]   F .   P .   Ta r a s e n k o ,   “ O n   t h e   e v a l u a t i o n   o f   a n   u n k n o w n   p r o b a b i l i t y   d e n s i t y   f u n c t i o n ,   t h e   d i r e c t   e s t i m a t i o n   o f   t h e   e n t r o p y   f r o m   i n d e p e n d e n t   o b ser v a t i o n s  o f   a   c o n t i n u o u s   r a n d o m  v a r i a b l e ,   a n d   t h e   d i st r i b u t i o n - f r e e   e n t r o p y   t e s t   o f   g o o d n e ss - of - f i t , ”   i n   Pro c e e d i n g s  o f   t h e   I E EE ,   1 9 6 8 ,   v o l .   5 6 ,   n o .   1 1 ,   p p .   2 0 5 2 – 2 0 5 3 ,   d o i :   1 0 . 1 1 0 9 / P R O C . 1 9 6 8 . 6 7 8 4 .   [ 2 1 ]   L.   F .   K o z a c h e n k o   a n d   N .   N .   Le o n e n k o ,   “ S a mp l e   e s t i m a t e   o f   t h e   e n t r o p y   o f   a   r a n d o m  v e c t o r , ”   Pr o b l e m y   Pe r e d a c h i   I n f o rm a t si i ,  v o l .   2 3 ,   n o .   2 ,   p p .   9 – 1 6 ,   1 9 8 7 .   [ 2 2 ]   A .   B .   Ts y b a k o v   a n d   E.   C .   V a n   d e r   M e u l e n ,   “ R o o t - n   c o n si s t e n t   e s t i m a t o r s  o f   e n t r o p y   f o r   d e n si t i e s  w i t h   u n b o u n d e d   s u p p o r t , ”   S c a n d i n a v i a n   J o u r n a l   o f   S t a t i st i c s ,   p p .   7 5 – 8 3 ,   1 9 9 6 .   [ 2 3 ]   P .   J.  B i c k e l   a n d   L.   B r e i ma n ,   “ S u ms o f   f u n c t i o n s  o f   n e a r e s t   n e i g h b o r   d i st a n c e s,  m o me n t   b o u n d s,  l i m i t   t h e o r e m s  a n d   a   g o o d n e ss o f   f i t   t e st , ”   T h e   A n n a l s  o f   Pro b a b i l i t y ,   p p .   1 8 5 – 2 1 4 ,   1 9 8 3 .   [ 2 4 ]   R .   U l   H a ssa n ,   J.   Y a n ,   a n d   Y .   Li u ,   “ S e c u r i t y   r i s k   a ss e ssm e n t   o f   w i n d   i n t e g r a t e d   p o w e r   sy st e m  u si n g   P a r z e n   w i n d o w   d e n s i t y   e st i mat i o n , ”   El e c t r i c a l   E n g i n e e r i n g ,   v o l .   1 0 4 ,   n o .   4 ,   p p .   1 9 9 7 – 2 0 0 8 ,   A u g .   2 0 2 2 ,   d o i :   1 0 . 1 0 0 7 / s 0 0 2 0 2 - 0 2 1 - 0 1 4 4 7 - 7.   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   1 4 ,   No .   5 ,  Octo b e r   2 0 2 4 :   6 0 1 6 - 6 0 2 2   6022   [ 2 5 ]   E.   P a r z e n ,   “ O n   e st i ma t i o n   o f   a   p r o b a b i l i t y   d e n s i t y   f u n c t i o n   a n d   m o d e , ”   T h e   a n n a l s  o f   m a t h e m a t i c a l   s t a t i s t i c s ,   v o l .   3 3 ,   n o .   3 ,     p p .   1 0 6 5 – 1 0 7 6 ,   1 9 6 2 .   [ 2 6 ]   J.  N .   K a p u r ,   “ G e n e r a l i z e d   e n t r o p y   o f   o r d e r   α   a n d   t y p e   β , ”   T h e   Ma t h .   S e m i n a r ,   v o l .   4 ,   p p .   7 8 – 8 2 ,   1 9 6 7 .   [ 2 7 ]   L.   C h a w l a ,   V .   K u m a r ,   a n d   A .   S a x e n a ,   “ K e r n e l   d e n s i t y   e st i mat i o n   o f   T sal l i ’ s  e n t r o p y   w i t h   a p p l i c a t i o n s  i n   a d a p t i v e   s y st e m   t r a i n i n g , ”   I AE S   I n t e r n a t i o n a l   J o u rn a l   o f   Art i f i c i a l   I n t e l l i g e n c e ,   v o l .   1 3 ,   n o .   2 ,   p p .   2 2 4 7 – 2 2 5 3 ,   J u n .   2 0 2 4 ,   d o i :   1 0 . 1 1 5 9 1 / i j a i . v 1 3 . i 2 . p p 2 2 4 7 - 2 2 5 3 .       B I O G RAP H I E S O F   AUTH O RS         Le e n a   Cha wla           is  a   re s e a rc h   sc h o lar  in   t h e   De p a rtme n t  o f  A p p li e d   S c ien c e s,   F a c u lt y   o f  E n g i n e e rin g   a n d   Tec h n o lo g y ,   M a n a v   Ra c h n a   In ter n a ti o n a l  I n stit u te  o f  Re se a rc h   a n d   S tu d ies ,   F a rid a b a d .   S h e   h a s  m o re   th a n   1 0   y e a rs  o f  tea c h i n g   e x p e rien c e   f o r  g ra d u a tes   a n d   p o stg ra d u a tes .   S h e   h a s  m o re   t h a n   4   re se a rc h   a rti c les   p u b li sh e d   in   jo u r n a ls.  S h e   wa s  a wa rd e d   h e r  M . P h il .   in   2 0 1 0   fro m   C h a u d h a ry   De v i  Lal  Un i v e rsity ,   S irsa ,   Ha ry a n a ,   In d ia.  S h e   c a n   b e   c o n tac ted   a t  lee n a b h a ra t1 4 @ g m a il . c o m .         Vija y   K u m a r           is  wo rk i n g   a s  a   p ro fe ss o r  o f  M a th e m a ti c s,  M a n a v   Ra c h n a   In tern a ti o n a l  I n stit u te  o f  Re se a rc h   a n d   S tu d ies ,   F a ri d a b a d   Ha ry a n a   IND IA.  His   re se a rc h   in tere sts  in c lu d e   d e c isi o n - m a k i n g   a n d   m a c h in e   lea rn in g .   He   h a s  a u th o re d   m o re   th a n   6 0   re se a rc h   p u b li c a ti o n s  i n c lu d in g   re se a rc h   p a p e rs,  c o n fe re n c e   p a p e rs,   a n d   c h a p ters   i n   b o o k s.  He   h a s  a u th o re d   3   b o o k s,  o u t  o f  wh ich   2   a re   re se a rc h   b o o k s.  He   g a v e   se v e ra l  in v it e d   talk s  on   e v e n ts   o f  n a ti o n a l  a n d   in tern a ti o n a l  re p u tati o n .   P ro f.   Vija y   K u m a r  se rv e s  a s  a n   e d it o r ial  b o a rd   m e m b e r  fo r  se v e ra l  in tern a ti o n a l/ n a ti o n a l  jo u rn a ls  a n d   a   re v iew e r  fo r   m a n y   n a ti o n a l   a n d   in tern a ti o n a l  j o u r n a ls.  He   c a n   b e   c o n tac ted   a t   d r v ij a y k u m a rsu d a n @g m a il . c o m .         Ar ti  S a x e n a           is  wo r k i n g   a s  a n   a ss o c iate   p ro fe ss o r   in   t h e   De p a r tme n t  o f   Ap p li e d   S c ien c e s,  F a c u lt y   o f  En g i n e e rin g   a n d   Tec h n o l o g y ,   M a n a v   Ra c h n a   In tern a ti o n a l  In stit u te  o f   Re se a rc h   a n d   S tu d ies ,   F a ri d a b a d ,   Ha ry a n a ,   In d ia.  S h e   h a s  m o re   t h a n   4 0   re se a rc h   a rti c les   in   v a rio u s   n a ti o n a l  a n d   in ter n a ti o n a l   jo u rn a ls  o f  re p u te  a n d   c o n fe re n c e   p ro c e e d in g s.  S h e   h a s  fi v e   re se a rc h   b o o k s  p u b li sh e d   in   h e r  a c c o u n t  a n d   n i n e   c h a p ters   i n   e d it e d   b o o k s.  S h e   g o t   a   y o u n g   sc ien ti st  a wa rd   a t  a n   in tern a ti o n a l   c o n fe re n c e   fo r   b e st   p a p e r  p re se n t a ti o n   in   2 0 0 7 .   He r  a re a s  o f   in tere st  a re   m a th e m a ti c a l  m o d e li n g ,   f ix e d   p o i n t  t h e o ry ,   a n d   m a c h in e   lea rn in g .   S h e   c a n   b e   c o n tac ted   a t  a rti sa x e n a . se t@m riu . e d u . i n .       Evaluation Warning : The document was created with Spire.PDF for Python.