I n d on e s ian   Jou r n al   o f   E lec t r ica l   E n gin e e r in g  a n d   Com p u t e r   S c ience   Vo l .   21 ,   N o .   3 ,  M a r c h   2021 ,   pp.   1513 ~ 1522   I S S N:  25 02 - 4752,   DO I :  10 . 11591/i j e e c s . v 21 .i 3 . pp 1513 - 1522             1513       Jou r n al  h o m e page :  ht tp: // ij e e c s . iaes c or e . c om   C om b i n in g  f e at u r e   s e le c t io n  an d   h y b r id   a p p r oac h   r e d e f in ition   in   h a n d l in g  c la ss  i m b al an c e  an d   o v e r la p p in g f or   m u lti - c la s s  i m b a la n c e d       Har t on o 1 ,   E r ian t o  On gk o 2 ,   Ye n i   Ris yan i 3   1 D e p art men t   o f  C o m p u t e r   S c i en ce ,   ST M IK   I BB I,   M e d a n ,   I n d o n e s i a   1 D e p art men t   o f  C o m p u t e r   S c i en ce ,   U n i v e rs i t as   Po t en s i   U t am a,   M ed an ,   I n d o n e s i a   2 D e p art men t   o f  In fo r m at i c s ,   A k a d em i   T e k n o l o g i   I n d u s t ri   Imm an u e l ,   M e d a n ,   In d o n e s i a   3 D e p art men t   o f  In fo r m at i o n   S y s t em s ,   ST M IK   I BB I,   M ed an ,   In d o n e s i a       Ar t ic l e   I n f o     AB S T RA CT     A r ti c le  h is tor y :   R e c e i ve d   Oc t   7 ,   2020   R e vi s e d  De c   10,   2020   A c c e pt e d  De c   26 ,   2020       I n   t h e   cl as s i fi c at i o n   p ro ce s s   t h at   co n t ai n s   cl as s   i m b al an ce   p ro b l em s .   In   ad d i t i o n   t o   t h e   u n ev e n   d i s t ri b u t i o n   o f  i n s t an ce s   w h i ch   c au s e s   p o o r  p e rfo r m an ce,   o v e r l ap p i n g   p ro b l em s   al s o   c au s e   p e rfo rm an ce   d e g ra d at i o n .   T h i s   p ap e r  p ro p o s e s   a  m e t h o d   t h at   c o m b i n i n g   f e at u r e   s e l ec t i o n   an d   h y b ri d   ap p ro ac h   r e d e fi n i t i o n   (H A R)  M e t h o d   i n   h an d l i n g   c l as s   i m b al an ce   an d   o v e rl ap p i n g   f o r  m u l t i - c l as s   i m b al an ced .   H A R   w as   a  h y b ri d   e n s em b l e s   me t h o d   i n   h an d l i n g   cl as s   i m b al an ce   p ro b l em .   T h e   m ai n   co n t ri b u t i o n   o f  t h i s   w o rk   i s   t o   p ro d u ce   a  n ew   me t h o d   t h at   c an   o v e r co me   t h e   p ro b l em   o f  cl as s   i m b al an ce   an d   o v e rl ap p i n g   i n   t h e   m u l t i - c l as s   i m b al an ce   p ro b l em .   T h i s   me t h o d   m u s t   b e   ab l e   t o   g i v e   b e t t e r  r e s u l t s   i n   t e r m s   o f  cl as s i fi e r  p e rfo r m a n ce  a n d   o v e rl ap   d e g r ee s   i n   m u l t i - c l as s   p ro b l em s .   T h i s   i s   ach i e v ed   b y   i m p ro v i n g   an   en s em b l e   l e ar n i n g   al g o r i t h m   an d   a  p re p ro ce s s i n g   t ech n i q u e   i n   H A R   u s i n g   mi n i m i zi n g   o v e rl ap p i n g   s e l ec t i o n   u n d e r  SMO T E   ( MO SS).   MO SS  w as   k n o w n   as   a  v e r y   p o p u l ar  f e at u r e   s e l ec t i o n   me t h o d   i n   h an d l i n g   o v e r l ap p i n g .  T o   v al i d at e   t h e   accu racy   o f  t h e   p ro p o s e d   me t h o d ,   t h i s   re s e ar c h   u s e s   au g me n t e d   R - V al u e ,   M e a n   A U C,   M e an   F - M e as u r e ,   Me an   G - M e an ,   an d   Me an   Pr e ci s i o n .   T h e   p e rfo r m a n ce   o f  t h e   mo d el   i s   ev al u at e d   a g ai n s t   t h e  h y b ri d   me t h o d   (MBP + CG E )  as   a   p o p u l ar  me t h o d   i n   h a n d l i n g   cl as s   i m b al an ce   an d   o v e rl ap p i n g   fo r   m u l t i - c l as s   i m b al an ce d .   I t   i s   fo u n d   t h at   t h e  p ro p o s e d   me t h o d   i s   s u p e r i o r   w h e n   s u b j ec t e d   t o   cl as s i fi e r  p e rfo r m a n ce   as   i n d i c at e  w i t h   b e t t e r   M e an   A U C ,   F - M e as u r e ,   G - M e an ,   an d   p reci s i o n .   K e y w o r d s :   C l a s s   im ba l a n c e   F e a t ur e   s e l e c t i o n   H y b r i d  a ppr o a c h   r e de f i ni t i o n   M u l t i - c l a s s   i m ba l a nc e d   Ov e r l a pp i ng   Th i s   i s   a n   o p en   a c ces s   a r t i c l e  u n d e r   t h e  CC  B Y - SA   l i cen s e.     C or r e s pon din g  A u th or :   E r i a n t o   On gko   De pa r t m e n t   o f   I nf o r m a t i c s   A ka de mi   T e k n o l o g i   I n du s t r i   I m m a n u e l   J a l a n   J e n de r a l   G a t ot  S ub r oto   N o m o r   325 ,   M e da n ,   I n do n e s i a   E m a i l :  e r i a n t oo n gko @ g m a il . c o m       1.   I NT RODU C T I ON     T h e   pr o bl e m   o f   c l a s s   i m ba l a n c e   i s   o n e   o f   t h e   i n t e r e s t i n g   pr o bl e m s   a n d   i s   i nc l ude d  i n  t h e   t o p  10  c h a ll e n g i ng  pr o bl e m s ,   e s pe c i a ll y   w h e n   we   d i s c us s   c l a s s i f i c a t i o n .   W h e r e ,   t hi s   pr o bl e m   c o m e s   f r o m   t h e   e xi s t e n c e   o f   o n e   c l a s s   w i t h   a   m uc h   hi g h e r   n u m b e r   o f   i ns t a n c e s   ( m a j o r i t y   c l a s s )   c o m pa r e d  t o   ot h e r   c l a s s e s   ( m i n o r i t y   c l a s s e s )   [ 1] .   M a j o r i t y   c l a s s e s   a r e   o f t e n  r e f e r r e d  to   a s   n e ga t i ve   c l a s s e s   a n d  mi n o r i t y   c l a s s e s   a r e   po s i t i v e   c l a s s e s .   T hi s   t e r m   a r i s e s   b e c a us e   t h e   mi n o r i t y   c l a s s   s o m e t i m e s   c o n t a i ns   i n f o r m a t i o n   t h a t   i s   im po r t a n t  to  o b s e r v e   e v e n   t h o ugh   i t   i s   o f t e n   o v e r l o o ke d  b e c a us e   t h e   c l a s s if i c a t i o n   r e s u l t s   t e n d  to   gi v e   poo r   a c c ur a c y   t o  Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2502 - 4752   I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i ,   Vo l .   21 ,   N o .   3 ,  M a r c h   2021 :    1513   -   1522   1514   c l a s s e s   w i t h   s m a ll e r   n u m be r   o f   i ns t a n c e s   [ 2] .   Ho we v e r ,   i n  a dd i t i o n   t o   t h e   c l a s s   im ba l a nc e   t h e r e   a r e   ot h e r   pr o bl e m s   t h a t   n e e d  a tt e n t i o n   due   t o   t h e   a c c ur a c y   o f   t h e   c l a s s i f i c a t i o n   pr o c e s s .   T he s e   pr o bl e m s   o f t e n   go   unn o t i c e d.   T h e   pr o bl e m   i s   o v e r l a pp i ng   [ 3] .   S ur e l y   t h e   pr o bl e m   o f   o v e r l a pp i ng  i s   n o t   a   n e w  pr o bl e m .   An   i ns t a nc e   o f   a   c l a s s   i s   s a i d  t o   b e   i n  t h e   o v e r l a pp i ng  a r e a   i f   t h e   v a l ue   o f   k  n e a r e s t   n e i g hb o r s   ( K NN ) ,   i s   t oo   c l o s e  to   a n ot h e r   c l a s s   ( gr e a t e r   t h a n   t h e   va l u e   o f   h   w hi c h   i s   o f t e n   a s s u m e d  t o   b e   k  /  2   [ 4] .   T hi s   pr o bl e m   c a n   de c r e a s e   a c c ur a c y   m o r e   i f   c o m p a r e d  to  t h e   i m ba l a n c e   c l a s s .     R e s e a r c h   o n   o v e r l a pp i ng  h a s   n o t   a tt r a c t e d  m uc h   a tt e n t i o n ,   c o m pa r e d  t o  t h e   c l a s s   im ba l a n c e   pr o bl e m   t h a t   h a s   c a ug h t   t h e   a tt e n t i o n   o f   m a ny   [ 5] .   W he n   t h e s e   t wo  pr o bl e m s   c o m bi ne ,   t h e   pr o bl e m   t h a t   will   o c c ur   b e c o m e s   m o r e   s e r i o us   a n d  w i ll   be c o m e   m o r e   d i f f icu l t   i f   t h e   pr o bl e m   o c c ur s   i n  a   m u l t i - c l a s s   d a t a s e t   [ 6] .   C l a s s   im ba l a n c e   a n d  o v e r l a pp i ng  pr o bl e m s   a r e   r e l a t i v e ly  e a s i e r   to   h a n d l e   i n  bi na r y   c l a s s   pr o bl e m s   a n d  w il l   b e   m o r e   d i f f i c u l t   t o   h a n d l e   i n  m u l t i - c l a s s   pr o bl e m s   [ 7]   S om e   r e s e a r c h e r s   c o ns i de r   t h a t   f e a t ur e   s e l e c t i o n   i s   t h e   b e s t   m e t h o d  i n   de a li ng  w i t h   o v e r l a pp i ng.     R e s e a r c h   c o n du c t e d  by   a   n u m be r   o f   r e s e a r c h e r s   i nde e d  s h o ws   t h a t   f e a t ur e   s e l e c t i o n   o f f e r s   m a ny  a dv a n t a ge s   i n  o v e r c o m i ng  c l a s s   im ba l a n c e   pr o bl e m s ,   e s pe c i a ll y   t h o s e   i nv o l v i ng  t h e   e li mi n a t i o n   o f   uni n f o r m a t i v e   pr e d i c t o r s ,   r e duc i n g  t h e   d im e ns i o ns   o f   f e a t ur e   s pa c e ,   a n d  m o s t   i m po r t a n t l y   f e a t ur e   s e l e c t i o n  c a n  a l s o   o v e r c o m e   c l a s s   im ba l a n c e   pr o bl e m s   [8 ,  9] .  T h e r e   a r e   a   n u m be r   o f   f e a t ur e   s e l e c t i o n   m e t h o ds   t h a t   c a n  b e   us e d  i n   o v e r c o m i ng  o v e r l a pp i ng  pr o bl e m s ,   i n c l ud i ng  s e l e c t i o n   u n de r   n o   s a m p l i ng   [ 10 ,  11]   a n d  s e l e c t i o n  un de r   S M OT E   [ 12] .   Ha s   pr o ps o s e d   t h e   m i n im i z i n g  o v e r l a pp i n g  s e l e c t i o n   un d e r   n o - s a m p li ng  ( M OS NS)   a n d  mi n im i z i ng  o v e r l a pp i ng  s e l e c t i o n   u n de r   S M OT E   ( M OSS )   m e t h o ds   i n   o v e r c o m i ng  t h e   o v e r l a pp i ng  pr o bl e m   a n d  b o t h   m e t h o ds   ha v e   r e l a t i ve ly   t h e   s a m e   pe r f o r m a n c e   [ 5,   13] .   H o we v e r ,   t h e   c l a s s   im ba l a n c e   pr o bl e m   c a nn o t   b e   o v e r c o m e   by   s im p ly   us i ng  t h e   f e a t ur e   s e l e c t i o n .   T h e   pr o c e s s   o f   pr e po c e s s i n g  i n   t h e   f o r m   o f   da t a   t r a i ni ng  r e s a m p li ng  i s   a bs o l ut e l y   n e c e s s a r y   [ 1 4] .   T h e   b e s t   m e t h o d  o f   h a n d li ng  im ba l a nc e   c l a s s e s   in  c o n d i t i o n s   t h a t   a l l o w  f o r   a   pr e pr o c e s s i n g  pr o c e s s   to   o v e r c o m e   t h e   we a k n e s s e s   o f   f e a t ur e   s e l e c t i o n   i s   t h e   hy br i d  e ns e m b l e s   m e t h o d   [ 15] .   I n   f a c t ,   a   n u m be r   o f   s t ud i e s   o n   h a n d li ng  i m ba l a nc e   c l a s s e s   a n d  o v e r l a pp i ng  bi na r y   c l a s s e s   a n d  m u l t i - c l a s s e s   h a v e   b e e n   c o n duc t e d  by   a   n u m be r   o f   r e s e a r c h e r s .   H a s   pr o po s e d  a   hy b r i d  m e t h o d  us i n g  a   m o d i f i e d  b a c k - pr o pa ga t i o n   a n d  ga b r i e l   gr a p h   e d i t i n g  ( GC E )   o n   t h e   c l a s s   im ba l a n c e   a n d  o v e r l a pp i ng  pr o b l e m s   f o r   m u l t i - c l a s s   pr o bl e m s   a n d  ge t   t h e   r e s u l t s   t h a t   t h e   m e t h o ds   t h e y   pr o po s e ,   ge t   g oo d   r e s u l t s ,   b ut   i f   a p p l i e d  t o  hi g hly   im ba l a nc e d  da t a s e t s ,   t h e   r e s u l t s   o b t a i n e d  a r e   s t i ll   n o t   g oo d   a n d  i f   c o up l e d  w i t h   t h e   a pp l i c a t i o n   o f   S M OT E ,   t h e   r e s u l t s   o b t a i n e d   c a n   be   b e t t e r   [ 16 ] .   R e s e a r c h   c o n duc t e d  by   a l s o   pr o vi de s   r e s u l t s   t ha t   S M OT E   s t i ll   pr o vi de s   t h e   b e s t   s o l ut i o n   [ 6] .   H a s   de f i ne d   t he   i m po r t a n c e   o f   t h e   s a m p l i ng  pr o c e s s   i n   t h e   pr e pr o c e s s i n g   s t a ge   by   us i ng  c l u s t e r i n g   b a s e d  u n de r   s a m p li ng   ( C L USB US)   [ 17] .  T h e   O v e r s a m p li ng  m e t h o d  by   u s i ng  S M OT E   h a s   a l s o   b e e n   us e d  by   [ 18]   i n   de a li ng  w i t h  c l a s s   i m ba l a n c e   a n d  o v e r l a pp i ng  pr o bl e m s .     I t   c a n   b e   s e e n   t h a t   m o s t   o f   t h e   r e s e a r c h   t ha t   de a l s   w i t h   c l a s s   im ba l a nc e   a n d  o v e r l a pp i ng  pr o bl e m s   is   i n  t h e   bi na r y   c l a s s   pr o bl e m   a n d  t h e r e   a r e   n o t   m a ny   s t ud i e s   t h a t   di s c us s   m u l t i - c l a s s   pr o bl e m s .   O n e   o f   t h e   s t udi e s   d i r e c t l y   r e l a t e d  to   m u l t i - c l a s s   pr o bl e m s   i s   t h e   r e s e a r c h   c o n duc t e d  by   [ 16]   t h e   m e t h o d  t h a t   t h e y   ha v e   pr o p o s e d  h a s   b e e n   a bl e   t o   o v e r c o m e   t h e   c l a s s   i mb a l a n c e   a n d  o v e r l a pp i ng  pr o bl e m s .   Ho we v e r ,   t h e   m e t h o d  t h e y   pr o po s e   i s   s t i ll   e x p e r i e nc i n g   l im i t a t i o n s   w h e n   vi e w e d  f r o m   t h e   pe r f o r m a nc e   c l a s s if i e r   e s pe c i a ll y   t h o s e   r e l a t i n g  t o  A UC   a n d  G - M e a n .   R e s e a r c h   c o n duc t e d  by   [ 16] ,   h a s   c o n t r i b ut e d  t h o ugh t   i n   t h e   f o r m   o f   t he   im po r t a n c e   o f   hy b r i d  m e t h o ds   t h a t   us e   t h e   f e a t ur e   s e l e c t i o n   pr o c e s s   a t  t h e   pr e pr o c e s s i ng  s t a ge .   T hi s   pa pe r   pr o po s e s   a   m e t h o d  t h a t   c o m bi ne s   f e a t ur e   s e l e c t i o n   a n d  hy br i d  a ppr o a c h   r e de f i ni t i o n  ( HA R )   M e t h o d  i n   h a n d li ng  c l a s s   im ba l a nc e   a n d  o v e r l a pp i ng  f o r   m u l t i - c l a s s   im ba l a nc e d.   H A R   i s   a   H y b r i d   E n s e m b l e s   m e t h o d  i n   de a li ng  w i t h   c l a s s   i m ba l a n c e d  pr o bl e m s ,   w h e r e   t hi s   m e t h o d  us e s   S M OT E   [ 19]   a s   a   pr e pr o c e s s i ng  s t a ge   [ 20] .   T h e   F e a t ur e   s e l e c t i o n   m e t h o d  us e d  i s   M OSS   [ 5]   a n d  w i l l   b e   us e d  a s   a   pr e pr o c e s s i n g   s t a ge   i n   t hi s   s t ud y   r e p l a c i n g  t h e   S M OT E   m e t h o d  t h a t   wa s   p r e vi o us ly   u s e d  i n   t h e   H A R   M e t h o d,   s pe c i f i c a ll y   t hi s   i s   i n t e n de d  to   de v e l o p  t h e   HA R   M e t h o d  c a pa bil i t y   i n  o v e r l a pp i ng  h a n d li ng.   T h e   c o m bi na t i o n   o f   F e a t ur e   S e l e c t i o n   by   u s i ng  M OSS   w i t h   H A R   M e t h o d  i s   in t e n de d  t o  o b t a i n   go o d  r e s u l t s   i n   ha n d l i ng  c l a s s   im ba l a n c e   a n d  o v e r l a pp i ng   i n  m u l t i - c l a s s   im ba l a n c e d .   T h e   r e s u l t s   o b t a i ne d  w i ll   b e   c o m p a r e d  w i t h   t h e   M B P   +   GC E   m e t h o d  whi c h   i s   o n e   o f   t h e   e x c e ll e n t   m e t h o ds   i n  h a n d li ng  c l a s s   i m ba l a nc e   a n d  o v e r l a pp i ng  i n  m u l t i - c l a s s   im ba l a n c e d .   C o m pa r i s o n   o f   t h e s e   r e s u l t s   w a s   o b s e r v e d  u s i ng  a ug m e n t e d  R - v a l ue ,   m e a n   A U C ,   m e a n   F - m e a s ur e ,   m e a n   G - M e a n ,   a n d  m e a n   p r e c i s i o n .       2.   R E L AT E D  WORK S   2. 1.     Augm e n t e d   R - Val u e   f o r   M u l t i - Cl as s   T h e   R - v a l ue   o f   e a c h   c l a s s   s h o ws   t h e   po r t i o n   o f   a n   i ns t a n c e   t h a t   o v e r l a p s   t h e   a r e a .   R e s e a r c h  c o n duc t e d  by   [ 20]   s h o ws   t h a t   R - v a l ue   h a s   a   c l o s e   r e l a t i o n s hi p  w i t h   pe r f o r m a n c e   c l a s s i f i e r .   H a s   pr o p o s e d  a   m e t h o d  f o r   de t e r m i n i ng  R - Va l ue   f o r   m u l t i - c l a s s   pr o bl e m s   a s   c a n   b e   s e e n   i n   ( 1 )  [ 16 ] :   Evaluation Warning : The document was created with Spire.PDF for Python.
I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i     I S S N:  2502 - 4752       C ombining  f e atur e   s e lec ti on  and  hy br id  appr oac h  r e de f i nit ion  in   handli ng   c las s   imbalance   and  …   ( Har tono )   1515   ( [ ] ) = ∑ | − 1 − | ( ) − 1 = 0 ∑ | | − 1 = 0   ( 1)     W h e r e   0 , 1 , … , − 1   a r e   k  c l a s s   l a b e l s   w i t h   | 0 | ≥ | 1 | ≥ ⋯ ≥ | − 1 | ,  [ ] :   Da t a s e t  D   c o n t a i ni ng   pr e d i c t or s   i n   s e t   V ,   a n d  ( )   i s   t h e   r a t i o   o f   i ns t a n c e     t h a t  a r e   l o c a t e d   i n   o v e r l a pp i ng  a r e a   w i t h   a l l   d i f f e r e nt   c a t e g o r i e s   .   L a r ge r     i s   hi g h e r   o v e r l a p  de gr e e   o f   a   da t a s e t.     2. 2.     Hyb r id   e n s e m b l e s   T h e   a l go r i t hm   f o r   c r e a t i n g   a   hy br i d  e ns e m b l e   i s   a s   f o l l o ws   [ 21] :       :       ,                 ℎ    , ℎ                    :             :     ( 1 )   = 1          ( 2 )                           , ℎ          ℎ                ( 3 )      ℎ   ( [       | | ] + 1 ) ℎ                  ( 4 )                       ( 5 )       ( 6 )    =   ∪ = 1       I n   t h e   pr e vi o u s   a l go r i t hm   i t   c a n   b e   s e e n   t h a t   i n   hy b r i d  e n s e m b l e s   t h e   pr o c e s s   s t a r t s   f r o m   de t e r m i n i ng   b o ot s t r a p  s a m p li ng  a t   t h e   pr e pr o c e s s i n g  s t a ge .   I n   ge n e r a l ,   t h e   s a m p l i ng   m e t h o d  us e d  i s   S M O T E .   T he n   i t   w il l  pr o c e e d  w i t h   t h e   pr o c e s s i ng   s t a ge   by   s e l e c t i n g  t he   a ppr o pr i a t e   c l a s s i f i c a t i o n  a l go r i t hm .   O n e   o f   t h e   H y b r i d   E n s e m b l e s   m e t h o ds   i s   hy br i d  a ppr o a c h   r e de f i n i t i o n   ( HA R )   whi c h   g i ve s   e x c e l l e n t   r e s u l t s   i n   h a n d li n g  c l a s s   im ba l a n c e .   In   t h e   o r i g i na l   f o r m   o f   H A R   t h e   pr e pr o c e s s i n g  s t a ge   i s   c a r r i e d   o ut   us i n g  t he   r a n do m   b a l a nc e   e ns e m b l e   m e t h o d  a n d  t h e   pr o c e s s i ng  s t a ge   i s   c a r r ied  o u t   us i n g  d if f e r e n t   c o n tr i b ut i o n   s a m p li ng   [ 22] .   T o   de a l   w i t h   c l a s s   i m ba l a nc e   pr o bl e m s   a s   we ll   a s   o v e r l a p p i n g  pr o bl e m s   i n  m u l t i - c l a s s   pr o bl e m s ,   t h e   pr e pr o c e s s i ng   t e c h ni que   w i ll   b e   m o d if i e d  us i ng  F il t e r   S e l e c t i o n ,   n a m e ly   mi n im i z i ng  o v e r l a pp i ng  s e l e c t i o n   u n d e r   S M OT E   ( M OSS ) .     2. 3.     M in im iz in g  ove r l ap p in g  s e lec t ion   u n d e r   S M OT E   ( M OS S )   T h e   a l go r i t hm   f o r   M OSS   i s   a s   f o l l o w s   [ 5] :     1 : −      ℎ        :   = [ 1 , 2 , … , ] ;      :     2 :  −    ℎ           ℎ    ;     ℎ         ℎ                  −  ,                   3 :   ←    ;   ←        4 :    ℎ            ℎ   ̂ ( , )            2     5 :    ℎ       ( ̂ 1 , ̂ 2 , … , ̂ )      ℎ       3     6 :    ℎ       ℎ   ̂ ≠ 0     = 1 , 2 , … ,       S pa r s e   s e l e c t i o n   t h a t  wo ul d  b e   us e d  t o  e s t a bl i s h   s p a r s e   r e gu l a t i z a t i o n   c a n   b e   s e e n   i n   ( 2 )  [ 23] :     ( ) = 1 2 ( 1 − ) ‖ ‖ 2 2 + ‖ ‖ 1   ( 2)     wh e r e   ‖ ‖            a n d  ( )   i s   l a s s o   pe n a l t y   o f   e a c h   i ns t a n c e   a n d      [ 0 , 1 ] .   L o s s   P e n a l t i e s   t h a t   wo ul d  b e   us e d  t o  c o m put e   t h e   opt i m a l   ̂   c a n   b e   s e e i n  i n   ( 3 ):      = − 1 ∑ ( − ln   ( 1 + ) ) = 1   ( 3)     W h e r e   t h e      a r e   t h e   L o s s   f r o m   s pa r s e   l o g i s t i c   r e gr e s s i o n .     I n   ps e udo c o de ,   i t   c a n   be   s e e n   t h a t   M OSS   b e g i ns   w i t h   de t e r m i ni ng  a   n u m be r   o f   pr e d i c t o r   m a t r i c e s   a n d  de t e r m i n i ng  t h e   c l a s s   l a be l   us e d.   Af t e r   t h a t ,   th e   pr o c e s s   w il l   c o n t i n ue   w i t h   t h e   pr o c e s s   o f   o v e r   s a m p l i ng   t h e   m i n o r i t y   c l a s s e s   us i ng   S M OT E   a n d  w il l   b e   c o n t i n ue d  by   upda t i n g  t h e   pr e d i c t o r   m a t r i x  w hi c h   c o n t a i n s   a   n u m be r   o f   c l a s s i f i e r s   a n d  a l s o   upda t i n g  a   ne w  c l a s s   l a b e l   f o r   e a c h   i ns t a n c e .   T h e   pr o c e s s   w i ll   b e   c o n t i n ue d   w i t h   t h e   pr o c e s s   o f   de t e r m i n i ng  s pa r s e   r e gu l a r i z a t i o n   b a s e d  o n   t h e   l a s s o   pe n a l t y   va l u e   f r o m   e a c h   i ns t a n c e   a n d   t h e n   t h e   l o s s   pe n a l t i e s   w i ll   be   de t e r m i ne d  a s   t he   b a s i s   f o r   de t e r m i n i ng  t h e   o pt i m a l   c o n d i t i o n s .   T h e   l o s s   Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2502 - 4752   I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i ,   Vo l .   21 ,   N o .   3 ,  M a r c h   2021 :    1513   -   1522   1516   pe n a l t i e s   o r i g i na t e   f r o m   s pa r s e   l o g i s t i c   r e gr e s s i o n.   T h e   pr o c e s s   w i ll   c o n t i n u e   w i t h   de t e r m i n i ng  t h e   o p t i m a l   c o n d i t i o n s   b a s e d  o n   t h e   r e s u l t i ng  l o s s   v a l ue .   T h e   p r e pr o c e s s i ng  s t a ge   i n   H y br i d  E ns e m b l e s   w il l   b e   c a r r i e d  o ut  us i n g  t h e   M OSS   m e t h o d  s o   t h a t  t h e   pr e pr o c e s s e d  da t a s e t  i s   ge ne r a t e d.     2. 4.     Cl as s if i e r   p e r f o r m an c e   C o nf us i o n   M a t r i x   s h o ws   t h e   o u t c o m e   o f   t h e   c l a s s if i c a t i o n   r e s u l t s   f o r   e a c h   i ns t a n c e   a s   c a n   b e   s e e n   i n  T a bl e   1 .  [ 24] .       T a bl e   1.   C o n f u s i o n   m a t r i x     C la s s if ie d a s  P o s it iv e   C la s s if ie d a s  N e ga ti ve   P o s it i ve  S a mpl e s   T r u e  P o s it i v e   ( T P )   F a ls e  N e ga ti ve  ( F N )   N e ga ti v e   S a mpl e s   F a ls e  P o s it i v e   ( F P )   T r u e  N e ga ti ve  ( T N )       T h e   pe r f o r m a nc e   c l a s s i f i e r   m e a s ur e m e n t   us e s   a   n u m be r   o f   pa r a m e t e r s   a s   f o l l o ws :     T P R =  TP TP   +   FN   ( 4)     F P R  =  FP TN + FP   ( 5)     T NR   =  TN TN   +   FP   ( 6)     R e ca l l   =  T P R    ( 7)     P r e cis io n  =  P P V a l u e  =   TP TP   +   FP   ( 8)     F - M e a s u r e  =   2 R P R + P   ( 9)     G - M e a n =   √    .   ( 10)     = 1 + −  2   ( 11)     A c c o r d i n g  to   [ 25 ]   i n   m u l t i - c l a s s   pr o bl e m s   t h e   m e a s ur e m e n t   o f   c l a s s if i e r   pe r f o r m a n c e   i s   de t e r m i ne d  by   a n   a ve r a ge   v a l ue .   S o   t h a t  t h e   m e a s ur e m e n t   pa r a m e t e r s   b e c o m e   a s   f o l l o w s :       −  = ∑ −   ( ) = 1   ( 12)       − = ∑ −  ( ) = 1   ( 13)       = ∑ ( ) = 1   ( 14)          = ∑   ( ) = 1   ( 15)     I n   ( 4 )   i t   c a n   be   s e e n   t h a t   t h e   t r ue   p o s i t i v e   r a t e   ( T P R )   s t a t e s   t h e   a bil i t y   o f   t h e   c l a s s if i e r   i n   c l a s s i f yi ng  a   po s i t i v e   s a m p l e   ( m i n o r i t y   c l a s s )   a ppr o pr i a t e l y .   t h e   f a l s e   po s i t i ve   r a t e   ( F P R )   s t a t e d  i n   ( 5 )   s t a t e s   t h e   c las s if i e r 's   e r r o r   i n   c l a s s i f yi ng  t h e   ne ga t i v e   s a m p l e   ( m a j o r i t y   c l a s s )   a s   a   po s i t i v e   ( m i n o r i t y   c l a s s ) .   In   ( 6 )   s tat e s   t h e   c l a s s if i e r 's   a bil i t y   t o   c o r r e c t l y   c l a s s i f y   ne ga t i v e   s a m p l e s .   I t   s h o u l d  b e   n o t e d  t h a t   ( 7 )   i n   t hi s   c a s e   r e c a l l   i s   t h e   s a m e   a s   T P R   o r   s o m e   o t h e r   t e r m   s t a t e s   a s   s e ns i t i vi t y .   W h e r e a s   t h e   P r e c i s i o n  s t a t e d  i n   ( 8 )   i s   a   m e a s ur e   o f   e x a c t n e s s   t h a t   s t a t e s   t h e   pr o p o r t i o n   o f   po s i t i v e   s a m p l e s   t h a t   a r e   c l a s s if i e d  c o r r e c t l y   c o m pa r e d  to   n e ga t i ve   s a m p l e s   t h a t   a r e   i n c o r r e c t l y   c l a s s if i e d  a s   po s i t i v e   s a m p l e s .   T h e   F - M e a s ur e   a n d  G - M e a n   s t a t e d  i n   ( 9 )   a n d  ( 10 )   s t a t e   t h e   a bil i t y   o f   t h e   c l a s s i f i e r   t o   b a l a n c e   b e t we e n   po s i t i ve   s a m p l e s   a c c ur a c y   a n d   n e ga t i v e   s a m p l e   a c c ur a c y   [ 13] .   T h e   A U C   s t a t e d  i n   ( 11 )   s t a t e s   t h e   r a n do m   pr o b a bil i t y   o f   a   po s i t i v e   s a m p l e   t o  b e   c l a s s i f i e d  c o r r e c t ly   c o m pa r e d  t o  t h e   r a n do m   pr o b a bi li t y   o f   n e ga t i v e   s a m p l e s   [ 26] .   Evaluation Warning : The document was created with Spire.PDF for Python.
I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i     I S S N:  2502 - 4752       C ombining  f e atur e   s e lec ti on  and  hy br id  appr oac h  r e de f i nit ion  in   handli ng   c las s   imbalance   and  …   ( Har tono )   1517   3.   M E T HO DOL OG Y   T h e   s t a ge s   o f   t hi s   r e s e a r c h   c a n   b e   s e e n   i n   F i g ur e   1.   I n   F i gur e   1 .   t h e   pr o c e s s   b e g i ns   w i t h   t h e   de t e r m i na t i o n   o f   t h e   da t a s e t   to  b e   us e d.   S pa r s e   S e l e c t i o n   a n d  L a s s o   P e n a l t y   c a l c u l a t i o n s   a r e   t h e   f i r s t   pr o c e s s e s   c a r r i e d  o ut .   T h e   S pa r s e   S e l e c t i o n   a nd  L a s s o   P e n a l t y   va l u e s   o b t a i n e d  w il l   b e   us e d   f o r   t h e   pr e pr o c e s s i ng  s t a ge   by   u s i n g   F e a t ur e   S e l e c t i o n  w i t h   m i n im i z i ng  o v e r l a pp i ng  s e l e c t i o n   u n de r   S M OT E   ( M OSS ) .   T h e   r e s u l t   o f   pr e pr o c e s s i ng  w i t h   M OS S   i s   i n  t h e   f o r m   o f   pr e pr o c e s s i ng  da t a s e t   whi c h   w i ll   t h e n  e n t e r   t h e   pr o c e s s i n g  s t a ge .   P r o c e s s i n g  s t a ge s   a r e   c a r r i e d  o ut  us i n g  d i f f e r e n t   c o n t r i b ut i o n   s a m p li ng  ( DC S ) .   T h e   pr o c e s s   i n s i de   D C S   i s   b a s i c a ll y   do n e   u s i ng  t h e   bi a s e d  s uppo r t   v e c t o r   m a c hi ne   (B - S VM ) .   B a s e d  o n   t h e   e xi s t i n g  c l a s s if i c a t i o n   r e s u l t s ,   i n   w hi c h   t hi s   s t ud y   b e s i d e s   o bs e r vi ng  t h e   r e s u l t s   o b t a i n e d  by   t h e   F e a t ur e   S e l e c t i o n - H A R   m e t h o d,   i t   w i ll   a l s o   o b s e r v e   t h e   r e s u l t s   o b t a i n e d  w i t h   M B P   +   G C E .   T h e n ,   t h e   r e s u l t   us i n g   f e a t ur e   s e l e c t i o n - hy b r i d  a ppr o a c h   r e de f i n i t i o n   ( HA R )   w i l l   b e   c o m pa r e d  w i t h   t h e   r e s u l t   us i n g  M B B   +   GC E .           F i gur e   1 .  S t a ge s   o f   r e s e a r c h   m e t h o ds       3. 1.     P r e p r oc e s s in g  s t age   P r e p r o c e s s i n g   S t a ge   o n   H A R   f o r   m u l t i - c l a s s   pr o bl e m s   w il l   b e   m o d if i e d   u s i ng  M OSS   a n d   us i ng   t h e   c o n c e pt   o f   b o r de r l i ne   s e l e c t i o n   f o r   de t e r m i ni ng   in s t a n c e   i n  m u l t i - c l a s s   pr o bl e m s   [ 27] .  T h e   pr e pr o c e s s i n g   s t a ge s   f o r   t h e   pr o p o s e d  m e t h o d  c a n   b e   s e e n   i n   t h e   f o l l o w i ng  a l go r i t hm .   R e qu i r e :  S e t   S   o f   e x a m p l e s   ( x 1 ,   y 1 ) .     E n s ur e :   Ne w  s e t   S’   o f   e x a m p l e s   w i t h   M OSS .   1:  T ot a l   s i z e ←|S | .     2:  De t e r m i ne   k   a s   t h e   n u m be r   o f   N e a r e s t  N e ighbo r .     3:  F o r   Al l   S a m p l e s   i n   S   do .     4:   De t e r m i ne   t h e   B o r de r l i ne   o f   P o s i t i v e   o r   M i n o r i t y   C l a s s   a s   E O + .     5:   De t e r m i ne   t h e   B o r de r l i ne   o f   Ne ga t i v e   o r   M a j o r i t y   C l a s s   a s   E O − .   6:  E n d  F o r .   7:  F o r   A l l   S a m p l e s   i n   E O +   do .     8:   C a l c u l a t e   t h e   c n( e ) i   a s   n e i g b o r h oo d  v a l ue   f o r   e a c h   s a m p l e .     9:   Or de r   A s c e n d i ng  t h e   s a m p l e   a c c o r d i n g  to   t h e   c n ( e ) i .   10:  E n d  F o r .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2502 - 4752   I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i ,   Vo l .   21 ,   N o .   3 ,  M a r c h   2021 :    1513   -   1522   1518   11:  B u i l d i n g  a   c a n d i da t e   e n s e m bl e   f o r   Saf e ,  B or de r li ne ,  R ar e ,   da n   Outli e r   a c c or di n g  t o  k   v a l ue .     12 :  C a l c u l a t i n g  S pa r s e   S e l e c t i o n   us i ng  ( 2 ) .     13 :  C a l c u l a t i n g  L o s s   P e na l t y   us i ng  ( 3 ) .   14 :  De t e r m i ne   s p a r s e   r e gu l a r i z a t i o n .   15 :  F o r   Al l   S a m p l e s   i n   M inor it y   C las s   do .   16:   S a m p li ng  Al l   I n s t a n c e   w i t h   M OSS .   17:   C r e a t e   ne w M inor it y .   18:   C r e a t e   ne w M ajor it y .   19:  E n d  F o r .   20:  C a l c u l a t e   A ug m e n t e d  R - Va l ue .   21:  C o m put e   t h e   Opt i m a l   L o s s .   22:  R e t u r n   S ’ .   I n   t h e   pr e vi o u s   a l go r i t hm ,   i t   c a n   b e   s e e n   t h a t   a f t e r   s e l e c t i n g  a   m u l t i - c l a s s   da t a s e t ,   t h e   n e x t   s t e p  i s   de t e r m i n i ng  t h e   b o r de r l i ne   f o r   m i n o r i t y   a n d  m a j o r i t y   c l a s s .   Af t e r   t h a t ,   t h e   k  v a l ue   w il l   b e   de t e r m i n e d,   t h e n   e a c h   c a n d i da t e   e n s e m b l e   w i ll   be   gr o upe d  f r o m   t h e   e xi s t i n g  i ns t a n c e s   i n t o   S a f e ,   B o r de r l i ne ,   R a r e ,   Out l i e r   gr o ups .   T h e   n e x t   s t e p  i s   t o   de t e r m i ne   t h e   S pa r s e   S e l e c t i o n   us i ng  ( 2 )   a n d  de t e r m i ne   t h e   l o s s   pe na l t y   u s i n g  ( 3 ) .  Af t e r   t h a t   f o r   e a c h   I ns t a n c e   i n  mi n o r i t y   c l a s s ,   a   s a m p li ng  pr o c e s s   us i ng  M OSS   w i ll   be   c o n duc t e d,   s o   t h a t   i t   w i ll   pr o duc e   n e w mi n o r i t y   c l a s s   a n d   n e w m a j o r it y   c l a s s .   Af t e r   a l l   t h e s e   pr o c e s s e s   a r e   c a r r i e d   o u t,   t h e   A ug m e n t e d  R - Va l ue   a n d  o pt i m a l   l o s s   w il l   be   c a l c u l a t e d.   T h e   r e s u l t s   o f   t hi s   pr e pr o c e s s i n g  s t a ge   a r e   pr e pr o c e s s i ng  da t a s e t s   whi c h   w il l   t h e n   e n t e r   t h e   pr o c e s s i n g  s t a ge .     3. 2.     P r oc e s s in g  s t age   P r o c e s s i ng  s t a ge   o n   HA R   f o r   m u l t i - c l a s s   pr o b l e m s   w il l   be   do n e   us i n g  d i f f e r e n t   c o n tr i b ut i o n  s a m p l i ng .   D if f e r e n t   c o n t r i b ut i o n  s a m p li ng   i s   a n   e x c e ll e n t   pr o c e s s i ng  m e t h o d  i n  hy br i d   e ns e m bl e s   [ 22] .   T h e   pr o c e s s i n g  s t e ps   c a n   b e   s e e n   i n   t h e   f o l l o w i ng  a l go r i t hm .     1:  F o r   i  =   1  to  Num be r   o f   I n s t a n c e   i n   P r e pr o c e s s e d   Da t a s e t   d o .   2:   A dd  P r e pr o c e s s e d  Da t a s e t   to  S i .   3   B - S VM   wi ll   do   f o r   c l a s s if yi ng  S i .   4:   De t e r m i ne   t h e   M a j o r i t y   C l a s s .   5:   De t e r m i ne   t h e   M i n o r i t y   C l a s s .   6:   F o r   Al l   I ns t a n c e   i n   M a j o r i t y   C l a s s   do .   7:   Ne wSVS e t s   [ ]   wi ll   f o r m   by   c h e c k i ng  a n d  de l e t e   t h e   n o i s e   i n   S V  S e t s .     8:   Ne wN S VSet s   [ ]   wi ll   f o r m   by   m u l t i p l e   R US .   9:   E n d  whi l e .   10:   F o r   Al l   i ns t a n c e   f r o m   n e w  S V  S e t s   a n d  NSV  d o .   11:   C r e a t e   a n   i n s t a nc e   f o r   M a j o r i t y   C l a s s .     12:   E n d  F o r .   13:   F o r   Al l   I ns t a n c e   i n   M i n o r i t y   C l a s s   do .   14:   S M OT E B oo s t  P r o c e s s   f o r   S V  S e t s   a n d  c r e a t e   S M OT E S e t s .   15:   e n d  whil e .   1 6:   F o r   Al l   S M OT E S e t s   a n d  Ne wN S VSet s   d o .   17:   Ne w  P o s i t i v e S a m p l e S e t s .   18:   E n d  F o r .   19:   F o r   Al l   Ne wN e g a t i ve S a m p l e S e t s   a n d  Ne wPo s i t i v e S a m p l e S e t s   do .   20:   R e s u l t Da t a S e t .   21:   E n d  F o r .   22:  E n d  F o r .   I n   t h e   a l go r i t hm ,   i t   c a n   be   s e e n   t h a t ,   a f t e r   g o i n g  th r o ugh   t h e   pr e pr o c e s s i n g  s t a ge ,   t h e   pr e pr o c e s s i n g   da t a s e t   wi ll   b e   o b t a i n e d,   a n d  t h e   n e x t   s t a ge   o f   pr e pr o c e s s i n g  t hi s   da t a s e t   w i ll   e n t e r   t h e   pr o c e s s i n g  s tage .   T hi s   s t a ge   i s   c a r r i e d  o ut   us i n g  DC S   t h r o ugh   t h e   B - S VM   pr o c e s s   t h a t   wi ll   de t e r m i ne   i ns t a nc e s   t h a t   e xi s t   i n   t he   m a j o r i t y   a n d  mi n o r i t y   c l a s s .   F o r   e a c h   i ns t a n c e   t h e   m a j o r i t y   c l a s s   a n d  mi n o r i t y   c l a s s   w il l   t he n   e n t e r   t h e   n e x t   s t a ge .   F o r   e a c h   i ns t a n c e   o f   t h e   m a j o r i t y   c l a s s   a n d  mi n o r i t y   c l a s s   w il l   b e   gr o upe d  i n t o   s upp o r t   v e c to r   s e t s   ( S V   S e t s )   a n d  n o n - s uppo r t  v e c t or   s e t s   ( NS V  S e t s )   b a s e d  o n   t h e   e xi s t i n g  h y pe r p l a n e   v a l ue s .   F o r   i n s t a n c e s   t h a t   b e l o n g  t o  t h e   S V  S e t s   g r o up  i n   t h e   m a j o r i t y   c l a s s ,   i t   wi ll   b e   c h e c ke d  a n d  r e m o ve d  n o i s e   w hi l e   t h e   NSV  S e t s   w i ll   u n d e r go   a   s a m p li ng  pr o c e s s   us i ng  r a n do m   u n d e r   s a m p li ng  ( R US) .   T h e   r e s u l t s   o f   t h e   R US  pr o c e s s   w i ll   b e   c o m bi ne d  w i t h   t h e   r e s u l t s   o f   n o i s e   r e m o v a l   o n   S V  S e t s   to   n e w  m a j o r i t y   c l a s s .   T h e   S V  S e t s   i n   mi n o r i t y   c l a s s   w i ll   u n de r go   t h e   S M OT E B oo s t   p r o c e s s   to   pr o d uc e   S M OT E S e t s .   T h e   S M OT E S e t s   a n d  NSV  S e t s   i n   t h e   M i n o r i t y   c l a s s   w il l   b e   c o m bi ne d  i n t o   a   n e w  mi n o r i t y   c l a s s .   Ne w  m a j o r i t y   c l a s s   a n d  n e w  mi n o r i t y   c l a s s   w il l   b e   c o m bi ne d  i n t o   r e s u l t   da t a s e t .   Evaluation Warning : The document was created with Spire.PDF for Python.
I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i     I S S N:  2502 - 4752       C ombining  f e atur e   s e lec ti on  and  hy br id  appr oac h  r e de f i nit ion  in   handli ng   c las s   imbalance   and  …   ( Har tono )   1519   4.   RE S UL T   AN D  AN AL YSI S   4. 1.     Dat as e t   d e s c r ip t ion   T hi s   s t udy   us e s   a   m u l t i - c l a s s   im ba l a n c e d   da t a s e t  t h a t   i s   s o ur c e d  f r o m   t h e   K E E L   r e po s i t o r y .   T he   da t a s e t  s e l e c t e d  i n   t hi s   s t ud y   h a s   r e pr e s e n t e d  a   l o w,   m e d i u m   a n d  hi g h   i m ba l a nc e   r a t i o .   F o r   da t a s e ts   w i t h   a   l o w  im ba l a nc e   r a t i o   a r e   Ha y e s - R o t h   a n d  Ne w - T hy r o i d,   da t a s e t s   w i t h  m o de r a t e   i m ba l a n c e   r a t i o   a r e   c a r   e v a l ua t i o n   a n d  t hy r o i d  d i s e a s e ,   a n d  da t a s e t   wi t h   high   im ba l a n c e   r a t i o   a r e   r e d  w i n e   qua li t y ,   y e a s t ,   a n d  s h ut t l e .  Da t a s e t  de s c r i pt i o n   c a n   b e   s e e n   i n   T a bl e   2   [ 28] .       T a bl e   2.   Da t a s e t   d e s c r i pt i o n   [ 28]   D a ta s e t   #E x   #A tt s   D is tr ib ut io n  of  C la s s   IR   H a y e s - R o th   160   4   65/ 64/ 31   2.1   N e w - T h y r oi d   215   5   150/ 35/ 30   5   C a r  E v a lu a ti o n   1728   6   384/ 69/ 1210/65   18.62   T h y r oi d D is e a s e   72 0   21   17/ 37/ 666   39.18   R e d W in e  Q ua li t y   1599   11   10/ 53/ 681/ 638/ 199/ 18   68.1   Y e a s t   1484   8   463/ 5/ 35/ 44/ 51/ 163/ 244/ 429/ 20/ 30   92.6   S hut tl e   2175   9   1706/2/ 6/ 338123   853       4. 2.     T e s t in g  r e s u l t     T h e   f i r s t   t e s t   i s   t o   o b t a i n   a   c o m pa r i s o n   o f   t h e   a ug m e n t e d  R - Va l ue   a n d  M e a n   AU C   o b t a i n e d  b y   us i n g  f e a t ur e   S e l e c t i o n - H A R   a n d  M B P + GC E   M e th o d.   T h e   t e s t  r e s ul t s   c a n   b e   s e e n   i n   T a bl e   3.       T a bl e   3.   T e s t i n g  r e s u l t   f o r   a ugm e n t e d  R - Va l ue   a n d   m e a n   A U C   f o r   e a c h   m e t h o d   D a ta s e t   F e a tu r e  S e l e c ti o n - H A R   M B P + G C E   A ugme nt e d R - V a lu e   M e a n A U C   Au gme nt e d R - V a lu e   M e a n A U C   H a y e s - R o th   0.298   0.888   0.295   0.848   N e w - T h y r oi d   0.323   0.87   0.331   0.85   C a r  E v a lu a ti o n   0.335   0.928   0.336   0.913   T h y r oi d D is e a s e   0.355   0.871   0.359   0.869   R e d W in e  Q ua li t y   0.412   0.848   0.411   0.797   Y e a s t   0.432   0.832   0.434   0.799   S hut t le   0.453   0.815   0.461   0.784       B a s e d  o n   t h e   t e s t   r e s u l t s ,   i t   c a n   b e   s e e n   t h a t   i n   t e r m s   o f   t h e   A ug m e n t e d  R - Va l ue   a n d  a l s o   t h e   M e a n  A U C   t h e r e   i s   n o   s i g ni f i c a n t   d i f f e r e n c e   b e t we e n  F e a t ur e   S e l e c t i o n - HA R   w i t h   M B P   +   GC E .   T hi s   s ho ws   t h a t  b o t h   m e t h o ds   h a v e   o v e r c o m e   t h e   o v e r l a pp i ng  pr o bl e m   we ll .   T he   A ug m e n t e d  R - Va l u e   c h a r ge r   i s   a   hi g h e r   o v e r l a p  de gr e e   o f   a   da t a s e t .   F o r   hi g h e r   im ba l a n c e   r a t i o   ( I R )   t h e   r e s u l t s   o b t a i ne d  t e n d  to   b e   l e s s   go o d  wh e n  c o m pa r e d  t o   da t a s e t s   w i t h   l o w e r   I R .   T h e   s e c o n d  t e s t   i s   t o   o b t a i n  a   c o m pa r i s o n  o f   t h e   M e a n   F - M e a s ur e ,   M e a n   G - M e a n ,   a n d   M e a n  P r e c i s i o n   o b t a i n e d  by   u s i ng  F e a t ur e   S e l e c t i o n - H A R   a n d  M B P + GC E   M e t h o d.   T h e   t e s t  r e s u l t s   c a n   b e   s e e n   i n  T a bl e   4.   B a s e d  o n   T a bl e   4 .   i t   c a n   b e   s e e n   t h a t   i n   ge n e r a l   t h e   r e s u l t s   g i ve n   by  F e a t ur e   S e l e c t i o n - H A R   a r e   b e tt e r   wh e n   c o m pa r e d  to  M B P   +   GC E .         T a bl e   4 .  T e s t i n g  r e s u l t   f o r   m e a n   f - m e a s ur e ,   m e a n   g - m e a n ,   a n d  m e a n   pr e c i s i o n   f o r   e a c h   m e t h o d   D a ta s e t   F e a tu r e  S e l e c ti o n - H A R   M B P + G C E   M e a n F - M e a s ur e   M e a n G - M e a n   M e a n  P r e c is i o n   M e a n F - M e a s ur e   M e a n G - M e a n   M e a n  P r e c is i o n   Ha y e s - R o th   0.833   0.884   0.862   0.767   0.841   0.793   N e w - T h y r oi d   0.793   0.864   0.821   0.759   0.842   0.786   C a r  E v a lu a ti o n   0.634   0.927   0.492   0.626   0.911   0.491   T h y r oi d D is e a s e   0.789   0.765   0.811   0.763   0.739   0.784   R e d W in e  Q ua li t y   0.609   0.835   0.538   0.5   0.773   0.429   Y e a s t   0.727   0.816   0.8   0.6   0.774   0.6   S hut tl e   0.711   0.797   0.76   0.61   0.749   0.62       4 .3 .    S t at is t ical   t e s t s   T h e   s t a t i s t i c a l   t e s t   i s   pe r f o r m e d  u s i ng  t h e   W i l c o x o n   s i g n e d - r a n k   t e s t   whi c h   i s   a   s t a t i s t i c a l   pr o c e dur e   to  m e a s ur e   pe r f o r m a n c e   b a s e d  o n   pa i r w i s e   c o m p a r i s o n   [ 29] .   S t a t i s t i c a l   T e s t s   R e s u l t   c a n   b e   s e e n   i n   T a bl e   5.     Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2502 - 4752   I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i ,   Vo l .   21 ,   N o .   3 ,  M a r c h   2021 :    1513   -   1522   1520   T a bl e   5.   W i l c o x o n   s i g ne d - r a n k  t e s t  f o r   c o m p a r i n g  p e r f o r m a n c e   m e a s ur e m e n t s     P e r f or ma n c e   M e a s ur e m e nt   P - V a lu e   H y p o th e s is   A ugme nt e d   R - V a lu e   0.174749   H 0   ( n o  s ig ni f i c a nt  s c o r e  di f f e r e nc e  b e tw e e n  F e a tu r e  S e l e c ti o n - H A R  a nd M B P + G C E )  i s   a c c e pt e d a nd t hi s  me a ns   H 1   ( th e r e  i s  a  s ig ni f i c a nt  di f f e r e n c e  be t w e e n  F e a tu r e   S e l e c ti o n - H A R  a nd M B P + G C E  i n s c o r e )  i s  r e j e c te d b e c a us e  t h e  p - v a lu e   > 0.05   M e a n A U C   0.0156250   H 0   ( n o   s ig ni f i c a nt   s c o r e   di f f e r e n c e   b e tw e e n  F e a tu r e   S e l e c ti o n - H A R   a nd  M B P + G C E )   r e j e c t e d  a nd  th is   me a ns   H 1   ( th e r e   is   a   s ig ni f i c a nt   di f f e r e n c e   b e t w e e n   F e a tu r e   S e l e c t i o n - H A R  a nd M B P + G C E  i n s c o r e )  A c c e pt e d b e c a us e  t h e  p - v a lu e  < 0.05   M e a n F - M e a s ur e   0.0156250   H 0   ( n o   s ig ni f i c a nt   s c o r e   di f f e r e n c e   b e tw e e n  F e a tu r e   S e l e c ti o n - H A R   a nd  M B P + G C E )   r e j e c t e d  a nd  th is   me a ns   H 1   ( th e r e   is   a   s ig ni f i c a nt   di f f e r e n c e   b e t w e e n   F e a tu r e   S e l e c t i on - H A R  a nd M B P + G C E  i n s c o r e )  A c c e pt e d b e c a us e  t h e  p - v a lu e  < 0.05   M e a n G - M e a n   0.0156250   H 0   ( n o   s ig ni f i c a nt   s c o r e   di f f e r e n c e   b e tw e e n  F e a tu r e   S e l e c ti o n - H A R   a nd  M B P + G C E )   r e j e c t e d  a nd  th is   me a ns   H 1   ( th e r e   is   a   s ig ni f i c a nt   di f f e r e n c e   b e t w e e n   F e a tu r e   S e l e c t i o n - HA R  a nd M B P + G C E  i n s c o r e )  A c c e pt e d b e c a us e  t h e  p - v a lu e  < 0.05   M e a n P r e c is i o n   0.0156250   H 0   ( n o   s ig ni f i c a nt   s c o r e   di f f e r e n c e   b e tw e e n  F e a tu r e   S e l e c ti o n - H A R   a nd  M B P + G C E )   r e j e c t e d  a nd  th is   me a ns   H 1   ( th e r e   is   a   s ig ni f i c a nt   di f f e r e n c e   b e t w e e n   F e a tu r e   S e l e c t i o n - H A R   a nd M B P + G C E  i n s c o r e )  A c c e pt e d b e c a us e  t h e  p - v a lu e  < 0.05       4 .4 .    Dis c u s s ion     B a s e d  o n  t h e   r e s u l t s   i n  T a bl e   3 - 5 .   i t   c a n   b e   s e e n   t h a t   i n  ge n e r a l   t h e   F e a t ur e   S e l e c t i o n - H AR   m e t h o d  g i v e s   r e s u l t s   t h a t   a r e   n o t   s i g ni f i c a n t   d i f f e r e n c e   in   t h e   A ug m e n t e d  R - Va l ue   be t w e e n   F e a t ur e   S e l e c t i o n - HA R   M e t h o d .   T h e   r e s u l t s   g i v e n   a r e   r e l a t i v e ly   go o d   a n d  t hi s   m e a ns   t h a t   b ot h   m e t h o ds   ha v e   ha n d l e d  t h e   o v e r l a pp i ng   pr o bl e m   we ll .   B a s e d  o n   t h e   va l ue   o f   M e a n   A U C ,   F - M e a s ur e ,   G - M e a n ,   a n d  pr e c i s i o n ,   t h e   r e s u l t s   g i v e n   by  F e a t ur e   S e l e c t i o n - H A R   g i ve   b e t t e r   r e s u l t s   c o m pa r e d  to   M B P   +   GC E .   T h e   s t a t i s t i c a l   t e s t   a l s o   s h o ws   t h a t   t h e r e   a r e   s i g nif i c a n t   di f f e r e n c e s   be t we e n   t h e   t wo  m e t h o ds .   T h e   d i f f e r e nc e   i n   r e s u l t s   i s   i nc r e a s i ng ly   vi s i b l e   in  da t a s e t s   w i t h   hi g h   im ba l a n c e   r a t i o s ,   w hi c h   c a n   pr o vi de   a n s we r s   t o   why   t h e   F e a t ur e   S e l e c t i o n - H A R   met h o d  i s   b e t t e r   a n d  a t   t h e   s a m e   t i m e   s h o ws   t h a t   F e a t ur e   S e l e c t i o n - H A R   h a s   a   go o d  a bi li t y   t o   h a n d l e   da t a s e t s   w i t h   hi g h  im ba l a n c e   r a t i o s .   I t  s h o ul d  b e   n o t e d   t h a t   t h e   r e s u l t s   g i v e n   by   b o t h   m e t h o ds   i n d i c a t e   t h a t   t h e   I R   v a l ue   d o e s   n o t  s i g nif i c a n t l y   a f f e c t   t h e   M e a n  A UC ,   F - M e a s ur e ,   G - M e a n ,   a n d   P r e c i s i o n   v a l ue s .   T h e   t e s t   r e s u l t s   s h o w  t h a t   t h e   n u m be r   o f   i ns t a n c e s   a n d  t h e   n u m be r   o f   a t tr i b ut e s   i s   v e r y   i nf l ue n t i a l   o n   t h e   r e s u l t s   o f   M e a n   A UC ,   F - M e a s ur e ,   G - M e a n ,   a n d  P r e c i s i o n .   T h e   gr e a t e r   t h e   n u m be r   o f   i ns t a nc e s   a n d  t h e   n u m be r   o f   a t t r i b ut e s ,   t h e   r e s u l t s   o b t a i n e d   c a n   de c r e a s e .       5.     CONC L USI ON     B a s e d  o n  t h e   t e s t   r e s u l t s ,   i t   c a n   be   s e e n   t h a t   i n   t e r m s   o f   o v e r l a pp i ng  h a n d li ng,   b o t h   m e t h o ds   ha v e   b e e n   a bl e   t o   o b t a i n   s a t i s f a c t o r y   r e s u l t s ,   w hi c h  a r e   i n d i c a t e d  by   a   f a i r ly   go o d  A ug m e n t e d  R - Va l ue .   M e a n w hil e ,   w h e n  vi e we d   f r o m   t h e   M e a n   A U C ,   F - M e a s ur e ,   G - M e a n ,   a n d   P r e c i s i o n   va l ue s ,   t he   r e s u l t s   o b t a i n e d  by   t h e   F e a t ur e   S e l e c t i o n - H AR   M e t h o d  a r e   b e tt e r   wh e n   c o m p a r e d  t o   t h e   M B P   +   GC E   M e t ho d.   T hi s   i s   s uppo r t e d  by   t h e   r e s u l t s   o f   s t a t i s t i c a l   t e s t s   us i ng  t h e   W i l c o x o n   s i g n e d - r a n k  t e s t .   F ut ur e   R e s e a r c h ,   m us t   b e   a bl e   t o  o v e r c o m e   t h e   de c l i ne   i n   p e r f o r m a n c e   i f   t he r e   i s   a   da t a s e t   wi t h   a   l a r ge   n u m be r   o f   i ns t a n c e s   a n d  a l s o   a   l a r ge   n u m be r   o f   a t t r i b ut e s .   T h e   r e s u l t s   s h o we d   t ha t   b ot h   m e t h o ds   ha v e   we a k n e s s e s   w h e n   t h e r e   a r e   da t a s e t s   w i t h   a   l a r ge   n u m be r   o f   i n s t a nc e s   a n d  a t   t h e   s a m e   t i m e   a l s o   h a v e   a   l a r ge   n u m be r   o f   a tt r i b ut e s .       AC K NOWL E DGE M E NT S     T hi s   r e s e a r c h   wa s   f u n de d  by   a   Gr a n t   f r o m   t h e   M i ni s t r y   o f   E duc a t i o n   a n d  C u l t ur e   a n d  t h e   M i ni s t r y   o f   R e s e a r c h   a n d  T e c hn o l o g y   o f   t h e   R e pu bli c   o f   I n do ne s i a .       RE F E R E NC E S     [1 ]   L .   A b d i   an d   S .   H as h em i ,   “ T o   Co m b at   Mu l t i - Cl as s   Im b al an ce d   Pr o b l em s   b y   M e an s   o f  O v e r - Sa m p l i n g   T ec h n i q u e s , ”   IE E E   Tr a n s a c t i o n s   o n   K n o w l ed g e  a n d   D a t a   E n g i n eer i n g ,   v o l .   2 8 ,   n o .   1 ,   p p .   2 3 8 - 2 5 1 ,   2 0 1 6 ,   d o i :   1 0 . 1 1 0 9 / T K D E . 2 0 1 5 . 2 4 5 8 8 5 8 .   [2 ]   J .   F.   D í e z - Pas t o r,   J .   J .   Ro d rí g u e z,   C.   G arc í a - O s o ri o ,   a n d   L .   I.   K u n c h ev a,   “ Ran d o m   Ba l an ce:   E n s em b l e s   o f  v ari a b l e  p ri o rs ’   c l as s i fi e rs   fo r  i m b al an ced   d at a, ”  Kn o w l ed g e - B a s e d   S y s t em s ,   v o l .   8 5 ,   p p .   9 6 - 1 1 1 ,   2 0 1 5 ,   d o i :   1 0 . 1 0 1 6 / j . k n o s y s . 2 0 1 5 . 0 4 . 0 2 2 .   [3 ]   A .   F e r n án d e z ,   M.   J .   d el   J e s u s ,   an d   F.   H e rr e ra,   “ A d d r e s s i n g   O v e r l ap p i n g   i n   Cl as s i fi c at i o n   w i t h   Im b al an ced   D at as e t s :   A   Fi rs t   Mu l ti - o b j ec t i v e   A p p ro ach   fo r   F e at u r e   a n d   In s t an ce   S el ec t i o n , ”  i n   In t el l i g e n t   D a t a   E n g i n eer i n g   a n d   A u t o m a t ed   Lea r n i n g   –   ID E A L  2 0 1 5 ,   Ch am ,   p p .   3 6 - 44,   2 0 1 5 .   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 3 1 9 - 2 4 8 3 4 - 9 _ 5 .   Evaluation Warning : The document was created with Spire.PDF for Python.
I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i     I S S N:  2502 - 4752       C ombining  f e atur e   s e lec ti on  and  hy br id  appr oac h  r e de f i nit ion  in   handli ng   c las s   imbalance   and  …   ( Har tono )   1521   [4 ]   V .   G ar c í a,   J .   Sán ch e z,   a n d   R.   M o l l i n e d a,   “ A n   E m p i ri cal   St u d y   o f  t h e   B eh av i o r   o f   Cl as s i fi e rs   o n   Im b al a n ce d   an d   O v e rl ap p ed   D at a  S e t s , ”  i n   P r o g r es s   i n   P a t t e r n   R eco g n i t i o n ,   Im a g e  A n a l ys i s   a n d   A p p l i c a t i o n s ,   Be rl i n ,   H ei d e l b e rg ,   p p .   3 9 7 - 4 0 6 ,   2 0 0 7 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 5 4 0 - 7 6 7 2 5 - 1 _ 4 2 .   [5 ]   G. - H .   Fu ,   Y . - J .   W u ,   M . - J .   Z o n g ,   an d   L . - Z .   Y i ,   “ Fe at u r e  s e l ec t i o n   a n d   cl as s i fi c at i o n   b y   m i n i mi zi n g   o v e rl ap   d eg ree   fo r  c l as s - i m b al an ced   d at a  i n   me t ab o l o m i c s , ”  Ch em o m et r i c s   a n d   I n t e l l i g e n t   La b o r a t o r y  S ys t em s ,   v o l .   1 9 6 ,   p .   1 0 3 9 0 6 ,   2 0 2 0 ,   d o i :   1 0 . 1 0 1 6 / j . c h emo l ab . 2 0 1 9 . 1 0 3 9 0 6 .   [6 ]   Z .   Bo rs o s ,   C.   L emn aru ,   an d   R.   Po t o l e a,   “ D e a l i n g   w i t h   o v e r l ap   an d   i m b al an ce:   a  n ew   me t ri c   a n d   ap p ro ach , ”  P a t t er n   A n a l   A p p l i c ,   v o l .   2 1 ,   n o .   2 ,   p p .   3 8 1 - 3 9 5 ,   2 0 1 8 ,   d o i :   1 0 . 1 0 0 7 / s 1 0 0 4 4 - 0 1 6 - 0 5 8 3 - 6.   [7 ]   J .   Bi   an d   C.   Z h a n g ,   “ A n   em p i ri c a l   c o m p ari s o n   o n   s t at e - of - t h e - art   mu l t i - cl as s   i m b al a n c e   l e ar n i n g   a l g o ri t h m s   an d   a   n ew   d i v e rs i f i e d   e n s em b l e   l e arn i n g   s c h eme , ”  Kn o w l ed g e - B a s ed   S y s t em s ,   v o l .   1 5 8 ,   p p .   8 1 - 9 3 ,   2 0 1 8 ,   d o i :   1 0 . 1 0 1 6 / j . k n o s y s . 2 0 1 8 . 0 5 . 0 3 7 .   [8 ]   M.   D en i l   a n d   T .   T rap p e n b e r g ,   “ O v e r l ap   v e rs u s   Imb al an ce, ”  i n   A d va n ces   i n   A r t i f i c i a l   In t e l l i g e n c e ,   Be r l i n ,   H ei d el b e r g ,   p p .   2 2 0 - 2 3 1 ,   2 0 1 0 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 6 4 2 - 1 3 0 5 9 - 5 _ 2 2 .   [9 ]   M.   A l i b ei g i ,   S.   H as h em i ,   an d   A .   H a m z e h ,   “ D BFS:   A n   e ff ec t i v e   D e n s i t y   Bas e d   F e at u r e   S el ec t i o n   s ch eme   fo r  s m al l   s am p l e   s i z e   an d   h i g h   d i men s i o n al   i m b al an ce d   d at a  s e t s , ”  D a t a   &   Kn o w l ed g e  E n g i n ee r i n g ,   v o l .   8 1 ,   p p .   6 7 - 1 0 3 ,   2 0 1 2 ,   d o i :   1 0 . 1 0 1 6 / j . d at ak . 2 0 1 2 . 0 8 . 0 0 1 .   [1 0 ]   R.   T i b s h i ran i ,   “ Re g r e s s i o n   Sh r i n k ag e   an d   S e l ec t i o n   v i a  t h e   L as s o , ”  Jo u r n a l   o f   t h e  R o y a l   S t a t i s t i ca l   S o ci e t y.   S e r i es   B   (M et h o d o l o g i c a l ) ,   v o l .   5 8 ,   n o .   1 ,   p p .   2 6 7 - 2 8 8 ,   1 9 9 6 .   [1 1 ]   J .   Fan   an d   R.   L i ,   “ V ari ab l e   Sel ec t i o n   v i a  N o n co n c a v e   Pen al i z ed   L i k el i h o o d   a n d   I t s   O rac l e   Pr o p e rt i e s , ”  Jo u r n a l   o f   t h e  A m er i ca n   S t a t i s t i ca l   A s s o c i a t i o n ,   v o l .   9 6 ,   n o .   4 5 6 ,   p p .   1 3 4 8 - 1 3 6 0 ,   2 0 0 1 .   [1 2 ]   N .   V .   Ch a w l a ,   K .   W .   Bo w y er,   L .   O .   H a l l ,   an d   W .   P.   K eg e l mey er,   “ SMO T E :   s y n t h e t i c   mi n o ri t y   o v e r - s a m p l i n g   t e ch n i q u e , ”  Jo u r n a l   o f   a r t i f i c i a l   i n t el l i g en ce  r es e a r c h ,   v o l .   1 6 ,   p p .   3 2 1 - 3 5 7 ,   2 0 0 2 .   [1 3 ]   A .   A l i ,   S.   M.   S h a m s u d d i n ,   an d   A .   L .   Ral e s c u ,   “ Cl as s i fi c at i o n   w i t h   c l as s   i m b al a n ce   p ro b l em:   A   R ev i ew , ”  In t e r n a t i o n a l   Jo u r n a l   o f   A d va n ces   i n   S o f t   Co m p u t i n g   a n d   It s   A p p l i ca t i o n ,   v o l .   7 ,   n o .   3 ,   p p .   1 7 6 - 2 0 4 ,   2 0 1 5 .   [1 4 ]   E .   R.   Q .   Fe rn an d e s   an d   A .   C.   P.   L .   F.   d e   Carv a l h o ,   “ E v o l u t i o n ar y   i n v e rs i o n   o f  cl as s   d i s t ri b u t i o n   i n   o v e rl ap p i n g   are as   fo r  mu l t i - c l as s   i m b al an ced   l e ar n i n g , ”  In f o r m a t i o n   S c i en ces ,   v o l .   4 9 4 ,   p p .   1 4 1 - 1 5 4 ,   2 0 1 9 ,   d o i :   1 0 . 1 0 1 6 / j . i n s . 2 0 1 9 . 0 4 . 0 5 2 .   [1 5 ]   M.   G al ar,   A .   F e rn an d e z,   E .   Barr e n ech e a,   H .   Bu s t i n ce ,   an d   F.   H e rr e ra,   “ A   R e v i ew   o n   E n s em b l e s   f o r  t h e  Cl as s   Im b al an ce   Pro b l em:   Bag g i n g - ,   Bo o s t i n g - ,   an d   H y b r i d - Bas e d   A p p ro ach e s , ”  IE E E   Tr a n s a c t i o n s   o n   S y s t em s ,   M a n ,   a n d   Cyb e r n e t i c s ,   P a r t   C  (A p p l i ca t i o n s   a n d   R e vi ew s ) ,   v o l .   4 2 ,   n o .   4 ,   p p .   4 6 3 - 4 8 4 ,   2 0 1 1 ,   d o i :   1 0 . 1 1 0 9 / T SMCC. 2 0 1 1 . 2 1 6 1 2 8 5 .   [1 6 ]   R.   A l ej o ,   R .   M.   V a l d o v i n o s ,   V .   G arc í a,   an d   J .   H .   Pa ch ec o - Sa n c h e z ,   “ A   h y b ri d   me t h o d   t o   fa ce   c l as s   o v e r l ap   an d   c l as s   i m b al an ce   o n   n e u ra l   n e t w o rk s   an d   m u l t i - c l as s   s ce n ari o s , ”  P a t t er n   R eco g n i t i o n   Let t er s ,   v o l .   3 4 ,   n o .   4 ,   p p .   3 8 0 - 3 8 8 ,   2 0 1 3 ,   d o i :   1 0 . 1 0 1 6 / j . p a t re c . 2 0 1 2 . 0 9 . 0 0 3 .   [1 7 ]   B.   D as ,   N .   C.   K ri s h n an ,   a n d   D .   J .   Co o k ,   “ H an d l i n g   C l as s   O v e rl ap   an d   Im b al a n ce   t o   D e t ec t   Pro m p t   Si t u at i o n s   i n   Sm art   H o me s , ”  i n   2 0 1 3   IE E E   1 3 t h   In t er n a t i o n a l   Co n f e r en ce  o n   D a t a   M i n i n g   W o r k s h o p s ,   p p .   2 6 6 - 2 7 3 ,   2 0 1 3 ,   d o i :   1 0 . 1 1 0 9 / I CD MW . 2 0 1 3 . 1 8 .   [1 8 ]   W .   X i e ,   G .   L i a n g ,   Z .   D o n g ,   B.   T an ,   an d   B.   Z h a n g ,   “ A n   Im p ro v ed   O v e rs a m p l i n g   A l g o r i t h m   Bas e d   o n   t h e   Sa m p l e s ’  Sel ec t i o n   St rat eg y   fo r  Cl as s i f y i n g   Im b al a n ce d   D at a, ”  M a t h em a t i ca l   P r o b l em s   i n   E n g i n eer i n g ,   p p .   1 - 1 3 ,   2 0 1 9 ,   d o i :   h t t p s : / / d o i . o r g / 1 0 . 1 1 5 5 / 2 0 1 9 / 3 5 2 6 5 3 9 .   [1 9 ]   A .   F e r n an d e z,   S.   G arci a,   F.   H e rr e ra,   an d   N .   V .   C h a w l a,   “ SMO T E   fo r  L e ar n i n g   fr o m   Im b al a n ce d   D at a:   Pr o g r e s s   an d   Ch al l en g e s ,   Mar k i n g   t h e   1 5 - y e ar   A n n i v e rs ar y , ”  1 ,   v o l .   6 1 ,   p p .   8 6 3 – 9 0 5 ,   A p r.   2 0 1 8 .   [2 0 ]   S.   O h ,   “ A   n ew   d at as e t   ev al u at i o n   me t h o d   b as e d   o n   c at eg o r y   o v e rl ap , ”  Co m p u t .   B i o l .   M ed . ,   v o l .   4 1 ,   n o .   2 ,   p p .   1 1 5 - 1 2 2 ,   2 0 1 1 ,   d o i :   1 0 . 1 0 1 6 / j . c o m p b i o me d . 2 0 1 0 . 1 2 . 0 0 6 .   [2 1 ]   K. - W .   H s u ,   “ A   T h e o r e t i c a l   A n al y s i s   o f  W h y   H y b ri d   E n s em b l e s   W o rk , ”  Co m p u t a t i o n a l   I n t e l l i g e n ce  a n d   Neu r o s c i en ce ,   [O n l i n e ].   A v a i l ab l e:   h t t p s : / / w w w . h i n d a w i . co m / j o u rn a l s / c i n / 2 0 1 7 / 1 9 3 0 7 0 2 / .   2 0 1 7 .   [2 2 ]   H .   H art o n o ,   O .   S.   S i t o m p u l ,   T .   T u l u s ,   E .   B .   N ab ab an ,   an d   D .   N ap i t u p u l u ,   “ H y b ri d   A p p ro a c h   R ed e fi n i t i o n   (H A R)  mo d e l   fo r   o p t i m i z i n g   h y b r i d   e n s em b l e s   i n   h a n d l i n g   c l a s s   i m b al an ce:   a  r ev i ew   a n d   r e s e ar c h   fra mew o rk , ”   M A T E C  W eb   Co n f . ,   v o l .   1 9 7 ,   p .   0 3 0 0 3 ,   2 0 1 8 ,   d o i :   1 0 . 1 0 5 1 / m at e cc o n f/ 2 0 1 8 1 9 7 0 3 0 0 3 .   [2 3 ]   H .   Z o u   a n d   T .   H as t i e ,   “ Reg u l ari zat i o n   an d   V ari ab l e   Sel ec t i o n   v i a   t h e   E l as t i c   N e t , ”  Jo u r n a l   o f   t h e  R o ya l   S t a t i s t i ca l   S o c i et y.   S e r i e s   B   (S t a t i s t i ca l   M et h o d o l o g y ) ,   v o l .   6 7 ,   n o .   2 ,   p p .   3 0 1 - 3 2 0 ,   2 0 0 5 .   [2 4 ]   L .   Z h an g ,   H .   Y a n g ,   an d   Z .   J i an g ,   “ Im b al an ced   b i o med i c a l   d at a  cl as s i fi c at i o n   u s i n g   s e l f - a d ap t i v e   m u l t i l a y er  E L M  c o m b i n e d   w i t h   d y n a mi c   G A N , ”  B i o m ed   E n g   O n l i n e ,   v o l .   1 7 ,   n o .   1 ,   p .   1 8 1 ,   2 0 1 8 ,   d o i :   1 0 . 1 1 8 6 / s 1 2 9 3 8 - 0 1 8 - 0 6 0 4 - 3.   [2 5 ]   R.   A l e j o ,   J .   A .   A n t o n i o ,   R .   M.   V al d o v i n o s ,   a n d   J .   H .   Pa c h ec o - Sá n c h e z ,   “ A s s e s s m en t s   Me t ri c s   fo r   Mu l t i - c l as s   Im b al an ce  L e ar n i n g :   A   Pr e l i m i n ar y   St u d y , ”  i n   P a t t er n   R eco g n i t i o n ,   p p .   3 3 5 - 3 4 3 ,   2 0 1 3 .   [2 6 ]   A .   P.   Brad l ey ,   “ T h e   u s e  o f  t h e  ar e a  u n d e r  t h e   RO C  cu rv e   i n   t h e   ev al u at i o n   o f   m a c h i n e  l e arn i n g   a l g o ri t h m s , ”  P a t t er n   R eco g n i t i o n ,   v o l .   3 0 ,   n o .   7 ,   p p .   1 1 4 5 - 1 1 5 9 ,   1 9 9 7 ,   d o i :   1 0 . 1 0 1 6 / S0 0 3 1 - 3 2 0 3 (9 6 )0 0 1 4 2 - 2.   [2 7 ]   S.   G arc í a,   Z . - L .   Z h an g ,   A .   A l t al h i ,   S.   A l s h o m ra n i ,   an d   F.   H e rre ra ,   “ D y n a m i c   e n s em b l e   s el ec t i o n   f o r  mu l t i - cl as s   i m b al an ce d   d at as e t s , ”  In f o r m a t i o n   S ci e n ces ,   v o l .   4 4 5 - 4 4 6 ,   p p .   2 2 - 3 7 ,   2 0 1 8 ,   d o i :   1 0 . 1 0 1 6 / j . i n s . 2 0 1 8 . 0 3 . 0 0 2 .   [2 8 ]   J .   A l c al á - F d e z  et   a l . ,   “ K E E L :   a  s o ft w ar e   t o o l   t o   as s e s s   e v o l u t i o n ar y   al g o r i t h m s   fo r  d at a  m i n i n g   p ro b l em s , ”  S o f t   Co m p u t ,  v o l .   1 3 ,   n o .   3 ,   p p .   3 0 7 - 3 1 8 ,   2 0 0 9 ,   d o i :   1 0 . 1 0 0 7 / s 0 0 5 0 0 - 0 0 8 - 0 3 2 3 - y.   [2 9 ]   F.   W i l co x o n ,   “ I n d i v i d u al   Co m p ari s o n s   b y   Ran k i n g   M e t h o d s   o n   J ST O R, ”  B i o m et r i cs   B u l l et i n ,   v o l .   1 ,   n o .   6 ,   p p .   8 0 - 8 3 ,   1 9 4 5 .         Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2502 - 4752   I n do n e s i a n   J   E l e c   E n g  &   C o m p  S c i ,   Vo l .   21 ,   N o .   3 ,  M a r c h   2021 :    1513   -   1522   1522   B I OG RA P HI E S   OF   AU T HO RS        Ha rto n o   o b t ai n e d   h i s   d o c t o ral   i n   Co m p u t e r  S c i en c e  i n   2 0 1 8   fro m   U n i v e rs i t as   Su m at e ra   U t ara,   c o m p l e t ed   h i s   m as t e r  d e g r ee  i n   2 0 1 0   fro m   t h e  U n i v e rs i t as   Pu t ra  I n d o n e s i a  Y PT K   Pad an g ,   In d o n e s i a  i n   Co m p u t e r  S c i en ce   an d   b ach e l o r  i n   2 0 0 8   fro m   ST MIK   I BB I   M e d a n ,   I n d o n e s i a  i n   C o m p u t e r   S c i en ce .   N o w   h e  s e r v e s   as   a  l ec t u r e r  at   ST MIK   I BB I   a n d   U n i v e rs i t as   Po t en s i   U t am a  i n   M ed an ,   I n d o n e s i a.   H i s   cu rr e n t   i n t e r e s t s   are   i n   Ma c h i n e  L e ar n i n g ,   A rt i f i c i a l   In t el l i g en c e,   D at a  M i n i n g   an d   O p e ra t i o n al   R e s e ar ch .         Eri a n to   O n g k o   c o m p l e t e d   h i s   m as t e r  i n   2 0 1 5   at   U n i v e rs i t as   Su m at e ra  U t ara  i n   Med an ,   I n d o n e s i a  i n   Co m p u t e r  S c i en ce   an d   b ach e l o r  i n   2 0 1 2   fro m   ST MIK   I BB I   M e d a n ,   In d o n e s i a   i n   Co m p u t e r  Sci e n ce.   H e   i s   a  l ec t u r e r  at   A k ad emi   T ek n o l o g i   In d u s t ri   Imm an u e l   i n   M e d a n ,   I n d o n e s i a.   H i s   cu rr e n t   i n t e r e s t s   are   i n   Ma c h i n e   L e a rn i n g ,   A rt i f i c i a l   I n t e l l i g e n ce   an d   O p e rat i o n al   R e s e ar ch .             Y en i   R i s y a n i   co m p l e t ed   a  b ac h e l o r's   d eg r ee   i n   co m p u t e r  s c i en c e   fr o m   t h e   I n s t i t u t   Sai n s   d an   T e k n o l o g i   T D   Par d e d e   i n   1 9 9 7   an d   a  m as t e r's   d eg r ee   i n   c o m p u t e r  s c i en ce   fr o m  U n i v e rs i t as   Pu t ra  I n d o n e s i a   Y PT K   Pad an g   i n   2 0 1 0 .   H e r  c u rr e n t   i n t e r e s t s   are   i n   A rt i fi c i a l   I n t e l l i g e n ce  an d   Ma c h i n e  L e arn i n g .     Evaluation Warning : The document was created with Spire.PDF for Python.