I nte rna t io na l J o urna l o f   E lect rica l a nd   Co m p ute E ng in ee ring   ( I J E CE )   Vo l.   8 ,   No .   1 Feb r u ar y   201 8 ,   p p .   19 ~ 25     I SS N:  2088 - 8708 DOI : 1 0 . 1 1 5 9 1 / i j ec e . v 8 i 1 . pp 19 - 25           19       J o ur na l ho m ep a g e h ttp : //ia e s co r e . co m/ jo u r n a ls /in d ex . p h p / I JE C E   Co ncept  Drif Ide ntif ica tion  using   Cla ss ifier  Ens e mble  Appro a ch        L ee na   Desh pa nd e M .   Na rsin g   Ra o   De p a rte m e n Co m p u ter S c ien c e   a n d   E n g in e e rin g ,   KL   Un iv e rsity ,   V ij a y w a d a ,   In d ia       Art icle  I nfo     AB ST RAC T     A r ticle  his to r y:   R ec eiv ed   Mar   9 ,   2 0 1 7   R ev i s ed   J u n   1 7 ,   2 0 1 7   A cc ep ted   Dec   1 1 ,   2 0 1 7     A b stra c t: - In   In tern e tw o rk in g   s y st e m ,   th e   h u g e   a m o u n o d a ta  is  sc a tt e re d ,   g e n e ra ted   a n d   p ro c e ss e d   o v e th e   n e tw o rk .   T h e   d a ta  m in in g   tec h n iq u e a re   u se d   to   d isc o v e th e   u n k n o w n   p a tt e rn   f ro m   th e   u n d e rly in g   d a ta.  trad it io n a l   c las si f ica ti o n   m o d e is  u se d   t o   c l a ss ify   th e   d a ta  b a se d   o n   p a st  lab e ll e d   d a ta.   Ho w e v e in   m a n y   c u rre n a p p l ica ti o n s ,   d a ta  is  i n c re a sin g   in   siz e   w it h   f lu c tu a ti n g   p a tt e rn s.  Du e   to   th is   n e w   fe a tu re   m a y   a rriv e   in   th e   d a ta.  It  is  p re se n in   m a n y   a p p li c a ti o n li k e   se n so rn e tw o rk ,   b a n k in g   a n d   t e lec o m m u n ica ti o n   s y ste m s,  f in a n c ial  d o m a in El e c tri c it y   u sa g e   a n d   p rice s   b a se d   o n   it d e m a n d   a n d   su p p ly e tc  . T h u c h a n g e   in   d a ta  d istri b u ti o n   re d u c e th e   a c c u ra c y   o f   c la ss i fy in g   th e   d a ta .   It  m a y   d isc o v e r   so m e   p a tt e rn a s   f re q u e n w h il e   o th e p a tt e rn s ten d   t o   d isa p p e a a n d   w ro n g ly   c las si fy .   T o   m in e   su c h   d a ta d istr ib u ti o n ,   t ra d it i o n a l c las si f ica ti o n   tec h n i q u e s m a y   n o b e   su it a b le   a s th e   d istri b u ti o n   g e n e ra ti n g   th e   it e m s ca n   c h a n g e   o v e ti m e   so   d a ta f ro m   th e   p a st  m a y   b e c o m e   irr e lev a n o e v e n   f a lse   f o th e   c u rre n p re d i c ti o n .   F o r   h a n d l in g su c h   v a ry in g   p a tt e rn   o f   d a ta,  c o n c e p d r if m in in g   a p p ro a c h   is  u se d   to   im p ro v e   th e   a c c u ra c y   o c las s if ica ti o n   tec h n iq u e s.  In   t h is  p a p e w e   h a v e   p ro p o se d   e n se m b le  a p p ro a c h   f o im p ro v in g   th e   a c c u ra c y   o f   c las sif ier.  T h e   e n se m b le  c la ss i f ier   is  a p p li e d   o n   3   d if f e re n d a ta  s e ts.   W e   i n v e stig a ted   d if fe re n f e a tu re s   f o th e   d iff e re n c h u n k   o f   d a ta  w h ich   is  f u rth e g i v e n   to   e n se m b le  c las sif i e r.   W e   o b se rv e d   th e   p r o p o se d   a p p ro a c h   im p ro v e th e   a c c u ra c y   o f   c las si f ier  f o d if fe re n c h u n k o f   d a t a.   K ey w o r d :   A cc u r ac y   C las s i f icatio n   Dr if t   E n s e m b le   Fre q u en t P atter n     Co p y rig h ©   2 0 1 8   In stit u te o A d v a n c e d   E n g i n e e rin g   a n d   S c ien c e   Al rig h ts  re se rv e d .   C o r r e s p o nd ing   A uth o r :   L ee n A   Des h p an d e,   Dep t o f   C o m p u ter   Sci.  & E n g g ,     L   U n iv er s it y ,   Gr ee n   Field s ,   Vad d es w ar a m ,   Gu n tu r   Di s tr ict,   A . P . ,   I n d ia.   E m ail:  d es h p an d e. leen a2 7 @ g m ail. co m       1.   I NT RO D UCT I O N       R esear ch   o v er   last   f e w   d ec a d es  h av d ev e lo p ed   m a n y   d ata  m i n in g   al g o r ith m s   f o r   d is co v er in g   k n o w led g u n d er l y i n g   t h d at [ 1 ] ,   [ 2 ] .   T h ese  alg o r ith m s ,   h o w ev er ,   ar o f te n   u s ed   f o r   s t atic  d atasets ,   w h ile  r ec en tl y   d e v elo p ed   n e w   ap p li ca tio n s   f ac th p r o b le m   o f   p r o ce s s in g   lar g v o lu m es  o f   d ata  g en er ated   i n   th e   f o r m   o f   d ata  s tr ea m s .   A p p lica tio n s   lik e   s e n s o r   n et w o r k s ,   web   lo g   a n al y s is ,   an d   telec o m m u n icat io n   s y s te m s   r eq u ir to   p r o ce s s   d ata  g en er ated   at  v er y   h i g h   r ate s .   Data   s tr ea m   i m p o s es  c h alle n g es  li k li m ited   m e m o r y ,   less   p r o ce s s i n g   ti m e   an d   o n s ca n   o f   i n s tan ce s   w h ile  p r o ce s s i n g .   T r ad itio n al  d ata  m i n i n g   alg o r it h m s   ca n n o t   ef f icien tl y   h a n d le  th e s p r o b le m s ,   t h er eb y   lead in g   to   th d e v elo p m e n o f   s tr ea m   d ata  m i n i n g   tec h n iq u e s .   On e   o f   th ch alle n g es  w h ile  lear n i n g   f r o m   d ata  s tr ea m s   i s   h an d lin g   co n ce p d r if ts ,   i.e . ,   ch an g es  in   d ata  s tr ea m s   w h ic h   d eter io r ate  th ac cu r ac y   o f   clas s i f ier s .   T h is   h ap p en s   s in c cla s s i f ier s   lear n o n   p ast   d ata  in s tan ce s   ar e   u s ed   f o r   lab ellin g   r ec en d ata  in s ta n ce s   t h at  r ef lect  cu r r e n co n ce p w h ich   m a y   b d if f er e n f r o m   th o ld   o n es.  T h u s ,   f o r   h an d li n g   d r if t s   i n   d ata  s tr ea m s ,   cla s s i f ier s   m u s t   u s s o m tech n iq u e   f o r   ad j u s tin g   w it h   c h a n g i n g   en v ir o n m e n [ 3 - 6 ] .   A ls o ,   clas s if ier s   m u s b ab le  to   d etec d if f er e n t y p e s   o f   d r if t s ,   s u d d en   an d   g r ad u al  d r if t,   th at  ar ch ar ac ter ized   b y   th r ate  o f   ch a n g e s   o b s er v ed   [ 7 ] .   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   1 Feb r u ar y   201 8   :   19     25   20     Data   s tr ea m   is   t h s eq u en ce   o f   d ata  in s ta n ce s   { x t , y t f o r   ti m e   t =1 , 2 , 3 , . . . , T ,   w h er x   is   s et  o f   attr ib u tes   an d   y   is   cla s s   lab el.   W as s u m th at  a s   d ata  in s ta n ce   x t   ar r iv e s ,   class if ier   C   p r ed icts   it s   clas s   lab el.   A f ter   s o m e   ti m e,   ac tu a class   lab el  y t   is   av ailab le  an d   is   u s ed   b y   clas s i f ie r   f o r   ev alu atio n   a n d   as  ad d itio n al  in f o r m at io n   f o r   tr ain i n g   p u r p o s e.   T h is   tech n i q u ca lled   s u p er v is ed   lear n in g   is   u s ed   b y   m o s o f   d ata  m i n in g   al g o r ith m s .   Ho w e v er   co n s tr ain t s   ap p lied   b y   s tr ea m   d ata  ar e   n o w ell  ad d r ess ed   b y   t h is   tech n iq u e. As  ti m e lo p es,  th e   co n ce p ab o u w h ic h   d ata  is   co llected   ch an g es  o v er   ti m e.   T h is   p h en o m e n o n ,   also   ca ll ed ,   co n ce p d r if is   d iv id ed   in to   t w o   m ai n   ca teg o r ies  as:  s u d d en   d r if a n d   g r ad u al  d r if t.  T h f ir s t y p o f   d r if o cc u r s   w h e n   s o u r ce   d is tr ib u tio n   o f   d ata  s tr ea m   is   s u d d en l y   r ep lace d   b y   a n o th er   d is tr ib u t io n   S .   T h lat er   t y p o f   d r if t   is   ass o ciate d   w ith   s lo w er   r ate  o f   ch an g e s   in   d ata  s tr ea m s .   T y p icall y ,   d ata  in s ta n ce s   f r o m   d if f er en s o u r ce   d is tr ib u tio n s   s tar m ix i n g ,   wh er p r o b ab ilit y   o f   o b s er v i n g   d ata  i n s ta n ce s   f r o m   n e w   s o u r ce   d is tr ib u tio n   in cr ea s es  a n d   th a o f   o ld   d is tr i b u tio n   d ec r ea s es  o v er   t i m M u ltip le  al g o r ith m s   h a v b ee n   p r o p o s ed   f o r   d ea lin g   w it h   co n ce p t d r if t s   i n   d ata  s tr ea m s .   Her w d escr ib w o r k s   r elate d   to   o u r   s tu d y   b r ief l y .       Dr if d etec to r   is   m ec h a n is m   u s ed   f o r   an al y zi n g   d ata  in s ta n c es  an d   tr ig g er i n g   alar m   a s   s o o n   as  d r if is   o b s er v ed .   T h tr ig g er   in d ica tes  n ee d   o f   r eb u ild in g   cla s s i f ier .   T h m o s p o p u lar   d r if t   d etec tio n   is   Dr i f t   Dete ctio n   Me th o d   i n   w h ic h   p r ed icted   lab els  ar co m p ar ed   w it h   ac tu al   lab els   f o r   d eter m i n in g   clas s if icatio n   er r o r s .   C lass i f i ca tio n   er r o r   is   m o n ito r ed   to   ch ec k   i f   it  f all s   b e y o n d   ce r tain   t h r es h o ld .   W h en   a n   er r o r   f alls   b ey o n d   th r es h o ld ,   alar m   is   s i g n al led   to   s to r in co m i n g   d a ta  in s ta n ce s   i n to   b u f f er .   W h en   alar m   lev e is   r ea ch ed ,   n e w   cla s s i f ier   i s   b u i ld   o n   d ata  in s ta n ce s   i n   b u f f e r   an d   o ld   class i f ier   i s   r e m o v ed . C o n ce p d r if i s   ad ap ted   in to   s y s te m   w h e n   s y s t e m   is   u p d ated   o v er   cu r r en t   co n ce p t.  T h p o p u lar   tech n iq u f o r   ac co m m o d ati n g   cu r r en co n ce p is   w in d o w i n g   tec h n iq u e.   T h is   tech n iq u e   h elp s   i n   k ee p in g   s elec ted   d a ta  in s tan ce s   i n   t h s y s te m .   W i n d o w i n g   tec h n iq u is   m o s w id el y   u s ed ,   s i n ce   it  k ee p s   m o s r ec en d ata  in s tan ce s   w h ile   eli m i n ati n g   d ata  in s ta n ce s   b el o n g i n g   to   o ld   co n ce p ts .   W in d o w   s ize  i s   co m m o n   tr ad e - o f f   d u to   th f ac t h at   lar g er   w i n d o w   s ize  h elp s   in   k ee p in g   tr ac k   o f   s lo w e r   ch a n g es,  b u f ail  i n   ca s o f   s u d d en   ch a n g e s ,   w h er ea s   s m al ler   w in d o w   s ize  ca n   ad a p s u d d en   d r if ts   e f f icie n tl y   as   co m p ar ed   to   g r ad u al  ch a n g e s . T h b est  w a y   f o r   d ea lin g   w i th   co n ce p t d r if ts   i n   d ata  s tr ea m s   i s   en s e m b le  tec h n iq u w h ic h   is   s et  o f   co m p o n en t c la s s if ier ,   v o tes   o f   w h ic h   ar co m b i n ed   to   p r ed ict  class   lab els.  E n s e m b le  cl ass i f ier s   ar b est  f o r   d ea lin g   w it h   c h an g e s   in   d ata   s tr ea m s   d u to   th eir   m o d u lar   n atu r e,   w h ich   allo w s   e n s e m b l to   b e   s tr u ctu r ed   eith er   b y   r e tr ain i n g   co m p o n e n class i f ier s   o r   b y   r ep lac in g   w e ak est  cla s s i f ier   b y   r ec en t l y   tr a in ed   class i f ier   o r   b y   u p d atin g   w ei g h ts   as s i g n ed   to   co m p o n e n t c la s s i f ier s   d ep en d i n g   o n   th eir   r esp ec ti v p er f o r m an ce s .       2.   RE S E ARCH   M E T H O D       Ma n y   al g o r ith m s   h a v b ee n   d ev elo p ed   w it h   v ar iatio n s   in   b asic  p r o ce s s in g   tech n iq u e   o f   en s e m b le   [8 ] ,   [ 9 ]   Min k u et.   a l.  [ 1 0 ]   p r o p o s ed   n e w   ap p r o ac h   t h at  k ee p s   d if f er en t   en s e m b le s   f o r   d ea li n g   w it h   d i v er s it y   o f   co n ce p ts .   I m ai n tai n s   d i f f er en en s e m b le s   o f   d ata  s tea m s   b e f o r co n ce p d r if a n d   af ter   co n ce p d r if t   i n   o r d er   to   k ee p   b o th   o ld   an d   n e w   co n ce p ts   in   t h s y s te m   Se n ar at n e et. al.   [ 1 2 ]   p r o p o s ed   f r am e wo r k   f o r   d eter m in i n g   h o ts p o o f   t w itter   ac ti v itie s   an d   d etec tin g   d r if ts   u s i n g   k er n el  d en s it y   esti m atio n   in   s tr ea m s   o f   t w ee ts .   B u i t   f ails   i n   d eter m i n in g   th t y p o f   d r if t   d etec ted   a n d   ta k in g   m ea s u r es   o v er   it.   W o v er co m t h i s   p r o b le m   b y   in te g r atin g   o n li n clas s i f ier   an d   b lo ck - b ased   clas s if ier   w i th in   s i n g le  en s e m b le  f o r   r ea ctin g   to   d if f er e n t y p e s   o f   d r if ts   e f f icien tl y . .   T o   m ai n tai n   m i n i m u m   n u m b er   o f   e n s e m b les,  w p r o p o s to   u s s lid in g   w i n d o w   tech n iq u w h ic h   h elp s   in   k ee p in g   m o s r ec e n d ata  in s ta n c es.  T h ese  d ata  in s ta n ce s   ar u s ed   f o r   r etr ain in g   co m p o n e n t   clas s i f ier s ,   s o   as  t o   k ee p   en s e m b le   u p d ated   o v e r   r ec en co n ce p t.   In   [ 1 3 ] ,   [ 1 4 ]   au t h o r s   p r o p o s ed   s y s te m   t h at  m ai n tai n s   en s e m b l o f   p er - f ea t u r clas s i f ier s .   O n class i f ier   is   m ai n tai n ed   f o r   s i n g le   f ea tu r o f   a   p ar ticu lar   class .   S u ch   all  p er - f ea tu r class i f ier s   o f   class   ar co m b i n ed   f o r   all  class es  m a k in g   it  h ier ar ch y   o f   w ei g h ted   clas s if ier s .   T h s y s te m   s p a n s   o v er   lar g m e m o r y   s p ac as  th n u m b er   o f   c l ass es  in cr ea s e s   a n d   th er eb y   in cr ea s in g   ti m o v er h ea d .   Ou r   s y s te m   an a l y ze s   f ea t u r es  o f   clas s   f o r   ch ec k i n g   o u f ea t u r es  r esp o n s ib l e   f o r   d r if t,  if   a n y   a n d   f o r   u p d ati n g   e n s e m b le  w it h   n ec e s s ar y   m ea s u r es.     T o   o v er co m th p r o b le m   o f   a v ailab ilit y   o f   a ctu a clas s   lab el s ,   lear n i n g   tech n iq u is   ca te g o r is ed   in to   t w o   t y p e s o n li n lear n in g   an d   b lo ck - b ased   lear n in g .   I n   f ir s ap p r o ac h ,   class if ier   p r ed ict s   an d   ev al u ates  a s   s o o n   as  d atai n s ta n ce   i s   av ai la b le.   W h er ea s   in   la ter   ap p r o ac h ,   b lo ck s   o f   d ata  in s ta n ce s   a r e   u s ed   f o r   ev al u ati n g   class i f ier   p er f o r m a n ce . L ittl e s t o n e   et.   al.   [ 1 5 ]   p u f o r w ar d   o n o f   th al g o r ith m s   f o r   o n li n lear n in g ,   W eig h ted   Ma j o r ity   Alg o r it h m   w h ic h   ag g r eg ate s   p r ed ictio n s   o f   co m p o n en cla s s i f ier s   a n d   u p d ates  w eig h ts   o f   clas s i f i er s   w h e n   p r ed icti o n s   g o   w r o n g .   An o th er   e n s e m b le  p r o p o s ed   b y   Ko tler et.   al.   [ 1 6 ]   m ain tain s   s et  o f   cla s s i f ier s ,   th e   w ei g h ts   o f   w h ic h   ar u p d ates  in cr e m e n tal l y   a f ter   ea ch   d ata  in s ta n ce .   On   ea ch   m is cla s s i f icatio n   o f   d ata  in s ta n ce ,   t h w eig h t s   o f   t h cl ass i f ier s   m ak in g   f a ls p r e d ictio n s   ar d ec r em e n ted .     Me m o r y   co n s tr ain t is   o n a m o n g   m an y   ch al len g es  w h ile  h an d lin g   d ata  s tea m s   w it h   co n ce p d r if t.   Ha y at  et .   al.   [ 1 7 ]   p r o p o s ed   co m p ac clu s ter in g   tech n iq u to   o v er co m th i s   p r o b lem .   T r a d itio n all y ,   ev er y   d ata   in s ta n ce   o f   b elo n g in g   to   clu s ter   w as  u s ed   f o r   ev al u ati n g   th clu s ter .   T h p r o p o s ed   co m p ac cl u s ter i n g   alg o r ith m   u s es  o n l y   n ei g h b o u r h o o d   in s tan ce s   f o r   class i f icatio n   an d   clu s ter s   f o r m ed   f r o m   u n clas s if ied   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2088 - 8708       C o n ce p t D r ift I d en tifi ca tio n   u s in g   C la s s if ier E n s emb le  A p p r o a ch   ( Leen a   Desh p a n d e)   21   in s ta n ce s   ar co m p ar ed   w it h   c lu s ter s   o f   clas s i f ied   in s ta n ce s   f o r   ch ec k in g   ab n o r m alit y   an d   d etec tin g   d r if t s . Gao   et.   al.   [ 1 8 ]   p r o p o s ed   f r am e w o r k   f o r   d etec tin g   d r if as  w ell  as  n e w   e m er g i n g   clas s es  i n   d ata  s tr ea m s   u s i n g   ti m co n s tr ain ts .   T h p r o p o s ed   s y s te m   m ai n tai n s   b u f f er   o f   i n s t an ce s   u n c lass if ied   b y   en s e m b le  f o r   ce r tain   t i m e   p er io d .   I n s tan ce s   r e m ai n i n g   u n clas s i f ied   a f ter   ti m l i m it  e x p ir y   ar co n s id er ed   to   b f o r m i n g   d r if t   an d   ar f u r t h er   an a l y ze d   f o r   n o v el  cl a s s   e v o lu tio n .   E v o l u tio n   o f   n o v el  clas s es  i s   an o t h er   ch al len g in   lear n i n g   f r o m   d ata  s tr ea m s   i n   w h ic h   n e w   class es  e m er g o v er   ti m g e n er atin g   t h n ee d   o f   r e s tr u ct u r in g   e n s e m b le  b y   b u ild in g   n e w   clas s i f ier   f o r   n e w   clas s   an d   eli m in at in g   th e   w ea k e s co m p o n e n clas s if ie r .   No v el  class   an d   f ea t u r ev o lu t io n   h a v b ee n   s tu d ied   an d   m a n y   al g o r ith m s   h av b ee n   p r o p o s ed   f o r   d ea lin g   w it h   th e s is s u e s   [ 1 9 - 2 1 ] .       T h p r o p o s ed   s y s te m   f o r   h a n d lin g   co n ce p d r i f ts   in   d ata  s tr ea m s   u s es   en s e m b le   clas s i f ier   tech n iq u e   f o r   b u ild i n g   b ase  c lass if ier s   an d   u s i n g   t h e m   f o r   clas s if ic atio n   o f   te s ti n g   d ata.   T h s y s te m   b u i ld s   o n lin e   class i f ier   as  s o o n   as  n e w   d ata  in s ta n ce   is   av a ilab le  an d   wh en   b lo ck   o f   f i x ed   n u m b er   o f   d ata  in s ta n ce s   is   f o r m ed ,   b lo ck   b ased   c     class if ier   is   d ev elo p ed .   T h class if icatio n   o f   in   co m i n g   d ata  in s ta n ce   is   d o n u s i n g   w ei g h te d   m aj o r it y   o f   b ase  clas s i f ier s   u s in g   w ei g h tin g   f u n ctio n s   as:     W h er e,     is   w ei g h t o f   b ase  clas s if ier     at  ti m an d   )   is   th ac cu r ac y   o f   class if ier     at  ti m .   T h ac cu r ac y   an d   er r o r   r ates   ar m o n ito r ed   f o r   ea ch   t y p o f   class if ier   co n tin u o u s l y   o v er   b lo ck s   o f   d ata  in s ta n ce s   u s in g   E r r o r   R ate  f u n ctio n   as:     W h er e,     is   t h er r o r   r ate  o f   cla s s i f ier   o n   r ec en b lo ck     o f   d ata  in s tan ce s   a n d   is   th p r o b ab ili t y   g iv e n   b y   t h clas s i f ier   th at    is   an   in s ta n ce   o f   clas s   .   As  th v al u o f   er r o r   r ate  m o n ito r in g   cr o s s e s   ce r tain   t h r es h o ld ,   d r if is   d etec ted .   T h ese  d r if ts   a r an al y ze d   a n d   en s e m b le  is   u p d ated   ac co r d in g l y .       3.   RE SU L T A ND  AN AL Y SI S     I n   o u r   ex p er i m e n ts ,   w ev a lu ate  o u r   p r o p o s ed   en s e m b le  th at  co m b i n es  o n l in cla s s i f ier   an d   b lo ck - b ased   class if ier .   W i m p le m en ted   o u r   en s e m b le  s y s te m   in   J av a.   T h ex p er im e n ts   wer p er f o r m ed   o n   co m p u ter   s y s te m   w it h   I n te l C o r i5   4 8 0 @ 2 . 6 7   GHz   p r o c ess o r   an d   4 . 0 0   GB   o f   R A M.     W test ed   th p er f o r m a n ce   o f   en s e m b le  w it h   s i n g le  co m p o n en cla s s i f ier s .   O u r   en s e m b le   u s ed   k =5   co m p o n e n cla s s i f ier s N B   Tr ee ,   J4 8 ,   Lo g is tic,   R a n d o F o r est   an d   B a g g in g .   T h s ize  o f   b lo ck   u s ed   f o r   all   co m p o n e n t   clas s i f ier s   a n d   en s e m b le  w a s   eq u al   d =1 0 0   as  th i s   s ize   w as  b e s s u itab le   f o r   m o r ac cu r ate  r esu lts .   W ev al u ated   en s e m b le   p er f o r m an ce   f o r   d i f f er en s izes   o f   b lo ck 5 0 ,   1 0 0 ,   2 0 0 ,   5 0 0   an d   1 0 0 0 .   W o b s er v ed   th at  t h e   s ta tis tica co m p ar i s o n s   o f   p er f o r m a n ce s   o f   en s e m b l f o r   ea c h   o f   ab o v e   b lo ck   s ize   g i v es   b etter   r es u lt s   in   ter m s   o f   ac c u r ac y   w h e n   b lo ck   s ize  w as  1 0 0 .   Ho w e v er   B lo ck   s ize  d o es  n o alter   en s e m b le  ac cu r ac y   s ig n i f ica n tl y ,   b u b lo ck   s ize  m atter s   i n   ca s o f   d r if d etec tio n .   I f   th e   b lo ck   s ize   is   lar g it   ig n o r es  d r if t s   th at   last ed   f o r   s m a ll ti m e,   w h i le  s m aller   b lo ck   s ize  d etec ts   d r i f ts   ev en   i f   t h er ar b lip s   o r   n o is in   d ata  s tr ea m s .   R ea w o r ld   d ata  co n tai n   n o   p r ec is in f o r m atio n   ab o u o cc u r r en ce   o r   ty p o f   d r if ts   i n   it.  So   it  is   p r ac ticall y   i m p o s s ib le  to   test   th d esire   ac cu r ac y   in   ter m s   o f   d r if h o wev er   m a n u al  d r if is   to   b in s er ted   in   th d ata  to   ac h iev e   t h tar g et. So   w e   d ec id ed   to   u s e   p u b licall y   a v ailab le   m ac h in e   lear n i n g   b en c h m ar k   d atasets   g at h er ed   in   th UC I   r ep o s ito r y   [ 2 2 ]   th at  s i g n i f ied   p r esen ce   o f   g r ad u al  d r i f ts .     W ev alu a te  o u r   e n s e m b le  o f   o n lin e   clas s i f ier   an d   b lo ck - b as ed   class i f ier   a g ai n s s i n g le   cla s s i f ier s   a s   w ell W e   ch o s J 4 8 ,   NB   T r ee ,   L o g is tic,   R a n d o m   Fo r est   an d   B ag g in g   as  co m p o n en t   class if ier s   o f   b asic  en s e m b le.   T h en s e m b le  is   f u r th er   m o d if ied   f o r   lear n i n g   i n cr e m e n tall y   a s   w ell  a s   i n   b l o ck s   o f   f i x ed   s ize.   Fro m   p er f o r m a n ce   co m p ar is o n   o f   p r o p o s ed   en s e m b le  w it h   c o m p o n en t c la s s i f ier s   a s   s h o w n   in   T ab le  1 ,   w ca n   s ee   th at  en s e m b le  i m p r o v es  t h ac cu r ac y   o f   class if icatio n   o n   all  d atasets   an d   en s e m b le  tak es  eq u al  p r o ce s s in g   ti m e.         T ab le  1.   P er f o r m a n ce   C o m p ar is o n   b et w ee n   C o m p o n e n C las s if ier   a n d   P r o p o s ed   E n s e m b le     C l a ssi f i e r   C l a ssi f i e r   a c c u r a c y   ( i n   %) o n   C e n su s   i n c o me   d a t a se t   S p a m e ma i l   d a t a se t   El e c t r i c i t y   d a t a se t   N B   T r e e   8 6 . 6 9 5 7   8 3 . 4 6 2 4   7 2 . 9 6 5 2   J4 8   8 7 . 1 9 0 1   8 5 . 0 8 7 9   8 0 . 4 7 4 9   L o g i st i c   8 5 . 2 0 6 2   8 4 . 4 4 4 4   7 6 . 0 9 7 9   R a n d o m F o r e st   8 4 . 4 7 2 6   8 8 . 1 5 5 3   8 1 . 9 8 5 3   B a g g i n g   8 7 . 1 2 5 7   8 6 . 0 1 3 7   8 3 . 3 4 8 5   P r o p o se d   En se mb l e   9 4 . 4 0 9 4   9 2 . 6 4 9 5   9 2 . 8 4 2 6   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   1 Feb r u ar y   201 8   :   19     25   22     T r a d itio n al  ap p r o ac h   o f   cla s s i f y in g   te s ti n g   d ataset  a g ai n s t   g iv en   tr ai n in g   d ata s et  b ec o m e s   in e f f ic ien t   w h ile  d ea li n g   w it h   d ata  s tr ea m s ,   a s   th d ata  s tr ea m s   k ee p   ar r iv in g   u n b o u n d ed l y   a n d   te s tin g   d ataset  is   n o co m p lete l y   a v ailab le.   T h m o d if icatio n   to   e n s e m b le  b y   ad d i n g   o n li n an d   b lo ck - b ased   lea r n in g   co m p o n e n to   class i f ier s   s h o w s   s i g n i f ican r o le  f o r   k ee p in g   tr ac k   o f   cla s s if ica tio n   ac c u r ac ies.  T h u s   t h t w o   ap p r o ac h es:   o n lin cla s s i f icatio n   an d   b lo ck - b a s ed   class i f icatio n   ar ap p lied   to   s o lv th is   is s u e.   T h e s ap p r o ac h es  h elp   in   m o n ito r i n g   cla s s i f ier   p er f o r m a n ce s   as d ata  i n s ta n ce s   ar r iv a n d   k ee p s   tr ac k   o f   ch a n g e s   in   d ata  s tr a m .       I n   b lo ck - b ased   tech n iq u e,   s iz o f   th b lo ck   ca n   b in s tan c b ased   o r   tim b ased .   I n   in s t an ce   b ased   tech n iq u e,   b lo ck s   o f   f i x ed   n u m b er   o f   in s ta n ce s   ar u s ed .   W h ile  i n   ti m b ased   tech n i q u e,   b lo ck s   o f   d at a   in s ta n ce s   ar r i v in g   o v er   s p ec i f i ti m p er io d   ar u s ed .   A s   d a ta  s tr ea m s   ar r iv at  an y   r ate,   i is   n o f ea s ib le  to   k ee p   tr ac k   o f   p er f o r m a n ce   i n   t i m b ased   tec h n iq u e,   s in ce   s o m b lo ck s   w i ll   b d en s el y   p o p u lated   w h ile  o t h er s   b ein g   r ar el y   p o p u lated .   W o b s er v ed   th i s   p atter n   in   e lec tr icit y   d ata  w h er d e m an d   a n d   s u p p l y   c h an g e s   d r asti ca ll y   w it h   d i f f er e n t i m s ta m p s   W e v al u ated   o u r   en s e m b le  u s i n g   d if f er e n t   s izes   o f   b lo c k   a n d   co m p ar ed   o u r   r es u l ts   w it h   e x p er i m en ts   co n d u cted   u s i n g   M O A   f r a m e w o r k .   T h r esu lts   ar s h o w n   i n   T ab le  2 .   Fro m   th e x p er i m e n ts   w co n clu d ed ,   alth o u g h   p er f o r m an ce   o f   en s e m b le  r e m ai n s   co n s ta n t   f o r   an y   b lo ck   s ize,   th b lo ck   s ize  o f   1 0 0   in s ta n ce s   g i v es  r es u lt s   f o r   d r if d etec ti o n   s i m ilar   to   th o s o b tain ed   u s in g   s ta n d ar d   MO A   ( Ma s s i v On l in An al y s i s )   f r a m e w o r k .   T h u s   f o r   f u r th er   e x p er i m en ts   w u s ed   1 0 0   in s tan ce s   as b lo ck   s ize.       T ab le   2.   P er f o r m a n ce   co m p ar i s o n   u s i n g   d i f f er e n t b lo ck   s ize   B l o c k   s i z e   ( i n   n o .   o f   i n st a n c e s)   A v e r a g e   a c c u r a c y   o f   En se mb l e   N o .   o f   d r i f t s   d e t e c t e d   50   8 6 . 0 8 9 3   7   1 0 0   8 6 . 0 8 1 0   3   2 0 0   8 6 . 0 3 2 4   1   5 0 0   8 5 . 9 9 2 8   1   1 0 0 0   8 5 . 9 5 7 4   0         T ab le   3   s h o w s   d r if t s   d etec tio n   u s i n g   o n lin a n d   b lo ck - b ased   m eth o d   to   en s e m b le.   W an al y s ed   th a t   f o r   an y   d atase o u r   e n s e m b le   w o r k s   w ell  i n   co m p ar is o n   with   t h e   co m p o n e n cla s s i f ier s ,   o n li n a n d   b lo ck - b ased   class if icatio n   w h ile  d ete ctin g   g r ad u al  a n d   s u d d en   d r i f t s   ef f icie n tl y .       T ab le  3.   P er f o r m a n ce   co m p ar i s o n   u s i n g   o n lin a n d   b lo ck - b a s ed   tech n iq u e     C l a ssi f i e r   A c c u r a c y   C o mp a r i so n u s i n g :   O n l i n e   t e c h n i q u e   o v e r :   B l o c k - b a se d   t e c h n i q u e   o v e r :   C e n su s   i n c o me   d a t a se t   S p a m e ma i l   d a t a se t   C e n su s   i n c o me   D a t a se t   S p a m e ma i l     d a t a se t   N B   T r e e   8 1 . 4 6 5 9   7 8 . 6 5 3 7   8 5 . 5 6 4 9   8 1 . 1 8 5 6   J4 8   7 9 . 7 6 5 2   7 2 . 7 6 2 0   8 4 . 7 6 1 0   7 8 . 6 9 7 0   L o g i st i c   7 8 . 3 6 5 2   7 4 . 9 5 3 9   8 3 . 9 8 6 5   7 8 . 0 6 5 2   R a n d o m F o r e st   8 3 . 6 5 7 5   7 4 . 2 8 8 6   8 3 . 4 5 6 9   7 9 . 9 0 9 9   B a g g i n g   8 0 . 3 3 1 5   7 6 . 2 4 4 9   8 5 . 7 3 2 6   8 3 . 6 6 6 6   P r o p o se d   En se mb l e   8 7 . 2 5 4 6   8 8 . 0 2 4 1   8 7 . 2 7 0 1   8 6 . 1 6 3 5   N o .   o f   d r i f t s   d e t e c t e d   -   4   3   1         Fu r t h er   w a n al y s ed   t h e   d etec ted   d r if ts   to   ex tr ac t h h id d en   p atter n s   i n   d r if ts   t h at  co u ld   p o ten tiall y   h elp   u s   to   f i n d   o u t h tec h n i q u th at   ca n   r esp o n d   w h e n   n ex d r if t   en co u n ter s .   T h an al y s i s   o f   d r i f ts   s h o w s   th at  v a lu e s   o f   f e w   a ttrib u te s   ar s ig n i f ican tl y   m i s s i n g   an d   th i s   lead s   to   o n o f   th r o o ca u s b eh in d   d r if t.  T h an al y s is   o f   b lo ck   b e f o r an d   af ter   d r if co n cl u d ed   t h at  f e b lo ck s   b e f o r d r if t,  m i s s i n g   v alu e s   o f   attr ib u te s   s tar ted   to   o b s er v e   in   asce n d i n g   w a y   to w ar d s   d r if t   an d   i n   d escen d i n g   w a y   a f ter w ar d s   th d r i f t.  T h p ea k   f r eq u en c ies  o f   m is s i n g   v al u es  w er n o ticed   d u r i n g   d r if t.  T h r esu lts   o b tain ed   as  s h o w n   in   T ab le   4   s u m m ar ize  th at  as  t h f r eq u en c y   o f   m is s in g   v al u es  s tar ted   to   in cr ea s e,   th p er f o r m a n ce   o f   en s e m b l s tar ted   d eg r ad in g   an d   v i s v er s a.   T h v a lu e s   o f   att r ib u tes  li k w o r k cla s s ,   o c cu p atio n   a n d   n ati v co u n tr y   w er f o u n d   m i s s i n g   d u r in g   d r if ts .     T h s a m p atter n   as  s h o w n   i n   T ab le  4   w as  o b s er v ed   f o r   all  th f u r th er   d r i f ts   i n   C en s u s   i n co m e   d ataset.   T h is   i s   r ec u r r i n g   t y p e   o f   d r if t.  A l s o   w co m p u ted   t h i n f o r m atio n   g ain   o v er   t h attr ib u tes  o f   C e n s u s   in co m e   d ataset  a n d   w o b s er v ed   th a t h attr ib u tes  t h at  w e r f o u n d   m is s in g   d u r in g   d r if ar ass o ciate d   w it h   h ig h e s v al u es  o f   in f o r m a tio n   g ain ,   t h er eb y   lead in g   to   b th m ai n   co n tr ib u to r   to   class i f icatio n   tas k .   T h u s   h an d li n g   m i s s i n g   v al u e s   o f   att r ib u tes is   al s o   o n o f   th k e y   t ask   i n   o u r   p r o p o s ed   s y s te m .     W p er f o r m ed   m an y   ex p er i m en ts   f o r   h an d li n g   m is s i n g   v al u es  o f   attr ib u te s   b y   eith er   r em o v i n g   th e   in s ta n ce   th a ca r r ies  m is s i n g   v alu e s   o r   b y   r ep lacin g   th e m   u s i n g   m ea n - m o d e   i m p u tatio n .   W r ep lace d   th Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2088 - 8708       C o n ce p t D r ift I d en tifi ca tio n   u s in g   C la s s if ier E n s emb le  A p p r o a ch   ( Leen a   Desh p a n d e)   23   m is s i n g   v alu e s   o f   n u m er ic  t y p o f   attr ib u tes  b y   m ea n   o f   v alu es  o b s er v ed   in   p r ev io u s   i n s tan ce s   an d   m is s i n g   v alu e s   o f   n o m i n al  attr ib u tes  b y   m o d e.   T h g r ap h   s h o w n   in   Fig u r 1   d escr ib es  th at  r ep lacin g   m i s s i n g   v al u e s   b y   m ea n - m o d i m p u tatio n   s h o w s   i m p r o v ed   p er f o r m an ce   o v er   o th er   tech n iq u e s n o d ea lin g   w it h   m i s s i n g   v alu e s   an d   r e m o v i n g   m i s s i n g   v alu e s .       T ab le  4 .   Su m m ar y   o f   d etec ted   d r if ts   B l o c k s o b se r v e d   C o u n t   o f   m i ssi n g   v a l u e s   En se mb l e   A c c u r a c y   o v e r   b l o c k s   w o r k c l a ss   o c c u p a t i o n   n a t i v e   c o u n t r y   1 0   b l o c k b e f o r e   d r i f t   6   6   2   8 7 . 7 5 1 0   5   b l o c k b e f o r e   d r i f t   14   14   8   8 6 . 5 4 6 1   D r i f t   b l o c k s   31   31   10   8 3 . 6 9 9 3   5   b l o c k a f t e r   d r i f t   18   20   8   8 6 . 9 4 9 1   1 0   b l o c k s a f t e r   d r i f t   9   10   4   8 7 . 5 4 2 1       An o th er   p r o b le m   th at  ca u s es  p er f o r m a n ce   lo s s   o f   class i f ier   is   th tr ain i n g   d ataset.   C o n c ep d r if is   th s ce n ar io   w h er o ld   co n ce p o cc u r s   w it h   les s   p r o b ab ilit y   an d   n e w   co n ce p i s   m o s tl y   s ee n .   I n   t h is   s itu a tio n ,   class i f ier s   s h o w   d e g r ad ed   p er f o r m a n ce s .   T h is   is   b ec au s c lass i f ier s   ar tr ain ed   o n   d ataset  th at  ca r r ies  o ld   co n ce p an d   d ata  in s tan ce s   t h a ar b ein g   cla s s i f ied   b elo n g   t o   n e w   co n ce p t.  T h u s i n co r p o r atin g   n e w   co n ce p in   lear n i n g   p r o ce s s   i s   a n   i m p o r tan ta s k .   T h is   ca n   b d o n i n   t w o   w a y s :   b y   u s in g   j u s c la s s i f ied   r ec en b lo ck   o f   d ata  in s tan ce s   f o r   r etr ain i n g   class i f ier   en s e m b le  o r   b y   a d d in g   r ec en b lo ck   o f   d ata  in s tan ce s   to   tr ain in g   d ataset  iter ati v el y   an d   u s i n g   it   f o r   r etr ain i n g   en s e m b le.   W c o n d u cted   d if f er en t e x p er i m e n t s   in   w h ich   f o r   ea c h   ca s e,   w c h a n g ed   tr ai n in g   d a taset  in   th r ee   d if f er e n ap p r o ac h es.  I n   t h f ir s ap p r o ac h ,   w d id   n o r etr ai n   en s e m b le  o n ce   i is   tr ain ed   at   s tar tin g   w i th   p r o v id ed   s ta n d a r d   tr ain in g   d ataset.   I n   s ec o n d   ap p r o ac h ,   w f ir s t   tr ain ed   en s e m b le  u s i n g   s tan d ar d   tr ain in g   d ataset  a n d   te s te d   th f ir s b lo ck   o f   d ata   i n s ta n ce s .   W u s ed   th is   r ec en tl y   tes ted   b lo ck   f o r   r etr ain i n g   t h e n s e m b le  a n d   te s ti n g   n e x t   b lo ck   o f   d ata   in s ta n ce s .   T h p r o ce s s   i s   r ep ea ted   iter ativ el y   f o r   n ex b lo ck s   o f   d ata  s tr ea m s .   T h is   ca s o f   k ee p in g   r ec en tl y   cla s s i f ie d   b lo ck   as  tr ain in g   d ataset  m ai n tain s   th cu r r e n co n ce p t,  b u f ails   to   k ee p   tr ac k   o f   o ld   co n ce p ts   as  tim p r o ce ed s .   T h u s   in   t h ir d   ap p r o ac h ,   w h ile  p r o ce ed in g   f o r w ar d   w s i m p l y   ad d ed   r ec en tl y   clas s i f ied   b lo ck   to   th t r ain in g   d ataset  a n d   th en   r etr ai n ed   th e   e n s e m b le.   Fig u r e   2   s h o w s   t h p er f o r m a n ce   o f   en s e m b le  u s i n g   t h ab o v th r ee   ap p r o ac h es   o f   r etr ain in g   en s e m b le.   T h r esu lt s   co n cl u d es  th at  ad d in g   r ec en b lo ck   o f   d ata  in s ta n ce s   to   p r o v id ed   s tan d ar d   tr ain i n g   d ataset  i s   w is s o lu t io n   an d   i m p r o v e s   th p er f o r m an ce   o f   en s e m b le  v er y   w e ll.             Fig u r 1 .   P er f o r m a n ce   co m p ar is o n   b et w ee n   d i f f er en tech n iq u es o f   h a n d lin g   m is s i n g   v al u es     Fig u r e   2 .   P er f o r m a n ce   co m p ar is o n   b et w ee n   d if f er e n t a p p r o ac h es o f   r e - tr ai n in g   e n s e m b le       4.   CO NCLU SI O N     Mo s o f   r ec en ap p licatio n s   g en er ate  lar g v o l u m es  o f   d ata   at  r ap id   r ate,   th u s   e s tab lis h i n g   th n ee d   o f   s p ec ial  d ata  m in i n g   tech n i q u es  f o r   cr itical  s en s iti v ap p licatio n s .   Da ta  s tr ea m   m in i n g   is   s o lu tio n   to   t h e   p r o b lem .   Data   s tr ea m   m i n i n g   p o s es  ch alle n g es  li k li m ite d   m e m o r y   s to r ag e,   p er f o r m a n ce   an d   c h an g i n   co n ce p ts   u n d er l y i n g   d ata.   I d en ti f icatio n   o f   t w o   t y p es  o f   d r if ts ,   s u d d en   an d   g r ad u al  d r if t   m a y   d eg r ad th e   class i f ier s   p er f o r m a n ce   i n   ter m s   o f   ac c u r ac y .   T o   m o n ito r   s u ch   ca u s es  a n d   p ar a m eter s   o f   d r if id en tific atio n ,   o u r   p r o p o s ed   e n s e m b le  co m b in es  th c h ar ac ter is tics   o f   o n lin clas s i f icatio n   tech n iq u an d   b lo ck - b ased   class i f icatio n   tec h n iq u a n d   d etec ts   b o th   t y p es  o f   d r if t s   e f f i cien tl y .   F u r th er   o u r   s y s te m   a n al y ze s   th ea t tr ib u tes   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  8 ,   No .   1 Feb r u ar y   201 8   :   19     25   24   w h ic h   ar r esp o n s ib le  b eh i n d   th ch a n g in   ac c u r ac y . No i sy ,   u n b ala n ce   d ata  an d   m i s s i n g   v alu e s   o f   attr ib u tes   w er f o u n d   to   b th r o o ca u s b eh i n d   th d r i f t   [ 2 3 ] .   Ou r   p r o p o s ed   s y s te m   s h o w s   i m p r o v ed   p er f o r m an ce   w h ile  d etec ti n g   b o th   k i n d s   o f   d r if ts   ef f ic ien t l y . Ho w e v er   o u r   w o r k   f o cu s es o n   o f f l in s tr ea m i n g   d ata .     T h co n tr ib u tio n   o p en s   s ev e r al  d ir ec tio n s   f o r   r esear ch   s tu d ies.  C u r r e n w o r k s   i n   d a ta  s tr ea m   class i f icatio n   f o c u s   d etec tio n   o f   co n ce p d r if t.  A d ap tio n   o f   d r if ts   to   th s y s te m   lead s   to   n e w   li n o f   r esear c h .   An   i n ter est in g   f u tu r w o r k   w o u ld   b to   id en ti f y   e v o lu tio n   o f   n e w   co n ce p ts   f o r   o n li n s tr ea m i n g   d ata .   R ec e n t   tech n iq u es c a n   b f u r th er   ex te n d ed   f o r   s o lv i n g   n o v elt y   d etec tio n   p r o b lem .       RE F E R E NC E S   [1 ]   J.  Ha n ,   Da ta  M in in g Co n c e p ts  a n d   T e c h n iq u e s” ,   M o rg a n   Ka u f m a n n   P u b l ish e rs  In c . ,   S a n   F ra n c isc o ,   CA ,   USA ,   2 0 0 5 .   [2 ]   N.  L it tl e sto n e ,   M . K.  W a rm u th ,   T h e   w e ig h ted   m a jo rit y   a l g o rit h m ,   In f.   C o mp u t .   1 0 8   ( 2 (1 9 9 4 2 1 2 2 6 1 .   [3 ]   M . M .   M a u s u d ,   J.  G a o ,   L .   Kh a n ,   J.  Ha n ,   a n d   B.   T h u ra isin g h a m ,   Clas si f ica ti o n   a n d   n o v e c las d e tec ti o n   in   c o n c e p t - d rif ti n g   d a ta  stre a m u n d e ti m e   c o n stra i n ts” ,   IEE T ra n s.  On   Kn o wled g e   a n d   Da t a   En g i n e e rin g   V o l .   2 3 ,   N o .   6 ,   p p .   8 5 9 - 8 7 3 ,   J u n e   2 0 1 1 .   [4 ]   Bif e t,   G .   Ho l m e s,  Rr.   Kirk b y ,   B.   P f a h rin g e r,   M OA M a ss iv e   On li n e   A n a ly si s” ,   J.  M a c h .   L e a rn .   Re s.  1 1 ( 2 0 1 0 )   1 6 0 1 - 1 6 0 4 .   [5 ]   J.  Ha n ,   Da ta  M in in g Co n c e p ts  a n d   T e c h n iq u e s” ,   M o rg a n   Ka u f m a n n   P u b l ish e rs  In c . ,   S a n   F ra n c isc o ,   CA ,   USA ,   2 0 0 5 .   [6 ]   N.C.   Oz a ,   S . J.  Ru ss e ll ,   Exp e rime n ta c o mp a riso n o o n li n e   a n d   b a tc h   v e rs io n o b a g g in g   a n d   b o o st in g ,   i n :   P r o c .   7 th   A CM   S IG KD D In t.   Co n f .   Kn o w l.   Disc .   Da ta M in . ,   A CM   P re ss ,   Ne w   Yo rk ,   NY ,   USA ,   2 0 0 1 .   [7 ]   N.  S tree t,   Y.  Kim ,   stre a min g   e n se mb le  a lg o rith ( S EA f o l a rg e - sc a le  c la ss if ica ti o n ,   i n P r o c .   7 t h   A CM   S IG KD D In t.   Co n f .   Kn o w l.   Disc .   Da ta M in . ,   A CM   P re ss ,   Ne w   Yo rk ,   NY ,   USA ,   2 0 0 1 .   [8 ]   N.  L it tl e sto n e ,   M . K.  W a rm u th ,   T h e   w e ig h ted   m a jo rit y   a l g o r it h m ,   In f.   C o mp u t .   1 0 8   ( 2 (1 9 9 4 2 1 2 2 6 1 .   [9 ]   X .   Zh u ,   P .   Z h a n g ,   X .   L in ,   a n d   Y.   S h i ,   A c ti v e   lea rn in g   f ro m   stre a m   d a ta  u sin g   c las sif i e e n se m b le” ,   IEE T ra n s.   On   S y ste ms ,   M a n   a n d   Cy b e rn e ti c s -   Pa rt B Cy b e rn e ti c s ,   V o l.   4 0 ,   No .   6 ,   p p .   1 6 0 7 - 1 6 2 1 ,   De c .   2 0 1 0 .   [1 0 ]   L . L .   M in k u   a n d   X .   Ya o ,   DD D:  n e w   e n se m b le  a p p ro a c h   f o d e a li n g   w it h   c o n c e p d rif t”,  IEE T ra n s.  On   Kn o wled g e   a n d   D a ta   En g i n e e rin g ,   V o l .   2 4 ,   N o .   4 ,   p p .   6 1 9 - 6 3 3 ,   A p ril   2 0 1 2 .   [1 1 ]   X .   Zh u ,   P .   Z h a n g ,   X .   L in ,   a n d   Y.   S h i ,   A c ti v e   lea rn in g   f ro m   stre a m   d a ta  u sin g   c las sif i e e n se m b le” ,   IEE T ra n s.   On   S y ste ms ,   M a n   a n d   Cy b e rn e ti c s -   Pa rt B Cy b e rn e ti c s ,   V o l.   4 0 ,   No .   6 ,   p p .   1 6 0 7 - 1 6 2 1 ,   De c .   2 0 1 0 .   [1 2 ]   J.  Ha n ,   Da ta  M in in g Co n c e p ts  a n d   T e c h n iq u e s” ,   M o rg a n   Ka u f m a n n   P u b l ish e rs  In c . ,   S a n   F ra n c isc o ,   CA ,   USA ,   2 0 0 5 .   [1 3 ]   M e e n a k sh A n u ra g   T h a lo r ,   S h ri sh a il a p a   P a ti In c re m e n tal  L e a rn in g   o n   No n - sta ti o n a ry   Da ta  S trea m   u sin g   En se m b le  A p p ro a c h ,   In ter n a ti o n a J o u rn a o f   El e c trica a n d   Co m p u ter   E n g i n e e rin g Vo l   6 ,   N o   4 A u g u st 2 0 1 6 .   [1 4 ]   B.   P a rk e r,   A . M .   M u sta f a ,   a n d   L .   Kh a n ,   N o v e c la ss   d e tec ti o n   a n d   fea tu re   v ia   a   ti e re d   e n se mb le   a p p ro a c h   fo r   stre a min in g ,   IEE 2 4 th   In tern a ti o n a Co n f e re n c e   o n   T o o ls  w it h   A rti f icia In telli g e n c e ,   V o l.   1 6 ,   No .   8 ,   p p .   1 1 7 1 - 1 1 7 8 ,   N o v .   2 0 1 2 .   [1 5 ]   M a im o n ,   L .   Ro k a c h   (Ed s.),   Da ta   M in i n g   a n d   Kn o w led g e   Disc o v e r y   H a n d b o o k ,   2 n d   e d . ,   S p ri n g e r,   2 0 1 0 .   [1 6 ]   L . I.   Ku n c h e v a ,   Cla ss if ier   e n se mb les   fo c h a n g i n g   e n v iro n me n t s” ,   in P ro c .   5 th   M C S   In t .   W o rk sh o p   o n   M u lt .   Clas s.  S y st.,   LNCS ,   v o l.   3 0 7 7 ,   S p rin g e r,   2 0 0 4 .   [1 7 ]   M . Z.   Ha y a a n d   M . R.   Ha sh e m i ,   DCT  Ba se d   Ap p ro a c h   fo D e tec ti n g   No v e lt y   a n d   Co n c e p Dr if in   d a t a   stre a ms ,   IEE C o n f e re n c e   o n   S o f Co m p u ti n g   a n d   P a tt e rn   Re c o g n it io n ,   p p .   3 7 3 - 3 7 8 ,   De c .   2 0 1 0 .   [1 8 ]   M . M .   M a u s u d ,   J.  G a o ,   L .   Kh a n ,   J.  Ha n ,   a n d   B.   T h u ra isin g h a m ,   Clas si f ica ti o n   a n d   n o v e c las d e tec ti o n   in   c o n c e p t - d rif ti n g   d a ta  stre a m u n d e ti m e   c o n stra in ts” ,   IEE T ra n s.  On   Kn o wled g e   a n d   Da t a   En g i n e e rin g   V o l .   2 3 ,   N o .   6 ,   p p .   8 5 9 - 8 7 3 ,   J u n e   2 0 1 1 .   [1 9 ]   M . M .   M a su d ,   Q.  C h e n ,   L .   Kh a n ,   C. C.   A g g a r w a l,   J.  G a o ,   J.  Ha n ,   A .   S riv a sta v a ,   a n d   N.C.   Oz a ,   Clas sif ica ti o n   a n d   A d a p ti v e   No v e Clas De t e c ti o n   o f   F e a tu re   Ev o lv in g   Da t a   S tre a m s” ,   IEE T ra n s.  On   Kn o wled g e   a n d   Da t a   En g i n e e rin g ,   V o l.   2 5 ,   N o .   7 ,   p p .   1 4 8 4 - 1 4 9 6 ,   J u ly   2 0 1 3 .   [2 0 ]   M . M .   M a su d ,   J.   G a o ,   L .   Kh a n ,   J.   Ha n   a n d   B .   T h u ra isin g h a m ,   In teg ra ti n g   No v e Clas D e tec ti o n   w it h   Clas sif ic a ti o n   o f   Co n c e p Drif ti n g   Da ta S trea m s” ,   ECM L ,   S p rin g e r/P KD D ,   p p .   7 9 - 9 4 ,   2 0 1 0 .   [2 1 ]   M . M .   M a su d ,   Q.  Ch e n ,   L .   Kh a n ,   C. C.   A g g a r w a l,   J.  Ga o ,   J.  Ha n ,   a n d   B.   T h u ra isin g h a m ,   Ad d re ss in g   C o n c e p t - Evo lu ti o n   in   Co n c e p Dr if t i n g   D a ta   S tre a ms ,   IEE In tern a ti o n a Co n f e re n c e   o n   d a ta m in in g ,   p p .   9 2 9 - 9 3 4 ,   2 0 1 0 .   [2 2 ]   F ra n k ,   A .   As u n c io n ,   UCI m a c h in e   lea rn in g   re p o sit o ry   2 0 1 0 . < h tt p :/ /arc h iv e . ics . u c i. e d u /m l/ d a tas e ts>   [2 3 ]   F a tm a   K a re m ,   M o u n ir  Dh ib i ,   A rn a u d   M a rti n ,   M e d   S a li m   Bo u h le l ,   Cre d a l   F u si o n   o f   Clas sif ic a ti o n f o No is y   a n d   Un c e rtain   Da ta I n ter n a t io n a J o u rn a o f   El e c trica a n d   Co m p u ter   E n g i n e e rin g ,   v o 7   No   2 ,   A p ril   2 0 1 7 .                 Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2088 - 8708       C o n ce p t D r ift I d en tifi ca tio n   u s in g   C la s s if ier E n s emb le  A p p r o a ch   ( Leen a   Desh p a n d e)   25   B I O G RAP H I E S   O F   AUTH O RS       Le e n a   A   De shp a n d e   re c e i v e d   M   d e g re e   in   Co m p u ter en g in e e rin g   in   2 0 0 8 .   S h e   is  a   P h d   S c h o lar,   w o rk in g   in   d a ta  m in in g   d o m a in   f ro m   K L   Un iv e rsitu y V ij a y w a d a .   He c u rre n re se a rc h   in tere sts   in c lu d e   in f o rm a ti o n   re tri e v a l,   d a t a   m in in g ,   a n d   Big   d a ta.         Dr . M . R.Na r a sin g a   R a o   i a   P h in   Co m p u ter  S c ien c e   a n d   S y s tem En g in e e rin g   f ro m   A n d h ra   Un iv e rsit y ,   V isa k h a p a tn a m ,   In d i a .   He   h o ld a n   M . T e c h   in   C o m p u ter  S c ien c e   f ro m   Birl a   In stit u te  o f   T e c h n o lo g y ,   M e sr a   Ra n c h i,   In d ia.  He   is  c u rre n tl y   w o r k in g   a s   P ro f e ss o in   th e   d e p a rtm e n o CS a KL  Un iv e rsit y .   H e   h a p u b li s h e d   n u m b e o p a p e rs  in   n a ti o n a a n d   i n tern a ti o n a jo u rn a ls .   His  re se a rc h   in tere sts  in c lu d e   A p p li c a ti o n o f   Ne u ra Ne tw o rk s,  Co n ten t   Ba se d   In f o rm a ti o n   Re tri e v a l,   F in it e   A u to m a ta  a n d   Bio i n f o rm a ti c s.  G u id e d   n u m b e o f   stu d e n ts   i n   g ra d u a te  a n d   p o stg ra d u a te l e v e c o u rse s an d   is  c u rre n tl y   h a v in g   n u m b e o f   re s e a r c h   sc h o lars   f ro m   K L Un iv e rsit y .   He   is  a   re c ip ien o S a stra   Aw a r d   f o p u b li sh in g   p a p e rs  in   th e   y e a 2 0 0 8   b y   V ig n a n   In stit u te  o f   In f o rm a ti o n   T e c h n o l o g y ,   V isa k h a p a tn a m .       Evaluation Warning : The document was created with Spire.PDF for Python.