I nte rna t io na l J o urna l o f   E lect rica l a nd   Co m p ute E ng in ee ring   ( I J E CE )   Vo l.   11 ,   No .   3 J u n e   2021 ,   p p .   2500 ~ 2 5 0 7   I SS N:  2 0 8 8 - 8708 DOI : 1 0 . 1 1 5 9 1 / i j ec e . v 1 1 i 3 . pp 2 5 0 0 - 2 5 0 7          2500       J o ur na l ho m ep a g e h ttp : //ij ec e. ia esco r e. co m   Co m pa ra tive  a na ly sis  of  m ultiple   c la ss ificatio m o d e ls to  i m pro v PM1 0   p r ediction  p erfor ma nce       Yo ng - J in J un g K y o un g - Wo o   Cho ,   J o ng - Su ng   L ee ,   Cha n g - H eo n O h   De p a rt m e n o f   El e c tri c a l ,   El e c tro n ics   a n d   C o m m u n ica ti o n   E n g in e e rin g ,   Ko re a   Un iv e rsity   o f   T e c h n o lo g y   a n d   Ed u c a ti o n   (KO REAT ECH),   Ko re a       Art icle  I nfo     AB ST RAC T   A r ticle  his to r y:   R ec eiv ed   J u l 3 1 ,   2 0 2 0   R ev i s ed   Sep   2 2 ,   2 0 2 0   A cc ep ted   Oct  1 4 ,   2 0 2 0       W it h   th e   in c re a sin g   re q u irem e n o f   h ig h   a c c u ra c y   f o p a rti c u late   m a tt e r   p re d ictio n ,   v a rio u s   a tt e m p ts  h a v e   b e e n   m a d e   to   im p ro v e   p re d icti o n   a c c u ra c y   b y   a p p ly in g   m a c h in e   lea rn in g   a lg o rit h m s.  Ho w e v e r,   th e   c h a ra c teristics   o p a rti c u late   m a tt e r   a n d   t h e   p r o b lem   o f   th e   o c c u rre n c e   ra te  b y   c o n c e n tratio n   m a k e   it   d iff icu lt   to   train   p re d icti o n   m o d e ls,  re su lt i n g   in   p o o p re d ictio n .   I n   o rd e to   s o lv e   th is  p r o b lem ,   in   th i p a p e r,   w e   p ro p o se d   m u lt ip le  c la ss if ic a ti o n   m o d e ls  f o p re d ictin g   p a rti c u late   m a tt e r   c o n c e n tratio n re q u ired   f o p re d ictio n   b y   d iv id in g   th e m   in to   A QI - b a se d   c las s e s.  We  d e sig n e d   m u lt ip le   c las si f ica ti o n   m o d e ls  u sin g   l o g isti c   re g re ss io n ,   d e c isio n   tree ,   S V M   a n d   e n se m b le  a m o n g   th e   v a rio u m a c h in e   lea rn in g   a lg o ri th m s.  T h e   c o m p a riso n   re su lt o f   th e   p e rf o r m a n c e   o f   th e   f o u c las sif ic a ti o n   m o d e ls  th ro u g h   e rro r   m a tri c e c o n f ir m e d   th e   f - sc o re   o 0 . 8 2   o h ig h e f o a ll   th e   m o d e ls  o th e t h a n   th e   lo g isti c   re g re ss io n   m o d e l.   K ey w o r d s :   C las s i f icatio n   D ec is io n   tr ee   E n s e m b le   L o g i s tic  r eg r e s s io n   Ma ch i n lear n i n g   P ar ticu late  m atter   S u p p o r t v ec to r   m ac h i n e   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   C h a n g - Heo n   O h   Dep ar t m en t o f   E lectr ical,   E lectr o n ics an d   C o m m u n icat io n   E n g i n ee r i n g   Ko r ea   Un iv er s i t y   o f   T ec h n o lo g y   a n d   E d u ca tio n   ( KO R E A T E C H)   1 6 0 0 ,   C h u n g j eo l - r o ,   B y eo n g c h eo n - m y eo n ,   Do n g n a m - g u ,   C h eo n a n - s i,  C h u n g c h eo n g n a m - d o ,   3 1 2 5 3   R ep u b lic  o f   Ko r ea   E m ail:  c h o h @ k o r ea tec h . ac . k r       1.   I NT RO D UCT I O N   P ar ticu late  m atter   is   s u b s t an ce   m ad u p   o f   v ar io u s   s iz es,  s h ap es,  an d   i n g r ed ie n ts .   P ar ticu late  m atter ,   d iv id ed   in to    10  2 . 5   ac co r d i n g   to   th s ize  o f   1 0  2 . 5    o r   less ,   af f ec ts   o u r   h ea lth   b y   ca u s in g   s o m d is ea s es  s u c h   a s   ca r d io v ascu lar ,   r esp ir ato r y ,   a n d   c er eb r o v ascu lar   d is ea s e s .   A cc o r d in g l y ,   p ar tic u late   m atter   w as  c lass if ied   as  d a n g er o u s   s u b s ta n ce ,   an d   it  i s   a n al y ze d   a s   th ca u s o f   d ec r ea s in g   t h v i talit y   o f   s o ciet y   m e m b er s   [ 1 - 7 ] .   I n   o r d er   to   av o id   s u ch   h ar m f u ef f ec ts   o f   p ar ticu late  m a tter   as  m u c h   as  p o s s ib le,   it  h as   b ec o m r o u tin p r ac tice  to   ch ec k   t h in f o r m atio n   p r o v id ed   b ased   o n   th air   q u alit y   in d ex   ( A QI ) ,   w h ic h   is   d iv id ed   in to   f o u r   ca te g o r ies:   'g o o d ' ,   'm o d er ate' ,   ' b ad ' ,   a n d   'v er y   b ad ' .   Ko r ea ' s   p ar ticu late   m atter   p r ed i ctio n   ac cu r ac y   w a s   ap p r o x i m atel y   6 0 in   2 0 1 5 ,   an d   th Ko r ea   Me teo r o lo g ical  A d m in is tr atio n ' s   p r ed ictio n   p r o ce s s   h as  t h a n n u al  p r ed icto n   ac c u r ac y   o f   ap p r o x i m atel y   8 0 %.   Ho w e v er ,   th i s   i s   i n f o r m atio n   r ef lec tin g   o n   th e   w ea t h er   f o r ec aster ' s   e x p er ien ce ,   an d   t h a ct u al  p ar tic u late   m atter   p r ed ictio n   m o d el  s h o w s   t h ac c u r ac y   o f   ap p r o x im a tel y   5 0 % [ 8 ,   9 ] .   T h er ef o r e,   v ar io u s   attem p t s   h a v b ee n   m ad to   im p r o v th p r ed ictio n   ac cu r ac y   o f   p ar ticu l ate  m at ter   b y   ap p l y i n g   m ac h i n lear n in g   p r ed ictio n   alg o r it h m s   alo n g   w it h   co n v e n tio n al  s tatis tical  t ec h n iq u es  [ 1 0 ,   1 1 ] .   Ho w e v er ,   th ch ar ac ter is tic s   o f   p ar ticu late  m at ter   ar is in g   f r o m   v ar io u s   ex ter n a f ac to r s   an d   th p r o b lem   o f   th e   th o cc u r r en ce   r ate  b y   co n ce n tr atio n   m a k it  d if f ic u lt  to   ef f ec tiv e l y   tr ai n   p r ed ictio n   m o d el s I n   o r d er   t o   i m p r o v t h p r ed ictio n   ac c u r ac y   o f   p ar tic u late  m atter   co n ce n tr at io n s ,   K.   W .   C h o   e t   a l.,   in   th e ir   s t u d y ,   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       C o mp a r a tive  a n a lysi s   o f m u ltip le  cla s s ifica tio n   mo d els to   ( Yo n g - Jin   Ju n g )   2501   p r o p o s ed   p r ed ictio n   m o d el  t h at  s ep ar ated   a n d   p r ed icted   th e m   b ased   o n   s p ec i f ic  co n ce n tr atio n .   B y   d i v id in g   th lo w   an d   h ig h   co n ce n tr ati o n s   b ased   o n   th p ar tic u late  m atter   co n ce n tr atio n   o f   8 1  ,   th e y   co m p ar ed   th e   p r ed ictio n   p er f o r m an ce   th r o u g h   a   d ee p   n e u r al  n et w o r k - b ased   p r ed ictio n   m o d el.   T h p r ed ictio n   r esu lt co n f ir m ed   th at  t h p r ed ictio n   p er f o r m a n ce   o f   t h lo w   a n d   h i g h   co n ce n tr atio n s   w a s   i m p r o v ed ,   an d   esp ec iall y   it   s h o w ed   th p er f o r m a n ce   i m p r o v e m e n o f   2 0 . 6 2 f o r   th h ig h   co n ce n tr atio n [ 9 ] .   T h s tu d y   b y   K.   Ka y et  a l.   p r o p o s ed   s o lu tio n   to   an   u n b alan ce d   p r o b lem   i n   o r d er   to   ad d r ess   th p r ed ictio n   p r o b le m   o f   t h r eg r e s s io n   m o d el  d u to   th v ar iatio n   i n   th o cc u r r en ce   r ate  b y   p ar ti cu late  m a tter   co n ce n tr atio n .   T h ey   co n f ir m ed   th e   ac cu r ac y   o f   ap p r o x i m ate l y   8 0 in   th e   en t ir d ata  s et  b y   m a k in g   th n u m b er   o f   s a m p les  o f   t h cla s s   t h s a m e   f o r   u n b ala n ce d   d ata   th r o u g h   t h p r o p o s ed   u p p er   s am p li n g   a n d   d o w n   s a m p lin g   [ 1 2 ] .   I n   th is   p ap er ,   w p r o p o s d ata   class if icatio n   m o d els  b y   co n c en tr atio n   to   i m p r o v th p er f o r m an ce   o f   p ar ticu late  m atter   co n ce n tr atio n   p r ed ictio n   m o d el.   Of   th e   m ac h i n lear n i n g   class i f icat i o n   m o d els,  w u s e   th lo g i s tic  r eg r es s io n ,   d e cisi o n   tr ee ,   s u p p o r v ec to r   m ac h i n ( SVM) ,   an d   en s e m b le  m o d el s .   B ased   o n   th e   A QI ,   w co n f i g u r m u l tip le  class i f icatio n   m o d els  b y   d iv id in g   p ar ticu late  m atter   co n ce n tr at io n s   i n to   4   class es.   I n   o r d er   to   a p p ly   t h o p ti m al  p ar a m eter s   to   th m o d els,  w d esig n   t h m o d els b y   p er f o r m i n g   p ar a m eter   s ea r ch   th r o u g h   g r id   s ea r ch   cr o s s   v ali d atio n .   W p er f o r m   m o d el  e v a lu atio n   u s in g   t h er r o r   m atr i x .       2.   DATA CO L L E C T I O AND   CO NF I G U RAT I O N   2 . 1 .     Da t a   c o llect io n a nd   prepro ce s s ing   P ar ticu late  m a tter i s   a f f ec ted   b y   v ar io u s   f ac to r s .   Air   p o llu tan ts   a n d   m eteo r o lo g ical  ele m en ts   ar e   t y p ical,   w h ich   ar co m m o n l y   ap p lied   to   s tu d ies  f o r   p r ed i ctin g   p ar ticu late  m atter   co n c en tr at io n s   [ 1 3 - 1 6 ] .   B ased   o n   th e   s t u d ies,  w s elec ted   th m aj o r   da ta  as sh o w n   i n   T a b le  1 .       T ab le  1 .   Ma j o r   d ata  d ef in itio n   Ty p e   N a me   D e scri p t i o n   A i r   p o l l u t a n t s    10   T h e   a v e r a g e   p a r t i c u l a t e   ma t t e r ( < 10  )   p e r   h o u r    10ℎ   T h e   a v e r a g e   p a r t i c u l a t e   ma t t e r ( < 10  )   o f   t h e   p r e v i o u s 1   h o u r   3   T h e   a v e r a g e   o z o n e   o f   t h e   p r e v i o u 1   h o u r      T h e   a v e r a g e   c a r b o n   mo n o x i d e   o f   t h e   p r e v i o u s 1   h o u r    2   T h e   a v e r a g e   n i t r o g e n   d i o x i d e   o f   t h e   p r e v i o u s 1   h o u r    2   T h e   a v e r a g e   su l f u r   d i o x i d e   o f   t h e   p r e v i o u 1   h o u r   M e t e o r o l o g i c a l   e l e me n t s   T e mp e r a t u r e   T h e   a v e r a g e   t e mp e r a t u r e   o f   t h e   p r e v i o u 1   h o u r   H u mi d i t y   T h e   a v e r a g e   h u m i d i t y   o f   t h e   p r e v i o u 1   h o u r   W i n d   S p e e d   T h e   a v e r a g e   w i n d   sp e e d   o f   t h e   p r e v i o u 1   h o u r   W i n d   D i r e c t i o n   T h e   mo st   f r e q u e n t   w i n d   d i r e c t i o n   o f   t h e   p r e v i o u 1   h o u r       A cc o r d in g   to   t h s elec ted   d at a,   w e   co llected   t h f in a co n f i r m ed   d ata  m ea s u r ed   at  an   i n t er v al  o f   an   h o u r   f o r   1 0   y ea r s   f r o m   2 0 0 9   to   2 0 1 8   at  th m ea s u r e m e n s ta tio n   ar o u n d   C h eo n an   in   Ko r ea .   A ir   p o llu t io n   d ata   is   co m p o s ed   o f    10  10ℎ 3  O 2 an d    2 ,   an d   m eteo r o lo g ical  ele m e n ts   c o n s is o f   te m p er at u r e,   h u m id it y ,   w in d   s p ee d ,   an d   w i n d   d ir ec tio n .   Sin ce   s o m d ata  w er m is s in g   d u to   th p o w er   o u tag a n d   m ai n ten a n ce   o f   m ea s u r e m e n eq u ip m e n t,  w r e m o v ed   all  d ata  o f   th s a m ti m w h e n   th m is s in g   d a ta  w a s   p r esen t.  O f   th m eteo r o lo g ica ele m en ts ,   th lar g e s w i n d   d ir ec tio n   ex p r ess ed   in   az i m u th ,   th at  is ,   th 0 °  an d   3 6 0 °,  w h ic h   w er o f te n   u s ed   w it h   m i x ed   n o tatio n ,   w er u n i f ied   to   3 6 0 °.   T h er is   n ee d   f o r   d ata  p r ep r o ce s s in g   to   p er f o r m   clas s i f icat io n   th r o u g h   m ac h in lear n i n g   alg o r ith m s   u s i n g   th co llected   d ata.   Sin ce   w u s ed   t h class i f icat i o n   alg o r ith m   b ased   o n   s u p e r v is ed   lear n i n g ,   w e   p er f o r m ed   cla s s i f icatio n   b y   s e p ar ately   d i v id i n g   t h d ata  co r r esp o n d in g   to   in d ep en d e n v ar i ab les  an d   th d ata   co r r esp o n d in g   to   d ep en d en v ar iab les.  T h in d ep en d en v ar iab le  d ata,   w h ic h   in c lu d es   10ℎ 3  O 2  2 ,   te m p er atu r e,   h u m id it y ,   w i n d   s p ee d   an d   w i n d   d ir ec tio n ,   is   u s ed   to   p r ed ict  th r an g o f   p ar ticu late  m atter   co n ce n tr atio n s   b ased   o n   th A QI .   A s   f o r   th w i n d   d ir ec tio n ,   it  is   n ec ess ar y   to   co n v er t   it  to   a   v ec to r   f o r m   b ec au s it  co r r esp o n d s   to   ca t eg o r ical  d ata  ex p r ess ed   i n   1 6   d ir ec tio n s .   T h er ef o r e,   th r o u g h   o n e - h o e n co d in g ,   w co n v er ted   th ca teg o r ies  co r r esp o n d in g   to   1 6   d ir ec tio n s   to   1 6   v ec to r s   ex p r ess ed   in   0   an d   1 .   Fo r   th e   r e m ain in g   i n p u s a m p le  d at o th er   th an   t h w i n d   d ir ec tio n ,   th e y   ar n u m er ical  d ata  w it h   d if f er e n ch ar ac ter is tic s ,   an d   th e y   w er co n v er ted   to   v al u b et w ee n   0   an d   1   th r o u g h   m i n   m ax   s ca li n g   i n   o r d er   to   u n i f y   th r an g o f   n u m er ical  v al u e s   ex p r ess ed   ac co r d in g   to   th d ata.   T h d ep en d en v ar iab le  d ata  co r r esp o n d   t o    10 ,   an d   as  s h o w n   in   T ab le   2 ,   b ased   o n   th A QI   u s ed   as  f o r ec ast  b y   th Mi n is tr y   o f   E n v ir o n m e n t,  w e   d iv id ed    10   in to   th s eq u e n tial  ca teg o r ies 'g o o d ' ,   ' m o d er ate ' ,   ' b ad ' ,   an d   ' v er y   b ad '   ,   an d   e x p r ess ed   th e m   a s   f o u r   clas s es o f   0 ,   1 ,   2 ,   an d   3 ,   r esp ec tiv el y .       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  11 ,   No .   3 J u n 2 0 2 1   :   2 5 0 0   -   2507   2502   T ab le  2 .   T h r an g o f   p ar ticu l ate  m atter   co n ce n tr atio n s   b ase d   o n   A QI   G r a d e   G o o d   M o d e r a t e   B a d   V e r y   B a d    10 ( μ g / 3 )   0   ~   3 0   3 1   ~   8 0   8 1   ~   1 5 0   1 5 0   ~       2 . 2 .     Da t a   c o nfig ura t io n   T h d ata  u s ed   i n   t h s u p er v is e d   lear n in g   m o d el  i s   m ai n l y   co m p o s ed   o f   a   tr ain in g   s et  f o r   le ar n in g   a n d   test   s et  f o r   ev alu atin g   th tr ain ed   m o d el.   T h tr ain in g   s et  u s ed   to   tr ain   th m o d el  is   s u b d iv id ed   in to   tr ain   s et  an d   v alid atio n   s et  b ec au s o f   th n ee d   to   v er if y   w h et h er   tr ain i n g   is   w ell  co m p lete d .   I n   th is   p ap er ,   w e   co n f i g u r tr ain in g   s et  o f   7 5 % a n d   test   s et  o f   2 5 w it h   t h p r ep r o ce s s ed   d ata.   T h tr ain in g   s et  i s   co m p o s ed   o f   tr ain   s et  o f   8 0 an d   v alid atio n   s et  o f   2 0 %.  Fi g u r 1   s h o w s   t h s tr u ct u r o f   t h f i n al  d ata  u s ed   in   t h e   m o d el,   a n d   T ab le  3   s h o w s   th co n f i g u r atio n   o f   t h d ata  s et.           Fig u r 1 .   Stru ct u r o f   d ata  s et       T ab le  3 .   Data   s et  co n f ig u r atio n   S t r u c t u r e   o f   d a t a   se t   S a mp l e s   T r a i n i n g   se t   T r a i n   se t   5 2 , 3 1 5   V a l i d a t i o n   se t   1 3 , 0 7 9   T e st   se t   2 1 , 7 9 9   T o t a l   8 7 , 1 9 3       3.   CL AS SI F I CAT I O M O DE L   DE SI G N   3 . 1 .     L o g is t ic  re g re s s io m o d el  des ig n   L o g i s tic  r e g r ess io n   i s   a n   al g o r ith m   u s ed   to   p r ed ict  t h e   lik el ih o o d   o f   a n   e v en t   u s i n g   li n ea r   co m b i n atio n   o f   i n d ep en d en v ar iab les.  As in   g e n er al  r eg r es s io n   an al y s is ,   it i s   u s ed   in   f u t u r p r ed ictio n   m o d els   b y   d er i v in g   s p ec i f ic  f u n cti o n   th r o u g h   th r elatio n s h ip   b et w ee n   d ep en d en a n d   in d e p en d en v ar iab le s .   Ho w e v er ,   u n li k li n ea r   r eg r es s io n ,   s i n ce   th p r ed ictio n   r esu lt  is   clas s i f ied   as  s p ec if ic  ca teg o r y   w h e n   th e   d ep en d en v ar iab le  is   ca te g o r ical  d ata,   it  is   u s ed   as  cl ass i f icatio n   tech n iq u r at h er   th an   r e g r ess io n   tech n iq u e.   I i s   d iv id ed   in to   b in o m ial   o r   m u lti n o m ial  d e p en d in g   o n   t h ca te g o r y   c h ar ac ter is tics   o f   t h d ep en d en v ar iab le.   T h d ep en d en v ar iab le  f o r   tr ain i n g   th class if ica tio n   m o d el  o f   p ar ticu late  m atte r   co n ce n tr atio n s   h a s   f o u r   ca te g o r ies.  A cc o r d in g l y ,   w b u il m o d el  b y   ap p l y i n g   m u lti n o m ia lo g i s tic   r eg r ess io n   m et h o d .   Fo r   m o d el  p r ed ictin g   ce r tain   r esu l t,  o v er f itt in g   o r   u n d e r f itti n g   i s   co n ti n g e n o n   t h in ten s it y   o f   tr ain i n g .   I is   d i f f icu l f o r   m o d el  w it h   o v er f i tti n g   to   p r ed ict  n e w   d ata  s i n ce   it  o n l y   f o cu s es  o n   tr ain i n g   d ata.   I n   th ca s o f   u n d er f itt in g ,   th er is   p r o b lem   th at  t h m o d el  d o es  n o p r e d ict  m o s o f   t h d ata  s in ce   it  d o es   n o id en ti f y   t h ch ar ac ter is t ics   o f   th d ata  d u to   s im p le  tr ai n in g .   T o   s o lv th ese  p r o b lem s ,   lo g is tic  r eg r ess io n   b asicall y   u s e s   L 2   r eg u lar izatio n   p ar a m eter   [ 1 7 ] .   T h er ef o r e,   f o r   b etter   p r ed ictio n   p er f o r m a n ce ,   w p er f o r m ed   th s ea r c h   f o r   th o p ti m al  v alu u s i n g   g r id   s ea r ch   cr o s s   v alid atio n   t o   f in d   t h v al u o f   t h at  f it s   th m o d el.   W s et  t h r an g e   o f   v al u es  to   b s ea r ch e d   to   0 . 0 0 0 1 ,   0 . 0 0 1 ,   0 . 0 1 ,   0 . 1 ,   1 ,   1 0 ,   1 0 0 ,   an d   1 0 0 0 .   I n   o r d er   to   s elec p ar a m eter s   w it h   h i g h   g en er aliza tio n   p er f o r m a n ce ,   we  s et  th c v   p ar a m eter   o f   k - f o l d   cr o s s   v alid atio n   to   5 .   A cc o r d in g l y ,   t h v al u e   w a s   s eq u e n tia ll y   ac ce s s ed   to   c o m p ar s co r es  u s in g   t h e   tes s et  af ter   5   r ep etitiv tr ain i n g   r u n s   a n d   v al id atio n s Fo r   p r ep r o ce s s in g   o f   v alid ati o n   f o ld   d u r i n g   cr o s s   v alid ati o n ,   w s ea r ch ed   t h v al u e s   b y   b u ild i n g   th e   p ip elin o f   m in   m ax   s ca ler   an d   th m o d el.   T ab le  4   s h o w s   th m ea n   test   s co r an d   v alu es  o f   t h to p   3   r an k i n g s   i n   t h cr o s s   v al id ati o n   r esu l ts .   T h cr o s s   v alid ati o n   r esu lts   s h o w ed   t h at   t h m ea n   tes s co r w as   h ig h e s w it h   0 . 8 0 8 9 5 8   w h en   th v al u w as  1 0 . 0 ,   th u s   we  s elec ted   th v al u to   b ap p lied   to   l o g is tic   r eg r ess io n   as  1 0 . 0 .     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       C o mp a r a tive  a n a lysi s   o f m u ltip le  cla s s ifica tio n   mo d els to   ( Yo n g - Jin   Ju n g )   2503   T ab le  4 .   Gr id   s ea r ch   cr o s s   v ali d atio n   r esu lt s   ( lo g is tic  r eg r es s i o n )   R an k   Me an   test   s co r e   c   1   0 . 8 0 8 9 5 8   1 0 . 0   2   0 . 8 0 8 9 2 7   1 0 0 0 . 0   3   0 . 8 0 6 8 1 7   1 . 0         3 . 2 .     Dec is io n t re m o de l des ig n   D ec is io n   tr ee   i s   w id el y   u s e d   m o d el   f o r   class i f icatio n   an d   r eg r ess io n .   I i s   b asicall y   a n   alg o r ith m   th at  lear n s   b y   co n tin u o u s l y   a n s w er i n g   q u est io n s   to   ap p r o ac h   s p ec if ic  d ec is io n .   W it h   th i n cr ea s in   th n u m b er   o f   leaf   n o d es,  th ac c u r ac y   o f   t h tr ain i n g   s e in cr e ases   b u o v er f itti n g   m a y   o cc u r   [ 1 8 ] .   On o f   th m et h o d s   u s ed   to   p r ev en o v er f itti n g   is   to   s to p   th g r o w t h   o f   th tr ee   w h e n   t h d ep th   o f   th tr ee   r ea ch es  a   ce r tain   lev el.   T h p ar am e ter   th at  li m its   t h d ep th   o f   d ec is i o n   tr ee   is   m ax _ d ep th ,   an d   w ar ab le  to   im p r o v th p er f o r m a n ce   o f   t h m o d el  b y   ad j u s ti n g   th d ep th .   T h er ef o r e,   w p er f o r m ed   th s ea r ch   f o r   th o p tim al  m a x _ d ep th   v alu u s i n g   g r id   s ea r ch   cr o s s   v alid atio n .   W s et  t h r an g o f   m ax _ d e p th   v al u es   to   b s ea r ch ed   to   1 ~2 4 ,   an d   p er f o r m ed   t h s ea r c h   b y   s etti n g   th cv   p ar a m eter   o f   k - f o ld   cr o s s   v alid atio n   to   5 .   A d d itio n all y ,   f o r   p r ep r o ce s s in g   o f   v al id atio n   f o ld   d u r in g   cr o s s   v alid atio n ,   w s ea r c h ed   th m a x _ d ep th   v al u es  b y   b u ild in g   t h p ip elin o f   m i n   m ax   s ca ler   an d   th e   m o d el.   T ab le  5   s h o w s   t h m e an   test   s co r an d   m ax _ d ep th   v alu es  o f   t h to p   3   r an k i n g s   i n   th cr o s s   v alid atio n   r esu lt s .   T h c r o s s   v alid atio n   r esu lt s   s h o w ed   th at   th m ea n   t est  s co r w a s   h i g h e s w ith   0 . 8 5 9 3 6 0 1 3   w h e n   th m ax _ d ep th   v al u w as  4 ,   th u s   w s e lecte d   th m ax _ d ep th   v al u to   b ap p lied   to   d ec is io n   tr ee   as 4 .       T ab le  5 .   Gr id   s ea r ch   cr o s s   v ali d atio n   r esu lt s   ( d ec is io n   tr ee )   R a n k   M e a n   t e st   s c o r e   M a x _ d e p t h   1   0 . 8 5 9 3 6 0 1 3   4   2   0 . 8 5 8 9 6 2 5 5   5   3   0 . 8 5 8 5 6 4 9 6   3         3 . 3 .     SV M   m o del de s ig n   SVM  is   o n o f   m ac h i n lear n i n g   m et h o d s   an d   is   s u p er v i s e d   lear n in g   m o d el  f o r   p atter n   r ec o g n itio n   an d   d ata  an al y s is .   I i s   m ai n l y   u s ed   f o r   clas s i f icatio n   a n d   r eg r ess io n   a n al y s is .   G iv e n   s et  o f   d ata  b elo n g i n g   to   o n o f   t w o   ca teg o r ies,   it  g e n er ates  n o n - s to c h a s tic   b in ar y   li n ea r   cla s s i f icatio n   m o d el   th at  d eter m in e s   t h ca teg o r y   to   w h ic h   n e w   d ata  b elo n g s   b ased   o n   g iv en   d ata  s et.   T h g en er ated   c las s if ica tio n   m o d el  is   ex p r ess ed   as  b o u n d ar y   in   t h s p ac o n to   w h ich   th d ata  is   m ap p ed .   I is   an   alg o r it h m   to   f i n d   t h e   b o u n d ar y   w it h   th lar g est  w id th   [ 1 9 - 2 1 ] .   T h er ef o r e,   SVM  is   m o d el  th at  d ef i n es  b aselin f o r   cla s s i f icatio n   b et w ee n   ca teg o r ies ,   w h ic h   i s   ex p r ess ed   as a   d ec is io n   b o u n d ar y .   I n   SVM,   th d if f er e n ce   in   p er f o r m an ce   is   d eter m i n ed   d ep e n d in g   o n   h o w   t h d ec is io n   b o u n d ar y   is   d ef in ed ,   an d   i is   cr u cial  to   f i n d   th o p ti m al  d ec is io n   b o u n d ar y .   T h p ar a m eter s   ap p lied   to   f in d   t h o p ti m al  d ec is io n   b o u n d ar y   ar an d   g a m m a.   C   i s   p ar am eter   t h at  ad j u s ts   t h allo w ab le  r an g o f   o u tlier s   b y   co n tr o l lin g   t h m ar g i n   o f   t h d ec is io n   b o u n d ar y ,   a n d   g a m m i s   p ar a m e ter   th a p r ev e n t s   o v er f itti n g   o f   th e   m o d el  b y   co n tr o llin g   t h f le x i b ilit y   o f   t h d ec is io n   b o u n d ar y .   W p er f o r m ed   th s ea r ch   f o r   t h o p ti m al  a n d   g a m m v a lu es  to   f i n d   th o p ti m al  d ec is io n   b o u n d ar y   u s i n g   g r id   s ea r ch   cr o s s   v alid a tio n .   W s et  t h r an g o f   an d   g a m m v al u es  to   b s ea r ch e d   to   0 . 0 0 0 1 ,   0 . 0 0 1 ,   0 . 0 1 ,   0 . 1 ,   1 ,   1 0 ,   1 0 0 ,   an d   1 0 0 0 ,   an d   p er f o r m ed   th e   s ea r ch   b y   s etti n g   th e   cv   p ar a m e ter   o f   k - f o ld   cr o s s   v alid atio n   to   5 .   A d d itio n al l y ,   f o r   p r ep r o ce s s in g   o f   v a lid atio n   f o ld   d u r in g   cr o s s   v alid atio n ,   w s ea r ch ed   t h an d   g a m m v alu e s   b y   b u ild i n g   th p ip elin o f   m i n   m a x   s c aler   an d   th m o d el.   T a b le  6   s h o w s   th m ea n   test   s co r an d   r elev an a n d   g a m m v al u es  o f   t h to p   3   r a n k i n g s   i n   t h cr o s s   v alid atio n   r esu lts .   T h cr o s s   v alid atio n   r e s u l ts   s h o w ed   t h at   th m ea n   te s s co r w a s   h ig h est  w it h   0 . 8 5 9 2 3 8   w h en   th e   c   an d   g a m m v al u e w er 1 0 0 0   an d   0 . 0 1 ,   r esp ec tiv el y ,   th u s   w s elec ted   th v alu an d   th g a m m v al u to   b e   ap p lied   to   SVM  as  1 0 0 0   an d   0 . 0 1 ,   r esp ec tiv el y .       T ab le  6 .   Gr id   s ea r ch   cr o s s   v ali d atio n   r esu lt s   ( SVM)   R a n k   M e a n   t e st   s c o r e   c   g a mm a   1   0 . 8 5 9 2 3 8   1 0 0 0   0 . 0 1   2   0 . 8 5 9 1 7 7   1   1   3   0 . 8 5 9 1 4 6   1   0 . 1       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  11 ,   No .   3 J u n 2 0 2 1   :   2 5 0 0   -   2507   2504   3 . 4 .     E ns e m ble   m o del  des ig n   E n s e m b le  is   tec h n iq u t h at  g en er ate s   p o w er f u m o d el  b y   co m b i n i n g   m u lt ip le  m o d els   to   ac h ie v e   b etter   p r ed ictio n   p e r f o r m a n ce   as  co m p ar ed   w it h   u s in g   an   i n d iv id u al  m ac h in lear n in g   m o d el.   W h en   m u ltip le   m o d el s   ar co m b i n ed ,   th a m o u n o f   ca lc u latio n   is   g e n e r all y   in cr ea s ed ,   y e it  p r ev en ts   o v er f it tin g   m o r e   ef f ec tiv e l y   t h an   u s in g   a n   in d i v id u al  m o d el   an d   it  h as  th a d v an ta g o f   s h o w i n g   b etter   p er f o r m an ce   t h an   an   in d iv id u al  m o d el  i f   t h p er f o r m an ce   o f   an   in d i v id u al   m o d el   is   p o o r   [ 2 2 - 2 4 ].   E n s e m b le  is   m ai n l y   d iv id ed   i n to   co llectio n   m et h o d o lo g y   a n d   b o o s tin g   m et h o d o lo g y .   T h co llectio n   m et h o d o lo g y   h as   th p r ed eter m in ed   s et  o f   m o d els  to   b u s ed ,   b u th b o o s tin g   m et h o d o lo g y   g r ad u all y   i n cr ea s e s   th m o d els  to   b u s ed .   I n   th is   s tu d y ,   w co m b in ed   th lo g i s tic  r eg r ess io n ,   d ec is io n   tr ee ,   an d   SVM  m o d els  p r ev io u s l y   d esi g n ed ,   w h ich   co r r esp o n d s   to   th co llectio n   m et h o d o lo g y ,   to   b u ild   an   en e m b le  m o d el.   Fi g u r 2   s h o w s   t h s tr u ctu r o f   t h e   en s e m b le  m o d el.           Fig u r 2 .   Stru ct u r o f   en s e m b l m o d el       T h tr ain in g   s e d ata  ar u s ed   as  an   in p u v ar iab le  to   t h co m b in ed   lo g is t ic  r eg r es s io n ,   d e cisi o n   tr ee ,   an d   SVM  m o d els,  an d   th p r ed icted   r esu lts   ar o u tp u tted   f r o m   an   i n d iv id u al  m o d el.   T h f i n al  p r ed ictio n   r esu lt s   ar g en er ated   b y   v o tin g   o n   th o u tp u tted   r esu lt s   [ 2 5 ] .   V o tin g   is   d iv id ed   in to   h ar d   a n d   s o f v o tin g .   Har d   v o tin g   s i m p l y   s elec ts   th e   f in al   p r ed ictio n   b ased   o n   t h p r ed ictio n   r es u lts   o f   a n   i n d iv id u al  m o d el.   T h v o tin g   m et h o d   o f   th en s e m b le  m o d e d esig n ed   in   t h is   s t u d y   is   s o f t   v o tin g ,   w h ich   s e lects  th f in a p r ed i ctio n   b ased   o n   th s u m   o f   co n d itio n al  p r o b ab ilit ies o f   an   i n d iv id u al  m o d el.       4.   P E RF O RM ANCE E VA L U AT I O N   W ev alu ated   class if icatio n   p er f o r m an ce   u s i n g   th p r ev io u s l y   co n f i g u r ed   d ata  s et  an d   d e s ig n ed   th e   class i f icatio n   m o d els.  Fo r   p er f o r m a n ce   ev al u atio n ,   w u s ed   p r ec is io n ,   r ec all,   an d   f - s co r b ased   o n   th er r o r   m atr i x .   Fig u r 3   s h o w s   th er r o r   m atr ices  cr ea ted   b ased   o n   th class i f icatio n   r esu lt s   o f   th tr ain ed   m o d els .   T ab le   7   s h o w s   th p er f o r m a n ce   ev alu atio n   o f   th clas s i f ic atio n   m o d els  ca lcu lated   b y   r e f er r in g   to   th er r o r   m atr ices .     W h en   t h l o g is tic  r eg r es s io n   m o d el   p r ed icted   'g o o d ' ,   th e   p r ec is io n   w a s   h i g h e s w i th   0 . 8 6 8 5 .   W h en   th p r ed ictio n   w as  p er f o r m ed   b ased   o n   th in p u d ata  o f   ' m o d er ate ' ,   t h r ec all  w a s   h i g h est  w it h   0 . 9 3 4 1 .   On   th o th er   h a n d ,   th cla s s i f icat i o n   d id   n o w o r k   w e ll  f o r   b ad   a n d   v er y   b ad .   E s p ec iall y ,   t h p r ed ictio n   w as   n o m ad at  all   f o r   'v er y   b ad ' .   W h en   t h d ec is io n   tr ee   m o d el   p r ed icted   ' m o d er ate ' ,   th p r ec is io n   w as  h i g h e s t   w it h   0 . 8 9 7 7 .   W h en   th p r ed ict io n   w as  p er f o r m ed   b ased   o n   t h i n p u d ata  o f   ' m o d er ate ' ,   th r ec all  w a s   h ig h e s t   w it h   0 . 9 023 .   On   t h o t h er   h a n d ,   th p r ec is io n   an d   r ec all   f o r   ' b ad an d   'v er y   b ad '   s h o w ed   r e lativ el y   lo w   v al u e s   co m p ar ed   to   ' g o o d '   a n d   ' m o d e r ate .   T h SVM  m o d el   s h o w e d   th h ig h est   p r ec is io n   a n d   r ec all  w it h   0 . 8 9 9 7   an d   0 . 8 9 9 7 ,   r esp ec tiv el y ,   f o r   ' m o d er ate .   As  in   th d ec is io n   tr ee   m o d el ,   th p r ec is io n   an d   r ec all  f o r   ' b ad '   an d   'v er y   b ad '   s h o w ed   r elativ el y   lo w   v alu es  co m p ar ed   to   ' g o o d '   an d   ' m o d er ate .   T h en s e m b le  m o d el   s h o w ed   th e   h ig h e s p r ec is io n   an d   r ec all  w it h   0 . 8 9 9 7   an d   0 . 8 9 9 7   f o r   ' m o d er ate .   Ho w e v er ,   th p r ec is io n   a n d   r ec all  f o r   ' b ad '   a n d   ' v er y   b ad '   s h o w ed   r elativ el y   lo w   v alu e s   co m p ar e d   to   ' g o o d '   a n d   'm o d er ate’ ,   r e s u lt in g   i n   d if f ic u lt y   class i f y in g   t h r elev a n class es.  T h an al y s i s   r esu l ts   b ase d   o n   th p r ec i s io n   an d   r ec all  s h o w ed   th at  t h e   p r ec is io n   an d   r ec all  o f   'g o o d '   an d   'm o d er ate'   w er r elati v el y   h ig h er   t h an   t h o s o f   ' b ad '   an d   ' v er y   b ad ' .   W h e n   an al y ze d   t h r o u g h   t h er r o r   m atr ix es  i n   Fi g u r 3 ,   it  w a s   co n f ir m ed   t h at,   o f   t h i n p u d at a,   th p r o p o r tio n   o f   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       C o mp a r a tive  a n a lysi s   o f m u ltip le  cla s s ifica tio n   mo d els to   ( Yo n g - Jin   Ju n g )   2505   d ata  co r r esp o n d in g   to   ' g o o d '   a n d   'm o d er ate'   u s ed   f o r   clas s if i ca tio n   w as  h i g h .   Fo r   an   u n b al an ce d   m o d el   w it h   th h ig h   p r o p o r tio n   o f   s p ec if ic  cla s s ,   t h g e n er all y   u s ed   ac cu r ac y   i s   m ea n i n g less .   T h e r ef o r e,   w s h o u ld   ev alu a te  th p er f o r m a n ce   o f   t h m o d el  b y   tak i n g   in to   ac co u n a ll  cla s s e s   w ith   t h s a m p r o p o r tio n ,   an d   u s ed   th m ea n   o f   m ac r o   f - s co r e .   Oth er   th a n   th lo g is tic  r eg r es s io n   m o d el  w i th   an   f - s co r o f   0 . 4 9 3 0 ,   t h o th er   m o d el s   s h o w ed   th s i m ilar   s co r es  w i th   0 . 8 2 6 4 ,   0 . 8 2 7 7 ,   an d   0 . 8 2 6 5 .           ( a)   ( b )       ( c)   ( d )     Fig u r 3 .   C o n f u s io n   m atr ix ;   ( a)   L o g is tic  r eg r es s io n   m o d el ( b )   Dec is io n   tr ee   m o d el ( c)   SVM  m o d el   ( d )   E n s e m b le  m o d el       T ab le  7 .   C lass if icatio n   p er f o r m an ce   e v al u atio n   b y   m o d els     L o g i st i c   r e g r e ssi o n   D e c i si o n   t r e e   S V M   En se mb l e   c l a ss   p r e c i si o n   r e c a l l   p r e c i si o n   r e c a l l   p r e c i si o n   r e c a l l   p r e c i si o n   r e c a l l   0   ( g o o d )   0 . 8 6 8 5   0 . 8 3 7 8   0 . 8 6 1 6   0 . 8 5 2 8   0 . 8 5 7 7   0 . 8 5 7 8   0 . 8 5 7 9   0 . 8 5 7 7   1   ( mo d e r a t e )   0 . 8 1 6 2   0 . 9 3 4 1   0 . 8 9 7 7   0 . 9 0 2 3   0 . 8 9 9 7   0 . 8 9 9 7   0 . 8 9 9 7   0 . 8 9 9 8   2   ( b a d )   0 . 6 9 2 5   0 . 1 5 1 0   0 . 7 8 8 1   0 . 7 8 8 5   0 . 7 8 8 5   0 . 7 8 8 5   0 . 7 8 8 1   0 . 7 8 8 5   ( v e r y   b a d )   0 . 0 0 0 0   0 . 0 0 0 0   0 . 7 6 3 0   0 . 7 5 7 4   0 . 7 6 4 7   0 . 7 6 4 7   0 . 7 6 3 0   0 . 7 5 7 4   f - sco r e   ( mac r o )   0 . 4 9 3 0   0 . 8 2 6 4   0 . 8 2 7 7   0 . 8 2 6 5       5.   CO NCLU SI O   I n   p r ed ictin g   p ar ticu la te  m att er   co n ce n tr atio n s ,   t h er is   p r o b lem   o f   tr ain in g   p ar ticu la te  m atter   co n ce n tr atio n   p r ed ictio n   m o d els  b ec au s o f   th c h ar ac ter is tics   o f   p ar ticu late  m atter I n   o r d er   to   s o lv th is   p r o b lem ,   v ar io u s   s t u d ies  h a v e   b ee n   u n d er w a y   s u c h   as  p er f o r m i n g   p r ed ictio n   b y   d iv id in g   p ar ticu late  m atte r   co n ce n tr atio n s   b ased   o n   s p e cif ic  co n ce n tr atio n .   I n   th i s   p a p er ,   to   im p r o v th e   p er f o r m a n ce   o f   t h p ar ticu la te  m atter   co n ce n tr atio n   p r ed ictio n   m o d el,   w p r o p o s ed   m u lt ip le  class i f icatio n   m o d els  t h at  p r o v id ed   p ar ticu late   m atter   co n ce n tr at io n s   i n   f o u r   class es  b ased   o n   th AQI .   T o   th is   e n d ,   w co n f i g u r ed   d ata  s ets  b y   s elec tin g   air   p o llu tan d ata  an d   m eteo r o lo g ical  ele m e n ts   co llected   at  an   i n ter v al  o f   a n   h o u r   f o r   1 0   y ea r s   ar o u n d   C h eo n an .   As  t h clas s i f icatio n   m o d el s   i n   th i s   s t u d y ,   w u s e d   th e   lo g i s tic  r eg r ess io n ,   d ec is io n   tr ee ,   SVM,   en s e m b le.   I o r d er   t o   ap p ly   o p ti m a p ar am eter s   to   ea ch   m o d el,   w s e ar ch ed   th p ar a m eter s   th r o u g h   g r id   s ea r ch   cr o s s   v alid atio n .   W b u ilt  th en s e m b le  m o d el  b y   co m b i n i n g   th lo g is tic  r eg r ess io n ,   d ec is i o n   tr ee ,   a n d   SVM   m o d el s   in to   o n e.   W u s ed   e r r o r   m atr ix e s   to   ev alu ate  th p er f o r m an ce   o f   f o u r   m u l tip le  class i f icatio n   m o d els.   L o g i s tic  r eg r es s io n   s h o w ed   p o o r   p r ec is io n ,   r e ca ll ,   an d   f - s co r co m p ar ed   to   o th er   cl ass i f icatio n   m o d els.   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8708   I n t J   E lec  &   C o m p   E n g ,   Vo l.  11 ,   No .   3 J u n 2 0 2 1   :   2 5 0 0   -   2507   2506   Dec is io n   tr ee ,   SVM,   a n d   en s e m b le  m o d e ls   all  s h o w ed   th p r ec is io n   an d   r ec all  w it h   0 . 8 5   o r   h ig h er   f o r   'g o o d an d   'm o d er ate'   b ased   o n   t h A QI ,   w h er ea s   th e y   s h o w ed   0 . 7 5 ~0 . 7 9   f o r   ' b ad '   a n d   'v er y   b ad ' .   W co n f ir m ed   th at  th i s   w a s   b ec au s th p ar ticu late  m atter   d ata  u s ed   in   th class i f icatio n   m o d els   w er u n b alan ce d   d ata  w it h   th h i g h   p r o p o r tio n   o f   s p e cif ic  clas s .   A cc o r d in g l y ,   w v er if ied   t h s co r es  o f   t h m o d els  b y   ta k i n g   in to   ac co u n all  clas s es  w i th   t h s a m p r o p o r tio n ,   an d   f o u n d   th at  th m o d els  o th er   t h an   t h lo g is tic  r e g r ess io n   m o d el  s h o w ed   s co r o f   0 . 8 2   o r   h ig h er .   O f   th e s m o d els,   th SVM  m o d el  s h o w ed   t h e   b est  class i f icatio n   p er f o r m a n ce   w it h   0 . 8 2 7 7 .   I n   f u tu r e,   in   o r d er   to   ad d r ess   th e   p r o b lem   o f   u n b alan ce d   d ata,   w e   ar g o in g   to   co m p ar clas s i f icatio n   p er f o r m an ce   t h r o u g h   t h alg o r it h m   ch an g e s   o th clas s i f icatio n   m o d el s   an d   d esig n   a   p ar ticu late  m at ter   co n ce n tr atio n   p r ed ictio n   m o d el  b ased   o n   th i m p r o v ed   clas s i f icatio n   m o d el s .       ACK NO WL E D G E M E NT   T h is   r esear ch   w a s   s u p p o r ted   b y   B asic  Scie n ce   R e s ea r ch   P r o g r a m   th r o u g h   th Natio n al   R esear ch   Fo u n d atio n   o f   Ko r ea   ( NR F)  f u n d ed   b y   t h Mi n is tr y   o f   E d u ca tio n   ( 2 0 1 9 R 1 I 1 A 3 A 0 1 0 5 9 0 3 8 )       RE F E R E NC E S   [1 ]   G .   W .   Ev a n s,  " A ir  P o ll u ti o n   a n d   Hu m a n   Be h a v io r, "   J o u rn a o S o c ia l,   v o l .   3 7 ,   n o .   1 ,   p p .   9 5 - 1 2 5 ,   A p r .   2 0 1 0 .   [2 ]   M .   S .   S e o ,   " T h e   I m p a c o f   P a rti c u late   M a tt e o n   Eco n o m ic  A c ti v it y , "   T h e   Ko re a n   W o me n   Eco n o mi sts  Asso c ia ti o n ,   v o l.   1 2 ,   p p .   7 5 - 1 0 0 ,   Ju n .   2 0 1 5 .   [3 ]   A .   V a lav a n id is,  K .   F io tak is,  a n d   T .   V lac h o g ian n i . ,   " A irb o rn e   P a rti c u late   M a tt e a n d   Hu m a n   He a lt h T o x ico lo g ica l   A s s e ss m e n a n d   Im p o rtan c e   o f   S ize   a n d   Co m p o siti o n   o f   P a rt icle f o Ox id a ti v e   D a m a g e   a n d   Ca rc in o g e n ic   M e c h a n ism s , "   J o u rn a l   o f   En v iro n me n ta S c ien c e   a n d   He a lt h ,   Pa rt  C,   v o l.   2 6 ,   n o .   4 ,   p p .   3 3 9 - 3 6 2 ,   2 0 0 8 .   [4 ]   J.  O.   A n d e rso n ,   Jo se f   G .   T h u n d iy il   a n d   A n d re w   S to lb a c h ,   " Clea rin g   th e   A ir:   A   Re v iew   o f   th e   Ef f e c t o f   P a rti c u late   M a tt e A ir  P o ll u t io n   o n   Hu m a n   He a lt h , "   J o u rn a o M e d ica T o x ico lo g y ,   v o l.   8 ,   n o .   2 ,   p p .   1 6 6 - 1 7 5 ,   2 0 1 2 .   [5 ]   K.  H.  Ki m ,   E.   Ka b ir  a n d   S .   Ka b ir ,   " A   R e v ie o n   th e   Hu m a n   He a lt h   Im p a c o f   A irb o rn e   P a rti c u l a te  M a tt e r, "   En v iro n me n In ter n a ti o n a l,   v o l.   7 4 ,   p p .   1 3 6 - 1 4 3 ,   2 0 1 5 .   [6 ]   N.  J.  Him e ,   e a l. ,   " A   Co m p a ris o n   o f   th e   He a lt h   Ef f e c ts  o f   Am b ien P a rti c u late   M a tt e A ir  P o ll u t io n   F ro m   F iv e   Em issio n   S o u rc e s,"   In ter n a t io n a l   J o u r n a l   o f   E n v iro n me n t a l   Res e a rc h   a n d   Pu b li c   He a l th ,   v o l.   1 5 ,   n o .   6 ,   p p .   1 - 2 4 ,   2 0 1 6 ,   d o i:   1 0 . 3 3 9 0 / ij e rp h 1 5 0 6 1 2 0 6 .   [7 ]   W o rld   He a lt h   Org a n iza ti o n   (W HO ),   " He a lt h   e ffe c ts  o f   p a rti c u late   m a tt e r.   P o li c y   i m p li c a ti o n f o c o u n tri e i n   e a ste rn   Eu ro p e ,   Ca u c a su s a n d   c e n tral  A sia , "   Reg io n a Offi c e   f o r E u ro p e ,   2 0 1 3 .   [8 ]   Bo a rd   o f   A d it   a n d   I n sp e c ti o n   (BA I),   " W e a th e f o re c a st an d   e a rth q u a k e   n o ti f ica ti o n   sy st e m   o p e ra ti o n , "   In ter n a ti o n a T HE  Bo a rd   o A u d it   a n d   In s p e c ti o n   o KORE A,   2 0 1 7 .   [9 ]   K.  W .   Ch o ,   e a l. ,   " S e p a ra ti o n   P r e d ictio n   M o d e b y   Co n c e n tratio n   b a se d   o n   De e p   Ne u ra Ne tw o rk   f o I m p ro v in g   P M 1 0   F o re c a st  A c c u ra c y , "   J o u rn a o t h e   Ko re a   In st it u te  o f   In f o r ma ti o n   a n d   Co mm u n ica ti o n   E n g i n e e rin g ,   v o l.   2 4 ,   n o .   1 ,   p p .   8 - 1 4 ,   2 0 2 0 .   [1 0 ]   J.  W .   Ch a   a n d   J.  Y.  Kim ,   " De v e lo p m e n o f   Da ta  M i n in g   A lg o rit h m   f o Im p le m e n tatio n   o f   F in e   Du st  Nu m e rica l   P re d ictio n   M o d e l, "   J o u rn a l   o t h e   Ko re a   In stit u te  o I n f o rm a ti o n   a n d   Co mm u n ica ti o n   En g in e e rin g ,   v o l.   2 2 ,   n o .   4 ,   p p .   5 9 5 - 6 0 1 ,   2 0 1 8 .   [1 1 ]   A .   Ch a lo u lak o u ,   G .   G riv a s,  a n d   N .   S p y re ll is ,   " N e u ra Ne t w o rk   a n d   M u l ti p le  Re g re ss io n   M o d e ls  f o P M 1 0   P re d ictio n   in   A th e n s:  A   Co m p a ra ti v e   A ss e ss m e n t, "   J o u rn a l   o f   t h e   Ai &   W a ste   M a n a g e me n Asso c i a ti o n ,   v o l.   5 3 ,   no.   1 0 ,   p p .   1 1 8 3 - 1 1 9 0 ,   2 0 0 3 .   [1 2 ]   K.  Ka y a   a n d   S .   G .   Og u d u c u ,   " A   Bin a ry   Cla ss i f ica ti o n   M o d e f o P M 1 0   L e v e ls,"   2 0 1 8   3 r d   In ter n a ti o n a Co n fer e n c e   o n   C o mp u ter   S c ien c e   a n d   En g in e e rin g   ( UBM K),   2 0 1 8 ,   p p .   3 6 1 - 3 6 6 .   [1 3 ]   J.  M .   Ha n ,   Ja e - G o o   Kim ,   a n d   Ki - H y u n   Ch o ,   " V e rif y   a   Ca u sa Re l a ti o n sh i p   b e tw e e n   F in e   Du st  a n d   A ir  Co n d it i o n - W e a th e Da ta i n   S e lec ted   A re a   b y   Co n tam in a ti o n   F a c to rs,"   T h e   jo u rn a o Bi g d a t a ,   v o l .   2 ,   n o .   1 ,   p p .   1 7 - 2 6 ,   2 0 1 7 .   [1 4 ]   X .   Z h a o ,   e a l. ,   " A   D e e p   Re c u rre n Ne u ra Ne tw o rk   f o A ir  Qu a li t y   Clas si f ica ti o n , "   J o u rn a l   o f   I n fo rm a ti o n   Hi d in g   a n d   M u lt ime d i a   S ig n a l   Pro c e ss in g ,   v o l.   9 ,   p p .   3 4 6 - 3 5 4 ,   2 0 1 8 .   [1 5 ]   B.   T .   On g ,   K .   S u g iu ra ,   a n d   K .   Z e tt su . ,   " Dy n a m ic  p re - train in g   o f   De e p   Re c u rre n Ne u ra Ne tw o rk f o p re d icti n g   e n v iro n m e n tal  m o n it o rin g   d a ta,"   2 0 1 4   IE EE   I n ter n a t io n a C o n fer e n c e   o n   Bi g   D a ta   ( Bi g   Da t a ),   2 0 1 4 ,   p p .   7 6 0 - 7 6 5 .   [1 6 ]   X .   L i,   e a l. ,   " L o n g   sh o rt - term   m e m o r y   n e u ra n e tw o rk   f o a ir  p o l lu tan c o n c e n trati o n   p re d i c ti o n s:  M e th o d   d e v e lo p m e n a n d   e v a lu a ti o n , "   En v iro n me n ta Po ll u t io n ,   v o l.   2 3 1 ,   p p .   9 9 7 - 1 0 0 4 ,   2 0 1 7 .   [1 7 ]   S .   H.  Je o n   a n d   Y.  S .   S o n ,   " P re d i c ti o n   o f   f in e   d u st  P M 1 0   u sin g   a   d e e p   n e u ra n e tw o rk   m o d e l, "   T h e   Ko re a n   jo u rn a o a p p li e d   st a ti stic s,   v o l .   3 1 ,   n o .   2 ,   p p .   2 6 5 - 2 8 5 ,   2 0 1 8 .   [1 8 ]   R.   S .   M ic h a lsk i,   e a l . ,   L e a rn in g   Ef f icie n Clas sif i c a ti o n   P r o c e d u r e a n d   T h e ir   A p p li c a ti o n   t o   Ch e ss   En d   G a m e s,   M a c h in e   L e a r n in g ,   p p .   4 6 3 - 4 8 2 ,   1 9 8 3 .   [1 9 ]   C.   Co rtes   a n d   V .   V a p n ik ,   " S u p p o rt - v e c to n e tw o rk s,"   M a c h in e   L e a rn in g ,   v o l.   2 0 ,   n o .   3 ,   p p .   2 7 3 - 2 9 7 ,   1 9 9 5 .     [2 0 ]   P .   H.  Hu y n h   a n d   T h a n h - Ng h Do ,   " En h a n c i n g   g e n e   e x p re ss io n   c las si f ica ti o n   o f   su p p o rt  v e c to r   m a c h in e w it h   g e n e ra ti v e   a d v e rs a rial  n e tw o rk s, "   J o u rn a o f   in f o rm a ti o n   a n d   c o mm u n ica ti o n   c o n v e rg e n c e   e n g i n e e rin g ,   v o l .   1 7 ,     n o .   1 ,   p p .   1 4 - 2 0 ,   2 0 1 9 .     [2 1 ]   G .   W a n g   a n d   S .   Y.  S h i n ,   " A n   Im p ro v e d   Tex Clas si f ica ti o n   M e th o d   f o S e n ti m e n Clas sif ic a ti o n , "   J o u r n a l   o f   in fo rm a ti o n   a n d   c o mm u n ica ti o n   c o n v e rg e n c e   e n g i n e e rin g ,   v o l.   1 7 ,   n o .   1 ,   p p .   4 1 - 4 8 ,   2 0 1 9 .     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J   E lec  &   C o m p   E n g     I SS N:  2 0 8 8 - 8708       C o mp a r a tive  a n a lysi s   o f m u ltip le  cla s s ifica tio n   mo d els to   ( Yo n g - Jin   Ju n g )   2507   [2 2 ]   L .   Ro k a c h ,   " En se m b le - b a se d   c las sif iers , "   Arti fi c ia I n telli g e n c e   Rev iew,   v o l.   3 3 ,   n o .   1 - 2 ,   p p .   1 - 3 9 ,   2 0 1 0 .   [2 3 ]   R.   P o li k a r,   " En se m b le  b a se d   sy s tem in   d e c isio n   m a k in g , "   IEE Circ u it a n d   S y ste ms   M a g a zin e ,   v o l.   6 ,   n o .   3 ,     p p .   2 1 - 4 5 ,   2 0 0 6 .   [2 4 ]   R.   E.   S u tan t o   a n d   S .   H.   L e e ,   " En se m b le  o f   De g ra d e d   A rti f ici a In t e ll ig e n c e   M o d u les   A g a in st  A d v e rsa rial  A tt a c k s   o n   Ne u ra l   Ne tw o rk s,"   J o u rn a o i n fo rm a ti o n   a n d   c o mm u n ica t io n   c o n v e rg e n c e   e n g in e e rin g ,   v o l.   1 6 ,   n o .   3 ,     p p .   1 4 8 - 1 5 2 ,   2 0 1 8 .   [2 5 ]   A .   Hu sin   a n d   K.  R.   Ku - M a h a m u d ,   " A n S y ste m   a n d   W e ig h ted   Vo ti n g   M e th o d   f o M u lt i p le  Clas sif ier  S y ste m s, "   In ter n a t io n a J o u rn a o E lec trica a n d   C o mp u ter   En g in e e rin g   ( IJ ECE ) ,   v o l.   8 ,   n o .   6 ,   p p .   4 7 0 5 - 4 7 1 2 ,   2 0 1 8 .         B I O G RAP H I E S   O F   AUTH O RS       Yo ng - J in  J un g ,   r ec eiv ed   h is   B . S.   in   E lectr o n ics  E n g i n ee r in g   f r o m   Ko n g j u   Natio n al  Un i v er s it y ,   C h eo n an ,   So u t h   K o r ea ,   in   2 0 1 4 ,   an d   h is   M. S.  in   E lectr ical,   E lectr o n ics  an d   C o m m u n ica tio n   E n g i n ee r in g   f r o m   Ko r ea   Un iv er s it y   o f   T ec h n o lo g y   an d   E d u ca tio n   ( KORE A T E C H)   in   2 0 1 6 .   He   is   cu r r en tl y   p u r s u i n g   P h . D.   in   E lectr ical,   E lectr o n ics  an d   C o m m u n icatio n   E n g i n ee r in g   at  t h Ko r ea   Un i v er s i t y   o f   T ec h n o lo g y   a n d   E d u ca t io n   ( KORE A T E C H) .   His   r esear ch   in ter es ts   in cl u d m ac h i n lear n in g ,   d ata  an al y s is   an d   d ee p   lear n in g .           K y o un g - Wo o   Cho ,   r ec eiv ed   h is   B . S.  in   E lectr o n ics  E n g i n ee r i n g   f r o m   Ko n g j u   Natio n al  Un i v er s i t y ,   C h eo n a n ,   So u th   Ko r ea ,   in   2 0 1 3 ,   a n d   h is   M. S.  in   E lectr ical,   E lectr o n ics  a n d   C o m m u n icati o n   E n g in ee r i n g   f r o m   Ko r ea   Un i v er s it y   o f   T ec h n o lo g y   an d   E d u ca tio n   ( KORE A T E C H)   in   2 0 1 5 .   He  is   c u r r en tl y   p u r s u i n g   P h . D.   in   E lectr ical,   E lectr o n ics  an d   C o m m u n icati o n   E n g in ee r i n g   at  th Ko r ea   Un i v er s it y   o f   T ec h n o lo g y   an d   E d u ca tio n   ( KORE A T E C H) .   His   r esear ch   in ter e s ts   i n cl u d m ac h in lear n i n g ,   d ee p   lear n in g   a n d   p ar ticu late  m a tter s   p r ed ictio n .         J o ng - Su ng   L ee ,   r ec eiv ed   h is   B . S in   I n f o r m atio n   C o m m u n ic atio n   f r o m   Ko r ea   Naz ar en e   Un i v er s it y ,   C h eo n a n ,   So u th   K o r ea ,   in   2 0 1 1 ,   an d   h is   M. i n   E lectr ical,   E lectr o n ics  a n d   C o m m u n ica tio n   E n g i n ee r in g   f r o m   Ko r ea   Un iv er s it y   o f   T ec h n o lo g y   an d   E d u ca tio n   ( KORE A T E C H)   i n   2 0 1 6 .   He   is   cu r r en tl y   p u r s u i n g   P h . D.   in   E lectr ical,   E lectr o n ics  an d   C o m m u n icatio n   E n g i n ee r in g   at  t h Ko r ea   Un i v er s i t y   o f   T ec h n o lo g y   a n d   E d u ca t io n   ( KORE A T E C H) .   His   r esear c h   i n ter est s   i n clu d 5 n et wo r k ,   m ac h in lear n i n g   an d   d ee p   lear n in g .         Cha ng - He o O h ,   r ec eiv ed   th B . S.  a n d   M. S.E .   d eg r ee s   in   telec o m m u n icatio n   a n d   in f o r m atio n   en g i n ee r in g   f r o m   Ko r ea   A er o s p ac Un i v er s it y ,   K y u n g g i - Do ,   Ko r ea ,   in   1 9 8 8   an d   1 9 9 0 ,   r esp ec tiv el y .   He  r ec eiv ed   th P h . D.   d eg r ee   in   av io n ics  e n g i n ee r i n g   f r o m   Ko r ea   A er o s p ac Un iv e r s it y ,   K y u n g g i - Do ,   Ko r ea ,   in   1 9 9 6 .   Fro m   Feb r u ar y   1 9 9 0   to   Au g u s 1 9 9 3 ,   h w as  w it h   Han j in   E lectr o n ic s   C o . ,   w h e r h w a s   i n v o l v ed   in   t h e   r esear ch   an d   d ev e lo p m en o f   r ad io   co m m u n icatio n   &   m o n ito r i n g   s y s te m s .   Fro m   Octo b er   1 9 9 3   to   Feb r u ar y   1 9 9 9 ,   h w a s   w it h   th e   C DM A   R & ce n ter   o f   Sa m s u n g   E lectr o n ics  C o . ,   w h er h w as  in v o l v ed   in   th d esig n   an d   d ev elo p m en o f   C DM ce llu lar   s y s te m s   a n d   C D M A   P C s y s te m s   f o r   s u cc e s s f u l   co m m er cial  C DM d ep lo y m en i n   Ko r ea .   Sin ce   Ma r ch   1 9 9 9 ,   h h as  b ee n   w it h   th Sc h o o o f   E lectr ical,   E lectr o n ics  an d   C o m m u n icati o n   E n g . ,   Ko r ea   Un i v er s it y   o f   T ec h n o lo g y   an d   E d u ca tio n   ( KORE A T E C H) ,   C h eo n a n ,   Ko r ea ,   w h er h i s   cu r r e n tl y   p r o f ess o r .   His   r esear ch   in ter est   is   in   th e   ar ea s   o f   w i r eless / m o b ile   co m m u n ica tio n ,   w ir eless   lo ca lizatio n ,   I o T   an d   en g in ee r i n g   ed u ca tio n .     Evaluation Warning : The document was created with Spire.PDF for Python.