T E L K O M N I K A ,   V o l . 1 0 ,   N o . 1 ,   M a r c h   2 0 1 2 ,   p p .   1 1 3 ~ 1 1 8   I S S N :   1 6 9 3 - 6 9 3 0   a c c r e d i t e d   b y   D G H E   ( D I K T I ) ,   D e c r e e   N o :   5 1 / D i k t i / K e p / 2 0 1 0           1 1 3       R e c e i v e d   A u g u s t   1 0 th ,   2 0 1 1 ;   R e v i s e d   J a n u a r y   4 th ,   2 0 1 2 ;   A c c e p t e d   J a n u a r y   9 th ,   2 0 1 2   E f f i c i e n t   K e r n e l - b a s e d   T w o - D i m e n s i o n a l   P r i n c i p a l   C o m p o n e n t   A n a l y s i s   f o r   S m i l e   S t a g e s   R e c o g n i t i o n       R i m a   T r i   W a h y u n i n g r u m * ,   F i t r i   D a m a y a n t i   I n f o r m a t i c s   E n g i n e e r i n g   D e p a r t m e n t ,   U n i v e r s i t y   o f   T r u n o j o y o   M a d u r a   R a y a   T e l a n g   PO   BO X   2   Ka m a l ,   Ba n g k a l a n ,   I n d o n e s i a   e - m a i l :   r i m a _ t w @ y a h o o . c o . i d ,   f i t r i 2 7 0 8 @ y a h o o . c o m       A b s t r a k   Ak h i r - a k h i r   i n i ,   p e n d e k a t a n   a n a l i s i s   k o m p o n e n   u t a m a   d u a   d i m e n s i   ( 2 D PC A)   t e l a h   d i u s u l k a n   u n t u k   r e p r e s e n t a s i   d a n   p e n g e n a l a n   t a r a f   s e n y u m a n .   E s e n s i   d a r i   2 D PC a d a l a h   m e n g h i t u n g   v e c t o r   e i g e n   a t a u   y a n g   d i s e b u t   m a t r i k   k o v a r i a n   t a n p a   m e n g k o n v e r s i   m a t r i k   c i t r a   k e   b e n t u k   v e k t o r   s e h i n g g a   u k u r a n n y a   l e b i h   k e c i l ,   l e b i h   m u d a h   m e n g e v a l u a s i   k o v a r i a n   m a t r i k n y a ,   k o m p u t a s i n y a   b e r k u r a n g   d a n   u n j u k   k e r j a n y a   j u g a   m e n i n g k a t   d i b a n d i n g k a n   PC t r a d i s i o n a l .   U s a h a   u n t u k   m e n i n g k a t k a n   d a n   m e n y e m p u r n a k a n   u n j u k   k e r j a   p e n g e n a l a n   t a r a f   s e n y u m a n .   Pa d a   m a k a l a h   i n i   d i u s u l k a n   k o n s e p   k e r n e l   2 D PC y a n g   e f i s i e n   u n t u k   m e n g e m b a n g k a n   s t r u k t u r   n o n   l i n i e r   p a d a   d a t a   m a s u k a n .   M a k a l a h   i n i   m e n d i s k u s i k a n   p e r b a n d i n g a n   a l g o r i t m a   2 D PC b e r b a s i s   K e r n e l   s t a n d a r   d a n   2 D PC b e r b a s i s   Ke r n e l   e f i s i e n   u n t u k   p e n g e n a l a n   t a r a f   s e n y u m a n .   D a r i   h a s i l   u j i c o b a   d i d a p a t k a n   2 D PC b e r b a s i s   Ke r n e l   m e m i l i k i   a k u r a s i   y a n g   l e b i h   b a g u s   d a r i p a d a   p e n d e k a t a n   l a i n n y a .   Se d a n g k a n   p e n g g u n a a n   2 D PC b e r b a s i s   Ke r n e l   e f i s i e n   m a m p u   m e m p e r c e p a t   p r o s e d u r   p e l a t i h a n   2 D PC b e r b a s i s   Ke r n e l   s t a n d a r ,   s e h i n g g a   a l g o r i t m a   i n i   m e n g h a s i l k a n   w a k t u   k o m p u t a s i   l e b i h   e f i s i e n   d a n   m e n g h e m a t   p e n g g u n a a n   m e m o r i   d i b a n d i n g k a n   d e n g a n   2 D PC A   b e r b a s i s   Ke r n e l   s t a n d a r .       K a t a   k u n c i :   2 D PC A,   e k s t r a k s i   c i r r i ,   Ke r n e l   e f i s i e n ,   Ke r n e l   s t a n d a r ,   p e n g e n a l a n   t a r a f   s e n y u m a n       A b s t r a c t     R e c e n t l y ,   a n   a p p r o a c h   c a l l e d   t w o - d i m e n s i o n a l   p r i n c i p a l   c o m p o n e n t   a n a l y s i s   ( 2 D PC A)   h a s   b e e n   p r o p o s e d   f o r   s m i l e   s t a g e s   r e p r e s e n t a t i o n   a n d   r e c o g n i t i o n .   T h e   e s s e n c e   o f   2 D PC i s   t h a t   i t   c o m p u t e s   t h e   e i g e n v e c t o r s   o f   t h e   s o - c a l l e d   i m a g e   c o v a r i a n c e   m a t r i x   w i t h o u t   m a t r i x - t o - v e c t o r   c o n v e r s i o n   s o   t h e   s i z e   o f   t h e   i m a g e   c o v a r i a n c e   m a t r i x   a r e   m u c h   s m a l l e r ,   e a s i e r   t o   e v a l u a t e   c o v a r i a n c e   m a t r i x ,   c o m p u t a t i o n   c o s t   i s   r e d u c e d   a n d   t h e   p e r f o r m a n c e   i s   a l s o   i m p r o v e d   t h a n   t r a d i t i o n a l   PC A.   I n   a n   e f f o r t   t o   i m p r o v e   a n d   p e r f e c t   t h e   p e r f o r m a n c e   o f   s m i l e   s t a g e s   r e c o g n i t i o n ,   i n   t h i s   p a p e r ,   w e   p r o p o s e   e f f i c i e n t   Ke r n e l   b a s e d   2 D PC c o n c e p t s .   T h e   Ke r n e l i z a t i o n   o f   2 D PC c a n   b e   b e n e f i t   t o   d e v e l o p   t h e   n o n l i n e a r   s t r u c t u r e s   i n   t h e   i n p u t   d a t a .   T h i s   p a p e r   d i s c u s s e s   c o m p a r i s o n   o f   s t a n d a r d   Ke r n e l   b a s e d   2 D PC a n d   e f f i c i e n t   Ke r n e l   b a s e d   2 D PC f o r   s m i l e   s t a g e s   r e c o g n i t i o n .   T h e   r e s u l t s   o f   e x p e r i m e n t s   s h o w   t h a t   Ke r n e l   b a s e d   2 D PC a c h i e v e   b e t t e r   p e r f o r m a n c e   i n   c o m p a r i s o n   w i t h   t h e   o t h e r   a p p r o a c h e s .   W h i l e   t h e   u s e   o f   e f f i c i e n t   Ke r n e l   b a s e d   2 D PC A   c a n   s p e e d   u p   t h e   t r a i n i n g   p r o c e d u r e   o f   s t a n d a r d   Ke r n e l   b a s e d   2 D PC A   t h u s   t h e   a l g o r i t h m   c a n   a c h i e v e   m u c h   m o r e   c o m p u t a t i o n a l   e f f i c i e n c y   a n d   r e m a r k a b l y   s a v e   t h e   m e m o r y   c o n s u m i n g   c o m p a r e d   t o   t h e   s t a n d a r d   Ke r n e l   b a s e d   2 D PC A.       K e y w o r d s :   2 D PC A,   e f f i c i e n t   K e r n e l ,   f e a t u r e   e x t r a c t i o n ,   s m i l e   s t a g e s   r e c o g n i t i o n ,   s t a n d a r d   Ke r n e l           1 .     I n t r o d u c t i o n   F e a t u r e   e x t r a c t i o n   i s   t h e   k e y   p r o b l e m   t o   t h e   p a t t e r n   r e c o g n i t i o n   t a s k .   T h e   a i m   o f   f e a t u r e   e x t r a c t i o n   i s   t o   p r o j e c t   t h e   h i g h   d i m e n s i o n a l   s a m p l e   d a t a   o n t o   t h e   o p t i m a l   p r o j e c t i o n   m a t r i x   a n d   y i e l d   t h e   l o w   d i m e n s i o n a l   f e a t u r e   d a t a   a s   r e p r e s e n t a t i v e   a s   p o s s i b l e .   P r i n c i p a l   c o m p o n e n t   a n a l y s i s   ( P C A )   i s   a   c l a s s i c a l   f e a t u r e   e x t r a c t i o n   a n d   d a t a   r e p r e s e n t a t i o n   t e c h n i q u e   w i d e l y   u s e d   i n   t h e   a r e a s   o f   p a t t e r n   r e c o g n i t i o n   a n d   c o m p u t e r   v i s i o n   [ 1 ] , [ 2 ] .   I n   P C A ,   t h e   t e c h n i q u e   m a p s   t h e   s a m p l e   v e c t o r s   c o n s i d e r e d   a s   a   p o i n t   i n   h i g h   d i m e n s i o n a l   s p a c e   i n t o   l o w   d i m e n s i o n a l   s u b s p a c e .   W h i l e   i n   2 D P C A ,   a n   i m a g e   c o v a r i a n c e   m a t r i x   c a n   b e   c o n s t r u c t e d   d i r e c t l y   u s i n g   t h e   o r i g i n a l   i m a g e   m a t r i c e s   a n d   t h i s   o v e r c o m e s   t h e   w e a k n e s s e s   o f   P C A   i n   w h i c h   2 D   f a c e   i m a g e   m a t r i c e s   m u s t   b e   p r e v i o u s l y   t r a n s f o r m e d   i n t o   1 D   i m a g e   v e c t o r s .   A s   a   r e s u l t ,   2 D P C A   h a s   t h r e e   i m p o r t a n t   a d v a n t a g e s   o v e r   P C A .   F i r s t ,   i t   i s   e a s i e r   t o   e v a l u a t e   t h e   c o v a r i a n c e   m a t r i x   a c c u r a t e l y .   S e c o n d ,   l e s s   t i m e   i s   r e q u i r e d   t o   c o m p u t e   t h e   c o r r e s p o n d i n g   e i g e n v e c t o r s .   T h e   l a s t   o n e   i s   t h a t   2 D P C A   Evaluation Warning : The document was created with Spire.PDF for Python.
                                        I S S N :   1 6 9 3 - 6 9 3 0   T E L K O M N I K A     V o l .   1 0 ,   N o .   1 ,     M a r c h   2 0 1 2   :     1 1 3     1 1 8   1 1 4 c a n   e f f e c t i v e l y   a v o i d   t h e   s m a l l   s a m p l e   s i z e   ( S S S )   p r o b l e m ,   w h i c h   w i l l   a c h i e v e   g o o d   r e c o g n i t i o n   a c c u r a c y   w h e n   o n l y   o n e   s a m p l e   i s   c o n t a i n e d   i n   e a c h   c l a s s .   F u r t h e r ,   t h e   p e r f o r m a n c e   o f   2 D P C A   i s   u s u a l l y   b e t t e r   t h a n   P C A   a s   d e m o n s t r a t e d   i n   Y a n g   [ 3 ] .   I n   p r e v i o u s   s t u d i e s   m a n y   r e s e a r c h   h a v e   d i s c u s s e d   a b o u t   f a c e   r e c o g n i t i o n ,   b u t   o n l y   a   f e w   r e s e a r c h   h a v e   d i s c u s s e d   a b o u t   s m i l e   s t a g e s   r e c o g n i t i o n .   S m i l e   s t a g e s   r e c o g n i t i o n   i s   a   p a r t   o f   A e s t h e t i c   D e n t i s t r y   o n   O r t h o d o n t i c   R e h a b i l i t a t i o n .   T h i s   i s   a l s o   a   p a r t   o f   f a c e   e x p r e s s i o n   r e c o g n i t i o n .   M o s t   w e l l   k n o w n   a p p e a r a n c e - b a s e d   s m i l e   s t a g e s   r e c o g n i t i o n   m e t h o d s   a r e   b a s e d   o n   f e a t u r e   e x t r a c t i o n   t e c h n i q u e s   s u c h   a s   p r i n c i p a l   c o m p o n e n t   a n a l y s i s   ( P C A )   a n d   l i n e a r   d i s c r i m i n a n t   a n a l y s i s   ( L D A )   [ 4 ] ,   2 D P C A   [ 5 ] ,   2 D L D A   [ 6 ] ,   k e r n e l   L a p l a c i a n - l i p s   [ 7 ] .   M e a n w h i l e ,   m a n y   s e r i o u s   s t u d i e s   h a v e   b e e n   c o n d u c t i n g   a b o u t   t h e   s m i l e   e x p r e s s i o n   a n d / o r   r e c o g n i t i o n   o r   d e t e c t i o n .   P h i l i p s   p r e s e n t e d   t h e   c l a s s i f i c a t i o n   o f   s m i l e   p a t t e r n s   t o   i d e n t i f y   v a r i o u s   s m i l e   p a t t e r n s   i n   d e n t i s t r y   [ 8 ] .     W h i t e h i l l   e t   a l   p o i n t e d   o u t   t h a t   t h e   s m i l e   e x p r e s s i o n   o f   a   f a c e ,   i n   t h e   f o r m   o f   a n   i m a g e   a n d   a   v i d e o   c a n   b e   d e t e c t e d   [ 9 ] .     F u r t h e r m o r e ,   W o j d e l   a n d   R o t h k r a n t z   p r o p o s e d   t h e   c o m b i n a t i o n   o f   f u z z y   s y s t e m   a n d   a r t i f i c i a l   n e u r a l   n e t w o r k   t o   r e c o g n i z e   t h e   e x p r e s s i o n   o f   o r a l   f e a t u r e s   [ 1 0 ] .   K e r n e l   m e t h o d   i s   o n e   o f   t h e   n o n l i n e a r   d a t a   c l a s s i f i e r   m e t h o d s   t h a t   h a v e   b e e n   s u c c e s s f u l l y   i m p l e m e n t e d   o n   m a c h i n e   l e a r n i n g   a l g o r i t h m ,   l i k e   K e r n e l   P r i n c i p a l   C o m p o n e n t   A n a l y s i s   ( K P C A )   [ 1 1 - 1 3 ] ,   K e r n e l   F i s h e r   D i s c r i m i n a n t   ( K F D )   [ 1 4 ] ,   a n d   K e r n e l   I n d e p e n d e n t   C o m p o n e n t   A n a l y s i s   ( K I C A )   [ 1 5 ] .   K P C A   i s   t h e   n o n - l i n e a r   g e n e r a l i z a t i o n   o f   t h e   c o n v e n t i o n a l   P C A   v i a   t h e   k e r n e l   t r i c k ,   w h i c h   i s   a   p o w e r f u l   m e t h o d   f o r   c l a s s i f i c a t i o n   a n d   r e g r e s s i o n   a p p l i c a t i o n .   L i k e w i s e ,   t h e   K e r n e l i z a t i o n   o f   2 D P C A   c a n   b e   b e n e f i t   t o   d e v e l o p   t h e   n o n l i n e a r   s t r u c t u r e s   i n   t h e   i n p u t   d a t a   [ 1 6 ] ,   [ 1 7 ] .   B e c a u s e   t h e   2 D P C A   i s   w o r k i n g   o n   t h e   r o w   o f   t h e   s a m p l e   i m a g e ,   t h e   n o n   l i n e a r   g e n e r a t i o n   o f   2 D P C A   n e e d   m a p   e a c h   r o w   o f   s a m p l e s   o n t o   f e a t u r e   s p a c e   v i a   k e r n e l   t r i c k .   A s   a   r e s u l t ,   t h e   d i m e n s i o n   o f   k e r n e l   m a t r i x   o f   t r a i n i n g   d a t a   i s   v e r y   h i g h ,   a n d   t h e   p r o c e d u r e   o f   d i a g o n a l i z i n g   t h e   k e r n e l   m a t r i x   i s   q u i t e   t i m e   c o n s u m i n g .   T o   o v e r c o m e   t h e   s u f f e r i n g   o f   c o m p u t a t i o n   c o s t ,   i n   t h i s   r e s e a r c h ,   w e   p r e s e n t   a n   e f f i c i e n t   k e r n e l   b a s e d   2 D P C A   f o r   s m i l e   s t a g e s   r e c o g n i t i o n .     T h i s   r e s e a r c h   c l a s s i f i e s   s m i l e   s t a g e s   p a t t e r n   b a s e d   o n   t h e   s m i l e   s c e n a r i o s   t o   d i s t i n g u i s h   t h e   s m i l i n g   s t a g e   f a c e s   a t   p a t t e r n   I ,   p a t t e r n   I I I   a n d   p a t t e r n   I V .   W e   e m p l o y   3 0   f a c e   i m a g e s   f o r   e a c h   s m i l e   s t a g e   p a t t e r n .   T h e   r e s u l t   o f   r e s e a r c h   c a n   b e   u s e d   t o   s u p p o r t   m e d i c a l   f i e l d s ,   s u c h   a s   c o m p l i c a t e d   o r a l   f a c i a l   s u r g e r i e s ,   p e r i o d o n t a l   f r a c t i o n s ,   a n d   t r a u m a t i c   t o o t h   f r a c t u r e s .   T h i s   r e s e a r c h   w i l l   a l s o   b e   v e r y   u s e f u l   f o r   p a t i e n t s   b e f o r e   a n d   a f t e r   s u r g e r y .       2 .     T h e   A l g o r i t h m   R e s e a r c h   2 . 1 .   T w o   D i m e n s i o n a l   P C A   ( 2 D P C A )   I n   2 D   a p p r o a c h ,   t h e   i m a g e   m a t r i x   d o e s   n o t   n e e d   t o   b e   p r e v i o u s l y   t r a n s f o r m e d   i n t o   a   v e c t o r ,   s o   a   s e t   o f   M   s a m p l e   i m a g e s   i s   r e p r e s e n t e d   a s   {   P 1 ,   P 2 ,   ,   P M   }   w i t h   P i     R   k x s ,   w h i c h   i s   a   m a t r i x   s p a c e   o f   s i z e   .   T h e   t o t a l   s c a t t e r   m a t r i x   i s   r e d e f i n e d   a s       =                                                                                                     ( 1 )       w i t h   =        i s   t h e   m e a n   i m a g e   o f   a l l   s a m p l e s .       i s   a l s o   c a l l e d   i m a g e   c o v a r i a n c e   ( s c a t t e r )   m a t r i x .   A   l i n e a r   t r a n s f o r m a t i o n   m a p p i n g   t h e   o r i g i n a l   k x s   i m a g e   s p a c e   i n t o   a   k x n   f e a t u r e   s p a c e ,   w h e r e   n   <   s .   T h e   n e w   f e a t u r e   m a t r i c e s   Q i     R k x n   a r e   d e f i n e d   b y   t h e   f o l l o w i n g   l i n e a r   t r a n s f o r m a t i o n :     =   ( )           R k x n                     ( 2 )     w h e r e   i   =   1 ,   2 ,   ,   M   a n d   W     R   s x n   i s   a   m a t r i x   w i t h   o r t h o n o r m a l   c o l u m n s .   I n   2 D P C A ,   t h e   p r o j e c t i o n   W o p i s   c h o s e n   t o   m a x i m i z e   t r ( W T G t W ) .   T h e   o p t i m a l   p r o j e c t i o n   W o p =   [ w 1   w 2     w n ]   w i t h   { w i   |   i   =   1 ,   2 , ,   n }   i s   t h e   s e t   o f   s - d i m e n s i o n a l   e i g e n v e c t o r s   o f   G t   c o r r e s p o n d i n g   t o   t h e   n   l a r g e s t   e i g e n v a l u e s .   A f t e r   a   t r a n s f o r m a t i o n   b y   2 D P C A ,   a   f e a t u r e   m a t r i x   i s   o b t a i n e d   f o r   e a c h   i m a g e .   T h e n ,   a   n e a r e s t   n e i g h b o r   c l a s s i f i e r   i s   u s e d   f o r   c l a s s i f i c a t i o n .   H e r e ,   t h e   d i s t a n c e   b e t w e e n   t w o   a r b i t r a r y   f e a t u r e   m a t r i c e s     a n d     i s   d e f i n e d   b y   u s i n g   E u c l i d e a n   d i s t a n c e   a s   f o l l o w s :     , =   ( , , )        ( 3 )   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L K O M N I K A     I S S N :   1 6 9 3 - 6 9 3 0           E f f i c i e n t   K e r n e l - b a s e d   T w o - D i m e n s i o n a l   P r i n c i p a l   C o m p o n e n t   .   ( R i m a   T r i   W a h y u n i n g r u m )   1 1 5   G i v e n   a   t e s t   s a m p l e   Q t ,   i f   ,   =   m i n   j   , ,   t h e n   t h e   r e s u l t i n g   d e c i s i o n   i s     b e l o n g s   t o   t h e   s a m e   c l a s s   a s   .     2 . 2 .   S t a n d a r d   K e r n e l   B a s e d   2 D P C A     K e r n e l   b a s e d   2 D P C A   i s   a   f e a t u r e   e x t r a c t i o n   m e t h o d   c l o s e l y   r e l a t e d   t o   2 D P C A   [ 1 6 ] .   T h e   a l g o r i t h m   c a n   b e   s e e n   a s   f o l l o w :   I d e a :   C o n s i d e r   e a c h   r o w   o f   a l l   t r a i n i n g   i m a g e   m a t r i c e s   a s   a   c o l u m n   v e c t o r   s a m p l e   a n d   a p p l y   K P C A .   I n p u t :   A   s e t   o f   M   s a m p l e   i m a g e s   i s   r e p r e s e n t e d   a s   {   P 1 ,   P 2 ,   ,   P M   }   w i t h   P i     R k x s .   L e t   =   ( )   ,   w h e r e   = 1 . . , = 1 . .   a n d   = 1 + ,   b e   a   c o l u m n   v e c t o r   w h i c h   i s   t h e   t r a n s p o s e   o f   t h e   r o w     o f   i m a g e   m a t r i x   .   A l g o r i t h m :     1 .   C e n t e r i n g   p r o j e c t e d   s a m p l e s   ( )   2 .   D e f i n e   k e r n e l   m a t r i x   K      b y       , = , =         ( 4 )     w h e r e   , = 1 . .   a n d                   3 .   S o l v e   t h e   E i g e n   p r o b l e m    = λ ,   a n d   = ( )      4 .   P r o j e c t i n g   t h e   i m a g e   i n     t o   a   l o w e r   d i m e n s i o n a l   s p a c e   s p a n n e d   b y   t h e   e i g e n v e c t o r s   .   L e t     b e   a   s a m p l e   w h o s e   p r o j e c t i o n   i s   ( )   i n   ,   t h e n   t h e   p r o j e c t i o n   o f       ( )   o n t o   t h e   e i g e n v e c t o r s       i s   :     =   =       =   ( ( ) ) ( ( )  )           ( 5 )                           T h e   a b o v e   a l g o r i t h m   i s   c a l l e d   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   f o r   t w o   r e a s o n s .   F i r s t l y ,   i t   e x p l i c i t l y   d e v e l o p s   t h e   m o d e l   o f   K e r n e l   b a s e d   2 D P C A   w i t h   a n a l y t i c   s o l u t i o n .   S e c o n d l y ,   a s   c o n c e r n   a s   t h e   c o m p u t a t i o n   c o m p l e x i t y ,   t h e   m o d e l   i s   p r i m a r y .   F o r   t h e   s i z e   o f   k e r n e l   m a t r i x   K   i s   t h e   r M   x   r M ,   t h e   c o m p l e x i t y   o f   d i a g o n a l i z i n g   t h e   k e r n e l   m a t r i x   K   i s   O   ( ( r N ) 3 ) .   B e c a u s e   r M   i s   a l w a y s   l a r g e   i n   t h e   r e a l   p a t t e r n   r e c o g n i t i o n   t a s k s ,   t h e   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   s u f f e r s   f r o m   c o m p u t a t i o n a l   p r o b l e m .     2 . 3 .   E f f i c i e n t   K e r n e l   B a s e d   2 D P C A     T h e   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   t u r n s   t o   s o l v e   t h e   e i g e n v a l u e   p r o b l e m   o f   t h e   n e w   k e r n e l   m a t r i x     a n d   t h e   d i a g o n a l   s u b   m a t r i x   K   ( j ,   j )   ( j = 1 , , r ) .   T h u s   t h e   c o m p l e x i t y   o f   t h e   p r o p o s e d   m e t h o d   i s   m a x   ( ) ,   .     T h e   p r o p o s e d   m e t h o d   d i v i d e d   t h e   k e r n e l   m a t r i x   i n t o   s e v e r a l   s u b   m a t r i c e s   a n d   t h e n   p e r f o r m e d   d i m e n s i o n   r e d u c t i o n   o n   e a c h   s u b   m a t r i x   t o   o b t a i n   t h e   a p p r o x i m a t e   n e w   k e r n e l   m a t r i x   w i t h   s m a l l e r   s i z e .   I n   a d d i t i o n ,   t h e   p r o p o s e d   a p p r o a c h   j u s t   n e e d s   t o   s t o r e   n e w   k e r n e l   m a t r i x     w i t h   l o w e r   d i m e n s i o n   r a t h e r   t h a n   t h e   s t a n d a r d   k e r n e l   m a t r i x   K .   F i n a l l y ,   w e   d i a g o n a l i z e d   t h e   n e w   k e r n e l   m a t r i x   t o   e x t r a c t   t h e   e i g e n v e c t o r s .   T h e   p r o c e d u r e   o f   e f f i c i e n t   a l g o r i t h m   f o r   K e r n e l   b a s e d   2 D P C A   i s :   1 .   D i v i d e   t h e   k e r n e l   m a t r i x   K   i n t o   r   x   r   b l o c k   m a t r i x   ( , ) , ,… , ,   w h e r e   ,   i s   M   x   M   s u b   m a t r i x .   2 .   O b t a i n   t h e   p r i n c i p a l   c o m p o n e n t s   o f   t h e   s u b   m a t r i x   ( , ) ,… , .   3 .   S e l e c t   t h e   l e a d i n g   p r i n c i p a l   c o m p o n e n t s   o f   ,   t o   c o m p u t e   t h e   m a t r i x     ( j ,   l )   a n d   t h e n   c o n s t r u c t   t h e   ( i n s t e a d   o f   d i a g o n a l i z i n g     s i n c e     i s   a p p r o x i m a t e   t o   .                                   =   ( )  ( )     ( 1 6 )       w h e r e   ( )   =   ! ( )  ( )   w i t h   ! = ( ! , , ! T   i s   t h e   e i g e n v e c t o r   o f   e i g e n e q u a t i o n .   4 .   D i a g o n a l i z e       t o   g e t   e i g e n v a l u e   λ′   a n d   e i g e n v e c t o r s     b a s e d   o n   Evaluation Warning : The document was created with Spire.PDF for Python.
                                        I S S N :   1 6 9 3 - 6 9 3 0   T E L K O M N I K A     V o l .   1 0 ,   N o .   1 ,     M a r c h   2 0 1 2   :     1 1 3     1 1 8   1 1 6     =   λ′                                       ( 1 7 )     w h e r e   = ( ) "    w i t h   "   a r e   t h e   w e i g h t s   o f   l e a d i n g   e i g e n v a l u e     ( " = ( " , , " ) )   a n d     i s   t h e   c o e f f i c i e n t s   m a t r i x   5 .   C o m p u t e   p r o j e c t i o n s   o f   t e s t   p o i n t s   o n t o   t h e   e i g e n v e c t o r     u s i n g       # = $ % = & $ % $ % '  "   =  "                               ( 1 8 )     w h e r e   = 1 , , ( .   L e t   λ′ , , λ′   A   a r e   t h e   l e a d i n g   e i g e n v a l u e s   o f   ,   t h e   c o r r e s p o n d i n g   e i g e n v e c t o r s   a r e   , , .     H e n c e ,   t h e   n o n l i n e a r   p r i n c i p a l   c o m p o n e n t   m a t r i x   o f   b   c o r r e s p o n d i n g   t o   )   i s   * = ( # , , # ) .       3 .     R e s e a r c h   M e t h o d   I n   t h i s   r e s e a r c h ,   w e   d e c i d e   t w o   m a i n   p r o c e s s e s ,   w h i c h   a r e   t r a i n i n g   p r o c e s s   a n d   t e s t i n g   p r o c e s s .   T h e   p r o p o s e d   s y s t e m   i s   s h o w n   i n   F i g u r e   1 ,   t h a t   a r e   c o n s i s t s   o f   t h r e e   m o d u l e s :   i m a g e   p r e p r o c e s s i n g ,   f e a t u r e   e x t r a c t i o n ,   a n d   c l a s s i f i c a t i o n .   T h e   e n t i r e   s y s t e m   f l o w s   a r e   b r i e f l y   d e s c r i b e d   a s   f o l l o w s .   T h e   f i r s t   m o d u l e   e m p l o y s   s m i l i n g   f a c e s   d a t a .   E v e r y   s m i l i n g   f a c e   i m a g e   w a s   t h e   s i z e   5 0 x 5 0   p i x e l s .   T h e   d a t a   i s   m a n u a l l y   c r o p p e d   a g a i n s t   a   f a c e   d a t a   a t   o r a l   a r e a   a n d   p r o d u c e s   s p a t i a l   c o o r d i n a t e   [ 5 . 9 0 8 1 6   3 4 . 0 7 1 4   3 9 . 3 8 7 7   1 5 . 1 0 2 0 ] .   T h i s   p r o c e s s   c a u s e s   t h e   f a c e   d a t a   s i z e   r e d u c t i o n   i n t o   4 0 x 1 6   p i x e l s .   T h e   c o o r d i n a t e   i s   b e i n g   e m p l o y e d   a s   a   r e f e r e n c e   f o r   t h e   a u t o m a t i c a l l y   c r o p p i n g   p r o c e s s   a g a i n s t   a l l   o t h e r   f a c e   d a t a .                 D a t a   k l a s i f i k a s i   G e n d e r       F i g u r e   1 .   T h e   p r o p o s e d   s y s t e m       N e x t ,   f i r s t   e x p e r i m e n t   t h e   f e a t u r e   e x t r a c t i o n   p e r f o r m s   s t a n d a r d   K e r n e l   b a s e d   2 P C A   t o   c o m p u t e   t h e   p r o j e c t i o n   m a t r i c e s   f r o m   t h e   i n p u t   s p a c e   t o   a   h i g h   d i m e n s i o n a l   f e a t u r e   s p a c e   b y   a   n o n l i n e a r   m a p p i n g   f u n c t i o n .   S e c o n d   e x p e r i m e n t ,   w e   u s e   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   f r o m   t h e   i n p u t   m a t r i x   s p a c e   t o   a   h i g h   d i m e n s i o n a l   f e a t u r e   s p a c e   b y   a   n o n l i n e a r   m a p p i n g   f u n c t i o n   d e f i n e d   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L K O M N I K A     I S S N :   1 6 9 3 - 6 9 3 0           E f f i c i e n t   K e r n e l - b a s e d   T w o - D i m e n s i o n a l   P r i n c i p a l   C o m p o n e n t   .   ( R i m a   T r i   W a h y u n i n g r u m )   1 1 7   i n   a   s i m i l a r   w a y   a s   K P C A   a n d   s t a n d a r d   K e r n e l   b a s e d   2 D P C A .   F i n a l l y ,   t o   d e t e r m i n e   t h e   c l a s s i f i c a t i o n   r e s u l t s ,   i t   i s   n e c e s s a r y   t o   b e   c o n d u c t e d   s i m i l a r i t y   m e a s u r e m e n t   b a s e d   o n   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   a n d   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   b y   u s i n g   E u c l i d e a n   d i s t a n c e .       4 .     R e s u l t s   a n d   A n a l y s i s     T h i s   s e c t i o n   e v a l u a t e s   t h e   p e r f o r m a n c e   o f   P C A   a l g o r i t h m   [ 1 ] ,   2 D P C A   [ 2 ] ,   K P C A   [ 1 1 ] ,   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   [ 1 6 ]   a n d   o u r   n e w   a p p r o a c h   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   b a s e d   o n   s m i l e   s t a g e s   d a t a b a s e .   F o r   t h e   e x p e r i m e n t ,   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   a n d   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   m e t h o d   u s e s   t h e   9 0   s m i l i n g   f a c e s   d a t a ,   i . e . ,   3 0   d a t a   f o r   S t a g e   I ,   3 0   d a t a   f o r   S t a g e   I I I ,   a n d   3 0   d a t a   f o r   S t a g e   I V   ( s e e   F i g u r e   2 ) .   T h e   d a t a   i t s e l f   h a s   b e e n   v a l i d a t e d   b y   d e n t i s t   s p e c i a l i z i n g   i n   t o o t h   c o n s e r v a t i o n .   I n i t i a l l y ,   e v e r y   f a c e   d a t a   h a s   t h e   s i z e   o f   5 0 x 5 0   p i x e l s   a t   e a c h   s t a g e .   I t   i s   m a n u a l l y   c r o p p e d   a g a i n s t   a   f a c e   d a t a   a t   o r a l   a r e a .   T h i s   p r o c e s s   c a u s e s   t h e   f a c e   d a t a   s i z e   r e d u c t i o n   i n t o   4 0 x 1 6   p i x e l s .   A l l   e x p e r i m e n t s   a r e   c a r r i e d   o u t   o n   l a p t o p   w i t h   C P U   :   I n t e l   C o r e   2   D u o   T 6 5 0 0   @   2 . 1 0   G H z ,   R A M   :   2 G B   a n d   M A T L A B   7 . 6   s o f t w a r e   p l a t f o r m .                   F i g u r e   2 .   V i s u a l i z a t i o n   o f   s m i l e   a t   s t a g e   I ,   s t a g e   I I I ,   a n d   s t a g e   I V       A s   t h e   m e t h o d   o f   t h r e e - f o l d   c r o s s   v a l i d a t i o n   i s   b e i n g   a p p l i e d ,   d a t a   a t   e a c h   s t a g e   i s   d i v i d e d   i n t o   3   g r o u p s .   T h e   f i r s t   2 / 3   d a t a   ( 2 0   d a t a )   b e c o m e s   t h e   t r a i n i n g   d a t a ,   w h i l e   t h e   l a s t   1 / 3   d a t a   ( 1 0   d a t a )   w o r k   a s   t h e   t e s t i n g   d a t a   f o r   e a c h   g r o u p .     T h o s e   g r o u p s   a r e   b e i n g   r o t a t e d   w i t h   n o   o v e r l a p ,   t h u s   a l l   o f   t h e m   h a v e   t h e   e x p e r i e n c e   o f   b e c o m i n g   t e s t i n g   d a t a .   T h e   t r a i n i n g   d a t a   w e r e   u s e d   t o   l e a r n   t h e   s u b s p a c e ,   w h i l e   t h e   t e s t i n g   d a t a   w e r e   t h e n   p r o j e c t e d   i n t o   t h e   h i g h e r - d i m e n s i o n a l   r e p r e s e n t a t i o n   s u b s p a c e .   T h e   t o t a l   n u m b e r   o f   t r a i n i n g   d a t a   a n d   t e s t i n g   d a t a   a r e   6 0   a n d   3 0   r e s p e c t i v e l y .   F r o m   S e c t i o n   2 . 3 ,   t h e   s i z e   o f   k e r n e l   m a t r i x   K   o f   t h e   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   i s   r M   x   r M   =   7 2 0   x   7 2 0   i n   o u r   e x p e r i m e n t ,   w e   f i r s t l y   d i v i d e   K   i n t o   a n   r   x   r   =   1 2   x   1 2   b l o c k   m a t r i x   K   ( j ,   l ) ,   w h e r e   K   ( j ,   l )   i s   M   x   M   =   6 0   x   6 0   s u b   m a t r i x .   T o   e a c h   s u b   m a t r i x   K   ( j ,   l ) ,   w e   s e l e c t   t h e   9 5 %   l e a d i n g   c o m p o n e n t s   t o   c o m p u t e   t h e   a n d   c o n s t r u c t   .   T a b l e   1   b a s e d   o n   p r e v i o u s   r e s e a r c h   s h o w s   c o m p a r i s o n   o f   r e c o g n i t i o n   a c c u r a c y   o n   s m i l e   s t a g e s   r e c o g n i t i o n   w i t h   P C A ,   2 D P C A   a n d   K P C A   a l g o r i t h m .       T a b l e   1 .   C o m p a r i s o n   o f   r e c o g n i t i o n   a c c u r a c y   o n   s m i l e   s t a g e s   r e c o g n i t i o n     M e t h o d   A c c u r a c y   ( % )   P C A   7 4 . 0 5   K P C A   8 6 . 5 0   2 D P C A   9 1 . 4 4     T a b l e   2 .   C o m p a r i s o n   o f   t r a i n i n g   t i m e ,   s p a c e   n e e d e d   a n d   r e c o g n i t i o n   a c c u r a c y   w i t h   p o l y n o m i a l   k e r n e l   ( d   =   5 )   M e t h o d   D i m e n s i o n   T i m e   ( s )   S p a c e   ( M b )   A c c u r a c y   ( % )   S t a n d a r d   K e r n e l   b a s e d   2 D P C A   7 2 0 x 8 4   4 6 7   7 4   9 3 . 5   E f f i c i e n t   K e r n e l   b a s e d   2 D P C A   1 7 5 x 2 6   1 8 6   1 9   9 3 . 5     T a b l e   3 .   C o m p a r i s o n   o f   t r a i n i n g   t i m e ,   s p a c e   n e e d e d   a n d   r e c o g n i t i o n   a c c u r a c y   w i t h   g a u s s i a n   k e r n e l   ( 2 + = 3     1 0 )   M e t h o d   D i m e n s i o n   T i m e   ( s )   S p a c e   ( M b )   A c c u r a c y   ( % )   S t a n d a r d   K e r n e l   b a s e d   2 D P C A   7 2 0 x 2 4 5   5 9 8   1 5 4   9 5 . 6 7   E f f i c i e n t   K e r n e l   b a s e d   2 D P C A   1 9 0 x 5 8   2 6 1   4 7   9 5 . 6 7       F r o m   T a b l e s   1 ,   2 ,   a n d   3 ,   w e   c a n   f i n d   t h a t   t h e   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   m e t h o d   a c h i e v e s   t h e   s a m e   b e s t   r e s u l t s   a s   t h e   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   m e t h o d   t h a n   o t h e r   Evaluation Warning : The document was created with Spire.PDF for Python.
                                        I S S N :   1 6 9 3 - 6 9 3 0   T E L K O M N I K A     V o l .   1 0 ,   N o .   1 ,     M a r c h   2 0 1 2   :     1 1 3     1 1 8   1 1 8 m e t h o d s .   W e   f i n d   t h a t   t h e   e f f i c i e n t   a p p r o a c h   c a n   s i g n i f i c a n t l y   r e d u c e   t h e   t r a i n i n g   t i m e   a n d   s p a c e   c o m p a r e d   t o   t h e   s t a n d a r d   K e r n e l   b a s e d   2 D P C A .   W h i l e ,   u s e   o f   G a u s s i a n   k e r n e l   c a n   r e c o g n i z e   m o r e   t e s t   d a t a   a c c u r a t e l y ,   b u t   t h e y   n e e d   m o r e   t i m e   a n d   s p a c e .   I n   a d d i t i o n ,   w e   o n l y   s h o w   r e s u l t s   o f   6 0   t r a i n i n g   d a t a   b e c a u s e   t h e   h i g h e s t   n u m b e r   o f   t r a i n i n g   d a t a   m a y   c a u s e   t h e   o u t   o f   m e m o r y   p r o b l e m .         4 .     C o n c l u s i o n   I n   t h i s   p a p e r ,   w e   p r o p o s e   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   f o r   s o l v i n g   t h e   l a r g e   c o m p u t a t i o n   c o m p l e x i t y   o f   s t a n d a r d   K e r n e l   b a s e d   2 D P C A   m e t h o d .   T h e   r e s u l t s   o f   s m i l e   s t a g e s   r e c o g n i t i o n   e x p e r i m e n t s   a r e   s h o w n   t h a t   K e r n e l   b a s e d   2 D P C A   o b t a i n s   b e t t e r   a c c u r a c y   t h a n   K P C A   m e t h o d   a s   w e l l   a s   t h e   e f f i c i e n t   K e r n e l   b a s e d   2 D P C A   c a n   e f f e c t i v e l y   s p e e d   u p   t h e   t r a i n i n g   p r o c e d u r e   a n d   r e m a r k a b l y   s a v e   t h e   m e m o r y   c o n s u m i n g   c o m p a r e d   t o   t h e   s t a n d a r d   K e r n e l   b a s e d   2 D P C A .   W e   a l s o   p r o v e d   t h a t   K e r n e l   b a s e d   2 D P C A   c o u l d   b e   i m p l e m e n t e d   b y   u s i n g   K P C A   t e c h n i q u e .               R e f e r e n c e s   [ 1 ]     Ki r b y   M ,   Si r o v i c h   L .   Ap p l i c a t i o n   o f   t h e   Ka r h u n e n - l o e v e   Pr o c e d u r e   f o r   T h e   C l a s s i f i c a t i o n   o f   H u m a n   F a c e s .   I EEE  T r a n s a c t i o n s   Pa t t e r n   An a l y s i s   o f   M a c h i n e   I n t e l l i g e n t .   1 9 9 0 ;   1 2 ( 1 ) :   1 0 3 - 1 0 8 .   [ 2 ]     T u r k   M A,   Pe n t l a n d   AP.   Ei g e n f a c e s   f o r   R e c o g n i t i o n .   J o u r n a l   o f   C o g n i t i v e   N e u r o s c i e n c e .   1 9 9 1 :   3 ( 1 )   7 1 - 8 6 .   [ 3 ]     Y a n g   J ,   Z h a n g   D ,   F r a n g i   A F ,   Y a n g   J Y .   T w o   D i m e n s i o n a l   PC A:   N e w   Ap p r o a c h   t o   A p p e a r a n c e - b a s e d   F a c e   R e p r e s e n t a t i o n   a n d   R e c o g n i t i o n .   I EEE  T r a n s a c t i o n s   Pa t t e r n   A n a l y s i s   o f   M a c h i n e   I n t e l l i g e n t .   2 0 0 4 ;   2 6 ( 1 ) :   1 3 1 - 1 3 7 .   [ 4 ]     C a h y o n o   G R ,   Pu r n o m o   M H ,   H a r y a d i   M .   S m i l e   St a g e s   C l a s s i f i c a t i o n   Ba s e d   o n   Ae s t h e t i c   D e n t i s t r y   U s i n g   Ei g e n f a c e s ,   F i s h e r f a c e s   a n d   M u l t i c l a s s   SVM .   4 t h   I n t e r n a t i o n a l   C o n f e r e n c e   o n   Bi o m e d i c a l   En g i n e e r i n g .   2 0 0 8 :   4 5 - 5 0 .   [ 5 ]     W a h y u n i n g r u m   R T ,   Pu r n o m o   M H ,   Pu r n a m a   I KE.   Sm i l e   S t a g e s   R e c o g n i t i o n   i n   O r t h o d o n t i c   R e h a b i l i t a t i o n   U s i n g   2 D PC F e a t u r e   Ex t r a c t i o n .   F i r s t   I n t e r n a t i o n a l   C o n f e r e n c e   o n   G r e e n   C o m p u t i n g   a n d   T h e   Se c o n d   AU N / SEED - N ET   R e g i o n a l   C o n f e r e n c e   o n   I C T .   2 0 1 0 :   2 1 4 - 2 1 6 .   [ 6 ]     W a h y u n i n g r u m   R T ,   Pu r n a m a   I KE ,   Pu r n o m o   M H .   Sm i l e   St a g e s   C l a s s i f i c a t i o n   b y   U s i n g   F e a t u r e   Ex t r a c t i o n   Ba s e d   o n   2 D PC a n d   2 D L D i n   O r t h o d o n t i c   R e h a b i l i t a t i o n .   6 t h   I n t e r n a t i o n a l   C o n f e r e n c e   o n   Bi o m e d i c a l   En g i n e e r i n g .   2 0 1 0 :   1 2 0   1 2 5 .   [ 7 ]     Pu r n o m o   M H ,   Sa r j o n o   T A,   M u n t a s a   A.   Sm i l e   St a g e s   C l a s s i f i c a t i o n   Ba s e d   o n   K e r n e l   L a p l a c i a n - l i p s   U s i n g   Se l e c t i o n   o f   N o n   L i n e a r   F u n c t i o n   M a x i m u m   Va l u e .   I EEE  I n t e r n a t i o n a l   C o n f e r e n c e   o n   Vi r t u a l   En v i r o n m e n t s   H u m a n - C o m p u t e r   I n t e r f a c e s   a n d   M e a s u r e m e n t   Sy s t e m s   ( VEC I M S) .   2 0 1 0 :   1 5 1 - 1 5 6 .   [ 8 ]     Ph i l i p s   E,   T h e   C l a s s i f i c a t i o n   o f   Sm i l e   Pa t t e r n .   J o u r n a l   C a n   D e n t i s t   As s o c i a t i o n ,   1 9 9 9 ,   6 5 : 2 5 2 - 2 5 4   [ 9 ]     W h i t e h i l l   J ,   L i t t l e w o r t   G ,   F a s e l   I ,   Ba r t l e t t   M ,   M o v e l l a n   J .   D e v e l o p i n g   a   Pr a c t i c a l   S m i l e   D e t e c t o r .   w w w . m p l a b . u c s . e d u / ~ j a k e / p a m i _ p a p e r . p d f   [ 1 0 ]     W o j d e l   J C ,   R o t h k r a n t z   L J M .   M i x e d   F u z z y - s y s t e m   a n d   Ar t i f i c i a l   N e u r a l   N e t w o r k   Ap p r o a c h   t o   Au t o m a t e d   R e c o g n i t i o n   o f   M o u t h   Ex p r e s s i o n .   Kn o w l e d g e   b a s e d   S y s t e m s ,   F a c u l t y   o f   I n f o r m a t i o n   T e c h n o l o g y   a n d   Sy s t e m s ,   D e l f t   U n i v e r s i t y   o f   T e c h n o l o g y   D e l f t ,   T h e . N e t h e r l a n d s .   w w w . c i t e s e e r . i s t . p s u . e d u / 2 2 0 5 3 7 . h t m l   [ 1 1 ]     Sc h ö l k o p f   B,   Sm o l a   A,   M u l l e r   KR .   N o n l i n e a r   C o m p o n e n t   An a l y s i s   a s   a   Ke r n e l   Ei g e n v a l u e   Pr o b l e m .   N e u r a l   C o m p u t a t i o n .   1 9 9 8 ;   1 0 ( 5 ) :   1 2 9 9 - 1 3 1 9 .   [ 1 2 ]     Sc h ö l k o p f   B,   M i k a   S,   Bu r g e r   C J C ,   Kn i r s c h   P,   M u l l e r   KR ,   R a e t s c h   G ,   Sm o l a   A.   I n p u t   Sp a c e   v s .   F e a t u r e   Sp a c e   i n   K e r n e l   Ba s e d   M e t h o d s .   I EEE  T r a n s a c t i o n   o n   N e u r a l   N e t w o r k .   1 9 9 9 ;   1 0 ( 5 ) :   1 0 0 0 - 1 0 1 7 .   [ 1 3 ]     R o s i p a l   R ,   G i r o l a m i   M ,   T r e j o   L ,   C i c h o c k i   A.   A n   Ex p e c t a t i o n - m a x i m i z a t i o n   A p p r o a c h   t o   N o n l i n e a r   C o m p o n e n t   A n a l y s i s .   N e u r a l   C o m p u t a t i o n .   2 0 0 1 ;   1 3 :   5 0 5 - 5 1 0 .   [ 1 4 ]     M i k a   S,   R ä t s c h   G ,   W e s t o n   J ,   Sc h ö l k o p f   B,   M u l l e r   KR .   F i s h e r   D i s c r i m i n a n t   A n a l y s i s   w i t h   Ke r n e l s .   I EEE  W o r k s h o p   o n   N e u r a l   N e t w o r k   f o r   Si g n a l   Pr o c e s s i n g   I X .   1 9 9 9 :   4 1 - 4 8 .   [ 1 5 ]     F r a n c i s   R B,   M i c h a e l   I J .   Ke r n e l   I n d e p e n d e n t   C o m p o n e n t   An a l y s i s .   J o u r n a l   o f   M a c h i n e   L e a r n i n g   R e s e a r c h .   2 0 0 2 ;   3 :   1 - 4 8 .   [ 1 6 ]     Z h e n g   W M ,   Z o u   C R ,   Z h a o   L .   An   I m p r o v e d   Al g o r i t h m   f o r   Ke r n e l   Pr i n c i p a l   C o m p o n e n t   An a l y s i s .   N e u r a l   Pr o c e s s i n g   L e t t e r s .   2 0 0 5 ;   2 2 :   4 9 - 5 6 .   [ 1 7 ]     M u n t a s a   A,   I n d a h   AS,   M a u r i d h i   H P.   Ap p e a r a n c e   g l o b a l   a n d   l o c a l   s t r u c t u r e   f u s i o n   f o r   f a c e   i m a g e   r e c o g n i t i o n .   T EL KO M N I KA   I n d o n e s i a n   J o u r n a l   o f   El e c t r i c a l   E n g i n e e r i n g .   2 0 1 1 ;   9 ( 1 ) :   1 2 5 - 1 3 2 .     Evaluation Warning : The document was created with Spire.PDF for Python.