T E L K O M N I K A ,   V o l . 1 0 ,   N o . 4 ,   A u g u s t   2 0 1 2 ,   p p .   7 7 5 ~ 7 8 7   e - I S S N :   2 0 8 7 - 2 7 8 X   a c c r e d i t e d   b y   D G H E   ( D I K T I ) ,   D e c r e e   N o :   5 1 / D i k t i / K e p / 2 0 1 0           7 7 5       R e c e i v e d   J u n e   6 ,   2 0 1 2 ;   R e v i s e d   A u g u s t   1 ,   2 0 1 2 ;   A c c e p t e d   A u g u s t   6 ,   2 0 1 2   F a c e   R e c o g n i t i o n   U s i n g   H o l i s t i c   F e a t u r e s   a n d   L i n e a r   D i s c r i m i n a n t   A n a l y s i s   S i m p l i f i c a t i o n       I   G e d e   P a s e k   S u t a   W i j a y a * 1 ,   K e i i c h i   U c h i m u r a 2 ,   a n d   G o u   K o u t a k i 2   1 El e c t r i c a l   En g i n e e r i n g   D e p t . ,   F a c u l t y   o f   En g i n e e r i n g ,   M a t a r a m   U n i v e r s i t y   J l .   M a j a p a h i t   6 2   M a t a r a m ,   N u s a   T e n g g a r a   Ba r a t ,   I n d o n e s i a   2 G r a d u a t e   Sc h o o l   o f   S c i e n c e   a n d   T e c h n o l o g y ,   Ku m a m o t o   U n i v e r s i t y   Ku m a m o t o   S h i ,   K u r o k a m i   2 - 3 9 - 1 ,   J a p a n   e - m a i l :   g p s u t a w i j a y a @ g m a i l . c o m * 1 ,   { u c h i m u r a ,   k o u t a k i } @ c s . k u m a m o t o - u . a c . j p 2       A b s t r a k   P a d a   m a k a l a h   i n i ,   s u a t u   m e t o d e   y a n g   b e r b a s i s   c i r i - c i r i   h o l i s t i c   ( m e n y e l u r u h )   d a r i   c i t r a   w a j a h   a n d   L D A   ( l i n e a r   d i s c r i m i n a n t   a n a l y s i s )   y a n g   d i s e d e r h a n a k a n   d i u s u l k a n   s e b a g a i   a l g o r i t m a   a l t e r n a t i v e   d a r i   p e n g e n a l a n   w a j a h .   M e t o d e   i n i   d i u s u l k a n   u n t u k   m e n g a t a s i   m a s a l a h   w a k t u   y a n g   d i b u t u h k a n   d a l a m   p r o s e s   p e l a t i h a n   k e m b a l i   d a r i   m e t o d e   L D A   k o n v e n s i o n a l   k e t i k a   d a t a   b a r u   d i r e g i s t r a s i   k e   d a l a m   d a t a   p e l a t i h a n .   C i r i - c i r i   h o l i s t i c   ( h o l i s t i c   f e a t u r e s )   w a j a h   d i u s u l k a n   u n t u k   m e n g u r a n g i   d i m e n s i   u k u r a n   d a t a   c i t r a   w a j a h .   S e d a n g a n   L D A   y a n g   d i s e d e r h a n a k a n   ( s i m p l i f i e d   L D A )   y a n g   m e r u p a k a n   s u a t u   p e n e n t u a n   k e m b a l i   s c a t t e r   a n t a r   k l a s   m e n g g u n a k a n   s u a t u   k o n s t a n t a   r e r a t a   g l o b a l   u n t u k   m e n g u r a n g i   k o m p l e k s i t a s   w a k t u   d a r i   p r o s e s   p e l a t i h a n   k e m b a l i .   U n t u k   m e n g e t a h u i   k e b e r h a s i l a n   m e t o d e   i n i ,   b e b e r a p a   p e r c o b a a n   d i l a k u k a n   m e n g g u n a k a n   b e b e r a p a   d a t a b a s e   w a j a h   y a n g   m e m i l i k i   k e r u m i t a n   y a n g   t i n g g i   s e p e r t i   d a t a b a s e   O R L ,   Y A L E ,   I T S - L A B ,   I N D I A   d a n   F E R E T .   B e b e r a p a   v a r i a s i   m e t o d e   d a r i   P C A   d a n   L D A   s e p e r t i   D L D A ,   2 D L D A ,   ( 2 D ) 2 D L D A ,   2 D P C A ,   d a n   ( 2 D ) 2 2 D P C A   d i g u n a k a n   s e b a g a i   m e t o d e   p e m b a n d i n g .   D a t a   p e r c o b a a n   m e n u n j u k a n   b a h w a   m e t o d e   y a n g   d i u s u l k a n   d a p a t   m e n y e l e s a i k a n   p e r m a s a l a h   p e l a t i h a n   k e m b a l i   y a n g   d i t u n j u k k a n   d e n g a n   w a k t u   p e l a t i h a n   y a n g   p e n d e k   d a n   t i n g k a t   p e n g e n a l a n   y a n g   s t a b i l .         K a t a   k u n c i :   P C A ,   L D A ,   c i r i - c i r i   h o l i s t i c ,   e x s t r a k s i   c i r i - c i r i ,   p e n g e n a l a n   w a j a h .       A b s t r a c t     T h i s   p a p e r   p r o p o s e s   a n   a l t e r n a t i v e   a p p r o a c h   t o   f a c e   r e c o g n i t i o n   a l g o r i t h m   t h a t   i s   b a s e d   o n   g l o b a l / h o l i s t i c   f e a t u r e s   o f   f a c e   i m a g e   a n d   s i m p l i f i e d   l i n e a r   d i s c r i m i n a n t   a n a l y s i s   ( L D A ) .   T h e   p r o p o s e d   m e t h o d   c a n   o v e r c o m e   m a i n   p r o b l e m s   o f   t h e   c o n v e n t i o n a l   L D A   i n   t e r m s   o f   l a r g e   p r o c e s s i n g   t i m e   f o r   r e t r a i n i n g   w h e n   a   n e w   c l a s s   d a t a   i s   r e g i s t e r e d   i n t o   t h e   t r a i n i n g   d a t a   s e t .   T h e   h o l i s t i c   f e a t u r e s   o f   f a c e   i m a g e   a r e   p r o p o s e d   a s   d i m e n s i o n a l   r e d u c t i o n   o f   r a w   f a c e   i m a g e .   W h i l e ,   t h e   s i m p l i f i e d   L D A   w h i c h   i s   t h e   r e d e f i n i t i o n   o f   b e t w e e n   c l a s s   s c a t t e r   u s i n g   c o n s t a n t   g l o b a l   m e a n   a s s i g n m e n t   i s   p r o p o s e d   t o   d e c r e a s e   t i m e   c o m p l e x i t y   o f   r e t r a i n i n g   p r o c e s s .   T o   k n o w   t h e   p e r f o r m a n c e   o f   t h e   p r o p o s e d   m e t h o d ,   s e v e r a l   e x p e r i m e n t s   w e r e   p e r f o r m e d   u s i n g   s e v e r a l   c h a l l e n g i n g   f a c e   d a t a b a s e s :   O R L ,   Y A L E ,   I T S - L a b ,   I N D I A ,   a n d   F E R E T   d a t a b a s e .   F u r t h e r m o r e ,   w e   c o m p a r e d   t h e   d e v e l o p e d   a l g o r i t h m   e x p e r i m e n t a l   r e s u l t s   t o   t h e   b e s t   t r a d i t i o n a l   s u b s p a c e   m e t h o d s   s u c h   a s   D L D A ,   2 D L D A ,   ( 2 D ) 2 D L D A ,   2 D P C A ,   a n d   ( 2 D ) 2 2 D P C A .   T h e   e x p e r i m e n t a l   r e s u l t s   s h o w   t h a t   t h e   p r o p o s e d   m e t h o d   c a n   b e   s o l v e   t h e   r e t r a i n i n g   p r o b l e m   o f   t h e   c o n v e n t i o n a l   L D A   i n d i c a t e d   b y   r e q u i r i n g   s h o r t e d   r e t r a i n i n g   t i m e   a n d   s t a b l e   r e c o g n i t i o n   r a t e .       K e y w o r d s :   P C A ,   L D A ,   h o l i s t i c   f e a t u r e s ,   f e a t u r e s   e x t r a c t i o n ,   f a c e   r e c o g n i t i o n         C o p y r i g h t   ©   2 0 1 2   U n i v e r s i t a s   A h m a d   D a h l a n .   A l l   r i g h t s   r e s e r v e d .       1 .     I n t r o d u c t i o n   T h e   p u b l i s h e d   m e t h o d s   o f   f a c e   r e c o g n i t i o n   c a n   b e   c a t e g o r i z e d   i n   t o   t h r e e   g r o u p s [ 1 ] .   F i r s t l y   h o l i s t i c   m a t c h i n g   m e t h o d ,   w h i c h   u s e s   t h e   w h o l e   f a c e   r e g i o n   a s   r a w   i n p u t   t o   t h e   r e c o g n i t i o n   s y s t e m ;   s e c o n d l y   f e a t u r e s   b a s e d   ( s t r u c t u r a l )   m a t c h i n g   m e t h o d s   w h i c h   u s e   t h e   l o c a l   f e a t u r e s   s u c h   a s   e y e s ,   n o s e s ,   a n d   m o u t h ,   a n d   l o c a l   s t a t i s t i c s   ( g e o m e t r i c s   a n d   o r   a p p e a r a n c e )   a s   d a t a   i n p u t   t o   t h e   r e c o g n i t i o n   s y s t e m ;   a n d   t h i r d l y   h y b r i d   m e t h o d s   w h i c h   u s e   b o t h   w h o l e   f a c e   Evaluation Warning : The document was created with Spire.PDF for Python.
                                    e - I S S N :   2 0 8 7 - 2 7 8 X   T E L K O M N I K A     V o l .   1 0 ,   N o .   4 ,   A u g u s t   2 0 1 2   :     7 7 5     7 8 7   7 7 6   a n d   l o c a l   f e a t u r e s   a s   d a t a   i n p u t   t o   t h e   s y s t e m .   T h e   m e t h o d   t h a t   i n v o l v e s   t o   t h e   f i r s t   c a t e g o r y :   p r i n c i p l e   c o m p o n e n t   a n a l y s i s   ( P C A ) ,   l i n e a r   c o m p o n e n t   a n a l y s i s   ( L D A ) ,   p r o b a b i l i s t i c   d e c i s i o n s   b a s e d   n e u r a l   n e t w o r k ,   a n d   t h e i r   v a r i a t i o n s   o r   c o m b i n a t i o n s .   T h e   m e t h o d s   i n c l u d e d   i n   t h e   s e c o n d   c a t e g o r y   a r e   D y n a m i c   l i n k   a r c h i t e c t u r e ,   h i d d e n   M a r k o v   m o d e l   ( H M M ) ,   a n d   c o n v o l u t i o n   n e u r a l   n e t w o r k   ( C N N ) .   T h e   m e t h o d s   i n c l u d e d   i n   t h e   t h i r d   g r o u p s   a r e ,   m o d u l a r   e i g e n f a c e s ,   h y b r i d   l o c a l   f e a t u r e   m e t h o d ,   f l e x i b l e   a p p e a r a n c e   m o d e l ,   a n d   F a c e   r e g i o n s   a n d   c o m p o n e n t s .   A m o n g   t h e m ,   t h e   P C A - b a s e d   a n d   L D A - b a s e d   m e t h o d s   o f   f a c e   r e c o g n i t i o n   a r e   w e l l   k n o w n   a n d   e n c o u r a g i n g   r e s u l t s   h a v e   b e e n   a c h i e v e d .   H o w e v e r ,   b o t h   o f   t h e m   h a v e   t h e i r   l i m i t a t i o n s :   l a r g e   c o m p u t a t i o n a l   c o s t s ,   h i g h   m e m o r y   s p a c e   r e q u i r e m e n t ,   a n d   r e t r a i n i n g   p r o b l e m s .   T h o s e   s y s t e m s   h a v e   t o   r e t r a i n   a l l   f a c e   i m a g e   c l a s s e s   t o   g e t   o p t i m a l   p r o j e c t i o n   w h e n   t h e   n e w   c l a s s e s   a r e   a d d e d   i n t o   t h e   s y s t e m .   I n   a d d i t i o n ,   t h e   m a i n   d i s a d v a n t a g e   o f   t h e   P C A   p r o j e c t e d   f e a t u r e s   i s   l a c k   o f   d i s c r i m i n a t i o n   p o w e r   b e c a u s e   i t   r e m o v e s   t h e   n u l l   s p a c e s   o f   d a t a   s c a t t e r   t h a t   h a v e   u s e f u l   d i s c r i m i n a n t   i n f o r m a t i o n .   T h e   L D A   w o r k s   w i t h   a s s u m p t i o n   t h a t   t h e   d a t a   s a m p l e s   h a v e   G a u s s i a n   d i s t r i b u t i o n .   T h i s   p a p e r   p r o p o s e s   a n   a l t e r n a t i v e   a p p r o a c h   t o   f a c e   r e c o g n i t i o n   a l g o r i t h m   t h a t   i s   b a s e d   o n   h o l i s t i c   f e a t u r e s   ( H F )   o f   f a c e   i m a g e   a n d   s i m p l i f i e d   L D A   ( s L D A )   t o   o v e r c o m e   l a r g e   c o m p u t a t i o n a l   c o s t s   a n d   r e t r a i n i n g   p r o b l e m   o f   t h e   c o n v e n t i o n a l   L D A   ( C L D A ) .   T h e r e   a r e   t h r e e   m a i n   o b j e c t i v e s   o f   t h e   p r o p o s e d   m e t h o d :   f i r s t l y ,   t o   p r o v e   t h a t   t h e   g l o b a l   f e a t u r e s   o f   f a c e   i m a g e   c o n t a i n s   m o s t   o f   f a c e   c l a s s i f i c a t i o n   i n f o r m a t i o n ;   s e c o n d l y ,   t o   r e d e f i n e   t h e   p r e d i c t i v e   b e t w e e n   c l a s s   s c a t t e r   ( S b )   w h i c h   h a v e   t h e   s a m e   s t r u c t u r e   a s   t h a t   o f   C L D A   b u t   i t   h a s   l e s s   c o m p u t a t i o n a l   c o m p l e x i t y ;   a n d   f i n a l l y ,   t o   k n o w   t h e   e f f e c t i v e n e s s   o f   s L D A   f o r   f a c e   r e c o g n i t i o n   c o m p a r e d   w i t h   t h e   b e s t   t r a d i t i o n a l   s u b s p a c e   m e t h o d s .   T h i s   p a p e r   i s   o r g a n i z e d   a s   f o l l o w s :   s e c t i o n   2   d e s c r i b e s   t h e   p r e v i o u s   w o r k   w h i c h   r e l a t e d   t o   t h e   p r o p o s e d   s y s t e m ;   s e c t i o n   3   e x p l a i n s   h o w   t o   i m p l e m e n t   t h e   D C T   a n a l y s i s   a s   a   m a i n   e l e m e n t   o f   g l o b a l   f e a t u r e   e x t r a c t i o n ,   s e c t i o n   4   e x p l a i n s   b r i e f l y   t h e   a l g o r i t h m   o f   c l a s s i c a l   L D A ,   t h e   s i m p l i f i e d   L D A ,   a n d   t h e i r   a d v a n t a g e s   a n d   d i s a d v a n t a g e s ,   s e c t i o n   5   d e s c r i b e s   t h e   i m p l e m e n t a t i o n   f o r   f a c e   r e c o g n i t i o n   m e t h o d s ,   s e c t i o n   6   p r e s e n t s   t h e   e x p e r i m e n t a l   r e s u l t s   a n d   t h e   r e s u l t s   d i s c u s s i o n ,   a n d   t h e   r e s t   c o n c l u d e s   t h e   p a p e r .         2 .     P r e v i o u s   W o r k   T h e   r e l a t e d   w o r k s   t o   o u r   a p p r o a c h   a r e   t h e   f a c e   r e c o g n i t i o n   b a s e d   o n   h o l i s t i c   o r   g l o b a l   m a t c h i n g   m e t h o d s   a s   d e s c r i b e d   i n   R e f s .   [ 1 - 1 5 ] .   R e f .   [ 2 ]   d e s c r i b e s   t h e   e v a l u a t i o n s   o f   l a r g e - s c a l e   C h i n e s e   f a c e   d a t a b a s e ,   w h i c h   c o n s i s t i n g   o f   9 9 5 9 4   i m a g e s   o f   1 0 4 0   s u b j e c t s   t h a t   h a v e   l a r g e   d i v e r s i t y   o f   t h e   v a r i a t i o n s ,   i n c l u d i n g   p o s e ,   e x p r e s s i o n ,   a c c e s s o r y ,   l i g h t i n g ,   t i m e ,   b a c k g r o u n d s ,   d i s t a n c e   o f   s u b j e c t s   t o   c a m e r a ,   a n d   t h e   c o m b i n e d   v a r i a t i o n s ,   u s i n g   s e v e r a l   w e l l   k n o w   m e t h o d s :   P C A ,   P C A + L D A ,   G a b o r - P C A + L D A ,   a n d   L o c a l   G a b o r   B i n a r y   P a t t e r n   H i s t o g r a m   S e q u e n c e   ( L G B P H S ) .   T h e   e v a l u a t i o n   r e s u l t s   s h o w s   t h a t   t h e   a l g o r i t h m   b a s e d   o n   L G B P H S   o u t p e r f o r m   o v e r   o t h e r   t h r e e   a l g o r i t h m s .   I n   t e r m s   o f   f r e q u e n c y   b a s e d   m e t h o d s   a n a l y s i s ,   R e f .   [ 3 ]   d e s c r i b e s   f a c e   r e c o g n i t i o n   b a s e d   o n   a   c o m b i n a t i o n   o f   t h e   D C T   a n a l y s i s   a n d   f a c e   l o c a l i z a t i o n   t e c h n i q u e s   t o   a c q u i r e   t h e   g l o b a l   i n f o r m a t i o n   o f   f a c e   i m a g e ,   b u t   i t   r e q u i r e s   e y e s   c o o r d i n a t e   w h i c h   h a v e   t o   i n p u t   m a n u a l l y ,   t o   p e r f o r m   g e o m e t r i c a l   n o r m a l i z a t i o n .   T h e   g l o b a l   f a c e   i n f o r m a t i o n   w a s   c r e a t e d   b y   k e e p i n g   a   s m a l l   n u m b e r   o f   t h e   D C T   c o e f f i c i e n t s   t h a t   h a d   l a r g e   m a g n i t u d e   v a l u e s .   R e f .   [ 4 ]   d e s c r i b e s   f a c e   r e c o g n i t i o n   b a s e d   o n   w a v e l e t - p a c k e t   t r e e   a n a l y s i s   f o r   f r o n t a l   v i e w   o f   h u m a n   f a c e s   u n d e r   r o u g h l y   c o n s t a n t   i l l u m i n a t i o n .   T h e   f a c i a l   f e a t u r e   w a s   b u i l t   b y   i m p l e m e n t i n g   w a v e l e t - p a c k e t   t r e e   a n a l y s i s   o f   b o u n d i n g   b o x   f a c e   a n d   t h e n   c a l c u l a t i n g   t h e   m e a n   a n d   v a r i a n c e   o f   s i x t e e n   m a t r i c e s   w a v e l e t   c o e f f i c i e n t s .   T h a t   a p p r o a c h   d o e s   n o t   w o r k   f o r   n o n - f r o n t a l   f a c e s   v i e w   a n d   n e e d s   c o n s t a n t   i l l u m i n a t i o n   t o   m a k e   t h e   b o u n d i n g   b o x   f a c e .   F u r t h e r m o r e ,   t h e   c o m b i n a t i o n   o f   t h e   D C T   o r   t h e   D W T   w i t h   s i m p l e   m o d i f i e d   L D A ,   A P C A   o r   w e i g h t   L D A   h a d   b e e n   i m p l e m e n t e d   t o   r e c o g n i z e   p o s e   i n v a r i a n t   f a c e   i m a g e   a n d   g a v e   b e t t e r   p e r f o r m a n c e s   t h a n   s t a n d   a l o n e   P C A   o r   L D A ,   a s   d e s c r i b e d   i n   R e f s   [ 1 2 - 1 4 ] .   M o r e o v e r ,   R e f .   [ 5 ]   p r o v e d   t h a t   t h e   P C A   a n d   L D A   c o u l d   b e   d i r e c t l y   i m p l e m e n t e d   i n   D C T   d o m a i n   w i t h   t h e   s a m e   r e s u l t   a s   t h e   o n e   o b t a i n e d   f r o m   s p a t i a l   d o m a i n s .   H o w e v e r ,   t h e y   s t i l l   l a c k   o f   t h e   r e c o g n i t i o n   r a t e .   E v e n   t h o u g h ,   t h e   R e f .   [ 1 2 ]   c o u l d   s o l v e   t h e   r e t r a i n i n g   p r o b l e m   o f   L D A ,   h o w e v e r   i t s   p e r f o r m a n c e   w i l l   d e c r e a s e   s i g n i f i c a n t l y   f o r   l a r g e   s a m p l e   s i z e .   T h e   m o s t   r e l a t e d   a p p r o a c h   t o   o u r   s y s t e m   i s   f a c e   r e c o g n i t i o n   b a s e d   o n   P C A   a n d / o r   L D A   a n d   t h e i r   v a r i a t i o n s   a s   d e s c r i b e d   i n   R e f s .   [ 5 - 1 4 ] .   I n   t e r m   o f   d a t a   d i m e n s i o n a l ,   t h e   P C A   a n d   L D A   c a n   b e   c l a s s i f i e d   i n   t o   o n e - d i m e n s i o n a l   ( 1 D - P C A / L D A )   [ 5 , 1 2 - 1 4 ]   w h i c h   i s   v e c t o r - b a s e d   a n a l y s i s   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L K O M N I K A     e - I S S N :   2 0 8 7 - 2 7 8 X       F a c e   R e c o g n i t i o n   U s i n g   H o l i s t i c   F e a t u r e s   a n d   L i n e a r   D i s c r i m i n a n t     ( I   G e d e   P a s e k   S W )   7 7 7 a n d   t w o - d i m e n s i o n a l   ( 2 D - P C A / L D A )   [ 6 - 1 1 ]   w h i c h   i s   m a t r i x - b a s e d   a n a l y s i s .   T h e   2 D - P C A   o u t p e r f o r m s   o v e r   t h e   1 D - P C A .   H o w e v e r ,   t h e   2 D - P C A   r e q u i r e s   m o r e   c o e f f i c i e n t s   f o r   i m a g e   r e p r e s e n t a t i o n   t h a n   1 D - P C A .   T h e   t w o - d i r e c t i o n a l   2 D - P C A   [ 8 ] ,   w h i c h   w o r k s   i n   b o t h   t h e   r o w   a n d   c o l u m n   d i r e c t i o n   o f   i m a g e   h a s   b e e n   p r o p o s e d   i n   o r d e r   t o   a c h i e v e   h i g h e r   a n d   m o r e   s t a b l e   a c c u r a c y   a s   w e l l   a s   f e w e r   c o e f f i c i e n t s   i s   r e q u i r e d   f o r   i m a g e   r e p r e s e n t a t i o n .   H o w e v e r ,   t h e y   s t i l l   h a v e   r e t r a i n i n g   p r o b l e m .   L i k e   1 D - P C A ,   t h e   1 D - L D A   i s   e s s e n t i a l l y   w o r k i n g   o n   v e c t o r   b a s e d   f o r   f e a t u r e s   c l u s t e r i n g .   G e n e r a l l y ,   t h e   1 D - L D A   p r o v i d e s   b e t t e r   p e r f o r m a n c e   o v e r   t h e   P C A ,   b e c a u s e   t h e   L D A   d i s c r i m i n a t e   t h e   d a t a   u s i n g   b o t h   b e t w e e n   c l a s s   s c a t t e r   a n d   w i t h i n   c l a s s   s c a t t e r   i n f o r m a t i o n .   T h e   R e f .   [ 1 6 ]   s h o w s   t h a t   t h e   L D A   p r o v i d e s   h i g h e r   d i s c r i m i n a t i o n   p o w e r   t h a n   t h e   P C A   a n d   t h e   c l a s s i f i c a t i o n   i n f o r m a t i o n   o f   t h e   P C A   s p r e a d   t o   a l l   o v e r   t o   p r i n c i p l e   c o m p o n e n t s   w h i l e   t h e   L D A ' s   c o n c e n t r a t e   i n   t o p   f e w   d i s c r i m i n a n t   v e c t o r s .   H o w e v e r ,   t h e   1 D - L D A   h a s   s e v e r a l   d i f f i c u l t i e s :   c o m p u t a t i o n a l   c o s t   a n d   s i n g u l a r i t y   p r o b l e m s .   D u e   t o   t h o s e   p r o b l e m s ,   d i r e c t   L D A   h a s   b e e n   p r o p o s e d ,   a s   d e s c r i b e d   i n   R e f .   [ 9 ] .   I n   o r d e r   t o   k e e p   t h e   t w o - d i m e n s i o n a l   s t r u c t u r e   o f   f a c e   i m a g e   t h e   2 D - P C A   a n d   2 D - L D A   h a s   b e e n   d e v e l o p e d   w h i c h   t h e   2 D - L D A   g a v e   b e t t e r   p e r f o r m a n c e   t h a n   t h e   2 D - P C A .   I n   o r d e r   t o   g e t   m o r e   c o m p a c t   f e a t u r e s ,   t h e   t w o - d i r e c t i o n a l   a n d   t w o - d i m e n s i o n a l   P C A   ( ( 2 D ) 2 P C A ) [ 8 ]   a n d   P C A L D A   ( ( 2 D ) 2 P C A L D A ) [ 1 1 ]   h a v e   b e e n   d e v e l o p e d .   T h e   ( 2 D ) 2 P C A L D A   o u t   p e r f o r m s   o v e r   t h e   o t h e r s   a l g o r i t h m s .   T h e r e f o r e ,   w e   w i l l   c o m p a r e   o u r   p r o p o s e d   m e t h o d s   t o   t h e   ( 2 D ) 2 P C A L D A   m e t h o d s .   T h e   s t r e n g t h   o f   1 D - P C A   a n d   1 D - L D A   f o r   f a c e   r e c o g n i t i o n   w i t h   D C T   b a s e d   h o l i s t i c   f e a t u r e s   a s   r a w   i n p u t   o n   t h e   s y s t e m   h a s   b e e n   p r e s e n t e d   i n   R e f s .   [ 1 3 - 1 4 ] .   M o r e o v e r ,   w e   a l s o   d e v e l o p e d   a n   a l t e r n a t i v e   1 D - P C A   [ 1 4 ]   t h a t   i m p r o v e   t h e   g l o b a l   m e a n   d e p e n d e n t   o f   t h e   c o v a r i a n c e   m a t r i x   a n d   w e i g h t   1 D - L D A [ 1 3 ]   t h a t   i m p r o v e   t h e   c l a s s   s e p a r a b l e .   H o w e v e r ,   t h e   L D A   a n d   i t s   v a r i a t i o n s   a s   d e s c r i b e d   p r e v i o u s l y   s t i l l   h a v e   r e t r a i n i n g   p r o b l e m   b e c a u s e   t h e   b e t w e e n   c l a s s   s c a t t e r   d e p e n d   o n   t h e   g l o b a l   m e a n .   T h e   R e f .   [ 1 5 ]   p r o p o s e d   a   n e w   f o r m u l a t i o n   o f   s c a t t e r   m a t r i c e s   t o   e x t e n d   t h e   t w o - c l a s s   n o n - p a r a m e t r i c   d i s c r i m i n a n t   a n a l y s i s   a n d   m u l t i - c l a s s i f i e r   i n t e g r a t i o n   t o   a d d r e s s   G a u s s i a n   d i s t r i b u t i o n   a s s u m p t i o n   o f   t h e   L D A - b a s e d   m e t h o d s .   H o w e v e r ,   t h e   p r o p o s e d   f o r m u l a t i o n   o f   n o n - p a r a m e t r i c   b e t w e e n   c l a s s   s c a t t e r   m a t r i c e s   r e q u i r e d   l a r g e r   t i m e   c o m p u t a t i o n a l   c o s t   t h a n   t h a t   o f   t h e   c o n v e n t i o n a l   L D A   ( b y   a b o u t   t h r e e   t i m e s   o f   t h e   L D A - b a s e d ) .   T o   a d d r e s s   l a r g e   c o m p u t a t i o n a l   c o s t   a n d   r e t r a i n i n g   p r o b l e m s ,   w e   p r o p o s e   a   n e w   f o r m u l a t i o n   o f   S b   t h a t   i s   b a s e d   o n   c o n s t a n t   g l o b a l   m e a n s .   T h e   p r o p o s e d   f o r m u l a t i o n   o f   S b   h a s   t h e   s a m e   c h a r a c t e r i s t i c   a s   t h e   o r i g i n a l   o n e   i n   t e r m s   o f   i t s   s y m m e t r i c .       3 .     H o l i s t i c   F e a t u r e s   E x t r a c t i o n   I n   o r d e r   t o   g e t   a   g l o b a l / h o l i s t i c   c o m p a c t   f e a t u r e   o f   f a c e   i m a g e   c a l l e d   a s   h o l i s t i c   f e a t u r e s   ( H F ) ,   w e   a p p l y   f r e q u e n c y   a n d   m o m e n t   a n a l y s i s   a s   p r e - p r o c e s s i n g   f a c e   i m a g e .   F r o m   t h i s   p r o c e s s i n g ,   w e   k e e p   a   s m a l l   s i z e   o f   d o m i n a n t   f r e q u e n c y   c o n t e n t s   a n d   i n v a r i a n t   m o m e n t   c o e f f i c i e n t s   a s   H F .   T h e   f r e q u e n c y   a n a l y s i s   ( i . e .   D C T ) ,   w h i c h   h a s   g o o d   e n e r g y   c o m p a c t n e s s ,   i s   u t i l i z e d   t o   o b t a i n   t h e   d o m i n a n t   f r e q u e n c y   c o n t e n t   [ 3 - 5 ] .   I n   a d d i t i o n ,   t h e   D C T   d e c o m p o s e s   t h e   e n t i r e   f a c e   i m a g e   w i t h o u t   g e o m e t r i c a l   n o r m a l i z a t i o n ,   b o u n d i n g   b o x ,   a n d   b l o c k i n g   p r o c e s s i n g .   F r o m   t h e   D C T   d e c o m p o s i t i o n   o u t p u t ,   t h e   d o m i n a n t   f r e q u e n c y   c o n t e n t   i s   c r e a t e d   b y   t h r e e   s t e p s :   f i r s t l y ,   c o n v e r t   t h e   D C T   c o e f f i c i e n t s   t o   a   v e c t o r   u s i n g   r o w   o r d e r i n g   t e c h n i q u e ;   s e c o n d l y ,   s o r t   t h e   v e c t o r   d e s c e n d i n g   u s i n g   q u i c k   s o r t   a l g o r i t h m ,   a n d   f i n a l l y   t r u n c a t e   m   f i r s t   v e c t o r   e l e m e n t s   ( i . e . ,   l e s s   t h a n   1 0 0   e l e m e n t s ) .   T h o s e   p r o c e s s e s   a r e   p e r f o r m e d   o n   b o t h   t r a i n i n g   a n d   q u e r y   ( p r o b e )   f a c e   i m a g e s .   H o w e v e r ,   i n   t h e   t r a i n i n g   p r o c e s s ,   t h o s e   a r e   p e r f o r m e d   o n e   t i m e .   C o n s i d e r   t h e   d o m i n a n t   f r e q u e n c y   c o n t e n t ,   i f   t h e y   a r e   r e c o n s t r u c t e d   i n t o   t h e   f a c e   i m a g e s ,   t h e   r e c o n s t r u c t e d   f a c e   i m a g e s   w i l l   b e   d i f f e r e n t .   H o w e v e r ,   w e   c a n   s t i l l   u n d e r s t a n d   t h a t   t h e y   a r e   t h e   f a c e   i m a g e s ,   a s   s h o w n   i n   F i g u r e   1 ( a ) .   I t   m e a n s   t h a t   t h e   d o m i n a n t   f r e q u e n c y   c o n t e n t   e x i s t i n g   i n   l o w - f r e q u e n c y   c o m p o n e n t s   i s   s u f f i c i e n t   f o r   f a c e   i m a g e   r e p r e s e n t a t i o n .   I n   o t h e r   w o r d ,   i f   a n   i m a g e   i s   t r a n s f o r m e d   t o   t h e   f r e q u e n c y   d o m a i n   a n d   t h e n   t h e   h i g h   f r e q u e n c y   c o m p o n e n t s   a r e   r e m o v e d ,   t h e   r e c o n s t r u c t e d   i m a g e   w i l l   l o s e   a   l i t t l e   s i g n i f i c a n t   i n f o r m a t i o n .   F u r t h e r m o r e ,   i f   t h e   d i f f e r e n c e   b e t w e e n   t h e   r e c o n s t r u c t e d   i m a g e   a n d   t h e   o r i g i n a l   i s   d e t e r m i n e d   b y   r o o t   m e a n   s q u a r e   e r r o r   ( R M S E ) ,   w e   w i l l   g e t   r e s u l t s   a s   s h o w n   i n   T a b l e   1 .   I t   s h o w s   t h a t   t h e   d o m i n a n t   f r e q u e n c y   o f   D C T - b a s e d   t e n d s   t o   c o n t a i n   m o s t   i n f o r m a t i o n   o f   f a c e   i m a g e   t h a n   t h a t   o f   t h e   w a v e l e t   ( D W T ) - b a s e d .   I n   o r d e r   t o   g e t   r o b u s t   H F   o f   a n y   f a c e   p o s e   v a r i a t i o n s ,   t h e   m o m e n t   i n f o r m a t i o n   t h a t   p r o v i d e s   i n v a r i a n t   m e a s u r e   o f   f a c e   i m a g e s   s h a p e   i s   c o n s i d e r e d .   T h e   m o m e n t   i n f o r m a t i o n   i s   Evaluation Warning : The document was created with Spire.PDF for Python.
                                    e - I S S N :   2 0 8 7 - 2 7 8 X   T E L K O M N I K A     V o l .   1 0 ,   N o .   4 ,   A u g u s t   2 0 1 2   :     7 7 5     7 8 7   7 7 8   o b t a i n e d   u s i n g   i n v a r i a n t   m o m e n t   a n a l y s i s ,   w h i c h   i s   d e r i v e d   f r o m   c e n t r a l   m o m e n t   a n a l y s i s [ 1 7 ] .   T h e   i n v a r i a n t   m o m e n t   s e t   i s   i n v a r i a n t   t o   t r a n s l a t i o n ,   s c a l e   c h a n g e ,   a n d   r o t a t i o n ;   t h e r e f o r e ,   t h i s   c o n c e p t   c a n   b e   u s e d   t o   g e t   t h e   h o l i s t i c   i n f o r m a t i o n   o f   a n y   f a c e   p o s e   v a r i a t i o n s .   N e x t ,   t h e   i n v a r i a n t   m o m e n t   a n a l y s i s   w a s   d e t e r m i n e d   j u s t   i n   t h e   i n t e n s i t y   c o m p o n e n t   o f   c o l o r   i m a g e s .   F i n a l l y ,   f r o m   b o t h   t h e   s e l e c t e d   f r e q u e n c y   c o e f f i c i e n t s   ( f )   a n d   t h e   m o m e n t   i n v a r i a n t   s e t   ( g ) ,   w e   c o n s t r u c t   t h e   H F   v e c t o r ,   x i =   [ f i D C T ,   g i ] ,   w h e r e   i   i s   i - t h   c l a s s   o f   f a c e   i m a g e .   T h e   d i m e n s i o n a l   o f   x   i s   m + n ,   w h e r e   m   i s   n u m b e r   o f   s e l e c t e d   f r e q u e n c y   c o e f f i c i e n t s   a n d   n   i s   n u m b e r   o f   s e l e c t e d   i n v a r i a n t   m o m e n t s .         T a b e l   1 .   T h e   R M S E   c o m p a r i s o n   o f   r e c o n s t r u c t e d   i m a g e   F r e q .   A n a l y s i s   R M S E   a s   f u n c t i o n   f e a t u r e s   s i z e   1 6   2 5   3 6   4 9   6 4   8 1   1 0 0   D C T   2 7 9 6 . 2   2 5 8 1 . 2   1 1 2 0 . 1   1 0 0 7 . 8   8 4 7 . 3   1 3 1 7 . 7   1 1 9 0 . 1   D W T   6 2 8 0 . 2   3 9 6 4 . 0   3 3 0 1 . 6   3 3 0 0 . 9   1 8 7 4 . 6   1 4 6 8 . 2   1 2 5 7 . 4                                 ( a )   ( b )     F i g u r e   1 .   ( a )   T h e   r e c o n s t r u c t e d   i m a g e s   o f   D C T - b a s e d   w i t h   s i z e   f r o m   1 6   ( t o p - l e f t )   t o   2 5 6   ( b o t t o m - r i g h t )   e l e m e n t s   a n d   ( b )   t h e   d i s c r i m i n a t i o n   p o w e r   a s   f u n c t i o n   n u m b e r   o f   i n v a r i a n t   m o m e n t       T h e   s t r e n g t h   o f   t h e   p r o p o s e d   H F :   i t   i s   s u c h   a   c o m p a c t   s i z e   t h a t   h a v e   h i g h e r   d i s c r i m i n a t i o n   p o w e r   t h a n   t h a t   o f   w i t h o u t   m o m e n t   i n f o r m a t i o n ,   a s   s h o w n   i n   F i g u r e   1 ( b )   a n d   i t   h a s   a l m o s t   s i m i l a r   f e a t u r e s   o f   s m a l l   p o s e   v a r i a t i o n s   o f   f a c e   i m a g e   w h i c h   h a s   b e e n   p r o v e d   i n   R e f .   [ 1 2 ] .   I t   m e a n s   t h a t   t h e   H F   c a n   o v e r c o m e   l a r g e   c o m p u t a t i o n a l   c o s t   o f   t h e   C P C A   a n d   C L D A   b a s e d   f a c e   r e c o g n i t i o n   a l g o r i t h m s   a n d   t h e   l a r g e   v a r i a b i l i t y   o f   p o s e   i n   s i n g l e   f a c e .   I n   t h i s   c a s e ,   t h e   d i s c r i m i n a t i o n   p o w e r   w a s   d e t e r m i n e d   b y   E q .   ( 1 1 )   a n d   t h e   i n v a r i a n t   m o m e n t s ,   w h i c h   a r e   h i g h e r   t h a n   4 ,   a r e   n o t   i n c l u d e d   b e c a u s e   t h e y   m a k e   t h e   w i t h i n   c l a s s   s c a t t e r   m a t r i x   ( S w )   b e   s i n g u l a r i t y .   T h i s   p r o b l e m   c o m e s   b e c a u s e   t h o s e   i n v a r i a n t   m o m e n t ' s   v a l u e s   a r e   c l o s e   t o   o r   e v e n t   z e r o .       4 .     F e a t u r e s   C l u s t e r s   4 . 1 .   C l a s s i c a l   L D A   T h e   a i m   o f   L D A   i s   t o   f i n d   a   t r a n s f o r m a t i o n   d a t a   s u c h   t h a t   f e a t u r e   c l u s t e r s   a r e   m o s t   s e p a r a b l e   a f t e r   t h e   t r a n s f o r m a t i o n .   T h e   L D A   d e t e r m i n e s   t h e   o p t i m u m   p r o j e c t i o n   m a t r i x   f r o m   b o t h   t h e   S b   a n d   t h e   w i t h i n - c l a s s   s c a t t e r   m a t r i x   ( S w )   ,   a s   e x p l a i n e d   i n   R e f s .   [ 5 , 9 , 1 3 ] .     S u p p o s e   w e   h a v e   { ( X 1 1 ,   x 1 1 ,   C 1 ) ,   . . .   ,   ( X N 1 1 ,   x   N 1 1 ,   C 1 ) ;   . . .   ;   ( X 1 L ,   x 1 L ,   C L ) ,   . . .   ,   ( X N L L ,   x N L L ,   C L } ,   a r e   i m a g e s   s a m p l e   f o r m   L   c l a s s e s ,   e a c h   c l a s s   h a s   N   s a m p l e s ,   X i k   r e p r e s e n t s   i m a g e   m a t r i x   o f   i - t h   s a m p l e s   o f   k - t h   c l a s s ,   x i k   r e p r e s e n t s   f e a t u r e s   v e c t o r   o f   i - t h   s a m p l e s   o f   k - t h   c l a s s ,   w h e r e   i = 1 ,   . . .   ,   N k ,   a n d   N k   i s   n u m b e r   o f   t r a i n i n g   s a m p l e s   o f   c l a s s   C k .   L e t   = = L j j N N 1   i s   t o t a l   s a m p l e s   s i z e .   L e t   d e f i n e   k m   a s   m e a n   f e a t u r e s   v e c t o r   o f   c l a s s   C k ,   a n d   a m a s   m e a n   f e a t u r e s   v e c t o r   o f   a l l   s a m p l e s :   = = k N i k i k k x N 1 1 m a n d = · = L k k k a N N 1 m m .   F r o m   t h e   d a t a   s a m p l e s ,   b o t h   t h e   S b   a n d   t h e   S w   c a n   b e   d e t e r m i n e d   a s   f o l l o w s .   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L K O M N I K A     e - I S S N :   2 0 8 7 - 2 7 8 X       F a c e   R e c o g n i t i o n   U s i n g   H o l i s t i c   F e a t u r e s   a n d   L i n e a r   D i s c r i m i n a n t     ( I   G e d e   P a s e k   S W )   7 7 9 T a k a k L k k b x P S ) ) ( ( ) ( 1 m m m m - - = =             ( 1 )       T k k i L k N i k k i w x x N S k ) ( ) ( 1 1 1 m m - - = = =             ( 2 )     w h e r e   t h e   P ( x k ) = N k / L .   F r o m   b o t h   t h e   S b   a n d   S w t h e   o p t i m u m   p r o j e c t i o n   m a t r i x   o f   L D A ,   W ,   c a n   b e   d e t e r m i n e d   w h i c h   h a s   t o   s a t i s f y   t h e   f o l l o w i n g   c r i t e r i o n .       W S W W S W W J w T b T W L D A m a x a r g ) ( =               ( 3 )     T h e   W = [ w 1 ,   w 2 , w 3 , . . . , w p ]   w h i c h   s a t i s f y   t h e   E q .   ( 3 )   c a n   b e   o b t a i n e d   b y   s o l v i n g   e i g e n   p r o b l e m   o f   i n v e r s e   S b   t i m e s   S w     a n d   t h e n   s e l e c t   p   o r t h o n o r m a l   e i g e n v e c t o r s   c o r r e s p o n d i n g   t o   t h e   l a r g e s t   e i g e n v a l u e s   ( i . e .   p < q ,   q   i s   t h e   d i m e n s i o n a l   s i z e   o f   v e c t o r   i n p u t ,   x ) .   F i n a l l y ,   t h e   i n p u t   v e c t o r   i s   p r o j e c t e d   i n t o   n e w   s p a c e   u s i n g   t h e   f o l l o w i n g   e q u a t i o n .       k i T k i x W y =                   ( 4 )     T h e   m a i n   p r o b l e m   o f   t h e   L D A   h a s   t h e   s i n g u l a r i t y   p r o b l e m   o f   s c a t t e r   m a t r i x   d u e   t o   t h e   h i g h   d a t a   d i m e n s i o n a l   a n d   s m a l l   n u m b e r   o f   t r a i n i n g   s a m p l e s   s o   c a l l e d   a s   s m a l l   s i z e   p r o b l e m   ( S S S ) .   F u r t h e r m o r e ,   t h e y   r e q u i r e   r e t r a i n i n g   a l l   s a m p l e s   t o   o b t a i n   t h e   m o s t   f a v o r a b l e   p r o j e c t i o n   m a t r i x   w h e n   n e w   d a t a   r e g i s t e r e d   i n t o   t h e   s y s t e m .   I t   c o m e s   b e c a u s e   a l l   t e r m s   o n   s u m m a t i o n   o f     S b   d e p e n d   o n   g l o b a l   m e a n   a n d   s u m m a t i o n   s h o u l d   b e   r e c a l c u l a t e d   f r o m   s c r a t c h   ( s e e   E q .   1 ) .   R e g a r d i n g   t o   t h e   S S S   p r o b l e m   o f   L D A ,   s o m e   m e t h o d s   h a v e   b e e n   p r o p o s e d   t o   s o l v e   t h a t   p r o b l e m   s u c h   a s   D L D A ,   R L D A ,   a n d   P C A + L D A .   H o w e v e r ,   t h o s e   m e t h o d s   s t i l l   r e q u i r e   l a r g e   c o m p u t a t i o n a l   c o s t s   a n d   m e m o r y   s p a c e   r e q u i r e m e n t ,   a n d   h a v e   r e t r a i n i n g   p r o b l e m s .       4 . 2 .   S i m p l i f i e d   L D A   I n   o r d e r   t o   d e c r e a s e   t h e   r e t r a i n i n g   c o m p u t a t i o n a l   l o a d   o f   t h e   L D A   a l g o r i t h m ,   w e   s i m p l i f i e d   t h e   L D A   u s i n g   a   c o n s t a n t   g l o b a l   m e a n   a s s i g n m e n t   f o r   a l l   s a m p l e s .   S u p p o s e   w e   h a v e   t h e   d a t a   c l u s t e r   o f   t w o   c l a s s e s   i n   t h r e e - d i m e n s i o n a l   w h i c h   i s   n o r m a l i z e d   i n   t h e   r a n g e   [ 0 - 1 ] ,   s h o w n   i n   F i g u r e   2 ( a ) .           ( a )   L D A   ( b )   C a s e   1   ( c )   C a s e   2     F i g u r e   2 .   T h e   i l l u s t r a t i o n   t w o   c l a s s e s   c l u s t e r i n g   o f   t h r e e - d i m e n s i o n a l   d a t a   Evaluation Warning : The document was created with Spire.PDF for Python.
                                    e - I S S N :   2 0 8 7 - 2 7 8 X   T E L K O M N I K A     V o l .   1 0 ,   N o .   4 ,   A u g u s t   2 0 1 2   :     7 7 5     7 8 7   7 8 0   U s i n g   t h e   E q .   ( 1 ) ,   t h e   S b   o f   t h i s   c a s e   c a n   b e   r e w r i t t e n   a s   f o l l o w s .       ( ) ( ) ( ) ( ) T a a T a a o r g b x P x P S m m m m m m m m - - + - - = 2 2 2 1 1 1 ) ( ) (       ( 5 )       F r o m   t h e   F i g u r e   2 ( b ) ,   w h e n   t h e   a m   i s   m o v e d   i n   t h e   o r i g i n   p o i n t   ( a m   i s   e q u a l   t o   n u l l   v e c t o r ,   a m =   [ 0   0   0 ] T   ) ,   t h e   S b   o f   t h i s   c a s e   c a n   b e   s i m p l i f i e d   a s       T T c b x P x P S 2 2 2 1 1 1 ) ( ) ( 1 m m m m + =             ( 6 )     I n   t h i s   c a s e ,   t h e   1 c b S h a s   l e s s   c o m p u t a t i o n a l   c o m p l e x i t y ,   b e c a u s e   i t   d o e s   n o t   r e q u i r e   t o   r e c a l c u l a t e   g l o b a l   m e a n   a n d   i t   h a s   t h e   s a m e   c h a r a c t e r i s t i c   a s   t h e   o r i g i n a l   o n e   i n   t e r m   o f   s e p a r a b i l i t y   a n d   s y m m e t r i c a l   m a t r i x .   T h e   s e p a r a b i l i t y   m e a n s   t h a t   W S W c b T 1   i s   p r o b a b l y   h i g h e r   o r   t h e   s a m e   t h a n   o r   a s   t h e   W S W o r g b T ,   w h i c h   m a k e   t h e   d a t a   c l u s t e r   b e   m o r e   o r   t h e   s a m e   s e p a r a b l e   t h a n   o r   a s   t h a t   o f   t h e   o r i g i n a l   o n e .   T h i s   c o n d i t i o n   m a k e s   t h e   d i s c r i m i n a t i o n   p o w e r   o f   t h e   d a t a   p r o j e c t i o n   b e   h i g h e r   o r   t h e   s a m e   t h a n   o r   a s   t h a t   o f   t h e   o r i g i n a l   t h e   d a t a   p r o j e c t i o n .   I f   t h e   a m   i s   m o v e d   t o   t h e   m a x i m u m   v a l u e   o f   t h e   r a n g e   ( a m =   [ 1   1   1 ] T ,   a s   s h o w n   i n   F i g u r e   ( c ) ,   t h e   S b   o f   t h i s   c a s e   c a n   b e   w r i t t e n   a s       [ ] ( ) [ ] ( ) [ ] ( ) [ ] ( ) T T c b x P x P S 1 1 ) ( 1 1 ) ( 2 2 2 1 1 1 2 - - + - - = m m m m       ( 7 )     E v e n   t h o u g h   t h e   p r e d i c t i v e   2 c b S h a s   t h e   s a m e   c o m p u t a t i o n a l   c o m p l e x i t y   a s   t h a t   o f   t h e   E q . ( 5 )   b u t   i t   d o e s   n o t   r e q u i r e   t o   r e c a l c u l a t e   g l o b a l   m e a n .   L o g i c a l l y ,   t h e   1 c b S a n d   2 c b S h a v e   m o r e   s e p a r a b l e   s c a t t e r   t h a n   t h a t   o f   t h e   o r i g i n a l   o n c e   b e c a u s e   t h e   o r i g i n a l   g l o b a l   m e a n   o f   t h e   t r a i n i n g   d a t a   i s   p l a c e d   i n   b e t w e e n   [ 0 ]   a n d   [ 1 ]   w h i l e   t h e   c o n s t a n t   g l o b a l   m e a n   i s   p l a c e d   i n   t h e   m a x i m u m   ( 1 )   a n d   i n   t h e   m i n i m u m   v a l u e   ( 0 ) .   T h e r e f o r e   t h e   d i s t a n c e   b e t w e e n   t h e   m e a n   o f   e a c h   c l a s s   t o   t h e   o r i g i n a l   g l o b a l   m e a n   i s   p r o b a b l y   l e s s   o r   t h e   s a m e   t h a n   o r   a s   t h a t   o f   e a c h   c l a s s   t o   t h e   c o n s t a n t   g l o b a l   m e a n .   I n   o t h e r   w o r d s ,   t h e   W S W c b T 1   a n d   W S W c b T 2   a r e   p r o b a b l y   h i g h e r   o r   t h e   s a m e   t h a n   o r   a s   t h e   W S W o r g b T .   F o r   n - d i m e n s i o n a l   d a t a ,   a l l   c a s e s   o f   a p p r o x i m a t i o n   S b   c a n   b e   g e n e r a l i z e d   a s   t h e   f o l l o w i n g   e q u a t i o n .       ( ) ( ) T p k p k L k k c b x P S m m m m - - = = 1 ) (             ( 8 )     w h e r e   t h e   m p   i s   a   c o n s t a n t   o f   g l o b a l   m e a n   m a .   W h e n   a   n e w   c l a s s ,   x n e w   c o m e s   i n t o   t h e   s y s t e m ,   t h e   E q .   ( 8 )   c a n   b e   u p d a t e d   a s   f o l l o w i n g   e q u a t i o n .     c n e w c o l d T p n e w p n e w n e w c b T p n e w p n e w n e w T p k p k L k k c b S S x P S x P x P S u + = - - + = - - + - - = = ) ) ( ) ( ( ) ) ( ) ( ( ) ) ( ( ) ( 1 m m m m m m m m m m m m   ( 9 )     I n   o r d e r   t o   d e c r e a s e   m u c h   m o r e   r e t r a i n i n g   t i m e   c o m p l e x i t y ,   t h e   u p d a t i n g   o f   t h e   S w   a l s o   c a n   b e   s i m p l i f i e d   a s   t h e   f o l l o w i n g   e q u a t i o n .     ( ) n e w w o l d w u n e w w n e w L k k w T k k n e w N i k k n e w n e w T k k i L k N i k k i u S S N S N S N x x N x x N S n e w k w + = + = - - + - - = = = = = 1 1 1 ) ( ) ( 1 ) ( ) ( 1 1 1 1 1 m m m m     ( 1 0 )   Evaluation Warning : The document was created with Spire.PDF for Python.
T E L K O M N I K A     e - I S S N :   2 0 8 7 - 2 7 8 X       F a c e   R e c o g n i t i o n   U s i n g   H o l i s t i c   F e a t u r e s   a n d   L i n e a r   D i s c r i m i n a n t     ( I   G e d e   P a s e k   S W )   7 8 1 w h e r e   = - - = k N i T k k i k k i k w x x S 1 ) ) ( ( m m a n d   n e w u N N N + = .     L e t   u s   c o m p a r e   t h e   E q .   ( 9 )   w i t h   E q .   ( 1 )   a n d   E q .   ( 1 0 )   w i t h   E q .   ( 2 ) ,   b o t h   t h e   E q .   ( 9 )   a n d   E q .   ( 1 0 )   s e e m   t o   h a v e   m u c h   l e s s   c o m p l e x i t y   t h a n   t h a t   o f   o r i g i n a l   o n e   ( E q .   ( 1 )   a n d   E q .   ( 2 ) ) .   T h e   t i m e   c o m p l e x i t y   o f   r e c a l c u l a t i n g   S b   u s i n g   E q .   ( 9 ) ,   i t   r e q u i r e s :   n 2   m u l t i p l i c a t i o n   o p e r a t i o n s   f o r   c a s e   1 ,   n 2   m u l t i p l i c a t i o n   a n d   n 2   a d d i t i o n   o p e r a t i o n s   f o r   c a s e   2 , w h i l e   t h e   u p d a t i n g   o f   S w   u s i n g   E q .   ( 1 0 )   a l s o   n e e d   n 2   m u l t i p l i c a t i o n   a n d   n 2   a d d i t i o n   o p e r a t i o n s .     B y   s u b s t i t u t i n g   t h e   o r i g i n a l   S b   a n d   S w   w i t h   u p d a t e d   o n e s   ( E q .   ( 9 )   a n d   E q .   ( 1 0 ) )   o f   c l a s s i c a l   L D A   e i g e n   a n a l y s i s ,   t h e   o p t i m u m   W   c a l l e d   a s   s L D A   p r o j e c t i o n   m a t r i x   i s   o b t a i n e d .   I n   c a s e   o f   u p d a t i n g   S b   u s i n g   c a s e   1   a n d   c a s e   2   m o d e l   o f   c o n s t a n t   g l o b a l   m e a n ,   t h e   s L D A   i s   c a l l e d   a s   s L D A _ C 1   a n d   s L D A _ C 2 ,   r e s p e c t i v e l y .   T h e   o p t i m u m   p r o j e c t i o n   m a t r i c e s   a r e   c o n s t r u c t e d   b y   s e l e c t i n g   s m a l l   n u m b e r   ( m )   o f   e i g e n v e c t o r s ,   w h i c h   c o r r e s p o n d   t o   t h e   l a r g e s t   e i g e n v a l u e s .   B y   u s i n g   t h e s e   o p t i m u m   p r o j e c t i o n   m a t r i c e s ,   t h e   p r o j e c t e d   f e a t u r e s   o f   t h e   b o t h   t r a i n i n g   a n d   q u e r y i n g   d a t a   s e t   c a n   b e   p e r f o r m e d   a s   d o n e   b y   t h e   c l a s s i c a l   L D A   u s i n g   E q .   ( 4 ) .     4 . 3 .   T h e   S t r e n g t h   o f   s L D A   I n   o r d e r   t o   p r o v e   w h e t h e r   t h e   a p p r o x i m a t i o n   S b   p r o v i d e   t h e   s a m e   s e p a r a b i l i t y   a s   t h e   o r i g i n a l   o n e ,   t h e   e v a l u a t i o n   u s i n g   d i s c r i m i n a t i o n   p o w e r   ( D P )   [ 1 6 ] ,   w h i c h   r e p r e s e n t   t h e   a b i l i t y   o f   f e a t u r e s   s e p a r a t i o n   i s   p e r f o r m e d   b y   t h e   f o l l o w i n g   e q u a t i o n .         ) ( ) ( ) ( 1 b w S S t r a c e W s e p W J - = =             ( 1 1 )     W h e r e   s e p   m e a n s   s e p a r a t i o n .   A s   r e p o r t e d   i n   R e f .   [ 1 6 ] ,   t h e   D P   p a r a m e t e r   h a d   b e e n   s u c c e s s f u l l y   u s e d   t o   a n a l y s i s   f o r   k n o w i n g   w h i c h   p a r t s   o f   t h e   f a c e   h a v e   l a r g e   d i s c r i m i n a n t   i n f o r m a t i o n .     I n   t h i s   c a s e ,   t h e   D P   i s   e x a m i n e d   i n   o f   a l l   c a s e s   o f   a p p r o x i m a t i o n   S b   u s i n g   d a t a   f r o m   w e l l - k n o w n   O R L   d a t a b a s e ,   w h i c h   i s   p e r f o r m e d   u s i n g   t h e   f o l l o w i n g   p r o c e d u r e .   I n   t h i s   c a s e ,   w e   a l s o   c o m p a r e   t h e   D P   o f   t h e   p r o p o s e d   m e t h o d s   w i t h   o r i g i n a l   L D A   ( L D A ) .   ( i )   O b t a i n i n g   t h e   o p t i m u m   W   o f   s i m p l i f i e d   L D A   u s i n g   m e n t i o n e d   p r o c e d u r e .   ( i i )   T r a n s f o r m i n g   t h e   x i k   t o   t h e   p r o j e c t e d   d a t a   (   y i k )   u s i n g   t h e   E q .   ( 4 ) .   ( i i i )   D e t e r m i n i n g   t h e   w i t h i n   a n d   b e t w e e n   c l a s s   s c a t t e r   o f   p r o j e c t e d   d a t a   ( y i k )   c a l l e d   a s   S b Pr o   a n d   S w Pr o   u s i n g   E q .   ( 1 )   a n d   E q .   ( 2 )   r e s p e c t i v e l y .   ( i v )   C a l c u l a t i n g   t h e   D P   o f   t h e   p r o j e c t e d   d a t a   b y   s u b s t i t u t i n g   S b   a n d   S w   o f   E q .   ( 1 1 )   w i t h   S b P r o   a n d   S w Pr o ,   r e s p e c t i v e l y .   T h e   e x a m i n a t i o n   r e s u l t   s h o w s   t h a t   a l l   c a s e s   o f   a p p r o x i m a t i o n   S b   h a v e   c l o s e l y   t h e   s a m e   D P   a s   t h a t   o f   t h e   o r i g i n a l   L D A   a l g o r i t h m   ( s e e   F i g u r e   3 ( a ) ) .   I t   m e a n s   t h a t   t h e   p r o p o s e d   m e t h o d s   p r o v i d e   t h e   a b i l i t y   i n   t e r m s   o f   f e a t u r e   c l u s t e r   w i t h   t h e   o r i g i n a l   L D A   b u t   r e q u i r i n g   l e s s   t i m e   p r o c e s s i n g .   I n   o r d e r   w o r d s ,   a l l   c a s e s   o f   a p p r o x i m a t i o n   S b   h a v e   b e e n   p r o v e d   t h a t   t h e   W S W c b T 1   a n d   W S W c b T 2 h a v e   m u c h   t h e   s a m e   v a l u e   a s   t h e   W S W o r g b T   w h i c h   m a k e   t h e   d a t a   c l u s t e r   o f   t h e   s i m p l i f i e d   b e   t h e   s a m e   s e p a r a b l e   a s   t h a t   o f   t h e   o r i g i n a l   o n e .             ( a )   ( b )     F i g u r e   3 .   ( a )   T h e   d i s c r i m i n a t i o n   p o w e r   o f   o u r   p r o p o s e d   m e t h o d s   c o m p a r e d   t o   e s t a b l i s h e d   L D A   a n d   ( b ) .   t h e   c o m p a r i s o n   o f   t h e   W S W o r g b T   o f   t h e   p r o p o s e d   m e t h o d s   w i t h   t h a t   o f   C L D A   0 1 0 2 0 3 0 4 0 5 0 6 0 1 3 5 7 9 1 1 1 3 1 5 1 7 1 9 2 0   t o p   f e a t u r e s D i s c r i m i n a t i o n   P o w e r C L D A s L D A _ C 1 s L D A _ C 2 1 1 0 1 0 0 1 0 0 0 1 0 0 0 0 0 4 0 8 0 1 2 0 1 6 0 2 0 0 2 4 0 2 8 0 3 2 0 3 6 0 4 0 0 4 4 0 4 8 0 i - t h   t r i a l W T S b W C L D A s L D A _ C 1 s L D A _ C 2 Evaluation Warning : The document was created with Spire.PDF for Python.
                                    e - I S S N :   2 0 8 7 - 2 7 8 X   T E L K O M N I K A     V o l .   1 0 ,   N o .   4 ,   A u g u s t   2 0 1 2   :     7 7 5     7 8 7   7 8 2     I n   a d d i t i o n ,   a l l   c a s e s   o f   a p p r o x i m a t i o n   S b   t e n d   t o   p r o v i d e   a l m o s t   t h e   s a m e   a c h i e v e m e n t s   a s   t h o s e   o f   t h e   o r i g i n a l   o n e   w h e n   t h e y   a r e   i m p l e m e n t e d   a s   f e a t u r e s   c l a s s i f i c a t i o n   s u c h   a s   f a c e   r e c o g n i t i o n .   I n   a d d i t i o n ,   t o   p r o v e   t h a t   W S W c b T 1   a n d   W S W c b T 2 a r e   p r o b a b l y   h i g h e r   o r   t h e   s a m e   t h a n   o r   a s   t h e   W S W o r g b T ,   w e   d i d   f u r t h e r   e x p e r i m e n t   a s   f o l l o w s .   S u p p o s e   a   t r a i n i n g   s e t   c o n s i s t s   o f   1 0 0   c l a s s e s ,   e a c h   c l a s s   h a s   a t   l e a s t   f i v e   m e m b e r s   a n d   e a c h   v e c t o r   o f   e a c h   c l a s s   i s   c r e a t e d   b y   r a n d o m   v a l u e .   F r o m   t h i s   d a t a   s e t ,   w e   t r i e d   5 0 0   e x p e r i m e n t s   a n d   e a c h   i - t h   ( i = 1 , ¼ ,   5 0 0 )   p r o c e s s   W S W c b T 1   a n d   W S W c b T 2   w e r e   d e t e r m i n e d   b y   t r a c e   t h e i r   m o s t   s i g n i f i c a n t   e i g e n   v a l u e s .   T h e   r e s u l t s   s h o w   t h a t   t h e   s c a t t e r   o f   c a s e   2   p r o v i d e   h i g h e r   t h a n   t h a t   o f   c a s e   1   a n d   t h a t   L D A ,   a s   s h o w n   i n   F i g u r e   3 ( b ) .   I t   m e a n s   t h a t   t h e   c a s e   1   a n d   2   p o s s i b l y   h a s   b e t t e r   c l a s s   s e p a r a b l e   t h a n   t h a t   o f   t h e   L D A .   T h e r e f o r e ,   t h e   c a s e   1   a n d   2   p r o v i d e   l i t t l e   b i t   h i g h e r   r e c o g n i t i o n   r a t e   t h a n   t h a t   o f   t h e   C L D A   ( s e e   F i g u r e   7 ) .   T h i s   r e s u l t   a l s o   m a t c h / i n l i n e   w i t h   t h e   r e s u l t   o f   p o w e r   d i s c r i m i n a n t   a n a l y s i s ,   a s   s h o w n   i n   F i g u r e   3 .         5 .   T h e   I m p l e m e n t a t i o n   f o r   F a c e   R e c o g n i t i o n   T h e   d i a g r a m   b l o c k   o f   t h e   p r o p o s e d   f a c e   r e c o g n i t i o n   i s   p r e s e n t e d   i n   F i g u r e   4   c o n s i s t i n g   o f   t h r e e   m a i n   p r o c e s s i n g :   f e a t u r e   e x t r a c t i o n ,   r e t r a i n i n g   p r o c e s s ,   a n d   r e c o g n i t i o n   p r o c e s s .   T h e   f u n c t i o n   o f   H F   i s   t o   f i n d   o u t   t h e   m o s t   u s e f u l   i n f o r m a t i o n   f r o m   f a c e   i m a g e s   u s i n g   t h e   a l g o r i t h m   a s   p r e s e n t e d   i n   s e c t i o n   3 .   T h e   r e t r a i n i n g   p r o c e s s   i s   d o n e   b y   t h e   s L D A   a s   p r e s e n t e d   i n   s e c t i o n   4 . 2 .   E a c h   r e t r a i n i n g   s t e p ,   t h e   m a t r i x   S b   a n d   S w   h a v e   t o   b e   s a v e   f o r   p e r f o r m i n g   n e x t   r e t r a i n i n g .     I n   r e c o g n i t i o n   p r o c e s s ,   E a c h   f a c e   i m a g e   i s   e x t r a c t e d   i n t o   H F   a n d   t h e n   t h e   H F   i s   t r a n s f o r m e d   i n t o   n e w   s p a c e   d a t a   c a l l e d   a s   s L D A   p r o j e c t e d   d a t a .   T h e   s L D A   p r o j e c t e d   d a t a   o f   t h e   t r a i n i n g   s a m p l e s   i s   m a t c h e d   w i t h   t h e   q u e r y i n g   p r o j e c t e d   d a t a   u s i n g   n e a r e s t   n e i g h b o r   r u l e .   I t   m e a n s   t h e   s m a l l e s t   s c o r e   i s   c o n c l u d e d   a s   t h e   b e s t   m a t c h i n g   f a c e .         F i g u r e   4 .   D i a g r a m   b l o c k   o f   s L D A   b a s e d   f a c e   r e c o g n i t i o n         F e a t u r e s   E x t r a c t i o n     P r o c e s s                                       R e c o g n i t i o n   P r o c e s s                         R e t r a i n i n g   P r o c e s s   T T r r a a i i n n i i n n g g     S S e e t t         Q Q u u e e r r y y     F F a a c c e e         P P r r e e - - P P r r o o c c e e s s s s i i n n g g     H H F F     E E x x t t r r a a c c t t i i o o n n     F F a a c c e e     L L i i k k e e n n e e s s s s         s s L L D D A A - - b b a a s s e e d d     C C l l a a s s s s i i f f i i c c a a t t i i o o n n     D D e e t t e e r r m m i i n n i i n n g g     t t h h e e     S S b b     a a n n d d     S S w w . .     D D e e t t e e r r m m i i n n e e     W W     U U s s i i n n g g     C C L L D D A A     a a n n d d     D D o o     t t h h e e     p p r r o o j j e e c c t t i i o o n n     S S a a v v e e     t t h h e e     H H F F s s , ,     S S b b , ,     S S w w , ,     a a n n d d     W W     M M a a t t r r i i x x e e s s     P P r r e e - - P P r r o o c c e e s s s s i i n n g g     H H F F     E E x x t t r r a a c c t t i i o o n n     D D e e c c i i s s i i o o n n     R R u u l l e e     W W , ,     H H F F     P P r r i i o o r r     S S b b , ,     S S w w     Evaluation Warning : The document was created with Spire.PDF for Python.
T E L K O M N I K A     e - I S S N :   2 0 8 7 - 2 7 8 X       F a c e   R e c o g n i t i o n   U s i n g   H o l i s t i c   F e a t u r e s   a n d   L i n e a r   D i s c r i m i n a n t     ( I   G e d e   P a s e k   S W )   7 8 3 6 .     E x p e r i m e n t a l   a n d   R e s u l t s   T h e   e x p e r i m e n t s   a r e   c a r r i e d   o u t   u s i n g   s e v e r a l   c h a l l e n g i n g   f a c e   d a t a b a s e s :   t h e   O R L   T h e   O R L   d a t a b a s e   w a s   t a k e n   a t   d i f f e r e n t   t i m e s ,   u n d e r   v a r y i n g   l i g h t i n g   c o n d i t i o n s   w i t h   d i f f e r e n t   f a c i a l   e x p r e s s i o n s   ( o p e n / c l o s e d   e y e s ,   s m i l i n g / n o t   s m i l i n g )   a n d   f a c i a l   d e t a i l s   ( g l a s s e s / n o   g l a s s e s ) .   A l l   o f   t h e   i m a g e s   w e r e   t a k e n   a g a i n s t   a   d a r k   h o m o g e n e o u s   b a c k g r o u n d .   T h e   f a c e s   o f   t h e   s u b j e c t s   a r e   i n   a n   u p r i g h t ,   f r o n t a l   p o s i t i o n   ( w i t h   t o l e r a n c e   f o r   s o m e   s i d e   m o v e m e n t ) .   T h e   O R L   d a t a b a s e   i s   a   g r a y s c a l e   f a c e   d a t a b a s e   t h a t   c o n s i s t s   o f   4 0   p e o p l e ,   m a i n l y   m a l e .   T o t a l   f a c e   i m a g e s   a r e   4 0 0   s a m p l e s .   T h e   e x a m p l e   o f   f a c e   p o s e   v a r i a t i o n s   o f   O R L   d a t a b a s e   i s   s h o w n   i n   F i g u r e   4 ( a ) .   T h e   I T S - L a b   d a t a b a s e   c o n s i s t s   o f   4 8   p e o p l e   a n d   e a c h   p e r s o n   h a s   1 0   p o s e   o r i e n t a t i o n s   a s   s h o w n   o n   F i g u r e   4 ( b ) .   T o t a l   f a c e   i m a g e s   a r e   4 8 0   s a m p l e s .   T h e   f a c e   i m a g e s   w e r e   t a k e n   b y   K o n i c a   M i n o l t a   c a m e r a   s e r i e s   V I V I D   9 0 0   u n d e r   v a r y i n g   l i g h t   c o n d i t i o n .   T h e   Y A L E   d a t a b a s e   i s   g r a y s c a l e   d a t a b a s e ,   w h i c h   c o n s i s t s   o f   1 5   p e o p l e ,   a n d   e a c h   p e r s o n   c o n s i s t s   o f   1 1   d i f f e r e n t i a l   f a c i a l   e x p r e s s i o n ,   i l l u m i n a t i o n ,   a n d   s m a l l   o c c l u s i o n   ( b y   g l a s s ) .   T h e r e f o r e ,   t h e r e   a r e   1 6 5   f a c e   i m a g e s   i n   t h e   d a t a b a s e .   O n   o f   t h e   p e r s o n   i s   s h o w n   o n   F i g u r e   4 ( c ) . T h e   I N D I A   d a t a b a s e   c o n s i s t s   o f   6 1   p e o p l e   ( 2 2   w o m e n   a n d   3 9   m e n )   w i t h   e a c h   p e r s o n   h a v i n g   e l e v e n   p o s e   o r i e n t a t i o n s   a s   s h o w n   o n   F i g u r e   4 ( d ) :   l o o k i n g   f r o n t ,   l o o k i n g   l e f t ,   l o o k i n g   r i g h t ,   l o o k i n g   u p ,   l o o k i n g   u p   t o w a r d s   l e f t ,   l o o k i n g   u p   t o w a r d s   r i g h t ,   a n d   l o o k i n g   d o w n .   T h e   I n d i a n   d a t a b a s e   a l s o   i n c l u d e d   s o m e   e m o t i o n s :   n e u t r a l ,   s m i l e ,   l a u g h t e r ,   s a d / d i s g u s t .   T o t a l   f a c e   i m a g e s   a r e   6 7 1   s a m p l e s .   F r o m   F E R E T   d a t a b a s e ,   2 0 3 2   i m a g e s   f o r m   5 0 8   i n d i v i d u a l s   w e r e   s e l e c t e d   w h i c h   c o r r e s p o n d   t o   f o u r   d i f f e r e n t   s e t s ,   n a m e l y   ( f a ,   f b ,   q l ,   q r ) .   T h e   e x a m p l e   o f   f a c e   p o s e   v a r i a t i o n s   o f   s o m e   d a t a b a s e   i s   s h o w n   i n   F i g u r e   4 ( e ) .   A l l   t h e   e x p e r i m e n t s   a r e   p e r f o r m e d   i n   t h o s e   d a t a b a s e s   w i t h   t h e   f o l l o w i n g   a s s u m p t i o n s :   ( i )   T h e   f a c e   i m a g e   s i z e   w a s   1 2 8   x 1 2 8   p i x e l s   ( 2 8   p i x e l s / c m )   r e p r e s e n t e d   u s i n g   2 4   b i t s   f o r   c o l o r   i m a g e   a n d   8   b i t   o f   f o r   g r a y s c a l e   i m a g e   p e r   p i x e l .         F i g u r e   5 .   E x a m p l e   o f   f a c e   p o s e   v a r i a t i o n   o f   s i n g l e   s u b j e c t     ( i i )   A   h a l f   o f   s a m p l e s   o f   e a c h   c l a s s / s u b j e c t   m e m b e r s   w e r e   s e l e c t e d   a s   t r a i n i n g   f a c e s ,   a n d   t e s t i n g   f a c e s   o v e r l a p p e d   w i t h   t h e   t r a i n i n g   f a c e s .   ( i i i )   T h e   t r a i n i n g   f a c e   w a s   i n c l u d e d   i n   t h e   q u e r y   p r o c e s s   b e c a u s e   t h e r e   w a s   p o s s i b i l i t y   t h a t   t h e   q u e r y   f a c e s   w e r e   a l m o s t   o r   e x a c t   t h e   s a m e   a s   t h e   t r a i n i n g   f a c e   i n   t h e   r e a l   t i m e   s y s t e m .     ( i v )   T h e   d i m e n s i o n a l   s i z e   o f   H F   w a s   s e t - u p   5 3   e l e m e n t s   o f   o r i g i n a l   s i z e   ( 1 2 8 2   p i x e l s ) .   I n   o r d e r   t o   k n o w   w h e t h e r   o u r   p r o p o s e d   m e t h o d s   c a n   w o r k   f o r   w i t h   a n d   w i t h o u t   H F   ( n o - d i m e n s i o n a l   r e d u c t i o n ) ,   w e   d i d   e x p e r i m e n t s   o n   s m a l l   s i z e   d a t a b a s e   ( O R L   a n d   I T S   d a t a b a s e s )   d a t a b a s e   [ 1 9 ] ,   Y A L E   d a t a b a s e   [ 22 ] ,   I T S - L a b .   K u m a m o t o   U n i v e r s i t y   d a t a b a s e   [ 1 2 ] ,   I N D I A   d a t a b a s e   [ 21 ] ,   a n d   F E R E T   d a t a b a s e   [ 1 8 ] .   E a c h   d a t a b a s e   h a s   s p e c i a l   c h a r a c t e r i s t i c s ,   w h i c h   a r e   d e s c r i b e d   b e l o w .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                    e - I S S N :   2 0 8 7 - 2 7 8 X   T E L K O M N I K A     V o l .   1 0 ,   N o .   4 ,   A u g u s t   2 0 1 2   :     7 7 5     7 8 7   7 8 4   a n d   l a r g e   s i z e   d a t a b a s e   ( F E R E T   d a t a b a s e ) .   I n   a d d i t i o n ,   t o   h a n d l e   t h e   o u t   o f   m e m o r y   p r o b l e m   o n   t h e   L D A   a n d   o u r   p r o p o s e d   m e t h o d s   d u e   t o   l a r g e   d i m e n s i o n a l   s i z e   o f   i n p u t   i m a g e   ( 1 2 8 × 1 2 8   p i x e l s ) ,   w e   r e s i z e d   t h e   o r i g i n a l   f a c e   i m a g e   i n t o   3 2   ×   3 2   p i x e l s .   T h i s   s i z e   w a s   c h o s e n   b e c a u s e   s o m e   r e s e a r c h e r s   u s e d   t h i s   d i m e n s i o n a l   s i z e   w h e n   t h e y   d i r e c t l y   i m p l e m e n t e d   t h e   L D A   a n d   i t s   v a r i a t i o n s   f o r   d a t a   c l u s t e r   w i t h o u t   d i m e n s i o n a l   r e d u c t i o n .   T h e   r e s u l t s   s h o w   t h a t   o u r   p r o p o s e d   m e t h o d s   c a n   w o r k s   w e l l   ( s e e   F i g u r e   7 )   w h i c h   a r e   i n d i c a t e d   b y   h i g h   e n o u g h   r e c o g n i t i o n   r a t e   b y   a b o u t   m o r e   t h a n   8 9 %   a n d   m o r e   t h a n   9 6 %   f o r   w i t h o u t   ( b a s e   l i n e )   a n d   w i t h   H F ,   r e s p e c t i v e l y .   I n   a d d i t i o n ,   t h e   r e s u l t s   a l s o   s h o w   t h a t   t h e   r e c o g n i t i o n   r a t e   o f   t h e   p r o p o s e d   m e t h o d s   ( s L D A _ C 1   a n d   s L D A _ C 2 )   a r e   a l m o s t   t h e   s a m e   a s   t h a t   o f   t h e   C L D A   f o r   b o t h   u s i n g   H F   a n d   w i t h o u t   H F ,   w h i c h   m e a n s   t h e   p r o p o s e   m e t h o d   h a s   t h e   s a m e   a b i l i t y   a s   t h e   C L D A   i n   t e r m s   o f   f e a t u r e s   c l u s t e r i n g .   T h e   H F   c a n   p r o v i d e   b e t t e r   r e c o g n i t i o n   r a t e   t h a n   t h a t   o f   w i t h o u t   H F   b e c a u s e   i t   h a s   a b i l i t y   t o   e x t r a c t   t h e   m o s t   s i g n i f i c a n t   a n d   r e m o v e   t h e   n o i s e   i n f o r m a t i o n   o f   f a c e   i m a g e .   I n   a d d i t i o n ,   t h e   H F   a l s o   p r o v i d e s   h i g h e r   d i s c r i m i n a t o r y   p o w e r   t h a n   t h a t   o f   w i t h o u t   H F   a s   r e p o r t e d   i n   W i j a y a   e t   a l   ( 2 0 0 8 )   w h i c h   m e a n s   t h e   H F   a l r e a d y   c o n t a i n   m o s t   u s e f u l   d i s c r i m i n a n t   i n f o r m a t i o n .           ( a )   O R L   d a t a b a s e   ( b )   I T S   d a t a b a s e   ( c )   F E R E T   d a t a b a s e     F i g u r e   6 .   T h e   r e c o g n i t i o n   r a t e   o f   C L D A   a n d   o u r   p r o p o s e d   m e t h o d s   ( s L D A _ C 1   a n d   s L D A _ C 2 )   f o r   w i t h   a n d   w i t h o u t   H F       T h e   s e c o n d   e x p e r i m e n t ,   w h i c h   w a s   p e r f o r m e d   i n   a l l   t h e   m e n t i o n e d   d a t a b a s e s ,   i n v e s t i g a t e s   t h e   r o b u s t n e s s   o f   o u r   p r o p o s e d   m e t h o d s   o v e r   t h e   e s t a b l i s h e d   m e t h o d s .   F r o m   t h e   e x p e r i m e n t a l   r e s u l t s ,   a l l   v a r i a t i o n s   o f   s L D A   t e n d   t o   p r o v i d e   t h e   s a m e   r e c o g n i t i o n   r a t e   a s   t h e   9 0 9 2 9 4 9 6 9 8 1 0 0 C L D A s L D A _ C 1 s L D A _ C 2 M e t h o d s R e c o g n i t i o n   R a t e   ( % ) B a s e   L i n e   ( w i t h o u t   H F ) W i t h   H F 9 0 9 2 9 4 9 6 9 8 1 0 0 C L D A s L D A _ C 1 s L D A _ C 2 M e t h o d s R e c o g n i t i o n   R a t e   ( % ) B a s e   L i n e   ( w i t h o u t   H F ) W i t h   H F 8 6 8 8 9 0 9 2 9 4 9 6 9 8 1 0 0 C L D A s L D A _ C 1 s L D A _ C 2 M e t h o d s R e c o g n i t i o n   R a t e   ( % ) B a s e   L i n e   ( w i t h o u t   H F ) W i t h   H F Evaluation Warning : The document was created with Spire.PDF for Python.