I n t e r n a t i o n a l   J o u r n a l   o f   E l e c t r i c a l   a n d   C o m p u t e r   E n g i n e e r i n g   ( I J E C E )   V o l . 2 ,   N o . 4 ,   A u g u s t   2 0 1 2 ,   p p .   4 8 1 ~ 4 8 6   I S S N :   2 0 8 8 - 8 7 0 8     4 8 1       J o u r n a l   h o m e p a g e :   h t t p : / / i a e s j o u r n a l . c o m / o n l i n e / i n d e x . p h p / I J E C E   V a r i a b l e   S i g n - S i g n   W i l c o x o n   A l g o r i t h m :   A   N o v e l   A p p r o a c h   f o r   S y s t e m   I d e n t i f i c a t i o n       S i d h a r t h a   D a s h 1 ,   M i h i r   N a r a y a n   M o h a n t y 2   D e p a r t m e n t   o f   E l e c t r o n i c s   a n d   C o m m u n i c a t i o n   E n g i n e e r i n g ,   I n s t i t u t e   o f   T e c h n i c a l   E d u c a t i o n   a n d   R e s e a r c h ,   Bh u b a n e s w a r ,   O d i s h a         A r t i c l e   I n f o     A B S T R A C T     A r t i c l e   h i s t o r y :   R e c e i v e d   J u n   2 5 ,   2 0 1 2   R e v i s e d   J u l   2 3 ,   2 0 1 2   A c c e p t e d   J u l   2 8 ,   2 0 1 2       Be h a v i o r a l   s t u d y   o f   a   s y s t e m   i s   a n   i m p o r t a n t   t a s k .   I t   i s   m o s t l y   u s e d   i n   r e a l   w o r l d   e n v i r o n m e n t s   a n d   b e c a m e   a n   e m e r g e n t   r e s e a r c h   a r e a .   V a r i o u s   a p p r o a c h e s   h a v e   b e e n   p r o p o s e d   s i n c e   l a s t   t w o   d e c a d e s .   W e   h a v e   v e r i f i e d   t h e   a p p l i c a t i o n   o f   W i l c o x o n   n o r m   i n   l i n e a r   s y s t e m   i d e n t i f i c a t i o n   i n   i n i t i a l   s t a g e   t h a t   f o l l o w s   f o r   n o n - l i n e a r   s y s t e m .   I n   t h e   n e x t   s t a g e ,   S i g n - S i g n   W i l c o x o n   n o r m   b a s e d   a p p r o a c h   h a s   b e e n   v e r i f i e d   f o r   t h e   s a m e .   F i n a l l y   w e   h a v e   m o d i f i e d   t o   a   V a r i a b l e   S t e p - S i z e   S i g n - S i g n   W i l c o x o n   t e c h n i q u e   f o r   b o t h   l i n e a r   a n d   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n   a n d   c o m p a r e d   w i t h   a b o v e   t w o   t e c h n i q u e s .   I t   h a s   b e e n   o b s e r v e d   t h a t   t h e   p r o p o s e d   t e c h n i q u e   i s   r o b u s t   a g a i n s t   o u t l i e r s   i n   t h e   d e s i r e d   d a t a   a n d   s i m u l t a n e o u s l y   t h e   c o n v e r g e n c e   s p e e d   i s   f a s t e r   t h a n   W i l c o x o n   n o r m   b a s e d   a p p r o a c h .   K e y w o r d :   A d a p t i v e   S t e p - s i z e   A l g o r i t h m ,   S i g n   W i l c o x o n   T e c h n i q u e ,   S y s t e m   I d e n t i f i c a t i o n ,   V a r i a b l e   s t e p - s i z e   s i g n - s i g n   W i l c o x o n   T e c h n i q u e .   W i l c o x o n   n o r m ,     Co p y r i g h t   ©   2 0 1 2   I n s t i t u t e   o f   A d v a n c e d   E n g i n e e r i n g   a n d   S c i e n c e .     A l l   r i g h t s   r e s e r v e d .   C o r r e s p o n d i n g   A u t h o r :   S i d h a r t h a   D a s h   D e p a r t m e n t   o f   E l e c t r o n i c s   a n d   C o m m u n i c a t i o n   E n g i n e e r i n g ,   I n s t i t u t e   o f   T e c h n i c a l   E d u c a t i o n   a n d   R e s e a r c h ,     S i k s h a   O   A n u s a n d h a n   U n i v e r s i t y ,   J a g a m a r a ,   B h u b a n e s w a r ,   O d i s h a .   E m a i l :   s i d h a r t h a d a s h i t e r @ g m a i l . c o m       1 .   I N T R O D U C T I O N   T h e   b o u n d a r i e s   o f   a   r e a l   e n v i r o n m e n t   c a n n o t   b e   d e f i n e d   c o r r e c t l y .   T h e   o n l y   t h i n g   t h e   m o d e l - d e s i g n e r   c a n   d o   i s   t o   d e f i n e   a   m o d e l d e s c r i b i n g   t h e   b e h a v i o u r   o f   t h e   e n v i r o n m e n t   t o   b e   m o d e l l e d   w i t h   n o i n c o n s i s t e n c i e s   a t   t h e   t i m e   t h e   m o d e l   i s   c o n s t r u c t e d .   T h e r e f o r e   e a c h   m o d e l   b a s e d o n   r e a l   e n v i r o n m e n t s   n e e d s   t o   b e   r e d e s i g n e d   c o n t i n u o u s l y   a s   t h e   t i m e   p a s s e s   t o p r o v i d e   t h e i r   c o n s i s t e n c y .   I t   i s   o n l y   f e a s i b l e   u s i n g   a d a p t i v e   k n o w l e d g e - i n t e n s i v e m o d e l l i n g   t o o l s . S i g n a l   p r o c e s s i n g   h a s   e x p l o i t e d   a   m a j o r   r o l e   i n   t h i s   c o n t e x t . T e c h n i c a l   a d v a n c e m e n t s   s u c h   a s   n o i s e   f i l t e r i n g ,   s y s t e m   i d e n t i f i c a t i o n ,   c h a n n e l   e s t i m a t i o n ,   d e t e c t i o n   a n d   v o i c e   p r e d i c t i o n   t a s k   e x p l o r e   i n   s u c h   a r e a .   A d a p t i v e   t e c h n i q u e s   a r e   t h e   s o l u t i o n   t o   p r o m o t e   a c c u r a c y   a n d   c o n v e r g e n c e   t o   t h e   s o l u t i o n . S y s t e m   i d e n t i f i c a t i o n   i s   o n e   o f   t h e   i m p o r t a n t   a s p e c t s   f o r   d e s i g n i n g   a   s y s t e m   u s i n g   a d a p t i v e   a l g o r i t h m .   T h e   i d e n t i f i c a t i o n   t a s k   c o v e r s   a l m o s t   a l l   t h e   a r e a   o f   e n g i n e e r i n g   a p p l i c a t i o n   s u c h   a s   p r o b l e m   o f   b u i l d i n g   m o d e l s   o f   s y s t e m s   [ 1 ] .   I d e n t i f i c a t i o n   a i m s   a t   f i n d i n g   a   m a t h e m a t i c a l   m o d e l   f r o m   t h e   m e a s u r e m e n t   r e c o r d   o f   i n p u t s   a n d   o u t p u t s   o f   a   s y s t e m .   I n   t h i s   p r o b l e m ,   t h e   t a s k   i s   t o   d e t e r m i n e   a   s u i t a b l e   e s t i m a t e   o f   f i n i t e   d i m e n s i o n a l   p a r a m e t e r s ,   w h i c h   c o m p l e t e l y   c h a r a c t e r i z e   t h e   n o n - l i n e a r   u n k n o w n   p l a n t .   T h e   s e l e c t i o n   o f   t h e   e s t i m a t e   i s   b a s e d   o n   c o m p a r i s o n   b e t w e e n   t h e   a c t u a l   o u t p u t   s a m p l e   a n d   a   p r e d i c t e d   v a l u e   o n   t h e   b a s i s   o f   i n p u t   d a t a   u p   t o   t h a t   i n s t a n t   [ 2 ] .   T h e   s t a n d a r d   b l o c k   d i a g r a m   f o r   s y s t e m   i d e n t i f i c a t i o n   i s   s h o w n   i n   F i g u r e   1 .   T h e   i n p u t   i s   a p p l i e d   t o   t h e   p l a n t   a s   w e l l   a s   t o   t h e   a d a p t i v e   m o d e l   t h a t   i s   p a r a l l e l   t o   t h e   u n k n o w n   s y s t e m .   T h e   i m p u l s e   r e s p o n s e   o f   t h e   l i n e a r   s e g m e n t   o f   t h e   p l a n t   i s   r e p r e s e n t e d   b y   w ( n ) ,   w h i c h   i s   f o l l o w e d   b y   n o n - l i n e a r i t y   ( N L )   a s s o c i a t e d   w i t h   i t .   W h i t e   G a u s s i a n   n o i s e   g ( n ) i s   a d d e d   w i t h   n o n l i n e a r   o u t p u t   a c c o u n t s   f o r   m e a s u r e m e n t   n o i s e .   T h e   d e s i r e d   o u t p u t   d ( n ) i s   c o m p a r e d   w i t h   t h e   e s t i m a t e d   o u t p u t   y ( n )   o f   t h e   i d e n t i f i e r   t o   g e n e r a t e   t h e   e r r o r   e ( n ) ,   a n d   i s   u s e d   b y   t h e   n e w   a d a p t i v e   a l g o r i t h m   f o r   u p d a t i n g   t h e   w e i g h t s   o f   t h e   m o d e l   h ( n ) .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2 0 8 8 - 8 7 0 8     I J E C E   V o l .   2 ,   N o .   4 ,   A u g u s t   2 0 1 2   :   4 8 1 4 8 6   4 8 2       F i g u r e   1 .   B l o c k   D i a g r a m   f o r   N o n - L i n e a r   S y s t e m   I d e n t i f i c a t i o n       T h e   o b j e c t i v e   i s   t o   m i n i m i z e   t h e   e r r o r   e ( n )   b y   u s i n g   t h e   a l g o r i t h m   t h a t   o c c u r s   a t   a   p a r t i c u l a r   s e t   o f   w e i g h t s .   T h e s e   w e i g h t s a r e   t h e   o p t i m i z e d   v a l u e   f o r   a   s o l u t i o n .   I t   c a n   b e   f o u n d   b y   u s i n g ,     ( ) ( ) o p t h n h n f o r = n ® ¥             ( 1 )     w h e r e , h o p t ( n )   i s   a n   o p t i m u m   s e t   o f   f i l t e r   c o e f f i c i e n t s   f o r   t h e   m o d e l   a t   t i m e   n .   I n   c a s e   o f   o p t i m i z e d   w e i g h t s ,   t h e   a d a p t i v e   f i l t e r   m o d e l   p r o v i d e s   a   b e s t   p e r f o r m a n c e .     I n   m o s t   o f   t h e   i d e n t i f i c a t i o n   p r o b l e m s ,   t h e   t r a i n i n g   d a t a   s u f f e r s   w i t h   m i s l a b e l i n g ,   b i a s e s ,   i m b a l a n c e ,   i m p u l s e   n o i s e ,   o u t l i e r s ,   e t c .   D e p e n d i n g   o n   t h e i r   l o c a t i o n ,   o u t l i e r s   m a y   h a v e   m o d e r a t e   t o   s e v e r e   e f f e c t s   o n   t h e   r e g r e s s i o n   m o d e l   [ 3 - 4 ] .   T h e   c o n v e n t i o n a l   L M S   a d a p t i v e   a l g o r i t h m   i s   n o t   e f f i c i e n t   a g a i n s t   o u t l i e r s   i n   t h e   t r a i n i n g   s i g n a l .   I n   t e r m s   o f   c o n v e r g e n c e   s p e e d   a n d   r o b u s t n e s s   t o w a r d s   t h e   o u t l i e r s   a n d   i m p u l s e   n o i s e ,   t h e   L M S   a l g o r i t h m   h a s   n o   s u c h   d e s i r e d   r e s u l t   [ 5 - 6 ] . W i l c o x o n   L e a r n i n g   M o d e l   i s   o n e   o f   t h e   e f f e c t i v e   m e t h o d s   o f   r o b u s t   i d e n t i f i c a t i o n   i n   p r e s e n c e   o f   o u t l i e r s .   T h e   w e i g h t s   o f   t h e   m o d e l s   a r e   i t e r a t i v e l y   u p d a t e d ,   w h i c h   p r o g r e s s i v e l y   r e d u c e s   t h e   n o r m .   W i l c o x o n   n o r m   i s   b e s t   s u i t a b l e   f o r   r e g r e s s i o n   a n a l y s i s   [ 6 ] .   A   s i m p l e   a n d   e f f i c i e n t   n o r m a l i z e d   S i g n - S i g n   L M S   a l g o r i t h m   i s   s u f f i c i e n t   f o r   a p p l i c a t i o n s   r e q u i r i n g   l a r g e   s i g n a l   t o   n o i s e   r a t i o s   w i t h   l e s s   c o m p u t a t i o n a l   c o m p l e x i t y   a n d   f a s t e r   c o n v e r g e n c e   s p e e d   c o m p a r e d   t o   c o n v e n t i o n a l   L M S   [ 7 ] .   M o r e o v e r   f i x e d   s t e p - s i z e   g e n e r a l   r e c u r s i v e   a d a p t i v e   a l g o r i t h m s   a r e   w e a k l y   c o n v e r g i n g   a n d   l o c a l l y   s t a b l e   [ 8 ] .   T h e s e   t y p e s   o f   a d a p t i v e   a l g o r i t h m s   u s e d   t o   t r a c k   s l o w l y   m o v i n g   p a r a m e t e r s .     T h i s   m o t i v a t e s   t o   p r o p o s e   a v a r i a b l e   s i g n - s i g n W i l c o x o n   l e a r n i n g   a l g o r i t h m   u s e d   f o r   l i n e a r   a n d   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n .   T h e   p a p e r   i s   o r g a n i z e d   a s   f o l l o w s :   S e c t i o n   2   d e s c r i b e s   t h e   r e s e a r c h   m e t h o d   t h a t   i n c l u d e s   t h e   s t u d y   o f   W i l c o x o n   l e a r n i n g   a l g o r i t h m   a n d   e s t a b l i s h e s   t h e   p r o p o s e d   s t e p - s i z e   s i g n   s i g n   W i l c o x o n a l g o r i t h m ,   u s e d   t o   d e t e r m i n e   t h e   o p t i m u m   l t e r   c o e f f i c i e n t s   i n   s y s t e m   i d e n t i f i c a t i o n   p r o b l e m .   S e c t i o n   3   d i s c u s s e s   t h e   e x t e n s i v e   s i m u l a t i o n   r e s u l t s   i n   l i n e a r   a s   w e l l   a s   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n   i n   p r e s e n c e   o f   o u t l i e r s   a n d   s e c t i o n   4   c o n c l u d e s   t h e   w o r k .       2 .   R E S E A R C H   M E T H O D   2 . 1 .   L e a r n i n g   A l g o r i t h m   I t   i s   w e l l   k n o w n   t h a t   f o r   a n y   a d a p t i v e   s y s t e m   l e a r n i n g   i s   r e q u i r e d   i n i t i a l l y   t o   t r a i n   t h e   s y s t e m .   T h e   p e r f e c t   l e a r n i n g   w i l l   r e s u l t   o f   a d a p t a b i l i t y .   I n   c a s e   o f   n o r m a l i z e d   L M S ,   t h e   n o r m   c a n   b e   u s e d   f o r   v a r i o u s   a p p l i c a t i o n s .   W i l c o x o n   n o r m   i s   o n e   o f   t h e m   f o r   e x c e l l e n t   p e r f o r m a n c e . W i l c o x o n   A l g o r i t h m   i s a n e f f e c t i v e   m e t h o d f o r   r o b u s t   i d e n t i f i c a t i o n   [ 3 ] .   T h e   c o s t   f u n c t i o n   o f   t h e   p r o p o s e d   m o d e l   i s   f o r m u l a t e d   a s   W i l c o x o n   n o r m .   T h e   W i l c o x o n   N o r m   o f   a   v e c t o r   i s   a n a l y z e d   i n   t e r m s   o f   a n   i n c r e a s i n g   s c o r e   f u n c t i o n   a n d   i s   d e f i n e d   a s     Ф ( ) : [ 0 , 1 ] u R ®                 ( 2 )       A n d   t h e   s c o r e   f u n c t i o n   i s   s t a n d a r d i z e d   s u c h   t h a t   1 2 0 Ф ( ) 1 u d u =                 ( 3 )   A n d 1 0 Ф ( ) 0 u d u =               ( 4 )   L e t   t h e   e r r o r   v e c t o r   o f   p th   p a r t i c l e   a t   k th   g e n e r a t i o n   d u e   t o   a p p l i c a t i o n   o f     N   i n p u t   s a m p l e s   t o   t h e   m o d e l   b e   r e p r e s e n t e d   a s   [ e 1 , p ( k ) , e 2 , p ( k ) , . e N, p ( k ) ] T .   T h e   e r r o r   v e c t o r   i s   o b t a i n e d   b y   s u b t r a c t i n g   e s t i m a t e d   Evaluation Warning : The document was created with Spire.PDF for Python.
I J E C E   I S S N :   2 0 8 8 - 8 7 0 8         V a r i a b l e   S i g n - S i g n   W i l c o x o n   A l g o r i t h m :   A   N o v e l   A p p r o a c h   F o r   S y s t e m   I d e n t i f i c a t i o n   ( D a s h   S )   4 8 3     o u t p u t   f r o m   t h e   d e s i r e d   o u t p u t .   T h e   e r r o r s   a r e   t h e n   s o r t e d   i n   a n   a s c e n d i n g   o r d e r   f r o m   w h i c h   t h e   r a n k   o f   e a c h   e r r o r   t e r m   i s   o b t a i n e d   [ 6 ] .   T h e   s c o r e   a s s o c i a t e d   w i t h   e a c h   e r r o r   t e r m   c a n   b e   e v a l u a t e d   a s   ( ) Ф ( ) 1 2 ( ) 1 2 0 . 5 1 a i u u i N = = = - +               ( 5 )   w h e r e   0 . 5 1 i u N = - +               ( 6 )       H e r e   N i s   a   f i x e d   p o s i t i v e   n u m b e r   t h a t   d e f i n e s   t h e   l e n g t h   o f   t h e   e r r o r   v e c t o r   a n d   i   d e n o t e s   t h e   r a n k   a s s o c i a t e d   w i t h   e a c h   e r r o r   t e r m   ( 1     i     N ) .   A t   k th   g e n e r a t i o n   o f   e a c h   p th   p a r t i c l e   t h e   W i l c o x o n   n o r m   i s   c a l c u l a t e d   a s   , 1 ( ) ( ) ( ) N p i p i C k a i e k = =               ( 7 )   I n   g r a d i e n t   b a s e d   t e c h n i q u e ,   t h e   c o s t   f u n c t i o n C p ( k )   i s   f o r m u l a t e d   a s   t h e   W i l c o x o n   N o r m   o f   t h e   e r r o r   v e c t o r . T h e   c o s t   f u n c t i o n   i n   ( 7 )   i s   r o b u s t   t o   i m p u l s e   n o i s e   a s   w e l l   a s   o u t l i e r s   i n   t h e   s y s t e m   [ 9 ] .     T h e   w e i g h t   u p d a t e   e q u a t i o n   f o r   t h e   L e a r n i n g   A l g o r i t h m   i s     ( 1 ) ( ) 2 ( ) 1 2 ( ) h n h n x n u m + = +             ( 8 )     W h e r e   µ   i s   d e f i n e d   a s   t h e   f i x e d   s t e p   s i z e   a n d   x ( n )   i s   t h e   r a n d o m   i n p u t   s a m p l e s .     2 . 2   V a r i a b l e   S t e p   S i z e   S i g n   S i g n   W i l c o x o n   A l g o r i t h m   T h e   o b j e c t i v e   i s   t o   d e s i g n   a   m o d e l   a n d   e s t i m a t e   i t s   p a r a m e t e r s   e f f e c t i v e l y   a n d   e f f i c i e n t l y   i n   p r e s e n c e   o f   o u t l i e r s   [ 9 ] .   B o t h   W i l c o x o n   n o r m   a n d   s i g n   W i l c o x o n   n o r m   h a v e   e x h i b i t e d   t h e   r o b u s t n e s s   f o r   t h e   i m p u l s e   n o i s e   a s   w e l l   a s   o u t l i e r s   [ 3 - 4 ] .   I t   i s   o b s e r v e d   t h a t   s i g n - s i g n   t e c h n i q u e s   a r e   f a s t e r   i n   t e r m s   o f   c o n v e r g e n c e   c o m p a r e d   t o   c o n v e n t i o n a l   m e t h o d s .   I n   S i g n - S i g n   W i l c o x o n   a p p r o a c h   b o t h   e r r o r   v e c t o r   a n d   s c o r e   m a t r i x   i s   r e p r e s e n t e d   i n   t e r m s   o f   i t s   s i g n u m   f u n c t i o n .     A   S i g n u m   f u n c t i o n   c a n   b e   r e p r e s e n t e d   a s   ( ) ( ) y f t s i g n t = =               ( 9 )   w h e r e ,   a n   a r r a y   y   i s   s a m e   s i z e   a s   t h a t   o f   t   a n d   e a c h   e l e m e n t   o f   y   a r e     1 ,   i f   t h e   c o r r e s p o n d i n g   e l e m e n t   o f   x t > 0 .     0 ,   i f   t h e   c o r r e s p o n d i n g   e l e m e n t   o f       x t   = 0 .   - 1 ,   i f   t h e   c o r r e s p o n d i n g   e l e m e n t   o f       x t < 0 .   F o r   n o n - z e r o   c o m p l e x   i n p u t   t h e   f u n c t i o n   i s   d e f i n e d   a s     ( ) / ( ) y s i g n t t a b s t = =                 ( 1 0 )     T h e   m o d i f i e d   e x p r e s s i o n   f o r   S i g n - S i g n   W i l c o x o n   A l g o r i t h m   i s     ( 1 ) ( ) 2 ( ) 1 2 ( ) ( ( ) ) h n h n x n s i g n u s i g n e n m + = +         ( 1 1 )     I t   d e s c r i b e s   t h e   w e i g h t   u p d a t e   e q u a t i o n   u s i n g   a   f i x e d   s t e p - s i z e   p a r a m e t e r   µ .   T h e   f i x e d   s t e p - s i z e   a d a p t i v e   a l g o r i t h m s   a r e   e f f e c t i v e   o n l y   t o   t r a c k   a   s l o w l y   m o v i n g   p a r a m e t e r i z a t i o n   a n d   t h e n   w o r k   e f f i c i e n t l y   f o r   l i n e a r   s y s t e m s   [ 8 ] .   H o w e v e r   m o s t   o f   t h e   r e a l   t i m e   s y s t e m s   a r e   n o n - l i n e a r ,   s o   t h e   f i x e d   s t e p - s i z e   S i g n   S i g n   W i l c o x o n   A p p r o a c h   d o e s n t   p r o d u c e   b e t t e r   r e s u l t   c o m p a r e d   t o   v a r i a b l e   s t e p - s i z e .     T o   c o n s t r u c t   e v e n   m o r e   r o b u s t   s y s t e m t h e   a d a p t i v e   a l g o r i t h m   i s   m o d i f i e d   w i t h   v a r i a b l e - s t e p - s i z e .   A s   s t e p - s i z e   p a r a m e t e r   p l a y s   a   v i t a l   r o l e ,   t h e   v a r i a t i o n   o f   i t   c a n   b e   a p p l i e d   f o r   d i f f e r e n t   a p p l i c a t i o n s .   M o s t l y   t h e   n o n - l i n e a r   s y s t e m   i t   i s   a d v a n t a g e o u s .   T h e   i n s t a n t a n e o u s   s t e p - s i z e   i s   d e f i n e d   a s   R e ( . ) T i n s p r e v s s m m m = + D             ( 1 2 )   w h e r e ,   µ in s   i s   t h e   i n s t a n t a n e o u s   s t e p - s i z e   v a l u e   w h i c h   i s   u s e d   i n   t h e   p r o p o s e d   a d a p t i v e   a l g o r i t h m   µ   i s   t e r m e d   a s   t h e   i n i t i a l   v a l u e   o f   t h e   f i x e d   s t e p   s i z e   a n d     µ   i s   t h e   i n c r e m e n t   b y   w h i c h   t h e   s t e p   s i z e   c h a n g e s   f r o m   i t e r a t i o n   t o   i t e r a t i o n .   ( ) . ( ) s x n e n =   a n d , p r e v s   i s   t h e   v a l u e   o f   s   i n   t h e   p r e v i o u s   i t e r a t i o n .   Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2 0 8 8 - 8 7 0 8     I J E C E   V o l .   2 ,   N o .   4 ,   A u g u s t   2 0 1 2   :   4 8 1 4 8 6   4 8 4     A n d   t h e   f i n a l   S t e p - s i z e   i s   d e f i n e d   a s ( ) i n s n m m = ,   i f       m i n m a x i n s m m m < <             m i n m = ,                 i f         m i n i n s m m <             m a x m = ,                 i f         m a x i n s m m >   w h e r e , m i n m   a n d   m a x m a r e   d e f i n e d   a s   t h e   M i n S t e p   a n d   M a x S t e p   f o r   t h e   p r o p o s e d   A l g o r i t h m .   T h e   s t e p   s i z e   c a n   v a r y   w i t h i n   t h e   v a l u e s   o f   m i n m   a n d   m a x m .     T h e   f i n a l   u p d a t e   e q u a t i o n   f o r   t h e   V a r i a b l e   S t e p - s i z e   S i g n - S i g n   W i l c o x o n   A l g o r i t h m   i s   c o n s i d e r e d   a s   ( 1 ) ( ) 2 ( ) ( ) 1 2 ( ) ( ( ) ) h n h n n x n s i g n u s i g n e n m + = +       ( 1 3 )   T h e   p r o p o s e d   t e c h n i q u e   i s   v e r i f i e d   f o r   l i n e a r   a n d   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n   p r o b l e m   i n   p r e s e n c e   o f   o u t l i e r s .   T h e   s i m u l a t i o n   r e s u l t s   a r e   c o m p a r e d   w i t h   W i l c o x o n   t e c h n i q u e s   f o r   l i n e a r   a s   w e l l   a s   f o r   n o n - l i n e a r   s y s t e m .       3 .   R E S U L T S   A N D   D I S C U S S I O N   I t   h a s   b e e n   s i m u l a t e d   w i t h   S t e p - S i z e   p a r a m e t e r   µ   a s   0 . 0 2 .   1 0 0 0   r a n d o m   v a l u e   b e t w e e n   [ - 0 . 5   0 . 5 ]   i s   c o n s i d e r e d   f o r i n p u t .   T h e   f u n c t i o n g ( n )   i s   a d d i t i v e   w h i t e   G a u s s i a n   n o i s e   h a v i n g   S N R   1 5 d b .   T h e   p r o p o s e d   w e i g h t   u p d a t e   e q u a t i o n   i s   u s e d   f o r   l i n e a r   a n d   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n .   A n a l y s i s   h a s   b e e n   c a r r i e d   w i t h o u t   o u t l i e r s   a s   w e l l   a s   i n   p r e s e n c e   o f   o u t l i e r s   a n d   t h e   s i m u l a t i o n   r e s u l t s   a r e   c o m p a r e d   w i t h   W i l c o x o n   T e c h n i q u e .   T h e   s i m u l a t i o n   r e s u l t   i s   s h o w n   b e t w e e n   n u m b e r   o f   i t e r a t i o n s   a n d   n o r m a l i z e d   M S D   ( M e a n   S q u a r e   D e v i a t i o n )   i n   d b .   T h e   o r i g i n a l   w e i g h t s   o f   t h e   s y s t e m   i s   c o n s i d e r e d   a s   w   =   [ 0 . 2 6   0 . 9 3   0 . 2 6 ] . T h e   w o r k h a s   b e e n   p e r f o r m e d   u s i n g   M A T L A B - 7   e n v i r o n m e n t .     3 . 1 .   L i n e a r   s y s t e m   ( N L = 0 ) :     3 . 1 . 1 .   C o m p a r i s o n   o f   a c t u a l   w e i g h t   w i t h   t h e   e s t i m a t e d   w e i g h t         F i g u r e   2 .   C o m p a r i s o n   o f   t h e   a c t u a l   w e i g h t   w i t h   t h e   e s t i m a t e d   w e i g h t   w i t h o u t   o u t l i e r s           F i g u r e   3 . C o m p a r i s o n   o f   t h e   a c t u a l   w e i g h t   w i t h   t h e   e s t i m a t e d   w e i g h t   i n   p r e s e n c e   o f   o u t l i e r s         F i g u r e   2   a n d   3 c o m p a r e s   t h e   a c t u a l   w e i g h t   w i t h   t h e   e s t i m a t e d   w e i g h t   o f   t h e   3 - t a p   a d a p t i v e   f i l t e r   i n   c a s e   o f   l i n e a r   s y s t e m   i d e n t i f i c a t i o n .   F r o m   t h e   f i g u r e s   i t   i s   f o u n d   t h a t ,   t h e   e s t i m a t e d   w e i g h t   o f   t h e   f i l t e r   i s   v e r y   c l o s e   t o   t h e   a c t u a l   w e i g h t   u s i n g   t h e   p r o p o s e d   v a r i a b l e   s t e p - s i z e   W i l c o x o n   t e c h n i q u e   c o m p a r e d   t o   w i l c o x o n   n o r m .   F o r   t h e   n o i s y   a n d   n o n - l i n e a r   s y s t e m s   t h e   d e v i a t i o n   p a r a m e t e r   p l a y s   a   m a j o r   r o l e   f o r   c o n v e r g e n c e   o f   a l g o r i t h m .   I t   h a s   t h e   e f f e c t   i n   c o s t   f u n c t i o n .     3 . 1 . 2 .   M S D   a n a l y s i s   F i g u r e   4 - 5   i s   M S D   c u r v e s   f o r   l i n e a r   s y s t e m   i d e n t i f i c a t i o n .   F r o m   t h e   f i g u r e s ,   i t   i s   f o u n d   t h a t   t h e   p r o p o s e d   v a r i a b l e   s t e p - s i z e   W i l c o x o n   t e c h n i q u e   i s   r o b u s t   a g a i n s t   o u t l i e r s   a n d   c o n v e r g e n c e   s p e e d   i s   f a s t e r   t h a n   t h e   W i l c o x o n   n o r m   a s   w e l l   a s   s i g n   W i l c o x o n   n o r m .     Evaluation Warning : The document was created with Spire.PDF for Python.
I J E C E   I S S N :   2 0 8 8 - 8 7 0 8         V a r i a b l e   S i g n - S i g n   W i l c o x o n   A l g o r i t h m :   A   N o v e l   A p p r o a c h   F o r   S y s t e m   I d e n t i f i c a t i o n   ( D a s h   S )   4 8 5         F i g u r e   4 .   M S D   A n a l y s i s   w i t h o u t   o u t l i e r s   i n   l i n e a r   s y s t e m   i d e n t i f i c a t i o n         F i g u r e   5 .   M S D   A n a l y s i s   i n   p r e s e n c e   o f   o u t l i e r s   i n   l i n e a r   s y s t e m   i d e n t i f i c a t i o n       3 . 2 .   N o n - l i n e a r   s y s t e m   :   I n   m o s t   o f   t h e   N o n - L i n e a r   s y s t e m   I d e n t i f i c a t i o n   p r o b l e m ,   t h e   p r o c e s s   m o d e l   i s   u s u a l l y   d e s c r i b e d   a s   d i f f e r e n t i a l   e q u a t i o n s   ( c o n t i n u o u s - t i m e   m o d e l )   o r   d i f f e r e n c e   e q u a t i o n s   ( d i s c r e t e - t i m e   m o d e l )   [ 1 0 ] .   I n   t h i s   a p p r o a c h ,   i t   h a s   b e e n v e r i f i e d   t h e   p r o p o s e d   A l g o r i t h m   f o r   a   s t a n d a r d   n o n - l i n e a r   e q u a t i o n   b a s e d   s y s t e m .     N o n - l i n e a r   s y s t e m   E q u a t i o n   ( ) t a n h ( ( ) ) T d n x w g n r a n d = + +           ( 1 4 )       F i g u r e   6 .   M S D   A n a l y s i s   w i t h o u t   o u t l i e r s   i n   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n       F i g u r e   7 .   M S D   A n a l y s i s   i n   p r e s e n c e   o f   o u t l i e r s   i n   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n     F i g u r e   6 - 7   i s   M S D   c u r v e s   f o r   N o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n   h a v i n g   n o n - l i n e a r i t y   g i v e n   i n   ( 1 4 ) .   I n   t h i s   c a s e   t h e   p e r f o r m a n c e   i s   d e g r a d i n g   w i t h   c o m p a r i s o n   t o   l i n e a r   s y s t e m   a s   t h e   M S D   c u r v e   c o n v e r g e s   a t   - 5 0 d b   i n   n o n - l i n e a r   s y s t e m   c o m p a r e d   t o   - 7 0 d b   i n   l i n e a r   c a s e .   B u t   i n   c o m p a r i s o n   w i t h   t h e   W i l c o x o n   a n d   S i g n - W i l c o x o n   t e c h n i q u e s ,   t h e   p r o p o s e d   t e c h n i q u e   i s   s h o w i n g   g o o d   p e r f o r m a n c e   w i t h   f a s t e r   c o n v e r g e n c e   a s   i t   c o n v e r g e s   w i t h   l e s s   n u m b e r   o f   i t e r a t i o n s .   A s   w e l l   a s   t h e   p r o p o s e d   t e c h n i q u e   i s   r o b u s t   a g a i n s t   o u t l i e r s .       4 .   C O N C L U S I O N   I n   t h i s   p a p e r ,   t h e   W i l c o x o n   n o r m   b a s e d   a p p r o a c h   f o r   s y s t e m   i d e n t i f i c a t i o n   i s   c o n s i d e r e d   b a s i c a l l y .   T h e   n e w   a p p r o a c h   h a s   b e e n   d e r i v e d   a n d   a p p l i e d   f o r   b o t h   l i n e a r   a n d   n o n - l i n e a r   s y s t e m   i d e n t i f i c a t i o n   t h a t   i s   a p p l i c a b l e   f o r   t h e   r e a l   w o r l d   p r o b l e m .   T h e   s i m u l a t e d   r e s u l t   s h o w s   i t s   p e r f o r m a n c e   a g a i n s t   o u t l i e r s   a s   w e l l   a s   f o r   t h e   c o n v e r g e n c e .   T u n i n g   o f   p a r a m e t e r s   m a y   b e   r e q u i r e d   f o r   f u r t h e r   a c c u r a c y   a n d   c o n v e r g e n c e .   A l s o   i t   m a y   b e   t e s t e d   f o r   v a r i o u s   a p p l i c a t i o n s   i n c l u d i n g   t h e   i n d u s t r i a l   a p p l i c a t i o n .   S y s t e m   i d e n t i f i c a t i o n   i s   m o s t   s u i t a b l e   f o r   a u t o m a t i c   c o n t r o l   a n d   s t u d y   o f   t h e   d y n a m i c   s y s t e m s .   A l s o ,   o n e   o f   t h e   e x a m p l e   i s ,   U s i n g   s y s t e m   Evaluation Warning : The document was created with Spire.PDF for Python.
                                I S S N :   2 0 8 8 - 8 7 0 8     I J E C E   V o l .   2 ,   N o .   4 ,   A u g u s t   2 0 1 2   :   4 8 1 4 8 6   4 8 6     i d e n t i f i c a t i o n   t e c h n i q u e s   t o   d e v e l o p   a   m a t h e m a t i c a l   m o d e l   w h i c h   d e s c r i b e s   t h e   d y n a m i c s   i n   t h e   i r r i g a t i o n   s y s t e m   i s   a   h e l p f u l   t o o l   f o r   c o n t r o l   s y s t e m   d e s i g n .       R E F E R E N C E S   [ 1 ]   S i m o n   H a y k i n , A d a p t i v e   F i l t e r   T h e o r y   ,   Ch a p t e r   2 0 , p   8 5 5 - 8 7 4 ,   P H I   P u b l i c a t i o n .   [ 2 ]   K u m p a t i     S .   N a r e n d r a ,   a n d   K a n n a n   P a r t h a s a r a t h y ,   I d e n t i f i c a t i o n   a n d   C o n t r o l   o f   D y n a m i c a l   S y s t e m s   u s i n g   n e u r a l   n e t w o r k s ,   I E E E   T r a n s a c t i o n s   o n   Ne u r a l   Ne t wo r k s ,     v o l . 1 , No . 1 . M a r c h   1 9 9 0 .     [ 3 ]   S i d h a r t h a   D a s h   a n d   M i h i r   N a r a y a n   M o h a n t y ,   A n a l y s i s   O f   O u t l i e r s   I n   S y s t e m   I d e n t i f i c a t i o n   U s i n g   W l m s   A l g o r i t h m ,   I E E E   I n t e r n a t i o n a l   Co n f e r e n c e   o n   Co m p u t i n g ,   E l e c t r o n i c s   a n d   E l e c t r i c a l   T e c h n o l o g i e s   [ I CCE E T ] , K a n y a k u m a r i ,   2 1 - 2 2   M a r c h , 2 0 1 2 .   [ 4 ]   D i n g s h e n g   L u o ,   X i n h a o   W a n g ,   X i h o n g   W u , a n d     H u i s h e n g   Ch i ,   O u t l i e r s   L e a r n i n g   a n d   I t s   A p p l i c a t i o n s ,   I E E E   c o n f e r e n c e ,     2 0 0 5 .     [ 5 ]   S i m o n   H a y k i n , Ne u r a l   Ne t wo r k s ,   A   Co m p r e h e n s i v e   F o u n d a t i o n   2 n d   E d i t i o n ,   P e a r s o n   E d u c a t i o n .     [ 6 ]   S i d h a r t h a   D a s h   a n d   M i h i r   N a r a y a n   M o h a n t y ,   A   Co m p a r a t i v e   A n a l y s i s   f o r   W l m s   A l g o r i t h m   i n   S y s t e m   I d e n t i f i c a t i o n , I E E E   I n t e r n a t i o n a l   Co n f e r e n c e   o n   E l e c t r o n i c s   Co m p u t e r   T e c h n o l o g y   ( I CE CT   2 0 1 2 ) ,   K a n y a k u m a r i ,   0 6 - 0 7 , A p r i l , 2 0 1 2 .   [ 7 ]   R. A .   S h a i k   a n d   D . V . R. K     Re d d y ,   N o i s e   c a n c e l l a t i o n   i n   E CG   s i g n a l s   u s i n g   n o r m a l i z e d   S i g n - S i g n   L M S   a l g o r i t h m ,   I E E E   I n t e r n a t i o n a l   S y m p o s i u m   o n   S i g n a l   P r o c e s s i n g   a n d   I n f o r m a t i o n   T e c h n o l o g y   ( I S S P I T ) ,   1 4 - 1 7   D e c ,   2 0 0 9 .     [ 8 ]   J a m e s   A .   Bu c k l e w ,   T h o m a s   G .   K u r t z   a n d   W i l l i a m   A .   S e t h a r e s ,   W e a k   Co n v e r g e n c e   a n d   L o c a l   S t a b i l i t y   P r o p e r t i e s   o f   F i x e d   S t e p   S i z e   Re c u r s i v e   A l g o r i t h m s ,   I E E E   T r a n s a c t i o n s   o n   I n f o r m a t i o n   T h e o r y ,   V o l .   3 0 ,   No .   3 ,   M A Y   1 9 9 3 .   [ 9 ]   H s e i h , L i n ,   a n d   J e n g ,   P r e l i m i n a r y   S t u d y     o n   W i c o x o n   L e a r n i n g   M a c h i n e s ,   I E E E   T r a n s a c t i o n s   o n   Ne u r a l   Ne t wo r k s , v o l . 1 9 ,   No . 2   F e b   2 0 0 8 .     [ 1 0 ]   Y o n g   L i u   a n d   J .   J i m   Z h u , Co n t i n u o u s - t i m e   N o n l i n e a r   S y s t e m   I d e n t i f i c a t i o n   U s i n g   N e u r a l   N e t w o r k , A m e r i c a n   Co n t r o l   Co n f e r e n c e   W e s t i n   S e a t t l e   H o t e l ,   S e a t t l e ,   W a s h i n g t o n ,   U S A , J u n e   1 1 - 1 3 ,   2 0 0 8 .       B I O G R A P H I E S   O F   A U T H O R S           S i d h a r t h a   D a s h   i s   p r e s e n t l y   w o r k i n g   a s   a n   A s s i s t a n t   P r o f e s s o r   i n   t h e   D e p a r t m e n t   o f   E l e c t r o n i c s   a n d   Co m m u n i c a t i o n   E n g i n e e r i n g ,   I n s t i t u t e   o f   T e c h n i c a l   E d u c a t i o n   a n d   Re s e a r c h ,   Bh u b a n e s w a r ,   O d i s h a .   H e   o b t a i n e d   h i s   M - T e c h   d e g r e e   f r o m   K I I T ,   BBS i n   2 0 1 0 .   H e   h a s   5   p a p e r s   i n   I n t e r n a t i o n a l / N a t i o n a l   J o u r n a l s   a n d   c o n f e r e n c e s .   H i s   a r e a   o f   r e s e a r c h   i n t e r e s t s   i n c l u d e s     D i g i t a l   s i g n a l   P r o c e s s i n g     a n d   I m a g e   P r o c e s s i n g .   E - m a i l   i d :   s i d h a r t h a d a s h i t e r @ g m a i l . c o m               M i h i r   N .   M o h a n t y   i s   p r e s e n t l y   w o r k i n g   a s   a n   A s s o c i a t e   P r o f e s s o r   i n   t h e   D e p a r t m e n t   o f   E l e c t r o n i c s   a n d   Co m m u n i c a t i o n   E n g i n e e r i n g ,   I n s t i t u t e   o f   T e c h n i c a l   E d u c a t i o n   a n d   Re s e a r c h ,   Bh u b a n e s w a r ,   O d i s h a .   H e   h a s   o v e r   3 0   p a p e r s   i n   I n t e r n a t i o n a l / N a t i o n a l   J o u r n a l s   a n d   c o n f e r e n c e s .   H i s   a r e a   o f   r e s e a r c h   i n t e r e s t s   i n c l u d e s     D i g i t a l   s i g n a l / i m a g e   p r o c e s s i n g ,   Bi o m e d i c a l   s i g n a l   p r o c e s s i n g   a n d   B i o i n f o r m a t i c s .   E - m a i l   i d :   m i h i r . n . m o h a n t y @ g m a i l . c o m     Evaluation Warning : The document was created with Spire.PDF for Python.