I nte rna t io na l J o urna l o f   E lect rica l a nd   Co m pu t er   E ng ineering   ( I J E CE )   Vo l.   15 ,   No .   2 A p r il   20 25 ,   p p .   2 3 3 4 ~ 2 3 4 4   I SS N:  2088 - 8 7 0 8 ,   DOI 1 0 . 1 1 5 9 1 /ijece. v 15 i 2 . pp 2 3 3 4 - 2 3 4 4           2334       J o ur na l ho m ep a g e h ttp : //ij ec e. ia esco r e. co m   Plant disea se  dete ction using  vis io trans formers       M ha ned A li,  M o ua t a s s im   Sa lm a ,   M o un ia   E l H a j i,  B enhr a   J a m a l   La b o r a t o r y   o f   A d v a n c e d   R e se a r c h   i n   I n d u st r i a l   a n d   L o g i st i c   E n g i n e e r i n g   ( LA R I LE),  Te a m O S I L,   D e p a r t m e n t   G I L,   N a t i o n a l   H i g h   S c h o o l   o f   E l e c t r i c a l   a n d   M e c h a n i c a l   En g i n e e r i n g   ( EN S EM ) ,   U n i v e r si t y   H a ssan   I I ,   C a sa b l a n c a ,   M o r o c c o       Art icle  I nfo     AB S T RAC T   A r ticle  his to r y:   R ec eiv ed   J u n   2 1 ,   2 0 2 4   R ev is ed   No v   2 3 ,   2 0 2 4   Acc ep ted   Dec   2 ,   2 0 2 4       P lan d ise a se p re se n a   m a jo risk   t o   wo rl d wid e   f o o d   se c u rit y   a n d   th e   su sta in a b il it y   o f   a g ricu l tu re ,   lea d in g   t o   s u b sta n ti a e c o n o m ic  l o ss e a n d   h in d e rin g   ru ra li v e li h o o d s.  C o n v e n t io n a m e th o d fo d ise a se   d e tec ti o n ,   in c lu d in g   v is u a in s p e c ti o n   a n d   l a b o ra to r y - b a se d   tec h n iq u e s,  a re   li m it e d   i n   th e ir  sc a lab il it y ,   e fficie n c y ,   a n d   a c c u ra c y .   Th is  p a p e a d d re ss e th e   c rit ica l   p ro b lem   o a c c u ra tely   d e tec ti n g   a n d   d iag n o sin g   p lan d ise a se u sin g   a d v a n c e d   m a c h in e   lea rn in g   tec h n i q u e s,  s p e c ifi c a ll y   v isio n   tra n sfo rm e rs  (ViTs),   t o   o v e rc o m e   t h e se   l imitatio n s.   ViTs   lev e ra g e   se l f - a tt e n ti o n   m e c h a n ism to   c a p tu re   in tri c a te  p a tt e rn in   p la n ima g e s,  e n a b li n g   a c c u ra te  a n d   e fficie n t   d ise a se   c las sifica ti o n .   T h is  p a p e re v iew th e   li tera tu re   o n   d e e p   lea rn in g   tec h n iq u e in   a g r icu lt u re ,   e m p h a siz in g   t h e   g ro wi n g   in tere st  in   ViTs   fo p lan t   d ise a se   d e tec ti o n .   A d d it i o n a l ly ,   it   p re se n ts  a   c o m p re h e n siv e   m e th o d o lo g y   f o train i n g   a n d   e v a lu a ti n g   ViT  m o d e ls  fo p la n d ise a se   c las sifica ti o n   tas k s.   E x p e rime n ta re su lt s   d e m o n stra te  t h e   e ffe c ti v e n e ss   o f   ViTs  in   a c c u ra tely   i d e n ti f y i n g   v a rio u p lan t   d ise a se a c ro ss   a   b a lan c e d     5 5   c las se d a tas e t,   h ig h li g h t in g   th e ir  p o ten t ial  to   re v o l u ti o n ize   p re c isio n   a g ricu lt u re   a n d   p ro m o te su sta in a b le farm in g   p ra c ti c e s.   K ey w o r d s :   A u t o m a t e d   d is e a s e   c l as s i f i c at io n   Dee p   lear n in g   i n   ag r ic u ltu r e   I m ag c lass if icatio n   Plan t d is ea s d etec tio n   Pre cisi o n   a g r icu ltu r e   Vis io n   t r an s f o r m er s   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   Mh an ed   Ali   L ab o r ato r y   o f   Ad v an ce d   R esear ch   in   I n d u s tr ial  an d   L o g is tic   E n g in ee r i n g   ( L AR I L E ) ,   T ea m   OSI L ,   Dep ar tm en t G I L ,   Natio n al  Hi g h   Sch o o o f   E lectr ical  an d   M ec h an ical  E n g in ee r in g   ( E NSEM ) ,   Un iv er s ity   Hass an   I I   C asab lan ca ,   Mo r o cc o   E m ail:  ali. m h an ed . d o c2 1 @ en s em . ac . m a       1.   I NT RO D UCT I O N   Ag r icu ltu r e   p lay s   a   f u n d am e n tal  r o le   in   s u s tain in g   h u m an   life   b y   p r o v id in g   f o o d ,   f ee d ,   f ib er ,   an d   f u el  ess en tial  f o r   s u r v iv al  [ 1 ] .   Su s tain ab le  ag r icu ltu r al  p r ac tices  ar cr u cial  f o r   en s u r in g   f o o d   s ec u r ity ,   en h an cin g   en v i r o n m e n tal  q u a lity ,   an d   m ai n tain in g   t h ec o n o m ic  v iab ilit y   o f   f a r m s   [ 2 ] .   T h im p o r tan ce   o f   ag r icu ltu r in   i m p r o v in g   t h s o cial  an d   ec o n o m ic  well - b ein g   o f   in d iv id u als  an d   co m m u n i ties   h as  b ee n   wid ely   r ec o g n ized   [ 3 ] .   B y   ad o p tin g   s u s tain ab le  p r ac tices,  ag r icu ltu r ca n   co n tr i b u te  to   th co n s er v atio n   o f   ec o s y s tem s ,   p r o tect  s o il  h ea lth ,   an d   e n s u r th a v ailab ilit y   o f   r eso u r ce s   f o r   f u tu r g en er atio n s .   Su s tain ab le   ag r icu ltu r also   in v o l v es  b alan cin g   ec o n o m ic,   s o cial,   an d   e n v ir o n m en tal  asp ec ts   to   s u p p o r d ec is io n - m ak in g   an d   lo n g - ter m   a g r icu ltu r al  p r o d u ctiv ity .     P l a n t d i s ea s d e t e ct i o n   i n   a g r i cu l t u r e   is   c r u ci a l   f o r   m a i n t ai n i n g   c r o p   y i e l d ,   f o o d   s e c u r i t y ,   a n d   e c o n o m i c   s u s ta i n a b i li t y .   U t il i zi n g   a d v a n c e d   t e c h n o l o g i e s   s u c h   as   m a ch i n e   l e a r n i n g ,   d e e p   l e a r n i n g ,   a n d   c o m p u t e r   v i s i o n   h a s   b e e n   e m p h as i z e d   i n   v a r i o u s   s t u d i es   f o r   e f f i c ie n t   d is e as e   d e t e c t i o n   i n   p l a n ts   [ 4 ] [ 6 ] .   T r a d i t i o n a l   m e t h o d s   f o r   p l a n t   d is e as e   d e te c t i o n   h a v h is t o r i c al l y   r el i e d   o n   v i s u a i n s p e c t i o n   b y   e x p e r ts   a n d   l a b o r a t o r y - b a s e d   t e c h n i q u es .   V i s u al   i n s p e c t i o n   i n v o l v e s   e x am i n i n g   p l a n t s   f o r   v i s i b l e   s y m p t o m s   o f   d is e as e s ,   s u c h   as   le s i o n s ,   d i s c o l o r a t i o n ,   o r   d e f o r m i t i e s .   T h is   m e t h o d ,   w h i le   c o m m o n l y   u s e d ,   h a s   l i m i t a t i o n s   i n   t e r m s   o f   s c a l a b il i t y ,   e f f i c ie n c y ,   a n d   a c c u r a c y   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8         P la n t d is ea s d etec tio n   u s in g   visi o n   tr a n s fo r mer s   ( Mh a n ed   A li )   2335   [ 7 ] .   V i s u a l   i n s p e ct i o n   i s   s u b jec t i v e   a n d   d e p e n d e n t   o n   t h e   e x p e r t i s e   o f   t h e   i n s p e c t o r ,   l e a d i n g   t o   v a r i a b i l i t y   i n   r e s u l ts   [ 8 ] .   A d d i ti o n a l l y ,   v is u a l   i n s p ec t i o n   m a y   o n l y   d e te c d i s e as es   o n c e   s y m p t o m s   a r v i s i b le ,   p o t e n t i al l y   m i s s i n g   a s y m p t o m at i c   i n f e c t i o n s   [ 9 ] .   T h e s m e t h o d s   o f f e r   h ig h e r   s p e c i f i ci t y   a n d   c a n   d e t e c d i s e as e s   e v e n   i n   t h a b s e n c e   o f   v i s i b l e   s y m p t o m s .   H o w e v e r ,   l a b o r a t o r y - b a s e d   t e c h n i q u e s   a r e   t i m e - c o n s u m in g ,   e x p e n s i v e ,   a n d   r e q u i r e   s p e ci a l iz e d   e q u i p m e n a n d   t r a i n e d   p e r s o n n e l ,   m a k i n g   t h e m   l ess   s c a l a b le   a n d   e f f ici e n t   f o r   la r g e - s c al d i s e as e   s u r v e il l a n c e   [ 7 ] .   T h e   l i m i t a ti o n s   o f   v i s u a l   i n s p e c t i o n   a n d   l a b o r a t o r y - b a s e d   t e c h n i q u e s   u n d e r s c o r e   t h n e c e s s i t y   f o r   m o r e   a d v a n c e d   a n d   a u t o m a t e d   a p p r o a c h e s   f o r   p l a n t   d i s e as e   d e t ec t i o n .   T e c h n o l o g i e s   l i k e   h i g h - t h r o u g h p u t   s e q u e n c i n g   a n d   a r t i f i c i a l   i n te l li g e n c e   h a v e   d e m o n s t r a t e d   p o t e n t i al   i n   i m p r o v i n g   t h e   s p e e d ,   a c c u r a c y ,   a n d   s c al a b i li t y   o f   d i s e as d e te c t i o n   [ 1 0 ] ,   [ 1 1 ] .   B y   i n t e g r a ti n g   t h e s e   a d v a n c e d   t e c h n o l o g i e s   w it h   t r a d it i o n a m e t h o d s ,   i i s   f e a s i b l e   t o   o v e r c o m e   t h e   c o n s t r ai n t s   o f   v i s u al   in s p e c t i o n   a n d   l a b o r at o r y - b a s e d   t e c h n i q u e s ,   l e a d i n g   t o   m o r e   e f f e c t i v e   p l a n t   d i s ea s e   m a n a g e m e n t   s t r at e g i es .   I n t e r n e t   o f   t h i n g s   ( I o T )   a n d   a r t i f i ci a i n t el l i g e n c ( A I )   te c h n o l o g i e s   a r s i g n i f i c a n tl y   e n h a n c i n g   a g r i c u l t u r a l   p r a ct i c es ,   p a r t i c u la r l y   i n   i r r i g a ti o n   m a n a g e m e n t .   I n   M o r o c c o ,   w h e r e   a g r i c u l t u r e   h e a v i l y   r e l ie s   o n   r a i n f a l l ,   t r a d i t i o n al   i r r i g at i o n   m e t h o d s   o f t e n   le a d   t o   w a t e r   w a s ta g e   a n d   s u b o p t i m a l   c r o p   h y d r a t i o n .   T o   a d d r e s s   t h i s ,   in tellig en ir r ig atio n   s y s tem s   u s in g   No d e - MCU  3 2 b o ar d s   m o n ito r   air   tem p er at u r e,   h u m i d ity ,   s o il  m o is tu r e,   an d   lig h t.   T h is   d ata   is   s en v ia  MQ T T   t o   R asp b er r y   Pi,  wh er e   lo n g   s h o r t - ter m   m em o r y   ( L STM )   n eu r al  n etwo r k s   a n aly ze   h is to r ical  wea th er   d ata  t o   f o r ec a s cr o p   wate r   n ee d s   an d   d et er m in th e   p r e cise  ir r ig atio n   r eq u i r em en ts   [ 1 2 ] A n o t h e r   s y s te m   u s e s   w i r el es s   s e n s o r   n e tw o r k s   ( W S N )   an d   I o T   t o   a u t o m at i r r i g a t i o n ,   m i n i m i z i n g   h u m a n   in t e r v e n t i o n   a n d   wa t e r   c o n s u m p t i o n .   D a ta   f r o m   s o i l m o i s t u r e   a n d   w e a t h e r   s e n s o r s   i s   s e n t   t o   T h i n g S p e a k   f o r   r e a l - t i m e   m o n i t o r i n g   a n d   c o n t r o l   v i a   a   m o b i l e   a p p .   F u z z y   l o g i c   d e f i n e s   r u l e s   f o r   e f f i c i e n t   wa t e r   d is t r i b u ti o n   [ 1 3 ] .   A d d i t i o n a l l y ,   a n   a u t o m at ed   g r e e n h o u s e   i r r i g a t i o n   s y s t em   u s i n g   a n   A r d u i n o   M E G A   2 5 6 0   b o a r d   d e m o n s t r a t e s   t h e   e f f e c t i v e n ess   o f   I o T   i n   m ai n t a i n i n g   o p ti m a g r o w i n g   c o n d i t i o n s   b y   c o n t i n u o u s l y   a d j u s t i n g   i r r i g at io n   b a s e d   o n   s e n s o r   d a t a   [ 1 4 ] .   T h e s e   a d v a n c e m e n t s   i l l u s t r a te   t h e   t r a n s f o r m a t i v p o t e n t i a l   o f   I o T   a n d   A I   i n   a c h ie v i n g   s u s t ai n a b l e   a n d   e f f i ci e n t   a g r i c u l t u r a l   p r a c ti c es .   A r t i f i ci a l   i n t e l li g e n c e   t e c h n i q u e s ,   p a r t i c u la r l y   c o m p u t e r   v i s i o n ,   h a v e   s h o w n   s i g n i f i c a n t   p o t e n t i a l   i n   a u t o m a t i n g   p l a n t   d is e as e   d e t e ct i o n ,   e n a b l i n g   e a r l y   a n d   a c c u r at e   i d e n t i f ic a t i o n   o f   d i s ea s es .   De e p   l e a r n i n g - b a s e d   c o m p u t e r   v i s i o n   m e t h o d s ,   s u c h   a s   c o n v o l u t i o n a l   n e u r al   n e t w o r k s   ( C N Ns ) ,   a r e   i n c r e as in g l y   u s e d   f o r   t h e   d e t e c t i o n   a n d   c l as s i f i c a ti o n   o f   p l a n t   [ 1 5 ] ,   [ 1 6 ] .   T h e s e   t e c h n o l o g i e s   a l l o w   f o r   d i s e a s e   i d e n t i f ic a t i o n   t h r o u g h   t h e   a n a l y s is   o f   p l a n t   i m a g e s ,   p r o v i d i n g   a   m o r e   e f f i c i e n t   a n d   l es s   l a b o r - i n t e n s i v a l t e r n at i v e   t o   m a n u a l   m o n i t o r i n g   [ 1 7 ] .   R e c e n t   d is e a s e s   a d v a n c em e n t s   i n   c o m p u t e r   v is i o n   a n d   d e e p   l e a r n i n g   h a v e   f a c i l i ta te d   t h e   a u t o n o m o u s   d e t e c t i o n   o f   p l a n t   d is e as e s   t h r o u g h   t h e   a n a l y s i s   o f   i m a g es  c a p t u r e d   b y   o p t i c a l   s e n s o r s ,   a l l o w i n g   f o r   t i m el y   d i a g n o s i s   o f   c r o p   d is e as e s   [ 1 8 ] .   F u r t h e r m o r e ,   t h e   u s e   o f   c o m p u t e r   v i s i o n   t ec h n i q u e s   i n   c o m b i n a t i o n   w it h   A I   h a s   f a c i l it a t e d   t h e   e a r l y   d e t ec t i o n   o f   p l a n t   d i s e as e s ,   a ll o w i n g   f o r   t im e l y   i n t e r v e n t i o n s   t o   m it i g a t e   t h e   a d v e r s e   e f f e c ts   o f   d i s e a s e s   [ 1 9 ] .   V i s i o n   t r a n s f o r m e r s   ( Vi T s )   h av e   e m e r g e d   a s   a   s i g n i f ic a n t   a d v a n c e m e n t   i n   t h e   f i el d   o f   c o m p u t e r   v i s i o n ,   b u i l d i n g   o n   t h e   s u c c e s s   o f   t r a n s f o r m e r   m o d e l s   f r o m   n a t u r a l   l a n g u a g e   p r o c e s s i n g   ( N L P )   [ 2 0 ] .   T h e s t r a n s f o r m e r s ,   s u c h   V i T s ,   h a v e   d e m o n s t r a t e d   i m p r e s s i v e   p e r f o r m a n c e   a c r o s s   v a r i o u s   m a c h i n e   v i s i o n   t as k s   [ 2 1 ] V i T s   s h o w c as e d   t h e i r   a b i l it y   to   a c h i e v e   e x c e l l e n t   r e s u lt s   c o m p a r e d   t o   s t a te - of - t h e - a r t   c o n v o l u t i o n a l   n e t w o r k s   w h i l e   r e q u i r i n g   f e w e r   c o m p u t at i o n a l   r e s o u r c es   f o r   t r a i n i n g   [ 2 2 ] .   F u r t h e r m o r e ,   V i T s   h a v e   b e e n   a p p l i e d   t o   a   w i d e   r a n g e   o f   c o m p u t e r   v is i o n   a p p l i c a ti o n s ,   h i g h l i g h t i n g   t h e i r   v e r s a t il i t y   a n d   p o t e n ti a [ 2 3 ] V i s i o n   t r a n s f o r m e r s   r e p r e s e n t   a   s i g n i f i c a n t   d e v e lo p m e n t   i n   c o m p u t e r   v i s i o n ,   p r o v i d i n g   a   p r o m i s i n g   a l t e r n a t i v e   t o   t r a d it i o n a c o n v o l u t i o n a l   n e u r a l   n e tw o r k s .   R es e a r c h e r s   a r e   c o n ti n u o u s l y   e x p l o r i n g   a n d   e n h a n c i n g   t h e   ca p a b i l i ti e s   o f   V i T s   t h r o u g h   s t u d i e s   f o c u s e d   o n   r o b u s t n e s s ,   g e n e r a li z a ti o n ,   e f f i c ie n c y ,   a n d   d i v e r s e   a p p l i c at i o n s ,   p a v i n g   t h e   wa y   f o r   f u r t h e r   a d v a n c e m e n t s   i n   t h e   f i el d   o f   c o m p u t e r   v i s i o n .   W ith   th ad v an ce m en ts   in   d ee p   lear n in g ,   p ar ticu la r ly   th e   em er g en ce   o f   ViT s ,   th er h as  b ee n   s ig n if ican s h if to war d s   au to m atin g   th is   p r o ce s s .   W ex p lo r ed   r ec e n ar ticles  ap p ly in g   ViT s   in   p lan d is ea s e   d etec tio n .   s m ar tp h o n e - b as ed   s o lu tio n   em p l o y in g   ViT   m o d els  is   p r o p o s ed   f o r   id e n tify in g   h ea lth y   an d   d is ea s ed   to m ato   p lan ts .   T h ViT   m o d el,   tr ain ed   o n   d ata s et  o f   to m ato   leaf   im ag es,  o u tp er f o r m s   tr ad itio n al   C NN - b ased   ap p r o ac h es,  d em o n s tr atin g   its   p o ten tial  f o r   wi d esp r ea d   ad o p tio n   in   s m ar a g r icu ltu r s y s tem s   [ 2 4 ] B o r h a n et  a l.   [ 2 5 ]   ex p lo r es  ViT s   f o r   r ea l - tim au to m ated   p lan d is ea s class if icatio n .   T h s tu d y   co m p ar es  ViT   with   tr ad itio n a C NN  m eth o d s ,   h ig h lig h tin g   th tr ad e - o f f s   b etwe en   ac c u r ac y   an d   p r e d ictio n   s p ee d .   I s u g g ests   p o ten tial  en h an ce m en ts   th r o u g h   t h co m b in atio n   o f   atten tio n   b lo c k s   with   C NN  b lo ck s .   I n   d if f er en ap p r o ac h ,   au th o r s   in tr o d u ce   f in e - t u n ed   tech n i q u ca lled   Gr ee n ViT   f o r   d etec tin g   p lan in f ec tio n s   an d   d is ea s es.  B y   lev er ag in g   ViT s ,   Gr ee n ViT   o v er c o m es  th lim itatio n s   ass o ciate d   with   C NN - b ased   m o d els,   d em o n s tr atin g   s u p er i o r   p er f o r m an ce   in   d etec tin g   p lan d i s ea s es  [ 2 6 ] Ad d r ess in g   th n ee d   f o r   en h an ce d   f ea tu r ex tr ac tio n ,   r esear c h er s   p r o p o s es  an   ed g e - f ea tu r g u id an ce   m o d u le  ( E FG)   to   im p r o v th f ea t u r ex tr ac tio n   ca p ab ilit ies  o f   ViT - b ased   m eth o d s ,   lead in g   to   im p r o v ed   p er f o r m an ce   ac r o s s   m u ltip le  d atasets   [ 2 7 ] Fo r   ca s s av leaf   d is ea s d ete ctio n ,   ViT   was  u s ed   with   tec h n iq u es  s u ch   as  least  im p o r ta n atten tio n   p r u n in g   ( L eI AP)   an d   s p ar s m at r ix - m atr ix   m u ltip licatio n   ( SP MM ) ,   r esu ltin g   in   s ig n if ican im p r o v em en ts   in   ac cu r ac y   an d   ef f icien c y   [ 2 8 ] T h s tu d y   o n   p lan d is ea s class if ic atio n   p r esen ts   n o v el  ap p r o ac h   th at  in teg r ates   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   15 ,   No .   2 Ap r il   20 25 :   2 3 3 4 - 2 3 4 4   2336   tr an s f er   lear n in g   with   ViT s .   T h is   h y b r id   m o d el  ac h ie v es  im p r ess iv v alid atio n   ac cu r ac y ,   s u r p ass in g   tr ad itio n al  tr an s f er   lear n in g - b ased   m o d els.  T h ef f icien cy   o f   ViT s   in   ex tr ac tin g   d ee p   f ea tu r es  f r o m   p lan t   leav es  is   h ig h lig h ted   as  k ey   f ac to r   in   th m o d el' s   s u p er i o r   p er f o r m an ce   [ 2 9 ] I n   s u m m ar y ,   th r e v iewe d   liter atu r h ig h lig h ts   th g r o w in g   in ter est  in   lev er ag in g   ViT s   f o r   p lan d is ea s d etec tio n   an d   class if icatio n .   T h ese  s tu d ies  co n tr ib u te  to   ad v an cin g   p r ec is io n   ag r icu ltu r b y   p r o v id in g   ef f icien an d   ac c u r ate  s o lu tio n s   f o r   au to m ated   d is ea s id en tific atio n .   Fu r t h er   r esear c h   in   th is   ar ea   co u ld   e x p lo r o p tim izatio n   tech n iq u es,  m o d el   in ter p r etab ilit y ,   an d   r ea l - w o r ld   d ep lo y m e n s ce n ar io s   to   en h an ce   th p r ac tical  ap p lic ab ilit y   o f   ViT s   in   ag r icu ltu r al  s y s tem s .   T h e   a i m   o f   t h i s   p a p e r   i s   t o   e x p l o r e   V i T s   i n   p l a n t   d is e as e   d e t ec t i o n   u s i n g   a   d a t a s et   c o n t a i n i n g   d i f f e r e n t   t y p e s   o f   p l a n t s ,   i n   o r d e r   t o   a   f u r t h e r   i m p l e m e n t a ti o n   i n   a   s m a r t   a g r i c u l t u r a l   s y s t e m .   T h e   p a p er   i s   s t r u ct u r e d   i n t o   s e v e r a l   m ai n   s ec t i o n s :   a   d e tai l e d   m e t h o d o l o g y   s e ct i o n ,   t h e   p r e s e n t at i o n   a n d   d i s c u s s i o n   o f   r e s u l ts ,   a n d   a   c o n c l u s i v e   s u m m a r y .   T h e   m et h o d o l o g y   s e c t i o n   o u t li n e s   t h e x p e r i m e n t a l   a p p r o a c h   e m p lo y e d   i n   t h i s   s t u d y ,   i n c l u d i n g   d a t as e t ,   d at a   p r e p r o c e s s i n g   a n d   p r o p o s e d   m o d e l .   S u b s e q u e n t l y ,   t h e   r es u l ts   a n d   d i s c u s s i o n   s e ct i o n   p r e s e n t   t h e   o u t c o m e s   o f   t h e   e x p e r i m e n t s ,   a n a l y zi n g   t h e   p e r f o r m a n c e   o f   V i T s   i n   p l a n t   d is e as d e t e c t i o n   t as k s   a n d   d i s c u s s i n g   t h ei r   i m p l ic a t i o n s   f o r   a g r i c u l t u r a l   p r a c ti c es .   Fi n a ll y ,   t h e   c o n c l u s i o n   s y n t h es i z es  t h e   m a i n   f i n d i n g s ,   d i s c u s s es   t h ei r   b r o a d e r   i m p l i ca t i o n s ,   a n d   s u g g e s ts   a v e n u es   f o r   f u t u r e   r e s e a r c h .   T h r o u g h   t h i s   s t r u c t u r e d   a p p r o a c h ,   t h e   p a p e r   a i m s   t o   c o n t r i b u t t o   t h e   a d v a n c e m e n t   o f   p l a n t   d i s e as e   d e t ec t i o n   m e t h o d s   a n d   t h e   p r o m o t i o n   o f   s u s ta i n a b l e   a g r ic u l t u r a l   p r a ct i ce s .       2.   M E T H O   I n   th is   m eth o d o lo g ical  s ec tio n ,   we  p r esen th ap p r o ac h es  an d   to o ls   u tili ze d   to   co n d u ct  o u r   s tu d y .   W b eg in   b y   in tr o d u cin g   th c en tr al  d ataset  th at  f o r m s   th b asis   o f   o u r   an aly s es,  d etailin g   its   co m p o s itio n   an d   p r ep r o ce s s in g   m eth o d s .   Su b s eq u en tly ,   we  d elv in to   a n   in - d ep th   e x p lo r atio n   o f   t h in n o v ativ ViT   ar ch itectu r e,   s ig n if ica n ad v an ce m en in   c o m p u ter   v is io n .   T h ViT   d is tin g u is h es  its elf   th r o u g h   its   ab ilit y   to   ef f ec tiv ely   ca p t u r lo n g - r a n g e   d ep en d en cies  in   im ag e   d ata  u s in g   s elf - atten tio n   m ec h a n is m s ,   th er eb y   o f f er i n g   p r o m is in g   av en u es  f o r   f ea t u r e   ex tr ac tio n   an d   p atter n   r ec o g n itio n .   T h is   m eth o d o lo g ical  i n tr o d u ctio n   s ets  th e   s tag f o r   u n d er s tan d in g   th a n aly s es a n d   f in d in g s   p r esen ted   i n   th is   p ap er .     2 . 1 .     P r o po s ed  s o lutio n   T o   o v er co m th e   lim itatio n s   o f   tr a d itio n al  p lan d is ea s d e tectio n   m eth o d s ,   th is   s tu d y   p r o p o s es  th e   u s o f   ViT s .   ViT s   lev er ag s elf - atten tio n   m ec h an is m s   to   ca p tu r e   in tr icate   p atter n s   an d   lo n g - r an g e   d ep en d e n cies  in   p lan im a g es,  o f f er in g   a   r o b u s alter n ativ e   to   c o n v o lu tio n al   n eu r al  n etw o r k s   ( C NNs).   T h e   m eth o d o l o g y   i n v o lv es  tr ai n in g   ViT   m o d el  o n   d ataset  o f   d iv er s p lan im a g es  ca teg o r i ze d   b y   d is ea s ty p e.   B y   p ar titi o n in g   im ag es  in to   p atch es  an d   ap p ly in g   s elf - atten tio n   m ec h an is m s ,   ViT s   ca n   ef f ec tiv ely   lear n   co m p lex   f ea t u r es  an d   im p r o v class if icatio n   ac cu r ac y .   T h p r o p o s ed   s o lu tio n   in teg r ates  ViT s   with   ad v an ce d   d ata  p r ep r o ce s s in g   an d   a u g m en tatio n   tech n iq u es  to   en h a n ce   m o d el  p er f o r m a n ce   an d   g en er aliza tio n   ac r o s s   d if f er en p lan t sp ec ies an d   d is ea s co n d itio n s .     2 . 2 .     Da t a s et   T h d ataset  f r o m   Kag g le  co n s is ts   o f   im ag es  o f   p lan le av es  ca teg o r ized   in to   8 8   cla s s es  [ 3 0 ] r ep r esen tin g   v ar io u s   p lan t   s p ec ies  an d   th eir   h ea lth   co n d it io n s .   T h e   d ataset  u s ed   in   t h is   s tu d y   co v er s   an   ex ten s iv ar r ay   o f   5 5   class es  f r o m   th o r ig in al  d ataset,   r ep r e s en tin g   s u b s tan tial  n u m b er   o f   1 4   p lan s p ec ies   with   8 3 . 6 0 3   im ag es.  Fig u r 1   p r esen ts   s n ap s h o t   o f   r an d o m   s am p les  f r o m   th e   d ataset.   T h d ataset  u tili ze d   in   th is   p ap er   was  ex tr ac ted   f r o m   th o r ig in al  d atab ase,   an d   th im ag es  wer au g m en ted   to   ac h iev b alan ce d   d is tr ib u tio n   ac r o s s   all  ca teg o r ies.  T h n ew   d ataset  en co m p ass es  wid r an g e   o f   p lan ts ap p le,   ca s s av a,   ch er r y ,   ch ili,  co r n ,   cu c u m b e r ,   g r ap e,   p o m e g r an ate,   p o tato ,   s o y b ea n ,   s tr awb er r y ,   s u g a r ca n a n d   t o m ato .   W ith in   ea ch   p lan ca teg o r y ,   d if f er en class es  d en o te  s p ec if i d is ea s es  o r   h ea lth   co n d itio n s   T ab le  1 ,   r esu ltin g   in   d iv er s co llectio n   o f   c o m p r eh en s iv m ac h in lear n i n g   m o d el  tr ain in g .     2 . 3 .     Da t a   p re pro ce s s ing   As  im ag p r ep r o ce s s in g   is   cr u cial  s tep   in   p r ep ar in g   d ata  f o r   m ac h i n lear n in g   m o d els,  p ar ticu lar ly   in   co m p u ter   v is io n   task s .   T h p r o ce s s   o f ten   in v o lv es  au g m en tin g   th d ataset  to   en h an ce   th d iv er s ity   an d   q u an tity   o f   tr ain in g   s am p les,   wh ich   h elp s   im p r o v th r o b u s tn ess   an d   p e r f o r m an ce   o f   th m o d els.  T h e   au g m en ter   d ef i n ed   h er e   em p l o y s   s ev er al  tec h n iq u es   u s in g   th im ag e   lib r ar y .   I in clu d es  h o r iz o n tal  f li p p in g   (  .   ( 0 . 5 ) ) ,   wh ich   r ev e r s es  im ag es  h o r izo n tally   with   a   p r o b a b ilit y   o f   5 0 %,   an d   cr o p p in g   (  .  (   = ( 0 , 0 . 1 ) ) ) ,   wh ich   r an d o m l y   r em o v es  u p   to   1 0 o f   th im ag e’ s   b o r d er s .   C o n tr ast  ad ju s tm en ts   (  .    ( 0 . 75 , 1 . 5 ) )   d y n am ically   alter   th im ag co n tr ast,  wh ile  ad d i tiv Gau s s ian   n o is (  .     (   = ( 0 , 0 . 05 255 ) ) )   in tr o d u ce s   s lig h r a n d o m n ess   to   p ix el  Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8         P la n t d is ea s d etec tio n   u s in g   visi o n   tr a n s fo r mer s   ( Mh a n ed   A li )   2337   v alu es  to   s im u late  r ea l - wo r ld   v ar iatio n s .   B r ig h tn ess   ch an g es  (  .   ( 0 . 8 , 1 . 2 ) )   ad ju s th im ag e’ s   b r ig h tn ess ,   m a k in g   th e   m o d el  r esil ien t o   lig h tin g   co n d itio n s .   Fin ally ,   af f i n tr an s f o r m atio n s   (  . (   = ( 5 , 5 ) ,  = ( 16 , 16 ) ) )   in v o lv r o tatin g   th im ag with in   r an g o f   - 5   to     5   d eg r ee s   an d   s h ea r in g   it  b et wee n   - 1 6   an d   1 6   d eg r ee s ,   ef f ec tiv ely   d is to r tin g   th im ag wh ile  p r eser v in g   its   ess en tial  f ea tu r es.  T h ese  au g m en tatio n s   co llectiv ely   en s u r th at  th d ataset  is   v ar ied   an d   co m p r eh en s iv e,   wh ich   is   v ital  f o r   tr ain in g   ef f ec tiv an d   g en er alize d   m o d el s .   T h d is tr ib u tio n   o f   im ag es  in   ea ch   class   o f   t h e   n ew  d ataset  is   s h o wn   in   Fig u r 2 .           Fig u r 1 .   Sam p le  o f   th e   d ataset           Fig u r 2 .   Dis tr ib u tio n   o f   im a g es in   ea ch   class       2 . 4 .     Vis io n t ra ns f o r m er s   T h ViT   ar ch itectu r r ep r es en ts   s ig n if ican ad v an ce m en in   th f ield   o f   co m p u t er   v is io n ,   lev er ag in g   th s u cc ess   o f   t h tr an s f o r m er   m o d el   in   n a tu r al  lan g u ag p r o ce s s in g   task s   [ 2 2 ] .   ViT   h as   d em o n s tr ated   r em ar k a b le  p e r f o r m an ce   in   im ag class if icatio n ,   e v en   s u r p ass in g   tr ad itio n a ar ch itectu r es  lik Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   15 ,   No .   2 Ap r il   20 25 :   2 3 3 4 - 2 3 4 4   2338   R esNet s   [ 3 1 ] .   I n s p ir ed   b y   ViT ,   r esear ch er s   h av d ev elo p e d   v ar iatio n s   s u c h   as  th s win   tr an s f o r m e r ,   wh ich   ad ap ts   th R esNet - 5 0   ar ch itectu r to   cr ea te  h ier ar ch ical  ViT   [ 3 2 ] .   T h ese  ad ap tatio n s   aim   to   en h an ce   th e   o r ig in al  ViT   d esig n   b y   i n teg r atin g   m o r r ec e n tr ain in g   tec h n iq u es  with o u in tr o d u cin g   a d d itio n al  atten tio n - b ased   m o d u les.  ViT s   h av g ain ed   p o p u lar ity   d u to   th eir   s u cc ess   in   v ar io u s   v is io n   ta s k s ,   lead in g   to   th em er g en ce   o f   n o v el  ar ch itect u r es  lik co n v o lu tio n al  v is io n   tr an s f o r m e r s   ( C v T )   [ 3 3 ] .   C v T   co m b in es  th s tr en g th s   o f   co n v o lu tio n s   an d   T r an s f o r m e r s   to   en h an ce   p er f o r m an ce   a n d   ef f icien cy .   Ad d itio n ally ,   ViT   h as   b ee n   ex p lo r ed   in   d if f er en d o m ain s   b ey o n d   im ag class if icatio n ,   s u ch   as  d en s p r ed ictio n   task s   [ 3 4 ] .   Ov er all,   th ViT   ar ch itectu r e   s ig n if ies  p iv o tal  s h if i n   co m p u ter   v i s io n ,   s h o wca s in g   its   v er s atility   an d   ef f ec tiv e n ess   ac r o s s   wid r an g o f   ap p licatio n s .       T ab le  1 .   Descr ip tiv o f   th p lan t a n d   d is ea s es in clu d ed   in   th e   d ataset   P l a n t   D i sea s e s   A p p l e   B l a c k   r o t ,   r u st ,   s c a b ,   h e a l t h y   C a ssa v a   B a c t e r i a l   b l i g h t ,   b r o w n   st r e a k   d i s e a se ,   g r e e n   mo t t l e ,   h e a l t h y ,   m o s a i c   d i se a se   C h e r r y   H e a l t h y ,   p o w d e r y   mi l d e w   C h i l i   H e a l t h y ,   l e a f   c u r l ,   l e a f   sp o t ,   w h i t e f l y ,   y e l l o w i s h   C o r n   C o mm o n   r u st ,   g r a y   l e a f   s p o t ,   h e a l t h y ,   n o r t h e r n   l e a f   b l i g h t   C u c u m b e r   D i sea s e d ,   h e a l t h y   G r a p e   B l a c k   me a sl e s,  b l a c k   r o t ,   h e a l t h y ,   l e a f   b l i g h t   ( i s a r i o p s i l e a f   sp o t )   P o me g r a n a t e   D i sea s e d ,   h e a l t h y   P o t a t o   Ea r l y   b l i g h t ,   h e a l t h y ,   l a t e   b l i g h t   S o y b e a n   C a t e r p i l l a r ,   d i a b r o t i c a   s p e c i o sa ,   h e a l t h y   S t r a w b e r r y   H e a l t h y ,   l e a f   sc o r c h   S u g a r c a n e   B a c t e r i a l   b l i g h t ,   h e a l t h y ,   r e d   r o t ,   r e d   s t r i p e ,   r u st   To ma t o   B a c t e r i a l   sp o t ,   e a r l y   b l i g h t ,   h e a l t h y ,   l a t e   b l i g h t ,   l e a f   m o l d ,   m o s a i c   v i r u s ,   s e p t o r i a   l e a f   s p o t ,   sp i d e r   m i t e   ( t w o   s p o t t e d   s p i d e r   m i t e ) ,   t a r g e t   s p o t ,   y e l l o w   l e a f   c u r l   v i r u s   W h e a t   B r o w n   r u s t ,   h e a l t h y ,   se p t o r i a ,   y e l l o w   r u st       T h ViT   m o d el  is   tailo r ed   f o r   v is u al  task s   lik im ag class if icatio n ,   d iv er g es  f r o m   tr ad itio n al  C NNs   b y   d iv id in g   in p u im ag es  in to   f ix ed - s ize  p atch es,  ea ch   tr an s f o r m ed   in to   lo wer - d im en s i o n al  v ec to r   s p ac e.   T h ese  p atch   em b ed d in g s   th en   f ee d   in to   s tack   o f   T r an s f o r m er   en co d e r   lay er s .   W ith in   ea ch   en co d e r   lay er ,   two   m ain   s u b - m o d u les  o p er at e:  m u lti - h ea d   s elf - atten tio n   m ec h an is m   to   ca p t u r lo n g - r a n g d e p en d e n cies  an d   p o s itio n - wis f u lly   co n n ec ted   f ee d f o r war d   n eu r al  n etwo r k s   f o r   co n tex t - awa r r ep r esen tatio n s .   T o   ad d r ess   th e   lack   o f   in h er e n s e q u en ce   o r d er   t o   u n d e r s tan d   in   T r an s f o r m er s ,   p o s itio n al  e n c o d in g s   a r a d d ed   to   co n v ey   s p atial  in f o r m atio n .   F in ally ,   class if icatio n   h ea d ,   o f ten   a   lin ea r   lay er   with   So f t Ma x   ac tiv atio n ,   is   ap p en d e d   to   th o u tp u f o r   g en er atin g   class   p r ed ictio n s .   T h is   ar ch itectu r e' s   k ey   h y p er p ar am eter   is   th e   d im en s io n ality   o f   p atch   em b e d d in g s ,   cr u cial  f o r   b alan cin g   m o d el  ca p ac ity   a n d   c o m p u tati o n al  ef f icien c y .   W p r esen th p r o p o s ed   s y s tem   in   Fig u r 3 .   T h s y s tem   was  d ev elo p ed   u s in g   th d atab a s o f   p lan t   d is ea s im ag es.  T h e   d ataset  was  s y s tem atica lly   d iv id e d   in to   tr ain in g ,   v alid atio n ,   a n d   test   s u b s ets,  with   p r o p o r tio n s   o f   8 0 %,  1 0 %,  an d   1 0 %,  r esp ec tiv ely .   m o d el  was  th en   cr ea ted ,   tr ai n ed ,   a n d   v alid ated   u s in g   th tr ain in g   an d   v alid atio n   s u b s et s .   Fo llo win g   th is ,   th m o d el' s   p er f o r m an ce   was  r ig o r o u s ly   test ed   u s in g   th test   s u b s et.   T h u ltima te  g o al  o f   th is   wo r k   was  to   d ev elo p   m o d el  ca p ab le  o f   ac cu r atel y   p r ed ictin g   th class   o f   p lan t d is ea s es f r o m   im ag es,  th er eb y   p r o v i d in g   v alu ab le  to o l f o r   ag r icu ltu r al  d ia g n o s tics   an d   m an a g em en t.            Fig u r 3 .   Pro p o s ed   ViT   s y s tem   f o r   p lan t d is ea s d etec tio n     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8         P la n t d is ea s d etec tio n   u s in g   visi o n   tr a n s fo r mer s   ( Mh a n ed   A li )   2339   2 . 5 .     E v a lua t i o n m et rics   T h p r im a r y   e v alu atio n   m etr ic  o f   o u r   m o d el   is   th F1 - s co r e,   wh ich   is   th h ar m o n ic   m ea n   o f   p r ec is io n   an d   r ec all.   T h F1 - s co r is   ca lcu lated   as f o llo ws:     F1   s co r 2     (      ) (   +   )   [ 3 5 ]     Pre cisi o n     +    [ 3 6 ]     R ec all    +    [ 3 7 ]     T h ter m s   T P,  FP ,   a n d   FN  s ta n d   f o r tr u p o s itiv ( TP ) T h n u m b er   o f   c o r r ec p o s itiv p r ed ictio n s .   I r ef er s   to   in s tan ce s   wh er th m o d el  co r r ec tly   p r ed icts   th p o s itiv class .   Fals e   p o s itiv ( FP ) T h n u m b er   o f   in co r r ec p o s itiv p r ed ictio n s .   I r e f er s   to   in s tan ce s   wh er e   th m o d el  in c o r r ec tly   p r e d icts   th p o s itiv class ,   wh en   th ac tu al  class   is   n eg ati v e.   Fals n eg ativ ( FN ) T h n u m b er   o f   in co r r ec n eg ativ p r ed ictio n s .   I r ef e r s   to   in s tan ce s   wh er th m o d el  i n co r r ec tly   p r ed icts   th n e g ativ class ,   wh en   th ac tu al  class   is   p o s itiv e.       3.   RE SU L T S AN D I SCU SS I O N   T h ViT   m o d el  p r esen ted   in   T ab le  2   im p lem en ts   p io n ee r in g   ar ch itectu r f o r   im ag e - b ased   p lan t   d is ea s es  class if icatio n   task s ,   lev er ag in g   b o th   p atch - b ased   e n co d in g   an d   t r an s f o r m e r   la y e r s .   B eg in n in g   with   th Patch E n co d er   lay e r ,   in p u t   im ag es  ar p ar titi o n ed   in to   p atch es,  ty p ically   in   s ize  1 6 × 1 6   p ix els,  e x tr ac ted   u s in g   s lid in g   win d o ap p r o ac h .   E ac h   p atch   u n d er g o es  lin ea r   p r o jectio n   f o llo wed   b y   p o s itio n al   em b ed d in g s ,   em b e d d in g   s p a tial  in f o r m atio n   in to   th d a ta.   T h is   p r o ce s s   cr ea tes  s eq u en ce   o f   p atc h   em b ed d in g s .   T h m o d el  ar c h itectu r th en   i n teg r ates  m u ltip le   lay er s   o f   T r a n s f o r m e r E n co d e r ,   ea ch   co m p r is in g   m u lti - h ea d   s elf - atten tio n   m ec h an is m s   an d   p o s itio n - wis f ee d f o r war d   n etwo r k s .   T h ese  tr a n s f o r m er   la y er s   ar e   p iv o tal  in   ca p tu r in g   b o th   lo ca l   an d   g lo b al  d ep en d en cies  with in   th im ag e,   f ac ilit ated   b y   tech n iq u es  lik lay e r   n o r m aliza tio n   a n d   r esid u al  co n n ec tio n s .   Fu r th e r m o r e ,   th m o d el  in co r p o r ates  co n f ig u r a b le  p ar am eter s   s u ch   as  th n u m b er   o f   tr an s f o r m er   h ea d s ,   h id d en   s ize,   an d   t h n u m b er   o f   p atch es,   en ab lin g   f lex ib ilit y   an d   s ca lab ilit y .   Du r in g   tr ain in g ,   th m o d el' s   p ar am eter s   ar o p tim ized   u s in g   th e   Ad am   o p tim i ze r   with   lear n in g   r ate  o f   0 . 0 0 0 1 ,   e n s u r in g   e f f ici en t c o n v er g en ce .   T h en co d e d   f ea tu r es a r th en   f latten ed   an d   p r o ce s s ed   th r o u g h   s ev er al  d en s lay er s ,   en h a n cin g   th e   m o d el' s   ca p ac ity   f o r   le ar n in g   i n tr icate   p atter n s .   Fin ally ,   th o u tp u t   lay e r   em p lo y s   So f tMa x   ac tiv atio n   t o   p r o d u ce   p r e d ictio n s   f o r   p r ed ef in ed   n u m b er   o f   o u tp u class es,  en ab lin g   th e   m o d el  to   class if y   in p u im ag es  ac cu r ately .   T h r o u g h   m e ticu lo u s   tr ain in g   with   lab eled   im ag d ata  an d   p ar am eter   tu n in g ,   th ViT   m o d el  d em o n s tr ates  e x ce p tio n al  p er f o r m a n ce   i n   im a g c lass if icatio n   task s ,   s h o wca s in g   its   ad ap tab ilit y   an d   ef f icac y   ac r o s s   d iv er s v is u a l r ec o g n itio n   d o m ai n s .       T ab le  2 .   Vis io n   t r an s f o r m er   m o d el  s u m m ar y   La y e r   ( t y p e )   O u t p u t   S h a p e   P a r a #   I n p u t   ( N o n e ,   2 5 6 ,   2 5 6 ,   3 )   0   P a t c h E n c o d e r   ( N o n e ,   2 5 6 ,   5 1 2 )   5 2 4 , 8 0 0   Tr a n sf o r merE n c o d e r   ( N o n e ,   2 5 6 ,   5 1 2 )   8 , 6 6 5 , 0 8 8   Tr a n sf o r merE n c o d e r   ( N o n e ,   2 5 6 ,   5 1 2 )   8 , 6 6 5 , 0 8 8   Tr a n sf o r merE n c o d e r   ( N o n e ,   2 5 6 ,   5 1 2 )   8 , 6 6 5 , 0 8 8   Tr a n sf o r merE n c o d e r   ( N o n e ,   2 5 6 ,   5 1 2 )   8 , 6 6 5 , 0 8 8   D e n se   ( N o n e ,   2 5 6 ,   2 5 6 )   3 3 , 5 5 4 , 6 8 8   D e n se   ( N o n e ,   2 5 6 ,   2 0 4 8 )   5 2 6 , 3 3 6   D e n se   ( N o n e ,   2 5 6 ,   1 0 2 4 )   2 , 0 9 8 , 1 7 6   D e n se   ( N o n e ,   2 5 6 ,   5 1 2 )   5 2 4 , 8 0 0   D e n se   ( N o n e ,   2 5 6 ,   1 2 8 )   1 3 1 , 3 2 8   D e n se   ( N o n e ,   2 5 6 ,   6 4 )   3 2 , 8 9 6   D e n se   ( N o n e ,   2 5 6 ,   3 2 )   8 , 2 5 6   D e n se   ( N o n e ,   2 5 6 ,   5 5 )   2 , 0 8 0   O u t p u t   ( N o n e ,   5 5 )   1 , 8 1 5       T h m o d el  p r esen ted   is   ViT   ar ch itectu r d esig n ed   f o r   im ag class if icatio n   task s .   I c o n s is ts   o f   a   Patch E n co d er   m o d u le  th at  ex tr ac ts   im ag p atch es  an d   en co d es  th em   u s in g   lin ea r   p r o jec tio n s   an d   p o s itio n al   em b ed d in g .   T h ese  p atch es  ar e   th en   s eq u e n tially   p r o ce s s ed   b y   T r a n s f o r m er E n co d er   m o d u le,   wh ich   a p p lies   m u lti - h ea d   s elf - atten tio n   a n d   f ee d f o r war d   n eu r al   n etwo r k s .   T h e   ar ch itectu r e   is   en ca p s u lated   with in   th ViT   m o d el,   wh ich   in clu d es  ad d itio n al  d en s lay e r s   b ef o r th f in al  So f tMa x   o u tp u t.  H y p er p ar am eter s   in clu d e   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   15 ,   No .   2 Ap r il   20 25 :   2 3 3 4 - 2 3 4 4   2340   eig h h ea d s ,   h id d en   s ize  o f   5 1 2 ,   2 5 6   p atch es,  f o u r   tr a n s f o r m er   lay e r s ,   an d   2 5 6   d en s u n its .   T r ain ed   with   Ad am   o p tim izer   ( lear n i n g   r at o f   0 . 0 0 0 1 )   a n d   s p ar s ca teg o r ical  cr o s s   en tr o p y   lo s s ,   th m o d el  u n d e r g o es     2 0   ep o ch s   with   b atch   s ize   o f   3 2 ,   ac h iev in g   ac cu r ac y   e v alu atio n   o n   test   d ata.   T h is   m o d el  ar c h itectu r d em o n s tr ates  th ef f ec tiv e n ess   o f   tr an s f o r m e r - b ased   a p p r o ac h es  in   im ag class if icatio n   task s .   T h tr ain in g   p r o ce s s   o f   th m o d el  ex h ib ited   co n s is ten im p r o v em en t   in   ac cu r ac y ,   Fig u r 4   s h o w s   th at  th tr ain in g   p r o ce s s   ex h ib ited   co n s is ten im p r o v em en in   ac cu r ac y   o v er   2 0   ep o c h s ,   with   ac cu r ac y   s tead ily   r is in g   f r o m   ap p r o x im ately   2 4 to   n ea r l y   9 4 . 5 %.   I n   co n tr ast,   th v alid at io n   ac cu r ac y   g en e r ally   lag g ed   b eh in d   t h tr ain i n g   ac cu r ac y ,   with   v alu es  r an g in g   f r o m   ap p r o x im ately   4 4 . 7 to   9 1 . 6 %.  Fig u r 5   illu s tr ates  th at  th tr ain in g   lo s s   d ec r ea s ed   s tead ily   f r o m   o v e r   3 . 2   to   ar o u n d   0 . 1 3 ,   in d ic atin g   p r o g r ess iv r ef in em e n in   th m o d el’ s   p er f o r m an ce .   Similar ly ,   t h v alid atio n   lo s s   f o llo wed   d ec r ea s in g   tr en d ,   d ec r ea s in g   f r o m   o v er   1 . 7 8   t o   ar o u n d   0 . 3 2 ,   in d icatin g   th at  th m o d e l’ s   g en er aliza tio n   to   u n s ee n   d ata  im p r o v ed   o v er   th tr ain in g   ep o ch s .   R esu lts   o f   T r ain in g   ac c u r ac y   an d   l o s s ,   v alid atio n   ac cu r ac y   a n d   lo s s ,   an d   test   ac cu r ac y   an d   test   ar s u m m ar ized   in   T ab le  3 .             Fig u r 4 .   T r ain in g   a n d   v alid atio n   ac cu r ac y     Fig u r 5 .   T r ain in g   a n d   v alid atio n   lo s s       T ab le  3 .   T r ai n in g   ac c u r ac y   a n d   lo s s ,   v alid atio n   ac cu r ac y   an d   lo s s ,   an d   test   ac cu r ac y   an d   test     Tr a i n i n g   V a l i d a t i o n   Te st   A c c u r a c y   9 4 . 5 %   9 1 . 6 %   8 9 . 3 %   Lo ss   0 . 1 3   0 . 3 2   0 . 2 8       T a b l e   4   p r e s e n t s   t h e   m o d e l   ev a l u a t i o n   m e tr i c s   i n c lu d in g   p r e c i s i o n ,   r e c a l l,   a n d   F1 - s c o r e   f o r   v a r i o u s   c l a s s e s   o f   p l a n d i s e a s e s   ac r o s s   d i f f e r en c r o p s .   E a c h   c l a s s   r e p r e s e n t s   s p e c if i d i s e a s o r   h ea l t h   co n d i t i o n ,   a l o n g   w i th   i t s   co r r e s p o n d in g   ev a l u a t io n   m e tr i c s   an d   s u p p o r t   co u n t .   T h e   t ab l e   co n cl u d e s   w i th   o v er a l a c c u r a c y   m e t r i c s   f o r   th e   m o d e l ,   a l o n g   w i t h   m a c r o   a n d   w e ig h t ed   a v er a g e s   a c r o s s   a l l   c l a s s e s .   T h e   V i T   p l an d i s e a s e   d e te c t i o n   m o d e l   d e m o n s t r a te s   a   s t r o n g   o v er a l l   p e r f o r m an c w i t h   a n   a c c u r a cy   o f   9 0 % ,   s u p p o r t e d   b y   m a c r o   an d   w e ig h te d   a v er a g m e t r i c s   ar o u n d   9 0 %   f o r   p r e c is i o n ,   r e c a l l,   an d   F1 - s c o r e ,   i n d i c a t i n g   co n s i s t e n e f f e c t iv en e s s   a c r o s s   v a r io u s   p l an t   c la s s e s   a n d   co n d i t i o n s .   F o r   s p e c i f ic   c l a s s e s ,   t h e   m o d e e x c e l s   in   d e t e c t in g   ap p l d i s e a s e s   s u ch   a s   b l a c k   r o t,   r u s t ,   a n d   s c ab ,   w i t h   F 1 - s co r e s   r a n g i n g   f r o m   0 . 8 8   t o   0 . 9 3 ,   a n d   i d e n t if i e s   h e a l th y   a p p l e   co n d it i o n s   w i t h   a   0 . 9 0   F1 - s co r e.   I n   c a s s a v a,   i t   s h o w s   p e r f e c t   d e t e c t i o n   f o r   m o s a i c   d i s e a s e   a n d   h i g h   p r e c i s i o n   f o r   b a c t er i a l   b l ig h t   an d   b r o w n   s t r e a k   d i s ea s e ,   t h o u g h   i t   s t r u g g l e s   s l i g h t l y   w i t h   g r e en   m o t t l e,   wh i ch   h a s   lo w e r   r e c a l ( 0 . 7 9 )   an d   an   F1 - s c o r o f   0 . 8 8 .   Fo r   c h er r y ,   t h m o d e l   ac h i ev e s   h i g h   F1 - s c o r e s   f o r   b o t h   h e a l t h y   ( 0 . 9 1 )   a n d   p o w d er y   m i ld e w   ( 0 . 9 2 )   co n d i t i o n s .   C h i l i   d i s e a s e s   a r e   w e l l - d e t e c t ed ,   p a r t i cu l a r ly   l e af   cu r l   an d   h e a lt h y   co n d i t i o n s ,   w i th   F 1 - s co r es   o f   0 . 9 0 - 0 . 9 2 ,   a l t h o u g h   wh i te f l y   d e t e c t io n   h a s   a   l o w e r   p r e c i s i o n   ( 0 . 7 6 )   b u a   h i g h   r e c a l ( 0 . 9 4 ) ,   r e s u l t in g   in   an   F 1 - s co r o f   0 . 8 4 .   C o r n   d i s e a s d e t e c t i o n   v a r i e s ,   w i th   c o m m o n   r u s h av i n g   th l o w e s F 1 - s c o r e   ( 0 . 8 1 )   d u to   lo w er   p r ec i s i o n ,   w h i l e   g r a y   l e af   s p o a n d   n o r th e r n   l e af   b l i g h s h o v e r y   h i g h   F 1 - s co r e s   o f   0 . 9 0   a n d   0 . 9 6 ,   r e s p e c t iv e l y .   T h m o d e a l s o   p e r f o r m s   w e l l   f o r   c u cu m b e r ,   g r a p e,   a n d   p o m eg r an a t e   d i s ea s e s ,   a c h ie v i n g   p er f ec t   o r   n e ar - p e r f e c s c o r e s   f o r   s e v e r a l   c o n d i t i o n s .   I n   p o t a t o ,   e ar l y   b l i g h t   i s   d e t e c te d   w i th   a   lo w e r   r e c a l l   ( 0 . 7 7 )   b u t   m a in t a i n s   a   r e a s o n ab l e   F1 - s c o r e   ( 0 . 8 5 ) .   T h e s e   r e s u lt s   h i g h l i g h t   th m o d e l 's   r o b u s t n e s s   an d   e f f e c t i v e n e s s   in   i d en t i f y i n g   w i d e   r a n g e   o f   p l an t   d i s e a s e s .     Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8         P la n t d is ea s d etec tio n   u s in g   visi o n   tr a n s fo r mer s   ( Mh a n ed   A li )   2341   T ab le  4 .   Mo d el  ev alu atio n   m e tr ics ( Pre cisi o n ,   R ec all,   F1 - Sc o r e)     C l a s s   P r e c i s i o n   R e c a l l   F1 - S c o r e   S u p p o r t   A p p l e   B l a c k   r o t   0 . 8 3   0 . 9 4   0 . 8 8   2 0 0   R u s t   0 . 9 3   0 . 9 3   0 . 9 3   2 0 0   S c a b   0 . 9 0   0 . 8 6   0 . 8 8   2 0 0   H e a l t h y   0 . 8 6   0 . 9 5   0 . 9 0   2 0 0   C a ssa v a   B a c t e r i a l   b l i g h t   0 . 9 6   0 . 9 2   0 . 9 4   2 0 0   B r o w n   st r e a k   d i s e a se   0 . 9 0   0 . 9 5   0 . 9 3   2 0 0   G r e e n   mo t t l e   1 . 0 0   0 . 7 9   0 . 8 8   2 0 0   H e a l t h y   0 . 9 0   0 . 8 6   0 . 8 8   2 0 0   M o s a i c   d i s e a s e   1 . 0 0   1 . 0 0   1 . 0 0   2 0 0   C h e r r y   H e a l t h y   0 . 9 5   0 . 8 7   0 . 9 1   2 0 0   P o w d e r y   m i l d e w   0 . 8 9   0 . 9 4   0 . 9 2   2 0 0   C h i l i   H e a l t h y   0 . 8 1   1 . 0 0   0 . 9 0   2 0 0   Le a f   c u r l   0 . 8 6   1 . 0 0   0 . 9 2   2 0 0   Le a f   s p o t   0 . 9 2   0 . 9 6   0 . 9 4   2 0 0   W h i t e f l y   0 . 7 6   0 . 9 4   0 . 8 4   2 0 0   Y e l l o w i s h   0 . 9 1   0 . 9 5   0 . 9 3   2 0 0   C o r n   C o mm o n   r u st   0 . 7 3   0 . 9 2   0 . 8 1   2 0 0   G r a y   l e a f   sp o t   0 . 8 3   1 . 0 0   0 . 9 0   2 0 0   H e a l t h y   0 . 9 3   0 . 8 8   0 . 9 0   2 0 0   N o r t h e r n   l e a f   b l i g h t   0 . 9 6   0 . 9 6   0 . 9 6   2 0 0   C u c u m b e r   D i sea s e d   0 . 8 3   0 . 9 0   0 . 8 6   2 0 0   H e a l t h y   0 . 9 4   0 . 8 9   0 . 9 2   2 0 0   G r a p e   B l a c k   me a sl e s   0 . 8 6   0 . 9 2   0 . 8 9   2 0 0   B l a c k   r o t   0 . 9 0   1 . 0 0   0 . 9 5   2 0 0   H e a l t h y   1 . 0 0   0 . 9 3   0 . 9 7   2 0 0   Le a f   b l i g h t   ( i s a r i o p s i l e a f   sp o t )   0 . 9 3   0 . 9 3   0 . 9 3   2 0 0   P o me g r a n a t e   D i sea s e d   1 . 0 0   0 . 8 8   0 . 9 3   2 0 0   H e a l t h y   0 . 9 6   0 . 9 2   0 . 9 4   2 0 0   P o t a t o   Ea r l y   b l i g h t   0 . 9 4   0 . 7 7   0 . 8 5   2 0 0   H e a l t h y   0 . 9 4   0 . 8 9   0 . 9 1   2 0 0   La t e   b l i g h t   0 . 8 9   0 . 8 9   0 . 8 9   2 0 0   S o y b e a n   C a t e r p i l l a r   0 . 8 9   0 . 9 4   0 . 9 1   2 0 0     D i a b r o t i c a   s p e c i o sa   0 . 9 5   0 . 8 3   0 . 8 9   2 0 0     H e a l t h y   0 . 9 4   0 . 8 8   0 . 9 1   2 0 0   S t r a w b e r r y     H e a l t h y   0 . 9 2   0 . 8 5   0 . 8 8   2 0 0     Le a f   sc o r c h   0 . 8 1   0 . 9 4   0 . 8 7   2 0 0   S u g a r c a n e     B a c t e r i a l   b l i g h t   0 . 8 9   0 . 8 9   0 . 8 9   2 0 0     H e a l t h y   1 . 0 0   1 . 0 0   1 . 0 0   2 0 0     R e d   r o t   0 . 8 6   0 . 8 6   0 . 8 6   2 0 0     R e d   s t r i p e   0 . 8 6   0 . 9 2   0 . 8 9   2 0 0     R u st   1 . 0 0   0 . 8 8   0 . 9 3   2 0 0   To ma t o     B a c t e r i a l   s p o t   0 . 9 5   0 . 9 0   0 . 9 2   2 0 0     Ea r l y   b l i g h t   0 . 9 2   0 . 9 2   0 . 9 2   2 0 0     H e a l t h y   0 . 8 8   0 . 8 2   0 . 8 5   2 0 0     La t e   b l i g h t   0 . 8 5   0 . 9 6   0 . 9 0   2 0 0     Le a f   mo l d   0 . 9 2   0 . 8 6   0 . 8 9   2 0 0     M o sa i c   v i r u s   0 . 8 5   1 . 0 0   0 . 9 2   2 0 0     S e p t o r i a   l e a f   s p o t   0 . 9 4   0 . 8 3   0 . 8 8   2 0 0     S p i d e r   mi t e s ( t w o   sp o t t e d   s p i d e r   mi t e )   0 . 8 6   0 . 8 6   0 . 8 6   2 0 0     Ta r g e t   sp o t   1 . 0 0   0 . 8 7   0 . 9 3   2 0 0     Y e l l o w   l e a f   c u r l   v i r u   1 . 0 0   0 . 9 4   0 . 9 7   2 0 0   W h e a t     B r o w n   r u st   0 . 9 4   0 . 8 9   0 . 9 2   2 0 0     H e a l t h y   0 . 9 5   0 . 9 5   0 . 9 5   2 0 0     S e p t o r i a   0 . 6 7   0 . 7 1   0 . 6 9   2 0 0     Y e l l o w   r u st   0 . 8 1   0 . 7 6   0 . 7 9   2 0 0   A c c u r a c y   0 . 9 0   0 . 9 0   0 . 9 0   1 1 0 0 0   ma c r o   a v g   0 . 9 0   0 . 9 1   0 . 9 0   1 1 0 0 0   w e i g h t e d   a v g   0 . 9 1   0 . 9 0   0 . 9 0   1 1 0 0 0       4.   CO NCLU SI O N   Plan d is ea s e s   co n tin u to   p o s s ig n if ican ch allen g es  to   g lo b al  ag r icu ltu r e,   th r ea ten i n g   f o o d   s ec u r ity   an d   ec o n o m ic  s tab ilit y .   T r ad i tio n al  m eth o d s   f o r   d is ea s d etec tio n   ar o f ten   la b o r - i n ten s iv e,   s u b jectiv e,   an d   lim ited   in   s ca lab ilit y ,   p r o m p tin g   th e   n ee d   f o r   m o r e   ef f i cien an d   ac cu r ate  ap p r o ac h es.  T h is   p ap e r   h as  r ev iewe d   th g r o win g   in ter est   in   ViT s   f o r   au to m ated   p lan d is ea s d etec tio n ,   s h o wca s in g   th eir   p o ten tial  to   r ev o lu tio n ize   ag r icu ltu r al  p r a ctice s .   T h r o u g h   a   co m p r eh en s iv m eth o d o l o g y   an d   ex p e r i m en tal  ev alu atio n ,   ViT s   h av d em o n s tr ated   ex c ep tio n al  p er f o r m a n ce   in   class if y in g   d iv e r s p lan d is ea s es  ac r o s s   m u ltip le   d atasets .   T h ese  r esu lts   u n d er s co r th ef f ec tiv en ess   o f   ViT s   in   ca p tu r in g   co m p le x   p atter n s   in   p lan im ag es,   en ab lin g   ac cu r ate  an d   tim ely   d is ea s id en tific atio n .   T h d at aset  p r ep r o ce s s in g   h as  s h o wn   s ig n if ican r o le  in   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 0 8 8 - 8 7 0 8   I n t J E lec  &   C o m p   E n g ,   Vo l.   15 ,   No .   2 Ap r il   20 25 :   2 3 3 4 - 2 3 4 4   2342   m o d el  ac cu r ac y   as  th class es  wer b alan ce d   to   im p r o v e   th m o d el.   T h ad o p tio n   o f   ViT s   in   p r ec is io n   ag r icu ltu r h o ld s   p r o m is f o r   en h an cin g   cr o p   p r o d u ctiv ity ,   m in im izin g   lo s s es,  an d   p r o m o tin g   s u s tain ab le   f ar m in g   p r ac tices.  Fu tu r r e s ea r ch   d ir ec tio n s   m ay   f o cu s   o n   o p tim izin g   ViT   ar ch ite ctu r es,  im p r o v i n g   in ter p r etab ilit y ,   an d   ex p lo r in g   r ea l - wo r ld   d ep lo y m en s ce n a r io s   to   f ac ilit ate  th wid esp r ea d   ad o p tio n   o f   th ese  tech n o lo g ies  i n   a g r icu ltu r al   s y s tem s .   Ov er all,   ViT s   r e p r ese n s ig n if ican a d v an ce m e n in   co m p u ter   v is io n   f o r   ag r icu ltu r e,   o f f er in g   tr an s f o r m ativ s o lu tio n s   to   m itig ate   th im p ac o f   p lan d is ea s es  an d   p r o m o te   g lo b al   f o o d   s ec u r ity .       ACK NO WL E DG E M E NT   T h is   wo r k   was  h eld   in   th e   f r am ewo r k   o f   th e   Mix ed   M o r o cc o - T u n is ia  L ab o r ato r y   L ab o r ato ir e   Mo r o cc o - T u n is ia:  E n v ir o n n e m en et  d év elo p p em e n Du r ab le  ( E 2 D) .   I was  s u p p o r t ed   b y   Min is tr y   o f   Natio n al  E d u ca tio n ,   Vo c atio n al  T r ain in g ,   Hig h e r   E d u ca tio n   an d   Scien tific   R esear ch ,   Dep ar tm en o f   Hig h e r   E d u ca tio n   a n d   Scien tific   R esear ch ,   in   Mo r o cc o ,   an d   b y   Min is tr y   o f   Hig h   E d u ca tio n   a n d   S cien tific   R esear ch   in   T u n is ia.       RE F E R E NC E S   [ 1 ]   R .   M .   N a d e e m,  A .   Jaff a r ,   a n d   R .   M .   S a l e e m,   I o a n d   m a c h i n e   l e a r n i n g   b a s e d   s t e m b o r e r   p e st   p r e d i c t i o n ,   I n t e l l i g e n t   A u t o m a t i o n   a n d   S o f t   C o m p u t i n g ,   v o l .   3 1 ,   n o .   3 ,   p p .   1 3 7 7 1 3 9 2 ,   2 0 2 2 ,   d o i :   1 0 . 3 2 6 0 4 / I A S C . 2 0 2 2 . 0 2 0 6 8 0 .   [ 2 ]   S .   S u d h e e r ,   R .   G .   B a i ,   Z .   U sma n i ,   a n d   M .   S h a r m a ,   I n si g h t o n   e n g i n e e r e d   mi c r o b e i n   s u st a i n a b l e   a g r i c u l t u r e :   b i o t e c h n o l o g i c a l   d e v e l o p me n t a n d   f u t u r e   p r o s p e c t s,   C u rre n t   G e n o m i c s ,   v o l .   2 1 ,   n o .   5 ,   p p .   3 2 1 3 3 3 ,   2 0 2 0 ,   d o i :   1 0 . 2 1 7 4 / 1 3 8 9 2 0 2 9 2 1 9 9 9 2 0 0 6 0 3 1 6 5 9 3 4 .   [ 3 ]   A .   N a d h i y a ,   Ev o l u t i o n   o f   m a n a g e m e n t   c o n s u l t i n g   a n d   i t s i g i n i f i c a n c e   i n   t h e   s u st a i n a b l e   d e v e l o p me n t   o f   a g r a r i a n   e n t e r p e r i ses ,   I n t e r C o n f ,   n o .   3 0 ( 1 4 3 ) ,   p p .   3 2 4 0 ,   2 0 2 3 ,   d o i :   1 0 . 5 1 5 8 2 / i n t e r c o n f . 1 9 - 2 0 . 0 2 . 2 0 2 3 . 0 0 5 .   [ 4 ]   R .   M .   J.   A l - A k k a a n d   M .   S .   M .   A l t a e i ,   P l a n t l e a f   d i se a ses   d e t e c t i o n   u s i n g   d e e p   l e a r n i n g ,   I r a q i   J o u r n a l   o f   S c i e n c e ,   v o l .   6 3 ,   n o .   2 ,   p p .   8 0 1 8 1 6 ,   2 0 2 2 .   [ 5 ]   P .   S r i v a s t a v a ,   K .   M i s h r a ,   V .   A w a s t h i ,   V .   K .   S a h u ,   a n d   P .   K .   P a l ,   P l a n t   d i sea s e   d e t e c t i o n   u si n g   c o n v o l u t i o n a l   n e u r a l   n e t w o r k ,   I n t e r n a t i o n a l   J o u r n a l   Fo r   M u l t i d i s c i p l i n a r y   R e se a rc h ,   v o l .   6 ,   n o .   3 ,   2 0 2 4 ,   d o i :   1 0 . 3 6 9 4 8 / i j f mr . 2 0 2 4 . v 0 6 i 0 3 . 1 9 5 3 6 .   [ 6 ]   C .   U s h a   K u mari ,   N .   A r u n   V i g n e s h ,   A .   K .   P a n i g r a h y ,   L.   R a my a ,   a n d   T .   P a d m a ,   F u n g a l   d i sea s e   i n   c o t t o n   l e a f   d e t e c t i o n   a n d   c l a ss i f i c a t i o n   u si n g   n e u r a l   n e t w o r k s   a n d   s u p p o r t   v e c t o r   mac h i n e ,   I n t e r n a t i o n a l   J o u rn a l   o f   I n n o v a t i v e   T e c h n o l o g y   a n d   Ex p l o r i n g   En g i n e e ri n g ,   v o l .   8 ,   n o .   1 0 ,   p p .   3 6 6 4 3 6 6 7 ,   2 0 1 9 ,   d o i :   1 0 . 3 5 9 4 0 / i j i t e e . J9 6 4 8 . 0 8 8 1 0 1 9 .   [ 7 ]   R .   B a l o d i ,   S .   B i s h t ,   A .   G h a t a k ,   a n d   K .   H .   R a o ,   P l a n t   d i se a se   d i a g n o s i s:   t e c h n o l o g i c a l   a d v a n c e m e n t a n d   c h a l l e n g e s,   I n d i a n   Ph y t o p a t h o l o g y ,   v o l .   7 0 ,   n o .   3 ,   p p .   2 7 5 2 8 1 ,   2 0 1 7 ,   d o i :   1 0 . 2 4 8 3 8 / i p . 2 0 1 7 . v 7 0 . i 3 . 7 2 4 8 7 .   [ 8 ]   A .   J.  M a st i n ,   F .   V a n   D e n   B o sc h ,   F .   V a n   D e n   B e r g ,   a n d   S .   R .   P a r n e l l ,   Q u a n t i f y i n g   t h e   h i d d e n   c o st s   o f   i m p e r f e c t   d e t e c t i o n   f o r   e a r l y   d e t e c t i o n   su r v e i l l a n c e ,   Ph i l o s o p h i c a l   T r a n s a c t i o n o f   t h e   Ro y a l   S o c i e t y   B:   B i o l o g i c a l   S c i e n c e s ,   v o l .   3 7 4 ,   n o .   1 7 7 6 ,   2 0 1 9 ,   d o i :   1 0 . 1 0 9 8 / r s t b . 2 0 1 8 . 0 2 6 1 .   [ 9 ]   D .   M i g l i o r i n i ,   L .   G h e l a r d i n i ,   E .   To n d i n i ,   N .   Lu c h i ,   a n d   A .   S a n t i n i ,   Th e   p o t e n t i a l   o f   sy mp t o ml e ss  p o t t e d   p l a n t f o r   c a r r y i n g   i n v a si v e   s o i l b o r n e   p l a n t   p a t h o g e n s,   D i v e rs i t y   a n d   D i st ri b u t i o n s ,   v o l .   2 1 ,   n o .   1 0 ,   p p .   1 2 1 8 1 2 2 9 ,   2 0 1 5 ,   d o i :   1 0 . 1 1 1 1 / d d i . 1 2 3 4 7 .   [ 1 0 ]   C .   T e m p l e ,   A .   G .   B l o u i n ,   S .   Ti n d a l e ,   S .   S t e y e r ,   K .   M a r e c h a l ,   a n d   S .   M a ss a r t ,   H i g h   t h r o u g h p u t   s e q u e n c i n g   t e c h n o l o g i e s   c o m p l e me n t e d   b y   g r o w e r p e r c e p t i o n   h i g h l i g h t   t h e   i mp a c t   o f   t o ma t o   v i r o me  i n   d i v e r si f i e d   v e g e t a b l e   f a r ms ,   Fr o n t i e rs   i n   S u s t a i n a b l e   F o o d   S y st e m s ,   2 0 2 3 ,   d o i :   1 0 . 1 1 0 1 / 2 0 2 3 . 0 1 . 1 2 . 5 2 3 7 5 8 .   [ 1 1 ]   S .   P a d h e e   a n d   D .   N a n d a n ,   D e si g n   o f   a u t o m a t e d   v i s u a l   i n s p e c t i o n   s y st e f o r   b e v e r a g e   i n d u st r y   p r o d u c t i o n   l i n e ,   T r a i t e m e n t   d u   S i g n a l ,   v o l .   3 8 ,   n o .   2 ,   p p .   4 6 1 4 6 6 ,   2 0 2 1 ,   d o i :   1 0 . 1 8 2 8 0 / t s. 3 8 0 2 2 5 .   [ 1 2 ]   A .   M h a n e d ,   M .   S a l m a ,   E.   H .   M o u n i a ,   a n d   B .   J a ma l ,   C o n t r i b u t i o n   t o   s mar t   i r r i g a t i o n   b a s e d   o n   i n t e r n e t   o f   t h i n g a n d   a r t i f i c i a l   i n t e l l i g e n c e ,   L e c t u re   N o t e i n   N e t w o r k a n d   S y s t e m s ,   v o l .   6 2 5   L N N S ,   p p .   5 3 7 5 4 9 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 031 - 2 8 3 8 7 - 1 _ 4 5 .   [ 1 3 ]   A .   M h a n e d ,   S .   M o u a t a ssi m,   M .   El   H a j i ,   a n d   J.   B e n h r a ,   L o w - c o st   smar t   i r r i g a t i o n   s y st e m   b a se d   o n   i n t e r n e t   o f   t h i n g s   a n d   f u z z y   l o g i c ,   C o m m u n i c a t i o n i n   C o m p u t e r a n d   I n f o rm a t i o n   S c i e n c e ,   v o l .   1 6 7 7   C C I S ,   p p .   7 8 8 9 ,   2 0 2 2 ,   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 031 - 2 0 4 9 0 - 6 _ 7 .   [ 1 4 ]   S .   F o u g u i r a ,   A .   M h a n e d ,   M .   B e n   A b b o u ,   E .   A m m a r ,   M .   E l   H a j i ,   a n d   J .   B e n h r a ,   E f f e c t i v e n e s s   o f   c o m p o s t   u s e   i n   s a l t - a f f e c t e d   s o i l   i n   a n   a u t o m a t e d   g r e e n h o u s e   i r r i g a t i o n   s y s t e m ,   E 3 S   W e b   o f   C o n f e r e n c e s ,   v o l .   3 6 4 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 5 1 / e 3 s c o n f / 2 0 2 3 3 6 4 0 3 0 0 2 .   [ 1 5 ]   R .   S h a r ma   e t   a l . P l a n t   d i se a se  d i a g n o s i a n d   i ma g e   c l a ssi f i c a t i o n   u si n g   d e e p   l e a r n i n g ,   C o m p u t e rs ,   M a t e ri a l a n d   C o n t i n u a   v o l .   7 1 ,   n o .   2 ,   p p .   2 1 2 5 2 1 4 0 ,   2 0 2 2 ,   d o i :   1 0 . 3 2 6 0 4 / c mc . 2 0 2 2 . 0 2 0 0 1 7 .   [ 1 6 ]   H .   T.   R a u f ,   B .   A .   S a l e e m,  M .   I .   U .   La l i ,   M .   A .   K h a n ,   M .   S h a r i f ,   a n d   S .   A .   C .   B u k h a r i ,   A   c i t r u f r u i t s   a n d   l e a v e d a t a s e t   f o r   d e t e c t i o n   a n d   c l a ss i f i c a t i o n   o f   c i t r u s   d i se a ses  t h r o u g h   m a c h i n e   l e a r n i n g ,   D a t a   i n   Bri e f ,   v o l .   2 6 ,   2 0 1 9 ,   d o i :   1 0 . 1 0 1 6 / j . d i b . 2 0 1 9 . 1 0 4 3 4 0 .   [ 1 7 ]   M .   E.   H .   C h o w d h u r y   e t   a l . A u t o m a t i c   a n d   r e l i a b l e   l e a f   d i sea s e   d e t e c t i o n   u s i n g   d e e p   l e a r n i n g   t e c h n i q u e s,   Ag ri En g i n e e r i n g   v o l .   3 ,   n o .   2 ,   p p .   2 9 4 3 1 2 ,   2 0 2 1 ,   d o i :   1 0 . 3 3 9 0 / a g r i e n g i n e e r i n g 3 0 2 0 0 2 0 .   [ 1 8 ]   Y .   Ti a n ,   G .   Y a n g ,   Z .   W a n g ,   E.   Li ,   a n d   Z .   L i a n g ,   D e t e c t i o n   o f   a p p l e   l e si o n i n   o r c h a r d s   b a se d   o n   d e e p   l e a r n i n g   me t h o d o f   c y c l e g a n   a n d   Y o l o V 3 - d e n s e ,   J o u rn a l   o f   S e n s o rs ,   v o l .   2 0 1 9 ,   2 0 1 9 ,   d o i :   1 0 . 1 1 5 5 / 2 0 1 9 / 7 6 3 0 9 2 6 .   [ 1 9 ]   K .   J.   A y i k p a ,   D .   M a m a d o u ,   P .   G o u t o n ,   a n d   K .   J .   A d o u ,   E x p e r i m e n t a l   e v a l u a t i o n   o f   c o f f e e   l e a f   d i s e a s e   c l a ssi f i c a t i o n   a n d   r e c o g n i t i o n   b a se d   o n   mac h i n e   l e a r n i n g   a n d   d e e p   l e a r n i n g   a l g o r i t h ms,   J o u rn a l   o f   C o m p u t e S c i e n c e ,   v o l .   1 8 ,   n o .   1 2 ,     p p .   1 2 0 1 1 2 1 2 ,   2 0 2 2 ,   d o i :   1 0 . 3 8 4 4 / j c ssp . 2 0 2 2 . 1 2 0 1 . 1 2 1 2 .   [ 2 0 ]   T.   L i ,   F .   Zh a n g ,   G .   X i e ,   X .   F a n ,   Y .   G a o ,   a n d   M .   S u n ,   A   h i g h   sp e e d   r e c o n f i g u r a b l e   a r c h i t e c t u r e   f o r   so f t ma x   a n d   G ELU   i n   v i si o n   t r a n sf o r mer,   E l e c t r o n i c s   L e t t e rs ,   v o l .   5 9 ,   n o .   5 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 4 9 / e l l 2 . 1 2 7 5 1 .   [ 2 1 ]   M .   N a s e e r ,   K .   R a n a s i n g h e ,   S .   K h a n ,   M .   H a y a t ,   F .   S .   K h a n ,   a n d   M .   H .   Y a n g ,   I n t r i g u i n g   p r o p e r t i e s   o f   v i s i o n   t r a n sf o r m e r s,   Evaluation Warning : The document was created with Spire.PDF for Python.
I n t J E lec  &   C o m p   E n g     I SS N:   2088 - 8 7 0 8         P la n t d is ea s d etec tio n   u s in g   visi o n   tr a n s fo r mer s   ( Mh a n ed   A li )   2343   Ad v a n c e s i n   N e u r a l   I n f o rm a t i o n   Pro c e ssi n g   S y st e m s ,   v o l .   2 8 ,   p p .   2 3 2 9 6 2 3 3 0 8 ,   2 0 2 1 .   [ 2 2 ]   A .   D o s o v i t sk i y   e t   a l . A n   i m a g e   i s   w o r t h   1 6 X 1 6   w o r d s :   t r a n sf o r m e r f o r   i m a g e   r e c o g n i t i o n   a t   s c a l e ,   a rX i v   p r e p r i n t   a rXi v : 2 0 1 0 . 1 1 9 2 9 ,   2 0 2 1 .   [ 2 3 ]   S .   Jam i l ,   M .   J a l i l   P i r a n ,   a n d   O .   J.  K w o n ,   A   c o mp r e h e n s i v e   s u r v e y   o f   t r a n sf o r mers   f o r   c o m p u t e r   v i si o n ,   D r o n e s ,   v o l .   7 ,   n o .   5 ,   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / d r o n e s 7 0 5 0 2 8 7 .   [ 2 4 ]   U .   B a r m a n   e t   a l . V i T - S mar t A g r i :   v i s i o n   t r a n sf o r m e r   a n d   smar t p h o n e - b a s e d   p l a n t   d i se a se  d e t e c t i o n   f o r   s mart  a g r i c u l t u r e ,   Ag r o n o m y ,   v o l .   1 4 ,   n o .   2 ,   2 0 2 4 ,   d o i :   1 0 . 3 3 9 0 / a g r o n o m y 1 4 0 2 0 3 2 7 .   [ 2 5 ]   Y .   B o r h a n i ,   J.   K h o r a m d e l ,   a n d   E.   N a j a f i ,   A   d e e p   l e a r n i n g   b a se d   a p p r o a c h   f o r   a u t o ma t e d   p l a n t   d i se a se   c l a ss i f i c a t i o n   u si n g   v i s i o n   t r a n sf o r mer,   S c i e n t i f i c   Re p o r t s ,   v o l .   1 2 ,   n o .   1 ,   2 0 2 2 ,   d o i :   1 0 . 1 0 3 8 / s 4 1 5 9 8 - 0 2 2 - 1 5 1 6 3 - 0.   [ 2 6 ]   S .   P a r e z ,   N .   D i l s h a d ,   N .   S .   A l g h a md i ,   T.   M .   A l a n a z i ,   a n d   J.  W .   Le e ,   V i s u a l   i n t e l l i g e n c e   i n   p r e c i s i o n   a g r i c u l t u r e :   e x p l o r i n g   p l a n t   d i s e a se   d e t e c t i o n   v i a   e f f i c i e n t   v i s i o n   t r a n sf o r m e r s,   S e n s o rs ,   v o l .   2 3 ,   n o .   1 5 ,   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / s 2 3 1 5 6 9 4 9 .   [ 2 7 ]   B .   C h a n g ,   Y .   W a n g ,   X .   Z h a o ,   G .   Li ,   a n d   P .   Y u a n ,   A   g e n e r a l - p u r p o se  e d g e - f e a t u r e   g u i d a n c e   mo d u l e   t o   e n h a n c e   v i s i o n   t r a n sf o r mers   f o r   p l a n t   d i s e a se   i d e n t i f i c a t i o n ,   E x p e rt   S y st e m w i t h   Ap p l i c a t i o n s ,   v o l .   2 3 7 ,   2 0 2 4 ,   d o i :   1 0 . 1 0 1 6 / j . e s w a . 2 0 2 3 . 1 2 1 6 3 8 .   [ 2 8 ]   H .   T.   T h a i ,   K .   H .   L e ,   a n d   N .   L.   T.   N g u y e n ,   F o r m e r Le a f :   a n   e f f i c i e n t   v i si o n   t r a n sf o r mer  f o r   C a ssa v a   Le a f   D i sea se  d e t e c t i o n ,   C o m p u t e rs   a n d   E l e c t r o n i c s   i n   A g r i c u l t u r e ,   v o l .   2 0 4 ,   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . c o mp a g . 2 0 2 2 . 1 0 7 5 1 8 .   [ 2 9 ]   A .   T a b b a k h   a n d   S .   S .   B a r p a n d a ,   A   d e e p   f e a t u r e e x t r a c t i o n   mo d e l   b a sed   o n   t h e   t r a n s f e r   l e a r n i n g   mo d e l   a n d   v i si o n   t r a n s f o r me r   TLM V i T   f o r   p l a n t   d i s e a se  c l a s s i f i c a t i o n ,   I E E A c c e ss ,   v o l .   1 1 ,   p p .   4 5 3 7 7 4 5 3 9 2 ,   2 0 2 3 ,   d o i :   1 0 . 1 1 0 9 / A C C E S S . 2 0 2 3 . 3 2 7 3 3 1 7 .   [ 3 0 ]   A .   D o b r o v s k y P l a n t   d i s e a se   c l a ss i f i c a t i o n   m e r g e d   d a t a se t ,   k a g g l e . c o m ,   [ O n l i n e ] .   A v a i l a b l e :   h t t p s : / / w w w . k a g g l e . c o m / d a t a se t s/ a l i n e d o b r o v sk y / p l a n t - d i se a se - c l a s si f i c a t i o n - merg e d - d a t a s e t   ( a c c e ss e d   Ju n   2 1 ,   2 0 2 4 ) .   [ 3 1 ]   S .   B h o j a n a p a l l i ,   A .   C h a k r a b a r t i ,   D .   G l a sn e r ,   D .   L i ,   T.   U n t e r t h i n e r ,   a n d   A .   V e i t ,   U n d e r st a n d i n g   r o b u st n e s o f   t r a n sf o r mers   f o r   i ma g e   c l a ss i f i c a t i o n ,   i n   Pr o c e e d i n g s   o f   t h e   I EEE  I n t e rn a t i o n a l   C o n f e re n c e   o n   C o m p u t e Vi s i o n ,   2 0 2 1 ,   p p .   1 0 2 1 1 1 0 2 2 1 ,   d o i :   1 0 . 1 1 0 9 / I C C V 4 8 9 2 2 . 2 0 2 1 . 0 1 0 0 7 .   [ 3 2 ]   M .   C a n t o n e ,   C .   M a r r o c c o ,   F .   T o r t o r e l l a ,   a n d   A .   B r i a ,   C o n v o l u t i o n a l   n e t w o r k a n d   t r a n sf o r mers   f o r   mamm o g r a p h y   c l a ss i f i c a t i o n :   a n   e x p e r i me n t a l   st u d y ,   S e n s o rs ,   v o l .   2 3 ,   n o .   3 ,   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / s 2 3 0 3 1 2 2 9 .   [ 3 3 ]   H .   W u   e t   a l . C v T :   i n t r o d u c i n g   c o n v o l u t i o n t o   V i si o n   t r a n sf o r mers ,   i n   Pro c e e d i n g o f   t h e   I EE I n t e r n a t i o n a l   C o n f e r e n c e   o n   C o m p u t e r   Vi s i o n ,   2 0 2 1 ,   p p .   2 2 3 1 ,   d o i :   1 0 . 1 1 0 9 / I C C V 4 8 9 2 2 . 2 0 2 1 . 0 0 0 0 9 .   [ 3 4 ]   R .   R a n f t l ,   A .   B o c h k o v s k i y ,   a n d   V .   K o l t u n ,   V i si o n   t r a n sf o r m e r f o r   d e n s e   p e d i c t i o n ,   i n   Pr o c e e d i n g s   o f   t h e   I E EE  I n t e rn a t i o n a l   C o n f e re n c e   o n   C o m p u t e Vi s i o n ,   2 0 2 1 ,   p p .   1 2 1 5 9 1 2 1 6 8 ,   d o i :   1 0 . 1 1 0 9 / I C C V 4 8 9 2 2 . 2 0 2 1 . 0 1 1 9 6 .   [ 3 5 ]   S .   R a m e sh   a n d   D .   V y d e k i ,   R e c o g n i t i o n   a n d   c l a ssi f i c a t i o n   o f   p a d d y   l e a f   d i sea ses  u s i n g   o p t i m i z e d   d e e p   n e u r a l   n e t w o r k   w i t h   J a y a   a l g o r i t h m,   I n f o rm a t i o n   Pr o c e s si n g   i n   Ag r i c u l t u re ,   v o l .   7 ,   n o .   2 ,   p p .   2 4 9 2 6 0 ,   2 0 2 0 ,   d o i :   1 0 . 1 0 1 6 / j . i n p a . 2 0 1 9 . 0 9 . 0 0 2 .   [ 3 6 ]   N .   A g r a w a l ,   J .   S i n g h a i ,   a n d   D .   K .   A g a r w a l ,   G r a p e   l e a f   d i se a se  d e t e c t i o n   a n d   c l a ssi f i c a t i o n   u s i n g   m u l t i - c l a ss  su p p o r t   v e c t o r   mac h i n e ,   i n   I n t e rn a t i o n a l   C o n f e r e n c e   o n   Re c e n t   I n n o v a t i o n i n   S i g n a l   Pro c e ssi n g   a n d   Em b e d d e d   S y st e m s,  RI S 2 0 1 7 ,   2 0 1 8 ,     v o l .   2 0 1 8 - Ja n u a ,   p p .   2 3 8 2 4 4 ,   d o i :   1 0 . 1 1 0 9 / R I S E. 2 0 1 7 . 8 3 7 8 1 6 0 .   [ 3 7 ]   A .   P a r i k h ,   M .   S .   R a v a l ,   C .   P a r m a r ,   a n d   S .   C h a u d h a r y ,   D i s e a s e   d e t e c t i o n   a n d   se v e r i t y   e st i ma t i o n   i n   c o t t o n   p l a n t   f r o m   u n c o n s t r a i n e d   i m a g e s,   i n   Pro c e e d i n g s   -   3 r d   I E EE   I n t e r n a t i o n a l   C o n f e re n c e   o n   D a t a   S c i e n c e   a n d   A d v a n c e d   An a l y t i c s,   D S AA   2 0 1 6 ,   2 0 1 6 ,   p p .   5 9 4 6 0 1 ,   d o i :   1 0 . 1 1 0 9 / D S A A . 2 0 1 6 . 8 1 .       B I O G RAP H I E S O F   AUTH O RS       Mh a n e d   Ali          h o l d s a   d e g re e   in   in d u strial  e n g in e e rin g   fro m   M u n d iap o li s   Un i v e rsity   o Ca sa b lan c a ,   c o m p lete d   i n   2 0 1 9 .   P rio r   to   t h a t,   h e   e a rn e d   a   d i p l o m a   in   tec h n o lo g ica stu d ies   i n   e lec tri c a e n g in e e rin g   fr o m   Ca sa b lan c a   Hig h e S c h o o o Tec h n o l o g y   in   2 0 1 4 ,   wh e re   h e   sp e c ialize d   in   l o c a in d u strial   n e t wo rk a n d   i n d u strial  su p e rv isi o n .   Cu rre n tl y ,   p u rs u in g   a   P h . D .   in   sm a rt  a g ric u lt u ra l   sy ste m wi th   a   f o c u o n   Io a n d   a rti ficia in telli g e n c e   a t h e   Na ti o n a l   Hig h   S c h o o o f   El e c tri c a a n d   M e c h a n ica En g in e e rin g .   His  re se a rc h   is  c o n d u c te d   a th e   Lab o ra to r y   o Ad v a n c e d   Re se a rc h   in   In d u strial  a n d   Lo g isti c   En g in e e rin g   (OSIL   Tea m ),   wh e re   h e   a p p li e h is  s k il ls   in   Io T,   AI ,   m a c h in e   lea rn in g ,   a n d   d e e p   lea rn in g   to   d e v e l o p   i n n o v a ti v e   irri g a ti o n   so lu ti o n s.   He   c a n   b e   c o n tac ted   a e m a il a li . m h a n e d . d o c 2 1 @e n se m . a c . m a .         Mo u a ta ss im   S a l m a           is a p ro fe ss o a n d   re se a rc h e a ENS EM .   S h e   h o ld s a   P h . D.  i n   e n g in e e rin g   sc ien c e with   a   sp e c ializa ti o n   in   i n d u strial  e n g i n e e rin g ,   a n   e n g i n e e rin g   d e g re e   fro m   ENS EM ,   a n d   a   re se a rc h   m a ste r' d e g re e   in   in d u strial  sy ste m e n g in e e rin g   fro m   ENI M ,   Un iv e rsity   o L o rra in e .   He re se a rc h   is  c e n tere d   o n   th e   o p ti m i z a ti o n   o e n d - to - e n d   s u p p ly   c h a in s,  wi th   a   p a rti c u lar   fo c u s   o n   in teg ra ti n g   a rti ficia l   in tell ig e n c e   a n d   a d v a n c e d   d a ta  a n a l y ti c s.   He wo rk   a ims   to   e n h a n c e   e fficie n c y ,   re d u c e   c o sts,  a n d   imp ro v e   d e c isio n - m a k i n g   a c ro s s   v a rio u sta g e o t h e   su p p ly   c h a i n ,   fro m   p ro c u re m e n to   d istri b u ti o n .   S h e   c a n   b e   c o n tac ted   a t   e m a il s.m o u a tas sim @e n se m . a c . m a .       Evaluation Warning : The document was created with Spire.PDF for Python.