I nd o ne s ia n J o urna l o f   E lect rica l En g ineering   a nd   Co m pu t er   Science   Vo l.   43 ,   No .   1 J u l y   2 0 2 6 ,   p p .   2 7 1 ~2 8 0   I SS N:  2 5 0 2 - 4 7 5 2 ,   DOI : 1 0 . 1 1 5 9 1 /ijeecs.v 43 .i 1 . pp 271 - 2 8 0          271       J o ur na l ho m ep a g e h ttp : //ij ee cs.ia esco r e. co m   User - cen tere d re quiremen ts elici tatio n f o r e x pla ina b le AI  trans pa rency in  r ecom menda tion a nd ad v ertising  sy s tems       O s a m a   Da k hel A ls uh a im y M .   Rizwa n J a m ee l Q uresh i   D e p a r t me n t   o f   I n f o r m a t i o n   Te c h n o l o g y ,   F a c u l t y   o f   C o m p u t i n g   a n d   I n f o r m a t i o n   T e c h n o l o g y ,   K i n g   A b d u l a z i z   U n i v e r s i t y ,     Jed d a h ,   S a u d i   A r a b i a       Art icle  I nfo     AB S T RAC T   A r ticle  his to r y:   R ec eiv ed   Feb   9 ,   2 0 2 6   R ev is ed   J u n   2 ,   2 0 2 6   Acc ep ted   J u n   2 7 ,   2 0 2 6       M o d e r n   re c o m m e n d a ti o n   a n d   a d v e rti sin g   sy ste m in c re a sin g l y   re ly   o n   c o m p lex   a rti f icia in telli g e n c e   ( AI)  m o d e ls  w h o se   o p a q u e   d e c isio n - m a k i n g   p ro c e ss e li m it   u se u n d e rsta n d i n g   a n d   tru st.   W h il e   e x p lain a b le  a rti ficia l   in telli g e n c e   (XA I)  tec h n iq u e a im  to   imp r o v e   tran sp a re n c y ,   e x c e ss iv e   d isc lo su re   c a n   in c re a se   p riv a c y   c o n c e rn a n d   p sy c h o l o g ica d isc o m fo rt.   Th is   stu d y   a d d re ss e th e   lac k   o str u c t u re d   a p p r o a c h e fo r   re g u latin g   tran sp a re n c y   in   u se r - fa c in g   AI  sy ste m s.  W e   p ro p o se   th e   o p t ima tran sp a re n c y   a n d   p sy c h o l o g ica sa f e ty   (OTP S )   fra m e wo rk ,   w h ich   re g u late s   e x p la n a ti o n   d e p th ,   ti m in g ,   a n d   u se c o n tr o t o   b a lan c e   in terp re ta b il it y   wit h   p sy c h o l o g i c a sa fe ty .   Th e   fra m e wo rk   is  imp lem e n ted   th ro u g h   a   m o d u lar  a rc h it e c tu re   c o n sistin g   o f   a n   e x p lan a ti o n   g e n e ra ti o n   m o d u le,  t ra n s p a re n c y   c o n tr o ll e r,   a n d   u se r   in terfa c e   lay e r.   u se su rv e y   i n v o l v in g   3 5   p a rti c i p a n ts  wa c o n d u c ted   t o   e v a lu a te  p e rc e p ti o n o tran s p a re n c y ,   tru st ,   a n d   p sy c h o lo g ica l   c o m fo rt.   S tatisti c a a n a ly sis,  in c lu d i n g   re li a b il it y   tes ti n g   a n d   re sp o n se   d i strib u ti o n   e v a lu a ti o n ,   i n d ica tes   stro n g   u s e p re fe re n c e   fo a d a p ti v e   tra n sp a re n c y   m e c h a n ism s.  Th e   re su lt d e m o n s trate   th a re g u late d   tran sp a re n c y   imp ro v e s   u se tru st  a n d   u sa b il it y   with o u t   in tro d u c i n g   si g n ifi c a n s y ste m   o v e rh e a d ,   p ro v id i n g   p ra c ti c a d e sig n   g u id a n c e   f o r   e x p lain a b le  AI   sy ste m in   re c o m m e n d a ti o n   a n d   a d v e rti sin g   p latfo rm s.   K ey w o r d s :   Dec is io n   s u p p o r t   E x p lain ab le  ar tific ial  in tellig en ce   Ps y ch o lo g ical  s af ety   R ec o m m en d atio n   s y s tem   T r u s t c alib r atio n   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   M.  R izwa n   J am ee l Q u r esh i   Dep ar tm en t o f   I n f o r m atio n   T e ch n o lo g y ,   Facu lty   o f   C o m p u tin g   an d   I n f o r m atio n   T ec h n o lo g y     Kin g   Ab d u laziz   Un iv er s ity   2 1 5 8 9   J ed d ah ,   J ed d ah ,   Sau d Ar ab ia   E m ail:  r m u h am m d @ k au . ed u . s a       1.   I NT RO D UCT I O N   Mo d er n   r ec o m m e n d atio n   a n d   ad v er tis in g   s y s tem s   in cr ea s in g ly   r ely   o n   a r tific ial  in tellig en ce   ( AI )   m o d els  to   p er s o n alize   co n ten t ,   r an k   o p tio n s ,   an d   in f lu en ce   u s er   d ec is io n s .   Alth o u g h   th es s y s tem s   im p r o v r elev an ce   an d   ef f icien cy ,   th ei r   d ec is io n - m ak in g   p r o ce s s es  ar o f ten   o p a q u e,   m a k in g   it  d if f icu lt  f o r   u s er s   to   u n d er s tan d   w h y   p a r ticu lar   r ec o m m en d atio n ,   a d v er tis em e n t,  o r   d ec is io n   o u tp u is   p r esen ted .   E x p lai n ab le  ar tific ial  in tellig en ce   ( XAI )   h as  th er ef o r e   b ec o m an   im p o r tan a p p r o ac h   f o r   im p r o v in g   in ter p r etab ilit y ,   s u p p o r tin g   u s er   u n d er s tan d in g ,   an d   s tr en g t h en in g   ap p r o p r iate  tr u s t in   AI - d r i v en   s y s tem s   [ 1 ] [ 3 ] .   Ho wev er ,   tr an s p ar en c y   in   AI   s y s tem s   is   n o t a lway s   b en ef icial  wh en   it is   d eliv er ed   with o u t c o n tr o l o r   co n tex t.  E x ce s s iv ex p lan ati o n   d etail  m a y   in c r e ase  co g n itiv lo ad ,   ex p o s s en s itiv b eh a v io r al  p atter n s ,   an d   cr ea te  p r iv ac y - r elate d   an x iety   o r   p er ce p tio n s   o f   s u r v eillan c e.   Prio r   s tu d ies  s h o th at  ex p lain ab ilit y   d o es  n o au to m atica lly   im p r o v tr u s t,  esp ec ially   wh en   u s er s   r ec eiv o v er ly   d etailed ,   p o o r ly   tim ed ,   o r   em o tio n ally   u n co m f o r tab le  e x p lan atio n s   [ 4 ] [ 6 ] .   I n   u s er - f ac in g   s y s tem s   s u ch   as  r ec o m m e n d atio n   an d   ad v e r tis in g   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci ,   Vo l.  43 ,   No .   1 ,   J u ly   20 26 271 - 2 8 0   272   p latf o r m s ,   th is   cr ea tes  cr itical  d esig n   ch allen g e:  ex p lan ati o n s   m u s p r o v id en o u g h   i n f o r m atio n   to   s u p p o r t   u n d er s tan d i n g   an d   tr u s t,  b u t n o t so   m u ch   d etail  th at  u s er s   f e el  u n co m f o r tab le,   m o n ito r ed ,   o r   o v e r wh elm ed .   E x is tin g   XAI   r esear ch   h as  co n tr ib u ted   v alu a b le  m eth o d s   f o r   in ter p r etab ilit y ,   tr u s ca lib r atio n ,   an d   u s er - ce n ter ed   ex p la n atio n   d esig n   [ 1 ] [ 6 ] .   Ho wev er ,   m a n y   a p p r o ac h es  s till   f o cu s   o n   g en er atin g   ex p lan atio n s   r ath er   th an   r eg u latin g   h o ex p lan atio n s   s h o u ld   b d eliv er e d   to   u s er s .   I n   p ar ti cu lar ,   th er e   r em ain s   lack   o f   s tr u ctu r ed   g u id a n ce   o n   h o to   co n tr o ex p la n atio n   d ep t h ,   ex p lan atio n   tim in g ,   a b s tr ac tio n   lev el,   an d   u s er   co n tr o wh ile  also   c o n s id er in g   p s y ch o lo g ical  s af ety .   T h is   g a p   is   esp ec ially   im p o r tan t   in   r e co m m en d atio n   an d   ad v er tis in g   s y s tem s ,   wh er e x p lan atio n s   m a y   in d ir ec tl y   r ev ea p er s o n al  p r ef e r en ce s ,   b eh av io r al   d ata,   o r   in f er r ed   u s er   ch ar ac ter is tics .   T o   ad d r ess   th is   g ap ,   th is   s tu d y   p r o p o s es  th o p tim al  tr an s p ar en cy   an d   p s y ch o lo g ical  s af e ty   ( OT PS )   f r am ewo r k .   T h f r am ewo r k   in tr o d u ce s   tr a n s p ar en cy   r e g u latio n   lay er   th at  m an ag es  ex p lan atio n   d e p th ,   tim in g ,   ab s tr ac tio n ,   a n d   u s er   co n tr o in   AI - b ased   r ec o m m en d atio n   a n d   a d v er tis in g   s y s tem s .   I n s tead   o f   m ax im izin g   tr a n s p ar en cy ,   O T PS   aim s   to   id en tify   an   a p p r o p r iate  tr a n s p ar en c y   b o u n d ar y   th at  s u p p o r ts   in ter p r etab ilit y ,   tr u s t c alib r atio n ,   u s ab ilit y ,   an d   p s y ch o lo g ical   co m f o r t.   T h m ain   co n tr ib u tio n s   o f   th is   s tu d y   ar as f o ll o ws:   -   I t p r o p o s es th OT PS   f r am ewo r k   f o r   r e g u latin g   tr a n s p ar en c y   in   u s er - f a cin g   e x p lain ab le  A I   s y s tem s .   -   I p r esen ts   a   m o d u lar   a r ch i tectu r co n s is tin g   o f   a n   e x p lan atio n   g en er atio n   m o d u le ,   tr an s p ar e n cy   co n tr o ller ,   a n d   u s er   in ter ac tio n   in ter f ac e.   -   I r ep o r ts   u s er - ce n ter ed   s u r v ey   f in d in g s   f r o m   3 5   p ar ti cip an ts   to   id en tif y   r eq u ir em en ts   r elate d   to   tr an s p ar en cy ,   tr u s t,  p s y ch o lo g i ca l saf et y ,   an d   lo n g - ter m   u s ab ilit y .   B y   c o m b i n i n g   s y s te m - l e v e l   d e s i g n   w it h   u s e r - c e n t e r e d   r e q u i r e m e n t s   el i c it a t i o n ,   t h is   s t u d y   p r o v i d e s   p r a c t i c a l   g u i d a n c e   f o r   d e v e l o p i n g   e x p l a i n a b l e   A I   i n t e r f a c es  t h a t   a r e   t r a n s p a r e n t ,   u s a b le ,   a n d   p s y c h o l o g i c a l l y   s a f e .   T h e   r e m a i n d e r   o f   t h is   p a p e r   i s   o r g a n i z e d   as   f o l l o ws .   S e ct i o n   2   r e v i e ws   r e l at e d   w o r k   o n   X A I ,   t r u s c a l i b r a ti o n ,   a n d   p s y c h o l o g i c al   s a f et y .   S e ct i o n   3   p r es e n t s   t h e   r e s e a r c h   p r o b l e m .   S e ct i o n   4   i n t r o d u c e s   t h p r o p o s e d   O T P S   f r a m ew o r k .   S ec t i o n   5   r e p o r t s   t h e   u s e r   a s s es s m e n t   a n d   r e q u i r e m e n t s   el i c it a t io n   r e s u l t s .   S e c ti o n   6   d i s c u s s es   t h e   f i n d i n g s ,   a n d   S e ct i o n   7   c o n c l u d e s   t h e   p a p e r   wi t h   l i m i t at i o n s   a n d   f u t u r e   r es e a r c h   d i r e c t i o n s .       2.   RE L AT E D   WO RK   XAI   h as  b ec o m an   im p o r ta n r esear ch   ar ea   f o r   im p r o v in g   th in ter p r eta b ilit y ,   tr an s p a r en cy ,   an d   u s ab ilit y   o f   AI - d r i v en   s y s tem s .   Prio r   s tu d ies  h a v e x am in e d   XAI   f r o m   b o t h   tech n ical  a n d   h u m an - ce n ter ed   p er s p ec tiv es.  Yan g   et  a l.   [ 1 ]   r ev iewe d   m ajo r   XAI   ap p r o ac h es  an d   h ig h lig h te d   th co n ti n u in g   ch allen g o f   b alan cin g   in ter p r eta b ilit y   with   m o d el  co m p lex ity .   Vis er   et  a l.   [ 2 ]   ex am in e d   th e   r el atio n s h ip   b etwe en   ex p lain ab ilit y ,   tr u s t,  d is tr u s t,  an d   a p p r o p r iate  r elia n ce ,   s h o win g   th at  ex p la n atio n s   d o   n o a u to m atica lly   p r o d u ce   b etter   tr u s o u tc o m es.  Nav ee d   et  a l.   [ 3 ]   em p h asized   th n ee d   f o r   u s er - ce n te r ed   e v a lu atio n   m eth o d s   in   XAI ,   wh ile  Haq u et  a l.   [ 4 ]   s y n th esized   u s er - p e r s p ec tiv r esear ch   an d   i d en tifie d   f u t u r d ir ec tio n s   f o r   ex p lain ab le  AI .   Ali  et  a l.   [ 5 ]   f u r th e r   d is cu s s ed   th b r o ad er   r eq u ir e m en ts   o f   tr u s two r th y   AI ,   in clu d in g   tr an s p ar en cy ,   r elia b ilit y ,   an d   r esp o n s ib le  s y s tem   b eh av io r .   T o g eth er ,   th ese  s tu d ies  s h o th at  ex p lain ab ilit y   m u s g o   b e y o n d   tech n ical  m o d el  in ter p r etatio n   an d   s h o u l d   also   s u p p o r u s er   u n d er s tan d in g ,   u s a b ilit y ,   an d   ap p r o p r iate  r elian ce .   s ec o n d   m ajo r   d i r ec tio n   in   th liter atu r f o cu s es  o n   tr u s ca lib r atio n ,   af f ec tiv d esig n ,   ad ap tiv e   ex p lan atio n s ,   an d   in ter ac tiv e   XAI .   Naiseh   et  a l.   [ 6 ]   p r o p o s ed   th C alib r ated - XAI   f r am ewo r k   to   s u p p o r t   ap p r o p r iate  tr u s an d   r ed u ce   b o th   o v er - tr u s an d   u n d er - tr u s t.  B er n ar d o   a n d   Sev a   [ 7]   h ig h lig h te d   th e   im p o r tan ce   o f   af f ec tiv an d   e m o tio n al  f ac to r s   in   u s er - ce n ter ed   XAI   d esig n .   Su f f ian   et  a l.   [ 8 ]   s h o wed   th at  u s er   f ee d b ac k   ca n   im p r o v e   th e f f ec tiv en ess   o f   co u n ter f ac tu al  e x p lan atio n s ,   wh ile  Nim m o   et   a l.   [ 9 ]   q u esti o n ed   ex ce s s iv p er s o n aliza tio n   an d   s u g g ested   th at  o n ly   s elec ted   u s er   ch ar ac ter is tics   m ay   m ea n in g f u lly   i n f lu en ce   ex p lan atio n   ef f ec ti v en ess .   Kap lan   et  a l.   [ 1 0 ]   p r o p o s ed   u s e r - ce n tr ic  f r am ewo r k   f o r   ex p lai n ab le  AI   a cr o s s   th e   s y s tem   life cy cle.   Oth er   s tu d ie s   h av e x p an d ed   XAI   in to   ap p lied   d o m ain s   s u ch   as  r ec o m m en d atio n   f air n ess ,   ex p lan atio n   tim in g ,   s o cial  m ed ia  tr an s p ar en c y ,   r eq u ir em e n ts   p r io r itizatio n ,   a n d   A I - g e n er ated   ad v er tis in g .     Ge  et  a l.   [ 1 1 ]   ex a m in ed   ex p lain ab le  f air n ess   in   r ec o m m e n d atio n   s y s tem s ,   C h en   et  a l.   [ 1 2 ]   s h o wed   th at   ex p lan atio n   tim in g   af f ec ts   u s er   p er c ep tio n s   a n d   tr u s t,  W est  e a l.   [ 1 3 ]   f o u n d   t h at  alg o r ith m i tr a n s p ar e n cy   ca n   cr ea te  d is co m f o r in   s o cial  m e d ia  s y s tem s ,   B ai  et  a l.   [ 1 4 ]   a p p lied   XAI   to   u s er   r e q u ir em e n p r io r itizatio n ,   an d   J u n g   et  a l.   [ 1 5 ]   h ig h lig h ted   th r o le  o f   tr u s t,  p er ce iv e d   h u m a n n ess ,   an d   an x iety   in   AI - g en er ated   ad v er tis in g .   Mo r r ec en an d   f o u n d atio n al   s tu d ies  f u r th er   s h o th at  e x p lan atio n s   m u s b s elec tiv e,   co n tex tu al,   an d   alig n ed   with   h u m a n   ex p ec tatio n s .   Miller   [ 1 6 ]   ar g u ed   th at  ex p lan atio n s   s h o u l d   b g r o u n d ed   in   s o cial   s cien ce   an d   s h o u ld   av o id   ex h a u s tiv tech n ical  d is clo s u r e.   Do s h i - Vele an d   Kim   [ 1 7 ]   e m p h asized   th n ee d   f o r   r ig o r o u s   s cien ce   o f   in ter p r e tab ilit y   b ased   o n   h u m a n   u n d e r s tan d in g   a n d   d e cisi o n - m a k in g   o u tco m es.  Ab d u l     et  a l.  [ 1 8 ]   id en tifie d   th s h if t   to war d   h u m a n - ce n ter e d   ex p lain ab le  s y s tem s   an d   h ig h lig h ted   is s u es  s u ch   as   co g n itiv e   o v er lo ad   a n d   m is m atch ed   e x p lan atio n   tim in g .   E h s an   et   a l.   [ 1 9 ]   in t r o d u c ed   r ef lectiv e   XAI ,   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       User - ce n tered   r eq u ir eme n ts   el icita tio n   fo r   ex p la i n a b le  A I   tr a n s p a r en cy   … ( Osa ma   Da kh el  A ls u h a imy )   273   em p h asizin g   in ter ac tiv a n d   f ee d b ac k - d r iv en   ex p lan atio n   p r o ce s s es.  L iao   an d   W o r tm an   [ 2 0 ]   d is cu s s ed   th e   p r ac tical  im p lem en tatio n   o f   AI   tr an s p ar e n cy   in   r ea l - wo r l d   s y s tem s ,   wh ile  R ad er   et  a l.   [ 2 1 ]   s h o wed   th at  u s er s   m en tal  m o d els  o f   alg o r ith m i s y s tem s   o f ten   r em ain   in c o m p lete  ev en   wh e n   ex p lan atio n s   ar p r o v id e d .   B u s s o n et  a l.   [ 2 2 ]   d em o n s tr ated   th at  ex p lan atio n s   in f lu e n c tr u s an d   r elian ce   in   d ec is io n - s u p p o r s y s tem s ,   b u ex ce s s iv ex p lan atio n   ca n   r ed u ce   u s ab ilit y .   W an g   et  a l.   [ 2 3 ]   e x am in ed   p s y c h o lo g ical  im p ac ts   s u ch   as   an x iety   a n d   p er ce iv e d   s u r v eillan ce .   An to r án   et  a l.   [ 2 4 ]   ar g u ed   th at   ex p lan atio n s   s h o u l d   al ig n   with   u s er   g o als  r ath er   th a n   o n ly   s y s tem   in ter n als,  an d   Z h a n g   et   a l.   [ 2 5 ]   s h o wed   th at  h ig h - f id elity   ex p lan a tio n s   m ay   in c r ea s e   co g n itiv lo a d   with o u n ec ess ar ily   im p r o v in g   tr u s t.   O v e r a l l ,   t h e   l it e r a t u r e   s h o ws   t h a t   X A I   r e s ea r c h   h a s   m a d e   s t r o n g   p r o g r e s s   i n   i n t e r p r e t a b i l i t y ,   t r u s c a l i b r a ti o n ,   u s e r - c e n t e r e d   e v a lu a t i o n ,   f e e d b a c k - b a s e d   e x p l a n a t i o n ,   a n d   a p p l i e d   t r a n s p a r e n cy .   H o w e v e r ,   e x i s t i n g   s t u d i es   s ti l l   l ac k   a   u n i f i e d   s y s t e m - l e v el   f r a m e w o r k   t h a t   r e g u l a t e s   e x p l a n at i o n   d e p t h ,   e x p l a n a t i o n   t i m i n g ,   a b s t r a c ti o n   l e v e l ,   u s e r   c o n t r o l ,   a n d   p s y c h o l o g i c a l   s a f e t y   t o g e t h e r .   T h i s   g a p   i s   e s p ec i a l l y   i m p o r t a n t   i n   r e c o m m e n d a t i o n   a n d   a d v e r t is in g   s y s t e m s ,   w h e r e x p l a n a ti o n s   m a y   i n d i r e ct l y   r e v e al   u s e r   p r ef e r e n c e s ,   b e h a v i o r al  p a t t e r n s ,   o r   i n f e r r e d   p e r s o n a l   ch a r a c t e r is t i cs .   T h e   p r o p o s e d   OT P S   f r a m ew o r k   a d d r e s s es   t h i s   g a p   b y   i n t r o d u c i n g   a   t r a n s p a r e n c y   r e g u l a ti o n   l a y e r   t h a t   b a l a n c es   i n t e r p r e ta b i l it y ,   tr u s t   c a li b r a t i o n ,   u s a b il i t y ,   p r i v a c y   a w a r e n e s s ,   a n d   p s y c h o l o g i c a l   c o m f o r i n   u s e r - f a c i n g   A I   s y s t e m s .   T a b l e   1   s h o w s   s y n t h es i z e d   c o m p a r i s o n   o f   e x i s ti n g   X AI   l i t e r at u r e   a n d   O T PS   c o n t r i b u t io n .       T ab le  1 .   Sy n t h esized   co m p a r is o n   o f   ex is tin g   XAI   liter atu r e   a n d   OT PS   co n tr ib u tio n   Li t e r a t u r e   t h e m e   M a i n   c o n t r i b u t i o n   R e ma i n i n g   ga p   a d d r e sse d   b y   O TPS   G e n e r a l   X A I   a n d   i n t e r p r e t a b i l i t y   [ 1 ] ,   [ 5 ] ,   [ 1 6 ] ,   [ 1 7 ]   Ex p l a i n   A I   b e h a v i o r   a n d   i mp r o v e   i n t e r p r e t a b i l i t y   Li mi t e d   f o c u o n   p sy c h o l o g i c a l   saf e t y   a n d   r e g u l a t e d   t r a n sp a r e n c y   U ser - c e n t e r e d   X A I   e v a l u a t i o n   [ 3 ] ,   [ 4 ] ,   [ 1 8 ] ,   [ 2 0 ] ,   [ 2 1 ]   I d e n t i f y   u ser   n e e d s,  e v a l u a t i o n   m e t h o d s,  a n d   h u ma n - c e n t e r e d   d e s i g n   i ssu e s   D o e n o t   f u l l y   d e f i n e   a   s y s t e m - l e v e l   t r a n s p a r e n c y   c o n t r o l   m e c h a n i s m   Tr u st   c a l i b r a t i o n   a n d   a f f e c t i v e   d e s i g n   [ 2 ] ,   [ 6 ] ,   [ 7 ] ,   [ 2 2 ] ,   [ 2 5 ]   S u p p o r t   a p p r o p r i a t e   r e l i a n c e   a n d   c o n si d e r   e m o t i o n a l / c o g n i t i v e   t r u st   f a c t o r s   Li mi t e d   i n t e g r a t i o n   o f   t i mi n g ,   u ser  c o n t r o l ,   a n d   p r i v a c y - a w a r e   d i s c l o s u r e   I n t e r a c t i v e   a n d   a d a p t i v e   e x p l a n a t i o n s   [ 8 ] [ 1 0 ] ,   [ 1 9 ] ,   [ 2 4 ]   Us e   f e e d b a c k ,   p e r so n a l i z a t i o n ,   c o u n t e r f a c t u a l s,  a n d   g o a l - o r i e n t e d   e x p l a n a t i o n s   N e e d s   c l e a r e r   b o u n d a r i e s   f o r   e x p l a n a t i o n   d e p t h   a n d   d i s c l o s u r e   l e v e l   F a i r n e ss,  t i mi n g ,   a n d   a p p l i e d   X A I   c o n t e x t s   [ 1 1 ] ,   [ 1 2 ] ,   [ 1 4 ]   S h o w   i m p o r t a n c e   o f   f a i r n e ss ,   t i m i n g ,   a n d   r e q u i r e m e n t s - d r i v e n   e x p l a n a t i o n   d e s i g n   R e q u i r e i n t e g r a t i o n   i n t o   a   u n i f i e d   a d a p t i v e   t r a n s p a r e n c y   f r a mew o r k   P r i v a c y ,   a n x i e t y ,   a n d   su r v e i l l a n c e   p e r c e p t i o n   [ 1 3 ] ,   [ 1 5 ] ,   [ 2 3 ]   S h o w   t h a t   e x c e ssi v e   t r a n s p a r e n c y   c a n   c r e a t e   d i s c o mf o r t   a n d   p r i v a c y   a n x i e t y   O TPS   d i r e c t l y   i n c o r p o r a t e s   p sy c h o l o g i c a l   safet y   a n d   a b s t r a c t   d i s c l o s u r e       3.   P RO B L E M   D E F I N I T I O N   C u r r en ex p lain a b le  AI   ap p r o ac h es  o f ten   ass u m th at  in c r ea s in g   tr an s p ar e n cy   will  au t o m atica lly   im p r o v u s er   u n d er s tan d in g ,   tr u s t,  an d   ac ce p tan ce .   Ho wev er ,   th is   ass u m p tio n   is   lim ited   in   u s er - f ac in g   r ec o m m en d atio n   a n d   ad v er tis in g   s y s tem s ,   wh er ex p la n atio n s   m ay   ex p o s p e r s o n al  p r e f er en ce s ,   b eh a v io r al   p atter n s ,   o r   in f e r r ed   u s er   c h a r ac ter is tics .   Prio r   r esear ch   s h o ws  th at  ex p lain ab ilit y   d o es  n o alwa y s   im p r o v ap p r o p r iate  r elian ce ,   esp ec iall y   wh en   ex p lan atio n s   ar o v er l y   d etailed ,   p o o r ly   co n tex tu ali ze d ,   o r   d if f icu lt   f o r   u s er s   to   in ter p r et  [ 2 ] ,   [ 6 ] .   I n   s u ch   ca s es,  s tatic  o r   u n r estric ted   ex p lan atio n   d eliv er y   m a y   in cr ea s co g n itiv lo ad ,   p r i v ac y   co n ce r n s ,   a n d   p e r ce p tio n s   o f   s u r v eillan ce   r ath e r   th an   im p r o v i n g   tr u s t [ 1 3 ] ,   [ 1 5 ] .   T h m ain   p r o b lem   ad d r ess ed   in   th is   s tu d y   is   th lack   o f   s tr u ctu r ed   f r am ewo r k   f o r   r eg u latin g   tr an s p ar en cy   in   e x p lain ab le  A I   s y s tem s .   E x is tin g   ap p r o ac h e s   p r o v id u s ef u e x p lan atio n   m eth o d s   an d   tr u s t - c alib r atio n   s tr ateg ies,  b u th e y   d o   n o t   s u f f icien tly   d ef in e   h o m u ch   ex p la n atio n   s h o u ld   b s h o wn ,   wh en   it  s h o u ld   ap p ea r ,   wh at  lev el  o f   ab s tr ac tio n   s h o u ld   b u s ed ,   o r   h o u s er s   s h o u ld   c o n tr o d is clo s u r [ 3 ] [ 6 ] T h er ef o r e,   u s er - f ac in g   AI   s y s tem s   r eq u ir r eg u lated   tr a n s p ar en cy   m ec h an is m   th at  b alan ce s   ex p lan atio n   d ep th ,   ex p lan atio n   tim in g ,   u s e r   co n tr o l,  a n d   p s y c h o lo g ical  s af ety .   T h is   s tu d y   ad d r ess es  th is   p r o b lem   th r o u g h   th p r o p o s ed   OT PS   f r am ew o r k ,   wh ich   aim s   to   s u p p o r t   in ter p r etab ilit y   wh ile  r e d u c in g   p r iv ac y - r elate d   an x iety ,   co g n itiv o v er lo a d ,   a n d   d is co m f o r t.       4.   T H E   P RO P O SE SO L U T I O N   T o   ad d r ess   th lim itatio n s   o f   u n r estricte d   tr an s p ar en c y   in   ex p lain a b le  AI   s y s tem s ,   th is   s tu d y   p r o p o s es  th OT PS   f r am ewo r k .   T h f r am ewo r k   s h if ts   th d esig n   o b jectiv f r o m   m a x im iz in g   tr an s p ar e n cy   to   r eg u latin g   tr an s p ar e n cy   i n   way   th at   s u p p o r ts   u s er   u n d er s tan d i n g ,   ap p r o p r iate   tr u s t,  u s ab ilit y ,   a n d   p s y ch o lo g ical  co m f o r t.  OT PS   in tr o d u ce s   tr an s p ar e n cy   r e g u latio n   lay er   b etwe en   th AI   s y s tem   an d   th u s er   in ter f ac e.   T h is   lay er   co n tr o ls   h o m u c h   ex p la n atio n   is   s h o wn ,   wh en   it  is   p r esen ted ,   h o w   ab s tr ac o r   d etaile d   it sh o u ld   b e ,   a n d   h o m u c h   co n tr o l u s er s   h av o v er   ex p lan ati o n   d is clo s u r e.   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci ,   Vo l.  43 ,   No .   1 ,   J u ly   20 26 271 - 2 8 0   274   Fig u r 1   p r esen ts   th o v er all  wo r k f lo o f   th e   OT PS   f r am e wo r k .   I s h o ws  h o w   th AI - b a s ed   s y s tem   o u tp u p ass es  th r o u g h   tr an s p ar en cy   r e g u latio n   lay e r   b ef o r e   b ein g   p r esen te d   to   th u s er .   T h is   lay er   m an ag es   ex p lan atio n   d e p th ,   tim in g ,   a b s tr ac tio n ,   an d   u s er   co n tr o to   b alan ce   in ter p r etab ilit y   with   p s y ch o lo g ical  s af ety .   T h OT PS   f r am ewo r k   is   o r g a n ized   ar o u n d   f o u r   c o r g o als.  T h ese  g o als  d ef in th m ai n   d esig n   d im en s io n s   r eq u ir ed   f o r   r eg u lated   tr an s p a r en cy   i n   AI - b ased   r ec o m m e n d atio n   a n d   ad v er tis in g   s y s tem s .   T ab le  2   p r esen ts   co r g o als an d   d esig n   m ec h an i s m s   o f   th OT PS   f r am ewo r k .           Fig u r 1 W o r k f lo ar ch itectu r o f   th e   p r o p o s ed   OT PS   f r am ewo r k       T ab le  2 .   C o r g o als an d   d esig n   m ec h an is m s   o f   t h OT PS   f r am e wo r k   O TPS   go al   P u r p o se   D e si g n   mec h a n i sm   G o a l   1 .   Tr a n s p a r e n c y   l e v e l   a n d   t i m i n g   A v o i d   c o g n i t i v e   o v e r l o a d   a n d   u n n e c e ss a r y   d i sc l o s u r e   G r a d u a l   e x p l a n a t i o n   l e v e l s ,   c o n t e x t u a l   e x p l a n a t i o n   d e l i v e r y ,   p r e / p o st   e x p l a n a t i o n   t i m i n g   G o a l   2 .   U ser   c o n t r o l   a n d   p sy c h o l o g i c a l   saf e t y   R e d u c e   p r i v a c y   a n x i e t y   a n d   s u r v e i l l a n c e   p e r c e p t i o n   A b st r a c t   d i sc l o s u r e ,   o p t - i n / o p t - o u t   c o n t r o l s,   u ser - a d j u s t a b l e   e x p l a n a t i o n   v i si b i l i t y   G o a l   3 .   Tr u st   c a l i b r a t i o n   P r e v e n t   o v e r - t r u st   a n d   u n d e r - t r u st   i n   A I   d e c i si o n s   C o n f i d e n c e   i n d i c a t o r s,   a d a p t i v e   e x p l a n a t i o n s ,   u n c e r t a i n t y   c o mm u n i c a t i o n   G o a l   4 .   L o n g - t e r u sa b i l i t y   M a i n t a i n   u s e f u l n e ss  d u r i n g   r e p e a t e d   i n t e r a c t i o n s   M i n i m a l   i n t r u si o n ,   r e p e a t e d - u se   e v a l u a t i o n ,   su st a i n a b l e   e x p l a n a t i o n   d e l i v e r y       T h f ir s g o al  r eg u lates  ex p lan atio n   d e p th   an d   tim in g .   I n s tead   o f   p r esen tin g   f u ll  tech n ical   ex p lan atio n s   b y   d e f au lt,  th e   s y s tem   p r o v i d es  ex p lan atio n s   p r o g r ess iv ely   ac co r d i n g   t o   u s er   n ee d s   an d   in ter ac tio n   co n tex t.   B asic  ex p lan atio n s   ca n   b s h o wn   f ir s t,  w h il m o r e   d etailed   ex p lan atio n s   r em ain   a v ailab le  wh en   u s er s   r eq u est  ad d itio n al  in f o r m atio n .   T h is   r ed u ce s   co g n itiv lo a d   an d   p r ev e n t s   u s er s   f r o m   b ein g   o v er wh elm ed   b y   u n n ec ess ar y   tech n ical  d etails.  T h e   s ec o n d   g o al   f o c u s es  o n   u s er   c o n tr o l   an d   p s y ch o lo g ical   s af et y .   User s   s h o u ld   b ab le  to   m an ag h o ex p lan atio n s   a r d is p lay ed   an d   h o m u ch   p er s o n al  in f o r m atio n   is   r ef lecte d   in   th em .   T h f r a m ewo r k   th er ef o r em p h asizes  ab s tr ac d is clo s u r e,   wh er ex p lan atio n s   d escr ib g en er al  r ea s o n i n g   p atter n s   r ath er   th an   ex p o s in g   s en s itiv p er s o n al  b eh av io r   d ir ec tly .   T h is   h elp s   r ed u ce   p r iv ac y - r elate d   an x iety   an d   th f ee lin g   o f   b ein g   co n s tan tl y   m o n ito r e d .   T h th ir d   g o al  s u p p o r ts   ap p r o p r iate   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       User - ce n tered   r eq u ir eme n ts   el icita tio n   fo r   ex p la i n a b le  A I   tr a n s p a r en cy   … ( Osa ma   Da kh el  A ls u h a imy )   275   tr u s ca lib r atio n .   T h s y s te m   s h o u ld   h elp   u s er s   u n d e r s tan d   th co n f id en ce   an d   lim itatio n s   o f   AI   r ec o m m en d atio n s   in s tead   o f   en co u r a g in g   b lin d   tr u s o r   c o m p lete  d is tr u s t.  T h is   ca n   b ac h iev ed   th r o u g h   co n f id en ce   in d icato r s ,   s h o r e x p lan atio n   s u m m ar ies,  ex p a n d ab le  r ea s o n in g   p an els,  an d   a d ap tiv ex p lan atio n s   th at  clar if y   wh y   r ec o m m en d atio n   o r   ad v er tis em en was  g en er ated .   T h f o u r th   g o al  a d d r ess es  lo n g - ter m   u s ab ilit y .   E x p lan atio n   m ec h an is m s   s h o u ld   r em ain   u s ef u an d   n o n - in tr u s iv d u r i n g   r ep ea ted   u s e.   I f   ex p lan atio n s   ar e   to o   f r eq u en t,  to o   d etailed ,   o r   p o o r ly   tim ed ,   u s er s   m a y   ex p er ien ce   ex p lan atio n   f atig u e .   T h er ef o r e,   OT PS   en co u r ag es  s u s tain ab le  tr an s p ar en cy   d esi g n   th at  r em ain s   clea r ,   lig h twe ig h t,  an d   ad a p tab le  o v er   tim e.     4 . 1 .     P r a ct ica i m plem ent a t io of   t he  O TP f ra m ewo r k   T h OT PS   f r am ewo r k   ca n   b im p lem en ted   as  m o d u lar   ar ch itectu r c o n s is tin g   o f   f o u r   m ain   co m p o n en ts : th AI   R ec o m m en d atio n   E n g in e,   E x p lan atio n   Gen er atio n   Mo d u le,   T r an s p ar en cy   C o n tr o ller ,   an d   User   I n ter ac tio n   I n ter f ac e.   T h AI   R ec o m m en d atio n   E n g in e   g en er ates th r ec o m m en d atio n ,   ad v er tis em en t,  o r   d ec is io n   o u tp u u s in g   th u n d er ly in g   AI   m o d el.   T h E x p la n atio n   Gen er atio n   Mo d u le  p r o d u ce s   in ter p r etab le   ex p lan atio n s   u s in g   s u itab le   XAI   m eth o d s   s u ch   as  SHAP,  L I ME ,   f ea tu r e   attr ib u tio n ,   o r   co u n ter f ac t u al  ex p lan atio n s .   T h T r a n s p ar en cy   C o n tr o ller ,   wh ich   r ep r esen ts   th OT P lay er ,   r eg u lates  ex p lan atio n   d e p th ,   tim in g ,   ab s tr ac tio n   lev el,   a n d   u s er   co n tr o b ased   o n   u s er   p r ef er e n ce s ,   s y s tem   co n tex t,  an d   tr an s p ar e n cy   r eq u ir em e n ts .   Fin ally ,   th Us er   I n ter ac tio n   I n ter f ac p r esen ts   ex p lan atio n s   th r o u g h   ex p an d ab le  ex p la n atio n   p an els,  co n f i d en ce   in d icato r s ,   t r an s p ar en cy   s ettin g s ,   an d   f ee d b ac k   o p tio n s .   Fig u r 2   illu s tr ates  th s y s tem - lev el  im p lem en tatio n   o f   OT PS .   T h AI   r ec o m m en d at io n   en g in e   p r o d u ce s   th o u tp u t ,   th e   ex p lan atio n   g en er atio n   m o d u le   p r ep a r es  ex p la n atio n   c o n te n t,  an d   th e   OT PS   tr an s p ar en cy   co n tr o ller   d ete r m in es  wh eth er   th ex p lan a tio n   s h o u ld   b s h o wn   im m ed iately ,   d elay ed ,   s u m m ar ized ,   e x p an d ed ,   ab s tr a cted ,   o r   co n t r o lled   b y   t h u s er .   T h u s er   in ter f ac th e n   p r esen ts   th ex p la n atio n   in   clea r   an d   p s y ch o l o g ica lly   s af m an n er .   T h is   d esig n   allo ws  OT PS   to   b in teg r ated   in to   ex is tin g   r ec o m m en d atio n   an d   ad v e r tis in g   s y s tem s   with o u r eq u ir in g   m ajo r   ch an g es  to   th u n d er ly i n g   AI   m o d el.   T h e   f r am ewo r k   ca n   o p er ate  as  m id d lewa r o r   i n ter f ac e - lev el   tr an s p ar en cy   m an ag e m en la y er .   B y   s ep ar atin g   ex p lan atio n   g en er atio n   f r o m   ex p lan atio n   r eg u latio n ,   OT PS   s u p p o r ts   p r ac tical  im p lem en tatio n   wh ile  m ain tain in g   f lex i b ilit y   ac r o s s   d if f er en t A I   p latf o r m s   an d   ap p licatio n   d o m ain s .           Fig u r 2 Pra ctica in ter f ac e   im p lem en tatio n   o f   th OT PS   f r am ew o r k   f o r   AI   r ec o m m e n d at io n   s y s tem s       4. 2 .    T ec hn ica ev a lu a t io n o f   t he  O T P f ra m ew o r k   T h OT PS   f r am ewo r k   is   tech n ically   f ea s ib le  b ec au s it  c an   b im p lem e n ted   as  an   i n ter m ed iate   tr an s p ar en cy   lay er   b etwe en   th AI   r ec o m m en d atio n   en g in an d   th u s er   in ter f ac e .   T h e   u n d er ly in g   AI   m o d el   r em ain s   r esp o n s ib le  f o r   g e n e r atin g   r ec o m m en d atio n s ,   wh i le  th ex p lan atio n   g e n er atio n   m o d u le  p r o d u ce s   in ter p r etab le  e x p lan atio n   co n t en u s in g   ex is tin g   XAI   tech n i q u es  s u ch   as  SHAP,  L I ME ,   f e atu r attr ib u tio n ,   o r   co u n ter f ac t u al  ex p lan atio n s .   T h OT PS   tr an s p ar en cy   co n t r o l ler   th en   r eg u lates  th lev el  o f   ex p lan atio n   d etail,   tim in g   o f   d is clo s u r e,   ab s tr ac tio n   lev el,   a n d   u s er   c o n tr o b ef o r th ex p la n atio n   is   d is p lay ed   to   th u s er .   T h m ain   co m p u tatio n al  co s t   o f   OT PS   co m es  f r o m   th ex p lan atio n   g e n er atio n   m o d u le,   esp ec ially   wh en   f ea tu r e - attr i b u tio n   m et h o d s   ar u s ed .   I f   ( m )   r ep r es en ts   th n u m b er   o f   m o d el  p r ed ictio n s   r eq u ir i n g   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci ,   Vo l.  43 ,   No .   1 ,   J u ly   20 26 271 - 2 8 0   276   ex p lan atio n   a n d   ( n )   r ep r esen ts   th n u m b er   o f   in p u f ea tu r e s ,   th ap p r o x im ate  co m p u tatio n al  co m p le x ity   ca n   b ex p r ess ed   in   ( 1 ) :     ( m   ×  n )   ( 1 )     Ho wev er ,   th OT PS   tr an s p ar en cy   co n tr o ller   in tr o d u ce s   n eg lig ib le  o v er h ea d   b ec au s e   it  m ain ly   p er f o r m s   r u le - b ased   o r   p r ef e r en ce - b ased   s elec tio n   o f   ex p lan atio n   d ep t h ,   tim in g ,   an d   d is clo s u r lev el.   I n   ad d itio n ,   OT PS   r ed u ce s   u n n ec ess ar y   co m p u tat io n   t h r o u g h   ad ap tiv tr i g g er in g ,   wh er e   ex p lan atio n s   ar e   g en er ated   o n l y   wh e n   r eq u es ted   b y   th e   u s er   o r   wh e n   r e q u ir ed   b y   th e   in ter ac tio n   c o n tex t.  T h is   av o i d s   co n tin u o u s   ex p lan atio n   g en e r atio n   an d   h elp s   m ain tain   ef f icien s y s tem   p er f o r m a n ce .   T ab le  3   illu s tr ate p er f o r m an ce   im p ac o f   th e   OT PS   co m p o n en ts .   Ov er all,   OT PS   ca n   b in teg r a ted   in to   ex is tin g   AI   r ec o m m e n d atio n   a n d   a d v er tis in g   s y s tem s   with o u m ajo r   ch an g es  to   th u n d er ly in g   m o d el  ar ch itectu r e.   Sin ce   th f r am ewo r k   s ep ar ates  ex p lan atio n   g en er atio n   f r o m   tr a n s p ar en cy   r eg u latio n ,   it  ca n   o p e r ate  as  m id d lew ar o r   in ter f ac e - lev el  c o n tr o l   lay er .   T h is   m a k es  OT PS   p r ac tical  f o r   r ea l - tim e   an d   lar g e - s ca le  AI   s y s tem s   wh er tr an s p ar en c y   m u s b p r o v id e d   with o u t   cr ea tin g   ex ce s s iv laten cy ,   c o g n itiv o v e r lo ad ,   o r   s y s tem   p e r f o r m a n ce   d eg r ad atio n .         T ab le  3 .   Per f o r m an ce   im p ac o f   th OT PS   co m p o n en ts   C o m p o n e n t   P e r f o r ma n c e   i m p a c t   A I   p r e d i c t i o n   N o   a d d i t i o n a l   o v e r h e a d   Ex p l a n a t i o n   g e n e r a t i o n   M o d e r a t e   c o st   d e p e n d i n g   o n   S H A P ,   L I M E,   o r   s e l e c t e d   X A I   met h o d   O TPS   t r a n sp a r e n c y   c o n t r o l l e r   N e g l i g i b l e   o v e r h e a d   U ser i n t e r f a c e   r e n d e r i n g   M i n i m a l   o v e r h e a d   A d a p t i v e   t r i g g e r i n g   R e d u c e u n n e c e ssar y   e x p l a n a t i o n   c o mp u t a t i o n       5.   USE A SS E SS M E NT   A ND  RE Q UIR E M E N T E L I CI T AT I O N   T h is   s ec tio n   p r esen ts   th e   u s er   ass ess m en co n d u cted   to   ev al u ate  p er ce p tio n s   o f   th e   p r o p o s ed   OT PS   f r am ewo r k .   T h p u r p o s o f   th ass es s m en was  to   id en tify   u s er - ce n ter ed   r eq u ir em en ts   r ela ted   to   tr an s p ar en c y   ad ju s tm en t,  u s er   co n tr o l,  p s y ch o lo g ical  s af ety ,   tr u s ca lib r atio n ,   an d   lo n g - ter m   u s ab ilit y   in   ex p lain ab le  AI   s y s tem s .   s u r v ey   was  co n d u cted   with   3 5   p ar ticip an ts   wh o   r eg u lar ly   in ter ac with   d i g ital  p latf o r m s   s u ch   as   r ec o m m en d atio n   s y s tem s ,   e - co m m er ce   s er v ices,  s tr ea m in g   p latf o r m s ,   an d   p e r s o n alize d   ad v er tis in g   en v ir o n m en ts .   T h q u esti o n n air co n s is ted   o f   3 0   L ik er t - s ca le  item s   g r o u p ed   ac co r d in g   to   th f o u r   OT PS   g o als.  E ac h   item   was  ev alu at ed   u s in g   a   f iv e - p o in t   s ca le  r a n g in g   f r o m   1   ( Ver y   L o w)   to   5   ( Ver y   Hig h ) .   T h e   tab les  in   th is   s ec tio n   s u m m a r ize  th p ar ticip a n t   d em o g r a p h ics  ( T ab le   4 ) ,   d escr ip tiv e   s tatis t ics  ( T ab le  5 ) ,   cu m u lativ r esp o n s d is tr ib u ti o n   ( T a b le  6 ) ,   q u esti o n n air e   r e liab ilit y   ( T ab le  7 ) ,   a n d   co m p a r is o n   with   ex is tin g   XAI   ap p r o ac h es  ( T ab le  8 ) .   T h p ar ticip an p r o f ile  in d icate s   th at  th s am p le  was  s u ita b le  f o r   ex p lo r ato r y   u s er - ce n ter ed   ass ess m en b ec au s m o s r esp o n d en ts   wer f am iliar   with   d ig ital  p latf o r m s   an d   AI - d r iv en   r ec o m m en d atio n   en v ir o n m en t s .   Alth o u g h   th e   s am p le  s ize  is   m o d est,  it  p r o v id es  u s ef u in itial  in s ig h ts   f o r   r eq u ir em e n ts   elicitatio n   an d   f r am ewo r k   r e f in em en t.       T ab le  4 .   Par ticip an d em o g r ap h ics   C a t e g o r y   D i st r i b u t i o n   To t a l   p a r t i c i p a n t s   35   M a l e   2 0   ( 5 7 %)   F e mal e   1 5   ( 4 3 %)   A g e   1 8 20   1 4 %   A g e   2 1 30   6 3 %   A g e   3 1 40   2 3 %   Te c h n i c a l   b a c k g r o u n d   7 1 %   N o n - t e c h n i c a l   b a c k g r o u n d   2 9 %       T h s u r v ey   r esu lts   wer s u m m ar ized   ac r o s s   th f o u r   OT PS   g o als  u s in g   m ea n   a n d   s tan d ar d   d ev iatio n   v alu es.  T h e   r esu lts   s h o w   g e n er ally   p o s itiv u s er   p er ce p t io n   to war d   a d ap tiv e   tr an s p ar en cy ,   u s er   c o n tr o l,   p s y ch o lo g ical  s af ety ,   tr u s ca l ib r atio n ,   a n d   lo n g - ter m   u s ab il ity .   T h ese   r esu lts   s u g g est  th at   u s er s   d o   n o p r ef er   u n r estricte d   o r   o v er ly   d etailed   tr an s p ar en cy   b y   d ef a u lt.  I n s tead ,   th ey   f av o r   ex p lan atio n   m e ch an is m s   th at  ad ap t   to   co n tex t,  p r o v id s u itab le  le v els  o f   d etail,   an d   allo u s er s   to   co n tr o h o m u c h   in f o r m atio n   is   d is clo s ed .   Go al  2   an d   Go al   4   r ec eiv ed   th s tr o n g est m ea n   s co r es,  in d icatin g   th at   u s er   c o n tr o l,  p r iv ac y - awa r ex p lan atio n   d esig n ,   an d   lo n g - ter m   u s ab ilit y   ar p a r ticu lar ly   im p o r tan t r e q u ir em en ts   f o r   ex p lain ab le  AI   in ter f ac es.   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       User - ce n tered   r eq u ir eme n ts   el icita tio n   fo r   ex p la i n a b le  A I   tr a n s p a r en cy   … ( Osa ma   Da kh el  A ls u h a imy )   277   T ab le  5 .   Su m m a r y   o f   u s er   ass ess m e n t r esu lts   ac r o s s   OT P g o al s   O TPS   g o a l   M e a n   SD   K e y   i n t e r p r e t a t i o n   G o a l   1 :   t r a n sp a r e n c y   a d j u s t me n t   a n d   e x p l a n a t i o n   t i m i n g   3 . 6 9   1 . 0 2   U sers su p p o r t   a d a p t i v e   t i m i n g   a n d   g r a d u a l   e x p l a n a t i o n   d e l i v e r y   G o a l   2 :   u ser  c o n t r o l   a n d   p sy c h o l o g i c a l   safet y   3 . 9 2   0 . 9 8   U sers st r o n g l y   v a l u e   c o n t r o l ,   a b s t r a c t   d i s c l o su r e ,   a n d   p r i v a c y - a w a r e   e x p l a n a t i o n s   G o a l   3 :   t r u s t   c a l i b r a t i o n   t h r o u g h   a d a p t i v e   e x p l a n a t i o n s   3 . 8 4   1 . 0 1   U sers su p p o r t   e x p l a n a t i o n t h a t   h e l p   p r e v e n t   o v e r - t r u s t   a n d   u n d e r - t r u st   G o a l   4 :   l o n g - t e r m   u s a b i l i t y   a n d   su st a i n a b i l i t y   3 . 9 5   0 . 9 4   U sers p r e f e r   e x p l a n a t i o n   m e c h a n i sms   t h a t   r e ma i n   u s e f u l   a n d   n o n - i n t r u s i v e   o v e r   t i me   S D :   st a n d a r d   d e v i a t i o n       T ab le   p r esen ts   th co m b in e d   r esp o n s d is tr ib u tio n   ac r o s s   all  f o u r   g o als.  I n s tead   o f   u s in g   s ep ar ate  ch ar ts   f o r   ea ch   g o al,   th f i g u r s u m m ar izes  th o v er all   p atter n   o f   p ar ticip an t   r esp o n s es  an d   v is u ally   d em o n s tr ates  th e   d o m in an ce   o f   h ig h   an d   v e r y   h ig h   r esp o n s es.   Fro m   a   r e q u ir em e n ts   en g i n ee r in g   p er s p ec tiv e,   th r esu lts   id en tify   s ev er al  im p o r tan d esig n   r e q u ir em e n t s   f o r   ex p lain ab le  AI   s y s tem s .   First,  ex p lan atio n s   s h o u ld   b ad ap tiv r at h er   th an   s tatic.   Seco n d ,   u s er s   s h o u ld   b g iv en   co n t r o o v er   e x p lan a tio n   d ep th   an d   d ata   d is clo s u r e.   T h ir d ,   ex p la n atio n   in ter f ac es  s h o u l d   co m m u n icate   u n ce r tain ty   an d   co n f id en ce   to   s u p p o r t   ap p r o p r iate  tr u s ca lib r atio n .   Fo u r th ,   t r an s p ar en c y   m ec h a n is m s   s h o u ld   r em ain   lig h tweig h t a n d   u n d er s tan d a b le   d u r in g   r ep ea ted   u s e.   T o   co n f ir m   th r eliab il ity   o f   th q u esti o n n air e,   C r o n b ac h s   Alp h an aly s is   was  co n d u cte d   ac r o s s   th f o u r   OT PS   co n s tr u cts.  T h o v er all  q u e s tio n n air r eliab ilit y   was 0 . 8 7 ,   wh ich   is   ab o v th e   co m m o n l y   ac ce p ted   t h r esh o ld   o f   0 . 7 0   an d   in d icate s   s tr o n g   in ter n al  co n s is ten cy .       T ab le  6 .   Fin al  cu m u lativ ev al u atio n   o f   all  g o als   G o a l   V e r y   l o w   Lo w   N e u t r a l   H i g h   V e r y   h i g h   G o a l   1   6 . 4 %   1 2 . 5 %   2 2 . 0 %   2 6 . 0 %   3 4 . 0 %   G o a l   2   5 . 0 %   1 0 . 7 %   1 7 . 9 %   2 4 . 6 %   4 3 . 9 %   G o a l   3   7 . 3 %   1 0 . 8 %   1 8 . 4 %   2 1 . 6 %   4 3 . 8 %   G o a l   4   8 . 0 %   9 . 7 %   1 4 . 3 %   2 5 . 1 %   4 6 . 3 %   A v e r a g e   6 . 6 8 %   1 0 . 9 3 %   1 8 . 1 5 %   2 4 . 3 3 %   4 2 . 0 0 %       T ab le  7 .   Su m m a r y   o f   u s er   ass ess m en t r esu lts   ac r o s s   OT P go als   C o n st r u c t   N o .   o f   i t e m s   C r o n b a c h s Al p h a   G o a l   1 :   t r a n sp a r e n c y   t i m i n g   8   0 . 8 4   G o a l   2 :   p s y c h o l o g i c a l   s a f e t y   8   0 . 8 8   G o a l   3 :   t r u s t   c a l i b r a t i o n   9   0 . 8 6   G o a l   4 :   l o n g - t e r m   u s a b i l i t y   5   0 . 8 5   O v e r a l l   q u e s t i o n n a i r e   30   0 . 8 7       C h i - s q u ar g o o d n ess - of - f it  t est  was  also   co n d u cte d   o n   th ag g r eg ated   L ik er t   r esp o n s es  to   ex am in e   wh eth er   th e   r esp o n s d is tr ib u tio n   s ig n if ican tly   d if f er e d   f r o m   u n if o r m   d is tr ib u tio n .   T h e   r esu lt  was  s tatis t ically   s ig n if ican t,  χ²  4 2 . 3 1 ,   p   0 . 0 1 ,   in d icatin g   th at   th co n ce n tr atio n   o f   r esp o n s es  in   th Hig h   an d   Ver y   Hig h   ca teg o r ies  was  u n lik ely   to   b d u e   to   r a n d o m   v ar iatio n .   T h is   s u p p o r ts   th in ter p r etatio n   th at   p ar ticip an ts   co n s is ten tly   f av o r ed   tr an s p ar en c y   m ec h a n is m s   alig n ed   with   th OT PS   f r am ew o r k .   I n   T a b le  8 ,   th e   OT PS   f r am ew o r k   was  c o m p a r ed   with   ex is tin g   e x p lain ab le   AI   a p p r o ac h es   to   clar i f y   its   co n tr ib u tio n .   E x is tin g   s tu d ies  p r o v id v al u ab le  co n tr ib u tio n s   in   in ter p r etab il ity ,   tr u s ca lib r atio n ,   u s er - ce n ter ed   ev alu atio n ,   an d   in ter ac tiv ex p lan atio n   d esig n .   H o wev er ,   th e y   d o   n o f u lly   co m b in tr an s p ar e n cy   d ep th ,   tim in g ,   ab s tr ac tio n ,   u s er   co n tr o l,  an d   p s y ch o l o g ical  s af ety   with in   o n e   s y s tem - lev el  f r am ewo r k .       T ab le  8 .   C o m p a r is o n   b etwe en   OT PS   mod el  an d   r elate d   wo r k   F e a t u r e   O TPS   f r a m e w o r k   Y a n g   e t   a l .   [ 1 ]   C a l i b r a t e d - X A I   ( C - X A I )   [ 6 ]   R e f l e c t i v e   X A I   [ 1 9 ]   Tr a n s p a r e n c y   a d j u st m e n t   Y e s   Y e s   No   P a r t i a l   P sy c h o l o g i c a l   s a f e t y   Y e s   No   Y e s   P a r t i a l   U ser c o n t r o l   Y e s   No   No   Y e s   P r i v a c y   c o n c e r n   h a n d l i n g   Y e s   No   Y e s   No   A d a p t i v e   e x p l a n a t i o n   t i m i n g   Y e s   No   No   No   Li f e c y c l e - w i d e   t r a n s p a r e n c y   Y e s   No   No   P a r t i a l   I n t e r a c t i v e   f e e d b a c k   Y e s   No   P a r t i a l   Y e s   S y st e m - l e v e l   t r a n sp a r e n c y   r e g u l a t i o n   Y e s   No   No   No   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci ,   Vo l.  43 ,   No .   1 ,   J u ly   20 26 271 - 2 8 0   278   Ov er all,   th u s er   ass ess m en s u p p o r ts   th n ee d   f o r   r eg u lated   tr an s p ar en cy   in   ex p lain ab le  A I   s y s tem s .   T h f in d in g s   s h o w   th at  u s e r s   v alu e x p lan atio n s   t h at  ar ad ap tiv e ,   co n tr o llab le,   p r iv ac y - awa r e,   an d   s u s tain ab le  o v er   tim e.   T h ese  r esu lts   s tr en g th en   th OT PS   f r am ewo r k   as  p r ac tical  r e q u ir em e n ts - d r iv en   ap p r o ac h   f o r   d esig n in g   ex p lain ab le  AI   in ter f ac es in   r ec o m m en d atio n   a n d   ad v er tis in g   s y s tem s .       6.   DIS CU SS I O N   T h f in d in g s   s u g g est  th at  ex p lain ab le  AI   s y s tem s   s h o u ld   n o tr ea tr an s p ar en cy   as  u n r estricte d   d is clo s u r e.   User s   ap p ea r   to   p r ef er   ad a p tiv tr a n s p ar en cy ,   w h er ex p lan atio n s   a r p r o v i d e d   at  an   ap p r o p r iate  lev el  o f   d etail  an d   o n ly   wh en   th ey   ar u s ef u f o r   u n d er s tan d in g   th AI   o u tp u t.  T h is   s u p p o r ts   th id ea   th a t   ex p lan atio n   d esig n   s h o u ld   m o v b ey o n d   s im p ly   s h o win g   m o r in f o r m atio n   an d   i n s te ad   f o cu s   o n   p r esen tin g   th r ig h am o u n o f   in f o r m ati o n   at  th r ig h tim e.   T h r esu l ts   also   in d icate   th at  p s y ch o lo g ical  s af ety   an d   u s er   co n tr o s h o u ld   b tr ea ted   as  co r d esig n   r eq u ir em en ts   in   u s er - f ac in g   AI   s y s tem s .   I n   r e co m m en d atio n   an d   ad v er tis in g   en v ir o n m en ts ,   ex p lan atio n s   m ay   in d ir ec tly   r ev ea p er s o n al  p r ef er e n ce s ,   b eh av io r al  p atter n s ,   o r   in f er r ed   u s er   ch ar ac ter is tics .   T h er ef o r e,   u s er s   s h o u l d   b e   g iv en   co n tr o o v er   e x p lan a tio n   v is ib ilit y ,   d ata   d is clo s u r e,   an d   th lev el  o f   d etail  p r esen ted .   Ab s tr ac ex p la n atio n s ,   co n f id e n ce   in d icato r s ,   an d   ex p an d ab le   ex p lan atio n   p a n els  ca n   h elp   u s er s   u n d er s tan d   AI   d ec is io n s   with o u cr ea tin g   u n n ec e s s ar y   d is co m f o r o r   p r iv ac y - r elate d   an x iety .   Fro m   an   en g in ee r in g   p er s p ec tiv e,   th OT PS   f r am ewo r k   ca n   b e   im p lem en ted   as  a   tr an s p a r en cy   r eg u latio n   la y er   b etwe en   th AI   m o d el  an d   t h u s er   in ter f ac e.   T h is   lay er   allo ws  ex p lan atio n   g en er atio n   to   r e m ain   s ep ar ate   f r o m   ex p lan ati o n   d eli v er y ,   m ak in g   it  p o s s ib le  to   r e g u lat ex p lan atio n   d e p th ,   tim in g ,   ab s tr ac tio n ,   an d   u s er   c o n tr o with o u m o d if y in g   th u n d er ly i n g   AI   m o d el.   As  r esu lt,  OT PS   p r o v id es  p r ac tical  ap p r o ac h   f o r   i n teg r atin g   ex p lain ab ilit y   in t o   r ea l - wo r ld   r ec o m m e n d atio n   an d   ad v er tis in g   s y s tem s   wh ile  b alan cin g   in ter p r etab ilit y ,   u s ab ilit y ,   an d   p s y ch o lo g ical   co m f o r t.       7.   CO NCLU SI O N   T h is   s tu d y   p r o p o s ed   th O T P S   f r am ewo r k   f o r   r eg u latin g   tr an s p ar en cy   in   ex p lain ab le  AI   s y s tem s .   Un lik ap p r o ac h es  t h at  f o c u s   m ain ly   o n   in cr ea s in g   ex p lan atio n   d etail,   OT PS   em p h asizes  co n tr o lled   tr an s p ar en cy   b y   m a n ag in g   ex p lan atio n   d e p th ,   tim in g ,   ab s tr ac tio n   l ev el,   an d   u s er   co n t r o l.   T h f r am ewo r k   is   d esig n ed   to   s u p p o r in te r p r eta b ilit y ,   ap p r o p r iate   tr u s ca lib r atio n ,   u s ab ilit y ,   an d   p s y ch o lo g ical  co m f o r in   AI - b ased   r ec o m m en d atio n   an d   ad v er tis in g   s y s tem s .   T h u s er   ass es s m en s h o wed   th at  p ar ticip an ts   g en er ally   pr ef er r e d   ad ap ti v an d   c o n tr o llab le  ex p lan atio n   m ec h an is m s   r ath er   th an   u n r estricte d   f u ll   d is clo s u r e.   T h ese  f in d in g s   s u g g est  th at  ex p lain ab le  AI   in ter f ac es  s h o u ld   p r o v id ex p lan atio n s   p r o g r ess iv ely ,   allo u s er s   to   ad ju s tr an s p ar en cy   lev els,  an d   av o id   u n n ec es s ar y   ex p o s u r o f   s en s itiv b eh av io r al  in f o r m atio n .   Fro m   an   en g in ee r in g   p er s p ec tiv e,   OT P ca n   b im p lem en ted   as  tr a n s p ar en cy   r e g u latio n   lay e r   b et wee n   th AI   m o d el  an d   th u s er   in ter f ac e ,   m ak i n g   it  p r ac tical  f o r   in teg r atio n   in to   e x is tin g   r ec o m m en d at io n   an d   ad v e r tis in g   p latf o r m s .   T h m ai n   lim itatio n   o f   th is   s tu d y   is   th r elativ ely   s m all  s am p le  s ize  o f   3 5   p ar tici p an ts ,   wh ich   lim its   th g en er aliza b ilit y   o f   th f in d in g s .   Fu tu r r esear ch   s h o u ld   ev alu ate  th OT PS   f r am ewo r k   with   lar g er   a n d   m o r d iv e r s u s er   g r o u p s ,   r ea l - wo r ld   AI   p latf o r m s ,   an d   lo n g itu d in al  s tu d ies  to   ex am in h o tr u s t,  co g n itiv e   lo ad ,   p r iv ac y   co n ce r n s ,   a n d   p s y ch o lo g ical   co m f o r e v o lv e   o v er   r e p ea ted   i n ter ac tio n s .   F u r th er   s tu d ies  m ay   also   ap p ly   OT PS   in   o th er   d o m ain s   s u ch   as  h ea lth ca r d ec is io n   s u p p o r t,   in tellig en a s s is tan ts ,   f in an cial  r ec o m m en d atio n   s y s tem s ,   an d   au to n o m o u s   s y s tem s .       F UNDING   I NF O R M A T I O N   T h au th o r s   d ec lar th at  n o   f u n d in g   was r ec eiv e d   f o r   th is   r esear ch .       AUTHO CO NT RI B UT I O NS ST A T E M E N T   T h is   jo u r n al  u s es  th C o n tr ib u to r   R o les  T ax o n o m y   ( C R ed iT)   to   r ec o g n ize  in d iv id u al  au th o r   co n tr ib u tio n s ,   r ed u ce   au th o r s h ip   d is p u tes,  an d   f ac ilit ate  co llab o r atio n .       Na m o f   Aut ho r   C   M   So   Va   Fo   I   R   D   O   E   Vi   Su   P   Fu   Osam Dak h el  Als u h aim y                               M.   R izwa n   J am ee Qu r esh i                                   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       User - ce n tered   r eq u ir eme n ts   el icita tio n   fo r   ex p la i n a b le  A I   tr a n s p a r en cy   … ( Osa ma   Da kh el  A ls u h a imy )   279   C     C o n c e p t u a l i z a t i o n   M     M e t h o d o l o g y   So     So f t w a r e   Va     Va l i d a t i o n   Fo     Fo r mal   a n a l y s i s   I     I n v e s t i g a t i o n   R     R e so u r c e s   D   :   D a t a   C u r a t i o n   O   :   W r i t i n g   -   O r i g i n a l   D r a f t   E   :   W r i t i n g   -   R e v i e w   &   E d i t i n g   Vi     Vi su a l i z a t i o n   Su     Su p e r v i s i o n   P     P r o j e c t   a d mi n i st r a t i o n   Fu     Fu n d i n g   a c q u i si t i o n         CO NF L I C T   O F   I N T E R E S T   ST A T E M E NT   Au th o r s   s tate  n o   co n f lict o f   in t er est.       DATA AV AI L AB I L I T Y   T h d ata   th at   s u p p o r th e   f i n d in g s   o f   th is   s tu d y   ar e   av aila b le  f r o m   th c o r r esp o n d in g   a u th o r   u p o n   r ea s o n ab le  r eq u est  at  th em a il  ad d r ess r m u h am m d @ k au . e d u . s a.   T h d ata  ar n o p u b lic ly   av ailab le  d u e   to   p r iv ac y   a n d   eth ical  c o n s id er ati o n s   r elate d   to   h u m an   p ar ticip a n t r esp o n s es.       RE F E R E NC E S   [ 1 ]   W .   Y a n g   e t   a l . ,   S u r v e y   o n   e x p l a i n a b l e   A I :   F r o a p p r o a c h e s ,   l i m i t a t i o n s   a n d   a p p l i c a t i o n s   a s p e c t s,   H u m a n - C e n t ri c   I n t e l l i g e n t   S y s t e m s ,   v o l .   3 ,   n o .   3 ,   p p .   1 6 1 1 8 8 ,   A u g .   2 0 2 3 ,   d o i :   1 0 . 1 0 0 7 / s4 4 2 3 0 - 0 2 3 - 0 0 0 3 8 - y.   [ 2 ]   R .   V i ss e r ,   T.   M .   P e t e r s ,   I .   S c h a r l a u ,   a n d   B .   H a m mer,  Tr u s t ,   d i s t r u s t ,   a n d   a p p r o p r i a t e   r e l i a n c e   i n   ( X ) A I :   A   c o n c e p t u a l   c l a r i f i c a t i o n   o f   u s e r   t r u st   a n d   s u r v e y   o f   i t e mp i r i c a l   e v a l u a t i o n ,   C o g n i t i v e   S y s t e m R e se a rc h ,   v o l .   9 1 ,   p .   1 0 1 3 5 7 ,   Ju n .   2 0 2 5 ,   d o i :   1 0 . 1 0 1 6 / j . c o g s y s. 2 0 2 5 . 1 0 1 3 5 7 .   [ 3 ]   S .   N a v e e d ,   G .   S t e v e n s ,   a n d   D .   R o b i n - K e r n ,   A n   o v e r v i e w   o f   t h e   e m p i r i c a l   e v a l u a t i o n   o f   e x p l a i n a b l e   A I   ( X A I ) :   A   c o mp r e h e n s i v e   g u i d e l i n e   f o r   u ser - c e n t e r e d   e v a l u a t i o n   i n   X A I ,   Ap p l i e d   S c i e n c e s ,   v o l .   1 4 ,   n o .   2 3 ,   p .   1 1 2 8 8 ,   D e c .   2 0 2 4 ,   d o i :   1 0 . 3 3 9 0 / a p p 1 4 2 3 1 1 2 8 8 .   [ 4 ]   A .   B .   H a q u e ,   A .   K .   M .   N .   I sl a m,   a n d   P .   M i k a l e f ,   E x p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   ( X A I )   f r o a   u s e r   p e r s p e c t i v e :   A   sy n t h e s i s   o f   p r i o r   l i t e r a t u r e   a n d   p r o b l e ma t i z i n g   a v e n u e f o r   f u t u r e   r e se a r c h ,   T e c h n o l o g i c a l   F o rec a s t i n g   a n d   S o c i a l   C h a n g e ,   v o l .   1 8 6 ,   p .   1 2 2 1 2 0 ,   Ja n .   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . t e c h f o r e . 2 0 2 2 . 1 2 2 1 2 0 .   [ 5 ]   S .   A l i   e t   a l . ,   Ex p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   ( X A I ) :   W h a t   w e   k n o w   a n d   w h a t   i s l e f t   t o   a t t a i n   t r u s t w o r t h y   a r t i f i c i a l   i n t e l l i g e n c e ,   I n f o rm a t i o n   F u si o n ,   v o l .   9 9 ,   p .   1 0 1 8 0 5 ,   N o v .   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . i n f f u s. 2 0 2 3 . 1 0 1 8 0 5 .   [ 6 ]   M .   N a i se h ,   A .   S i mk u t e ,   B .   Zi e n i ,   N .   Ji a n g ,   a n d   R .   A l i ,   C - X A I :   A   c o n c e p t u a l   f r a mew o r k   f o r   d e s i g n i n g   X A I   t o o l t h a t   s u p p o r t   t r u st   c a l i b r a t i o n ,   J o u rn a l   o f   R e s p o n s i b l e   T e c h n o l o g y ,   v o l .   1 7 ,   p .   1 0 0 0 7 6 ,   M a r .   2 0 2 4 ,   d o i :   1 0 . 1 0 1 6 / j . j r t . 2 0 2 4 . 1 0 0 0 7 6 .   [ 7 ]   E.   B e r n a r d o   a n d   R .   S e v a ,   A f f e c t i v e   d e s i g n   a n a l y s i o f   e x p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   ( X A I ) :   A   u s e r - c e n t r i c   p e r sp e c t i v e ,   I n f o rm a t i c s ,   v o l .   1 0 ,   n o .   1 ,   p .   3 2 ,   M a r .   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / i n f o r mat i c s 1 0 0 1 0 0 3 2 .   [ 8 ]   M .   S u f f i a n ,   U .   K u h l ,   A .   B o g l i o l o ,   a n d   J.  M .   A l o n s o - M o r a l ,   T h e   r o l e   o f   u ser  f e e d b a c k   i n   e n h a n c i n g   u n d e r s t a n d i n g   a n d   t r u st   i n   c o u n t e r f a c t u a l   e x p l a n a t i o n f o r   e x p l a i n a b l e   A I ,   I n t e rn a t i o n a l   J o u r n a l   o f   H u m a n - C o m p u t e S t u d i e s ,   v o l .   1 9 9 ,   p .   1 0 3 4 8 4 ,   M a y   2 0 2 5 ,   d o i :   1 0 . 1 0 1 6 / j . i j h c s. 2 0 2 5 . 1 0 3 4 8 4 .   [ 9 ]   R .   N i mm o ,   M .   C o n st a n t i n i d e s,   K .   Z h o u ,   D .   Q u e r c i a ,   a n d   S .   S t u m p f ,   U s e r   c h a r a c t e r i st i c s   i n   e x p l a i n a b l e   A I :   T h e   r a b b i t   h o l e   o f   p e r s o n a l i z a t i o n ? ,   i n   Pr o c e e d i n g s   o f   t h e   C H I   C o n f e re n c e   o n   H u m a n   Fa c t o r i n   C o m p u t i n g   S y st e m s ,   N e w   Y o r k ,   N Y ,   U S A :   A C M ,   M a y   2 0 2 4 ,   p p .   1 1 3 .   d o i :   1 0 . 1 1 4 5 / 3 6 1 3 9 0 4 . 3 6 4 2 3 5 2 .   [ 1 0 ]   S .   K a p l a n ,   H .   U u s i t a l o ,   a n d   L .   L e n s u ,   A   u n i f i e d   a n d   p r a c t i c a l   u s e r - c e n t r i c   f r a mew o r k   f o r   e x p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e ,   K n o w l e d g e - B a se d   S y s t e m s ,   v o l .   2 8 3 ,   p .   1 1 1 1 0 7 ,   Ja n .   2 0 2 4 ,   d o i :   1 0 . 1 0 1 6 / j . k n o s y s. 2 0 2 3 . 1 1 1 1 0 7 .   [ 1 1 ]   Y .   G e   e t   a l . ,   E x p l a i n a b l e   f a i r n e ss   i n   r e c o m me n d a t i o n ,   i n   Pro c e e d i n g o f   t h e   4 5 t h   I n t e r n a t i o n a l   AC S I G I C o n f e r e n c e   o n   Re se a rc h   a n d   D e v e l o p m e n t   i n   I n f o rm a t i o n   Re t ri e v a l ,   N e w   Y o r k ,   N Y ,   U S A :   A C M ,   J u l .   2 0 2 2 ,   p p .   6 8 1 6 9 1 .   d o i :   1 0 . 1 1 4 5 / 3 4 7 7 4 9 5 . 3 5 3 1 9 7 3 .   [ 1 2 ]   C .   C h e n ,   M .   L i a o ,   a n d   S .   S .   S u n d a r ,   W h e n   t o   e x p l a i n ?   E x p l o r i n g   t h e   e f f e c t o f   e x p l a n a t i o n   t i m i n g   o n   u ser   p e r c e p t i o n a n d   t r u st   i n   A I   sy st e ms,”   i n   Pr o c e e d i n g s   o f   t h e   S e c o n d   I n t e r n a t i o n a l   S y m p o si u m   o n   T r u st w o rt h y   A u t o n o m o u s   S y st e m s ,   N e w   Y o r k ,   N Y ,   U S A :   A C M ,   S e p .   2 0 2 4 ,   p p .   1 1 7 .   d o i :   1 0 . 1 1 4 5 / 3 6 8 6 0 3 8 . 3 6 8 6 0 6 6 .   [ 1 3 ]   J.  W e st ,   B .   C a g i l t a y ,   S .   Z h a n g ,   J.   Li ,   K .   F a w a z ,   a n d   S .   B a n e r j e e ,   I mp r e ss i v e l y   s c a r y :   E x p l o r i n g   u s e r   p e r c e p t i o n a n d   r e a c t i o n s   t o   u n r a v e l i n g   ma c h i n e   l e a r n i n g   mo d e l i n   s o c i a l   me d i a   a p p l i c a t i o n s,   i n   Pro c e e d i n g o f   t h e   2 0 2 5   C H I   C o n f e ren c e   o n   H u m a n   Fa c t o rs i n   C o m p u t i n g   S y st e m s ,   N e w   Y o r k ,   N Y ,   U S A :   A C M ,   A p r .   2 0 2 5 ,   p p .   1 2 1 .   d o i :   1 0 . 1 1 4 5 / 3 7 0 6 5 9 8 . 3 7 1 3 2 5 6 .   [ 1 4 ]   S .   B a i ,   S .   S h i ,   C .   H a n ,   M .   Y a n g ,   B .   B .   G u p t a ,   a n d   V .   A r y a ,   P r i o r i t i z i n g   u ser  r e q u i r e m e n t f o r   d i g i t a l   p r o d u c t s   u si n g   e x p l a i n a b l a r t i f i c i a l   i n t e l l i g e n c e :   A   d a t a - d r i v e n   a n a l y si s   o n   v i d e o   c o n f e r e n c i n g   a p p s,   F u t u r e   G e n e ra t i o n   C o m p u t e S y s t e m s ,   v o l .   1 5 8 ,   p p .   1 6 7 1 8 2 ,   S e p .   2 0 2 4 ,   d o i :   1 0 . 1 0 1 6 / j . f u t u r e . 2 0 2 4 . 0 4 . 0 3 7 .   [ 1 5 ]   T.   J u n g ,   M .   K o g h u t ,   E.   Le e ,   a n d   O .   K w o n ,   A r t i f i c i a l   c r e a t i v i t y   i n   l u x u r y   a d v e r t i s i n g :   H o w   t r u st   a n d   p e r c e i v e d   h u ma n n e ss  d r i v e   c o n su mer  r e s p o n se  t o   A I - g e n e r a t e d   c o n t e n t ,   J o u rn a l   o f   Re t a i l i n g   a n d   C o n su m e S e rv i c e s ,   v o l .   8 7 ,   p .   1 0 4 4 0 3 ,   O c t .   2 0 2 5 ,   d o i :   1 0 . 1 0 1 6 / j . j r e t c o n ser. 2 0 2 5 . 1 0 4 4 0 3 .   [ 1 6 ]   T.   M i l l e r ,   E x p l a n a t i o n   i n   a r t i f i c i a l   i n t e l l i g e n c e :   I n si g h t f r o t h e   s o c i a l   sc i e n c e s,   Ar t i f i c i a l   I n t e l l i g e n c e ,   v o l .   2 6 7 ,   p p .   1 3 8 ,   F e b .   2 0 1 9 ,   d o i :   1 0 . 1 0 1 6 / j . a r t i n t . 2 0 1 8 . 0 7 . 0 0 7 .   [ 1 7 ]   F .   D o s h i - V e l e z   a n d   B .   K i m,  T o w a r d a   r i g o r o u s   sci e n c e   o f   i n t e r p r e t a b l e   mac h i n e   l e a r n i n g ,   a rX i v   p r e p r i n t   a rXi v : 1 7 0 2 . 0 8 6 0 8 2 0 1 7 ,   d o i :   1 0 . 4 8 5 5 0 / a r X i v . 1 7 0 2 . 0 8 6 0 8 .   [ 1 8 ]   A .   A b d u l ,   J.   V e r me u l e n ,   D .   W a n g ,   B .   Y .   Li m,   a n d   M .   K a n k a n h a l l i ,   Tr e n d a n d   t r a j e c t o r i e f o r   e x p l a i n a b l e ,   a c c o u n t a b l e   a n d   i n t e l l i g i b l e   s y st e ms,   i n   Pr o c e e d i n g s   o f   t h e   2 0 1 8   C H I   C o n f e r e n c e   o n   H u m a n   F a c t o rs  i n   C o m p u t i n g   S y st e m s ,   N e w   Y o r k ,   N Y ,   U S A :   A C M ,   A p r .   2 0 1 8 ,   p p .   1 1 8 .   d o i :   1 0 . 1 1 4 5 / 3 1 7 3 5 7 4 . 3 1 7 4 1 5 6 .   [ 1 9 ]   U .   Eh sa n   a n d   M .   O .   R i e d l ,   H u m a n - c e n t e r e d   e x p l a i n a b l e   A I :   To w a r d a   r e f l e c t i v e   so c i o t e c h n i c a l   a p p r o a c h ,   i n   L e c t u re  N o t e i n   C o m p u t e r   S c i e n c e   ( i n c l u d i n g   s u b seri e L e c t u r e   N o t e i n   Art i f i c i a l   I n t e l l i g e n c e   a n d   L e c t u r e   N o t e s   i n   Bi o i n f o rm a t i c s) ,   v o l .   1 2 4 2 4   LN C S ,   C .   S t e p h a n i d i s ,   M .   K u r o s u ,   H .   D e g e n ,   a n d   L.   R e i n e r ma n - J o n e s,  E d s. ,   C h a m:   S p r i n g e r ,   2 0 2 0 ,   p p .   4 4 9 4 6 6 .   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 0 3 0 - 6 0 1 1 7 - 1 _ 3 3 .     Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci ,   Vo l.  43 ,   No .   1 ,   J u ly   20 26 271 - 2 8 0   280   [ 2 0 ]   Q .   V .   L i a o   a n d   J .   W o r t m a n   V a u g h a n ,   A I   t r a n sp a r e n c y   i n   t h e   a g e   o f   L LM s:   A   h u ma n - c e n t e r e d   r e se a r c h   r o a d m a p ,   H a r v a r d   D a t a   S c i e n c e   Re v i e w ,   S p e c i a l   I ssu e   5 ,   M a y   2 0 2 4 ,   d o i :   1 0 . 1 1 6 2 / 9 9 6 0 8 f 9 2 . 8 0 3 6 d 0 3 b .   [ 2 1 ]   S .   M o h se n i ,   N .   Z a r e i ,   a n d   E .   D .   R a g a n ,   A   m u l t i d i sci p l i n a r y   s u r v e y   a n d   f r a mew o r k   f o r   d e si g n   a n d   e v a l u a t i o n   o f   e x p l a i n a b l e   A I   sy st e ms,   A C M   T ra n s a c t i o n s   o n   I n t e ra c t i v e   I n t e l l i g e n t   S y s t e m s ,   v o l .   1 1 ,   n o .   3 4 ,   A r t .   n o .   2 4 ,   p p .   1 4 5 ,   A u g .   2 0 2 1 ,   d o i :   1 0 . 1 1 4 5 / 3 3 8 7 1 6 6 .   [ 2 2 ]   A .   B u sso n e ,   S .   S t u m p f ,   a n d   D .   O S u l l i v a n ,   T h e   r o l e   o f   e x p l a n a t i o n s   o n   t r u st   a n d   r e l i a n c e   i n   c l i n i c a l   d e c i si o n   su p p o r t   sy s t e m s,”   i n   Pro c .   2 0 1 5   I EEE   I n t .   C o n f .   H e a l t h c a re   I n f o rm a t i c s   ( I C H I ) ,   D a l l a s ,   TX ,   U S A ,   O c t .   2 0 1 5 ,   p p .   1 6 0 1 6 9 ,   d o i :   1 0 . 1 1 0 9 / I C H I . 2 0 1 5 . 2 6 .   [ 2 3 ]   H .   J.  O h ,   J .   K i m,  J .   J.   C .   C h a n g ,   N .   P a r k ,   a n d   S .   L e e ,   S o c i a l   b e n e f i t o f   l i v i n g   i n   t h e   m e t a v e r se:   T h e   r e l a t i o n s h i p s   a m o n g   s o c i a l   p r e se n c e ,   s u p p o r t i v e   i n t e r a c t i o n ,   s o c i a l   sel f - e f f i c a c y ,   a n d   f e e l i n g o f   l o n e l i n e ss,”   C o m p u t .   H u m .   B e h a v . ,   v o l .   1 3 9 ,   A r t .   n o .   1 0 7 4 9 8 ,   F e b .   2 0 2 3 ,   d o i :   1 0 . 1 0 1 6 / j . c h b . 2 0 2 2 . 1 0 7 4 9 8 .   [ 2 4 ]   C .   D e n g ,   A .   K i m ,   a n d   W .   L u ,   A   g e n e r i c   b a t t e r y - c y c l i n g   o p t i mi z a t i o n   f r a mew o r k   w i t h   l e a r n e d   sa mp l i n g   a n d   e a r l y   s t o p p i n g   st r a t e g i e s ,   Pa t t e rn s ,   v o l .   3 ,   n o .   7 ,   A r t .   n o .   1 0 0 5 3 1 ,   J u l .   2 0 2 2 ,   d o i :   1 0 . 1 0 1 6 / j . p a t t e r . 2 0 2 2 . 1 0 0 5 3 1 .   [ 2 5 ]   S .   v a n   d e n   El z e n   e t   a l . ,   T h e   f l o w   o f   t r u st :   A   v i s u a l i z a t i o n   f r a mew o r k   t o   e x t e r n a l i z e ,   e x p l o r e ,   a n d   e x p l a i n   t r u s t   i n   M L   a p p l i c a t i o n s,   I EE C o m p u t .   G r a p h .   Ap p l . ,   v o l .   4 3 ,   n o .   2 ,   p p .   7 8 8 8 ,   M a r . A p r .   2 0 2 3 ,   d o i :   1 0 . 1 1 0 9 / M C G . 2 0 2 3 . 3 2 3 7 2 8 6 .       B I O G RAP H I E S O F   AUTH O RS       O sa m a   Da k h e Alsuh a im y           is  c u rre n tl y   p u rsu in g   th e   M . S .   d e g re e   with   th e   De p a rtme n o In f o rm a ti o n   Tec h n o l o g y ,   F a c u l ty   o C o m p u t in g   a n d   I n fo rm a ti o n   Tec h n o l o g y ,   Kin g   Ab d u laz iz  Un iv e rsity ,   Je d d a h ,   S a u d Ara b ia.  His  re se a rc h   in tere sts  in c lu d e   i n fo rm a ti o n   tec h n o l o g y ,   a rti ficia i n telli g e n c e ,   a n d   e m e rg in g   c o m p u ti n g   a p p li c a ti o n s.   He   c a n   b e   c o n tac te d   a e m a il o a lsu h a y m i 0 0 0 6 @s t u . k a u . e d u . sa .         M.   Riz wa n   J a m e e Q u r e shi           re c e iv e d   h is  P h . D.   d e g re e   fr o m   th e   Na ti o n a C o ll e g e   o Bu sin e ss   Ad m in istrati o n   &   Ec o n o m ics ,   P a k istan ,   i n   2 0 0 9 .   He   is  c u rre n tl y   a   F u ll   P ro fe ss o r   with   t h e   De p a rtme n t   o f   In f o rm a ti o n   Tec h n o lo g y ,   F a c u lt y   o f   C o m p u ti n g   a n d   I n fo rm a ti o n   Tec h n o l o g y ,   Ki n g   Ab d u laz iz  Un i v e rsity ,   Je d d a h ,   S a u d Ara b ia.  He   h a b e e n   re c o g n ize d   a t h e   Be st  Re se a rc h e b y   th e   De p a rtme n o I n fo rm a ti o n   Tec h n o l o g y ,   Ki n g   A b d u laz iz  Un i v e rsity ,   in   2 0 1 3   a n d   2 0 1 6   fo h is  o u tsta n d in g   re se a rc h   c o n tri b u ti o n s.  His   re se a rc h   in tere sts  in c lu d e   so ftwa re   e n g i n e e rin g ,   i n fo rm a ti o n   sy ste m s,  a rti f icia l   in telli g e n c e ,   a n d   e m e rg in g   c o m p u ti n g   tec h n o l o g ies .   He   c a n   b e   c o n tac ted   a e m a il rm u h a m m d @k a u . e d u . s a .     Evaluation Warning : The document was created with Spire.PDF for Python.