In te r n ation a l Jou rn al  o f E v al u a t i on   a n d   R e se arc h  in   Ed u c ation   ( IJERE )   V o l.7,  N o.3,  S eptem b er  2 01 8 ,   pp. 167~ 1 7 5   IS S N : 2252- 88 22  D O I : 10. 1 1 591 /i jere .v7.i 3 . 133 46           167     Jou rn a l  h o me pa ge :  ht tp: //i a e score . com / j o u r na l s / i n d e x . p hp/IJ ERE /   U n derstandi ng F aculty Engagem ent in Assessment through  Feedbac k  and Di alogues: A Mixed Methods Appr oach       Robert  W E l liott  Dep a rtm e nt  o Eng lish ,   F orei gn Lan g u a ge  S ch ool Lin y i   U niversit y,  P e o pl e's  Repu bl ic  o Ch i n     Art i cl e In fo     ABSTRACT   A r tic le hist o r y :   R e c e i v e d  M ay  2 0 , 2 018  Re vise d Ju l 1 3 201 8   A c c e pte d   J u l   26,  201 8       The  literature  i ndi cates  f acul t y   members'   b elief s   a nd  a tt i t udes  t o w a r d   ass e ss ment  a re  c ruci al  t t h succes sf u l   i mpl e men t atio of  a ss e ss m e nt.  Ho wev e r,   f ew  e m p i r ical  s tu di es  h ave  exam i n ed  t he  c u l t u re  o f   as s es sm en am on f acul t y   mem b ers.  T he  i n t en o f   t h i s   sin g le-l evel  m i x ed   m e t h o d cas st ud i s   t id en t i f y   t h e   f acto r s   and  exam in h o th ese  f act ors   in flue nc f acul t members '   p ercept ions,   at titudes,  a nd  t he i r   e ngagement   i as ses s m e n t   acti v iti e s   b y   s t u dy in th case  of   a   p u b lic  t eachi n g   i n ten s i v un iversit y   i n   the   So uthwe s re gio n   o f   t h e   U .S An  o n l in e   surv e y   a nd  a s y n c h ro no us  fo c u group  interview s   a re  u sed.  T he  i mp l i cati ons  f or   i nsti t u tional  p oli c y   m a ki ng  and   pro f ession al d evel op men t   a re  d is cus s ed, bas e d  o n the f i ndin gs.   K eyw ord :   Assessment  Facu lty   Percep t i on Mi x e d   M e t hods   Co pyri gh t © 2 018 In stit u t of Advanced  En gi neeri n g  an d   Scien ce.    All  rights   res e rv ed.  Corres pon d i n g  Au th or:   Robert W. Elliott,    D e pa rtem ent o f   E ng l i s h ,   F o r e ig n La ng ua ge  S choo l,  L iny i   U nive rsi ty ,   M i d d l S hua ng li n g  R d,  L i n y i S h a n d ong,  P eople ' s Rep u b l i c   of C hi na  2 7 6 0 00.    Em ail:  rbrt_ llt t @ ya h oo.c o m       1.   I N TR OD U C TI O N   C o n f ro nt i ng  t h c o n t i nue de m a nds  f or  a c c o u n t ab i l i t fr o m   t he   p ubl i c hi gh e r   e du cat ion   in sti t ut i o n s   must  a ssure   t h e c a m a in ta i n   t he   q u a li ty  o educ a t ion  w h e n   s e r vi n g   d iv er se   s t ude n t   p o p u l a t i ons  o re duce d   b udg e t s.  A sse ssmen t   is  u sed   wi d e l y   a mec h a n i s fo re sp ondi n t o   t h e se  d em and s   a nd  is  a l s be lie ve to   impro v e   st u d e n lear n i ng.   N one t h ele ss,   t h e   w a y   t hat  a s s e ssm e nt  has   been  i m p lem e nted  i unsatisf acto r y.   Ba se on   t he   a na l y s i o f   s urvey   da ta   c o lle cted   from   2,0 8 9   A me ri can  c o lle ge  a n d   u ni v e r s it a d mi nist ra tors,  the N a t i ona l   In st i t u t e for Lea r ni ng O u tc om es  A ssessm ent 2 0 0 9  re por t [1] ind i ca tes t h a t  fa c u l t y  e n g agem ent is  the   pr im ary  c h a l l e n g for  the   ta sk  o f   assess me nt   a h i g h er   e d u c at io in st i t ut ion s Th e   pu rpo s e   o f   t hi s   sin g l e - leve l,  m ix ed  m etho ds   case   st ud is  t ide n t i fy   a n d   e xa mine   e m p i r i c a l l y   t he   f ac tor s   t hat   i n fl ue nce   fac u l t y   me mbe r s'  e nga gem e nt  i lea r ni n g   o utc o m e s   based  a s se ss m e nt.  More   s p e c i fica ll y,  it  is   i n t en de t o   e xp l o re  in div i dua in te rna l   f ac t o r s   ( e . g.,  be liefs,  pe rce p tio ns,  at tit u de an k n o w led g e )   a nd   e xter na fa ct ors   (e .g.,  in st i t u tio na c u ltur e po l i c i e s   a nd  res ourc e s)  on  the i w ill i n g ness  a nd  ac tua l   p ar tic ipa t io i n   a ssessme n t .   A s   researchers  st a t tha t   litt l is  k n o wn  a bo ut  f aculty  and  st udents’  attitudes  regard ing  d i f f e r e n t   a s p e c t s   o f   a sse ssme n tha t   h a v e   w i de -ran gin g   i mplica ti on f o p o l i cy  a n d   p ractic e   i n   t erti ary  i n s t itu t ions ”  [2 ] ,  t he   fi n d in gs  from   th i s   s t u dy  w i l l   p ro vide   m uch  ne e d e d   e mpirica l   e v i de nc a b o u t   f ac ul t y ' s   e nga ge m e nt  i n   assessm ent   to  i nform   po lic a n d   pr o f ess i ona deve l opme n in i t i a ti ves,   a n d   to  d e v e l op  a   me ans  for  m easur ing   the c u lture  o assessm ent a m o ng fac u lt y m e m b er s.  re v i ew  o f   t h lit era t u r [ 2   -   7 rev e a l ex a m i n a t i o n s   o f act o r s   th at   i mp a c t   f a cu lt y   me mb e r s '   enga ge me n t   i n   a s se ssm e nt  a cti v it ies,  s uc as:  (a)   t i m e   r equ i rem ent ;   ( b)  w or kloa d ;   ( c)  l a c of  a sse s sm ent   kn ow le d g a n d   r e source s ;   ( d)  d o u b a b o u t h ne cess i ty  o asses sment;  ( e f e ar  o linking  assessment   results   w ith  f ac ult y   e va lua t i o n ;   ( f)   c once r o f   a sse ssm e nt  i nterc e di n g   aca dem i c   fr eed om a nd  et c.   H oweve r few  di sc ussi o n s re st   s o l el y o n  e mpirica l  exa mina t i o n   Evaluation Warning : The document was created with Spire.PDF for Python.
                         I SSN: 2252- 8822  IJERE   V ol .   7,  N o.  3,   S eptem b er  20 18 :   1 6 7   – 175   16 8 More   i m p orta nt l y the  li t e ra ture   r eve a l su cc essful  a c a d e m ic  p r ogra m ar the  re su l t   o e nga g i n g   fa cu l t a s   a i n te gra l   c om p one n t   o t h c o n t i nu um   o le a r ni ng”   [ 6 ]   t hro u g h   a s s essm en c y cle s   t ha t   i n vo l v e   stude n t s,   f a c u l t y   m em bers,   a d mini st r a t o rs  a nd ot hers.   F u r t h e r,  M a k i   p o i nt to   t h e   e xi st en ce  o f   “ca mp u s -wi d e”  and   p rogra m -   or   d epa r tme n t a l- leve a sses s me nt   c om m i t t ee s”  t g a i n   c onsens u s   for   e x pec t at i ons   a bou stude n t   l ea r n i n g”  [ 6].   The  lit e r ature   i n dica te a l so  t ha as ses sm ent  of  s tude nt  l ea rni n g   ou tc om es  a hi g h er   educ a t i o i n st i t u tio ns  i a n   i n t egr a ted  part  o t e ac h i n g   a n d   a n   i m porta n t   w ay  t impro v e   st ude n t   l e a r n i n g,  a n d   th us  g over n me nts  an pro f e s si ona as soc i a t i o n s   e n d o rse  an c a l l   f or  a sse ssmen t   i n   h i g h e ed uca t i on  in st i t u tio ns [2,  3,   - 7] .    Mea nw h i le,   st ude n t   l ea rnin g   ou t c ome s   a ss essm ent  is  a l s an   i m p orta n t   c r i te rio n   f or  acc redi tat i on.  A s   i n d i ca te by   o the r [ 1 3,  5     7 -   11],   A ndr a d [1 2]  p o i n ts  o ut  s ucci nc t l y,  a ccou n t ab i l i t y   i a n   expe c t a t i o fo ins tit i t i o ns  o h i ghe e duc a t i o n”  a nd  r e q uirem en ts  r ela t ed  t a c c r e di ta tio ar des i gn e d   t c r e a t e  a  c u l t u r e  o f   a s s e s s m e n t  w i t h i n   c o l l e g e s  a n d   u n i v e r s i t i e s   [p  2 31].   H o w e ver,   a   c ult u re   o a sse ssm e nt  ( as   a n   i nt eg rat e d   p a rt   o t e a c h in a nd  l e arnin g ,   a well   a i n st it u t i on a l   p l a nni n g   a nd  op e r at i o n s at   m any  A m erica n   h ig h e r   e duca t io i n st i t u tio ns  i fa from   b e i ng   f ully   es tab l i s he d.  I ad d iti on,  f a c u l t y   e ng a g em e n t   in   assessm ent  h a s   b e en  i de nt ifie as  t he  p rima ry  c ha lle n g e   f o th e   t a s [ 1 ].  E m p irica l   s t udie s   t ha exa m i n e   how   fa ct ors  inf l ue n ce  facu l t e n g a ge me nt   o a sse ssm e nt  a r e   v ery  lim i t e d   [ 2]  a nd  li t e rat u re   t ha t   a ddresses  the  us e   of  a o n l i ne   m oda l ity  t he l p   a c h i e ve  t h i g o al   i s   n o n ex is t e nt.   C o n v er se l y m a ny  rese arc h ers  a l so  h i g hl i g ht   the  op p o rt un iti es  f or   s ch olars h i p   a n d   f a c u lt y   deve lo pm en in  t h a sse ssmen t   a r en a   t o   m ak e   po si t i v e   c h a n g es  in t he  a re as of  teac h i ng,  lea rn in g, a nd c u rric u l u [1,   3,  4 10,  12 -  15].    There fore th is  r ese a rc st u dy  w i l l   c o n t r ibu t to   t he  a d v a n cem en of  know l e d g in  i de n tif yin g   fa ct ors  t h a t   i nf l u e n ce  fac u l t y   e nga ge me n t   i n   a s se ssm e n t   a hi g h e r   e du c a t i o n   i n s t itut i on s.  T hi res e a r ch   s t udy  has  im p l i c at io ns  f or  p rac t ice it  w ill  i n for m   policy  to  b e tter  e ng ag fa cu lty   in   a s s es sme n t   ac ti vi ti e s a n d   i t   w ill  be   h e l p f ul   f or  i m p r o v i ng  assessme n t   p r ac t i c e   a n d   sc h o lar s h i p .   In   s h o rt,  t h is  s tu dy   a d a p t t h e   the o retica l   fra m e w ork  tha t   c om b i ned  F i shb e i n   a n d   A j z e n 's  [ 16]  r e a son e ac ti o n   t heor a n Ba ndur a ' [17]  s oci a l   cog n i t i ve  the or y.  Rea so ne d ac t i o n  the ory e s t a b l is hes t h e re la t i on s o f   i nt erna l   f act o r s   on  ind iv i d u a l   b e h a vi o r It   pos its t he  i n t e n t i o n  to  p e rfor m   t he  be h a v ior a s   b ei ng t h bes t   pre d i c t o r   of  b eha v i o r.    I n  ad d i t i on,  t he  in t e n t is  t hou g h t t o  b e c a use d  by a n   i ndi vi d u a l ' s s u b j e c t ive nor ms an d  h is /he r  at t i t ude   tow a rd   p er form ing  t h be ha vior These   a t t i tu des   are   t h o u g h t   t be  a   f un c t i o of  t he  i n d i v id ua l ' be lie fs  a bo ut   t h b e h a v i o r So ci al  c ogn iti v th e o ry   p ropose s   t h a t   p e op l e   a re   drive n   n o t   o n l by  i nner   forc es,  b u al so  b y   exter n al   f a c t or [4,  13,  18].  Th is  m ode s u g g es ts  t hat   h u m a fu n c t i oni ng   c an   b e   exp l ain e by   a   t ri a d i c   in t e rac t i o n   of  b eha v i o r ,   p er sona a n e n vi ronme n t a l   fac t ors.   E n vi r onm e n ta fac t ors  re presen s i t u a tio na l   in flue nce s   a nd   e nv iro n me n t in  w hic h   b eha v i o is  p re form ed  w h i l per s o n a l   f ac tors  i nc l ude  i ns tinc t s,   d rives,   and  ot he r in di v i d u a l   m ot iva t io nal for ces.         2.   RESEARCH  M ETH O D   Th is  s i n gle- le v e l,  s eque n tia mixed  m e t h od c a se  s t u d y   w as  c on d uc t e a t   a   s m a ll  pu b lic  t eac hin g   in t e nsive   u n i ve rsity i n the   S o u t hw es r e gi on of the   U . S .   A n  on l ine   s u rve y  w as adm ini s ter e d i n   A pr i l  2 0 14 a n one   f oc us  g ro u p   o asy n c h ro n ous   d i s c u ss i o n s   w as  c o n duc te in  t h M a rc 20 15 Th i s   s t u d y   e xt en ded   the   u s of  a e x isti n g   s urve t o   e xa mine   t he   i mpa c o f   f ac ul t y   m e m be rs’   a tti t udes  to w a rds  ass e ssment  on  t heir  actual  enga ge me n t It   a d d e d   i t e ms  t m e a s ur t h e   i n flue nc of  i ns ti tut i ona fac t ors,  s uc a s   i n s ti tut i ona p o l i c y,  resour ce  ava i l a bil ity,   t r ai n i n g   o p port u nit i e s ,   a nd  t h e   pe r c e i ve d   c l i m a t o f   a ss ess m en o n   fa cul t y   m emb e rs’  att itu de  a n d   e n g age m e n t   in  a ssessm ent a c t i vi tie s.   The   f i r s s t e p   w a s   t a d mi n i st e r   a o n l i ne  s ur ve t o   f ac u l t y   m e mbe r as  a   c onve n i e n c e   s am ple  t o   c o mp l e t e   a   108 -it e su rv ey  i n   M a rc 201 4 ,   l e a di ng   t o   pu rpo s e f u l   s am pl e   of   f ac ul t y   m em ber s   t pa rtic ipa t e   in  a o n li ne  f o c us  g ro u p   t di scuss  s i ope n - ende i t em s.  T he   m et hods  and  results  a r e   p res e nt ed  a separ a te  qua n t i t a tive  a n q u a l i t at i v i nqu irie s,   w hic h   a re   t he m e r g ed  i n t m o re  h o l is t i in terpr e tat i o n,   a ex pl aine d   by  Cresw e ll   &   P lano  Cla r k [1 9] . T h i exp l a n ator se que n t i a l des ig n fl ow   i s   di s p la ye d in F i g ur e 1.   Thr ee  cr i t e r ia  w ere   use d   f or   s ele c tin t h c a se   s t u d y   i nst itu t i on (a)   the   c u l t u re   o i n no vat i on  an d   impro v e m e n a t   t he   i ns tit u t i o n ,   ( b)  t he   h is tor y   o the   inst i t u t i o n’s  in vo l v e m ent  w i th  a c a d em ic  a sse s sm ent,  ( c )   the pr o x im ity  t o   t h e resea r che r’s l oc at ion,  a n d  (d)  ea s e of a c c e s s.  The  r e s ear ch f oc us e d   o n the p o ss ib l e  fa c tors   in vol ve i n   f a c ul ty  e n g agem ent   in   t he   a sse ssme n of  s tud e nt  l ea rni n g.  M ore  spe c i fica ll y,  i t   exam i n e d   t h e   re su lt o f   a   q ua n tit at iv su rve y   r el at e d   t o   t h p e rce p t i o n s   o f   facu l t m e mbe r   p ar t i c i pa nts  t o   i nform   the   foc u of  t he  t o p i cs  d isc u sse in  t he   c a m pus-w ide  foc u gr ou p.   I ns ti tu t i ona Re view   B oar d   a p p ro va l   a nd  in form ed  con s en t of e ac sur v e y  a nd foc u grou p pa r tic i p an t w e re  o b t a i ne d.     Evaluation Warning : The document was created with Spire.PDF for Python.
IJERE   I S S N :   2252- 88 22       Un d e rsta ndi ng  Fa c u l t y En gag e m ent  i n  Assessme n t   t h rou gh Fee d ba c k  a n d  Di al ogu e s  …   (Rob e r t  W. El li o t t )   16 9     F i gure   1.  E xp l a nat o ry  S eque ntia D e sig n :   F ol l o w - up Ex p l ana t i o n s   M od el  ( Q U A N  e mp h a si z e d [ 19:   p 7 3 ] .         2. 1 .   Quan titative  M et hod     The   s u rve y   w a s   a dmi n i s t e re d   t o   i de nt ify  the   fac t or tha t   i n f l u e nc fa c u lty   m em ber s   engage me nt  i assessm ent.  T h i s u rve y   w as  hos te on   t he  c ase  i n s tit ut i o n ba sic   su bscr ip t i on  S u rve y Mo n k e y   a n d   c ons is ts   of  1 0 8   item s   t ha e x am in t h fac u lt me mbe r s’  p erc e ptio ns  o t h e  v a l u e  a n d   u s e  o f   a s s e s s m e n t ,   t h e i r   perc ei ved  barr i e rs a nd cha l l e n g es, and t h e i r conc er ns relate d  t o en ga gin g  in assessm ent a c t i vi tie s. This s u rvey   w a de signe to  t a k n o   m ore   th a n   1 m i n u te t o   c omp l e t e .   R esu l t s   fro m   thi s   s urve w e r e   a na lyze d   for  th e   pur poses   o a g grega t i n them   f or   u se  i n   t h foc u gro up,  w hic h   e n gage in  d isc o ur se   a b o u t   h ow   t fos t er   a   cul t u re  o f a s se ssme n an d to  i nf o r polic y re l a te d t o  a sse ssm e n at t he  c a s e   ins t i t ut ion.    M a k i ng  u s e   o f   4 5   i t e ms  fro m a n   e xi st in su rv ey  a b o u t   f a cul t me mbe r s’  a tti tu de  tow a r ds   a sse s sm en t   [1 5],   a   108- it e m   s urvey  in st r u me nt  w as   d eve l ope t o   e xam i n e   f ac ult y   p er ce pt i o ns  o the i v a lue  o f   assessm ent,  t h e ir  p e r ce ive d   b a rrier and  c h al le nge s,   t he i r   c onc erns  r el ate d   t e n gag i n g   i a s se ssm ent   ac t i v i ti e s the i r   k now l e d g a n e xpe r i ence   i asses s m e nt,  as  w e ll  as  t he  a vai l a b ili ty   o nece ssary   r eso u rce s A ll  o p i n ion  i t e m used   a   f ou r - poi nt  L iker scale ,   r ang i ng   f rom   s tron gly   d i sa gre e”  t o   st r ong ly  a gr ee, ”  or  from  “ not  a p p l y  at a ll” to  a p p l y  to gre a t e x t e nt.” T he s urv e w a s adm i n i stere d  in   A p r il 201 4.   A ll 14 6 fac u lt me mbe r w e r e   i n v i t e vi a   em ail  to  p a r ti c i pa te  i t h e   o n li ne   s ur ve for  a   tw o- w eek  p e r i o o f   t he  1 46  in vi te fa cu l t me mbe r s,  36 had  par t i c ipa t e d   a n d   3 had  com p le t e d all s urve y i t em w ith va l id re s po n s e s .   Bec a u se  t he   s am ple  size   w a s   i na de q u a t e   for   c ond uc t i n g   a   m u lti va ri a t an a l y s i s   a was   p l ann e ori g i n a lly,   m u lti p l e   re gress i o n   w as  u se t o   d eterm i ne  t he   r elat io nshi ps   a m ong   t he  t w o   c riteri on   v ar i a ble s   o w i lli ngn es s to   e n gag e  in  a s sessme n an d en ga gem e n t  in  a ssessm en t ,   alo ng  w i t h   t he  e igh t   p re dic t or   v a r iab l es  of:  (a)  lac k  of k now le dge ;   (b l a c k   of  supp or t  and   r e so u r c e s (c)  con c er n of  assessment  as a thre a t e n ing   to   fac u lt y s au t o n o m y ; ( d a ssess m e nt  as  t i m e  con s um in act i vity ; ( e asse ssm e n t is usef u l   f o r the  i m prov e m e n t   of te ach i ng ( f)  a s ses s ment  fo r  fa cul t evalu at i o n (g)   a s se s s m e n t  a s  s c ho la rl y   w o rk ;   and  (h)  t h e cul t u r e   o f   assessment at the  institution     2. 2 .   Qu al itati v Met h od   A   qua l i ta ti ve  d es ig e n a b les   rese arc h ers  to  o bta i da ta   d ire c t l from   e ach  p a r t i c i pa nt  t hat  has   kn ow le d g an e x perie n c e   w it the   resea r ch  t o p i [1 4] In  t hi st ud y,  w e   collec t ed  r espo nses  f ro m   focu s   gro up  p a rtic i p a n t s   w ho  ha init ia th ou g h ts  a b o u t   t he   w ord,  a ss essm ent,  h a v be e n   i n vol ve d   wi t h   a sse ssme n t have   u se assessm ent  da ta   t i m pro v e   the   cour se t h e y   t ea ch,  ha ve  h a d   c o nver s a tio n s   w ith  o t h ers  a b ou t   assessm ent,  a n d  ha v e s o m e   f am il ia r ity  w ith  t he  in s ti tu t i o n a l   p o lic i e s an proce dur es r elate d   t assessm en t.   I n form ed  by  t h fi nd ings   f ro m   the   s u rve y   r e s ults,  foc u s   gro u p   w a s   f ormed   i n   M a r ch   201 5 .   T he  foc u g r o up  c o ns ist e of  1 fac u lt m e m b er an b o t re s ear cher s .  T h e  f o c u s   g r o u p  p a r t i c i p a n t s  w e r e   s e l f - selec t e d   t hro u gh  t h e i re sp o n s e   t a n   e -m ail  i nvi ta ti o n   r e que s t i n the i par tic i p a t i on.   T pr ov ide   a   repr esenta t i ve  s am ple  of  t he   f ac ul ty  p opu la ti o n selec tio for  t h foc u gro up  w a bas e o n   t he   f ol low i ng   f a c t o r s:   ( a)  g end e r;   ( b )   r ac an d   e t hn i c ity ;   ( c)  t ea ch ing   di sc i pl i n e;  ( d)  c urre nt  s ta t u a t   t he  u n i ve rsity  ( ten u re d,  ten u re -trac k or  a dj u n ct / r es ource );  ( e )   a dmin istra t ive   role  a the  university   a nd  (f)  years  of   c ollege    teac h i ng  e xper i e n ce.       3.   RESULT S   A N ANALY S IS   Th e ca se  s t udy i n st i t u tio n   h a d 1 5 6   ful l - ti me  a n d   2 0 5   p a rt -time  facult y m e m b ers. The  nu m ber  of  f a c u lt y   memb ers an d   d e mo g r a p hi c b r ea kdown   are   s h o w n   i n  Ta b l e  1 .        QUAN      Dat a     Col l ec t i on     QU AN     Dat a    An aly s i s     QUAN      Res u l t    I d en tify    R e sults for     F o llow   up     Q UAL     Dat a     C o llec tio    QUAL    Dat a     An aly s i s      QUAL    Re s u l t s      I n t e rpret a tion     QU AN          qua l      Evaluation Warning : The document was created with Spire.PDF for Python.
                         I SSN: 2252- 8822  IJERE   V ol .   7,  N o.  3,   S eptem b er  20 18 :   1 6 7   – 175   17 0 Tab l 1. F ac ul t y   S am ple  P opu lat i on  D e m ogr aph i cs    C a t e gor y   N u m b e r   o P a r t i c ipants  ( n)   P er ce ntage  o Cam p us  P op ula tion  Ma l e   6   50. 6   Fe m a le  4   49. 6   A s ia n   3. Ca u c a s i a n   59. 6   O t he r   9. Te nure   T r ac k/Te n u re 10   75. 6   T o ta l   S a m p l e   1 0   6. pe r c e n t   of  t ota l   popula t ion  N o t e :   Th er w e r e   n o   f u ll- ti me  f a c u l t y   m e m b e r s  t h a t   i d e n ti f i ed  t he   r a c e s   not  s how n i n   t his  ta bl e.    Qua n tit a tiv e   Findings:  S u rve y  Re s p onse s     The r w e re  3 7   fac u l t y   m e m be rs  w ho  re spo nde d   t h e   on l i n surve y ,   w i th  3 va li re spons e s .   Th e   val i d   r espo nse  ra te  w as  22. 6 % P r ior  to  r u n n i n g   sta t is ti c a l   a na l y ses,   t he   r elia b i lit an v a l i d i t y   o t h s u rve y   in strum e n t   w er tes t ed.  F acto r   a nal y si was  con d u c t e d   a nd  som e   i t em w e re  d r oppe to  i ncre ase  c ons ist e n c y   am ong   i tem s   f or  o ne  f ac tor .   F a c tor  ana l ysi s   w a s   c o nduc t e a g ai n   w i t the   revise s u rve y   i ns trum en t.  T ab le   2   con t a i n s   t he   s um ma ry  o t h resul t o f   f a c tor  ana l ys is  a fter   d r o p p in g   inc o nsi s te n t   i t e ms.   A l va lu es  o Cr o nbac h ’s  A lpha   w er a b o v e   0 .7,   w h ic c a be  c o n s i de r e g o od  f or  i n t e r nal  c onsis te n c rel i ab i l i t y.  U sin g   the c l e a ne d da t a ,   a desc ripti v e   data  a na lys i w a cond uc ted   and  the res ults  ar e   s um m a riz e d in Ta b le 3.         Ta b l e   2.  Rel iab ili ty A na l y sis o f   t he S urvey  Re sp on se  D a t a   V a r i a b le I t e m C r o n b a c h s   A l p ha   P a rti c ip a t i on i n   A s s e s s m e n t   0. 887   W illingne ss   4   0 .874   Lac k   o K nowle dg 0. 906   La c k   o Suppo rt   4   0 . 807   C once r of  T hre a t e n ing  0. 791   Tim e  C onsum i n g   0. 936   Asse ss m e nt  f or  I m p r o ve m e nt  6   0 . 874   A sse ss m e nt  a F a c u l t y   Ev a l u a tion  0. 914   As  S c hola r l y  Work  0. 750   Instit uti ona l C u ltur e  of Asse ss me n t   4   0 .871       Tab l 3.  D escri p t i ve  A nal y sis of V a r iab l D a ta   Var i able s   Me an   S tand ar d   D e viation    Wi llingne ss   1 . 959 7   . 9176    Pa r tic ip a tion  2. 161 3   . 7811    Sc hol a r ly  Work  2. 541 7   . 4157    T i m e   on  Ass e ss m e nt  1 . 505 4   . 8383    Im pr ove   T e a c h ing  2. 553 8   . 4180    A s   E v a l u a tion  1. 677 4   . 8839   L a c k   o K n o w le dg 1. 161 3   . 9808    La c k   o Suppo r t   1 . 247 3   . 9025    C u l t ur e   of   A ss e s s m ent  2. 032 3   . 7739       To  f in o u t   w hic h   f ac t o r   inf l ue nces   wil lin gn e s s  a n d   ac tu a l  par t i ci p a tio n i n   as sess m e nt l i n e a r   regr ession  a n al yses  w ere   con duc te d .   T he   r e s u lts  i nd i c a t i n g   part ic i p an ts’   be lie t h a t   a ss e s sm ent  c a n   i m p rov e   qua l ity  o tea c h i n i s   t he  s i n gl e   sig n i fica nt  f ac tor  t o   p red i ct  a   f a c u l t y   m e m b e r s  w i l l i n g n e s s   t o  e n g a g e   i n   assessm ent.  T here   w a s   no  si ng l e   f ac t o t o   p red i c t   s ign i fica ntl y   t he   a c t ua par t ic i p a t i o i n   a sse ssm en t   act i viti es, as shown in Table 4.         Tabl e   4 .  An a l y si s o f  Fac ul ty  M e m b e rs’ W i ll i ngn e ss t o  Eng ag e   i n   Assess ment   V ar i a bl e s   V a r i abl e s   B   SE  B e t Sc hola r ly  Work  1. 441   . 296  . 065   T i m e   on  A s s e ss m e nt   - . 200   . 159  - . 186   I m prove   T e a c h ing  1. 500   . 287  . 685** *   A s   E v a lu a tion  - . 039   . 128  - . 037   La c k   o Know le d g . 173   . 113  . 184   Lac k   o f   S upport   . 140   . 156  . 140   C u lture  of  A s s e ssm ent   . 286   . 167  . 243   ***p< . 001    N o t e :   Pea r son  c o r r e l a t i o n a n a l y s is  r evea l e d a  signific a n t c o r r e la ti on   b e t we e n  Wil lingne ss a n d   P a r t i c ip a tion  (r = . 4 61,   p < . 01) .     Evaluation Warning : The document was created with Spire.PDF for Python.
IJERE   I S S N :   2252- 88 22       Un d e rsta ndi ng  Fa c u l t y En gag e m ent  i n  Assessme n t   t h rou gh Fee d ba c k  a n d  Di al ogu e s  …   (Rob e r t  W. El li o t t )   17 1 We   a l s o   con duc t e t - t e st   t o   f i nd   out   i f   t h e r e   wa d i ff e r en c e   by  ge nder,   a ge,   or  y ea rs  o teac hin g   am ong   t he   f ollow i n g   v a r ia b l es:  w i l l i n gne s s ,   actua l   par t i c ipa tio n,  a n d   e ig h t   opi ni o n   v a r ia bles.   T h e   t-te st   resul t i n d i ca te   m en  a r e   m ore   l i ke ly   t o   en ga g e   i asse ssm en ac t i v ities   tha n   a re   w om en   ( t = -2.1 5 8 ,   p < .0 5 ) ,   but  there   w a n o   d iffe renc in  a c t ual  part ic ipa t io n   i n   a sses s me n t   b gen d e r   n o r   w ere   ther any  d i ffe renc es  a cr oss   all  op ini o va r i a b l e s.  T he   r esu lts  a lso  su gge st  t ha ne i t her   ag n o r   year of  t ea c h i n w a factor  t o   sign ifica n tl in flue nce  w illi n g n ess,  actua partic i p a t i on,  a nd  a l l   opi nio n   v a ri ab l e s.   Th p r e l i m i n a r y   an a l y s i s   o f   t h su rv ey  d a t su gg e s t s   a   h i g h e l e v e l   o wi l l i n gn ess  a n d   h i gh e r   l ev el  of  a c t ua part ici p a t io i n   a ssessme n t   ac t i vi t i e s Indi vid u al  f a c u lty  m e m be rs’  beliefs,  atti tude to w a r d s   assessm ent,  a nd  t heir  a ssess ment   p ra ct ices   v ary   s i g n ific a n t l ( as  s ho wn  b y   th e   l a rg st a n d a rd  d evi a ti o n   o ea ch  v aria b l e )   w hic h   s u g g e s con s e n sus  had  no be en  f orm e a n a s se ssm ent  ha n o be com e   a   s tan d a r dize d   prac t i c e   a t   t h e   ins t itu t i o n H o w e ver,   t he   r esu lts  o t h m u l t i p l e   r e g ressi on  a n a l y s is  o a ll  part ic i p an ts’  responses  s u ggest  t he  b e l i e f   i n  a s s e s s m e n t   a s  a  w a y  o f   i m p r o v i n tea c h ing  a n lea r n i ng  as  b e i ng  t h si ng le   mo st   s i g ni fi c a n t   f act o r   t h a t   af f ect fa c u lt me mb e r s'   w ill ing n e ss  a nd  p a rtic ipa t io i n   a ssessme n a c t i v i tie s.   Th is  i s u pp ort e by   t he   c o n v e nt i ona w i sdo m   t ha fa cu l t y   me mbe rs'  mot i v es  f o r   a c tio w e re  d r i ve b y   t h i s   c o re  v a l u e   o h i g h e l e arni ng Ev e n   t h ough   t h e y   p e rc ei ved   a sse s sme n t   as  a   tim c ons um ing  ac ti v i t y ,   fac u lty   me mbe r cond ucte asse ssme n a s  t ho u g h t h ey  b e l i e ve d i t   c ou l d   i m p r ove te a c h i n an le arni ng.  T he fin din g s   als o   i n d i ca t e   t h e   m ea ns  o f   i m pro v i n fa cu l t y   m e m be rs'  e ffica cy   a n d   p o l i c i e for  prom ot i n g   the i r   e n ga g e m e nt  in assessm ent.    S o me   e xpe cte d   f ind i n g w e re  not   e vi de nt   f r o t h e   ana l y s is  o t h surv e y   d at a ,   s u c h   as   f a c ul ty  me mbe r s’  b eli e tha t   a sse ssm ent  is  s c h o l a r ly  w ork  w h ic pr om o t e e n gagem e n t   i a s se ssme n t .   T he   s ma l l   sam p l e   s i z (n m a have   b e e t h re ason  and  t h us,   a   l a rger   s a m ple   siz e   i s   n ee de fo produc ing  ro bus t,   gene ra liza b le  r esul t s .   Mor e o v er the  fi n d i ngs   f rom   the   qua n tita tive  a n al ys i s   i n d i c a ted  t h use   of  a n   e x pl an at o r se q u e nt i a l   mixe d   meth od   d esig n   w o uld   be  m o r f itt in g   to  r evea l   m o re   s pe c i fica ll a nd  ho lis tica l ly t he   i nte r ac ti o n s be tw e e n t h e   in de pen d e n an d de pen de nt va r iab l es be i n g   e xam i ne d.        3. 1 .   Qu al itati v Fin d in gs: On lin e   Focu s Grou p   D i al o g u e   A s   a   m ea ns  f or   v a lida t i n a n d   ex po u n d i ng  o n   t he   q ua n t i t at i v fi nd ing s   f ro m   the  s u r v e y ope n- en d e d   surve y   ite # 21  a n th fo cus  gro u p   d is cuss i o forum s   w e r incl u d e d   i n   th e   an aly s i s An al ysi s   o the  respo n ses  re v e aled   f i v qua l ita tive   t h em es  ( i n   t he   h or i z o n t a l   a x i s )  a n d  s u b - t h e m e s   i d e n t i f i e d  a n d  s u m m a r i z e d   in   T a b le   5 A l l   2 95  val i d   r e s po nses   w ere   re view e d ,   c o de d,  a n d   c o unte d   a ft e r   r em ov ing   t h ose   t h a t   w e r no t   mea n i ngf ul   t o   t h e   s t ud y .   A l s o   in cl ud ed   w ere   t h o s resp onse s   t o   sur v ey  i tem   21   a me ans  of  qua l i t a t i v e l y   in form i ng  the   foc u gro up  re spo n se m a k i n g   the  ta sk  o d e term i n i n g   t he  t h e m e and  sub- t h e m e s   l ess  pro b lem a t i c.  F or   e xam p l e it em   2 1   per t a i n e t o   r eac tio t o   a sse ssme n and  fam i l i a r iza t i o w i th  a sse s sm ent   po lic i e s and  pr oce d u r es; tw o of t he  i de n tifie them es sh o w n  in  Ta ble  6.       Tab l 5.  Q uali ta t i ve  T hem e and S ub-T h em es  f rom   F o cus G r oup F o r ums   Qua lit a t ive T h e m e s   Sub- The m es   Re ac tion to (%)  A sse ss m e nt   Inv o lveme n t in  (%) A sse ss m e nt   Us e   o f  D at a   f o r   (%)  Im pr ove m e nt  D i a l ogue s a b o u t   (%)A sse ssme n Fa mi li ar i zat io n   wi t h  ( %)   P o lic ie s   & P r oc e d ure s   I m porta n c (21)   4 . 7   “The   f i r st  t hing  tha t  c o m e s  to  m i nd  w h e n   I   think  a bout  a sse ss me nt  is [it  i s ] n e ces s a r y .   to  i m p rove   t he  .3   “I  q uit e  lik e   th e   subje c t  a nd  h a v e   le a r n e d a bout  mys e lf   a n d   my   stude nts:  how   t hey  l ear n ...   t h e   as s e s s m e n t   .7   “The  c ritica l  p a r of the  a ss e ssme n is  how   t ge n e r a t e   th e   me an in g f u l  ...   da t a  a nd  us e   th e   re sult pe r f orm a nce ”  1. “…c onve rsa tions  tha t   l ook ac ross  the   bo a r a t  C O B   a nd M B a s se s s m e n t s a s   pa r t   o the   as s e s s me n t   c o mmitt e e   proc e ss…”  Enga ging     (94)   6 . 1   I   h av b e en   ve ry   c o m f orta ble   with a s s e ssing  a l l   of  m c ourse s   this  p a s t  t w o   y ear s . ”  16. 3   “I   a m   c onti n ua ll y   re vie w ing  the  m e thods  a nd  inst r u me nts use d   in m y c l a sse s to  try   a nd  he lp  stude nts  i m prove   the i pe rfor m a n ce .”  3.   W e ' v e   t al ke a bout  w h e th e r   o not   our  a sse ss me nts   a r e   m e a s uring  wha t   w e  a r e   t ryi ng  to  m e asure…”   5.     “Thos e   c onv e r s a ti o n s   te nd to b e   th e   m o st   p roduc t i ve   a nd  info rma tiv e . ”  .7   No w th at  I ' m   o n   th e   [c ol l e ge ] a s s e ssm e n c o mmittee ,  I’ m  l e a rnin m o r e  a bout  [ polic ie s &   proc ]   Pla n ni ng  (36)   4 . 7   I  h av e   co me t o   a pprec i a te   t h e   pr oc e ss  of  5. “C oor d i na ting  a s s e ssme n t   a c tivi t i e s ca .3   “Wit ho ut   c a r e f ul  pla n n i ng,   as s e s s me n t   c a n   1.     A ll o f   u s  h a v m e t a s  a  c ol le g e   to disc u ss our  .3   “I   a lso  unde rsta nd  tha t   c o mmittee s  a r e  b e i ng  re form e d .”   Evaluation Warning : The document was created with Spire.PDF for Python.
                         I SSN: 2252- 8822  IJERE   V ol .   7,  N o.  3,   S eptem b er  20 18 :   1 6 7   – 175   17 2 Tab l 5.  Q uali ta t i ve  T hem e and S ub-T h em es  f rom   F o cus G r oup F o r ums   Qua lit a t ive T h e m e s   Sub- The m es   Re ac tion to (%)  A sse ss m e nt   Inv o lveme n t in  (%) A sse ss m e nt   Us e   o f  D at a   f o r   (%)  Im pr ove m e nt  D i a l ogue s a b o u t   (%)A sse ssme n Fa mi li ar i zat io n   wi t h  ( %)   P o lic ie s   & P r oc e d ure s   thinkin g   thr o ugh  the   ali g n m en t   pro c e s s   wit h   c ourse   l e a r ning  obje c tiv e s  a nd  sp e c if i c   a ssign m e nts.”   so met i mes   b e   a   ch a l l e n g e. ”  ge n e ra t e   s o m u c h   d a ta   t ha i t   be c o m e s   diff i c ult  or  i m possibl to  le a r n a n y t hi ng   fr om .”  as s e s s me n t   pla n s.”  C h a lle ng e   (89)   19. 3   “T h e   c ha l l e n ge   is  t ha v e   e ffec tiv i n str u m e nts tha t   r e la te   t o   t h e   goa ls  o f   t h e   a s s e ss m e nt   i the   first plac e.”   3. “…the   m a in  c h al l e n g e i s   al w a ys   m ak in g   sur e  tha t   t h e   a s s e ss m e nt   p la wo r k s   well f o r  th e   c o lle g e   1. “Whe re  t h e re is  uni form  diff i c u lty   (o r   suc c e ss) ac r oss  s e c t ions a nd  s e me st e r s of a  c o urse I   use   th a t   info rm a tion t o   guide  w h a g e ts  r e t a in e d  a nd w h a t   ge ts m odifi e d   f or  pa r t i c ula r   c ourse .”   .3   “In  c onve rsa t i o w ith  one   h i ghe a d min i strato r , I  m e ntione t h a t   I   felt th e  b ig g e st   c h al l e n g e f o r   t h Un i v er s i ty  w as   re -e ng a g ing  those   s e nior  fac u lty  who w e r e   fee ling  disc onnec t e d …”  5. “I ' m  ac t u a ll y   not  v e r fam i li a r  with th e   Unive r sit y - w ide   pol ic i e s   Mea n i ngf ul   ( 105 19. 0   I f e f f o rt is put  into it, It c a n  be   use f ul  but  i no  one  h a s   t i m e   for   it, it  b eco m e a   bur d e n.”  4. T he  c riti c a l  p a r t   of  t he  a ss e s s m e n is  how   t ge n e r a t e   the   m e a n ingf ul   da t a   7. I   h a v s e en   h o w   as s e s s me n t  d at a   can  b e i n f o r m ati v e   a nd c h a nge   pro voki ng  but  it  n eed s   t o  b e   t h r i g h t  d at co l l e c t ed   a n d   util ize d  w it pur pose   in  m e a n ingful  wa ys .   5 . 1        I ' v cer t a in l y   not  gott e n m u c h   in  th e   w ay  o fee dbac k  o n c e   subm it  m re port. ”  Diffe re nt  Le v e l s   (14)   1 . 0   “I be lie v e  th a as s e s s m e n t   at   d i f f er en t   l e v e l s   (c ourse ,   pro g ram ,   de p a rt m e nt,   co l l e g e,   a n d   instit ution )  i es s e n t i a l .   1. I  p a r ticip a t e  in   f o ur  l ev el s   o f   c o nve rs a tions  a bout  t he   d iff e r e nt  a sse ss me nts .   .3   “E ac h f a c u lty   me m b e r  w i l li ke l y  t a k e   som e thing  d i f f er en t   f r o m   t h e   pr oc e ss a nd  r e port  o f   d a t a,  a s   ea c h   ar e   involve d…dif f e r e ntly .”   2. I n   t h e   CO B I   pa r tic ipa t e i n   fou r  le v e l s of   c onv e r s a ti o n s   a bou t   the  diffe re nt  a s se s s m e n t s.”   I m provem e nt   (68)   2 . 4   “We   w i l l   o f   c ourse   b e   lookin g   t futu re   a s se s s m e n t t o   se e if th e r e  is  i m p r o v emen t i n   t h es ar eas .   8.   “If  not hing  is  d o n e   af t e r   t h a s s e ssme n t   pro c e s s   t o   i m prove   t h e   c ourse , th e n  it  see m s lik e   a wa ste  of   t im e.”   9. I  use  a  r u b r ic  f o r   e a c h   s tude nt s   le sson to trac k   t h e i gr ow th,   d e t e r m in a r eas  o f   i m provem e nt, a nd   k eep  g r a d e s .   2.     “We   qu i t e   oft e ta lk a bout  how   t i m prove   t h e   proc e ss a nd  obta i n m o r e   u s ab l e   d at a .   .7   “T he  c onsi s te n c y   i n   t he   pa st c ouple   of ye a r is  m u c h  a pprec i a te d.”   Ac c ount a b i lity  (25)   5 . 1   I   d think  fa c u lty n eed  to   own this stuf f A nd  ta k e  m ore  r e sponsibilit y.”   m e e ting  QM   sta n d a r d s   i n  m c our se s.”  2. “I   e spec i a lly   ga in e d  a   b e t t e a ppr e c i a tion  through  the   pr oc e ss  of  .3   “In  ou c o lle g e ,   we  u s e   a s se s s m e nt m o stl y   t r e port  to  AC B SP.”    .3   I 'v e   al w a y s   l ef t   t h o s e   de t a i l to w hoe v e r is  our  co l l eg e   r e p r e s en t a t i v e   o n   the   [Unive r s i t y]  as s e s s m e n t   co m m i t t e e .   N o t e :   A d a p te fr o m   L i nking  Fa c u lty  D e v e l op m e nt   t o C o m m uni ty  C o ll e g e   Ac hie v em ent: A   M i x e d Me thods  A ppr oa c h   [ 20] .             Evaluation Warning : The document was created with Spire.PDF for Python.
IJERE   I S S N :   2252- 88 22       Un d e rsta ndi ng  Fa c u l t y En gag e m ent  i n  Assessme n t   t h rou gh Fee d ba c k  a n d  Di al ogu e s  …   (Rob e r t  W. El li o t t )   17 3 Tab l 6.  M atri x of  T hem e s a nd S ub-T h em es from   Q u al ita t i ve a n d  Q ua nt i t at ive   C o mpo n e nts   Ov e r a r c h i n g   Th emes   C e r t a in  f a c t o rs   influ e n c e fac u lty  me m b e r s’  pe rc ep t i o n s ,   attitud e s, and   e n gagem e nt  i ass e ss m e n t  ac t ivi t ie s   V a r i ou s f a c t o r affe c t  f ac ulty  me m b e r s   pe rc ep t i o n s ,   attitud e s, an d   e n gagem e nt  i d i f f ere nt  w a y s   K n ow le dge   of  t he  fac t or an how   t h ey  i nf l u en c e   f a cu l t y   me mb e r s   c a n   be   u se t o   h e l p   de fine   t h e  cul t u re   of asse ss m e nt.  The m es  a nd Sub-Them e s  f rom   Fac u l t y   Survey  Re s ponses (Q u a n tita ti ve           1. Willi ngn e ss to e nga ge  in a s s e ss ment   •      2. P a r tic ip a tion in a sse ss me nt    •      3.   K now le dg e   a b o u a s s e s s m e n t          4.   S uppor t   f o a s s e ssm e n t         5.   C on ce r n   o thre a t e n ing e nvir onm e n               6.   T im e c onsu m ing                7 . A ss e s s m e n t f o r im p r o v e men t              8. Ass e s s m e n t a s  fac ult y  e v a lu a tion               9.   A ss e s s m e n t a s   s c hol a r ly   w or k               10. C ulture  of a s s e ssme n t               The m es  a nd  Sub-Them e s   f rom   Fac u l t y   Fo c u s   Group  a nd  C onst r u c t e d S u r v e y  It e m   # 21  Re spon s e (Qua lit a tive )           1.   F ac ulty m e m b e rs  e xpre s s e d m i x e d r e ac tions a bout    a sse ss m e nt,”   but  m ost   pe r c e i v e it  a be ing e s s e ntia l     •  •  a. Nec essi ty of   so me  a sp e c t s   va ri e d     X   X          b .  Vi e w e d   as r e s o u r c e  in t e n siv e            c. Nee d   f o r cl ear  understa nding of   pur pose  e v ident    X   X     2.   F ac ulty m e m b e rs  p e r c e i v e th e i involve m e nt  w i t h a s se ss m e nt  wa s   tie d   t o   the i role  a nd  oppo rtunit y      •  •       a . In c r e a s es in   a p p r eciati o n   th ro u g h   en g a g e me n t       X     b . S er v i n g   o n   co m m i t t ees  i n c r e as ed   a p p r e ci a t i o n              c . Vi e w e d   a s   a   c o n tin uo u s  learn i n g  p ro c e ss        3.   F ac ulty m e m b e rs  v a l u e th e   us e   of a sse ss m e n t   d a t a   to  i m p rove   s tude nt  lea r ni ng,  but  pe r ce ive d  a n a l y z i ng  the da t a  a s   b e i ng  the m o st c h a l l e nging  a nd  ti m e  c onsu m ing     •  •       a .   R e q u i r e s s car c e  r e s o u r ces  a n d   s h iftin g   prior i ties           b .   R eq u i res b a l a n c e o f  q u a n t it y v s q u a lity  o f   d a t a              c .   M ak in g   sen s e o f  th e  d at a   f o r i m p r ov e m e n   X   X     4.   F ac ulty m e m b e rs  h a v e   m i x e d e x p e r i e n ce wi th  d i a l ogu e s  a bout   as s e s s men t     •        •    a .  S o m e   fin d   m u c h  v a l u e  wh i l e  o th e r s are tu r n e d  o f f  b asse ss m en t         b.   S ha r e di s c ove r i e s   t hrough   c onve rsa t ions   X   X          c.  T opics of  conve r s a tion  in c l uded  va r i ous asp ects          5.  Fac u lt y   mem b ers indic a t e d   the i r   fam ili a r iza t ion wi th  a sse ss m e nt  poli c i e a nd  proce dure s   w as  d e p e nde nt  on  th e i r o le  a nd  ne e d    •        •         a .   M ix e d  l ev e l o f  f am ili a r iz a tio n   d e p e n d i n g   o n   th eir ti m e   as   a   f a c u l t y   me m b e r  a nd a t  t he inst itution, a s w e ll  a s th e i r e x p e rie n c e  with  a ss e ssme n t      X          b.  De p endent on   t h e x tent of thei r   invol veme nt      X     c .   S er v i n g   o n   co m m i t t e e s   a t   v ar i o u s   l e v el s   i n cr e a s es   t h e i r   f a m i li a r iza t ion       6.   F ac ulty m e m b e rs  i ndic a t e d   t h e i r  a tt it ude   t owa r the  foc u s   gr oup  de si gn  wa s   positive     •        •         a .   T h e  1 0 - d a y p e rio d   w a s o p t i m al      X          b .  Vi e w e d   th e   e x p e rie n c e   a s b e n e ficial       X      c .   N b e s t   tim e t o  run  the   f o c u gr oup  but  b e i ng  ea r l y   in  t h e s e me s t e r   se eme d  to   wo rk  o u t  th e  b e s t .      X     No t e :   A d a pte d   f r o m   “L inking  Fa c u lty  D e v e l op m e nt   t o C o m m uni ty  C oll e ge  Ac h ie v e m e nt: A   M i xe d Me thods  A pproa c h   [ 20] .   Th e     indi c a t e s  a  t he m e a nd  the  X ” a   sub- the m t h a t  int e r sec t w ith ea c h   ove r a r c hing  the m e.       3. 2 .   In t e grat i n g th Th eme s    Base d   on t h “pro to t y p i c a l  foll o w - u p   e xp la n a ti o n s var i a n t  m ixe d m e t h o d s   desi gn t h a t   C r e sw ell a nd  P l ano  Cla r k [1 9:  p ara   1]  d esc r ibe,  qua l i ta ti v e  a nd qua n t i t a t i v e  m eth o d s w e re  u se d to e xa m i ne  po ssi ble   fa ctors  tha t  ca n  be   use d   t de fine  t he c ult u re  of  assessm ent a m on g fac u l t y m e m b er at the  ca s e ins tit ut i on.   The  mixe d m e t h o d fin d i n g are   th en  m ixed  t o g e t he r dur ing  ana l ys is  of  b oth  se t s   o d a ta i n t o o n e   over a ll   in t e rpre ta ti on [ 19] b usi n g th e   Matri x  of Th em es  a nd S ubt h e me s  fr o Qual i t a tive   an Q u an ti t a tive   Com p o n e n ts s how n in  T a b le s 5  6.     Th e li t e rat u re in d i c at e s  a sse ssmen t  o f   st ud en t   l e a r ni ng  ou t co me at hi gher   educ a t i o ins t i t ut i o n s  is  an  i n t e g r a te pa rt of tea c h i ng  and  an im p orta nt w a y  t o im prove  stu d e n t le a r ni ng,  a nd t h us  profess iona Evaluation Warning : The document was created with Spire.PDF for Python.
                         I SSN: 2252- 8822  IJERE   V ol .   7,  N o.  3,   S eptem b er  20 18 :   1 6 7   – 175   17 4 assoc i at i o n s  en dorse  an d   c a l for a s se ssme n t   in  h i ghe educa t i o n in st itu t i on s.    M e anw h ile,  stude n t   l ear n i n g   ou tc ome s  asse ssm e nt is a l so  a i m por tan t  c ri teri on f o r   a ccr e d i t a tio n.     The f i ndings f r o m   t h is study su p p o rt t he  u se of t h Expla n a t ory  S eque nt ia l D e si g n   M ode l   for  ana l ys is o the  surve y  and  in te r v iew   da ta t o r e vea l  fa c t ors of  f a c u l t y  e ng agemen t   i n  t h e  a sse ssmen t   of  s tud e nt   lear n i n g   a t t h case   ins t i t u tio n .   Further m ore ,   t he y re i n force   F i shb e in  a n d  A jz en’s  [ 16] r eason e d   a c t i on a nd  Ba nd ura’ [17]   s ocia l c ogn it i v theor y  as  predic t o rs  o f be ha vi o r a m ong  fac u lt y m e m b er s w h en  it  com e s to  assessm ent a c t i vi t i es.   The  d at analy s is i n d i c a tes  fac t or t h a t ca n be  use d a s  a  possib l me ans of de f ini n g the   cul t u re  o f a s se ssme n at t he  c a s e   ins tit ut io n.    Table  6 sh ow s   t he  i n t er se c t i o ns  o the m e s   a nd  su b t hem e fou n d   dur in g t h anal ys is  o the   q u al ita t i v e  and  q u a n t ita ti ve  d a t se ts ;   Tabl 5 fa cil ita te d t h e i d e n t i f ica tio n o f  t hese  in t e rsec ti o n s. The o ve rar c hi n g  them e s ( i t h e   horiz onta l   a x i s)  e m e r ged  from  the  s yn t h e s is of the  resu lt s.   In  add i tio n,  the  u se  of  the B l ac k b o a r d Le arni n g  Ma n a g em en t S y s t e m   as a plat f or t o   c on d u c t   t he  foc us  g ro up  di sc ussi o n s w a s espe cia l l y  us e fu as it a l l o w e fac u l t par t i c i pa n t s t o  e xpr ess the i thou g h t s  a nd per cep t i o n a s yn c h ro no usly  at   a   t i me  t h a t   wa s   mo st  co n v e ni en t   fo r t h em.   Ju st as  has be en f o u n d   w ith  s tude n t eng a ge d i n   on line   co ur se s, fac u l t y  m em b e r s   e xpre ssed t h eir  sat i sfac t i o n  wi t h  ha v i ng  the   fr eedom  to  e xpress  the i r   th oug h t s a b out   t he  foc us gro u p  to p i cs w hen t h ey  w er e r eady  and  w i l l i ng  t o  do so  w it hi n t h t w o-w e e k  per i o d.              3. 3 .   Other Co nsid era t io ns   Lim i t a ti on s of the  s tu d y  inc l u ded  the   lac k  of  gener a l i zab i l i t i n he ren t  i qua l ita ti ve  r esea rch,   cou p l ed  w ith  t he  low  n um ber  of  s ur ve y pa rtic ipa n ts.   F or  t he qu a n tit at i v e por t i o n  of t h stu d y li m i tat i o n inc l ude d t h fi nal sa mp le  p o p u l a tio n o f  fa c u l ty m em bers ( n = 3 3 no t   bei n g ra nd omly  s e l e c ted  sam p l e  a n d   t he  po p u l a tio (N  = 1 46)  be i n g  r elat i v e l y sma l l .   V olun ta ry c om plet i on o f   a l l , som e, or  none  o f surv e y  i t e m s   prese n t s   a n o t h er  l im it a t i o n,  a partic ipa n ts ar e   g i v e n  a  c hoi ce  o f   re sp on din g / n ot  re s p ondi ng .      O f  pa r ti c u l a r i m porta nce   w i t h  r egar d   to t he  l ow   s am pl e   siz e , e v en  i f all fa cul t y  m em ber s   h ad  part ici p a t ed,   th sam p l e  size   i s  less tha n   o pti m al to pr o duce   r esults t ha t a r very  r obus t   fo r ma king  gene ra liza t io ns  to ot her  po p u la tio ns.   F or thi s re ason,  u se of  the  mixe me tho d ap proac h  is w o r t hw h ile  i t h qua l i t a ti ve  f i n d i n g be i ng use d   t ex p l ai n t h results o t h e   q u a nt it ati v e ana l ys i s , a s  s h o w n   i n  Tab l e  4 .         4.   CONCL U S ION  A   cult ure  of a ssessme n t   at m any  A m e r ica n  h ig her  educa tio i n st i tu t i o n is  f a r  from  bein g   full esta bl ishe d,  a n d  facu l t y e nga gem e nt i n a s se ssm e nt  h as be e n  ide n ti fied  a s the  pr ima r y c h alle n g for  the   tas k .     More ove r,  e mpi r i c al st u d i es t hat e x am ine t h fac t ors t h at i nfl u enc e   f ac ult y  e nga gem e n t   i assessme n t a r f e w.  This m i xed m e thods stud wi l l   c ontribut e  to the  understan di n g  of  th ose   fa ct ors a n d   how  the y in flu e nce   fa cu l t me mbe r s' w il l i n gne ss a nd e n g a gem e nt i n a ssessme n t .    Thi stu dy  a l so  h as im p l i c a ti ons  f or  po lic yma k i n and pr ofess i on a l   d eve l opm e n t   ini tia t i ves  for prom o ti n g  facu lt y m e m b ers' e nga gem e n t   a n d   fos t eri n g a   c u l t ure   of  a ssessm ent i n  h ig her  educ a t i o ins t i t ut i on s.       ACKNOW LEDG E MEN T Mu ch a ppre c i a t i o g o es to  m y   c ol lea g ue, D r .   Jian Li u for h e r p ersis t e n ce  and i n v o l vem e nt in seei n g   th i s   s t u dy   t hro u g h   t t h e   e n d.   H e r   i nsp i ra ti on   g a v m e   t h e   m ot i va t i o n   t kee p   g o i ng  w ith  t he   s t u dy   o f   t h is   to pic   to w ha t   is  s een  h ere   in th i s p u b l i s he d ar ticle .       REFE RENCES   [1]   Ku h,  G a n Ikenb e rry,  S .   M ore  t h an   y o u   t h i nk,  l es t h an   w n e e d:   L earn i ng   o u t co m e as sessment   in   A m e ri can   hi gh er  e du catio n.   Na ti on a l   In stit u t e fo r L e ar ni ng  Ou tcom e s   Ass e ssm e nt 2 009 1 - 36 Av ail a b l f r om   ht tp:/ /w ww. l earn i ng ou tcomeas ses s m e nt. o rg /N ILOA su rvey re s u l t s 0 9 . h tm . [Acces sed   14 th July   20 18].  [2]   Flet ch er,  R . B. Mey e r,  L .H. ,   A n d e rso n H.,  Joh n s t o n ,   P .,  Rees,  M .   F acul t an st ud ents  c oncep ti on o f   a sses s m e n t   in higher education.  Hi gh er E d u c at ion . 20 1 2 ;   64 ,   11 9-1 3 3 .   S pri nger.   [3]   B a n t a ,  T .   W .  a n d  A s s o c i a t e s .   Bu ild i n g  a sc ho la r s h i p   fo as se ssm e nt .   S a F r an cisco,   C A:   J oss e y-Bass   P ublis hers;  20 02 .   [4]   Gru n w a ld,   H .   &   P et erson ,   M .W.  F act ors   th at  p ro m o te  f acu lt i nvo lv e m e n in   a nd   s a t i s fa c t i o n   w i th   i n s t i t u t i o n a a n d   clas sro o m stu d ent   ass e ss m e n t Res e ar ch i n  Hig h er  Edu c atio n.  20 0 3 ;   44 (2),  1 7 3 -2 0 4 S p rin g er S c i ences  P ress [5]   Hav n es A.  &   M cD ow ell,   L Int r odu cti on:  A s s ess m ent   d i l e mm a s   i n   co nt emp o rary   l earnin g   c ul tu res .   B oo chap ter   in   Balanci n g   Dil e mm as  i n   A s s e ssm ent  an Learn i n g   i n   Co nt em pora ry   E ducati o n .  Rout l e d g e Research  i n   Ed uca t i on.   20 08;  3 -14.   R outl e dge:  N e w Y o rk.   [6]   Ma k i P.  L .   Buildi ng  a s u s t a i na b l e com m it ment acro ss t h i n sti t uti on: Ass e ssin g   for  lear n i ng   ( 2nd  ed. ) .   Sterlin g,   VA St y l us  P ubli s hing 201 0.   Evaluation Warning : The document was created with Spire.PDF for Python.
IJERE   I S S N :   2252- 88 22       Un d e rsta ndi ng  Fa c u l t y En gag e m ent  i n  Assessme n t   t h rou gh Fee d ba c k  a n d  Di al ogu e s  …   (Rob e r t  W. El li o t t )   17 5 [7]   P a l o m b a ,  C .   A .  a n d   B a n t a ,   T .   W .   Asses sment ess e nt ials:  Pl anni ng , imp l emen ti ng  a nd i m p r oving  a sses s m e nt   in   hi gh er ed uca t i o n .   S a n F r an cis c o , CA :   J ossey - Bas s   P u b l i s h ers ;   2 015.    [8]   H u t c h i n g s ,  P . ,  T a y l o r   H u b e r ,  M . ,   C i c c o n e ,   A .   T h e s c ho la rsh ip  o f  teach i n g   an d l e ar ni ng  reco ns idered:  Ins tit u tio na l   in teg r ati on an d   impa ct.   Jo s s ey-Bass :  S an  F rancis co.   20 11 .   [9]   Ell i o tt,   R . W Fa cul t de velop m en t   curricul u m:   W hat  inf o rms  it?   Jo ur nal  o f  Fa c u lt D eve l o p m en t.   2 0 14;  28 (3),  49- 5 9 . New  Foru m s   Pr ess ,  In c : S t i l lwater.  [10]   Liu ,   L Va lu e - a d de d   a s se ssm e nt  i n   h i g h e r   e du c a t io n:  A   c om pa ri so of  t wo  m e t h o d s H i gher Educa t ion .   2 011 61 44 5-4 6 1 .   S pri nger.    [11]   W e l s h,  J F .   &   M etcal f,  J Cultivat in f acul t y   s u p p o r f o in s t it u tional  eff ectiveness  act ivities:  B enchmarking  best  pract ices .   A s s e ssm ent  an d   E v al u a tio n  in  Hi gher   Ed uca t i o n .   20 03;  28 (1 ), 33 - 45 . Taylo r and   F r ancis G r ou p .   [12]   An drad e,  M .S .   M a nag i n g   c han g e—En gag i ng   f acu lt in   a ss es sm ent   o p p o r t un it ie s.   Inn o vat i ve Hi gher   E d u c atio n.   20 11 36 ,   21 7-233.   S pri nger.   [13]   Havil a n d D. S h in,  S. H.,  an Tu rl ey S .   No I ' read y :   T he  i m pact   o f   pro f e s si on a l   d ev elo p m e nt   i n i tiative  o n   f acul t y con cerns  w it h   prog ram   as s e ss ment.   Innovat ive Hig h er   Ed ucat io n 20 10 ;   35 , 26 1 -2 75 .     [14]   Paton,  V . O . ,   E lliot t R. W. ,   Barn ard-Bra k L.,  Rya n P.M .   V ertic al   t ran s f e su cc es s:   H isp a ni stu d ent   p e rcepti on of  tran s f er an d  t ran s it ion i ssu es .   Journa l for  Colleg e   Or ienta t i on and  T r ansfer 2 015 22 ( 2 ), 40 - 60 .   [15]   W a ng X.  L an d   Hur l ey , S .   Ass e ssm ent  as   a   s cho l arly   act iv i t y ?   Facul t percepti on of   a nd  w illingness  to  e ngage  i n   st ud ent learn i ng as sess m e n t T h e Jour na l of Gener a l Ed uca t io n 2 0 1 2 ;   61 (1) ,  1-15.   [16]   Fish be in,  M .   a n d   Aj zen I.  Be li e f , at ti tu de ,  in te ntio n a n d   b e h a v i or:  An   in trod uc tio n  to th e o ry  an d re se a r c h Read i n g, M A: A dd i s on - W e s ley;   1 9 7 5 .   [17]   Band ura,   A .   S o c i al  fo un datio ns o f   t hou ght a n d  ac tio n .   Englewood  Cl i ffs , New  J ersey:  P re nt i ce-Hall;  2015 .     [18]   Hu gh es, J.C. S u p port i n g   c u rricu lu m asses s m e n t   a n d  devel op men t:  Im plicat io n s  f or  t he facu lt role and in sti t uti o n a su pp ort .   New Direct io ns for  T e a c hin g   and   L e ar n i ng 2 007 ; 112 ,   10 7-1 10.  Wiley  P e riod ical s,   I n c [19]   Cresw e ll,  J W . P l an Clark,   V L .   D e s i gni n g   and  condu c ti n g  mi xed methods research   ( 2n e d . ) .   Th o u sa nd   Oak s ,   CA:  S a ge;  201 5.   [20]   Ell i o tt,   R . W .   and  Oliver,   D. E .   L i nki ng  f acult y   devel opment  to  c om m unit y   c o l l e ge  s t u d e nt  ach iev e men t:  mix e m e th od appro ach.   Com m u n it Co ll ege J o ur na l of   R e s e ar ch an d Pra c ti ce 20 16 40 (2),  8 5-99.   Avai lable  from:   do i: 10.10 80 /10 6 6 8 9 2 6 . 20 14 .96 1 5 90.  [Access e d 14 th  Ju l y   20 18 ].         B I OG RAP HY  O F   A U T H O R       Robert  E ll iott   i s   s e rv in g as  A sso c iat e  P rof e ss or in  th e Dep a rt m e nt  of   E ngli s h Fo re ig La ng ua g e   S c h ool ,   L i nyi  U ni versity   a Lin y i,   S han d o n g ,   P RC.   H i re s e arc h   b ac kgro u n d   i nc l ude s   pos tsec o ndar y   f ac u lty  d eve l o p m e nt,  st ude n t   p ersiste n ce and  the   a ss essm ent  of   s tudent  lea r n i n g  i n hi g h er  e duca tio n.                Evaluation Warning : The document was created with Spire.PDF for Python.