środa, 25 listopada 2009

Gdy normy z podręcznika przestają o czymkolwiek informować

Podaję w tym poście przykład z własnych rekrutacji obrazujący, jak nieefektywne przy wyborze najlepszego kandydata potrafią być normy podręcznikowe. Zamiast tego postuluję tworzenie własnych norm lokalnych pod konkretne grupy kandydatów.

Spotykam się czasem z opinią, że kwestionariusze osobowości nie są dobrym narzędziem selekcji kandydatów do pracy, bo słabo różnicują tych kandydatów ze względu na mierzoną cechę osobowości, tzn. że większość z nich uzyskuje bardzo zbliżone wysokie wyniki. Jest w tym dużo racji. Sam również doświadczyłem rekrutacji, w których większość kandydatów uzyskiwała wyniki oscylujące wokół najwyższych punktów skali. Moim zdaniem zarzut ten dotyczy wszystkich metod kwestionariuszowych, w których badani dokonują samoopisu. 


Dobrze obrazują to dane, jakie zgromadziłem na przestrzeni kilku rekrutacji na stanowisko tłumacza ustnego. Użyłem w nich Kwestionariusz Kompetencji Społecznych (KKS) A. Matczak (2001), który mierzy 3 kompetencje: gotowość do ekspozycji społecznej (ES), asertywność (A) i gotowość do zawierania bliskich kontaktów interpersonalnych (I) oraz wynik ogólny (WO). W procesie selekcji interesował mnie jedynie wynik w ES, ponieważ praca tłumacza ustnego wymaga dużej swobody zachowania w sytuacjach takich jak np. występowanie przed publicznością, udział w różnych uroczystościach, negocjacjach, konferencjach itp. Dołączone do kwestionariusza normy są wyrażone w stenach (od 1 do 10).

Okazało się, że gdybym z 86 przebadanych KKS-em kandydatów chciał do dalszego etapu wybrać tylko tych z wynikiem co najmniej wysokim (7 lub więcej stenów), to byłoby ich aż 45, tj. ponad połowa wszystkich kandydatów (52,4%)! Natomiast gdybym chciał wybrać tylko tych z najwyższym możliwym wynikiem (10 stenów), to byłoby ich 8 (9,3%). Też dużo, bo prawie jedna dziesiąta badanych. W takiej sytuacji faktycznie może się wydawać, że KKS zawodzi jako metoda selekcji. Cóż to bowiem za selekcja, jeśli  postawione kryterium spełniła aż połowa kandydatów!
 Byłby to jednak wniosek przedwczesny. Należy bowiem pamiętać o dwóch rzeczach. Po pierwsze, że normy do KKS były tworzone na próbie osób, które nie miały motywacji do zawyżania swoich wyników (jak to zapewne było w przypadku kandydatów do pracy). A po drugie, że grupa kandydatów na tłumaczy ustnych ma prawo mieć więcej doświadczeń, które kształtują ES niż próba, na której powstały normy do KKS. Oznacza to, że jeśli KKS słabo różnicuje kandydatów z wysokimi wynikami w danej kompetencji, to właśnie z powodu użycia norm stworzonych w próbie znacząco różniącej się od grupy, w której go użyliśmy w celach selekcyjnych.

Sposobem na tę trudność jest stworzenie własnych norm, tzw. norm lokalnych. Wystarczy powtórzyć procedurę normalizacyjną opisaną w podręczniku do danego testu przy użyciu własnych wyników. Jak tworzyć normy świetnie opisuje Hornowska (2001). Dlatego nie będę tego robił tutaj. Podam tylko, jakie wyniki udało mi się uzyskać. A więc, gdybym do dalszego etapu miał wybrać kandydatów z wynikiem co najmniej wysokim (7 lub więcej stenów), to byłoby ich już o 12 mniej niż gdybym stosował normy z podręcznika (N=33, 38,4%)! Natomiast, gdybym chciał wybrać tylko tych z najwyższym wynikiem (10 stenów), to takich osób byłoby już tylko 1 (1,2%)! To wielka różnica w stosunku do liczby kandydatów których wybrałbym w oparciu o normy podręcznikowe (przypomnę, że było ich N=8). 

Wynikający stąd wniosek jest prosty. Jeśli kwestionariusze osobowości słabo różnicują badanych kandydatów, to powodów tego można upatrywać nie tyle w samym kwestionariuszu, co w normach, z których korzystamy. Jeśli bowiem, normy te powstały na próbie, która z badanymi nie dzieli zasadniczych charakterystyk, jak motywacja do udzielania nieszczerych odpowiedzi czy wiedza/doświadczenie, to normy te nigdy nie będą wiarygodne. Dlatego warto tworzyć normy lokalne dla danej populacji (np. kandydatów na tłumaczy, kandydatów na handlowców, kierowników itd.). Dopiero normy lokalne ujmą specyfikę tych grup i pozwolą na wiarygodną ocenę kandydatów do pracy.

Brak komentarzy:

Prześlij komentarz