Sei sulla pagina 1di 114

1

LA ENTREVISTA COGNITIVA:
GUA PARA SU APLICACIN EN LA EVALUACIN Y MEJORAMIENTO
DE INSTRUMENTOS DE PAPEL Y LPIZ
Vanessa Smith-Castro; Mauricio Molina Delgado

Serie Cuadernos Metodolgicos.


San Jos, CR.: Instituto de Investigaciones Psicolgicas, Universidad de Costa Rica.
ISSN 1659-2921.
Smith, Vanessa; Molina, Mauricio
Cuaderno Metodolgico 5. La entrevista cognitiva: gua para su aplicacin en la
evaluacin y mejoramiento de instrumentos de papel y lpiz. San Jos, CR.: Instituto
de Investigaciones Psicolgicas, Universidad de Costa Rica. 2011.

CONTENIDO
INTRODUCCIN ........................................................................................................................ 5
ALGUNOS ASPECTOS BSICOS A RECORDAR SOBRE MEDICIN Y PSICOMETRA ...... 11
Medicin y Psicometra ............................................................................................................ 12
Validez ...................................................................................................................................... 13
Confiabilidad ............................................................................................................................. 19
Literatura recomendada ............................................................................................................ 26
LAS CIENCIAS COGNITIVAS Y EL DISEO DE INSTRUMENTOS DE PAPEL Y LPIZ ........ 28
Las etapas del proceso pregunta-respuesta ............................................................................. 30
Comprensin ............................................................................................................................ 32
Recuperacin de la informacin ................................................................................................ 36
Estimacin de la respuesta ....................................................................................................... 41
Ejecucin de la repuesta........................................................................................................... 42
Literatura recomendada ............................................................................................................ 46
LA ENTREVISTA COGNITIVA EN LA PRCTICA ................................................................... 48
Pensar en voz alta .................................................................................................................... 49
Pruebas cognitivas de reporte verbal ........................................................................................ 52
Otras tcnicas de sondeo ......................................................................................................... 57
Ejemplos de aplicacin de la entrevista cognitiva ..................................................................... 61
Aspectos operativos y logsticos ............................................................................................... 69
Estrategias de protocolizacin y anlisis ................................................................................... 73
Literatura recomendada ............................................................................................................ 78
SE TRATA DE UNA ESTRATEGIA EFECTIVA? .................................................................... 80
El impacto de la EC en las caractersticas psicomtricas de una escala de actitudes ............... 83
Diseo general del estudio........................................................................................................ 83
Participantes ............................................................................................................................. 85
Instrumentos ............................................................................................................................. 86
Procedimientos ......................................................................................................................... 89
Resultados................................................................................................................................ 89
Literatura recomendada ............................................................................................................ 95
UNAS CUANTAS RECOMENDACIONES FINALES................................................................. 97
Sobre los Autores ................................................................................................................... 101
REFERENCIAS ...................................................................................................................... 102
ANEXOS................................................................................................................................. 109

INTRODUCCIN
Mucha de la investigacin que hacemos en las Ciencias Sociales, de la
Educacin y de la Salud se construye a partir de informacin obtenida a travs
mtodos de autoreporte. En estos mtodos

consultamos directamente a las

personas sobre el tpico o constructo que queremos medir y una de las principales
formas de hacerlo es mediante cuestionarios de papel y lpiz.
Al utilizar cuestionarios autoaplicados, los y las investigadores suponemos
que los reactivos posibilitan a las personas reaccionar tal y como lo esperamos.
Esto es, que las personas comprenden los tems de manera adecuada, que
activan la informacin apropiada para responderlos, que juzgan sus respuestas
debidamente y que responden a los reactivos en los distintos formatos de
respuesta que les ofrecemos de manera acertada. Todo esto segn nuestras
expectativas, proyecciones y criterios derivados de las teoras con que trabajamos.
Cualquiera que haya intentado desarrollar, validar o adaptar un instrumento
de este tipo, reconocer que estos supuestos estn muy lejos de cumplirse en la
realidad. Hasta los ms experimentados investigadores e investigadoras se han
tenido que enfrentar con el hecho de que sus tems no fueron comprendidos tal y
como ellos y ellas esperaban. Debido a estos problemas de comprensin, en la
estructura de sus escalas aparecen dimensiones o factores ajenos al constructo
que pretendan medir, y la presencia de esos factores de mtodo disminuyen la
confiabilidad de sus escalas y la utilidad de sus inferencias.

Lamentablemente, los y las investigadoras se enteran de todo esto una vez


que han aplicado el cuestionario en el estudio piloto, despus de

una

considerable inversin de tiempo y dinero. As, nos vemos obligados a descartar


los reactivos malos usando los criterios tcnicos recomendados por la
psicometra, pero sin tener claridad sobre la fuente de la imperfeccin de los
reactivos, sospechando eso s que estn involucrados problemas de comprensin
que pudieron ser evitados.
El objetivo del presente cuaderno metodolgico es ofrecer una herramienta
para analizar los mecanismos cognitivos involucrados en el proceso de contestar
las preguntas de un cuestionario,

y as detectar problemas en los distintos

momentos de este proceso antes de pasar a estimar las propiedades


psicomtricas del instrumento en el estudio piloto. Esta herramienta se conoce
como Entrevista Cognitiva (de ahora en adelante EC).
La EC es un nombre genrico para describir un dispositivo de evaluacin
del proceso de respuesta, y consiste una serie de entrevistas individuales
semiestructuradas en ambiente controlado con una muestra pequea de la
poblacin meta. Durante las entrevistas, las personas participantes completan el
cuestionario en estudio y realizan una serie de pruebas para detectar problemas a
la hora de contestarlo (Willis, 2005).
Este cuaderno pretende ofrecer una gua prctica para la implementacin
de la EC como parte de las estrategias para desarrollar, adaptar, mejorar o validar
un instrumento de papel y lpiz. No pretendemos hacer un tratamiento exhaustivo
o extenso de todos los aspectos que podran tratarse alrededor de esta tcnica.

Deseamos ms bien ofrecer una gua accesible, sencilla y muy ilustrativa de los
alcances de este mtodo.
El texto se divide en cinco secciones. En la primera seccin hacemos un
repaso breve sobre conceptos clave de medicin y psicometra, y resaltamos el
lugar de la EC dentro de las diferentes evidencias de validez y confiabilidad que
los investigadores podemos recabar a la hora de desarrollar, validar o adaptar
instrumentos.
En la segunda seccin nos concentramos en los principios tericos de la
EC. Aqu hacemos nfasis en algunos de los principales conocimientos que las
ciencias cognitivas han amasado en los ltimos aos sobre la arquitectura y los
mecanismos del aparato cognitivo que impactan en la forma en que las personas
contestan instrumentos de papel y lpiz.
En la tercera seccin nos concentramos en los procedimientos concretos de
la EC. En esta seccin presentamos las diferentes pruebas cognitivas que
componen una EC y ofrecemos varios ejemplos de nuestra prctica cotidiana en
donde hemos aplicado la EC con xito para producir instrumentos ms preciso y
sensibles a lo que queremos medir. En esta seccin tratamos tambin sobre los
aspectos logsticos de la EC, es decir, los aspectos ms prcticos de su
aplicacin, incluyendo los procedimientos para procesar la informacin que surge
de las entrevistas cognitivas y las decisiones que podemos tomar a partir de las
mismas.
Si bien esta tcnica tiene una amplia aceptacin, son pocos los estudios
que se han dedicado a documentar el impacto de la EC sobre los instrumentos

utilizados en el campo. Es por ello que la cuarta seccin la dedicamos a presentar


los resultados de una prueba emprica especialmente diseada para estimar la
utilidad de la EC y su impacto en las caractersticas psicomtricas de instrumentos
de papel y lpiz. Esta seccin nos permite mostrar empricamente el valor de esta
tcnica para mejorar instrumentos de papel y lpiz.
En la quinta y ltima seccin hacemos, a modo de cierre, un par de
reflexiones sobre las ventajas de esta tcnica, sus alcances y limitaciones y su
papel en el proceso de desarrollo, validacin o adaptacin de instrumentos de
papel y lpiz.
En las primeras cuatro secciones hacemos recomendaciones especficas
sobre literatura complementaria que puede ser de gran utilidad para profundizar
sobre los aspectos que aqu no queden claros o resulten insuficientes para el
lector o la lectora.
Este texto est pensado para investigadores, estudiantes y profesionales
que deseen desarrollar y/o adaptar instrumentos de papel y lpiz, ofrecindoles
una herramienta de fcil aplicacin para recopilar evidencias sobre el
funcionamiento de los reactivos de sus instrumentos y producir un conocimiento
ms fiable y preciso sobre la realidad que investigan.
La investigacin que fundamenta este texto se desarroll gracias al
financiamiento otorgado por el

Sistema de Fondos del Consejo Nacional de

Rectores de Costa Rica durante el 2009 y el 2010. La redaccin del texto fue
posible gracias a los Fondos Para Pasantas de la Vicerrectora de Investigacin
de la Universidad de Costa Rica, otorgados a la primera autora. Un especial

agradecimiento se merece el Dr. Domingo Campos, quien nos hizo percatarnos de


la utilidad de la EC como herramienta para mejorar nuestros instrumentos de
medicin. Igualmente agradecemos profundamente al M.Sc. Alfonso Villalobos,
quien trabaj con nosotros en las etapas iniciales del proyecto de investigacin.
La idea de realizar una investigacin sobre la EC y sus bondades surgi del
seminario de verano Qu hacemos cuando contestamos un cuestionario?:
Psicologa cognitiva y el diseo de instrumentos de papel y lpiz que organizamos
en febrero del 2007. All nos reunimos con estimados colegas y estudiantes
provenientes de diversas disciplinas como la estadstica, la lingstica, la
psicologa y la sociologa, entre quienes destacamos a la Licda Marjorie Moreno, a
la Licda. Laura Snchez, al M.Sc. Olman Ramrez, al Dr. Manuel Arce y al Dr.
Napolen Tapia. A todos ellos nuestras ms sinceras gracias por las amenas y
apasionantes discusiones que nos motivaron a realizar este proyecto.
No podemos olvidar a los asistentes de investigacin del IIP Armel Brizuela,
Andrs Carvajal, Natalia Galeano, Pa Mehler, Jorge Morales, Sally Schulze y
Fabiana Ziga,

por su colaboracin en todas las etapas del proyecto de

investigacin. Sin su apoyo esta investigacin simplemente no habra podido ser


posible. Armel Brizuela nos apoy tambin con la revisin Filolgica del presente
texto. Tambin agradecemos a los licenciados Camilo Retana, Lucy Gutirrez,
Maritza Quesada y al Dr. Rolando Prez por su colaboracin en etapas crticas del
proceso de investigacin.
Finalmente agradecemos a los y las colegas del IIP por su valiosa
retroalimentacin a las versiones preliminares de este texto, a la serie Cuadernos

10

Metodolgicos de dicho Instituto por ofrecernos este espacio para publicar, a las
autoridades universitarias que nos dieron los permisos respectivos para llevar a
cabo diversas encuestas en el Campus Rodrigo Facio y en particular a todas las
personas que muy amablemente tomaron parte de su tiempo para contestar
nuestros cuestionarios.

11

ALGUNOS ASPECTOS BSICOS A RECORDAR SOBRE MEDICIN Y


PSICOMETRA
Conceptos cientficos como estrs, depresin, inteligencia, frustracin,
prejuicio, salud mental, emociones, actitudes,

ansiedad, motivacin o estrs

laboral no tienen una existencia concreta similar a las entidades fsicas que se
ofrecen a nuestros sentidos. Son conceptos que sobrepasan la observacin
emprica y muchas veces expresan entidades tericas. A tales conceptos se les
llama constructos, conceptos no observacionales o variables latentes (ver
Bollen, 2002, Montero, 2008).
Nadie ha visto ni ha tocado nunca la motivacin de logro de las personas,
pero si puede inferirla a partir de indicadores, como su persistencia, para terminar
una tarea. Es por esto que para saber en qu medida un rasgo latente est
presente en las personas, los investigadores e investigadoras definen las
operaciones mediante las cuales se puede determinar su presencia o ausencia (o
magnitud). Esto se conoce como operacionalizacin de variables.
Por lo general, estas operaciones son mediciones que involucran registros
numricos (como los minutos que invierten las personas en resolver una tarea o
sus puntuaciones en una escala de motivacin de logro). De hecho, las escalas o
test psicomtricos se definen comnmente como un conjunto de indicadores
operacionales de un rasgo o dominio de comportamiento (Tornimbeni, Prez &
Olaz, 2008).
En la medida en que operacionalizar implica definir la presencia, ausencia o
magnitud de los fenmenos en trminos numricos, es preciso introducir algunas

12

nociones bsicas sobre medicin y psicometra, especialmente los conceptos de


validez y confiabilidad.
Los conocimientos actuales sobre estos tpicos provienen de tres grandes
enfoques o teoras: la Teora Clsica de los Tests (TC), la Teora de la
Generalizabilidad (TG) y la Teora de la Respuesta a los tems (TRI). Aqu no
vamos a tratar estas teoras, de modo que ofrecemos al final del captulo
recomendaciones sobre textos para profundizar en ellas. Nuestro inters principal
es describir sucintamente los conceptos de validez y confiabilidad, dar a conocer
las principales estrategias utilizadas en la investigacin moderna para estimarlas
y de esta manera comprender el importante papel que juega la EC en todo este
complejo proceso.
Medicin y Psicometra
Medir, como ya lo indicamos, es un procedimiento de asignacin de
nmeros a propiedades, de modo tal que los nmeros las caractericen (Martnez,
1996). El tema de la medicin implica entonces derivar reglas de asignacin
numricas; esto es, generar las correspondencias entre un sistema emprico y un
sistema numrico. El rea de la Psicologa que se encarga de todos estos asuntos
es la Psicometra.
Para Galton (1879) la psicometra consiste en datar el origen de los
pensamientos de una manera matemtica y fiable. A su vez Martnez (1996)
establece que la Psicometra es la construccin de instrumentos que sirvieran
para la asignacin de nmeros a atributos o conductas de las personas (pp 2122). Y siguiendo esa lgica, McIntire y Miller (2007), as como Kaplan y Sacuzzo

13

(2006), definen la Psicometra como aquellos aspectos tcnicos y cuantitativos de


la medicin de eventos cognoscitivos, conductuales y emocionales.
Independientemente de las formas de recoleccin de informacin, pero
particularmente cuando se trata de instrumentos de autoreporte, la medicin trae
consigo dos preguntas fundamentales: a) en qu medida los instrumentos miden
lo que pretenden medir? y b) en qu medida son tales mediciones de fiar?
En efecto, cualquier medicin captura mucho ms de lo que se pretende
medir, como otros constructos que no son de inters y por supuesto errores de
medicin aleatorios. La Psicometra trata precisamente de proporcionar las
herramientas para determinar en qu medida nuestros instrumentos miden
consistentemente (confiabilidad) lo que tienen que medir (validez).
Validez
Siguiendo a Nunnally (1991) podemos decir que las puntuaciones de un
instrumento poseen propiedades de validez cuando es posible obtener evidencia
de que el test mide lo que pretende medir y no otra cosa, justificando as las
inferencias que podemos hacer sobre sus resultados.
En los enfoques modernos no se conceptualiza la validez como una
caracterstica inherente al instrumento, sino una propiedad del significado que
podemos darle a las puntuaciones obtenidas mediante este y las consecuencias
de las interpretaciones de tales puntuaciones derivadas de l (Messick, 1989,
1995). La interpretacin o significado de las puntuaciones depende no solo de los
reactivos, sino tambin de las personas a las que aplicamos el instrumento, el

14

contexto de aplicacin y el modelo terico que define el constructo en estudio y


sus relaciones con otros constructos.
Por lo tanto, estimar la validez de las interpretaciones es un problema que
requiere de un esfuerzo cientfico igual al que se exige para examinar cualquier
hiptesis de investigacin, en otras palabras, en el campo de la medicin
psicolgica es imprescindible proporcionar evidencias empricas que apoyen o
refuten cualquier inferencia (Cronbach & Meehl, 1955).
La validez no existe en trminos absolutos, es decir, no podemos decir que
un instrumento sea vlido o invlido. La validez de las inferencias aumenta o
disminuye, es relativamente robusta o frgil, dependiendo de las evidencias
empricas. Dentro de los estndares modernos de medicin psicolgica y
educativa (AERA, APA & NCME, 1999) se incluyen varios tipos de evidencias
empricas que podemos recopilar para estimar la validez de las inferencias que
hacemos a partir de nuestros instrumentos. Estas evidencias se basan en: a) el
contenido de los reactivos, b) el proceso de respuestas al instrumento, c) la
estructura interna del test, d) las asociaciones de las puntuaciones con los
puntajes de variables externas al instrumento y e) las consecuencias de su
aplicacin.
Sobrepasa los objetivos del presente texto hacer una exposicin extensa
sobre cada uno de los aspectos involucrados en el proceso de producir evidencias
de cada una de estas dimensiones. Solo vamos a ofrecer una descripcin muy
bsica de ellas. En el Cuadro 1 presentamos los cinco tipos de evidencia de
validez, las interrogantes que pretende responder y algunos de

los

15

procedimientos empricos que normalmente se recomiendan para recopilar dichas


evidencias. Al final del captulo, recomendamos algunos textos y autores clave
para profundizar en estos temas.

Cuadro 1. Dimensiones de Validez


Dimensin

Interrogante clave

Estrategias o tcnicas
analticas

CONTENIDO

Existe correspondencia entre el


contenido del instrumento y el dominio
que pretende medir?

Acuerdo entre jueves, Kappa


de Cohen, correlacin intraclase

PROCESO
PREGUNTA/
RESPUESTA

Concuerda la naturaleza y el proceso


de la respuesta del individuo con el
constructo que se pretende medir?

EC, panel de expertos

ESTRUCTURA

Corresponde la covariacin de los


reactivos a las dimensiones que se
presenten medir?

Anlisis de factores tanto


exploratorios como
confirmatorios

CONVERGENTE/
DISCRIMINANTE

Convergen las puntuaciones con otras


medidas del mismo constructo?, se
diferencian los puntajes con respecto a
medidas que miden constructos
distintos?

Correlaciones bivariadas,
multirasgo-multimtodo

EN RELACIN
CON CRITERIOS
EXTERNOS

Permiten las puntuaciones del test


predecir criterios externos a la ejecucin
del propio instrumento?

Pruebas de hiptesis sobre


dos promedios, anlisis de
varianza, correlacin bivariada,
regresin mltiple, modelos de
ecuaciones estructurales, etc.

CONSECUENCIAS
DE LA
APLICACIN

Las decisiones que se toman a partir


de los resultados del test tienen efectos
adversos para los sujetos o grupos de
sujetos?

Anlisis del funcionamiento


diferencial del tem (DIF)

Las evidencias basadas en el contenido del test ofrecen informacin para


determinar en qu medida los reactivos del test representan, abarcan, cubren o
son representativos del dominio que pretenden medir. Una manera comn de

16

recopilar evidencia sobre la validez del contenido consiste en presentar los


reactivos a jueces expertos para que determinen la concordancia esperada entre
el contenido del test y el constructo. Por lo general se mide el grado de acuerdo
entre jueces y se analizan las fuentes de discordancia (AERA, APA & NCME,
1999).
La evidencia basada en el proceso de respuesta se obtiene examinando los
mecanismos mentales o cognitivos que los sujetos ejecutan para responder a los
reactivos, con el objetivo de determinar si los sujetos estn realizando las
operaciones necesarias para que los investigadores puedan inferir la presencia,
ausencia o nivel del constructo que estn midiendo. Por lo general, esta evidencia
se obtiene consultando directamente a los sujetos, mediante entrevistas
cualitativas, protocolos de pruebas cognitivas o cualquier otro procedimiento para
evaluar las estrategias de respuesta a los reactivos (Cortada de Kohen, 2005;
Embretson & Gorin, 2001).
Las evidencias basadas en la estructura son aquellas que obtenemos al
mostrar que la covariacin emprica de los reactivos refleja la estructura que se
supone debe tener el instrumento; por ejemplo, si este fue diseado para medir
una sola dimensin, es de esperarse que los reactivos que miden ese constructo
formen un solo factor o dimensin. Por lo general se utiliza el anlisis de factores
(exploratorio y confirmatorio)

para determinar la estructura subyacente a la

covariacin emprica de los reactivos como evidencia de validez estructural


(Muiz, 2002).

17

Las evidencias basadas en las asociaciones del instrumento con variables


externas pueden especificarse en dos tipos, validez convergente-discriminante y
validez de criterio. Para estimar la validez convergente de una medicin, el
procedimiento razonable consiste en incluir otras mediciones que miden el mismo
constructo y determinar hasta qu punto estas covaran, pues si miden lo mismo
deberan correlacionarse positivamente. Para determinar la validez discriminante,
el procedimiento comn es incluir mediciones que miden constructos distintos al
constructo de inters y determinar cunto covaran, bajo el supuesto de que si no
miden el constructo de inters entonces las mediciones deberan estar poco
correlacionadas (Tornimbeni et al., 2008).
Para recopilar evidencias sobre la validez de criterio se utilizan
procedimientos similares a los anteriormente descritos, solo que aqu se emplea
un criterio externo a la ejecucin del test, como pueden ser las medidas de alguna
variable que el instrumento intenta predecir (Cronbach & Mehl, 1955). As, en la
evaluacin de una medida de burnout o estrs laboral, un investigador puede
recopilar informacin sobre la capacidad del test para predecir la cantidad de
ausencias injustificadas o la cantidad de solicitudes de incapacidad laboral, bajo el
supuesto (derivado de su teora) de que altos niveles de burnout predicen altos
niveles de ausentismo. Variables categricas externas, como el sexo o la
pertenencia a grupos especficos (esquizofrnicos vs. no esquizofrnicos),
tambin permiten a los investigadores estimar la validez de las medidas si al
comparar las puntuaciones del test los grupos difieren significativamente entre
ellos y de la manera en que la teora plantea que deberan hacerlo.

18

Para todos estos casos, la estadstica moderna ofrece un importante


nmero de estrategias analticas, como la estimacin de las correlaciones
bivariadas entre las variables en estudio, la comparacin de promedios (pruebas t
y anlisis de varianza) y anlisis multivariados ms sofisticados, como el anlisis
de varianza mltiple, el anlisis de regresin mltiple, los modelos de ecuaciones
estructurales y los modelos lineales jerrquicos.
La validez de las consecuencias hace referencia a la necesidad de
examinar los potenciales efectos colaterales no anticipados de los usos legtimos
del test, derivados de fuentes de invalidez del instrumento (Messick, 1995). Este
tipo de validez es particularmente importante para las pruebas de ejecucin
mxima (rendimiento, aptitudes, inteligencia) y las de alto riesgo (seleccin,
promocin o certificacin), es decir, aquellas en las que los resultados tienen
consecuencias importantes para los sujetos o grupos de sujetos, como por
ejemplo las pruebas cuyos resultados definen el ingreso de los aplicantes a
centros educativos, o aquellas empleadas para la seleccin de personal y la
evaluacin de la habilidad mental de las personas para ejecutar alguna tarea
(portar armas, por ejemplo) (Padilla, Gmez, Hidalgo & Muz, 2006).

As, si

existen evidencias de que un instrumento favorece a un grupo de aplicantes sobre


otro, el test pierde una importante parte de su validez, pues no cumple con su
finalidad en el marco de los principios de justicia en la medicin.
Existen varios procedimientos para analizar las consecuencias de los
resultados de un instrumento. Dentro de ellos destaca el Anlisis Diferencial del
tem (DIF, por sus siglas en ingls), el cual es un procedimiento muy utilizado para

19

detectar si un reactivo favorece a un grupo de aplicantes sobre otro (Moreira,


2008). En una prueba de razonamiento matemtico, por ejemplo,

un reactivo

presenta DIF cuando examinados que poseen el mismo nivel en el rasgo medido
(razonamiento matemtico) presentan diferentes probabilidades de acertar el
reactivo solo por pertenecer a distintos grupos (ser mujer, por ejemplo)

y no

porque difieren en el nivel de constructo medido. Las diferentes probabilidades se


calculan comparando las frecuencias de aciertos y errores en un tem en los
sujetos que, perteneciendo a distintas poblaciones, muestran el mismo nivel de
puntuacin en la prueba (Morerira, 2008).

Confiabilidad
Anastasi (1982) define la confiabilidad de un instrumento como la precisin
con que el test mide lo que mide, en una poblacin determinada y en las
condiciones normales de aplicacin.
Otra forma de entender la confiabilidad es en trminos de la consistencia
entre las puntuaciones que obtuvieron las mismas personas en momentos
distintos: si un test es aplicado a las mismas personas (pongamos por caso, dos)
en ocasiones distintas, se esperara que las puntuaciones de las dos aplicaciones
arrojen resultados similares, ya que estn midiendo lo mismo en las mismas
personas. Tambin puede verse como la consistencia entre las puntuaciones que
obtienen los mismos sujetos en dos conjuntos de tems equivalentes, porque si los
dos conjuntos de estos son equivalentes, se esperara que las puntuaciones de
ambos fuesen similares (AERA, APA y CMRE, 1999).

20

El hecho de que la confiabilidad apele a la precisin nos recuerda que la


confiabilidad indica hasta qu punto la medida no contiene errores de medicin. El
axioma fundamental de la Teora Clsica de los Tests (Xi = Ti + Ei) presupone que
en toda medicin estn involucrados un valor verdadero del constructo y errores
de medicin aleatorios. La T (true) representa la puntuacin media de un nmero
infinito de mediciones en un sujeto y la E (error) representa todas las variaciones
puntuales en la medicin que no estn relacionadas con el procedimiento de
medicin. Tales errores se suponen aleatorios, lo que permite la definicin del
error en trminos estadsticos (Muiz, 2002; Osterlind, 2006).
As, si una medicin contiene pocos errores aleatorios, entonces las
puntuaciones de esta pueden ser reproducidas si el constructo es medido de
nuevo utilizando el mismo instrumento en los mismos sujetos: si los errores son
verdaderamente

aleatorios,

tendran muy baja

probabilidad de aparecer

nuevamente.
Ntese que hemos hecho nfasis en definir los errores como aleatorios. En
realidad existen dos tipos de errores: los errores constantes o sistemticos
(muchas veces conocidos como sesgos) y los errores aleatorios. Los primeros se
producen

cuando

las

puntuaciones

obtenidas

con

una

escala

son

sistemticamente mayores o menores que lo que realmente deben ser cuando se


aplica la escala. Los segundos (aleatorios o no sistemticos) se observan cuando
las puntuaciones son algunas veces mayores y otras veces menores de lo que
realmente deben ser, pero sin un patrn sistemtico.

21

Al igual que en el caso de la validez, la confiabilidad no es absoluta y


depende no solo del contenido de los reactivos, sino tambin de las personas que
toman el test, las condiciones de aplicacin del instrumento, las personas que lo
califican y las formas de calificarlo. Asimismo, aqu el oficio del constructor o
constructora de instrumentos no es distinto del cientfico o la cientfica que debe
proporcionar evidencias empricas a favor del argumento de que sus instrumentos
son confiables, tomando en cuenta todos los aspectos que intervienen en la
aplicacin que representan potenciales fuentes de error.
En general, se distinguen tres grandes dimensiones de confiabilidad: a) la
estabilidad de las puntuaciones, b) la consistencia interna y c) la congruencia entre
calificadores (algunas veces referida como objetividad) (Tornimbeni et al., 2008).
Para estimar la estabilidad de una medicin, el procedimiento elemental
consiste en medir el constructo con el mismo instrumento en las mismas personas
en dos momentos distintos y calcular la correlacin de las puntuaciones
observadas en ambas ocasiones. Un coeficiente de correlacin alto entre los dos
grupos de puntuaciones indicara que los individuos mantuvieron sus posiciones
en las dos aplicaciones. Esta estrategia se conoce como mtodo test-retest.
Tambin se puede estimar la estabilidad de un test administrando dos (o
ms) formas paralelas de la misma medicin en dos ocasiones distintas. Las
formas paralelas deben tener las mismas caractersticas formales y estadsticas;
entre otros requisitos, deben contener la misma cantidad de reactivos y la misma
escala de medida, adems de tener medias y desviaciones estndar semejantes.
Esta estrategia es conocida como el mtodo de formas paralelas.

22

Cuando las dos versiones equivalentes son aplicadas en una sola ocasin,
la correlacin entre los dos conjuntos de tems es un indicador de consistencia
interna. Otra forma de estimar la consistencia interna es el mtodo de mitades
equivalentes (split-half). Una vez aplicado el test, ste se divide en dos mitades
(por ejemplo, los reactivos pares vs. los reactivos impares) y se califican por
separado; finalmente, se calcula la correlacin entre las dos series de puntajes
resultantes.
Esta idea de partir el test por la mitad es la base de los llamados mtodos
de covarianza de los tems o mtodos de equivalencia racional (Anastassi, 1982).
En dichos mtodos se considera que si un test est formado por un conjunto de x
tems, estos pueden ser considerados como un conjunto de x test paralelos (tantos
como tems tenga el instrumento). Luego se deriva una ecuacin para calcular el
coeficiente de consistencia interna, que bsicamente es el promedio de
correlaciones de todos los test paralelos (o reactivos).

Los coeficientes ms

utilizados son el (famoso) coeficiente Alfa de Cronbach y el coeficiente KuderRichardson (para reactivos dicotmicos, como los de falso y verdadero)
(Osterlind, 2006).
Para estimar el acuerdo entre calificadores se aplica la prueba una sola vez
y se entregan los resultados a los jueces, quienes los califican de manera
independiente, para luego estimar el grado de acuerdo en la calificacin. Este
procedimiento es particularmente idneo para instrumentos que se deben calificar
de manera objetiva. El objetivo de este procedimiento es que el test produzca los
mismos resultados, independientemente de la subjetividad del evaluador, de lo
contrario no seran precisos. Los ndices de acuerdo ms utilizados son los

23

coeficientes Kappa (para variables nominales), las w de Kendall y la correlacin


intraclase (para variables medidas en el nivel ordinal o de intervalo) (Tornimbeni,
et al., 2008).
Un anlisis complementario al de la consistencia interna del test o
instrumento como totalidad se conoce como anlisis de tems, mediante el cual es
posible analizar las caractersticas de los tems directamente vinculadas con las
propiedades del test y que por tanto influyen en su precisin (Muiz, 2002). Las
principales caractersticas son la dificultad del reactivo y su capacidad de
discriminacin.
El ndice de dificultad se calcula en aquellos reactivos en donde existe una
respuesta correcta, y se define como la proporcin de individuos que aciertan el
reactivo. El ndice de discriminacin informa sobre la capacidad del reactivo para
distinguir (diferenciar) entre quienes tienen puntuaciones altas en la escala o test
y quienes tienen puntuaciones bajas, y se define como la correlacin simple entre
las puntuaciones de los sujetos en el reactivo y sus puntajes en la escala como un
todo (Muiz, 2002).
En el Cuadro 2 se resumen las diferentes dimensiones de la confiabilidad,
as como diversas tcnicas a las que se puede acudir para su verificacin.
Como se puede observar a lo largo de esta breve exposicin, estimar la
validez y la confiabilidad forma parte de los requerimientos bsicos de desarrollo
de instrumentos. Se trata de un proceso idntico al que se realiza en cualquier
investigacin emprico-analtica: El investigador o investigadora formula un
argumento o hiptesis sobre las distintas facetas o dimensiones de validez y

24

confiabilidad, y ejecuta uno o varios estudios para recopilar evidencias que apoyen
(o refuten) su argumento. Dentro de este proceso, las fuentes de informacin son
tanto cualitativas como cuantitativas.

Cuadro 2. Dimensiones de Confiabilidad


Dimensin

Mtodo

# de
aplicaciones

Estabilidad

Consistencia

Estadsticos
Ms usados

Test-retest

Formas paralelas

Formas paralelas

Particin por mitades

r (con correccin

interna

Spearman-Brown
Covariacin entre

reactivos
Objetividad

Acuerdo entre
examinadores

de Cronbach, KuderRichardson

Kappa de Cohen, w de
Kendall, coeficiente de
correlacin intraclase

Nota. r = Coeficiente de correlacin de Pearson.

Es particularmente obvio el papel de la EC dentro de las estrategias para


recolectar evidencias de validez como herramienta central para el anlisis del
proceso de respuesta. Este tipo de anlisis tiene como objetivo permitir a los(as)
investigadores(as) examinar en qu medida su instrumento mide lo que debe
medir, analizando la naturaleza del proceso mental de responder los reactivos.
Figura dentro de los primeros pasos en la construccin, adaptacin o validacin de

25

los instrumentos de medicin y normalmente este tipo de evidencia se recopila


antes de probar el instrumento en el estudio piloto, donde es necesaria una
muestra grande para recabar los otros tipos de evidencias de validez.
La EC refiere precisamente a la evaluacin de los mecanismos cognitivos
que se encuentran a la base de responder los reactivos en ambientes controlados
con una modesta muestra de potenciales aplicantes, entrevistados o examinados,
y por ello es una de las estrategias privilegiadas por los investigadores para
recopilar evidencias de este tipo de validez.
Aunque la EC no es la nica estrategia para recopilar informacin sobre el
proceso de repuesta, es sin duda alguna el dispositivo idneo para hacerlo,
precisamente porque su objetivo es estudiar en el laboratorio el funcionamiento de
los reactivos desde la perspectiva de los participantes antes de probarlos en
muestras ms grandes.
La EC, como estrategia para estudiar el proceso de respuesta, posibilita no
slo tener certeza sobre lo que significan las puntuaciones de la medida, sino
tambin conocer ms a fondo el constructo que se est midiendo y detectar las
potenciales fuentes de invalidez (como por ejemplo, el funcionamiento diferencial
de los reactivos), esclareciendo en qu medida el reactivo demanda la puesta en
marcha de otras capacidades irrelevantes o evoca tendencias no deseadas, como
la de conformarse con las normas.
En el caso del anlisis de confiabilidad, la EC no aparece claramente
perfilada, pero parece razonable pensar que la EC tiene una importante utilidad
para la precisin de los instrumentos. Consultar directamente a los potenciales

26

evaluados sobre los procesos mentales que ponen

en marcha a la hora de

contestar los reactivos proporciona informacin sobre la dificultad de los reactivos.


La incorporacin de la evidencia basada en el proceso de respuesta es
producto de los aportes de las Ciencias Cognitivas a la Psicometra. En la
siguiente seccin describimos algunos de esos aportes al concentrarnos en los
principios tericos de la EC.
Literatura recomendada
Son especialmente claves los

textos clsicos de Anastassi (1982),

Cronbach y Meehl (1955), Messick (1989, 1995) y Nunnaly (1991). De los autores
modernos recomendamos los trabajos de Susan Embretson (Embretson & Gorin,
2001), porque incorporan sistemticamente los aportes de las Ciencias Cognitivas
a la Psicometra y los trabajos de Bollen (2002) que son particularmente
iluminadores sobre el concepto de variables latentes.
En el contexto costarricense existen varios trabajos que pueden ser de gran
utilidad para profundizar en todos estos temas.

Por ejemplo, en el

texto de

Eiliana Montero del 2008 se discute la diferencia entre ndices y escalas y se


ofrecen ejemplos concretos sobre su construccin (Montero, 2008). En el mismo
ao, Tania Moreira public un artculo en donde describe muy claramente el
concepto de DIF y sus aplicaciones (Moreira, 2008).
No tratamos aqu las teoras actuales que guan la Psicometra. En su lugar
recomendamos el texto de Muiz (2002) sobre Teora Clsica de los Tests, pero
pensamos que es especialmente idneo para los lectores y lectoras ms

27

experimentados. Para los menos experimentados

recomendamos el texto de

Tornimbeni, Prez y Olaz (2008), quienes hacen una introduccin a la Psicometra


muy clara y accesible. Por su parte Mara Elena Ziga y Eiliana Montero (2007)
hacen una excelente exposicin de la Teora de la Generalizabilidad, e Eiliana
Montero (2001) hace lo propio con la Teora de Respuesta tem.
Todos estos textos figuran en la lista de referencias al final de este
cuaderno y muchos de ellos estn disponibles en la Web.

28

LAS CIENCIAS COGNITIVAS Y EL DISEO DE INSTRUMENTOS


DE PAPEL Y LPIZ
La preocupacin por la evaluacin del funcionamiento de los reactivos no es
nueva en las ciencias que utilizan instrumentos de papel y lpiz como medio para
recolectar informacin. Desde muy temprano, los y las investigadores(as) se
preocuparon por que la redaccin de los estmulos permitiera a los sujetos dar
cuenta de sus experiencias, actitudes y sentimientos. As por ejemplo, en el marco
del estudio de las actitudes, Thurstone (1928) recomendaba:
En la elaboracin de la lista inicial de aseveraciones se aplican varios
criterios prcticos en el primer trabajo de edicin. Algunos de los criterios ms
importantes son los siguientes: A) las afirmaciones deben ser lo ms cortas posible
de manera que no fatiguen a los sujetos a los que se les pide leer la lista completa.
B) Las afirmaciones deben ser de tal tipo que puedan ser secundadas o
rechazadas conforme a su concordancia o discrepancia con la actitud del lector
[] C) Cada aseveracin debe prever que su aceptacin o rechazo indique algo
con respecto a la actitud del lector acerca del asunto en cuestin [] D) Las
afirmaciones de doble significado deben evitarse [] Las afirmaciones de doble
significado tienden a tener un alto componente de ambigedad [] E) Es
necesario asegurarse de que por lo menos la gran mayora de las afirmaciones
pertenecen realmente a la variable de actitud que se va a medir (pp. 544-545,
traduccin nuestra).

Estas y otras reglas, de conocimiento generalizado entre quienes


construyen instrumentos de papel y lpiz, coinciden con los principios bsicos de

29

la comunicacin y cognicin humana. Pero no fue sino hasta los aos 70,
coincidiendo con el giro cognitivo en la Psicologa, que se empezaron a realizar
esfuerzos sistemticos por incorporar los hallazgos de las ciencias cognitivas en la
construccin de reactivos.
Uno de los esfuerzos ms notables de esta cooperacin interdisciplinaria se
dio a partir de 1978 entre acadmicos de las Ciencias Cognitivas e investigadores
de las grandes casas encuestadoras de los gobiernos de pases como Estados
Unidos, Gran Bretaa y Alemania. De esta cooperacin emergen los llamados
mtodos cognitivos para la evaluacin de las encuestas y los formularios de
encuesta, de los cuales proviene la EC (Jobe & Mingay, 1991).
Mucha de la investigacin en esta lnea se preocup por estimar el efecto
del diseo de los instrumentos, como la redaccin, el orden de presentacin de
los reactivos y el formato de las escalas de respuesta, en las reacciones de los y
las entrevistados (Schwartz & Oyserman, 2001).
Otra rea de investigacin se focaliz en la memoria autobiogrfica,
especficamente en los procesos cognitivos que se activan cuando los
encuestados responden preguntas sobre s mismos y sus experiencias pasadas
(Tourangeau, Rips & Rasinski, 2004).
Otros estudios se han ocupado de los procesos de estimacin de la
respuesta, es decir, los heursticos utilizados por los encuestados para estimar
una respuesta adecuada a las preguntas que se le realizan (Job & Mingay, 1991).
Finalmente, existe todo un trabajo alrededor de tpicos sensibles, como el
reporte de conductas socialmente reprochables y el impacto del contexto de

30

aplicacin de las encuestas, el formato de respuesta y el tipo de mtodo de


recoleccin de datos en la respuesta a este tipo de preguntas (Tourangeau &
Smith, 1996).
Los resultados de investigacin de estas lneas de trabajo se han utilizado
para derivar distintos modelos tericos sobre los mecanismos cognitivos
implicados en el proceso de responder instrumentos de papel y lpiz. Estos
conocimientos han resultado de gran utilidad para evaluar el funcionamiento de los
reactivos y mejorarlos, y son las bases tericas que guan la EC. En la presente
seccin nos concentraremos en los principios tericos y las evidencias empricas
que han aportado las Ciencias Cognitivas para comprender mejor los procesos
mentales involucrados a la hora de contestar instrumentos de medicin.
Las etapas del proceso pregunta-respuesta
La EC se basa en la idea de que para contestar un cuestionario las
personas primero deben comprender el significado transmitido en este.
Posteriormente, inician el proceso de recuperar la informacin solicitada de la
memoria autobiogrfica, luego recurren a diversas estrategias para estimar la
respuesta adecuada y finalmente emiten la respuesta elegida.
Este modelo general se conoce como el Modelo Tourangeau de cuatro
etapas, en alusin a su autor (Tourangeau, 1984), y las cuatro etapas se
denominan a) comprensin, b) recuperacin, c) estimacin y d) ejecucin de la
respuesta. Se trata de un modelo muy simple, pero su parsimonia resulta de gran
utilidad para detectar y corregir potenciales problemas en los instrumentos de
papel y lpiz. En la Figura 1 se presenta una descripcin esquemtica del modelo.

31

Como se puede observar, el modelo no supone que las etapas se suceden


de manera lineal, sino que ms bien las concibe como procesos interrelacionados
a los cuales el sujeto recurre en distintos momentos dependiendo de la finalidad
de su accin. Por ejemplo, un sujeto puede volver a leer una pregunta y redefinir
su significado en el momento en que mira las opciones de respuesta y puede
recuperar informacin distinta en funcin de la forma en que pretende contestar el
reactivo.

Figura 1. Modelo de cuatro etapas.


(Adaptado de Tourangeau, 1984)

Ahora bien, por ms sencillo que este proceso parezca, la investigacin en


comunicacin, lenguaje, memoria, aprendizaje y motivacin nos recuerda que una
pregunta tan simple como En los ltimos 12 meses, cuntas veces fue usted al

32

dentista? puede resultar bastante ambigua y puede ser contestada de muchas


maneras dependiendo de mltiples factores.
Ms an, pese a que reportar conductas y actitudes relevantes toma un
considerable tiempo, las encuestas no suelen usar entrevistas a profundidad, sino
estandarizadas, que por lo general son aplicadas en pocos minutos y en muchos
casos se llevan cabo mediante cuestionarios autoaplicados. Para complicar ms la
situacin, el contexto de aplicacin y el cuestionario en s mismo proporcionan
informacin a los encuestados y encuestadas muchas veces irrelevante para los
fines de la investigacin, lo cual puede desviar su atencin a otros aspectos,
limitar sus estrategias para recuperar la informacin solicitada y, en el peor de los
escenarios, influir en sus respuestas de manera no deseada.
De all la necesidad de conocer ms a fondo lo que acontece mentalmente
en cada etapa del proceso de responder un reactivo, con el fin de incorporar este
conocimiento en la evaluacin de los mismos. A continuacin describimos de
manera muy resumida algunos elementos de los procesos mentales involucrados
en cada una de las etapas propuestas por Tourangeau (1984).
Comprensin
La investigacin nos recuerda que la comprensin del reactivo no refiere
nicamente a la capacidad de los sujetos para entender la pregunta que se les
realiza, refiere tambin a las distintas formas de interpretar un reactivo (Schwarz &
Oyserman, 2001). Comprender las palabras contenidas en los reactivos, o su
sentido literal, no significa que las personas comprendan las intenciones

33

comunicativas (o sentido pragmtico) de los y las investigadores (Tourangeau, et


al. 2004).
La investigacin indica que en las encuestas los y las participantes infieren
el significado e intencin de las preguntas utilizando las normas tcitas que
normalmente utilizan en las conversaciones cotidianas. Una de esas normas es el
Principio de Cooperacin, segn la cual la comunicacin se basa en las siguientes
mximas: a) proporcionar la informacin relevante y vinculada a lo que se solicita,
b) no brindar ni ms ni menos informacin de la que se solicita, c) transmitir
contenidos claros, evitando ambigedades, d) evitar expresar contenidos que se
consideren falsos y e) evitar sostener afirmaciones de las que no se tengan
pruebas adecuadas (Schwarz & Oyserman, 2001).
En la vida real, las personas tienen claves contextuales para responder a
las demandas de informacin (el lenguaje no verbal, las experiencias previas de
interaccin con el interlocutor, los estereotipos sobre los otros, etc.) y de esa
manera saben intuitivamente cmo aplicar estas mximas de comunicacin. En el
mundo de los cuestionarios de papel y lpiz, el contexto de donde las personas
infieren los requerimientos de informacin es el cuestionario mismo y la situacin
de entrevista.

Los entrevistados monitorean e infieren del cuestionario o la

entrevista lo que se desea de ellos para encontrar las claves contextuales de


comunicacin (Willis, 2005).
En un cuestionario, las claves contextuales son de diversa naturaleza, como
el formato de respuesta, la ubicacin de las preguntas en el cuestionario, los
perodos de referencia (lugar y tiempo) de la informacin solicitada, la forma de

34

aplicacin de los instrumentos y hasta la afiliacin de los investigadores (Schawarz


& Oyserman, 2001). Veamos un par de ejemplos.
En un estudio realizado en la Universidad de Michigan,

Norenzayan y

Schwarz (1999) solicitaron a 60 participantes leer un caso de asesinato. A la mitad


de los participantes se les indic que el estudio era llevado a cabo por el Instituto
de Investigacin en Personalidad y a la otra mitad se le indic que el estudio era
llevado a cabo por el Instituto de Investigacin Social. La clave sobre la afiliacin
de los investigadores apareca en los cuestionarios en donde apareca la historia;
despus de leerla, a los participantes se les solicit dar al menos cinco razones
por las cuales ellos crean que la persona cometi el asesinato.
Cuando el cuestionario estaba a nombre del Instituto de Investigacin en
Personalidad,

las

explicaciones

de

los

participantes

se

focalizaban

en

caractersticas de personalidad del perpetrador (atribuciones internas y estables


de los asesinos), mientras que cuando el mismo cuestionario estaba a nombre del
Instituto de Investigacin Social, las explicaciones se concentraron en los
determinantes sociales del homicidio (atribuciones externas). Esto se observ
independientemente del lugar en donde estaba localizada la informacin sobre el
instituto (antes o despus de leer la historia) y del tipo de delito (tiroteo o atentado
con bomba).
Los resultados sugieren que los encuestados adoptaron el principio de
proporcionar la informacin ms relevante, adecuada y vinculada al contexto y las
caractersticas del interlocutor: A los investigadores del Instituto de Investigacin
Social les ofrecieron ms explicaciones sociales sobre los crmenes y a los
investigadores del Instituto de Investigacin en Personalidad, ms explicaciones

35

sobre las caractersticas de personalidad de los perpetradores. No en vano el


artculo que describe esta investigacin fue titulado por sus investigadores de la
siguiente manera: Diciendo lo que ellos quieren saber: los participantes ajustan
sus atribuciones causales a los intereses de sus investigadores (Norenzayan y
Schwarz, 1999, p. 1011, traduccin nuestra).
Otro ejemplo sobre el uso de claves contextuales proviene de un estudio del
Centro Nacional de Estadsticas en Salud de los Estados Unidos realizado por
Lessler, Tourangeau y Salter (1989). Ellos compararon el reporte de las visitas al
dentista utilizando dos distintos tipos de formato. El formato estndar preguntaba
directamente a las personas sobre la frecuencia con que los miembros de su
familia fueron al dentista en los ltimos 12 meses. El formato experimental
pregunt a los participantes lo mismo, pero antes le ofreci una lista de posibles
razones por las que las personas van al dentista (ver Cuadro 3).
Cuadro 3. Dos versiones de una misma pregunta
Versin Experimental
Las siguientes preguntas tienen como objetivo saber cuntas veces cada miembro de su familia ha
ido al dentista en el ltimo ao. Para ayudarle a recordar las posibles visitas le voy a leer una lista
de razones por las cuales las personas pueden ir al dentista:
1.
2.
3.
4.

Algunas personas van al dentista para un chequeo, limpiarse los dientes o ponerse una calza
Algunas personas van por que les duelen los dientes o porque se les cay una calza
Algunas personas van como parte de un tratamiento particular como tratamiento del nervio
Y algunas personas van como parte de un tratamiento de ortodoncia (frenillos)

En los ltimos 12 meses (desde hace un ao), cuntas veces ______ fue al dentista?
Versin Estndar
En los ltimos 12 meses (desde hace un ao), cuntas veces ______ fue al dentista?
Nota. Traducido y adaptado de Lessler, Tourangeau y Salter (1989).

36

Los resultados de la comparacin de ambos formatos indicaron que con la


versin ampliada (con ejemplos) las personas tendan a reportar ms visitas al
dentista que con el formato estndar (2.1 visitas al ao con la versin ampliada vs.
1.2 visitas al ao con el formato estndar). Durante el anlisis del proceso
pregunta respuesta mediante EC, los investigadores notaron que ante la pregunta
estndar muchos de los entrevistados entendan que deban responder cuntas
veces al ao se supone que uno debe ir al dentista (aproximadamente dos).
Al ofrecerles las diversas razones por las cuales una persona puede ir al
mdico, los investigadores hicieron explcita la intencin de su pregunta, como
diciendo nos interesan todas las visitas al dentista que hizo en los ltimos 12
meses, no importa la razn, la costumbre o la norma. Un reactivo as formulado
no slo permiti a las personas tener claridad sobre la intencin de la pregunta,
sino que tambin ayud a recuperar la informacin deseada, que es quizs el
proceso ms complejo de todas las etapas del proceso pregunta-respuesta, como
veremos a continuacin.
Recuperacin de la informacin
Una vez comprendida la pregunta, los encuestados deben recuperar la
informacin de la memoria. Como ya indicamos, este es quiz uno de los temas
ms controversiales a la hora de plantear preguntas en instrumentos de papel y
lpiz. De all que la mayora de la investigacin se haya concentrado en este tema.
Las teoras modernas distinguen entre dos tipos de conocimiento
almacenado en la memoria: el declarativo y el procedural (Klein, German,
Cosmides & Gabriel, 2004). El conocimiento declarativo es el que se refiere a la

37

informacin sobre hechos, mientras que el procedural, al repertorio de reglas y


habilidades que nos permiten navegar en el mundo. El primero se relaciona con el
saber qu (saber sobre las cosas en el mundo y sobre el s mismo)

y el

segundo, al saber cmo (saber sobre cmo actuar frente al mundo y los otros)
(Ryle, 1949).
La memoria declarativa, por su parte, parece tener dos formas bsicas:
episdica y semntica (Tulving, 2002). La episdica consiste en el conocimiento
de los eventos que nos han sucedido en nuestras experiencias pasadas, junto con
la conciencia de que sucedieron. Se trata de una experiencia fenomnica
personal, el sentimiento de que eso sucedi y nos sucedi a nosotros: es un
conocimiento que uno puede revivir. La memoria semntica, por su parte, no
necesariamente est acompaada de la conciencia de que eso me sucedi a m.
Refiere ms bien al conocimiento sobre conceptos y significados (como perro,
calor, uno, dos, tres)

que han sido obtenidos sin referencia a dnde y

cundo lo hemos adquirido. En las encuestas solicitamos informacin de ambos


tipos, pero la memoria episdica es particularmente solicitada.
De acuerdo con autores como Tulving (2002) o Klein, German, Cosmides &
abriel (2004), para que la memoria sea experimentada como conocimiento
autobiogrfico, se requieren al menos tres capacidades: a) la autorreflexin, es
decir, la habilidad de reflexionar sobre nuestros estados mentales: saber sobre lo
que sabemos; b) la nocin de pertenencia de nuestros recuerdos: la sensacin de
que nosotros somos la causa de nuestros pensamientos y acciones, junto con el
sentimiento de que los pensamientos y acciones nos pertenecen; y c) el

38

reconocimiento de la temporalidad personal, esto es, poder navegar en el propio


tiempo como una sucesin de experiencias personales.
La investigacin sobre estos tpicos nos indica que todava nos falta mucho
por conocer sobre la memoria y que en algunos puntos no existe un consenso
generalizado entre los investigadores.

No obstante, existe mucha evidencia a

favor de cuatro caractersticas bsicas de estos tipos de memoria, con


implicaciones muy importante para quienes disean cuestionarios.
La primera caracterstica refiere al hecho de que la memoria autobiogrfica
decrece con el tiempo y que la recuperacin depende de las caractersticas
temporales de los eventos. La segunda es la observacin de que la memoria
episdica no siempre coincide con la

memoria semntica. La tercera

particularidad es que la memoria no es lineal, sino que se asemeja ms a una red


jerrquica de eventos. Y la cuarta particularidad refiere a que las personas
buscamos claves en nuestro contexto inmediato para recuperar la informacin
almacenada en nuestra memoria.
Es claro que las personas algunas veces no pueden recordar un evento
personal, an cuando tienen a mano numerosas claves para recordarlo. Estudios
sobre estos tpicos han encontrado que

menos de una cuarta parte de los

detalles crticos de eventos personales (identificados por las mismas personas


como importantes) no pueden ser recordados un ao despus de sucedido el
evento, y hasta un 50% de esos detalles no pueden ser recordados despus de 5
aos (Bradburn, Rips & Shevell, 1987).

Existe evidencia de que la precisin del

recuerdo decrece en pocas semanas y hasta en das para recuperar informacin

39

sobre actividades tan cotidianas como el consumo diario de alimentos (Smith,


Jobe & Mingay, 1991, estudio 1).
A esto se le debe agregar que la recuperacin de la informacin est
afectada por las caractersticas de los eventos; por ejemplo, eventos raros
(inusuales), recientes o frecuentes pueden ser ms fcilmente recordados,
mientras que las conductas rutinarias e irrelevantes son ms difciles de recordar.
Tratemos de traer a la memoria por un momento cuntas horas pasamos sentados
el da de ayer: Qu responderamos si nos hacen una encuesta sobre estos
aspectos? (Tourangeau, et al., 2004).
Tambin es claro que la memoria semntica y la memoria episdica poseen
muchas caractersticas en comn, pero tambin muchas diferencias (Tulving,
2002). En pacientes con dao prefrontal, por ejemplo, la memoria para recordar la
fuente de la informacin se encuentra particularmente afectada, no as el
conocimiento en s mismo. Es decir, la informacin se recuerda correctamente,
pero el contexto espacio-temporal en el que dicha informacin se adquiri no
puede ser recordado (Tirapu-Ustrroz & Muoz-Cspedes, 2005). Estudios en
laboratorio indican tambin que

la memoria episdica solo puede recuperar

informacin que ha sido previamente almacenada, mientras que la memoria


semntica tiene acceso a informacin que no ha sido explcitamente almacenada
(Tulving, 2002). Pensemos por un momento en todas las cosas que sabemos,
pero de las que no podemos precisar el momento y/o el lugar donde las
aprendimos Estos estudios tambin indican que la informacin episdica es muy
sensible a la interferencia y al olvido, porque depende de la condicin temporal del
evento (el momento en que lo vivimos). La memoria semntica, por su parte,

40

dispone de una informacin bien enraizada en una estructura relativamente


estable de relaciones, al menos en las personas adultas, y en consecuencia es
menos vulnerable a interferencias (Tulving, 2002).
La evidencia sugiere adems que la memoria episdica est organizada en
varios niveles diferentes de conocimiento personal, que se distinguen por su grado
de generalidad (Conway & Pleydell-Pearce, 2000). En otras palabras, podemos
pensar en la memoria autobiogrfica como una red jerrquica compuesta en su
nivel superior por perodos extendidos (el tiempo que trabajabamos en la UCR),
en su nivel intermedio, por eventos duraderos y de carcter repetitivo (realizando
la investigacin sobre EC) y en su nivel inferior, por eventos especficos e
inusuales (cuando sucedi el conflicto entre Costa Rica y Nicaragua por el
dragado del Ro San Juan).
Esta red posibilita recordar eventos del pasado a travs de distintas vas: de
arriba-abajo en la jerarqua, de manera secuencial a lo interno de los eventos
duraderos ocurridos en perodos extendidos, y de manera paralela a partir de
eventos inusuales (Schwarz y Oyserman, 2001).
Finalmente la investigacin muestra que as como utilizamos pistas
contextuales para comprender las preguntas de un cuestionario, as tambin
buscamos pistas contextuales para recuperar la informacin que se nos solicita.
Por ejemplo, es sabido que la informacin se recupera mejor cuando las claves
utilizadas para recuperar la informacin estaban presentes a la hora de codificarla
por primera vez, cuando el contexto en que la estamos recordando es similar al
contexto de codificacin y cuando nuestros estados psicolgico y fisiolgico
tambin son similares al de ese momento (Jobe, 2003).

41

Pero como ya lo indicamos, en las entrevistas o aplicaciones de


cuestionarios realizamos preguntas fuera del contexto original en el que
ocurrieron, y esto plantea una serie de retos (o problemas) para la recuperacin de
la informacin. Dada la complejidad del proceso de recuperacin de informacin,
no es de sorprender que las personas pongan en marcha una serie de estrategias
para aproximarse a una respuesta estimada, como veremos en las siguientes
lneas.
Estimacin de la respuesta
La valoracin o estimacin de la respuesta se refiere al uso de heursticos o
reglas de aproximacin a la respuesta (Collins, 2003). En otras palabras, las
personas estiman sus respuestas a ojo de buen cubero.

Detrs de estos

heursticos se encuentran las teoras implcitas que tienen las personas sobre s
mismas, sobre los otros y sobre el contexto, las reglas implcitas de interaccin y
la comunicacin social.
Pensemos por un momento en una pregunta simple como Cuntas horas
trabaj usted la semana pasada?. La investigacin sugiere que ante esta
pregunta un entrevistado tiende a utilizar teoras implcitas sobre l o ella, su
experiencia personal y su empleador, ms que dar informacin sobre lo que
sucedi la semana pasada.
Esto es, l o ella puede suponer que no hay razn alguna para asumir un
cambio radical en su jornada laboral en este perodo de tiempo, dado que es una
persona que regularmente va al trabajo y que su empleador cumple con las

42

regulaciones laborales bsicas. As, la persona en cuestin utilizara las horas de


trabajo estipuladas en su contrato laboral para estimar la respuesta final.
Igualmente la investigacin emprica ha mostrado que las personas
tendemos a redondear nuestras respuestas. Por ejemplo, reportes sobre lapsos
ocurridos, ante preguntas del tipo Hace cuantos das?, con qu
frecuencia o cada cuanto? evidencian agrupamientos de las respuestas en
7, 15 y 30, respectivamente, coincidiendo con la mtrica usual (en Occidente) para
el conteo de los das (Schwarz & Oysermna, 2001).
Finalmente, la investigacin emprica ha mostrado que las personas
sobreestimamos la frecuencia de eventos peculiares e inusuales y subestimamos
la de eventos habituales (Schwarz y Oyserman, 2001).
Todas estas estrategias de aproximacin a las respuestas dependen de la
forma en que se planteen las preguntas en los cuestionarios, por tanto, deberan
ser evaluadas antes de aplicar los cuestionarios en los estudios principales.
Ejecucin de la repuesta

La ejecucin de la respuesta hace referencia al acto mismo de expresar


verbalmente, escribir o marcar una de las opciones de respuesta ante los reactivos
o preguntas.
En este nivel, se ha observado que las personas escanean las opciones
de respuesta para identificar aquellas que mejor se ajusten a la respuesta
pensada; de hecho, se ha visto que el formato de respuesta afecta directamente la
ejecucin de esta. (Schwarz & Oyserman, 2001).

43

Pinsese en una pregunta como Cundo fue la ltima vez que usted
escuch hablar del referndum sobre el Tratado de Libre Comercio de Estados
Unidos con Centroamrica y el Caribe?, aunada a las siguientes opciones de
respuesta: a) Hoy, b) Ayer, c) Hace dos das, d) Hace una semana, e) El mes
pasado. Este tipo de opciones de respuesta obliga a las personas a concentrarse
en un perodo relativamente corto e induce a suponer que deben haber escuchado
algo sobre el tema recientemente (Jobe, 2003).
A todos esto se le debe adjuntar los procesos psicofisiolgicos que pueden
influir en las respuestas, como la fatiga y el estado de nimo a la hora de contestar
el cuestionario; o bien las tendencias motivacionales bsicas de los seres
humanos, como la necesidad de ser aceptados, la necesidad de control y la
deseabilidad social. Evidentemente los procesos cognitivos no estn separados de
los procesos motivacionales; todo lo contrario, la investigacin sugiere que la
emocin interacta con la memoria, y la evidencia neurocientfica indica que la
amgdala juega un papel muy importante en ello, particularmente en las fases de
consolidacin del recuerdo (Phelps, 2006).
La investigacin muestra que la fase final de ejecucin de la respuesta
puede estar particularmente afectada por la tendencia natural en los seres
humanos de salvar la cara y quedar bien. Al respecto, la deseabilidad social es
una de las tendencias ms estudiadas y refiere a la tendencia a convenir con las
normas sociales reportando con mayor facilidad conductas socialmente esperadas
que conductas ilcitas y socialmente sancionadas (Collins, 2003; Jobe, 2003;
Schawarz & Oyserman, 2001).

44

Es por todo esto que algunos autores suponen una quinta etapa de
edicin de la respuesta, para indicar que antes de marcar una respuesta, las
personas estn atentas a las normas sociales y a las reglas de interaccin
interpersonal, de modo que a partir de las expectativas de los otros (presentes o
imaginados) revisan y corrigen sus respuestas.
Un ejemplo de nuestro laboratorio nos permite ilustrar este punto (SmithCastro, Molina & Castelain, 2010). En una encuesta que realizamos entre 87
personas costarricenses entre los 16 y los 51 aos de edad (63% mujeres),
estudiamos el efecto de las demandas sociales relacionadas con la opinin sobre
la unin civil entre personas del mismo sexo. Para ello confeccionamos dos tipos
de cuestionarios: en una de las versiones, los participantes fueron primero
interrogados sobre su aceptacin o rechazo de la iniciativa sobre este tipo de
unin civil y luego hicimos una serie de preguntas sobre prcticas religiosas (rezar,
ir a la iglesia, leer la biblia), mientras que en la otra versin, los participantes
contestaron primero las preguntas sobre religiosidad y luego brindaron su opinin
sobre la unin civil entre personas del mismo sexo. Las dos versiones fueron
distribuidas al azar entre los participantes. Los resultados de la consulta en funcin
de las versiones del cuestionario se pueden observar en la Figura 2.
Aunque el reporte de prcticas religiosas no vari dependiendo de la
versin del cuestionario, la opinin sobre este tipo de uniones civiles s se alter
en funcin del orden de presentacin de las preguntas (2 4.29, gl = 1, p = .039).
Cuando les preguntamos directamente a las personas sobre su opinin sobre esta
iniciativa, el porcentaje de apoyo fue del 67% y el rechazo, del 30%, mientras que

45

cuando se pusieron de relieve las prcticas religiosas antes de preguntar por la


opinin, el acuerdo disminuy al 45% y el rechazo aumento al 55%.

100%
A favor
80%

En contra
67%
55%

60%

40%

45%
33%

20%

0%
Opinin primero

Religiosidad primero

Figura 2. Apoyo a las uniones civiles gay segn el orden de presentacin de los reactivos
Nota. Opinin primero: En esta versin del cuestionario se solicit la opinin sobre la unin civil
antes de preguntar por las prcticas religiosas. Religiosidad primero: En esta versin se solicit la
informacin sobre las prcticas religiosas antes de preguntar por la opinin sobre la unin civil.

Nuestros resultados son consistentes con la idea de que activar la


presencia de normas sociales como la religiosidad, directamente vinculadas con la
temtica en cuestin, pudo haber afectado la expresin del apoyo a esta iniciativa.
No solo el orden en que aparecen las preguntas en el cuestionario afecta la
forma en que las personas responden. El tipo de aplicacin del cuestionario es
fundamental. Tourangeau & Smith (1996) encontraron que los cuestionarios

46

autoadministrados apoyados por el uso de computadoras aumentan la disposicin


de los encuestados a reportar conductas privadas y embarazosas, como la
cantidad de compaeros sexuales o la frecuencia de uso de drogas ilcitas.
En sntesis, el modelo de cuatro etapas (comprensin-recuperacinestimacin-ejecucin) es una herramienta terica que nos ayuda a considerar
todos

aquellos elementos cognitivos implicados en el proceso de contestar

instrumentos de papel y lpiz, teniendo en cuenta siempre que, tal y como se


desprende del modelo, recuperar eventos de la memoria autobiogrfica resulta en
s un proceso complejo.
Las implicaciones para la construccin de instrumentos de papel y lpiz son
claras: las preguntas o reactivos y el cuestionario en s mismo

deben ser

acompaados de elementos que faciliten la comprensin, la recuperacin de la


informacin, la estimacin de la respuesta y la ejecucin de la misma. Evaluar si
estos intentos son exitosos es la tarea de la EC, como veremos en la siguiente
seccin.
Literatura recomendada
De los trabajos que conocemos, el trabajo de Tourangeau, Rips & Rasinski
(2004) es quiz la mejor recopilacin sobre la psicologa del proceso de respuesta
de cuestionarios en el marco de encuestas. Otro nombre clave es Norbert
Schwarz (Schawarz & Oyserman, 2001), cuyos trabajos citamos sistemticamente
en este apartado.

47

En el ao 2003 la Revista Quality of Life Research dedic su nmero 12 a


los mtodos cognitivos de evaluacin de instrumentos de encuestas. De all
provienen los trabajos de Collins (2003) y Jobe (2003) que citamos aqu.
Finalmente, el Centro Nacional de Estadsticas en Salud de los Estados
Unidos (NCHS), dedica una serie completa de investigaciones sobre cognicin y
medicin en encuestas que pueden ser descargadas gratuitamente de la siguiente
direccin electrnica: http://www.cdc.gov/nchs/products/series.htm

48

LA ENTREVISTA COGNITIVA EN LA PRCTICA


En las secciones anteriores tratamos de describir para qu se hace la EC y
por qu es importante hacerla. En esta seccin describimos qu es una EC y
cmo se hace. Creemos que la mejor manera de transmitir cmo funciona esta
tcnica es mostrando de una vez la consigna con la cual se instruye a los
participantes a la hora de realizarla (ver Cuadro 4).

Cuadro 4. Consigna para iniciar la entrevista cognitiva


Instrucciones
Estamos realizando una serie de pruebas para ver cmo funciona este cuestionario. Para eso yo le
voy a dar el cuestionario y le voy a pedir que lo llene como si estuviramos realizando la encuesta.
En esta etapa lo que nos interesa es saber cmo est funcionando el cuestionario. Por eso le voy a
pedir que conforme lo va completando piense en voz alta. Es decir, que diga en voz alta todo lo
que se le viene a la mente conforme va completando las preguntas.

En cada pregunta, yo le voy a realizar ms preguntas sobre la redaccin de estas, las instrucciones
y las opciones de respuesta. Es importante que tenga presente que nosotros queremos saber si el
cuestionario funciona. No dude en decirme si algo le parece confuso y si algo se puede mejorar.

Vamos a durar aproximadamente ____ minutos en todo el proceso.

Antes de iniciar tiene alguna pregunta?

Prctica: Para irse acostumbrando a pensar en voz alta, vamos a practicar con la primera seccin
del cuestionario. A partir de la segunda seccin vamos a iniciar formalmente con la entrevista.

Adaptada de Willis (2005).

Como se puede inferir de la consigna, la EC es una entrevista individual


semiestructurada en ambiente controlado en la cual se le solicita contestar la

49

entrevista o completar el cuestionario (si ste es autoaplicado), y se le interroga


sobre los distintos aspectos que intervienen o interfieren en el proceso de
contestar las preguntas.
Se puede observar tambin que a la persona se le piden dos cosas bsicas:
decir en voz alta todo lo que est pensando mientras completa el cuestionario y
contestar una serie de preguntas sobre el cuestionario. Estas son las dos tcnicas
bsicas que se utilizan en la EC: pensar en voz alta y las tareas o pruebas
verbales.
Pensar en voz alta
Cuando se utiliza esta tcnica en el marco de una evaluacin del
funcionamiento de un cuestionario, el investigador o investigadora le pide a la
persona participante que

vaya completando el cuestionario o la entrevista y

verbalice todo el proceso mental que le ocurre mientras llena el cuestionario


(Erickson & Simon, 1993). El entrevistador o entrevistadora interviene lo menos
posible mientras la persona va narrando todo lo que pasa por su cabeza y registra
(por medio de audio y/0 video) el proceso mental verbalizado para detectar
problemas a la hora de contestar los reactivos.
Las pocas intervenciones del entrevistador o entrevistadora se dirigen a
pedirle a la persona que diga en voz alta lo que piensa en ese momento
guindose por la conducta verbal y no verbal del entrevistado o entrevistada
(Presser, Couper, Lesser, Martin, Martir, et al., 2004). Un ejemplo de esta tcnica
se presenta en el Cuadro 5.

50

Cuadro 5. Ejemplo del mtodo de pensar en voz alta


Entrevistador: Bueno (,) vamos a iniciar formalmente la entrevista () Entonces voy a pedirle que
en voz alta la haga () Para practicar vamos a hacer esta parte de informacin sociodemogrfica.

Participante 9: Y lo voy llenando entonces?

Entrevistador : S

Participante 9: Entonces tengo que leer lo que dice ah y las respuestas que doy tambin tengo
que decirlas?

Entrevistador: Por favor

Participante 9: OK. Nacionalidad () de Costa Rica. Sexo () femenino. Orientacin sexual,


homosexual, bisexual, heterosexual (lee todas las opciones y enfatiza la respuesta en la tercera).
Estado civil (,) soltera () Edad (,) 24 () Carrera que cursa () psicologa y tambin
comunicacin colectiva () Nivel de la carrera en la que cursa la mayora de las materias (,) sera
psicologa (,) entonces sera (,) nivel de la carrera () diay sera tercer ao (,) pero me resulta
confusa esa pregunta porque uno puede pensar en que uno est en la universidad o si est en
tercer ao o si est llevando todas las materias pero sera mi tercer ao.

Aqu lo que debemos aclarar es la necesidad de entrenar al entrevistado o


entrevistada en cmo llevar a cabo la tarea de pensar en voz alta. Se puede
ayudar a la persona a verbalizar lo que pasa por su mente de distintas maneras.
Una de las maneras ms comunes es solicitar

a la persona que se ubique

mentalmente en la situacin que se le est preguntando. Algo as como:

Trate de visualizar su casa en este momento, empiece a caminar por su casa, por la sala,
el comedor, la cocina, los cuartos, los baos Ahora por favor dgame qu est viendo
durante este recorrido. Ahora indqueme que piensa mientras ve su casa.

51

Este tipo de entrenamiento le permite a la persona reconocer que debe


verbalizar todo lo que se le viene a la mente mientras se ubica en la situacin
que se le consulta. Se necesitan varios ensayos de entrenamiento antes de iniciar
formalmente con la entrevista, dependiendo de qu tan buena es la persona en
verbalizar lo que pasa por su mente.
Willis (2005) describe dentro de las principales ventajas de esta tcnica el
hecho de que la produccin de los participantes est poco contaminada por las
expectativas del entrevistador, porque hay poca injerencia de parte de l o ella.
Adems, para realizarla se necesita de un entrenamiento mnimo, por lo que
puede ser aplicada por varias personas al mismo tiempo y ahorrar costos.
Finalmente la tcnica permite observar in situ los problemas con que se enfrenta la
persona a la hora de contestar el cuestionario conforme va completando el
cuestionario.
La principal desventaja de la tcnica es que depende de las capacidades de
los y las entrevistados de verbalizar todo lo que pasa por su mente. Y aqu se han
observado varios problemas (Willis, 2005). Por un lado se ha observado
resistencia de parte de los entrevistados para expresar todo lo que se les ocurre y
simplemente se limitan a contestar en voz alta, ya sea porque les parece
irrelevante decir lo que piensan en ese momento, o bien porque temen decir lo que
se les ocurre. Pensar en voz alta es una metacognicin (pensar en qu se est
pensando) y eso puede agotar a los entrevistados o bien puede influir en sus
respuestas.

52

Pruebas cognitivas de reporte verbal


Las pruebas son preguntas directas que tienen como objetivo principal
obtener evidencia sobre la manera en que los reactivos estn siendo
comprendidos, la medida en que los reactivos facilitan la recuperacin de la
informacin, el tipo de heursticos que se utilizan para estimar las respuestas y las
dificultades para hacer efectivas las respuestas.
Las tareas o pruebas de reporte verbal siguen los principios tericos del
modelo de cuatro etapas de Tourangeau (1984), pero podemos atribuirle a
autores como deMaio, Mathiowetz, Rothgeb, Beach & Duran (1993) y a Willis
(2005) el haber incorporado este conocimiento en el diseo de protocolos para
evaluar potenciales problemas a la hora de contestar un cuestionario.
De esta literatura podemos distinguir al menos 5 tipos de pruebas que
pueden realizarse para detectar problemas en el procesamiento de un
cuestionario. Estas son: a) el parafraseo, b) los juicios de confianza, c) las pruebas
de recuerdo, d) las pruebas de especificacin y e) el sondeo del proceso mental
(ver Cuadro 6).
Estas pruebas

son aplicadas a los tres aspectos centrales de todo

cuestionario, a saber: las introducciones en donde se especifican las instrucciones


para contestar los reactivos, los reactivos en s mismos y las opciones de
respuestas que ofrecemos con cada reactivo. Finalmente estas deben tratar de
detectar problemas en los cuatro momentos del proceso pregunta-respuesta, a
saber, comprensin, recuperacin de la informacin, estimacin y ejecucin
(Willlis, 2005).

53

Cuadro 6. Ejemplos de tareas cognitivas de reporte verbal


Tipo de prueba

Ejemplo

Parafraseo

Podra decirme con sus propias palabras lo que acaba de leer

Juicios de confianza

Qu tan seguro est usted de esa respuesta?

Pruebas de recuerdo

Cmo lleg usted a recordar esa respuesta?

Pruebas de especificacin

Podra decirme qu significa para usted la palabra?

Sondeo del proceso mental

Qu hizo usted mentalmente para llegar a esa respuesta?

Traducido y adaptado de Willis (2005)

Tomando en cuenta todos estos elementos, nosotros hemos identificado 6


tareas centrales de las pruebas verbales. Otros autores incluyen ms aspectos por
evaluar (Willis, 2005), pero en nuestra experiencia estos son los fundamentales: a)
evaluar las introducciones o instrucciones en trminos de su comprensin; b)
evaluar los reactivos en trminos del significado que desean transmitir; c)
considerar los supuestos o lgica subyacente a las preguntas; d) detectar los
potenciales problemas para recordar la informacin solicitada; e) revisar si las
preguntas o palabras que se utilizan en el cuestionario pueden herir
susceptibilidades o pueden ser ajenas, extraas u ofensivas; y f) verificar cun
adecuadas son las categoras de respuesta de cada pregunta en trminos de a, b,
c, d y e.
As, si deseamos verificar si las personas comprenden el significado de las
instrucciones podemos utilizar una prueba de parafraseo como me puede decir
con sus propias palabras que dicen las instrucciones?.

54

En el caso de que queramos verificar el significado de los trminos y


conceptos utilizados en los reactivos podemos hacer pruebas de especificacin
del tipo Qu significa para usted la palabra?, podra darme ejemplos?.
Tambin podemos guiarnos por la forma en que las personas van contestando el
cuestionario y preguntar usted dijo depende depende de qu?.
Para detectar problemas en la recuperacin de la informacin tenemos
varias posibilidades dentro de las pruebas de recuerdo (Recuerda usted cundo
le sucedi algo as?) y sondeos del proceso mental (Cmo lleg usted a esa
respuesta?). De nuevo, podemos guiarnos por la conducta del entrevistado: Veo
que arrug la cara en qu estaba pensando en ese momento?.
Para verificar si nuestras preguntas estn siendo ofensivas tenemos a
disposicin varias pruebas de especificacin como Cree usted que las personas
se sientan cmodas con esta pregunta?, siente usted que uno puede dar
sinceramente una respuesta a esta pregunta?, la palabra x le parece
correcta?.
Y en el caso del anlisis del proceso final de ejecucin de la respuesta, se
pueden utilizar las mismas pruebas aplicadas a las opciones de respuesta, como
por ejemplo Pudo encontrar en estas opciones la respuesta que usted quera
dar?, qu significa para usted totalmente en desacuerdo en esta lista de
opciones?.
Como se puede observar existe una gran variedad de estrategias que se
pueden utilizar para revisar el proceso de respuesta de un cuestionario. Una lista
detallada de cada tarea de evaluacin con algunos ejemplos de las pruebas
cognitivas disponibles se presenta en el Cuadro 7.

55

A primera vista, puede ser muy abrumador tomar en cuenta tantos aspectos
por evaluar y tantas pruebas para hacerlo.

Algunos investigadores se ven

tentados a (y a la vez desanimados por) realizar todas y cada una de las pruebas
para los reactivos de sus cuestionarios. Esto implicara una tarea impensable,
porque por lo general los cuestionarios constan de varias secciones con varias
escalas o ndices que a su vez estn compuestas por mltiples reactivos. De tal
manera que nosotros recomendamos pensar en el Cuadro 7 como un catlogo de
aspectos y pruebas que el investigador o investigadora ajusta a la medida de su
cuestionario y sus objetivos de investigacin.
Por ejemplo, si la investigacin exige de las personas encuestadas un
esfuerzo para recordar conductas pasadas, el investigador o investigadora podr
concentrarse solamente en explorar el aspecto 4, dedicado a detectar problemas
de memoria y conocimiento. Si se trata de una encuesta con temas delicados,
entonces la entrevista puede concentrarse principalmente en el anlisis de
sensibilidad.
Una ventaja obvia de pensar en el Cuadro 7 como un catlogo es su
carcter logstico y econmico. Lejos de hacer una o dos entrevistas largas para
cubrir todos los puntos expuestos en este cuadro, el investigador o investigadora
podr realizar una mayor cantidad de entrevistas ms cortas, focalizadas,
estructuradas y econmicas. El investigador o investigadora puede tambin
escoger solo ciertos reactivos que le parezcan dudosos o ciertas escalas que no
han sido probadas o validadas con anterioridad. De esta manera evita los
problemas tpicos de los procedimientos de recoleccin muy extensos como la
fatiga, el aburrimiento, el aprendizaje, etc.

56

Asimismo, la gran ventaja de pensar en el cuadro 7 como un catlogo de


aspectos y pruebas es de carcter cientfico. Para llevar a cabo la EC en el pilotaje
del instrumento, el investigador o investigadora debi primero haber pensado muy
bien cul es el objetivo de su investigacin, cules son los constructos centrales
que desea estudiar, en qu medida sus instrumentos son operacionalizaciones
idneas para captar sus constructos y cules son las demandas que exige de los y
las entrevistados. Es decir, antes de realizar la EC, este catlogo le ofrece la
oportunidad al investigador de tomar distancia con respecto a su cuestionario,
reflexionar si est bien planteado y eso lo devuelve a pensar sobre los aspectos
centrales de su investigacin.
Willis (2005) destaca dentro de las ventajas de esta tcnica el hecho de que
existe un mayor control y direccionalidad de la entrevista en comparacin con la
tcnica de pensar en voz alta. Por otro lado, requiere poco entrenamiento por
parte del sujeto, como s se requiere cuando de pensar en voz alta se trata.
Dentro de las principales desventajas se encuentra la artificialidad, ya que
introducir pruebas y sondeos puede producir una situacin distinta a la que se
sucede en el campo cuando se aplica el cuestionario definitivo. Finalmente existe
el potencial problema de inducir sesgos en el entrevistado.
Nuestra experiencia indica que algunos entrevistados pueden sentir la
necesidad de justificar sus respuestas en lugar de decir libremente lo que sucede
en su mente, o bien que podemos provocar la tendencia en el sujeto de criticar
indiscriminadamente cualquier palabra dentro del cuestionario, de tal manera que
al final la entrevista se vuelve poco productiva.

57

Todas estas desventajas pueden controlarse haciendo un uso adecuado de


la tcnica de entrevista semiestructurada. Posteriormente ahondaremos un poco
ms sobre estos temas. Primero deseamos describir resumidamente otros tipos de
pruebas que se pueden realizar en el marco de la EC.
Otras tcnicas de sondeo
Adems de estas pruebas verbales existen otras posibilidades de sondeo
en el marco de la EC. Lo que describimos anteriormente se conoce como sondeo
concurrente. En este tipo de sondeo las pruebas se van a realizando conforme la
persona va completando el cuestionario. Pero existe tambin el sondeo
retrospectivo, que se realiza una vez que la persona ha completado el cuestionario
y es conocido tambin como debriefing, un anglicismo utilizado para describir una
reunin posterior a una misin que se ha realizado y que en este caso constituye
una valoracin de lo realizado por parte del entrevistado (Willis, 2005).
Adems existen pruebas que combinan el reporte verbal con la ejecucin
de tareas especficas. Dentro de estas tareas especficas destacan las tareas de
clasificacin de los reactivos de acuerdo con criterios tericos, en la que se les
pide a las personas entrevistadas, por ejemplo, clasificar los reactivos que ellas
consideran difciles en una categora y los fciles en otra; o bien, catalogar
aquellas preguntas ms cmodas de contestar en una categora y las ms
incmodas en otra.
Tambin se utilizan los puntajes de confianza, en donde se les solicita a los
sujetos estimar en qu medida comprendieron los reactivos o estn seguros de
sus respuestas. A los entrevistados se les pueden presentar tarjetas con una

58

escala de calificacin de la dificultad de los reactivos o de la seguridad con que


emitieron sus respuestas.
Finalmente, se utiliza la medicin de los tiempos de respuesta (mediante
cronmetro), bajo el supuesto de que altas latencias de respuesta sugieren que
los sujetos tienen problemas para contestar los reactivos (Collins, 2003; Jobe,
2003; Tourangeau, et al., 2004).
En sntesis el objetivo de la EC es realizar un sondeo minucioso sobre los
potenciales problemas que tienen los entrevistados a la hora de contestar el
cuestionario tomando en cuenta las cuatro etapas de Tourangeau (1984) del
proceso pregunta-respuesta y considerando todos los elementos de un
cuestionario, desde las instrucciones, pasando por cada una de las preguntas o
reactivos, hasta las opciones de respuesta.
Este sondeo se lleva a cabo mediante la consulta directa a las personas
entrevistadas mediante preguntas o tareas especficas para detectar problemas en
cada etapa de proceso pregunta-respuesta y cada elemento del cuestionario En la
siguiente seccin presentamos algunos ejemplos de aplicacin de esta tcnica
para evaluar cuestionarios autoaplicados.

Cuadro 7. Catlogo de pruebas cognitivas


Tarea

Problema

Pruebas

1. INSTRUCCIONES:
Identifique problemas en todas
las introducciones,
instrucciones o explicaciones
desde la perspectiva del
encuestado/a.

Introducciones,
instrucciones o
explicaciones complicadas,
confusas o vagas.

Antes de pasar a las preguntas,


podra repetirme con sus propias
palabras la instruccin que acaba
de or o leer?

2. CLARIDAD DE LAS
PREGUNTAS O REACTIVOS:
Identifique problemas
relacionados con la intencin o
significado de las preguntas

La pregunta es muy larga o


rara, la sintaxis es
compleja, la redaccin es
incorrecta.

Puede decirme con sus propias


palabras que es lo que le acabo
de preguntar?, puede decirme
con sus propias palabras la frase
que acaba de leer?

Los trminos tcnicos


estn poco definidos, son
muy complejos, no estn
claros

Qu significa para usted la


palabra (trmino) en esta
pregunta?

Existen mltiples formas de


interpretar la pregunta, la
redaccin es vaga o
ambivalente.

En qu estaba pensando usted


cuando le pregunt sobre (tpico,
trmino, etc.)?, podra darme
ejemplos?, cules aspectos
incluye el trmino (trmino)?,
cules no estn contemplados
en este trmino?

Los perodos de tiempo no


estn especificados, son
vagos o contradictorios.

Usted puede recordar ese


perodo sobre el que le estoy
preguntando?, Usted contest
(repetir la respuesta), cundo
fue eso?, qu perodo abarca
eso?

Los supuestos sobre la


situacin del entrevistado o
su experiencia son
inapropiados.

Qu tanto se aplica esta


pregunta a su experiencia?, qu
tan lejos est esta situacin de su
experiencia cotidiana?, puede
explicarme ms su situacin?

Se asume una experiencia


o conducta constante y
estable que en realidad
puede variar.

Dira usted que eso le pasa


siempre?, dira usted que eso
vara dependiendo de algo?

El reactivo contiene ms de
una pregunta implcita o
hace referencia a ms de
un objeto actitudinal.

Usted acaba decir depende,


depende de qu?; cunteme
ms acerca de sus opiniones
sobre este tema.

3. SUPUESTOS: Determine si
existen problemas con los
presupuestos o la lgica
subyacente a las preguntas.

Cuadro 7. (Continua)
Tarea
4. CONOCIMIENTO
/MEMORIA: Verifique si los
encuestados tienen problemas
para saber o recordar la
informacin que se solicita.

5. SENSIBILIDAD: Revise las


preguntas o palabras de
naturaleza sensible.

6. CATEGORAS DE
RESPUESTA: Verifique qu tan
adecuadas son las categoras
de respuesta de cada pregunta.

Problema

Pruebas

La persona no tiene
conocimiento sobre el tema
y es probable que no tenga
una actitud al respecto.

Qu tanto conoce sobre


(tema)?, qu tan seguro se
siente usted al hablar sobre
(tema)?

La actitud (evaluacin) al
respecto puede no estar
consolidada o no existe.

Haba pensado usted antes en


(tema)?, qu tan frecuentemente
ha pensado usted al respecto?

El entrevistado puede no
recordar la informacin
solicitada.

Para usted fue esto fcil o difcil


recordar?, qu tan seguro est
usted de eso?, por qu?

La pregunta requiere de un
proceso mental complejo.

Qu fue lo que usted hizo


mentalmente para contestar esta
pregunta?, en qu pens
primero?, cmo lleg usted a
esa respuesta?

La pregunta hace
referencia a tpicos
privados, embarazosos,
que implican conductas no
deseadas o ilegales.

Est bien hablar de estos temas


en una encuesta o se siente muy
incmodo?; en general, cmo se
siente usted ante este tipo de
preguntas?

La redaccin de los
reactivos o los trminos
utilizados son poco
sensibles, ofensivos o
ajenos a la experiencia de
los entrevistados.

En esta pregunta, utilizamos el


trmino (palabra sensible), le
suena bien a usted o utilizara
otro trmino?

El reactivo evoca
respuestas socialmente
aceptadas (deseabilidad
social).

Le parece que se puede dar


cualquier respuesta a esta
pregunta o ms bien le parece
que hay una respuesta correcta a
esta pregunta?

Las preguntas abiertas son


difciles o inapropiadas.

Fue fcil o difcil para usted


decidir cul respuesta dar a esta
pregunta?

Existe desajuste entre la


pregunta y las categoras
de respuesta.

En esta lista que le di, fue fcil o


difcil encontrar la respuesta que
usted quera dar?

Los trminos tcnicos en


las opciones de respuesta
son poco claros, complejos
o estn sin definir.

De esta lista, qu significa para


usted (trmino)?

Cuadro 7. (Continua)
Tarea

Problema

Pruebas

Las categoras de
respuesta pueden ser
interpretadas de mltiples
maneras (vaguedad).

Dgame qu se le viene a usted a


la mente cuando le digo
(categoras de respuesta) /
cuando ve est escala de
respuestas

Existe un traslape entre las


categoras de respuesta.

Qu tan fcil o difcil le result


escoger la respuesta dentro de
esta lista de opciones?, por qu
escogi usted esta respuesta y no
las otras?

Hay opciones de respuesta


ausentes.

En esta lista que le di, fue fcil o


difcil encontrar la respuesta que
usted quera dar?

El orden de las categoras


de respuesta es ilgico.

Fue fcil o difcil para usted


decidir cul respuesta dar a esta
pregunta?; al ver esta lista de
posibles respuestas, usted
encontr alguna dificultad para
entenderla?

Adaptado de Willis (2005).

Ejemplos de aplicacin de la entrevista cognitiva


El primer ejemplo que deseamos ofrecer proviene de la tesis de
licenciatura de la Licenciada Tatiana Aguiar (2009), quien tena como objetivo
adaptar una escala de neuroticismo para nios y nias costarricenses de
cuarto, quinto y sexto grado. La escala original, Introversion und Neurotizismus
bei Kindern (INK), fue desarrollada en Alemania en los aos 70 por Christel
Nischan (1974, citada en Aguiar, 2009). Era necesario entonces someter la
escala a un escrutinio minucioso mediante la EC antes de proceder a realizar
los anlisis psicomtricos y adaptar la escala a nuestro contexto.
ejemplos de los reactivos se pueden apreciar en el Cuadro 8.

Algunos

Cuadro 8. Algunos reactivos de la escala de neuroticismo INK para nios y nias.


1. A veces tu corazn palpita duro?

No

2. A menudo te quedas absorto en pensamientos?

No

3. Te sales fcilmente de tus casillas?

No

4. A menudo te quedas despierto tendido en tu cama?

No

Fuente: Aguiar (2009).

La autora entrevist a 3 nios y 3 nias de cuarto, quinto y sexto grado


(una pareja por nivel) mediante EC. Algunos extractos de las entrevistas se
pueden observar en el Cuadro 9.

Cuadro 9. Extractos de Entrevistas Cognitivas con nios y nias costarricenses.


INSTRUCCIONES
E:

Antes de iniciar contestando las preguntas, me podras decir con tus propias palabras

las instrucciones que acabas de leer?


S:

Tengo que hacer una equis para responder a estas preguntas, y tengo que pensar cmo

soy casi todos los das pero lo que le est un poco largo.
CLARIDAD DE LOS REACTIVOS
E:

Me podras contar con tus palabras qu es lo que se pregunta en la oracin A menudo

te quedas tendido en tu cama?


S:

Me estn preguntando si me quedo acostada en la cama antes de dormirme se

entiende mejor si uno dice acostado en lugar de tendido


E:

Qu te parece la palabra casillas en la pregunta Te sales fcilmente de tus casillas?

S:

Es como que uno se enoja pero yo lo s porque eso dice mi mam cuando est

enojada. No s si todas las personas saben qu son casillas


Fuente: Aguiar (2009).

Debido a la corta edad de la poblacin meta, la autora se concentr


principalmente en detectar problemas de comprensin de los reactivos y en

adaptar el vocabulario al nivel de los y las encuestados. De los extractos se


observa que los nios y nias son capaces de indicar a la investigadora dnde
ellos(os) mismos(as) y otros(as) de su misma edad podran tener problemas a
la hora de contestar los reactivos. Se observa tambin que requirieron de poco
entrenamiento para saber que su tarea consiste en ayudar a mejorar la
comprensin del cuestionario.
La autora reporta que la mayor cantidad de cambios en la escala
original de neuroticismo se dieron en el nivel de la comprensin de los
conceptos. Ejemplos de conceptos que debieron ser sustituidos son
resentimiento, estar tendido, salirse de las casillas, sentirse miserable,
destrozar y hartarse (Aguiar, 2009). Estos fueron entendidos por la mayora
de participantes, pero ellos mismos consideraron que eran inapropiados para
nios y nias de su edad.
En el caso de los trminos colrico y te acomplejas, la autora
encontr que la comprensin era insuficiente, por lo que necesariamente
debieron ser cambiados por muy enojado y te avergenzas. Asimismo, la
autora not que sensibilidad era un concepto comprendido nicamente por
los y las estudiantes de sexto grado.
Pese a los cambios que fueron necesarios en la escala, la autora
destaca que los nios y nias

posean una amplia comprensin de

sentimientos y emociones como alegra, enojo, soledad, culpa y vergenza, al


igual que los conceptos de amistad, cansancio, timidez, preocupacin, ridculo
y nerviosismo (Aguiar, 2009).
El segundo ejemplo que ofrecemos proviene de la tesis de la Licenciada
Karla Ugalde (2009), quien tena como objetivo estudiar el grado de estrs que

viven las personas refugiadas colombianas desde que salen de sus hogares en
Colombia hasta que se asientan en Costa Rica. Para ello, la autora dise una
escala en donde consultaba directamente a las personas refugiadas sobre el
grado de estrs que experimentaron en distintos momentos de su proceso
migratorio desde la decisin de salir de Colombia y tener que separarse de su
familia, pasando por los trmites para solicitar refugio, buscar trabajo y
conseguir vivienda, hasta los retos de adaptarse al modo de vida costarricense.
Para cada fase del proceso de aculturacin, los y las entrevistadas tenan a su
disposicin una escala de 1 (nada estresante) a 6 (muy estresante). El Cuadro
10 presenta algunos de los 33 reactivos que componen la escala.

Cuadro 10. Algunos reactivos de una escala de estrs percibido por aculturacin.
Qu tan estresante (tenso o angustiante) le
result?

Nada

Muy

Estresante

estresante

Tomar la decisin de salir de Colombia.

Prepararse para salir de Colombia.

Esperar el resultado de la solicitud de refugio.

Conseguir trabajo.

Hacer amigos.

La forma de ser del costarricense.

Las costumbres costarricenses.

Fuente: Ugalde (2009).

La autora estaba particularmente preocupada por dos aspectos: las


diferencias culturales en el uso de conceptos y el hecho de que hablar sobre el
tema de refugio puede ser muy doloroso para los y las participantes.

Ella

entrevist a cuatro personas refugiadas (2 hombres y 2 mujeres) mediante EC

para explorar estos aspectos. Dos extractos de esas entrevistas se presentan


en el Cuadro 11.
Uno de los principales aprendizajes de estas entrevistas fue reconocer
que aquellos conceptos considerados como comunes en nuestra cultura
pueden resultar extraos para personas de culturas aparentemente muy
similares a la nuestra. Conceptos cotidianos en Costa Rica resultaron ser
ofensivos para las personas refugiadas. Adicionalmente, se modific el
cuestionario de tal manera que temas sensibles como la decisin de abandonar
el pas de origen (muchas veces asociado con eventos traumticos) o
altamente estresantes (como tener que esperar el resultado de la solicitud de
refugio o los preparativos de la salida del pas de origen) fueron introducidos en
el cuestionario paulatinamente, de tal manera que fueran ms fcilmente
procesados por los entrevistados (Ugalde, 2009).

Cuadro 11. Extractos de Entrevistas Cognitivas con personas refugiadas.


COMPRENSIN
E:

Y qu entiende por palabras como bar, soda, restaurante? Son palabras comunes?

S:

S. Ahorita s. Pero para una persona recin llegada, no. Son palabras. Un bar all es

donde solo mantienen las prostitutas. Entonces a m me dicen, vamos a ir a este bar, al bar que
queda all () Este qu se est creyendo.
E: Qu palabras seran adecuadas en este caso, digamos?
S:

Si es para colombianos, usted tiene que decir una fuente de soda o una discoteque.
CONTENIDO SENSIBLE

E:

Y cmo se siente ante este tipo de preguntas?

S:

Pues, a veces s es maluco, porque recuerda uno cosas que no quisiera volver a pasar

por la mente. S por ese lado, s se pone maluco. Ah, uno recuerda lo que le toc pasar ()
Fuente: Ugalde, 2009.

El tercer ejemplo proviene de nuestro propio laboratorio (Smith-Castro et


al., 2009). En este proyecto tenamos como objetivo someter una escala de
medicin de actitudes a distintos procedimientos de evaluacin y mejoramiento.
Especficamente queramos comparar los cambios que se sugieren mediante
EC con los cambios que se derivan a partir de un panel de expertos. En la
siguiente seccin describimos los resultados de la comparacin de estas dos
tcnicas. Por ahora nos interesa dar un par de ejemplos de cmo se dieron las
entrevistas para este caso particular de medicin de actitudes.
Nuestro primer paso fue decidir el constructo o temtica social por ser
investigada. Decidimos trabajar sobre el tema de la homofobia, entendida como
la animadversin o rechazo de la homosexualidad y a los homosexuales,
debido a que se trata de una temtica de gran relevancia social, especialmente
a la luz de las ltimas discusiones en torno al proyecto de ley sobre el
matrimonio entre personas del mismo sexo.
Una vez seleccionado el constructo solicitamos a 6 estudiantes
avanzados de psicologa construir reactivos siguiendo una definicin bsica de
homofobia como la anteriormente descrita. Los y las estudiantes posean
conocimientos bsicos en construccin de escalas, pero no necesariamente
saban mucho sobre el constructo en cuestin. De esta manera recreamos una
situacin comn en la investigacin social: la necesidad de disear un
cuestionario sin mucho conocimiento sobre el constructo y poca revisin previa
de la bibliografa pertinente.
Los y las estudiantes construyeron 42 reactivos sobre la base de esta
definicin. A partir de estos reactivos construimos un instrumento experimental
(ver Cuadro 12).

Cuadro 12. Algunos reactivos de una escala experimental de homofobia.


TD

TA

1. Considero que la homosexualidad es una enfermedad


mental o un problema, que tiene que ser tratado.

2. Tengo amigos (as) homosexuales.

3. Considera a un hombre o mujer homosexual como una


persona que es parte de una moda de la nueva
generacin?

4. Una persona que ha sufrido algn tipo de abuso sexual


durante su infancia tiene altas probabilidades de convertirse
en homosexual.

5. Me sentira incmodo(a) si tuviera que trabajar de cerca con


una persona homosexual.

6. Me sentira desilusionado(a) si tuviera un hijo(a)


homosexual

7. Considera a un hombre o mujer homosexual como una


persona inferior Enferma / cree que se puede curar?

8. Ante un hecho contra los homosexuales actu con silencio

9. Conoce familiares o amigos homosexuales?

10. Considero que las personas nacen con una predisposicin


a la homosexualidad.

Nota. TD = totalmente en descuerdo, D = en desacuerdo, I = indeciso(a), A = de acuerdo, TA =


totalmente de acuerdo.

Este instrumento experimental fue evaluado mediante EC con 10


estudiantes universitarios. Cada entrevista tuvo una duracin de una hora.
Algunos extractos de las entrevistas se observan en el Cuadro 13.
Durante el proceso detectamos los siguientes problemas: a) dificultades
en la redaccin de los reactivos, b) vaguedad en la informacin que contienen,
c) presencia de trminos tcnicos de difcil comprensin,

d) reactivos de

contenido sensible, e) activacin de tendencias a la deseabilidad social, f)


supuestos inadecuados sobre el conocimiento de los entrevistados,

g)

exigencia de procesos mentales complejos, h) presencia de ms de un objeto

actitudinal en un mismo reactivo, i) opciones de respuesta faltantes y j)


desajustes entre pregunta y categoras de respuesta.

Cuadro 13. EC con estudiantes universitarios.


CONTENIDO SENSIBLE
E: Una persona que ha sufrido algn tipo de abuso sexual durante su infancia tiene altas
probabilidades de convertirse en homosexual Se siente incmoda al leer o contestar esa
pregunta?
S: Diay me impacto porque no la vi llegar (,) pero SI incomoda de contestarla (,) no sent que
no me fueran a preguntar tal vez como dentro de las ltimas preguntas tal vez si pero ()
AMBIGEDAD
E: Queda claro, que hay dos cosas, una enfermedad mental y un problema. Eso remite a dos
cosas distintas
S: Si yo siento que remite a dos cosas distintas, porque si hablamos de enfermedad mental
hablamos de una persona enferma y yo siento que estara en desacuerdo (,) pero si
hablamos de problema (,) si se puede decir que para esa persona sea un problema que son
de las personas que dicen que dicen si soy homosexual y me siento mal por eso ()
Fuente: Smith-Castro et al. (2009).

Como se puede observar, la EC nos permiti detectar gran cantidad de


problemas en un instrumento de medicin de una temtica altamente sensible
y, como veremos en la siguiente seccin, la aplicacin de la EC permiti
mejorar sustantivamente las propiedades psicomtricas de la escala original.
Creemos que estos pocos ejemplos permiten ilustrar la utilidad de la
tcnica para detectar problemas en el proceso respuesta de cuestionarios
autoaplicados. Tambin creemos que dan una idea de su potencial uso para
evaluar otros tipos de instrumentos, como entrevistas estandarizadas y guas
de entrevista de grupos focales. Se trata en todo caso de pedir a las personas
que potencialmente utilizaran el cuestionario

que nos ayuden a detectar

problemas a la hora de contestar las preguntas que hacemos. En las siguientes


secciones compartimos algunas recomendaciones sobre los aspectos prcticos
que se deben considerar a la hora de utilizar esta tcnica.
Aspectos operativos y logsticos
Como en cualquier entrevista, los aspectos claves de la EC son el
entrevistador, el entrevistado y el contexto en que se lleva a cabo la entrevista.
El entrevistador requiere de un entrenamiento bsico en entrevistas
semiestructuradas. Toda EC tiene los componentes de cualquier entrevista
cualitativa, a saber: a) presentacin e introduccin, b)

calentamiento, c)

desarrollo de los temas centrales y d) cierre. Y como en toda entrevista, se


requiere que los entrevistadores posean la habilidad de crear rpidamente un
ambiente positivo y una dinmica de entrevista agradable, relajada y de mutuo
respeto (un buen rapport); de enfatizar en la perspectiva de la persona
entrevistada; de adaptarse a las particularidades de la persona entrevistada; y
de hacer buenas preguntas, es decir, de realizar preguntas directas, libres de
sesgos

solicitando

siempre

elaboraciones,

argumentaciones

ejemplificaciones de las respuestas (Flik, Kardoff, Jeupp, Rosentiel & Wolff,


1995; Mack, Moqueen, Guest & Namey, 2005; Mayring, 1993; Wengraf, 2006).
Las recomendaciones bsicas para todo entrevistador se listan en el Cuadro
14.
La mayora de autores recomiendan llevar a cabo entrevistas
individuales en lugar de entrevistas grupales o grupos de discusin, debido a
que los procesos colectivos pueden afectar las respuestas de las personas.
Adems, los grupos focales se concentran en los consentidos socialmente
compartidos, mientras que la EC gira alrededor del proceso mental individual

(Willis, 2005). Esto no quiere decir que no se puedan realizar entrevistas


grupales para definir los contenidos de un cuestionario o detectar problemas
generales de comprensin de los instrumentos. En realidad, son tcnicas
complementarias: la EC est es idnea para estudiar el proceso mental de los
sujetos, los grupos de discusin, para indagar sobre los contenidos socialmente
compartidos que se transmiten en el cuestionario.

Cuadro 14. Recomendaciones para los y las entrevistadores(as).


Poseer un buen dominio sobre el objetivo de la entrevista.
Asegurar que las condiciones (lugar, ambiente y equipo) sean las apropiadas.
Cerciorarse de que su apariencia sea la apropiada para la ocasin.
Elegir comentarios o preguntas de apertura correctas.
Acercarse paulatinamente a las preguntas centrales.
Monitorear el impacto de sus conductas sobre el entrevistado.
Evitar preguntas sesgadas (que inducen a respuestas cerradas).
Promover la elaboracin del entrevistado.
Demostrar que se est escuchando.
Verificar lo que se comprende y solicitar aclaraciones de lo que no se comprende.
Fuentes: Flik, et al. (1995), Mack et al. (2005), Mayring (1993) y Wengraf (2006).

En lo que respecta a los entrevistados, la discusin actual se centra


precisamente en decidir cuntos participantes reclutar para cada evaluacin y
cmo escogerlos (Castellano-Ackerman & Blair, 2006).
En los estudios que hemos revisado, normalmente se llevan a cabo
como mnimo 5 y como mximo 20 entrevistas cognitivas para la evaluacin de
un instrumento (Willis, 2005), aunque existen estudios en donde se realizan

ms de 90 EC.

Lo importante aqu es la seleccin de los participantes,

quienes, como es usual en todo muestreo cualitativo, son seleccionados


intencionalmente.
Regularmente se sugiere hacer una seleccin por cuotas basado en las
caractersticas de la muestra por consultar en el estudio principal (edad, sexo,
procedencia geogrfica, nivel educativo, etc.); o bien buscar a las personas
siguiendo el principios de minimizar las diferencias entre los casos, con el fin de
obtener las tendencias bsicas (detectar la presencia de un determinado
problema), 0 el de maximizar las diferencias entre los casos, con la intencin
de incrementar el rango de problemas por detectar.
En otros casos se utiliza el criterio de reclutar personas con
caractersticas particulares, dependiendo de los objetivos del estudio (por
ejemplo, fumadores para una encuesta sobre el uso del tabaco), pero tambin
personas que no poseen la caracterstica buscada (como control).

Otros

autores utilizan los principios bsicos de la cognicin humana como criterio


para seleccionar a los entrevistados. As, podemos pensar en reclutar para la
EC dos o tres sujetos que formen parte del grupo de menor edad y dos o tres
del grupo de mayor edad, dependiendo del rango de edad esperado en la
encuesta principal (dos adolescentes y dos adultos mayores, por ejemplo), a
sabiendas de que la memoria a corto plazo puede variar entre estos rangos de
edad. O bien se pueden incluir personas con mayor o menor experiencia en el
tpico investigado para tener un rango de todas las posibles condiciones de
repuestas (Castellano-Ackerman & Blair, 2006).
En sntesis, el muestreo probabilstico no es un mtodo que se use
normalmente en los laboratorios de EC. Se usan principalmente muestras por

cuotas, tratando de obtener un rango variado de edades, sexos, niveles


socioeconmicos, habilidades cognitivas u otras caractersticas relevantes para
la investigacin. En general, la seleccin de sujetos se hace dentro de los
potenciales encuestados en el estudio principal, es decir, la EC no se realiza
con jueces expertos. Los potenciales encuestados son los expertos que
buscamos aqu.
En lo que respecta a las condiciones de trabajo, es claro que la EC
necesita ser realizada en un ambiente controlado, libre de potenciales fuentes
de interrupcin y distraccin.

Los laboratorios de las grandes casas

encuestadoras normalmente tienen facilidades como oficinas aisladas con


cmaras de video, sistemas de grabacin y posibilidades de observacin
remota (cmara de Gesell). Sin embargo, para llevar a cabo una buena EC no
es necesario todo este equipo. Una oficina o un aula y hasta el comedor de una
casa pueden servir de laboratorio temporal. Lo importante es asegurar las
condiciones de privacidad necesarias para llevar a cabo la entrevista.

El

equipo mnimo que se requiere es una grabadora de audio, el protocolo con las
pruebas cognitivas que se desean realizar,

un diario de campo y el

cuestionario de prueba (Willis, 2005).


Aunque las entrevistas cognitivas pueden llegar a durar hasta dos horas,
la experiencia dicta que lo ptimo son entrevistas de una hora como mximo, y
por lo general es necesaria una sola sesin por persona. Ahora bien, preparar
una sola sesin de entrevista de aproximadamente una hora requiere un
tiempo de preparacin considerable, por lo cual se recomienda que una sola
persona no lleve a cabo ms de tres entrevistas al da.

En general, las entrevistas producen mucho material verbal que necesita


ser procesado antes de tomar una decisin sobre los cambios por realizar en el
cuestionario. A continuacin presentamos algunas sugerencias para el
procesamiento de la informacin, a partir de nuestra propia experiencia.
Estrategias de protocolizacin y anlisis
En una EC, el material bsico que debe ser procesado es el reporte
verbal generado por la tcnica de pensar en voz alta y las respuestas a las
pruebas verbales. Pero tambin se pueden incluir todos los comentarios al
margen que pueda dar el entrevistado y que sean relevantes para la entrevista
(Ericsson & Simon, 1993).
El material puede ser procesado de muchas maneras y al parecer no
existe una nica

forma de hacerlo (Willis, 2005). Algunas organizaciones

instruyen a sus entrevistadores a escuchar las cintas de las entrevistas y anotar


los problemas encontrados en cada reactivo evaluado, mientras que otras
trabajan con las notas del diario de campo que se llev durante la entrevista.
Otras organizaciones piden una transcripcin de las entrevistas.
En lo que respecta a la transcripcin, existen tambin muchos mtodos.
Nosotros utilizamos la transcripcin literal de las entrevistas utilizando cdigos
muy sencillos, recomendados por Maynring (1993) para tal efecto y que
presentamos en el Cuadro 15.
Prcticamente la codificacin implica poner entre parntesis todo aquello
que no fue verbalizado explcitamente

(risas, enojo, irritaciones, nfasis,

aumento del volumen de la voz, pausas, etc.). En el marco de nuestra


investigacin sobre el impacto de la EC en un instrumento de medicin de
homofobia (Smith-Castro, et al., 2009),

la transcripcin de las entrevistas

produjo textos de aproximadamente 8.000 palabras. Se trataba de entrevistas


de una hora aproximadamente. Un extracto de una entrevista transcrita se
presenta en el Cuadro 16.

Cuadro 15. Cdigos de transcripcin.


Smbolo

Significado

(,)

pausa muy corta (respiracin)

(...)

pausa mediana

(pausa)

pausa larga (ms de un minuto)

(?)

Pregunta

(subrayar el texto)

entonacin en una palabra o frase, palabras en donde se


pone un especial nfasis con la voz

(Mhm)

Seal de recepcin, expresin para llenar una pausa

(risa)

expresiones no verbales en parntesis

(voz baja)

expresiones no verbales en parntesis

(voz alta)

expresiones no verbales en parntesis

(enojo)

expresiones no verbales en parntesis

(Hablar simultneamente)

se anota entre parntesis que hablan al mismo tiempo

(xxxxx)

Incomprensible

Fuete: Maynring (1993).

El anlisis de los datos en el marco de una EC se concentra en detectar


los potenciales problemas en las etapas del proceso de pregunta respuesta,
para lo cual se pueden crear categoras para cada potencial problema
presente. En nuestro estudio construimos 16 diferentes cdigos o problemas
(ver Cuadro 17); posteriormente identificamos la presencia de estos en cada
entrevista. Para ello utilizamos el programa Atlas Ti, el cual nos permiti
identificar aquellas producciones verbales referidas a cada una de las

categoras de anlisis (ver Figura 3),

calcular la frecuencia con que cada

problema se presentaba en la muestra de 10 participantes y determinar cules


sujetos reportaron el problema.

Cuadro 16. Ejemplo de transcripcin de una entrevista.


E: Muy bien (,) antes de pasar a las preguntas (,) () podra repetirme con sus propias
palabras la instruccin que usted acaba de leer (?)
S9: Bueno (,) lo que dice es que tengo que contestar este cuestionario conforme a lo que es
una persona homosexual y que bueno en una escala del 1 al 5 en donde uno est ms de
acuerdo entre varios puntajes (,) o sea 5 es como ms de acuerdo y 1 es como menos de
acuerdo
E: Muy bien (,) () Entonces le pareci que la instruccin est clara (?)
S9: Est clara (,) pero est un poco larga
E: Un poco larga
S9: Da pereza leerla (,) Yo creo que no hace falta repetirlo tanto porque igual la gente aunque
no lo hubiera entendido (,) solo hubiera entendido mejor solo viendo como la escala aqu
E: Muy bien. ()Qu significa para usted la palabra homosexualidad (?)
S9: Homosexualidad (,) significa una persona que le gustan las personas del mismo sexo(...)
O sea (,) que a los hombres le gustan los hombres y a las mujeres le gustan las mujeres y que
tienen relaciones sexuales digamos
E: Muy bien (,) () existen en este prrafo palabras que son ambiguas, que tienen ms de un
sentido de comprender (?)
E: Muy bien (,) Entonces vamos a pasar a los reactivos siguientes () Entonces le voy a pedir
por favor ()
S9: Los leo (?)
E: s
Fuente: Smith-Castro, et al. (2009).

El anlisis final implica la interpretacin de los problemas y la toma de


decisiones sobre los cambios que deben realizarse en los reactivos. En la
prctica se acostumbra a reunir a los investigadores y entrevistadores para
tomar

decisiones

sobre

cada

reactivo.

Tambin

pueden

trabajar

independientemente en la calificacin de los textos y posteriormente calcular el


acuerdo de la calificacin mediante medidas de acuerdo como el Kappa de
Cohen, las cuales se utilizan normalmente para la estimacin de la objetividad
de la calificacin, como vimos en la primera seccin de este Cuaderno
(Neuendorf, 2002).

Cuadro 17. Potenciales categoras de anlisis para una EC.


Categoras de anlisis:
1. Vaguedad y contradiccin
2. Trminos tcnicos difciles (comprensin)
3. Perodos de referencia inadecuados
4. Supuestos inadecuados o ilgicos
5. Double barreled (dos objetos actitudinales en una sola frase)
6. Desconocimiento
7. Problemas de memoria
8. Actitud no formada
9. Proceso mental complejo
10. Contenido sensible
11. Deseabilidad social
12. Categoras de respuesta confusas
13. Categoras de repuesta inadecuadas
14. Incongruencia entre el reactivo y sus categoras de respuesta
15. Traslape en las categoras de respuesta
16. Opciones de respuestas ausente
Fuente: Smith-Castro, et al. (2009).

En nuestro caso sistematizamos la informacin en una tabla de Excel tal


y como se presenta en la Figura 4 y en varias sesiones de discusin tomamos
las decisiones sobre los cambios en los reactivos. En esta tabla incluimos el
tipo de problema que se observ, la frecuencia con que se present, los
entrevistados que lo detectaron, el cambio que sugerimos y el reactivo tal y
como qued transformado al final del proceso.
A modo de resumen, podemos decir que el procesamiento de una EC no
difiere en mucho del procesamiento que normalmente se hace de otros tipos de
entrevista y en general de todo tipo de datos cualitativos. En la prctica
cotidiana y por razones de costo y tiempo, no siempre es posible realizar todo
el proceso de transcripcin, codificacin y anlisis que nosotros llevamos a
cabo, sin embargo, es recomendable documentar lo ms fielmente posible el
proceso para la toma de decisiones.

Figura 3. Procesamiento de las entrevistas en Atlas Ti.

Figura 4. Sistematizacin de los datos en Excel

Literatura recomendada
Como se puede observar, esta seccin

se

ha fundamentado

principalmente en el trabajo de Gordon Willis (2005), quien es el autor que ms


ha trabajado en el tema de los protocolos de EC. Sin embargo, los autores ms
citados en lo que respecta a la tcnica de pensar en voz alta y su respectiva
protocolizacin son Ericsson & Simon (1993).
Tom Wengraf (2006) ha producido un texto dedicado exclusivamente a
la entrevista cualitativa, desde su preparacin hasta las estrategias de anlisis,
el cual puede ser muy til para quienes desean profundizar en el tema.
Para las personas interesadas en

las estrategias de anlisis de

contenido, recomendamos el texto de Neuendorf (2002). Por su parte, Lewins y

Silver (2007) ofrecen una descripcin comparativa de distintos programas de


cmputo que pueden ayudar a sistematizar y analizar los datos cualitativos.
Para quienes estn interesados especficamente en el uso del Atlas Ti,
recomendamos el manual elaborado por la empresa creadora, el cual puede
ser descargado del siguiente sitio web:
http://www.atlasti.com/uploads/media/atlman_01.pdf

SE TRATA DE UNA ESTRATEGIA EFECTIVA?


Existen al menos tres fuentes de escepticismo en torno a la aplicacin
de la EC en el marco de las encuestas. Algunos autores se preguntan si los
sujetos son realmente capaces de reportar los procesos mentales involucrados
a la hora de hacer efectivas sus respuestas. Otros autores se preguntan si
estos mtodos difieren sustancialmente de los enfoques ms tradicionales,
como un buen panel de jueces expertos o el ojo entrenado de un buen
entrevistador. Finalmente, hay quienes dudan del impacto real de los cambios
producidos en el laboratorio en instrumentos destinados a ser aplicados en el
campo (Presser, Couper, Lessler, Martin, Martin, Rothgeb & Singer, 2004).
Con respecto a la primera interrogante, los datos muestran en efecto que
las personas difieren mucho en su capacidad de expresar verbalmente lo que
pasa por sus mentes a la hora de contestar un cuestionario. Un ejemplo de ello
proviene del estudio de Castellano-Ackermann & Blair (2004), en el cual se
evalu la cantidad de problemas de comprensin que se pueden detectar en un
cuestionario mediante EC, en 90 personas de diferentes niveles educativos.
Los autores encontraron que las personas con mayores niveles educativos
fueron las que detectaron ms problemas semnticos en comparacin con las
personas de menores niveles educativos. Al parecer, quienes posean mayores
niveles educativos tenan una mejor capacidad de expresar los problemas de
comprensin en los reactivos y, por tanto, los autores concluyen que el uso
ms eficiente de la EC se puede hacer precisamente en personas de altos
niveles educativos. Sin embargo, como ya hemos discutido, la seleccin de las
personas para la EC depende de los objetivos del estudio principal, por lo que
debe ser guiada por la teora y las experiencias previas de investigacin.

En lo que respecta al segundo cuestionamiento (difiere la EC


sustancialmente de los mtodos tradicionales ), los resultados son mixtos,
algunas veces contradictorios y en todo caso imposibles de comparar debido a
que se utilizan distintas tcnicas de mejoramiento de instrumentos y distintos
criterios a la hora de identificar los problemas. Por ejemplo, Huges (2003)
encontr que la EC y la tcnica de debriefing fueron ms efectivas a la hora de
identificar problemas de comprensin de las preguntas de una encuesta sobre
uso de computadoras en comparacin con la observacin del comportamiento
de los entrevistados a la hora de llenar la encuesta (conocida como codificacin
conductual). Por otro lado, Presser & Blair (1994) encontraron que los paneles
de expertos fueron los ms productivos para detectar problemas semnticos en
encuestas sobre salud y nutricin en comparacin con tcnicas tradicionales de
revisin de cuestionarios, con la codificacin conductual y con la misma EC.
En lo que respecta a la pregunta sobre la efectividad de esta tcnica, a
la fecha identificamos un solo programa de investigacin dedicado a estudiar
experimentalmente el impacto de las tcnicas cualitativas sobre los
cuestionarios utilizados en el campo. Se trata del trabajo de

Barbara Forsyth,

Jennifer Rothgeb y Gordon Willis (Rothgeb, Willis, & Forsyth, 2004, 2007).
En estos estudios, los autores evaluaron un cuestionario que contena
preguntas, sobre tpicos como el medio ambiente o el transporte pblico,
mediante diferentes tcnicas cualitativas aplicadas en el laboratorio, entre las
que se inclua la EC. Una vez realizada la revisin, los autores desarrollaron
una

versin

mejorada

del

cuestionario

una

versin

sin

mejorar.

Posteriormente, realizaron un experimento de campo en donde aplicaron las


dos versiones del cuestionario de manera aleatoria en una encuesta telefnica,

y registraron los problemas que se presentaron durante la encuesta utilizando


diversos criterios de calidad de las preguntas, como la cantidad de no
respuestas, las dudas de los encuestados y las apreciaciones de los mismos
encuestadores.
Los resultados indicaron que aquellos reactivos identificados como
problemticos durante la revisin cualitativa tambin presentaron problemas
durante la entrevista telefnica, mostrando que los problemas detectados en el
laboratorio pueden predecir los potenciales problemas que se pueden
presentar en el campo. Sin embargo, sus resultados estn muy lejos de ser
concluyentes, porque en muchos aspectos el cuestionario mejorado no se
diferenci del cuestionario sin mejorar. Por ejemplo, el porcentaje de no
respuestas no se disminuy significativamente utilizando la versin mejorada.
Ahora bien, no conocemos ningn estudio hasta ahora publicado que se
haya dedicado a analizar el impacto de la EC

sobre las caractersticas

psicomtricas de instrumentos de medicin de actitudes. Los estudios que


acabamos de describir se dedicaron a estudiar la calidad de preguntas de
hechos y opiniones, pero el estudio de las escalas de actitud requiere de la
aplicacin de los principios psicomtricos revisados en la primera seccin de
este cuaderno para estimar la pertinencia, confiabilidad y validez de las
interpretaciones que hagamos con ellas. Se trata de una tarea difcil, puesto
que las diferentes tcnicas producen escalas relativamente diferentes.
Afortunadamente, la Psicometra moderna nos ofrece diversas herramientas
para comparar escalas de distinta composicin que tratan de medir el mismo
constructo.

Tomando en cuenta este vaco en la investigacin, nos dimos a la tarea


de disear un estudio explcitamente dedicado a examinar el efecto de la EC en
las propiedades psicomtricas de una escala de actitudes hacia la homofobia.
En las siguientes lneas describimos dicho estudio.
El impacto de la EC en las caractersticas psicomtricas de una escala de
actitudes

La idea general de nuestro estudio era determinar el potencial aporte de


la EC en las caractersticas psicomtricas de instrumentos de medicin de
actitudes. Para ello comparamos las caractersticas psicomtricas de una
escala mejorada mediante EC con las propiedades de la misma escala
mejorada mediante el juicio de un panel de expertos y las caractersticas
psicomtricas de la misma escala, pero sin mejorar. Como nuestro objetivo
especfico era comparar la confiabilidad y validez de las tres versiones,
realizamos un experimento de campo para obtener evidencias de confiabilidad
y validez, tal y como se describe en la primera seccin de este cuaderno
metodolgico.
Diseo general del estudio
Como ya indicamos en la seccin anterior, nuestro estudio inici con el
desarrollo de una escala experimental por parte de estudiantes avanzados de
psicologa. Ya indicamos que los y las estudiantes desarrollaron 42 reactivos
tendientes a medir actitudes negativas hacia la homosexualidad y que
mediante la aplicacin de 10 entrevistas cognitivas se detectaron diversos
problemas. A partir de las entrevistas mejoramos los reactivos defectuosos,

eliminamos reactivos que no podan ser mejorados

y desarrollamos otros

nuevos, con lo cual llegamos obtuvimos una versin mejorada de 37 reactivos.


Simultneamente realizamos un panel de expertos. Este se llev a cabo
en una sola sesin de aproximadamente dos horas y media de duracin, en
donde los expertos nos ayudaron a mejorar la escala original. Participaron
como expertos un psiclogo, una sociloga, una filloga y un filsofo. Todos
ellos contaban con experiencia, ya sea en el constructo de la homofobia, o bien
en el diseo de instrumentos de medicin social. Un mes antes de la sesin, a
los jueces se les envi la escala original con la nica consigna de revisarla para
que en la sesin de trabajo pudiramos mejorarla.
Los jueces nos ofrecieron muchos consejos para mejorar la escala. Por
ejemplo, nos recomendaron eliminar aquellos reactivos que medan acciones o
conocimiento en lugar de actitud (por ejemplo, Conoce usted personas
homosexuales?). Tambin nos hicieron ver la necesidad de redactar todos los
reactivos en forma de afirmaciones en primera persona y evitar preguntas de
tipo Considera a un hombre o mujer homosexual como una persona que es
parte de una moda de la nueva generacin?. Segn los jueces, este tipo de
reactivos se desajustan a las opciones de respuesta tpicas de una escala
Likert y son particularmente ambiguos.
Con respecto al tema de la ambigedad, los jueces nos indicaron que
debamos evitar aquellos reactivos en donde se incluan dos o ms objetos
actitudinales o dos o ms valencias actitudinales, es decir, dos o ms adjetivos
y dos o ms sustantivos. Adicionalmente, nos hicieron observaciones sobre los
reactivos que eran muy extensos, muy complicados o de redaccin compleja.
Finalmente, nos recomendaron generar ms reactivos que expresaran

animadversin, disgusto, desagrado y enojo frente a la homosexualidad y a las


personas homosexuales. Sobre la base de las recomendaciones de los jueces,
construimos la tercera versin de la escala, la cual consta de 38 reactivos.
En general las recomendaciones de los jueces coincidieron en mucho
con las recomendaciones que nos hicieron los participantes de las EC. Sin
embargo, los expertos fueron particularmente enfticos en la necesidad de
incluir otros reactivos que captaran mejor el constructo, es decir, desarrollar
reactivos que expresaran ms fobia. En el ANEXO 2 presentamos las tres
versiones de la escala, en donde se pueden apreciar los cambios realizados a
los reactivos.
Una vez construidas las tres versiones, procedimos a realizar el
experimento de campo. En este experimento participaron estudiantes
universitarios, quienes fueron asignados aleatoriamente a una de las tres
versiones de la escala, de tal manera que un grupo complet la escala sin
mejorar, otro complet la escala mejorada mediante EC y un tercer grupo, la
escala mejorada mediante jueces expertos.
Participantes
Trabajamos con los 310 estudiantes universitarios heterosexuales de la
muestra original que contaba con una edad promedio de 21 aos (DE = 4,33
aos). El 98% de ellos eran costarricenses, el 66% eran mujeres y el 95% no
tena pareja a la hora de llenar la encuesta. Los y las estudiantes pertenecan a
las 13 facultades que componen la Universidad de Costa Rica y todos
estudiaban en el Campus Rodrigo Facio. Cien de los estudiantes completaron
la escala sin mejorar, 105 la escala mejorada mediante EC y 105 la escala
mejorada mediante entrevista cognitiva.

Instrumentos
Como nuestro objetivo involucraba recopilar diversas evidencias de
validez, debimos incluir otras escalas y medidas para tal fin. Para estimar la
validez convergente incluimos una escala de reconocida validez que midiera el
mismo constructo de nuestras escalas (homofobia). Para estimar la validez
discriminante incluimos dos escalas que medan constructos distintos al de la
homofobia. Para estimar la validez de criterio incluimos medidas de criterios
externos a la ejecucin de las escalas. As, cada estudiante complet una de
las tres versiones de nuestra escala de homofobia, todas las escalas y medidas
de validacin y el mdulo de variables sociodemogrficas.
Como criterio de validez convergente elegimos la Escala de Homofobia
Moderna (EHM) de Raja y Stockes adaptada al contexto latinoamericano por
Len (2003). Esta escala consta de 41 reactivos tendientes a medir actitudes
negativas hacia las personas homosexuales. Algunos ejemplos de los reactivos
de esta escala son: No entablo relaciones amistosas con un gay porque temo
al contagio del sida, Los psiclogos y los psiquiatras deberan esforzarse en
encontrar una cura para la homosexualidad masculina o Los matrimonios
entre gays deberan ser legalizados (tem inverso).
Para expresar su rechazo o apoyo a cada reactivo, los y las estudiantes
contaban con una escala Likert de 5 puntos de 1 (totalmente en desacuerdo) a
5 (totalmente de acuerdo). Una vez recodificados los reactivos inversos,
procedimos a calcular el promedio de las respuestas a los 41 reactivos de tal
manera que altas puntuaciones indicaran altos niveles de rechazo u homofobia.

Como criterios de validez discriminante elegimos la escala de


Deseabilidad social de Crowne & Marlowe (1960) y el PANAS (Positive and
Negative Affect Schedule) de Watson & Clark (1994).
La versin que utilizamos de la escala de Deseabilidad Social incluye
reactivos que describen conductas altamente deseables, pero que (siendo
honestos) casi ninguno de nosotros es capaz de hacer (Siempre acepto
cuando me equivoco. Siempre acepto mis errores). Tambin incluye reactivos
que describen conductas condenadas socialmente pero que (siendo honestos
tambin) todos hacemos (Han habido ocasiones en las que siento envidia por
la buena suerte que otros tienen).
Este tipo de reactivos permiten medir la tendencia de las personas a
responder de manera esperada socialmente. Para nosotros era importante
incluir esta medida debido a que la homofobia es una reaccin altamente
condenada en contextos acadmicos muy polticamente correctos.
Cada una de las situaciones descritas en los reactivos era respondida
en un formato de falso y verdadero. Asignamos un punto por cada conducta
socialmente deseable contestada como verdadera y un punto por cada
conducta socialmente condenada contestada como falsa, de tal manera que al
sumar todos los puntos, un mayor puntaje indicara una mayor tendencia a
convenir con las normas sociales, reportando con mayor facilidad conductas
socialmente esperadas que conductas ilcitas y socialmente sancionadas.
El PANAS, por su parte, es una medicin del estado de nimo de las
personas antes de llenar el cuestionario y es particularmente idnea para
estimar en qu medida las respuestas de las personas estn afectadas por su
estado de nimo y no por el objeto actitudinal en cuestin. El PANAS incluye 20

estados de nimo, 10 positivos (interesado/a, alerta, inspirado/a,


atento/a) y 10 negativos (nervioso/a, angustiado/a, confundido/a,
irritable). Los y las estudiantes reportaban en una escala de 1 (no del todo) a
5 (mucho) en qu medida se haban sentido de estas maneras en las ltimas
dos semanas. Calculamos dos tipos de estados de nimos: el positivo a partir
del promedio de respuestas a todos los estados de nimo positivos y el
negativo a partir del promedio de respuestas de todos los reactivos negativos.
Como criterio externo utilizamos preguntas directas sobre la cantidad de
amigos y amigas homosexuales que tienen los encuestados en la actualidad, la
frecuencia y calidad del contacto que tienen con personas homosexuales
(Smith-Castro, 2003) y su opinin (a favor o en contra) sobre el proyecto de ley
en torno al matrimonio entre personas del mismo sexo. Incluimos estos criterios
externos a la ejecucin de las escalas por cuanto las teoras sobre la
homofobia y los estudios previos indican que la homofobia est vinculada al
poco contacto con personas homosexuales y a una tendencia a rechazar las
reivindicaciones de este colectivo (Smith-Castro & Molina, en rev.).
Para asegurar la calidad de todas estas medidas realizamos un estudio
de validacin, el cual llevamos a cabo en el primer ciclo del 2009 en una
muestra de 107 estudiantes de la Escuela de Estudios Generales de la UCR.
Los resultados de este estudio evidenciaron que los instrumentos de validacin
poseen excelentes ndices de consistencia interna y se relacionan con los
otros constructos de la manera esperada por la teora, lo cual evidencia su
capacidad para servir como criterios de validacin de nuestras escalas (SmithCastro et al., 2009).

Procedimientos

Una vez obtenidos los respectivos permisos, contactamos a los


estudiantes en sus aulas universitarias, les explicamos el objetivo del estudio y
les pedimos contestar el cuestionario en su totalidad. Siguiendo los
lineamientos del Comit de tica de nuestra universidad, incluimos la frmula
de consentimiento informado en la portada de nuestros cuestionarios. Los y las
estudiantes expresaron su acuerdo en participar del estudio completando el
cuestionario en su totalidad. Quien no deseaba participar era libre de devolver
el cuestionario vaco. A los y las estudiantes les tom aproximadamente 30
minutos llenar el cuestionario.
Procesamos los datos utilizando hojas de clculo de Excel y el paquete
estadstico SPSS 17. Realizamos los anlisis clsicos de consistencia interna,
anlisis de tems y correlaciones bivaridas entre las escalas en estudio y las
escalas de validacin para estimar estadsticamente la confiabilidad y validez.
Resultados

Presentamos los resultados en dos grandes dimensiones. Primero


analizaremos los resultados de los anlisis de consistencia interna y las
propiedades de los reactivos y posteriormente presentamos las correlaciones
entre nuestras escalas y los criterios de validacin.
Evidencias de consistencia interna
Los resultados del anlisis de consistencia interna se presentan en el
Cuadro 18. Para estimar la consistencia interna de las escalas utilizamos el
ndice Alfa de Cronbach. Este ndice oscila entre 0 y 1, en donde 1 representa

una consistencia interna perfecta. En la investigacin social, ndices superiores


a .80 son indicadores de consistencias internas adecuadas.
Cmo se puede observar en el Cuadro 18, todas las escalas presentaron
ndices de consistencia interna excelentes, pero las escalas mejoradas (y en
particular mediante la EC) presentaron ndices de consistencia interna ms
robustos que la escala sin mejorar.

Cuadro 18. Resultados del anlisis de consistencia interna de las escalas.


Sin mejorar

EC

Jueces

Alfas de Cronbach

.90

.94

.92

Nmero de reactivos

42

37

38

Promedio de las correlaciones tem-total

.40

.52

.48

% de tems que presentan correlaciones

31%

14%

21%

(n = 13)

(n = 5)

(n = 8)

tem-total inferiores a .30

Existe la posibilidad de estimar si tales diferencias son esperables por


puro azar o bien son diferencias estadsticamente significativas. Se trata de la
prueba Hakstian-Whalen (1976) para estimar las diferencias entre dos o ms
ndices de consistencia interna Alfa de Cronbach. Esta prueba toma en cuenta
la cantidad de reactivos que componen cada escala y la cantidad de sujetos
que la contestaron para producir un estadstico que refleja la diferencia entre
los ndices.

Aplicando esta prueba nos dimos cuenta de que la escala mejorada


mediante EC presente un ndice de consistencia Alfa de Cronbach
significativamente mayor que el que presenta la escala sin mejorar (2 = 6,07,
gl = 1, p = .014), pero que las dos escalas mejoradas (ya sea mediante EC o
mediante jueces expertos) no difieren significativamente entre s (2 = 1,75, gl =
1, p = .18). Adems, la consistencia interna de la escala mejorada mediante
jueces expertos tampoco difiere significativamente de la consistencia interna de
la escala sin mejorar (2 = 1.05, gl = 1, p = .30).
Adems de analizar la consistencia interna de las escalas, examinamos
las caractersticas de los reactivos que las componen mediante el ndice de
discriminacin. Como ya indicamos, este ndice informa sobre la capacidad de
los reactivos de diferenciar entre los niveles altos y bajos del constructo que
pretenden medir, y se define como la correlacin simple entre las puntuaciones
de los sujetos en el reactivo y sus puntajes en la escala como un todo (Muiz,
2002). Por lo general, cuando un reactivo presente un ndice de discriminacin
menor a .30 se considera que no cumple bien con su funcin de discriminar, ya
que se encuentra pobremente asociado al total de la escala.
Examinando cada una de las escalas, nos dimos cuenta de que la
cantidad de reactivos con ndices de discriminacin menores a .30 era mayor
para la escala sin mejorar que para las escalas mejoradas. Especficamente
encontramos que en la escala sin mejorar, un 31% de los reactivos (13 de 42)
no posean propiedades de discriminacin adecuadas. Se trata de reactivos
que hubiramos tenido que eliminar para asegurarnos una mayor confiabilidad.
En cambio, el porcentaje de reactivos con poca capacidad de discriminacin

disminuy al 21% (8 de 38) en la escala mejorada mediante jueces expertos y


a un 14% (5 de 37) en el caso de la escala mejorada mediante EC.
En suma estos primeros anlisis nos indican que las escalas
mejoradas, particularmente mediante EC, poseen una mayor consistencia
interna que la escala sin mejorar y sus reactivos poseen mejores ndices de
discriminacin.
Evidencias de validez
Recordemos que en este estudio tratamos de recopilar evidencias de
validez convergente, discriminante y de criterio, incluyendo en el cuestionario
varias escalas de validacin.
Las evidencias sobre la validez convergente de nuestras escalas
estaran proporcionadas si las puntuaciones de los sujetos que se derivan de
ellas se correlacionan positivamente con la escala de homofobia de consabida
validez (pues miden lo mismo). Por otro lado, obtendramos importantes
evidencias de validez discriminante, si las puntuaciones no se correlacionan
con la escala de Deseabilidad Social y el PANAS, lo que indicara que no
estamos confundiendo constructos y que las respuestas no se ven afectas por
el particular estado de nimo de la persona a la hora de contestar el
cuestionario o por su tendencia natural a convenir con las normas.
Adicionalmente, obtendramos importantes evidencias de la validez de
criterio si observamos que altos puntajes en homofobia se correlacionan
negativamente con la cantidad de amigos y amigas homosexuales y la cantidad
y calidad de contacto con personas homosexuales. Esperaramos, adems,
que altos puntajes en homofobia estn correlacionados con una negativa a
apoyar el matrimonio o la unin civil entre personas homosexuales.

Para estimar la asociacin entre las variables utilizamos la correlacin


simple o correlacin de Pearson. El ndice mide el grado de relacin de dos
variables cuantitativas (mtricas). El coeficiente presenta valores entre 1 y +1.
Cuando el ndice se aproxima a cero, indica que no existe correlacin lineal
entre las variables, si se aproxima a +1 indica la existencia de una correlacin
positiva (directamente proporcional) entre las variables y si se aproxima a -1
indica que existe una correlacin negativa (inversamente proporcional) entre
las variables. Estos resultados se presentan en el Cuadro 19.

Cuadro 19. Correlaciones de las escalas con los criterios de validez.


Sin

Entrevista

Jueces

mejorar

Cognitiva

Expertos

Deseabilidad social (Crowne & Marlowe, 1960)

.01

.02

-.12

Mood negativo (Watson & Clark, 1994)

.13

-.10

-.01

Mood positivo (Watson & Clark, 1994)

-.03

.05

-.06

Homofobia (Len, 2003)

.87 **

.91 **

.91 **

Contacto (Smith-Castro, 2003)

-.53 **

-.51**

-.56 **

Calidad de contacto

-.62 **

-.47 **

-.63 **

Nmero de amigos y amigas gay

-.36 **

-.31 **

-.39 **

Unin civil gay (0 = no, 1 = si)

-.62 **

-.62 **

-.57 **

Matrimonio gay (0 = no, 1 = si)

-.60 **

-.62 **

-.53 **

** p < .001

El Cuadro 19 nos presenta importantes evidencias sobre la validez de


las inferencias que podemos hacer con nuestras escalas. Por ejemplo, ninguna
correlaciona significativamente con la tendencia a convenir con las normas
sociales y ninguna se ve afectada significativamente por el estado de nimo de
las personas antes de contestarlas. Por otra parte, las escalas correlacionan

positivamente con otra escala de reconocida validez de homofobia, lo cual


indica que estamos midiendo el mismo constructo. Adems, todas las escalas
se relacionan con los criterios externos tal y como la teora lo predice,
presentando correlaciones negativas con el contacto y las actitudes hacia las
iniciativas de la unin civil y el matrimonio gay: altos niveles de homofobia se
asociaron a pocas oportunidades de contacto con personas homosexuales y a
una resistencia a apoyar el matrimonio y la unin civil entre personas del
mismo sexo.
Las correlaciones entre nuestras escalas y los criterios de validacin son
tan consistentes y similares que no es posible dictaminar cul de ellas se
correlaciona mejor con los criterios. De hecho, existen pruebas de
significancia para estimar si dos correlaciones son distintas entre s, ms all
de lo esperable por puro azar (Fisher, 1921), y en todos nuestros casos no
encontramos ninguna diferencia estadsticamente significativa entre las
correlaciones (todas las p > .05).
En sntesis, los anlisis que hemos realizado arrojan resultados bastante
halagadores para la tcnica de EC. La escala mejorada mediante EC se
comporta tan eficazmente como una escala mejorada mediante un panel de
expertos, pero

a diferencia del panel expertos, la EC permite obtener

informacin sobre cmo los sujetos (la poblacin meta) estn entendiendo los
reactivos.
Si bien todas las escalas correlacionan con los criterios de validacin tal
y como se espera de acuerdo con la teora, la escala mejorada mediante EC
posee propiedades de consistencia interna significativamente superiores. La
escala sin mejorar, por su parte, requiere que los sujetos contesten ms

reactivos (y por tanto inviertan ms tiempo y ms recursos cognitivos) para


obtener la misma informacin que con las escalas mejoradas. Y an
poseyendo ms reactivos, su consistencia interna es menor.
Literatura recomendada
Esta seccin puede considerarse como un pequeo ejemplo del proceso
de validacin de una escala para medir actitudes, pues tratamos de seguir los
pasos ms bsicos para recopilar evidencias sobre la consistencia interna y la
validez de un instrumento, tal y como recomiendan los estndares modernos
que describimos en la primera seccin. As, la literatura que recomendamos en
la primera seccin resulta particularmente idnea para profundizar en algunos
aspectos tcnicos de esta seccin.
Nuestro estudio presenta las formas ms simples de estimar evidencias
de confiabilidad y validez. Existen procedimientos ms complejos y ms
robustos para ello. El texto de Tornimbeni, Prez y Olaz (2008) presenta ms
y mejores ejemplos sobre los procedimientos para estimar la confiabilidad y la
validez de las mediciones que los que ofrecemos aqu.
Para quienes deseen mayor informacin sobre cmo calcular pruebas de
hiptesis sobre las diferencias entre coeficientes Alfas de Cronbach,
recomendamos el texto de Hasktian y Whalen (1976). El profesor Hoi K. Suen,
de la Facultad de Educacin de la Universidad Estatal de Pensilvania, ofrece
gratuitamente una hoja de Excel para hacer los respectivos clculos. Esta hoja
puede ser solicitada a la siguiente direccin de correo electrnico:
HoiSuen@psu.edu
Para conocer ms a fondo los distintos procedimientos de estimacin de
las diferencias entre dos o ms coeficientes de correlacin, as como para

acceder a muchas otras estrategias de anlisis estadstico, recomendamos


visitar la pgina del profesor Karl Wunch de la Universidad de Carolina del
Este: http://core.ecu.edu/psyc/wuenschk/StatsLessons.htm

UNAS CUANTAS RECOMENDACIONES FINALES


La EC fue diseada para detectar problemas en los cuatro grandes
momentos que se suceden a la hora de contestar un cuestionario de papel y
lpiz, a saber: comprensin de los reactivos, recuperacin de la informacin
solicitada, proceso de estimacin de las respuestas y ejecucin de las
respuestas.
Se trata de un procedimiento de naturaleza cualitativa que informa al
investigador o investigadora sobre cmo las personas procesan la informacin
solicitada por los reactivos, pero tambin produce importantes evidencias de
que el instrumento est midiendo lo que pretende medir y de que lo hace de
manera consistente.
Nuestra experiencia indica que se trata de una tcnica flexible, que
puede ser adaptada a las necesidades de cada cuestionario, estudio o equipo
de investigacin. Hemos visto que la EC puede ser aplicada con xito en
poblaciones tan diferentes como lo son nios y nias menores de 12 aos,
personas refugiadas y estudiantes universitarios.
Esta flexibilidad aumenta si las pruebas de reporte verbal son vistas
como un catlogo de posibilidades para el sondeo de los mecanismos mentales
implicados a la hora de contestar nuestros cuestionarios y de los problemas
que pueden aparecer durante el proceso de pregunta-respuesta.
Su aplicacin es relativamente sencilla y poco costosa, porque requiere
un equipo mnimo y una muestra modesta de participantes. En este sentido, la
seleccin de los participantes en esta fase del proceso de desarrollo de

instrumentos resulta crucial. Se trata de una seleccin guiada tericamente y


por los objetivos de investigacin ulteriores.
No cabe duda que mejorar cualitativamente un instrumento antes de
pasar a las siguientes etapas del proceso de validacin tiene un impacto
positivo en el producto final. Como hemos visto, la aplicacin de la EC permite
mejorar sustancialmente las caractersticas psicomtricas de los instrumentos
de papel y lpiz.
No es de extraar entonces que la EC haya sido utilizada en los ltimos
30 aos como herramienta para evaluar y mejorar los cuestionarios antes de
probarlos en los estudios piloto y llevarlos al estudio principal. De hecho, las
principales casas encuestadoras en Estados Unidos

y Europa poseen

laboratorios permanentes de evaluacin cognitiva de sus instrumentos (Willis,


2005).
As mismo, la Asociacin Americana de Investigacin en Educacin
(AERA, por sus siglas en ingls), la Asociacin Americana de Psicologa (APA)
y el Consejo Nacional de Medicin en Educacin (NCME) de Estados Unidos
recomiendan el uso de tcnicas como la EC para recopilar evidencias de
validez del proceso de respuesta como parte fundamental del desarrollo,
validacin y aplicacin de pruebas psicomtricas y educativas (AERA, APA &
NCME, 1999). No podemos ms que unirnos a estas instituciones en la
recomendacin de su uso.
Hemos visto que su uso ms intensivo se ubica en las encuestas sobre
hechos y conductas (como por ejemplo, uso del condn, consumo de tabaco,
frecuencia de visitas al mdico, etc.). No obstante, puede ser fcilmente llevada
al anlisis de reactivos tendientes a medir valores, actitudes y personalidad,

como lo hemos tratado de demostrar en este cuaderno metodolgico y como


ha sido incorporada para desarrollar instrumentos de habilidades y aptitudes
(Embretson & Gorin, 2001).
Ahora bien, la EC en s misma no sustituye a un estudio psicomtrico de
validacin de reactivos, sino que forma parte de los procedimientos modernos
de estimar la validez y utilidad de los instrumentos, y en ese sentido la
recomendamos como un excelente complemento a los mtodos tradicionales
de validacin y adaptacin de medidas y recomendamos su uso en las etapas
iniciales del proceso de construccin de instrumentos, antes de llevarlas al
estudio piloto de carcter psicomtrico y por supuesto antes del estudio
principal.
En general la EC posee caractersticas sumamente deseables para la
investigacin social. Nuestros datos indican que es tan eficiente como un buen
panel de expertos, pero tiene la ventaja de que nos informa sobre lo que
sucede en las mentes de los potenciales encuestados, que al fin y al cabo
representan nuestras unidades de estudio centrales. De esta manera
podramos decir que ambas estrategias son complementarias. Los jueces
expertos nos ayudaron a afinar los reactivos para que captaran mejor el
constructo, mientras que la EC nos permiti estar seguros de que el proceso
mental involucrado a la hora de contestar nuestros reactivos era el adecuado
(para nuestros fines).
Finalmente, una de las caractersticas ms relevantes de esta tcnica es
que nos obliga a pensar crticamente sobre

nuestros instrumentos. Nos

recuerda que todas nuestras medidas son imperfectas y que no podemos dar

por sentadas nuestras expectativas (o cualquier otra teora) sin someterlas


primero a un proceso de investigacin emprica, rigurosa y transparente.
Invitamos entonces a incorporar la EC dentro del repertorio de
herramientas de investigacin social para que la toma de decisiones dentro y
fuera del mbito acadmico est fundamentada en mediciones fiables y
efectivas.

Sobre los autores


Vanessa Smith-Castro
Doctora en Psicologa por la Universidad Philipps de Marburgo, Alemania.
Actualmente es profesora asociada del Instituto de Investigaciones
Psicolgicas y la Escuela de Psicologa de la Universidad de Costa Rica.
Dentro de sus reas de inters se encuentran la psicologa social de las
relaciones intergrupales y los mtodos de investigacin cuantitativa.
Correo electrnico: vanessa.smith@ucr.ac.cr
Mauricio Molina Delgado
Doctor en Psicologa por la Universidad de Salnica, Grecia. Catedrtico de la
Universidad de Costa Rica, director de la Maestra en Ciencias Cognoscitivas,
profesor en la Escuela de Psicologa e Investigador del Instituto de
Investigaciones Psicolgicas y el Programa de Investigacin en Neurociencias,
en esta misma Universidad. Dentro de sus intereses de investigacin se
encuentran las ciencias cognoscitivas, la simulacin de comportamiento animal,
el procesamiento de lenguaje no literal y la metacognicin.
Correo electrnico: orescu@yahoo.com

REFERENCIAS

AERA, APA, & NCME (1999). Standards for educational and psychological
testing. Washington, D.C.: Author.
Aguiar, T. (2009). Adaptacin de la escala de neuroticismo INK para
estudiantes de cuarto, quinto y sexto grado. Tesis para optar por el
grado de Licenciatura en Psicologa. San Jos, C.R.: Universidad de
Costa Rica.
Anastasi, A. (1982). Psychological testing (5th ed.). New York, NY: Macmillan.
Bollen, K.A. (2002). Latent Variables in Psychology and the Social Sciences.
Annual Review of Psychology, 53, 605-34.
Bradburn, N. M., Rips, L.J. & Shevell, S. K. (1987). Answering Autobiographical
Questions: The Impact of Memory and Inference on Surveys. Science,
236 (4798), 157-61.
Castellano-Ackermann, A. & Blair, J. (May, 2006). Efficient Respondent
Selection for Cognitive Interviewing. Paper presented at the 61st Annual
Conference of the American Association for Public Opinion Research.
Montreal, Quebec.
Collins, D. (2003). Pretesting survey instruments: an overview of cognitive
methods. Quality of Life Resereach, 12, 229-238.
Conway, M.A. &

Pleydell-Pearce, C. W. (2000). The construction of

autobiographical memories in the self memory system. Psychological


Review, 107, 261-288.

Cortada de Kohan, N. (2003). Posibilidad de integracin de las teoras


cognitivas

la

psicometra

moderna.

Revista

Argentina

de

Neuropsicologa, 1, 8 23.
Cronbach, L.J. & Meehl, P.E. (1955). Construct validity in psychological tests.
Psychological Bulletin, 52, 281-302.
Crowne, D. P. & Marlowe, D. (1960). A New Scale of Social Desirability
Independent of Psychopathology, Journal of Consulting Psychology, 24,
349-354.
Embretson, S. & Gorin, J. (2001). Improving construct validity with cognitive
psychology principles. Journal of Educational Measurement, 38(4), 343368.
Erickson, K.A. & Simon, H.A. (1993). Protocol Analysis. Verbal reports as data
(Revised edition). Cambridge, MA: MIT Press.
Fisher, R. A. (1921). On the ``probable error'' of a coefficient of correlation
deduced from a small sample. Metron 1, 3-32.
Flik, U., Kardorff, E., Keupp, H., Rosentiel, L., & Wolff, S. (1995). Handbuch
qualitative Sozialforschung: Grundlangen, Konzepte, Methoden und
Anwendungen. Weinheim: Beltz Psychologie Verlags Union.
Forsyth, B., Rothgeb, J., and Willis, G. (2004). Does Pretesting Make a
Difference? An

Experimental Test. In S. Presser, J. Rothgeb, M.

Couper, J. Lessler, E. Martin, J. Martin, and E. Singer (eds.), Methods for


Testing and Evaluating Survey Questionnaires, pp. 525-546. New York:
Wiley.

Galton, F. (1879). Psychometric experiments. Brain, 2, 149 162.


Hakstian, A. R. & Whalen, T. E. (1976). A k-sample significance test for
independent Alpha coefficients. Psychometrika , 41, 219-231.
Huges, K.A. (November, 2003). Comparing Pretesting Methods: Cognitive
Interviews, Respondent Debriefing, and Behavior Coding. Paper
presented at the Annual Meeting of the Federal Committee on Statistical
Methodology. Arlington, Virginia.
Jobe, J.B. & Mingay, D.J. (1991). Cognition and Survey Measurement: History
and Overview. Applied Cognitive Psychology, 5, 175-192.
Jobe, J.B. (2003). Cognitive psychology and self-reports: Models and Methods.
Quality of Life Research, 12, 219-227.
Kaplan, R. M. & Sacuzzo, D. P. (2006). Pruebas psicolgicas. Principios,
aplicaciones y temas (6 Ed.). Mxico: International Thomson Editores.
Klein, S.B. German, T.P., Cosmides, L. & Gabriel, R. (2004). A theory of
autobiographical

memory:

necessary

components

and

disorders

resulting from their loss. Social Cognition, 22, 460-490.


Lessler, J., Tourangeau, R. & Salter, W. (1989). Questionnaire design in the
cognitive research laboratory: results of an experimental prototype.
National Center for Health Statistics. Vital Health Stat, 6(1), Washington,
D.C.: Government Printing Office.
Lewins, A. & Silver, Ch. (2007). Using Software in Qualitative Research: A
Step-by-Step Guide. California: Sage Publications.

Mack, N., Woodsong, C., McQueen, K., Guest, G. & Namey, E. (2005).
Qualitative Research Methods: A Data Collectors Field Guide. North
Carolina: Familiy Health International.
Martnez, R. (1996). Psicometra: Teora de los Tests Psicolgicos y
Educativos. Espaa: Editorial Sntesis S.A.
Mayring, P. (1993). Einfuhrung in die qualitative Sozialforschung. Weinheim:
Beltz Psychologie Verlags Union.
McIntire, S.A. & Miller, L.A. (2007). Foundations of Psychological Testing. A
Practical Approach (Second Edition). California, United States of
America: Sage Publications, Inc.
Messick, S. (1989). Meaning and values in test validation: The science and
ethics of assessment. Educational Researcher, 18, 5-11.
Messick, S. (1995). Validity of psychological assessment: Validation of
inferences from persons responses and performances as scientific
inquiry into score meaning. American Psychologist, 50, 741-749.
Montero, E. (2001). La teora de respuesta a los temes: una moderna
alternativa para el anlisis psicomtrico de instrumentos de medicin.
Revista de Matemtica: Teora y Aplicaciones, 7, 217-228.
Montero, E. (2008). Escalas o ndices para la medicin de constructos: El
dilema del analista de datos. Avances en Medicin, 6, 1524.
Moreira, T. (2008). Funcionamiento diferencial del tem en matemtica. Un
aporte terico metodolgico. Actualidades en Psicologa, 22, 91-113.

Norenzayan, A., & Schwarz, N. (1999). Telling what they want to know:
Participants tailor causal attributions to researchers interests. European
Journal of Social Psychology, 29, 1011-1020
Neuendorf, K.A. (2002). The content analysis guidebook. Thousand Oaks, Cal.:
Sage.
Nunnally, J. (1991). Teora Psicomtrica. Mxico: Trillas
Osterlind, S. J. (2006). Modern measurement: Theory, principles and
application of mental appraisal. Upper Saddle River, NJ: Prentice-Hall.
Padilla, J.L., Gmez, J., Hidalgo, M.D. & Muiz, J. (2006). La evaluacin de las
consecuencias del uso de los tests en la teora de la validez.
Psicothema, 18(2), 307-312.
Phelps, E.A. (2006). Emotion and cognition: Insights from studies of the human
amygdala. Annual Review of Psychology, 24, 27-53.
Presser, S., & Blair, J. (1994). Survey pretesting: Do different methods produce
different results? Sociological Methodology, 24, 73-104.
Presser, S., Couper, M.P., Lessler, J.T., Martin, E., Martin, J., Rothgeb, J.M. &
Singer, E. (2004). Methods for testing and evaluating survey questions.
Public Opinion Quarterly, 68, 109-130
Rothgeb, J., Willis, G., & Forsyth, B. (2007). Questionnaire pretesting methods:
Do different techniques and different organizations produce similar
results. Bulletin of Sociological Methodology, 96, 5-31.
Ryle, G. (1949). The concept of mind. New York: Barnes & Noble.

Schawarz, N. & Oyserman, D. (2001). Asking questions about behavior:


cognition, communication, and questionnaire construction. American
Journal of Evaluation, 22, 127-160.
Smith, A.F., Jobe, J.B. & Mingay, D.J. (1991). Questions induced cognitive
biases in reports of dietary intake in college men and women. Health
Psychology, 10(4), 244-257.
Smith-Castro,

V.

(2003).

Acculturation

and

psychological

adaptation.

Westport, CT: Greenwood Press.


Smith-Castro, V. & Molina, M. (en rev.). Matrimonio Gay en Costa Rica:
Autoritarismo, homofobia o desconocimiento? Manuscrito en revisin.
Revista Interamericana de Psicologa.
Smith-Castro, V., Molina, M. & Castelain, R. (2009). Nuevos mtodos y
tecnologas

lingstico-cognitivas

para

el

diseo,

evaluacin

mejoramiento de cuestionarios en la investigacin social. Informe de


Investigacin. San Jos, Costa Rica: Instituto de Investigaciones
Psicolgicas.
Thurstone, L.L. (1928). Attitudes can be measured. American Journal of
Sociology, 33, 529-554.
Tirapu-Ustrroz, J., Muoz-Cspedes, J.M. (2005). Memoria y funciones
ejecutivas. Revista de Neurologa, 41 (8), 475-484.
Tornimbeni, S., Prez, E. & Olaz, F. (2008). Introduccin a la Psicometra.
Buenos Aires: Paids.
Tourangeau, R. (1984). Cognitive sciences and survey methods. In Jabine T.B.,
Straf, M.L., Tanur, J.M. & Tourangeau, R (eds). Cognitive Aspects of

Survey Methodology: Building a Bridge between Disciplines (pp. 73-101).


Washington, DC: National Academy Press.
Tourangeau, R., Rips L.J. & Rasinski, K. (2004). The Psychology of Survey
Report. Cambridge: University Press.
Tourangeau R. & Smith, T.M. (1996). Asking sensitive questions: the impact of
mode, question format, and question context. Public Opinion Quartely,
60, 275-304
Tulving, E. (2002). Episodic Memory: From Mind to Brain. Annual Review of
Psychology, 53, 1-25.
Watson, D. & Clark, L.A. (1994). The PANAS-X. Manual for the positive and
negative affect schedule. Iowa: University of Iowa.
Wengraf, T. (2006). Qualitative research interviewing. Thousand Oaks, Cal.:
Sage.
Willis, G. (2005). Cognitive Interviewing: A tool for improving questionnaire
design. London: SAGE.
Ziga M.E. & Montero, E. (2007). Teora G: un futuro paradigma para el
anlisis de pruebas psicomtricas. Actualidades en Psicologa, 21, 117144.

ANEXOS
ESCALA EXPERIMENTAL
POR FAVOR MARQUE CON UNA X SI USTED EST EN DESACUERDO O DE ACUERDO CON CADA FRASE.
UTILIZANDO LA ESCALA DE 1 AL 5, EN LA QUE 1 SIGNIFICA TOTALMENTE EN DESACUERDO Y 5
TOTALMENTE DE ACUERDO. RECUERDE: CUANTO MAYOR SEA EL PUNTAJE QUE USTED ASIGNE A CADA
FRASE, MAYOR ES SU ACUERDO CON LA MISMA.
ABREVIATURAS
TD:
DE:
I:
DA:
TA:

Totalmente en desacuerdo
En desacuerdo
Indiferente
De acuerdo
Totalmente de acuerdo
TD

DE

DA

TA

1.

Asisto a lugares en donde personas homosexuales


generalmente se renen.

2.

Si fuera jefe(a) de una empresa le dara trabajo a una persona


que es abiertamente homosexual

3.

Me gusta ver pelculas de corte gay o lsbico.

4.

Considera a un hombre o mujer homosexual como una


persona que es parte de una moda de la nueva generacin?

5.

Apoyo el matrimonio entre personas del mismo sexo.

6.

Cuando conozco a una pareja homosexual generalmente


pienso quien hace el rol de hombre o de mujer en la relacin.

7.

Podra aceptar que exista un miembro homosexual dentro de


mi familia.

8.

Continuara una relacin ntima o amorosa con una persona


aunque esta me confiese haber tenido novios(as) de su mismo
sexo.

9.

Tengo amigos(as) homosexuales.

10. Me interesan los temas relacionados a la homosexualidad.

11. Considero que los homosexuales hombres y mujeres merecen


en todo sentido igual de respeto que las personas
heterosexuales.

12. Me sentira incmodo(a) si tuviera que trabajar de cerca con


una persona homosexual.

13. Me sentira desilusionado(a) si tuviera un hijo(a) homosexual

14. Considero que las personas nacen con una predisposicin a la


homosexualidad.

15. Considero vlido que dos personas del mismo sexo que tengan
una relacin de pareja puedan adoptar hijos.

16. La homosexualidad es producto de un problema gentico.

17. Me molestara si una persona de mi mismo sexo me invitara a


salir.

18. Considero que la homosexualidad es una enfermedad mental o


un problema, que tiene que ser tratado.

19. Considero que las personas homosexuales sufren por el hecho


de ser homosexuales.

20. Si tuviera el poder de cambiar las cosas, erradicara la


homosexualidad.

21. Considera a un hombre o mujer homosexual como una


persona normal?

22. Considero que las personas se hacen homosexuales durante


el transcurso de su vida.

23. Una persona que ha sufrido algn tipo de abuso sexual durante
su infancia tiene altas probabilidades de convertirse en
homosexual.

24. Considera a un hombre o mujer homosexual como una


persona inferior Enferma / cree que se puede curar?

25. Ante un hecho contra los homosexuales actu con silencio

26. Aceptara un trabajo si sabe que su jefe inmediato es


homosexual.

27. Conoce familiares o amigos homosexuales?

28. Usted aprobara la unin legal en personas del mismo sexo

29. Usted aprobara que un primo, sobrino o hijo recibiera clases


en la escuela de un profesor con orientacin sexual
homosexual

30. La homosexualidad es una moda

31. Visitara un bar gay en compaa de un amigo o amiga con


orientacin homosexual.

32. Aprobara que las personas con orientacin homosexual


estuviesen en su grupo religioso.

33. Conoce organizaciones anti-homofobia?

34. Las parejas o personas homosexuales pueden formar un


ncleo familiar

35. Si ve a una mujer darle un beso a otra mujer usted est en

36. Ante un hecho contra los homosexuales actu con una


denuncia

37. Existe en C.R. la cultura para denunciar los actos ofensivos o


discriminatorios por motivo de la orientacin sexual?

38. La homosexualidad es producto del entorno social

39. Usted cuenta chistes acerca de la homosexualidad

40. Si fuera gerente de una empresa le dara trabajo a una


persona homosexual.

41. Una persona homosexual podra ser mi compaero(a) de


apartamento.

42. Si ve a un hombre darle la mano a otro hombre est en

ESCALA MEJORADA MEDIENTA EC


POR FAVOR MARQUE CON UNA X SI USTED EST EN DESACUERDO O DE ACUERDO CON CADA FRASE.
UTILIZANDO LA ESCALA DE 1 AL 5, EN LA QUE 1 SIGNIFICA TOTALMENTE EN DESACUERDO Y 5
TOTALMENTE DE ACUERDO. RECUERDE: CUANTO MAYOR SEA EL PUNTAJE QUE USTED ASIGNE A CADA
FRASE, MAYOR ES SU ACUERDO CON LA MISMA.
ABREVIATURAS
TD:
DE:
I:
DA:
TA:

Totalmente en desacuerdo
En desacuerdo
Indiferente
De acuerdo
Totalmente de acuerdo
TD

DE

DA

TA

1. Asisto a lugares en donde hombres y mujeres


homosexuales generalmente se renen (por ejemplo, bares
gay).

2. Considero que las personas se hacen homosexuales


durante el transcurso de su vida.

3. Tengo amigos(as) homosexuales.

4. Si fuera jefe(a) de una empresa le dara trabajo a un


hombre o una mujer que es abiertamente homosexual

5. Me gusta ver pelculas de temas relacionados a la


homosexualidad.

6. Apoyo el matrimonio por la iglesia entre personas del mismo


sexo.

7. Considero que los hombres y las mujeres homosexuales


nacen con una predisposicin biolgica a la
homosexualidad.

8. Cuando conozco a una pareja homosexual generalmente


pienso en quin hace el rol de hombre o de mujer en la
relacin.

9. Podra aceptar que exista un hombre o una mujer


homosexual dentro de mi familia.

10. Me interesan los temas relacionados con la


homosexualidad.

12. Me sentira incmodo(a) si tuviera que trabajar de cerca de


un hombre o mujer homosexual.

13. Me sentira desilusionado(a) si tuviera un hijo(a)


homosexual

14. Una persona que ha sufrido algn tipo de abuso sexual


durante su infancia tiene altas probabilidades de convertirse
en homosexual.

15. Me molestara que una persona homosexual flirteara


conmigo (me echara el cuento)

16. Considero que la homosexualidad es una enfermedad

11. Considero que los homosexuales hombres y mujeres


merecen en todo sentido igual respeto que las personas
heterosexuales.

mental que tiene que ser tratada.


17. Si tuviera el poder de cambiar las cosas, erradicara la
homosexualidad.

18. Considero a un hombre o mujer homosexual como una


persona normal

19. Considero a un hombre o mujer homosexual como una


persona que es parte de una moda de la nueva
generacin

20. Usted aprobara la unin legal en personas del mismo sexo

21. Considero vlido que dos personas del mismo sexo que
tengan una relacin de pareja puedan adoptar hijos.

22. Aprobara que un familiar cercano recibiera clases en la


escuela con un profesor homosexual

23. Considero a un hombre o mujer homosexual como una


persona enferma

24. Visitara un bar gay en compaa de un amigo o amiga con


orientacin homosexual.

25. La homosexualidad es producto de un entorno social


problemtico

26. Aprobara que los hombres y las mujeres homosexuales


asistan a grupos religiosos

27. Considero que los hombres y las mujeres homosexuales se


sienten mal por el hecho de ser homosexuales.

28. Las parejas homosexuales pueden iniciar su propia familia

29. Se debera permitir a las parejas homosexuales adoptar


hijos

30. La homosexualidad es una moda

31. Aprobara que un familiar cercano recibiera clases en la


escuela con una profesora lesbiana

32. Considero a un hombre o mujer homosexual como una


persona inferior

33. La homosexualidad es producto de un problema gentico

34. Si fuera gerente de una empresa le dara trabajo a un


hombre o una mujer homosexual.

35. De vez en cuando cuento chistes sobre la homosexualidad

36. Aceptara un trabajo si sabe que su jefe o jefa inmediato/a


es homosexual.

37. Una persona homosexual podra ser mi compaero(a) de


apartamento.

ESCALA MEJORADA MEDIANTE JUECES EXPERTOS


POR FAVOR MARQUE CON UNA X SI USTED EST EN DESACUERDO O DE ACUERDO CON CADA FRASE.
UTILIZANDO LA ESCALA DE 1 AL 5, EN LA QUE 1 SIGNIFICA TOTALMENTE EN DESACUERDO Y 5
TOTALMENTE DE ACUERDO. RECUERDE: CUANTO MAYOR SEA EL PUNTAJE QUE USTED ASIGNE A CADA
FRASE, MAYOR ES SU ACUERDO CON LA MISMA.
ABREVIATURAS
TD:
DE:
I:
DA:
TA:

Totalmente en desacuerdo
En desacuerdo
Indiferente
De acuerdo
Totalmente de acuerdo
TD

DE

DA

TA

1. Me incomoda ver pelculas o programas televisivos en donde


se presentan escenas de homosexualidad

2. Me gusta asistir a lugares donde personas homosexuales


generalmente se renen.

3. Estoy dispuesto(a) a tener amigos(as) homosexuales.

4. Si fuera jefe(a) de una empresa le dara trabajo a una


persona que asume pblicamente su condicin de
homosexual.

5. Podra aceptar que exista un miembro homosexual dentro de


mi familia.

6. Continuara una relacin ntima o amorosa con una persona


aunque esta me confiese haber tenido una pareja de su
mismo sexo.

7. Cuando conozco a una pareja homosexual generalmente


pienso quien hace el rol de hombre o de mujer en la relacin.

9. Los homosexuales hombres y mujeres merecen en todo


sentido igual respeto que las personas heterosexuales.

10. Me sentira incmodo(a) si tuviera que trabajar de cerca con


una persona homosexual.

11. Las personas nacen con una predisposicin a la


homosexualidad.

12. Me sentira desilusionado(a) si tuviera un hijo(a) homosexual

13. Dos personas del mismo sexo que tengan una relacin de
pareja pueden adoptar hijos.

14. Me incomodara mucho si una persona de mi mismo sexo me


invitara a salir.

15. Las personas se hacen homosexuales durante el transcurso


de su vida.

16. Las personas homosexuales sufren por el hecho de ser


homosexuales.

8. La homosexualidad es una moda.

17. La homosexualidad es una enfermedad mental


18. La verdad es que yo eliminara la homosexualidad.

19. Un hombre o mujer homosexual es una persona normal

20. De vez en cuando siento un poco de desprecio por las


personas homosexuales

21. La homosexualidad es un asunto de las nuevas generaciones

23. Una persona que ha sufrido algn tipo de abuso sexual


durante su infancia tiene altas probabilidades de convertirse
en homosexual.

24. Visitara un bar gay en compaa de un amigo o amiga


homosexual.

25. Las personas homosexuales tienen derecho a formar parte de


grupos religiosos.

26. Las parejas homosexuales pueden formar su propio ncleo


familiar, siempre y cuando no tengan hijos.

27. La homosexualidad es producto de un problema gentico.

28. Me preocupara que un familiar cercano tuviera una maestra


lesbiana.

29. La homosexualidad es producto del entorno social

30. La verdad es que me divierten los chistes sobre


homosexuales.

31. Si fuera gerente de una empresa le dara trabajo a una


persona homosexual.

32. Me incomodara tener compaeros de apartamento


homosexuales.

33. La verdad es que la mayora de los hombres homosexuales


son muy afeminados.

34. Aceptara un trabajo sin problemas aunque mi jefe inmediato


fuera homosexual.

35. Me siento incmodo (a) cuando veo a dos hombres darse un


beso en boca.

36. Me siento incmodo (a) cuando veo a dos mujeres darse un


beso en boca.

37. Es muy probable que un nio o nia criado por personas


homosexuales se vuelva homosexual.

38. Sera mejor que las personas homosexuales evitaran


expresar su orientacin sexual en pblico.

22. Me preocupara que un familiar cercano tuviera un maestro


homosexual.