Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
y la Cooperación
1 Introducción 3
Información legal:
Autor y editor de texto: Nadel - Centro para el Desarrollo y la Cooperación, Zurich
Mandante y editor: Centro para el Desarrollo y la Cooperación COSUDE,
Sección del Aseguramiento de la Calidad y Red, Berna
Traducción: Alexis Amette, Rennes
Gestión de proyecto: LerNetz AG, Berna
Ilustración: gut&schön, Zurich
Diseño: Büro eigenart, Berna
Foto de la portada: Martin Walser, Vaduz
2
1 Introducción
Resultado
Revisión/ Resultados e
Planificación
Evaluación Indicadores
Implementación
Monitoreo
3
2 Medición, Evaluación, Pilotaje
Como lo hemos mencionado anteriormente, los proyectos apuntan a lograr resultados sig-
nificativos, o, en otros términos, a brindar un cambio positivo en un grupo meta específico.
¿Cómo podemos medir el cambio esperado, y si se puede en qué medida este ha ocurrido?
¿Y si el cambio se ha producido, como definir si se debe al proyecto y no a otras influencias?
¿Cuál es la diferencia entre medición y evaluación? ¿Y cuál es el lugar de la medida, de la
apreciación y del pilotaje en el PCM?
Gestión
1 Definir los resultados e indicadores esperados
Planificación
Appreciación = Monitoreo o Evaluación
Medición
2 Definir el concepto de M y E
Implementación
4 Interpretar las medidas procesadas
4
Las etapas 2 y 3, las más «técnicas», son denominadas como: medición. Estas dos etapas
junto con las etapas 1, 4 y 5 están denominadas como: apreciación. Deben establecer los
resultados, medir y sacar conclusiones y recomendaciones. Evaluar sin medir es solo una su-
posición. Dentro de la cooperación para el desarrollo se denomina apreciación al monitoreo
(o seguimiento), a la revisión o la evaluación según su intención, su tiempo y el lugar de
mando. Dentro de la COSUDE, las apreciaciones formales encomendadas y controladas por la
unidad de responsabilidad operativa se llaman revisiones, las encomendadas por la «Sección
Evaluación y Control de Gestión» se llaman evaluaciones (externas).
En fin, sin verdaderas tomas de decisiones de pilotaje por parte de la gestión de proyectos,
el monitoreo y la evaluación tienen un valor práctico poco significativo. La excepción es la
evaluación ex post, mucho después de la finalización del proyecto. En este caso, las lecciones
aprendidas pueden ser utilizadas en otros proyectos.
5
3 Indicadores para Medir el Cambio
Impacto Indicadores
requiridos aquí…
Outputs
Los indicadores son los instrumentos de control de un proyecto que proporcionan datos con-
«Usted obtiene lo cretos y verificables objetivamente sobre hechos que no siempre pueden ser percibidos di-
que mide. Si mide rectamente. En un auto, el velocímetro nos dice a qué velocidad se está conduciendo. Un
con criterios equiv- termómetro nos indica la temperatura del agua de refrigeración y el indicador de combustible
ocados, obtendrá muestra la cantidad de combustible en el tanque. Si no prestamos atención a estos indica-
comportamientos dores podríamos tener una multa por exceso de velocidad, el motor podría sobrecalentarse
equivocados.» o quedarse sin combustible. La COSUDE define un indicador como «un factor cuantitativo o
John H. Lingle cualitativo o una variable que proporciona medios sencillos y fiables para medir los logros y
resultados, y que refleja tanto los procesos como los cambios en el contexto.»
Para seguir con la analogía de la conducción de automóviles, también tenemos que tomar en
cuenta la importancia de los factores externos como el estado de la carretera y la densidad
del tráfico. Estamos más atentos conduciendo en una carretera de montaña cerca de los
acantilados que sobre una carretera amplia y llana sin huecos. ¿Cuán difícil sería conducir si,
por ejemplo, no estuviéramos seguros de que los otros automovilistas respetan las señales de
stop y semáforos? Por lo tanto, como demuestran los accidentes en los cruces, esta hipótesis
práctica no se verifica en todos los casos.
6
3.2 Elementos de Indicadores Completos
Un indicador completo para un output, un outcome o un impacto está compuesto por varios
elementos:
Criterio: ¿Qué característica medible de la situación descrita en el output específico, outcome
o impacto observamos y analizamos?
Medida / indicador: ¿Cómo podemos medir el criterio? ¿Cuál es la unidad de medición?
Valor meta: ¿Cuál es la meta cuantitativa a ser alcanzada al final del proyecto, al final de la
fase o del año?
Línea de Base: ¿Cuál es la situación al comienzo del proyecto?
Fuente de datos: ¿De dónde se sacan los datos? ¿Qué métodos utilizamos para recoger
datos? ¿Cuando y con qué frecuencia recogemos y recopilamos los datos?
Análisis y presentación: ¿Cómo analizamos los datos y presentamos la información?
Función: ¿Quién es el responsable para recoger y recopilar estos datos específicos?
Resultado Elementos condensados del Indicador de Marco Lógico Elementos para el Sistema de Monitoreo
Ejemplo 1
Ejemplo 2
7
En el Marco Lógico podemos inscribir los indicadores en un formulario condensado, porque
los indicadores sin metas no proporcionan mucha información:
Impacto: Menos de 250 casos de diarrea por año registrados en el puesto de salud
Outcome: Grifos sin agua menos de 10 días al año (media)
Mínimo del 80% de los grifos suministran 40 litros por persona y por día
al final de la temporada seca
Output: Las 45 nuevas bombas funcionan un año después de la instalación
DEBERIA saber
DEBE saber
8
3.3 Tipos de Indicadores
Los indicadores cuantitativos complejos incluyen varios elementos que deben ser medidos
y después combinados. Un ejemplo relacionado es el indicador sobre la disponibilidad de
agua potable, que consiste en medir la producción diaria de un grifo en un período de tiempo
especial (al final de la temporada seca, cuando las fuentes suministran la menor cantidad de
agua) y su relación con la cantidad de personas del grupo de usuarios.
• Cuantificamos los indicadores cualitativos: Por ejemplo en una encuesta sobre el servicio
de buses, los clientes expresan su grado de satisfacción sobre una escala de 1 (insatisfecho)
a 5 (muy satisfecho).
• Aumentamos la objetividad con una muestra estadísticamente correcta. Realizamos la
encuesta de clientes con un número representativo de personas seleccionadas según su
representatividad.
• Anotamos las indicaciones en un registro cuando las observamos, con el fin de minimizar
los errores que pueden ser atribuidos a nuestra memoria.
9
Indicadores proxy: Los indicadores proxy son un medio indirecto para registrar hechos.
Los utilizamos, cuando el indicador directo deseado es demasiado complicado o demasiado
costoso para medir. Para utilizar los indicadores proxy, un buen conocimiento del contexto es
indispensable. Aquí dos ejemplos:
• La tasa de recuperación de inversión en un programa de micro-crédito indica de cierta
manera la calidad de la gestión del banco (aclaraciones anteriores con los prestatarios,
atención al cliente, etc);
• La sustitución de techos de paja por calamina metálica puede ser un indicio de que la sit-
uación económica en el hogar ha mejorado.
Criterios estándares: Para varios ámbitos del desarrollo hay listas con criterios estándares
y indicadores (por ejemplo, agricultura, salud, desarrollo de empresa, etc.). Las encontramos
en los sitios web de organizaciones especializadas de las Naciones Unidas (FAO, OMS, etc)
o de redes (ex. Comité de Donantes para el Desarrollo Empresarial, Plataforma Mundial de
Donantes para el Desarrollo Agrícola, etc.). Sin embargo, los equipos de proyecto deberían
sopesar la ventaja del uso de estos criterios uniformes frente a la ventaja de desarrollar indi-
cadores específicos para el proyecto, a través de un proceso participativo. La tabla siguiente
proporciona un ejemplo de criterios estándares utilizados en el desarrollo rural.
10
3.4 Calidad de los Indicadores
Existen numerosos sistemas para evaluar la calidad de los indicadores. El mas famoso se
denomina con la abreviación SMART – Específicos, Medibles, Alcanzables, Pertinentes y Tem-
porales. Esta abreviación es extraída del campo de la educación para verificar la calidad de
los objetivos de aprendizaje, y como no todos utilizan los mismos adjetivos para constituir
SMART, sugerimos los criterios de calidad siguientes, que incluyen los conceptos esenciales
de test: validad y fiabilidad.
Relevante : El indicador representa un aspecto significativo del resultado. Hay un vínculo de causalidad plausible
entre el indicador y el objetivo.
Cada indicador
Fiable : El indicador es preciso y puede ser medido imparcialmente. Si dos personas utilizan el mismo indicador de
forma independiente el uno del otro los llegarán a los mismos resultados.
Realista : Los valores meta del indicador son realizables en el tiempo definido.
Grupo de indicadores
Factible : Los datos pueden ser recogidos fácilmente, a tiempo y a costo razonable.
Suficiente : El grupo de indicadores relacionados con el objetivo es adecuado para medir el resultado
11
4 Medición del Cambio
Los proyectos apuntan a brindar un cambio o una diferencia en la vida cotidiana de las per-
sonas y de las organizaciones. Para medir estos cambios o diferencias esperadas, se debe
comparar la situación presente con lo que era antes o lo que es en otro lugar. Entonces se
necesita puntos de referencia como una línea de base o normas de referencia.
Referencia
12
El uso de una Norma de Referencia o un estándar de comparación significa comparar el
desempeño de su propio proyecto al de los mejores o a un conjunto de normas. Los objetivos
de referencia implican juntar los productos entregables o los resultados (outcomes, impacto)
con los valores estándar comparables. La evaluación comparativa se utiliza principalmente
para establecer metas para la implementación de proyectos. Organizaciones internacionales
de las Naciones Unidas especializadas y / o ministerios nacionales han establecido normas o
estándares en muchas áreas que pueden ser utilizadas como puntos de referencia.
Una buena manera para medir el cambio es comparar los datos proporcionados por el sistema
«Procesando de monitoreo con los datos del estudio de la línea de base. Pero muchos proyectos carecen
cifras, el aproxi- de datos fiables para la línea de base. En algunos casos los grupos de control pueden servir
madamente exacto de puntos de referencia. Donde los grupos de control no están incluidos en el diseño del
es preferible al proyecto, encontramos pocas veces los puntos de referencia adecuados - o el ejercicio se
precisamente er- vuelve demasiado complejo, largo y costoso.
róneo.» Si no existen datos de línea de base ni tampoco grupos de control disponibles, el cambio suele
Carl G. Thor ser evaluado como un ejercicio de retrospectiva preguntando a la gente sobre su percepción
de los cambios y del progreso. Pero cuando tenemos que confiar en la memoria de las perso-
nas, debemos calcular y aceptar errores de medición importantes.
antes / después Línea de base : evaluar el Fácilmente factible si los datos Atribuir el cambio a la acción
cambio comparando la de línea de base están del proyecto podría ser difícil
situación al inicio del proyecto disponibles y son coherentes (factores externos).
con la situación actual. con los datos de monitoreo
actualizados.
con / sin Grupo de comparación o Buena manera para atribuir el Difícil de encontrar grupos de
control : evaluar el cambio cambio a la intervención del control adecuados; puede ser
comparando la situación de los proyecto, sobre todo si los datos demasiado complejo y costoso.
grupos meta con la situación de la línea de base están
de grupos fuera del proyecto. disponibles en los grupos de
intervención y de control.
Diferencia Línea de base y grupo de Proporciona la mas alta Necesita la más grande
en la diferencia comparación : evaluar el precisión. cantidad de datos en
cambio comparando con un Controla el tiempo y los efectos comparación a los otros
Lo mejor para el Monitoreo grupo de comparación (primera en una ubicación fija, teniendo métodos.
y la Evaluación diferencia) antes y después del en cuenta riesgos de confusión
proyecto (segunda diferencia). (influencias por otro proyecto y
factores) y sesgo de selección.
retrospectiva Reconstruir el cambio : Evaluar Sin necesidad de línea de base. Los resultados pueden no ser
el cambio tratando de muy precisos; la situación inicial
reconstruir la línea de base y no esta clara, a veces con gran
pidiendo a los destinatarios que error de medición; atribución
reconstruyan el proceso de difícil.
cambio.
13
4.2 Métodos de Recopilación de Datos
Aquí se presenta un breve resumen de los métodos ampliamente utilizados en los círculos
internacionales de desarrollo.
2
Métodos Principales utilizados en el Monitoreo y en la Evaluación
Métodos centrales:
Estos métodos centrales son utilizados muy a menudo para el monitoreo y evaluación, puesto que son
particularmente adecuados para medir y registrar cambios.
14
Hay diferencias importantes entre enfoques y métodos cuantitativos y cualitativos.
Métodos cualitativos: Estos enfoques y métodos son muy populares en el trabajo de desar-
rollo, sobre todo porque los enfoques cualitativos concuerdan con un enfoque participativo.
Enfoques como la Diagnóstico Rural Participativa (DRP) y el Aprendizaje y Acción Participa-
tivos (PLA), que se han convertido en una práctica casi habitual del trabajo de desarrollo inter-
nacional, se basan principalmente en métodos cualitativos. Los métodos cualitativos pueden
registrar información con percepciones subjetivas, observaciones, sentimientos y opiniones;
frecuentemente proporcionan descripciones. De vez en cuando se utilizan otros medios de
ilustración como fotografías, dibujos, etc.
Los enfoques cualitativos nos ayudan a responder a preguntas tales como de qué manera y
por qué determinadas situaciones ocurrieron. Son especialmente adecuados para registrar los
hábitos, opiniones, experiencias y prioridades de la gente. Algunos métodos comúnmente
utilizados son las entrevistas individuales (con informantes clave), entrevistas de grupo (entre-
vistas con grupos seleccionados según criterios específicos) y los estudios de casos.
Los críticos sostienen que estos métodos cualitativos para medir el cambio tienen todos el
punto común de ser subjetivos y de no ser representativos. Por lo tanto es difícil comparar los
resultados y sacar generalizaciones es problemático. Demasiados elementos dependen de la
elección de los socios interrogados, de las dinámicas de grupo en grupos de reflexión o de
intereses escondidos en la selección de los casos a estudiar. Las ventajas de los métodos cuali-
tativos de poder captar las percepciones, las observaciones y las apreciaciones son al mismo
tiempo sus principales desventajas. Numerosas personas entrevistadas dan sus opiniones y
percepciones como si fueran hechos, y con la ausencia de datos cuantitativos, muchos evalu-
adores los toman así.
A pesar de esta desventaja, los métodos cualitativos siguen jugando un papel importante en
la medida y la apreciación del cambio y también en completar los datos cuantitativos. Ayudan
a encontrar interpretaciones plausibles de estos datos. También permiten la apreciación pru-
dente de resultados que no pueden ser medidos de otra manera.
15
Indicador : Nivel de 1. 2. 3. 4. 5.
satisfacción de los agricultores totalmente en gran parte mas o menos poco
con los servicios de extensión satisfecho satisfecho satisfecho satisfecho insatisfecho Sin respuesta
Los datos obtenidos por métodos cuantitativos son más objetivos – al menos en el sentido en
el que pueden ser verificados de nuevo y validados. Los resultados pueden ser utilizados como
puntos de partida concretos para un análisis más profundo de las razones, causas, efectos
secundarios positivos y negativos etc. Pero una vez más, los métodos cuantitativos necesitan
habilidades especializadas.
A los críticos de los métodos cuantitativos les gusta citar Albert Einstein: «Lo que cuenta no
puede ser siempre contado y lo que se puede contar no cuenta necesariamente.» Si hacemos
solamente lo que se puede contar, tomamos el riesgo de quedarnos superficiales, pero el de-
sarrollo apunta a atacar la raíz de los problemas y así brindar soluciones sostenibles.
La cooperación para el desarrollo es un trabajo de campo práctico y no está adecuado para
debates meramente teóricas. Por lo tanto, el verdadero problema no es cualitativo versus
cuantitativo pero cómo combinar los métodos de la manera la más práctica. El desafío es
cuantificar lo que se puede con un esfuerzo razonable y valorizar lo que no puede ser cuan-
tificado. Para seleccionar los métodos relativos a un contexto específico, consideramos los
criterios siguientes:
Si los resultados tienen una importancia crucial, y además, son difíciles de medir, los costos
de un estudio de impacto realizado por un especialista pueden entonces ser justificados. Eso
reduce la carga de trabajo para el equipo del proyecto y aumenta la probabilidad de obtener
resultados fiables.
16
4.3 Preguntas y Cuestionarios
El diseño de los cuestionarios es una habilidad con muchos obstáculos y necesita una pericia
«Si usted quiere especializada muchas veces subcontratado por consultores. Los cuestionarios mal diseñados
una respuesta traen datos que no pueden ser tratados. Lo mismo ocurre con la formulación de las pregun-
sabia, haga una tas, la unidad básica de un cuestionario. Aquí compartimos algunas consideraciones básicas
pregunta razon- sobre las preguntas y los cuestionarios:
able.»
Johann W. 1. Las preguntas y los cuestionarios suscitan respuestas sinceras.
von Goethe Cuando una persona encuestada piensa que la respuesta puede tener consecuencias neg-
ativas, la probabilidad de obtener una respuesta honesta disminuye. Una primera solución
es garantizar la confidencialidad o el anonimato, pero eso no siempre es suficiente.
2. Las preguntas no son basadas en supuestos.
Mal ejemplo: ¿Cuál es el porcentaje del presupuesto de su hogar que dedica en la edu-
cación?
Esta pregunta contiene tres supuestos dudables: Muchas familias no tienen ingresos fijos.
Ciertas personas no saben cuánto gastan realmente en la escolarización, el transporte,
el material etc. ¿Y finalmente, cuántos padres son capaces de calcular correctamente los
porcentajes?
3. Cada pregunta solicita una sola dimensión.
Mal ejemplo: ¿Es su asesor competente y el servicio útil?
¿Cómo usted interpretaría la respuesta «mas o menos satisfecho»?
a) El asesor es bastante competente y el servicio en parte útil.
b) El servicio es útil a pesar de las pocas habilidades del asesor.
c) El asesor es competente pero el servicio tiene poco valor.
d) O ……...
4. Las preguntas no implican la respuesta que conviene al interrogante.
Mal ejemplo: ¿No debemos aumentar el programa «mosquiteras gratis para la gente po-
bre»?
Las preguntas dirigidas son un error común de los principiantes, particularmente en las
entrevistas orales.
5. Las preguntas son fáciles de entender.
Mal ejemplo: ¿Considerando las dos desventajas, que aparecen como ventajas bajo un
cierto ángulo, no tenemos que desalentar el uso de la tecnología moderna?
Las preguntas fáciles de entender se expresan en el lenguaje cotidiano de las personas
encuestadas, usan una sintaxis simple y evitan las expresiones con (doble) negación. A
menudo es más difícil escribir preguntas fáciles de entender que escribir preguntas compli-
cadas.
6. Los cuestionarios son cortos.
Los cuestionarios largos cansan y la calidad de las respuestas baja hacia el fin. Debemos
respetar las limitaciones de tiempo de nuestras personas interrogadas. Además los cues-
tionarios largos traen más datos para procesar.
7. Los cuestionarios tienen una estructura lógica.
Agrupar las preguntas según los asuntos o según el tipo de pregunta aumenta las proba-
bilidades de que las personas encuestadas completen el cuestionario. Se sienten más có-
modos.
17
4.4 Calidad de Datos
Aunque teniendo indicadores perfectos e instrumentos apropiados para medir el cambio, hay
muchas oportunidades para cometer errores y equivocarse en el proceso de recopilación de
datos, su procesamiento, interpretación y en la comunicación hacia el usuario final.
DATOS
incorrecta
no ¿reparable? si
no réparable? si
Interpre-
inapropiada
tación
apropiada
Los puntos siguientes deberían ayudar en mejorar o validar la calidad de los datos:
Muestreo
Recopilación
18
Tratamiento
• Verificar la plausibilidad de los resultados.
Interpretación
• Verificar cada interpretación de los resultados por medio de una triangulación con otras
fuentes.
19
5 Apreciación del Cambio
La medición del cambio frente a los puntos de referencia es una cosa, pero demostrar que
los cambios previstos han ocurrido y fueron causados por las intervenciones del proyecto es
otra cosa. Como los proyectos se realizan en contextos complejos y a lo largo de un tiempo
determinado, los factores externos juegan un papel y pueden tener una influencia aún mayor
que el mismo proyecto. Tres tipos de análisis nos ayudan a determinar los efectos provocados
por un proyecto.
atribución
del proyecto
factores
externos
Línea de base
El Análisis de Atribución tiene por objetivo evaluar la proporción del cambio observado,
que puede realmente atribuirse al proyecto o programa evaluado. Esto implica elaborar una
evaluación contrafactica: ¿Cuál habría sido la condición de la población en el momento del
análisis de impacto, si el proyecto no hubiera sido llevado a cabo? Esto suele ser posible para
los outputs de proyectos, a veces para los outcomes y en la mayoría de los casos imposible
para los impactos de un proyecto.
20