Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
Noviembre 2009
www.coneval.gob.mx
ndice
Antecedentes
Qu es el Coneval: Aspectos Institucionales Sistema de Evaluacin y Monitoreo en Mxico Monitoreo, avances y usos de la MML
ANTECEDENTES 1990s: Algunas evaluaciones de programas y nuevas formas de presupuestacin 2000: Inicio normativo sin una estrategia clara 2000-2006: Desarticulacin de la evaluacin con la mejora en la gestin
PEF y Acuerdo entre SHCP y SFP Ausencia de una estrategia de monitoreo Agenda del Buen Gobierno, e Iniciativas de Innovacin y Calidad Gubernamental Sistema de Metas Presidenciales 2005: Impulso normativo de la evaluacin solo en el sector social, pero an desarticulado con la mejora en la gestin pblica
Creacin del Coneval
NDICE
Antecedentes
Qu es el Institucionales
Coneval:
Aspectos
Nace a partir de la Ley General de Desarrollo Social: Normar y coordinar la evaluacin de la poltica y los programas de desarrollo social Aprobar los indicadores de resultados, gestin y servicios que sern sometidos a consideracin de la SHCP y a la Cmara de Diputados por conducto de la ASF
LEYES Y NORMAS
Estatuto Orgnico
Decreto por el que se regula el CONEVAL
Normatividad interna
Manual de organizacin General Manual de Identidad Institucional Polticas laborales
CONSULTIVA
POLTICA
OPERATI VA
TCNICA-EVALUACIN
CONSEJO CONSULTIVO
Analiza y propone programas y acciones que inciden en la Poltica Nacional de Desarrollo Social
COMISIN INTERSECRETARIAL
Propone partidas y montos de gasto social Ordena la Poltica Social a nivel Federal
CONSEJO DE EVALUACIN Norma y analiza las evaluaciones Evala la poltica Define pobreza Recomendaciones
NDICE
MARCO NORMATIVO PREVIO ESQUEMA DE EVALUACIN 2002-2006 Caractersticas: Evaluacin Externa Periodo Anual, con 2 informes (septiembre y marzo) Se distribuye a la SHCP, SFP y el Congreso Difusin a travs de Internet El proceso de contratacin es individual y a travs de la Ley de Adquisiciones Algunos programas: Entregan los informes slo por cumplir y no usan la informacin Agregan y/o eliminan temas en la evaluacin En una menor proporcin, usan informacin para informes oficiales, planeacin y monitoreo
DIAGNSTICO VENTAJAS Se ha avanzado en la cultura de la evaluacin Existen casos particulares de evaluaciones que han apoyado la toma de decisiones Existe un respaldo normativo para institucionalizar un M&E Ley General de Desarrollo Social, CONEVAL,
DIAGNSTICO VENTAJAS Elementos de M&E desarticulados y no alienados conceptual, metodolgica ni operacionalmente Alto costo de esquema actual: Cada evaluacin cuesta aprox. $1 milln: 170 programas: $170 millones al ao. y con poca utilidad Percepcin del sistema de M & E como instrumento de fiscalizacin, y no de gestin y rendicin de cuentas La medicin de Resultados no es una prioridad para el programa o la dependencia. Mucho nfasis en indicadores de ejercicio del recurso y de cantidades de bienes y servicios entregados No hay claridad en los objetivos estratgicos de las dependencia Muchos indicadores que no se usan para una gestin por resultados Lineamientos actuales poco flexibles Seguimiento limitado a las recomendaciones generadas de la evaluacin
CONEVAL (2005-2006)
Lineamientos Generales de Evaluacin (Marzo 2007) Sistema de Evaluacin del Desempeo (2007)
SFP:
Programa de Mejoramiento de la Gestin
HERRAMIENTAS DE PLANEACIN
Diagnstico
Evaluaciones Rendicin de cuentas
PND Programas Sectoriales Objetivos de las Dependencias Programas Federales
Diseo Presupuesto
Operacin
Evaluacin y Monitoreo (Indicadores)
Resultados
Evaluacin de Polticas
Seguimiento de Recomendaciones
Programas Sectoriales
Nivel 2
Programas presupuestarios
Nivel 4
Reglas de operaci n
Evaluacin Estratgica
Evaluacin de Consistencia y Resultados Evaluacin de Indicadores Evaluacin de Procesos Evaluacin de Impacto Evaluacin Especfica
Diagnstico Matriz de Indicadores Evaluacin en materia de Diseo Anlisis del funcionamiento y operacin
NDICE
Hoy en da es difcil conocer la lgica interna de los programas y por lo tanto saber si su diseo es el adecuado para alcanzar los objetivos planteados (resultados en la poblacin objetivo) Por otro lado, tenemos que reportar muchos indicadores, no necesariamente tiles para medir el desempeo del programa y tomar decisiones (medicin parcial: GESTIN) Por lo anterior, en el 2007 los programas deben construir una matriz de indicadores que permita la identificacin de sus objetivos, sus relaciones causales, los indicadores y los supuestos o riesgos que pueden influir en el xito o fracaso del mismo.
Resultados
Fin
Contribuir a que la poblacin desempleada en pobreza tenga un mejor acceso a empleos de calidad
Mejorar los conocimientos tcnicos de los desempleados en situacin de pobreza extrema 1.- Capacitacin a individuos en pobreza extrema desempleados 2.- Beca de apoyo a familias beneficiadas - Focalizacin Geogrfica 1.1 Identificacin y seleccin de familias en pobreza extrema 2.1 Distribucin de las becas de apoyo
Propsito
Implementacin
Componentes
Actividades
Resultados
Fin
Porcentaje de capacitados que obtienen un mejor trabajo Porcentaje de beneficiarios capacitados que efectivamente adquieren los conocimientos tcnicos adecuados 1.- Porcentaje de cursos y talleres realizados 2.- Porcentaje de becas repartidas 3.- Monto total de las becas repartidas 4.- Porcentaje de desempleados capacitados 1.- % del presupuesto ejercido 2.- Costo promedio x actividad 3.- Costo promedio de distribucin de la beca
Propsito
Implementacin
Componentes
Actividades
Propsito???
Componentes
Implementacin
Actividades
Propsito?
Componentes
Implementacin
Actividades
Resultados
Fin
Propsito
Componentes
Actividades
Indicadores de Desempeo Resumen Narrativo Enunciado Frmula de Clculo Frecuencia de Medicin Medios de Verificacin Supuestos
Resultados
Fin:
propsito:
Productos y Servicios
Componentes:
Gestin
Actividades:
APROBACIN DE INDICADORES
Ley General de Desarrollo Social Artculo 77. El Consejo Nacional de Evaluacin, antes de aprobar los indicadores a que se refiere este artculo, los someter a la
estime pertinentes.
APROBACIN DE INDICADORES
2007 NORMATIVA/IMPLEMENTACION
ETAPA V Capacitacin bsica y asesora tcnica en construccin indicadores Programas mejoran sus MIR y actualizan PASH
ETAPA VI*
Aprobacin de Indicadores
APROBACIN DE INDICADORES
Etapas I. Validacin integral de todos los Indicadores
Diseo de Ficha Tcnica de Revisin General Revisin de indicadores con FICHA TCNICA *
COMIT*
APROBACIN DE INDICADORES
Presupuesto 2009
Programas estratgicos de la SHCP Indicadores PEF
Experto Estadstico
Las MI fueron analizadas considerando: El cumplimiento de la definicin de sus elementos (PND, Fin,
Propsito, Componentes y Actividades) La lgica que presenta cada uno de ellos (Vertical y Horizontal) Semaforizacin de las matrices de indicadores,
Abril 2008
30, (21%)
60 (41%)
55 (38%)
El 52% tiene mal definidos los componentes El 28% de las MI tiene problemas en la definicin del Propsito En el 24% el Propsito no implica una contribucin significativa al
Fin
42
=
11 Amarillo Rojo (8) Verde Amarillo (3)
FOMMUR, PYME, Microempresario (SE) IMSS-Oportunidades (IMSS) Caravanas de la Salud (SS) Guarderas Infantiles (SEDESOL) Oportunidades (SEDESOL)
DESCRIPCIN
Becas otorgadas/Becas programadas Becas otorgadas por cada esquema de atencin/Total de becas otorgadas Becarios que recibieron apoyo econmico/Becarios inscritos
PERIODICIDAD
Trimestral
Trimestral
Trimestral
EJEMPLO 1: PROGRAMA DE APOYO AL EMPLEO-STPS ANTES En el Informe de Labores 2006, la dependencia reporta como resultados del Programa los siguientes:
BCATE atendi a 207,118 personas y logr colocar al 54.5% Empleo Formal atendi a 118,425 personas y logr colocar al 54.9% Jornalero Agrcolas atendi a 47,936 personas y logr colocar al 42.9%
PERIODICIDA D
Trianual
PROPSITO: (Eficacia):Porcentaje de buscadores de empleo que se colocaron respecto del total de buscadores de empleo enviados a vacante mediante Vinculacin Presencial
(VDC/VDA)*100
VDC= Buscadores de empleo colocados VDA= Buscadores de empleo enviados a vacantes
Mensual
X 100
Obras de infraestructura social/ Total de proyectos aprobados X 100 Inversin Federal aplicada en localidades de muy alta y alta marginacin/ X 100 Inversin Federal del programa
Trimestral
Trimestral
EJEMPLO 2: 3X1 PARA MIGRANTES-SEDESOL ANTES En el informe de labores 2007, la dependencia reporta como resultados del programa lo siguiente:
40.9% son obras de pavimentacin, urbanizacin y mejoramiento urbano; 12.5% son proyectos de agua potable; 9.9% son de drenaje, mientras que las electrificaciones fueron un 8.8% de los proyectos realizados; 10.6% son obras de infraestructura educativa, deportiva y de salud; 2.2% son caminos rurales, y un 15.1% se destinaron a otro tipos de proyectos (productivos, orfanatos, asilos, centros comunitarios, centros culturales, rehabilitacin de edificios histricos y becas).
Como resultado de la estrategia de capacitacin y de los comentarios que el CONEVAL y la SHCP emitieron a la matriz de indicadores, el programa ahora cuenta con los siguientes indicadores de RESULTADOS NOMBRE
FIN: (Eficacia): Porcentaje de las localidades intervenidas por el programa que mejoraron sus ndices de Marginacin Absoluta (por localidad, IML) PROPSITO (Eficacia): Variacin de las variables de infraestructura social bsica y productiva que componen los ndices de marginacin y de rezago social en las localidades atendidas por el programa
DESCRIPCIN
(Nmero de localidades que mejoraron su IML 2005/2010) X 100 /Nmero total de localidades intervenidas)
(Valor de la variable en el ao que se evala-Valor X 100 de la variable en el ao base) / (Valor del indicador en el ao base)
PERIODICIDAD
Quinquenal
Quinquenal
NDICE
Evaluacin Resultados
Retos a futuro
de
Consistencia
Objetivo:
Evaluar hasta qu punto los programas sociales tienen una clara consistencia interna y una orientacin hacia resultados, basados en la documentacin y
Es un diagnstico sobre la capacidad institucional, organizacional y de gestin de los programas para la bsqueda de resultados.
EVALUACIN DE CONSISTENCIA Y RESULTADOS: OBJETIVOS Busca medir, de manera homognea, el desempeo global de los Programas (gestin y RESULTADOS) Con base en los resultados de la evaluacin, se espera que los programas mejoren su diseo y gestin; volvern a ser evaluados en un futuro En el 2007, ser un Diagnstico de la orientacin de los programas hacia una gestin para RESULTADOS En aos posteriores, la evaluacin deber contener adicionalmente una comparacin con los resultados encontrados en la evaluacin de consistencia y resultados que se haya efectuado con anterioridad
Esta evaluacin es la lnea de base para analizar con qu tipo de programas cuenta el nuevo Gobierno para lograr sus metas. La evaluacin se compone de 100 preguntas en los temas de: Diseo, Planeacin Estratgica, Operacin, Poblacin Objetivo y Cobertura, Percepcin de los Beneficiarios y Resultados Finales.
Diseo
Identificacin correcta para solventar el problema o necesidad Contribucin del programa federal a los objetivos estratgicos Evidencia cientfica de que el programa contribuye positivamente a la consecucin de su fin y propsito
Planeacin Estratgica
Mecanismos y herramientas de planeacin Mecanismos para establecer y definir metas e indicadores Avance en el desarrollo de mecanismos de seguimiento y monitoreo Herramientas enfocadas a implementar y desarrollar una gestin para resultados Impacto presupuestario y las fuentes de financiamiento
Cobertura y focalizacin
Cuantificacin de la poblacin potencial y objetivo Poblacin atendida con respecto a la poblacin potencial y objetivo Estrategia de cobertura y focalizacin Funcionamiento de los mecanismos de seleccin y focalizacin aplicados
Operacin
Observancia de las reglas de operacin Acciones de mejora y simplificacin regulatoria Mecanismos de organizacin y administracin financiera Eficacia, eficiencia y economa operativa Rendicin de cuentas
Resultados
Las evaluaciones fueron elaboradas por entidades externas (universidades, centros de investigacin, expertos)
67%
DISEO 50%
de los programas tienen propsitos y objetivos que corresponden a la solucin del problema que atienden de los programas definieron bienes y servicios pblicos necesarios y suficientes para el logro del su propsito
PLANEACIN ESTRATGICA
25% a corto, mediano y largo plazo POBLACIN OBJETIVO Y COBERTURA 24% y potencial
54%
de los programas cuentan con instrumentos para medir el grado de satisfaccin de la poblacin objetivo de los programas recolectan informacin veraz y oportuna sobre los indicadores que miden sus objetivos de los programas han llevado a cabo evaluaciones
42% RESULTADOS
NDICE
Esquema de Recomendaciones
Retos a futuro
Seguimiento
SEGUIMIENTO DE RECOMENDACIONES
Son de aplicacin opcional de acuerdo con las necesidades e intereses de las dependencias y entidades, siempre y cuando no se encuentren previstas en el Programa Anual de Evaluacin
En 2007-2008 las dependencias y entidades realizaron Evaluaciones de Consistencia y Resultados y de Diseo a los programas sujetos a reglas de operacin.
SEGUIMIENTO DE RECOMENDACIONES
Emisin del Mecanismo para el Seguimiento a los Aspectos Susceptibles de Mejora derivados de los Informes y Evaluaciones Externas a Programas Federales 2008.
manera explcita.
Se diseo un proceso para que los programas se involucren en hacer compromisos de mejora, a partir de las
recomendaciones pertinentes.
Las recomendaciones finales se clasifican dependiendo de qu institucin debe ser la responsable
Programa, dependencia, Comisin Intersecretarial, Congreso, SHCP
y SFP
LO QUE SE ESPERA EN EL MEDIANO PLAZO Promover la gestin y evaluacin basada en Resultados Tener un sistema sistematizado de Evaluacin y Monitoreo coordinado y
Con esta informacin ms la evolucin de los indicadores de pobreza nacionales, estatales y municipales, poder evaluar la poltica social en su conjunto
Reforzar la transparencia y la rendicin de cuentas
NDICE
Retos a futuro
Vnculo entre: Gestin y evaluacin; Resultados y presupuesto, Coordinacin entre diferentes actores
Impulsar los resultados y mejorar la gestin (agenda poltica) Implementacin gradual y/o aplicacin de pilotos
Temas, instrumentos, alcances, etc.
TEMAS A CONSIDERAR Iniciar por voluntad poltica y luego se impulsa normativamente Fortalecer capacidad tcnica de las secretarias Fortalecer la oferta de evaluadores
Normatividad de adquisiciones
Definir con claridad lo que se busca Evaluar constantemente los avances que se tengan
Apoyado con un organismo externo nacional o internacional
FACTORES DE XITO DE LOS SE&M x RESULTADOS Considerable demanda gubernamental Objetividad y calidad Grado de utilizacin (oferta adecuada de instrumentos y productos) Importancia de los incentivos para generar informacin Diagnstico del SE&M existente
Cules son los usos efectivos o previstos de la informacin proporcionada a travs del SE&M?
Orientar las decisiones de asignacin de recursos en el proceso presupuestario. Contribuir a la preparacin de la planificacin nacional o sectorial. Favorecer la gestin y prestacin habitual de servicios pblicos. Reforzar las relaciones de rendicin de cuentas.
Muchas gracias
Mayor informacin y comentarios jdelmuro@coneval.gob.mx