Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
Con base en los trminos de referencia establecidos por CONEVAL se busc generar una
metodologa uniforme estandarizada. Para las Evaluaciones de Consistencia y Resultados se
analiz un cuestionario de 51 preguntas que deba ser respondido por los evaluadores externos.
Del total de preguntas, 34 se encontraban bajo un formato binario (esto es, aceptaban una
respuesta S/No), adems de un esquema por niveles (a partir de 1 y hasta 4 dependiendo de si el
programa cumpla con las caractersticas formuladas por CONEVAL para considerar una mximo
cumplimiento o bien una disminucin de la esta calificacin dependiendo de las caractersticas con
las que contara el Programa). El resto de las preguntas tenan un esquema de respuesta abierta.
1
Para el periodo 2012-2013 no se establecieron en el Plan Anual de Evaluacin (PAE) generado por
CONEVAL Evaluaciones de Consistencia y Resultados, por lo que se asume que la Calidad de Diseo de los
programas sujetos a dichas evaluaciones en el periodo 2011-2012 permanece constante. Por otra parte,
para los programas (Acciones para la Igualdad de Gnero con Poblacin Indgena, a cargo de la CDI. El
Programa Integral de Fortalecimiento Institucional, Fondo para la atencin de problemas estructurales de
las UPES, Fondo para elevar la calidad de la educacin superior y Fondo para ampliar y diversificar la oferta
educativa en educacin superior, todos ellos a cargo de la SEP. Finalmente, Programa de Recuperacin y
Repoblacin de Especies en Peligro de Extincin, Programa de Adecuacin de Derechos de Uso de Agua,
Programa de Monitoreo Biolgico en reas Naturales Protegidas (PROMOBI) y Programas de Manejo de
reas Naturales Protegidas (PROMANP), a cargo de SEMARNAT.) que no fueron sujetos a evaluacin en el
periodo 2011-2012 en trminos de ECRs, pero s de Evaluaciones de Diseo, se opt por determinar la
calificacin de esta variable a partir de dichos instrumentos, que si bien, no resultan tan exhaustivos y
robustos como las ECRs, s permiten conocer inicialmente la coherencia interna del programa en trminos
de identificacin y sustento con evidencia del problema que atiende y sus causas; identificacin de la
poblacin que se encuentra bajo los supuestos del problema pblico que busca atender as como el
establecimiento de objetivos, metas e indicadores pertinentes.
El cuestionario agrupaba las preguntas en seis captulos distintos, los cuales, se presentan a
continuacin:
Una vez obtenidos los subndices, el clculo del Subcomponente de Calidad de Diseo (S-CaD), con
base en las Evaluaciones de Consistencia y Resultados, se realiz a partir de una ponderacin
asignada a cada uno. Se opt por emplear un mtodo simple de tal forma que los resultados
fueran fcilmente replicables y comunicables. La seleccin de los ponderadores para cada
categora responde a los elementos propuestos en el marco conceptual arriba descrito,
considerados fundamentales para definir la calidad del diseo de un programa gubernamental.
As, se opt por una ponderacin en la que la dimensin de diseo (aspecto medular para definir
la claridad y coherencia del programa) agrega 45% del valor del S-CaD; la dimensin de operacin
(que contempla las bases institucionales y organizativas y que, generalmente, son independientes
del diseo del programa) agrega 30% del valor final del subcomponente y la dimensin de
orientacin a resultados y a la ciudadana (esto es la capacidad prevista en el diseo de los
programas para generar valor pblico) agrega un 25% del valor del subcomponente.
En el caso de las Evaluaciones de Diseo se analiz un cuestionario de 21 presuntas que deban ser
respondidas por los evaluadores externos. Del total de preguntas, 16 se encontraban bajo un
formato binario (esto es, aceptaban una respuesta S/No), adems de un esquema por niveles (a
partir de 1 y hasta 4 dependiendo de si el programa cumpla con las caractersticas formuladas por
CONEVAL para considerar una mximo cumplimiento o bien una disminucin de la esta calificacin
dependiendo de las caractersticas con las que contara el programa). El resto de las preguntas
tenan un esquema de respuesta abierta.
El cuestionario agrupaba las preguntas en cinco captulos distintos, los cuales, se presentan a
continuacin:
Una vez obtenidos los subndices, el clculo del Subcomponente de Calidad de Diseo (S-CaD), con
base en las Evaluaciones de Diseo, se realiz a partir de una ponderacin asignada a cada uno. Se
opt por emplear un mtodo simple de tal forma que los resultados fueran fcilmente replicables
y comunicables. La seleccin de los ponderadores para cada categora responde a los elementos
propuestos en el marco conceptual arriba descrito, considerados fundamentales para definir la
calidad de diseo de un programa gubernamental.
As, se opt por una ponderacin en la que la dimensin de diseo (aspecto medular para definir
la claridad y coherencia del programa) agrega 33.33% del valor del S-CaD; la dimensin de
justificacin del programa y contribucin a los objetivos nacionales y a los sectoriales, para la
dimensin de poblacin potencial y objetivo se le otorg el mismo peso, es decir, 33.33%,
mientras que para la dimensin de la Matriz de Indicadores para resultados su ponderacin dentro
del total de la calificacin del subcomponente fue de 33.34%.
Con las ponderaciones aplicadas a cada subndice, el clculo del S-CaD consisti en la suma de
cada uno de ellos, obteniendo una medicin en un rango de 0 a 100, donde este ltimo valor
significa la calificacin ms alta posible.
S-CaD-ECRs= (Subndice de Diseo y Alineacin Estratgica + Subndice de Operacin + Subndice
de Orientacin a resultados y a la ciudadana)
1. Primero se calcularon por separado los avances de los indicadores de Fin y de Propsito
(Indicadores estratgicos) para determinar el porcentaje de avance en cada uno de ellos.
2. Posteriormente se calcularon los avances de los indicadores de Componente y de
Actividades (Indicadores de gestin) realizando un promedio entre los avances de ambos
tipos de indicadores para finalmente realizar una sumatoria con el resultado arrojado de
los indicadores estratgicos.
3. Finalmente se procedi a realizar una estandarizacin para identificar y penalizar el
fenmeno de targeting, el cual consiste en establecer metas cmodas o poco retadoras
en funcin de las capacidades organizativas y presupuestales que tiene una UR. Esta
estandarizacin se realiz de la siguiente manera:
o Con respecto a los indicadores de Fin, un promedio de avance superior a 100%
se tradujo en un castigo de 5 puntos; en los casos en que el avance promedio fue
igual o mayor a 300% se aplic un castigo adicional de 5 puntos, por lo que un
programa con avances superiores a 100% y menores a 300% poda perder hasta 5
puntos, pero si el avance era igual o superior a 300% entonces el programa poda
perder hasta 10 puntos en la calificacin final.
o Para los indicadores de Propsito, un promedio de avance superior a 115% se
tradujo en un castigo de 5 puntos; si el avance promedio fue igual o mayor a 300%
se aplic un castigo adicional de 5 puntos, por lo que un programa con avances de
superiores a 115% y menores a 300% poda perder hasta 5 puntos, pero si el
avance era igual o superior a 300% entonces el programa poda perder hasta 10 en
puntos en la calificacin final.
o En cuanto al castigo para el promedio de avance en los indicadores de gestin,
ste fue de 5 puntos para programas que reportaran un promedio de avance
superior a 125%; si el avance promedio fue igual o mayor a 300% se aplic un
castigo adicional de 5 puntos, por lo que un programa con avances superiores a
125% y menores a 300% poda perder hasta 5 puntos pero si el avance era igual o
superior a 300% entonces el programa poda perder hasta 10 puntos en la
calificacin final.
De lo anterior se desprende que un programa poda perder hasta 30 puntos en castigos por efecto
de targeting.
{( )
Diseo y Alineacin
Estratgica
S-CaD-ECRs Operacin ( ) 0 100
Orientacin a Resultados
y a la Ciudadana
( )}
{(
Justificacin y
Contribucin
Poblacin Potencial y
S-CaD-EDs ) ( ) 0 100
Objetivo
Matriz de Indicadores
para Resultados
( )}
Indicadores de Fin ( ) ( )
Indicadores de Propsito
S-CAI 0 100
Indicadores de Gestin
Castigos por ( )
( )
Castigos de reportes de
CRAE, IF 0,-5,-10
avances excesivos
( )
( )
Castigos de reportes de
CRAE, IP 0,-5,-10
avances excesivos
( )
( )
Castigos de reportes de
CRAE, IG 0,-5,-10
avances excesivos
( )
Promedio Indicadores de Fin
ajustado del Indicadores de Propsito
0-100
avance de Indicadores de Gestin
indicadores
Poblacin Potencial
( ) ( )
CCPB Poblacin Objetivo CCPB 0-100
Poblacin Atendida
Ponderacin de
Calificacin de
Cobertura de la
PCPPB, PTI Si PTI = 1 CCPB -30 0, -30
Poblacin
Potencialmente
Beneficiaria
De esta forma, un programa que bajo la medicin del INDEP 2013 cuenta con una calificacin de
100 debera:
El INDEP 2013 no considera el grado de progresividad o regresividad de cada programa como una
de las variables del anlisis, en razn de que ninguna instancia pblica (incluida CONEVAL) produce
este dato de forma sistemtica para cada programa.
Se asumi como condicin bsica de estimacin que cada programa debera reportar informacin
tanto de avance de indicadores en la Cuenta Pblica 2012, o al menos en el cuarto Informe
Trimestral y/o en el Portal de Transparencia Presupuestaria de la SHCP, as como contar con
informacin de cobertura de su poblacin potencialmente beneficiaria (para esta edicin del
INDEP se utiliz la informacin ms actualizada pblicamente disponible correspondiente a las
Evaluaciones Especficas de Desempeo (EEDs) y las Fichas de Monitoreo de las Evaluaciones
Especficas de Desempeo del periodo 2012-2013 coordinadas por CONEVAL) como condicin
bsica para ser evaluable y, por tanto, incluido en el ndice. Todo programa que no present
informacin en alguna de estas dos dimensiones fue excluido y clasificado como Opaco.
Los programas que s reportaron esta informacin y, por lo tanto obtuvieron calificaciones en cada
uno de los dos componentes (CCC y CCPB), fueron ubicados en una matriz que los correlaciona.
Dicha matriz clasifica a los programas en cinco categoras con base en su capacidad para resolver
el problema pblico que les dio origen, la cual es tomada como un proxy de su nivel de
desempeo2.
2
Se debe considerar que la cobertura de los programas pblicos federales est directamente relacionada
con la asignacin presupuestal.
En trminos presupuestarios, los Programas con Nivel de Desempeo ptimo se
caracterizan por requerir de incrementos presupuestales poco significativos ya que han
alcanzado la cobertura total de su poblacin potencialmente beneficiaria, o estn muy
cerca de hacerlo (Calidad/Cumplimiento de metas superior a 80% as como cobertura de
poblacin potencialmente beneficiaria superior a 80%).
Los programas ubicados en el segundo cuadrante son aquellos con Alto Potencial de
Desempeo. Se caracterizan por demostrar niveles adecuados de calidad en su diseo y
por haber alcanzado un avance significativo en su cumplimiento de metas, pero no
cuentan con el presupuesto suficiente para cubrir de forma significativa a su poblacin
potencialmente beneficiaria.
Los programas ubicados en el tercer cuadrante son aquellos con un Nivel de Desempeo
Mejorable. Son programas cuyas principal cualidad es haber conseguido una cobertura
sustantiva de su poblacin potencialmente beneficiaria. Sin embargo, estos programas
presentan problemas en la consecucin de las metas que se haban propuesto en el ao,
as como contar con una media calidad de diseo (rango de 76.86 a 58.62).
Los programas ubicados en el cuarto cuadrante de la matriz son aquellos que tienen un
Nivel de Desempeo Escaso. Estos programas presentan condiciones de bajo nivel de
cobertura de su poblacin potencialmente beneficiaria as como de valores bajos de
calidad en su diseo y/o avances mediocres en su cumplimiento de metas.
n este tipo de programas no se justifica ningn incremento presupuestal y se recomienda
una revisin integral de los mismos para mejorar su calidad de diseo y fortalecer su
capacidad de gestin para cumplir con sus metas antes de pensar en incrementar su
cobertura (Avance promedio de Calidad/Cumplimiento de metas inferior a 80% as como
cobertura de poblacin potencialmente beneficiaria inferior a 80%).
Programas que cuentan con una alta calidad de diseo y que durante el periodo analizado
obtuvieron avances aceptables en el cumplimiento de las metas que se haban propuesto
pero con bajos niveles de cobertura de su poblacin potencialmente beneficiaria (en
rangos que van desde 64.93% a 0.18%).
Estos programas son una muestra clara de la dispersin de esfuerzos por parte del
gobierno federal para dar una respuesta integral a problemas sociales relevantes. Debido
a su bajo nivel de cobertura, estos programas no estn en condiciones de resolver el
problema pblico que les dio origen. Por lo tanto, se recomienda hacer una revisin
integral de la poltica social del gobierno federal, que identifique prioridades claras y
determine, en su caso, cules de estos programas recibirn un incremento presupuestal
sustantivo para incrementar significativamente su cobertura, y cules de ellos deberan
integrarse a otros programas ya existentes con una orientacin similar en la atencin del
problema pblico al que estn enfocados (Avance promedio de Calidad/Cumplimiento de
metas superior a 80% as como cobertura de poblacin potencialmente beneficiaria
inferior a 65%).