Sistema de Evaluación Específica de Desempeño (SIEED) Guía de Usuario www.coneval.gob.mx 2 / 38 Guía de Usuario del SIEED Contenido I 1. Introducción .................................................................................................................................... 5 2. Requerimientos Técnicos para el funcionamiento óptimo del Sistema ........................ 5 3. Acceso al SIEED .............................................................................................................................. 5 4. Menú Principal ................................................................................................................................ 6 4.1 Búsqueda de Programas .......................................................................................................... 6 4.2 Listado de Programas ................................................................................................................ 7 5. Apartados de la Evaluación Específica de Desempeño ................................................... 8 5.1 Resultados/ Productos ............................................................................................................... 9 a) Indicadores de resultados ..................................................................................................................9 b) Indicadores de servicios y gestión ..................................................................................................12 c) Indicadores sectoriales .....................................................................................................................12 d) Avance de indicadores y análisis de metas ..................................................................................14 e) Evaluaciones de impacto .................................................................................................................14 f) Hallazgos relevantes ..........................................................................................................................17 g) Observaciones generales sobre los Indicadores Seleccionados ...............................................18 h) Descripción del programa ................................................................................................................19 5.2 Cobertura .................................................................................................................................... 20 a) Población potencial ...........................................................................................................................20 b) Población objetivo .............................................................................................................................21 c) Población atendida ...........................................................................................................................22 d) Evolución de la cobertura .................................................................................................................25 e) Análisis de la cobertura .....................................................................................................................25 5.3 Seguimiento de Aspectos de Mejora ................................................................................. 26 a) Aspectos definidos en el Documento de Trabajo ..........................................................................26 b) Avance en las acciones de mejora comprometidas en años anteriores ..................................27 5.4 Conclusiones de la evaluación ............................................................................................ 28 5.5 Evaluación integral del grupo temático ............................................................................ 30 a) Registrar evaluación integral del grupo temático .........................................................................30 5.6 Datos de la instancia evaluadora ....................................................................................... 32 3 / 38 Guía de Usuario del SIEED a) Datos de la instancia evaluadora ....................................................................................................32 5.7 Ficha Narrativa .......................................................................................................................... 32 a) Registrar ficha narrativa .....................................................................................................................32 5.8 Ficha de monitoreo .................................................................................................................. 35 a) Registrar ficha monitoreo ..................................................................................................................35 4 / 38 Guía de Usuario del SIEED 1. Introducción Según lo establecido en el numeral 27 del Programa Anual de Evaluación (PAE) 2012 y el numeral 32 del PAE 2013, los programas federales en operación durante el ejercicio fiscal 2012, que estén incluidos en el anexo correspondiente y los que determinen la Secretaría de Hacienda y Crédito Público (SHCP), la Secretaría de la Función Pública (SFP) y el Consejo Nacional de Evaluación de la Política de Desarrollo Social (CONEVAL), deberán realizar la Evaluación Específica de Desempeño (EED) 2012-2013. Lo anterior, con base en la información entregada por las unidades responsables de los programas y las unidades de evaluación de las dependencias o entidades a través del Módulo de Información para la Evaluación Específica de Desempeño (MEED). Una vez que las unidades responsables de los programas y las unidades de evaluación de las dependencias o entidades suban su información al MEED, los evaluadores de cada uno de los grupos de programas federales participantes en la EED 2012-2013 deberán realizar dicha evaluación en el Sistema de Evaluación Específica de Desempeño (SIEED). El SIEED es la aplicación informática que se utilizará para que el usuario (Evaluador) pueda cargar la información de la Evaluación Específica de Desempeño (EED) 2012-2013 con la finalidad de generar informes estructurados y homogéneos que faciliten el uso de la información. En ésta Guía de Usuario se explica el funcionamiento del SIEED para la realización de la EED 2012-2013. 2. Requerimientos Técnicos para el funcionamiento óptimo del Sistema • • • • • • • 3. Windows XP o superior Memoria RAM 64 MB mínimo (128MB recomendado) Espacio Disco Duro 200 MB aprox. Procesador a 233 mega Hertz (MHz) o superior (Procesador recomendado) Internet Explorer 8 Microsoft Excel 2010 Adobe Acrobat Reader Pentium Acceso al SIEED El vínculo para ingresar al sistema es: http://sistemas.coneval.gob.mx/SIEED 5 / 38 Guía de Usuario del SIEED Para acceder al sistema, en la página de inicio, se debe indicar el nombre de usuario y contraseña y seleccionar el botón “entrar”. Todos los usuarios tienen como contraseña predeterminada “coneval”; sin embargo, la primera vez que ingresen al SIEED se solicitará modificarla por motivos de seguridad. La nueva contraseña que defina el usuario es sensible a mayúsculas y minúsculas. 4. Menú Principal 4.1 Búsqueda de Programas Al ingresar al sistema se muestra el listado de los programas por grupo a evaluar, puede elegirse el programa directamente o realizar la búsqueda por dependencia, grupo y/o palabra clave. Una vez localizado el programa, se da clic en “seleccionar”. 6 / 38 Guía de Usuario del SIEED 4.2 Listado de Programas Para cada programa se señala la dependencia, la modalidad y la clave presupuestal. Adicionalmente, se muestran los siguientes apartados por cada uno de ellos: 1) 2) 3) 4) 5) 6) 7) Resultados/ Productos. Cobertura. Seguimiento de Aspectos de Mejora. Conclusiones de la Evaluación. Evaluación Integral del Grupo Temático. Ficha Narrativa. Datos de la Instancia Evaluadora. Cada apartado cuenta con un estatus, que puede ser: Sin iniciar: el apartado de evaluación aún no cuenta con información disponible. Incompleto: el apartado de evaluación cuenta con información parcial, pero no está bloqueado. Completo: el apartado está llenado en su totalidad y la edición del apartado se encuentra bloqueada. 7 / 38 Guía de Usuario del SIEED El botón de “bloquear” aparece en cada apartado. Deberá ser utilizado sólo cuando el apartado esté terminado y no se pretendan hacer modificaciones posteriores. Se recomienda bloquear los apartados después de haber concluido el informe final. 5. Apartados de la Evaluación Específica de Desempeño Una vez seleccionado el programa a evaluar, se muestra una pantalla con la información del programa (nombre, dependencia, fin y propósito). Para ver información adicional sobre el programa, se selecciona el botón “ver/ocultar detalles”. 8 / 38 Guía de Usuario del SIEED 5.1 Resultados/ Productos Al seleccionar este apartado, se despliegan ocho sub-apartados que pueden elegirse para llenar la información de los mismos. Los sub-apartados son los siguientes: a) b) c) d) e) f) g) h) Indicadores de Resultados Indicadores de Servicios y Gestión Indicadores Sectoriales Avance de Indicadores y Análisis de Metas Evaluaciones de Impacto Hallazgos Relevantes Observaciones Generales sobre los Indicadores Seleccionados Descripción del Programa a) Indicadores de resultados Al seleccionar este sub-apartado, se despliega un cuadro en la que se deben incluir los indicadores de resultados del programa, considerando los criterios establecidos en el Anexo 3 de los Términos de Referencia (TdR) de la evaluación. Para agregar un indicador, se selecciona el botón “nuevo Indicador”. Una vez agregados los indicadores, éstos pueden modificarse o eliminarse dando clic en el botón correspondiente. La información para llenar los campos que describen las características de los indicadores se obtiene de las Matrices de Indicadores para Resultados (MIR) 2012 y de la ficha técnica del indicador correspondiente. La información que se utiliza para completar el campo de “avances anteriores” son las MIR de años previos (en caso de contar con información). 9 / 38 Guía de Usuario del SIEED 10 / 38 Guía de Usuario del SIEED La información requerida para agregar un indicador de resultados es la siguiente: Nombre: (máximo 90 caracteres) Definición: (máximo 2,400 caracteres) Indicador decreciente: en caso de que el resultado deseable del indicador sea decreciente, debe seleccionarse esta opción. Método de cálculo: en algunas ocasiones, debido a la complejidad o longitud del método de cálculo del indicador es más sencillo adjuntar una imagen. En este caso, puede utilizarse el campo “Imagen de método de cálculo” dando clic en el botón agregar (“Add…”). Enseguida, se selecciona la imagen que se cargará, en formato JPG, GIF o PNG. Unidad de medida: debe indicarse en qué unidad se mide el indicador (individuos, hogares, unidades de salud, núcleos agrarios o escuelas, entre otros). Frecuencia de la medición: debe seleccionarse alguna de las opciones del menú desplegable. En caso de seleccionar “Otra”, debe especificarse la frecuencia de medición. Meta del indicador 2012: en caso de que la meta del indicador no se encuentre especificada, deberá seleccionarse alguna de las siguientes opciones: SD (sin dato): el valor no se encuentra especificado en la MIR y no se justifica la falta de información. ND (no disponible): el valor no se encuentra especificado en la MIR, pero se justifica la falta de información. Valor del indicador 2012: en caso de que el indicador no cuente con valor 2012, deberá especificarse “SD” o “ND”, según corresponda. Año base: en caso de que el año base no esté señalado en la ficha técnica, deberá especificarse “SD”. Valor inmediato anterior: se refiere al valor inmediato anterior del indicador. Por ejemplo, si la frecuencia de medición es quinquenal y el año base es 2005, se debe reportar el avance en 2010. En caso de que el indicador no cuente con el valor inmediato anterior, se debe especificar “SD” o “ND”. Año valor inmediato anterior: se refiere al año del valor inmediato anterior del indicador, éste dato depende de la frecuencia de medición. Avances anteriores: se refiere a los valores de años previos del indicador, excepto el valor inmediato anterior. Es importante señalar que sólo deben considerarse los avances anuales o 11 / 38 Guía de Usuario del SIEED de periodos más largos. Para insertar los “Avances anteriores”, debe llenarse el cuadro incluyendo el año y el valor del avance, ordenado por año de manera ascendente. Tipo de gráfica: debe seleccionarse el tipo de gráfica que mejor represente el avance del indicador (líneas 2D o columnas 3D). En caso de que los datos disponibles no puedan graficarse, debe escogerse “N/A”. Características del indicador: en esta parte debe seleccionarse si el indicador es pertinente, relevante y/o confiable, de acuerdo con lo establecido en el anexo 3 de los TdR. Incluir en informe completo: debe seleccionarse (“Sí” o “No”, según corresponda) si se desea que el indicador de resultados aparezca en el informe completo, es importante recordar que deben ser un máximo de cinco indicadores de resultados. Incluir en el informe ejecutivo: debe seleccionarse (“Sí” o “No”, según corresponda) si se desea que el indicador de resultados aparezca en el informe ejecutivo, es importante recordar que deben ser un máximo de tres indicadores de resultados. Incluir en la ficha de monitoreo: se debe seleccionar (“Sí” o “No”, según corresponda) si se desea que el indicador de resultados aparezca en la ficha de monitoreo, es importante recordar que podrán ser un máximo de dos indicadores de resultados. b) Indicadores de servicios y gestión En “Resultados/ Productos”, se selecciona el sub-apartado “Indicadores de Servicios y Gestión” y se despliega un cuadro en el que deben insertarse hasta cinco indicadores de servicios y gestión del programa. Los campos que deben llenarse son los mismos que se explicaron en el sub-apartado anterior, excepto en la siguiente información: Incluir en informe completo: debe seleccionarse (“Sí” o “No”, según corresponda) si se desea que el indicador de servicios y gestión aparezca en el informe completo, es importante recordar que deben ser un máximo de cinco indicadores. Incluir en el informe ejecutivo: debe seleccionarse (“Sí” o “No”, según corresponda) si se desea que el indicador de servicios y gestión aparezca en el informe ejecutivo, es importante recordar que deben ser un máximo de tres indicadores. c) Indicadores sectoriales Al igual que en los sub-apartados anteriores, al seleccionar esta sección se despliega un cuadro con la información que debe llenarse. El indicador sectorial que debe seleccionarse es el que se encuentra vinculado el programa y que contribuye con el logro de sus objetivos. Con este tipo de indicador se tendrá un llenado distinto al de los indicadores anteriores (indicador de resultados y de servicios y gestión). 12 / 38 Guía de Usuario del SIEED La información requerida para agregar un indicador sectorial es la siguiente: Nombre: se refiere al nombre del indicador sectorial al que se vincula directamente [máximo 90 caracteres]. Definición: [máximo 2,400 caracteres] Indicador decreciente: en caso de que el resultado deseable del indicador sea decreciente, debe seleccionarse esta opción. Método de cálculo: en algunas ocasiones, debido a la complejidad o longitud del método de cálculo del indicador es más sencillo adjuntar una imagen. En este caso, puede utilizarse el campo “Imagen de método de cálculo” dando clic en el botón agregar (“Add…”). Enseguida, se selecciona la imagen que se cargará, en formato JPG, GIF o PNG. Unidad de medida: debe indicarse en qué unidad se mide el indicador (individuos, hogares, unidades de salud, núcleos agrarios o escuelas, entre otros). Frecuencia de la medición: debe seleccionarse alguna de las opciones del menú desplegable. En caso de seleccionar “Otra”, se debe especificar la frecuencia de medición. Meta del indicador 2012: Se refiere a la meta del indicador sectorial en 2012. En caso de que la meta del indicador no se encuentre especificada, se deberá seleccionar alguna de las siguientes opciones: SD (sin dato): el valor no se encuentra especificado en la MIR y no se justifica la falta de información. ND (no disponible): el valor no se encuentra especificado en la MIR, pero se justifica la falta de información. Año base: en caso de que el año base no esté señalado en la ficha técnica, se deberá especificar “SD”. Línea base: Se refiere al valor inicial que funge como punto de referencia. En caso de que la línea base no se encuentre especificada, se deberá seleccionar alguna de las siguientes opciones: SD (sin dato): el valor no se encuentra especificado en la MIR y no se justifica la falta de información. ND (no disponible): el valor no se encuentra especificado en la MIR, pero se justifica la falta de información. Último avance (valor): se refiere al valor del último avance del indicador sectorial. En caso de que el indicador no cuente con el valor inmediato anterior, se debe especificar “SD” o “ND”. Último Avance (año): se refiere al año del valor del último avance del indicador sectorial. Avances anteriores: se refiere a los valores de años previos del indicador, excepto el valor inmediato anterior. Es importante señalar que sólo se deben considerar los avances anuales o 13 / 38 Guía de Usuario del SIEED de periodos más largos. Para insertar los “Avances anteriores”, debe llenarse el cuadro incluyendo el año y el valor del avance, ordenado por año de manera ascendente. Características del indicador: en esta parte debe seleccionarse si el indicador es pertinente, relevante y/o confiable, de acuerdo con lo establecido en el anexo 3 de los TdR. Incluir en ficha de monitoreo: se debe seleccionar (“Sí” o “No”, según corresponda) si se desea que el indicador sectorial aparezca en la ficha de monitoreo. d) Avance de indicadores y análisis de metas Se debe incorporar un breve análisis del avance que han tenido los indicadores de la MIR en 2012 respecto de sus metas, así como de los valores del indicador en años anteriores (longitud máxima de 874 caracteres). Asimismo, el evaluador debe valorar la construcción de metas de los indicadores. Se recomienda que el análisis muestre el avance de forma cuantitativa. Para grabar la información actualizada, se selecciona “Guardar”. e) Evaluaciones de impacto Este sub-apartado tiene la finalidad de conocer si el programa cuenta con evaluaciones de impacto con rigor técnico y metodológico que documenten los resultados obtenidos a nivel 14 / 38 Guía de Usuario del SIEED de Fin y Propósito. En el Anexo 2 de los TdR de la evaluación se establecen los criterios mínimos para la selección de las evaluaciones de impacto. Al ingresar al sub-apartado, se muestra la leyenda “Existe evidencia de resultados”. Si se elige “Sí”, se despliega una serie de campos que deberán llenarse con base en las evaluaciones de impacto realizadas anteriormente que cuenten con evidencia documentada. Los datos requeridos son fuente, institución evaluadora, nombre del coordinador o coordinadora, año de la evaluación y elementos de análisis. En la misma sección, se debe completar información de “Resultados Finales Documentados”. Se deben priorizar los resultados de evaluaciones de impacto directamente relacionados con el propósito del programa, con base en evidencia relevante. El número de caracteres es limitado, por lo que se recomienda seleccionar “Vista previa del informe ejecutivo”, para verificar que la información aparezca de manera completa en el informe ejecutivo. 15 / 38 Guía de Usuario del SIEED Asimismo, se deben valorar los “Resultados finales documentados” de las evaluaciones de impacto, así como también se debe calificar la evaluación de acuerdo con su “Rigor técnico y metodológico”. Los niveles para calificar son destacada, adecuada, moderada, oportunidad de mejora o sin información. Para guardar la información actualizada, se selecciona “Guardar”. Una vez que se guardaron los cambios, se pueden seguir introduciendo otros resultados de evaluaciones de impacto al dar clic en “Grabar más evaluaciones de impacto”. Para cada resultado documentado, es posible modificar la información seleccionando “Editar” o “Eliminar”. En caso de que el evaluador considere pertinente incluir información adicional para fundamentar la valoración realizada, se puede adjuntar un documento. Para cargar el archivo, se da clic en “Examinar" como se observa en la siguiente figura: Si el programa no cuenta con una evaluación de impacto que cumpla con los criterios establecidos en el Anexo 2 de los TdR de la evaluación, se debe seleccionar la leyenda predeterminada que mejor indique por qué el programa no cuenta con una evaluación de impacto. 16 / 38 Guía de Usuario del SIEED f) Hallazgos relevantes Al interior del apartado de “Resultados/ Productos”, se encuentra también esta sección en la que se debe cargar información pertinente de aquellos hallazgos relacionados con el desempeño del programa de otro tipo de evaluaciones externas. Es decir, evaluaciones que no sean de impacto con rigor técnico y metodológico, así como de otros documentos que los programas hayan cargado en el MEED. Los hallazgos se deben ordenar por nivel de prioridad, considerando la vigencia de los mismos. Además, cuando el evaluador considere necesario, se debe incluir una interpretación del mismo. Es importante que se cargue la fuente de información, el año, los elementos de análisis (fin, propósito, componentes, cobertura, aspectos susceptibles de mejora, entre otros). Asimismo, se debe incluir si el hallazgo se relaciona directamente con el fin o propósito, valorar el hallazgo en la escala antes señalada (destaca, adecuada, moderada, oportunidad de mejora y sin información) y, además, se pueden incluir comentarios y observaciones. 17 / 38 Guía de Usuario del SIEED g) Observaciones generales sobre los Indicadores Seleccionados Con base en los indicadores de Resultados y de Servicios y Gestión seleccionados, y considerando los criterios establecidos en el Anexo 3 de los TdR, se debe realizar una valoración general de los indicadores de acuerdo con la información que aportan respecto del nivel de objetivos que corresponden. Una vez que se ha cargado la información, es indispensable seleccionar el botón “Guardar” para grabar la información. En caso de que se requiera modificar la información que ha sido guardada, se puede dar clic en “Editar”. 18 / 38 Guía de Usuario del SIEED h) Descripción del programa En este sub-apartado el evaluador cargará una breve descripción que permita entender cuál es el objetivo del programa, cómo lo lleva a cabo (bienes y/o servicios que entrega) y a quién está dirigido. Una vez que la información ha sido cargada, se selecciona “Guardar” para conservar los cambios realizados. 19 / 38 Guía de Usuario del SIEED 5.2 Cobertura a) Población potencial En este sub-apartado se debe responder si se encuentra o no definida la población potencial y, en su caso, señalar la unidad de medida, cuantificación y definición utilizando la “Definición y justificación de la población potencial, objetivo y atendida” cargada en el MEED. En caso de que el programa no tenga cuantificada a la población potencial y no se encuentre justificado el caso particular se deberá utilizar “SD” (sin dato). En caso de que el programa no cuente con la población potencial cuantificada, pero se encuentre debidamente justificada se utilizará “ND” (no disponible). Cuando se haya terminado de llenar los campos especificados anteriormente, se selecciona “Guardar”. En caso de que se requiera realizar modificaciones a información cargada previamente, se deberá utilizar el botón “Editar”. 20 / 38 Guía de Usuario del SIEED b) Población objetivo En éste sub-apartado se despliegan los campos que se deben de llenar para éste tipo de población, cabe resaltar que dichos campos son los mismos que se explicaron en el subapartado anterior (población potencial). 21 / 38 Guía de Usuario del SIEED c) Población atendida En este sub-apartado se debe responder si se encuentra o no definida la población atendida y, en su caso, señalar la unidad de medida, cuantificación y definición utilizando la “Definición y Justificación de la Población Potencial, Objetivo y Atendida” cargado en el MEED. En caso de que el programa no tenga cuantificada a la población atendida y no se encuentre justificado el caso particular se deberá utilizar SD (“sin dato”). En caso de que el programa no cuente con la población atendida cuantificada, pero se encuentre debidamente justificada se utilizará ND (“no disponible”). En éste sub-apartado también se debe responder si se cuenta con información desagregada de la población atendida por entidad, municipio o localidad; en caso de que la respuesta sea un “Sí”, se desplegarán las opciones “Agregar ubicación” y “Agregar Ubicaciones por Archivo”. La primera opción (“agregar ubicación”) se utiliza para localizar manualmente en el mapa las entidades federativas, municipios y/o localidades que corresponden a la zona de la cobertura de la población atendida. Una vez llenados estos campos se debe responder a la pregunta “¿Se cuenta con información desagregada de la población atendida por sexo?”, y 22 / 38 Guía de Usuario del SIEED en caso de que la respuesta sea “Sí”, se deben llenar los campos de “mujeres atendidas y hombres atendidos”. Para actualizar la información generada en este sub-apartado se debe dar clic en “Agregar”. Por último, si se desea modificar la información se debe seleccionar “Editar”. La segunda opción (“Agregar ubicación por archivo”) se elige para localizar por medio de un archivo en el mapa las entidades federativas, municipios y/o localidades que corresponden a la zona de la cobertura de la población atendida, en caso de que la zona de cobertura involucre demasiados municipios y/o localidades. Para hacer lo anterior, se selecciona “Examinar”, después se selecciona el archivo y posteriormente se selecciona “Subir”. Los requerimientos mínimos del archivo son los siguientes: La extensión del archivo debe ser en formato Excel con extensión XLS. En caso de que se cuenten con más de 65,000 registros se debe dividir el archivo en dos partes para posteriormente subirlo al sistema. A continuación se muestra el formato ejemplo que se encuentra en el Sistema, el cual se podrá descargar del SIEED. 23 / 38 Guía de Usuario del SIEED Clave Estado Nombre Estado Clave Municipio 01 Aguascalien tes Aguascalien tes Aguascalien tes Aguascalien tes 01 Aguascalien tes 001 01 01 01 001 001 001 001 Nombre Municipio Aguascalien tes Aguascalien tes Aguascalien tes Aguascalien tes Clave Localidad 0001 0094 0096 0100 Aguascalien tes 0102 Nombre Localidad AGUASCALI ENTES GRANJA ADELITA AGUA AZUL RANCHO ALEGRE LOS ARBOLITOS [RANCHO] Total Mujeres Hombres 100 20 80 60 30 30 90 20 70 120 100 20 180 80 100 24 / 38 Guía de Usuario del SIEED En caso de querer eliminar localidad por localidad, se puede hacer al seleccionar el botón de “Eliminar” correspondiente a la localidad que se desea borrar. También existe la opción de eliminar la totalidad de la información al seleccionar “Eliminar todo”. d) Evolución de la cobertura En éste sub-apartado se gráfica la evolución de la población potencial, de la población objetivo y de la población atendida en una gráfica lineal. La gráfica debe mostrar todos los datos 2012 y anteriores, con los que se cuente de manera consecutiva. En caso de que el programa no tenga cuantificado los distintos tipos de poblaciones (potencial, objetivo y atendida) y no se encuentre justificado el caso particular se deberá utilizar SD (“sin dato”), según sea el caso. En caso de que el programa no cuente con las poblaciones (potencial, objetivo y atendida) cuantificadas, pero se encuentren debidamente justificadas se utilizará ND (“no disponible”), según corresponda. Cuando se termine de llenar los campos especificados anteriormente, se selecciona “Guardar” y para agregar un periodo de cobertura, se selecciona de nuevo el sub-apartado “Evolución de la cobertura”, y se da clic en “Agregar”. e) Análisis de la cobertura En éste sub-apartado se debe hacer un análisis detallado del alcance de la cobertura del programa y su focalización asociando la información disponible. Dicho análisis debe considerar la definición y cuantificación de la población potencial, objetivo y atendida del programa, al igual que la evolución de cada una de éstas. 25 / 38 Guía de Usuario del SIEED Para guardar la información actualizada, se selecciona “Guardar”. 5.3 Seguimiento de Aspectos de Mejora a) Aspectos definidos en el Documento de Trabajo En éste sub-apartado se deben enlistar hasta cinco principales aspectos de mejora, reportados en el Documento de Trabajo y/o Documento Institucional derivados del Mecanismo para el Seguimiento a los aspectos susceptibles de mejora derivados de informes y evaluaciones a los programas presupuestarios de la Administración Pública Federal 2011 (Mecanismo 2011), reportados en abril de 2013. En el Documento de Trabajo el programa establece los aspectos cuya solución o atención depende de las unidades responsables directamente por los que se recomienda darle prioridad sobre los aspectos definidos en el Documento Institucional, ya que en éste se definen los aspectos que requieren de la intervención de una o varias áreas de la dependencia y/o entidad para su solución. Se sugiere incluir aquellos aspectos que sean pertinentes y/o relevantes para la desempeño del programa. En caso de que ninguno de los aspectos se pertinentes y/o relevantes, se deben seleccionar aquellos aspectos que directamente relacionados con el desempeño y se deben mencionar. Por aspectos deben ser redactados en positivo. mejora del consideren no estén último, los 26 / 38 Guía de Usuario del SIEED Para el llenado de éste sub-apartado, primero se debe responder a la pregunta “¿Existe un documento de trabajo para atender o mejorar el programa? (“sí” o “no”, según corresponda). En caso de que se seleccione “sí”, se desplegarán los campos correspondientes para insertar hasta cinco aspectos de mejora. Los campos a llenar son los siguientes: Aspecto a mejorar: se agrega la información correspondiente al aspecto susceptible de mejora en cuestión. Tipo de Documento: se debe elegir el tipo de documento al que pertenece el aspecto (Aspecto Específico, Aspecto Institucional, Aspecto Intergubernamental o Aspecto Interinstitucional), dando preferencia a los Aspectos Específicos e Institucionales. ¿Se presenta en informe ejecutivo?: se debe responder a la pregunta (“sí” o “no”, según corresponda). Para guardar la información actualizada, se selecciona “Guardar”. Por último, para guardar aspectos adicionales, se selecciona “Agregar aspectos” y para modificar los aspectos que ya han sido actualizados en el sistema, se selecciona “Modificar”. b) Avance en las acciones de mejora comprometidas en años anteriores Con base en el documento Avances en las acciones de mejora del programa federal, se debe realizar una valoración sintética de los avances del programa en las acciones establecidas en el Mecanismo 2011 y anteriores. La descripción debe contener elementos valorativos que relacionen los aspectos con el desempeño del programa. 27 / 38 Guía de Usuario del SIEED Al seleccionar el sub-apartado “Avance en las acciones de mejora comprometidas en años anteriores” aparece la leyenda “¿El programa participó en el Mecanismo emitido en 2012 y/o anterior?” En caso de que seleccione la opción “sí”, se desplegarán los campos correspondientes a éste sub-apartado. 5.4 Conclusiones de la evaluación Para éste sub-apartado se debe llenar la siguiente información: Consideraciones sobre la evolución del presupuesto: se refiere a un breve análisis de la evolución del presupuesto (original, modificado y ejercido), considerando las características particulares del programa y de los bienes o servicios que brinda, y cómo estos han cambiado. En la medida que la información lo permita, se debe identificar el costo de los beneficios otorgados por cada uno de los programas así como el gasto de operación. Conclusiones del evaluador externo: se refiere a un juicio sintético del desempeño del programa que relaciona los principales hallazgos reportados en la evaluación y que se consideran pertinentes para reforzar la consecución del fin y el propósito del programa evaluado. 28 / 38 Guía de Usuario del SIEED Fortalezas: se refiere a las principales fortalezas del programa encontradas en la información disponible. Éstas deben estar redactadas en positivo de forma coherente y sustentada en la información de la evaluación, considerando su aporte al logro del fin y propósito del programa. Retos y recomendaciones: las recomendaciones deben ser factibles y orientadas a las áreas de oportunidad o retos del programa encontrados en la información disponible. Avances: se refiere a un breve análisis de los avances realizados por el programa a la fecha para complementar la información que se tiene sobre el desempeño del programa en 2012, con base en los temas cubiertos por la evaluación. La información para llenar éste campo proviene de los documentos que su subieron en el apartado de “Avances del programa en el año 2013” del MEED. Calidad y suficiencia de la información: se refiere a la valoración de las necesidades y la calidad de la información utilizada para que se lleve a cabo de manera exitosa la EED 20122013. Fuentes de información: en éste campo se debe enlistar el total de fuentes utilizadas para el desarrollo de la evaluación, las cuales deben estar separadas por comas. 29 / 38 Guía de Usuario del SIEED Para guardar la información actualizada, se selecciona “Guardar” y para poder modificar los datos que ya han sido actualizados en el sistema, se selecciona “Modificar”. 5.5 Evaluación integral del grupo temático a) Registrar evaluación integral del grupo temático Con base en la información del MEED y a lo especificado en el Anexo 4 de los TdR de la evaluación, debe realizarse un informe que permita contar con una valoración integral del desempeño de los programas contenidos en el grupo temático. La Evaluación Integral debe incluir el conocimiento experto e informado del equipo evaluador, que permita interpretar los resultados encontrados en un contexto más amplio. 30 / 38 Guía de Usuario del SIEED Para cargar dicho documento al Sistema se deben llenar los siguientes campos: Grupo: corresponde al grupo al cual pertenece el evaluador. Tipo de archivo: se debe seleccionar el tipo de archivo que se desea subir (versión preliminar o versión final). Cargar archivo: se debe dar clic en “Examinar” para buscar el archivo, una vez encontrado se debe dar clic en “Subir”, y posteriormente para guardar la información actualizada se da clic en “Guardar”. 31 / 38 Guía de Usuario del SIEED 5.6 Datos de la instancia evaluadora a) Datos de la instancia evaluadora Al seleccionar éste sub-apartado se despliegan los campos que deben llenarse con respecto a la información de la instancia evaluadora. Al finalizar el llenado de dichos campos se debe dar clic en “Guardar”. 5.7 Ficha Narrativa a) Registrar ficha narrativa Con base en la información de la evaluación, se debe valorar cada programa en las siguientes áreas enlistadas a continuación y se debe emitir una breve justificación: Resultados/ otros efectos: En éste campo se puede elegir si la valoración se realizará con respecto a Resultados (se refiere a los resultados de las evaluaciones de impacto) o en relación a Otros Efectos (se refiere a resultados a nivel Fin o Propósito derivados de otras evaluaciones externas). Otros hallazgos: Se refiere a la valoración de los hallazgos a nivel de Actividades, Componentes, Cobertura, Aspectos Susceptibles de Mejora y Otros. 32 / 38 Guía de Usuario del SIEED Avances de indicadores y análisis de metas: Este apartado es el correspondiente a la valoración del grado de avance de los indicadores de Resultados y de Servicios y de Gestión seleccionados para la EED, así como de la construcción de metas. Cobertura: En el apartado se debe mostrar el grado de avance en la Cobertura del programa con base en la información contenida en el apartado de Análisis de la Cobertura de la EED. Cuando se considere pertinente, se recomienda ilustrarlo de manera cuantitativa. Fortalezas, retos y recomendaciones: Se debe señalar e interpretar al menos una fortaleza y al menos un reto o recomendación relevante para mejorar el desempeño del programa. En esta temática no es necesario valorar la información, solo enunciarla. Incidencia distributiva: Apartado CONEVAL. Justificación: Apartado CONEVAL. Cumplimiento presupuestal: Apartado CONEVAL. Una vez llenados los campos anteriores, se debe elegir la valoración (destacada, adecuada, moderada, oportunidad de mejora o sin información, según corresponda) la cual se encuentra de lado derecho. 33 / 38 Guía de Usuario del SIEED Para guardar la información actualizada, se selecciona “Guardar” y para poder modificar los datos que ya han sido actualizados en el Sistema, se selecciona “Modificar”. Es importante señalar que el número de caracteres introducidos en el cuadro de texto es limitado y, por lo tanto, se debe seleccionar “Vista previa del informe ejecutivo” para revisar si la información aparece de manera completa en la versión final del “Informe ejecutivo”. 34 / 38 Guía de Usuario del SIEED 5.8 Ficha de monitoreo a) Registrar ficha monitoreo Para llenar éste sub-apartado se deben llenar los siguientes campos: Descripción del programa: la instancia evaluadora deberá incluir una breve descripción del programa que permita entender cuál es su objetivo, cómo lo lleva a cabo (bienes y/o servicios que entrega) y a quién está dirigido. Resultados del programa y cómo se miden: en este apartado se debe contar con información sobre cuáles han sido los principales resultados del programa o acción y cómo realizan la medición de los mismos. Se deben seleccionar dos indicadores a nivel de resultados (Fin y/o Propósito) que mejor representen el avance del programa o acción en el logro de sus objetivos. Es importante que ésta corresponda al cierre del ejercicio fiscal 2012. Cuando el programa o acción cuente con evaluaciones de impacto rigurosas, se deben incluir los resultados identificados. Asimismo, se deben incluir hallazgos relevantes directamente relacionados con los objetivos del programa o acción que provengan de otro tipo de evaluaciones externas y/o de información que provenga de estudios nacionales o internacionales de programas similares y/o de los indicadores para resultados. El espacio es limitado por lo que se debe priorizar. Definición de la población objetivo de la cobertura: en este apartado se espera contar con información sobre la cobertura del programa o acción y sus principales avances. Se debe incluir la definición de Población Objetivo directamente en la Ficha de Monitoreo y la cuantificación de las entidades, municipios y localidades atendidas por el programa. Análisis de la cobertura: con base en los datos de cobertura presentados, la definición de poblaciones y la evolución del presupuesto del programa, se debe elaborar un análisis del alcance de la cobertura. Análisis del sector: la instancia evaluadora debe seleccionar el indicador del programa sectorial al que se encuentra vinculado y al que contribuye con el logro de sus objetivos; se deben incluir los datos del indicador sectorial y la meta del mismo. Con base en la información del indicador sectorial, los datos presupuestarios y las evaluaciones externas, se debe considerar para el análisis del sector cómo el programa o acción ha contribuido con el indicador sectorial, las facilidades o limitaciones que ha tenido para contribuir dado el presupuesto del programa y la relación de estos. De la misma forma se debe considerar para el análisis las evaluaciones externas que contextualicen al programa dentro del sector y/o comparaciones internacionales en aspectos pertinentes. El espacio es limitado por lo que se debe priorizar. Presupuesto de monitoreo: esta información será proporcionada por CONEVAL. Información complementaria: la información que corresponde a éste apartado, se pre-cargo en los sub-apartados Indicadores de Resultados, Indicador Sectorial y Evolución de la 35 / 38 Guía de Usuario del SIEED Cobertura. En caso de no haber seleccionado Indicadores se encuentra una liga en la parte inferior, la cual permitirá cargar nuevos indicadores o seleccionar de los que ya se han cargado. 36 / 38 Guía de Usuario del SIEED 37 / 38 Guía de Usuario del SIEED Contacto Érika Ávila Mérida eavila@coneval.gob.mx 5481 7289 Michelle Zempoalteca Nava mzempoalteca@coneval.gob.mx 5481 7289 Adriana Jaramillo Carvallo ajaramillo@coneval.gob.mx 5481 7218 38 / 38 Guía de Usuario del SIEED