FONDO SECTORIAL DE INVESTIGACION PARA EL DESARROLLO SOCIAL SEDESOL-CONACYT INFORME TÉCNICO DE AVANCE Clave del proyecto 00091976 Convocatoria: Título del proyecto DISEÑO E IMPLANTACIÓN DE UNA METODOLOGÍA PARA EL ESTABLECIMIENTO DEL ÌNDICE MEXICANO DE SATISFACCION DEL USUARIO DE PROGRAMAS SOCIALES Etapa 2 DE 2 Responsable técnico del proyecto: MARIA ODETTE LOBATO CALLEROS Institución y Dependencia Fecha comprometida de entrega Informe Técnico: 31/07/2011 UNIVERSIDAD IBEROAMERICANA A.C. de S0009-2008-1 2 Fecha de entrega de Informe Técnico:15/08/2011 1.- AVANCES RELEVANTES DEL PROYECTO EN LA ETAPA A partir de los productos de la primera etapa, que incluyeron la revisión de los principales indicadores nacionales sobre la satisfacción de los usuarios, así como el diseño de la propuesta metodológica para el IMSU-PS y la puesta a prueba de la propuesta metodológica a la escala de prueba piloto, se realizaron ajustes a la propuesta metodológica: al modelo de evaluación (vg.: Programa de Desarrollo de Zonas Prioritarias en su modalidad de Acciones de Piso Firme), al procedimiento de recolección de datos (vg.: Programa de Abasto Social de Leche, Liconsa) y al instrumento de medición (vg.: Programa de Atención de Adultos Mayores 70 años y más). En esta segunda etapa del proyecto se obtuvieron los siguientes avances: Se elaboró el diseño muestral para cada uno de los 7 estudios de caso con base en el marco muestral proporcionado por Sedesol y criterios que aseguran neutralidad y representatividad. Dichos criterios incluyeron cuestiones técnicas y opiniones de expertos Se convocó a un concurso de encuestadoras con el objeto de elegir a la encuestadora que aplicaría 2 encuestas vía telefónica y 5 “cara a cara”. Se elaboró y firmó un contrato entre la Universidad Iberoamericana-Cd. de México y la encuestadora seleccionada. Con el objeto de asegurar la adecuada aplicación de las 7 encuestas nacionales, se decidió supervisar el trabajo de la encuestadora. Para ello, se diseñó una metodología de supervisión, que incluyó el desarrollo de manuales, talleres de entrenamiento a supervisores, formatos especiales y análisis de resultados. Como preparación de los encuestadores, se elaboró un manual tomando como base el desarrollado para la prueba piloto y se dio un taller de entrenamiento, el cual se impartió físicamente en las instalaciones de la Universidad Iberoamericana-Cd. de México y se difundió vía internet a varias localidades del país, entre ellas la Ciudad de Aguascalientes donde se reunió a otro grupo importante de encuestadores. El taller incluyó prácticas de aplicación de los instrumentos de medición. Se aplicó una encuesta nacional a los siguientes programas sociales: Abasto social de leche-modalidad de abasto comunitario leche en polvo, perspectiva titulares de las tarjetas de dotación. Abasto social de leche-modalidad de abasto comunitario leche líquida, perspectiva titulares de las tarjetas de dotación. Guarderías y Estancias Infantiles-modalidad madres trabajadoras y padres solos, perspectiva madres y padres. Guarderías y Estancias Infantiles-modalidad apoyo a guarderías de nueva creación, perspectiva responsables de estancias. 1 FONDO SECTORIAL DE INVESTIGACIÓN PARA EL DESARROLLO SOCIAL SEDESOL-CONACYT Atención a adultos mayores 70 años y más: modalidad apoyo económico, perspectiva del adulto mayor. Programa para el Desarrollo de Zonas Prioritarias (PDZP); modalidad obras de infraestructura social, perspectiva responsables de obras en municipios. Programa para el Desarrollo de Zonas Prioritarias (PDZP); modalidad acciones de piso firme, perspectiva dueño de la casa beneficiada. Como se mencionó anteriormente, a los estudios de caso establecidos en el protocolo del proyecto, se adicionó un estudio de caso a los 6 comprometidos ante Conacyt,en atención a los hallazgos encontrados en el estudio cualitativo con funcionarios del PDZP y a solicitud de la Dirección General de Evaluación y Monitoreo de los Programas Sociales de Sedesol (DGEMPS-Sedesol), este estudio de caso se refiere al apoyo de “Piso Firme” y se incluye por su actual relevancia. Se elaboró el reporte de acontecimientos del trabajo de campo, que incluye los hallazgos de la encuestadora y del equipo de supervisión. Dicho reporte está integrado como anexo de los reportes individuales por estudio de caso. Durante el levantamiento de las encuestas, con el objeto de verificar la consistencia entre los cuestionarios aplicados y las bases de datos, se cotejó el 10% de los cuestionarios de cada estudio de caso, elegidos con un muestreo aleatorio simple. Se realizó un estudio exploratorio con la base de datos de cada una de las encuestas con el objeto de verificar la consistencia de los datos e identificar casos especiales. Se obtuvo la caracterización de la muestra con la utilización de métodos estadísticos descriptivos. Se puso a prueba el modelo de evaluación que postula las relaciones entre la satisfacción de los usuarios, sus causas y sus efectos para cada uno de los estudios de caso con base en la metodología de Mínimos Cuadrados Parciales (PLS en sus siglas en inglés) utilizando el software de licencia restringida del American Customer Satisfaction Index. Con el objeto de asegurar la reproducibilidad del estudio también se utilizó un software libre, el Smart-PLS. Se tuvo un seminario con el Dr. Jörg Henseler desarrollador del software Smart-PLS. Este seminario fue posible con el apoyo financiero e la Universidad Iberoamericana-Cd. de México respecto al pasaje y viáticos del profesor. Se realizó una reunión del Consejo Técnico del IMSU y miembros de la DGEMPS-Sedesol para presentarles los resultados obtenidos. Dicha reunión permitió obtener retroalimentación valiosa. Se elaboró un reporte de resultados para cada estudio de caso, dirigido a los responsables de cada programa y modalidad, donde se incluyen recomendaciones para mejorar la satisfacción de los usuarios. Se puso a prueba el modelo teórico general sobre la satisfacción de los usuarios, sus causas y resultados. Y se elaboró un reporte general donde se describe la metodología diseñada y puesta a prueba con los 7 estudios de caso para la obtención del Índice Mexicano de Satisfacción de los Usuarios de Programas Sociales. Dicha metodología permite hacer comparativos entre programas y de un mismo programa a través del tiempo, y es reproducible. Con el objetivo de un mejor manejo de las bases de datos de los 7 estudios de caso para comparativos futuros y el manejo de bases de futuras investigaciones de acuerdo con metodología desarrollada, se realizó la sistematización de las actividades a realizar y se está buscando conformar un programa de cómputo, el responsable administrativo aprobó esta iniciativa. Se difundieron los resultados del proyecto en cuatro congresos internacionales, para las memorias de dichos eventos se elaboraron artículos en extenso. Con el objetivo de invitarme a colaborar en una red de investigación internacional, me invitaron a una reunión en el Centro de Educación de la Provincia de Alberta Canadá que se localiza en la Ciudad de Guadalajara Jalisco. En dicha reunión comenté con la Mtra. Kristin Galicia de la Universidad de Lethbridge el proyecto del IMSU-PS y sus resultados. Como consecuencia de esta reunión fui invitada a ir a la Universidad de Lethbridge-Campus Calgary y Campus Lethbridge con el objeto de platicar con algunos profesores investigadores para buscar la realización de investigación conjunta sobre la satisfacción de los usuarios de los programas sociales de México y Canadá (Anexo Red de Investigación 1a, 1b y 1c). Se realizó una estancia académica en la Universidad de Montreal, la cual incluyó reuniones con profesores de otras universidades con el objeto de discutir los resultados del proyecto. Como resultado de dicha estancia se conoció otros enfoques para el estudio de las organizaciones, como las instituciones gubernamentales y otras, se pudieron ver resultados del uso de otras metodologías para evaluar la satisfacción de los usuarios, como la que se utiliza por el gobierno de Toronto, se identificó las posibles causas por las que se obtuvo una débil relación entre las expectativas y las quejas con la satisfacción, se analizó cómo apoyar a que los hallazgos de la investigación se 2 FONDO SECTORIAL DE INVESTIGACION PARA EL DESARROLLO SOCIAL SEDESOL-CONACYT trasformen en mejoras en los programas sociales en beneficio de sus usuarios. Después de la visita, se considera que hay posibilidades para realizar investigaciones conjuntas sobre la satisfacción de los usuarios de los programas sociales en México y Canadá. El responsable administrativo aprobó el que se cambiaran las 2 visitas académicas a la Universidad Estatal de Michigan por la estancia en la Universidad de Montreal, debido a que con el apoyo económico de la Universidad Iberoamericana-Cd de México, se tuvo en la primera etapa del proyecto la visita del Dr. Claes Fornell (creador del ACSI) y Dr. David Van Amburg (director del el ACSI), con quienes se tuvo un seminario en donde se les platearon las dudas existentes. Además, se tuvo en la Universidad Iberoamericana-Cd. de México la visita académica del Dr. Jorg Henseler creador del programa de cómputo Smart-PLS, quién también aclaró dudas sobre la utilización del PLS. En el Anexo Estancia Académica No. 1a, 1b y 1c se encuentran los documentos comprobatorios de esta estancia académica. De acuerdo al Anexo Oficio de Conacyt #1 emitido por la Secretaría Técnica del Fondo Sectorial Sedesol-Conacyt, se da por culminado el proyecto con la entrega de los reportes comprometidos, debido a la necesidad que tiene Sedesol de los resultados del proyecto, por ello se nos recomienda entregar los 2 artículos aceptados cuando estén listos. Actualmente, contamos con el borrador de los artículos, los cuales se enviarán pronto a las revistas seleccionadas. 2- LOGRO DE METAS Y OBJETIVOS ALCANZADOS RESPECTO A LO COMPROMETIDO. Se realizó la evaluación de la satisfacción de los usuarios, sus causas y sus efectos en 7 estudios de caso, rebasándose la meta con un estudio de caso adicional. Como ya se mencionó, el estudio de caso extra fue a solicitud de la DGEMPS-Sedesol. Como resultado final de este proyecto de investigación, se obtuvo una metodología válida y confiable para el establecimiento del Índice Mexicano de Satisfacción del Usuario de los Programas Sociales, que permite comparativos de un programa en el tiempo y entre programas. Como estaba comprometido, se elaboró el Reporte de los Acontecimientos del Trabajo de Campo. Dicho reporte está integrado en cada estudio de caso como anexo. Respecto a la difusión de los resultados del proyecto, se asistió a 4 congresos internacionales y se elaboraron 2 artículos en extenso. Se organizó un congreso con el tema “La satisfacción del cliente: su evaluación y resultados”. Se organizó un seminario con el Dr. Claes Fornell (creador del ACSI) y el Dr. David Van Amburg (director del ACSI). Se organizó un seminario con el Dr. Jorg Henseler (creador del software Smart-PLS). El congreso y los seminarios no estaban comprometidos en el protocolo de la investigación, no obstante aportaron a la difusión de la metodología de índices nacionales y sus resultados. Como ya se mencionó, respecto a los 2 artículos en revistas indizadas, se enviará la documentación de su aceptación a Conacyt, en cuanto se tenga, siguiendo los lineamientos recibidos en el Anexo Oficio Conacyt #1. 3.- PARTICIPACIÓN E INTEGRACIÓN DEL GRUPO DE TRABAJO. El Consejo Técnico del IMSU está conformado por: el Dr. Ignacio Méndez (UNAM), quien es su presidente, la Dra. Graciela González (CIMAT), el Act. Alfredo Ramírez (CIDE), el Dr Alexander Von Eye (Universidad Estatal de Michigan) y la Dra. Graciela Teruel (UIA). Los investigadores de tiempo completo y parcial de la UIA que colaboran son: la Dra. Odette Lobato (líder y responsable técnica), el Mtro. Humberto Rivera (responsable diseño de modelos, instrumentos y el diseño de la supervisión encuestadora), la Lic. Ma. Edith Vázquez (Coordinadora de la supervisión de las 7 encuestas nacionales), el Mtro. Hugo Serrato (responsable estadístico), el Ing. Adolfo Mora (responsable de la sistematización de actividades y la automatización del manejo de las bases de datos de los estudios de caso evaluados y futuros), el Mtro. Oscar Morales (colaborador), el Ing. Giulio León (colaborador) y la Mtra. Adriana Acevedo (colaboradora). Formación de estudiantes de maestría en el desarrollo de su tesis: Ma. Elena Gómez, Christian León, Lourdes 3 FONDO SECTORIAL DE INVESTIGACIÓN PARA EL DESARROLLO SOCIAL SEDESOL-CONACYT Muciño, Anabel Vicencio, Esmeralda Huerta y Paola Cervantes (tiempo parcial). Estudiantes de maestría colaboradores en los últimos 4 o 5 meses del proyecto quienes comprometieron la entrega de un reporte: Valentin Casillas, Andrés Castro, Luis Peñaloza y Octavio Picazo. Debido a su tiempo de participación en el proyecto, estos alumnos becarios no comprometieron la terminación de la tesis. . 4.-PRODUCTOS O RESULTADOS GENERADOS TRANSFERIBLES AL SECTOR USUARIO. Reporte del trabajo de campo. En lugar de elaborar un solo reporte que incluyera las evaluaciones de todos los estudio de caso, se diseñó un reporte auto-contenido por cada estudio de caso, con el objeto de facilitar su distribución a los responsables de los programas en cuestión. Estos reportes incluyen el reporte de acontecimientos durante el levantamiento nacional. Se elaboró un reporte que da cuenta de los resultados de la puesta a prueba, con 7 estudios de caso a nivel nacional, de la metodología desarrollada para el establecimiento del Índice Mexicano de Satisfacción del Usuario, sus características de validez y confiabilidad, además su capacidad para comparar los resultados de un programa en el tiempo y entre programas, así como su nivel de reproducibilidad. 5.-FORMACION DE RECURSOS HUMANOS QUE HAN OBTENIDO EL GRADO CON PRESUPUESTO DEL PROYECTO HASTA LA FECHA DE ENTREGA DE ESTE INFORME (Mencionar nombre, número del estudiante y nivel). Los alumnos que fueron formados durante la realización de este proyecto fueron: 1. Anabel Vicencio Aguilar , quién obtuvo el grado de maestría con mención honorífica en la Universidad Iberoamericana. Examen de grado presentado el 13 de enero de 2011. Anexo Formación Recursos Humanos #1a y #1b. 2. Esmeralda Huerta De La Fuente , quién el obtuvo grado de maestría con mención honorífica en la Universidad Iberoamericana. Examen de grado presentado el 2 de junio de 2011. Anexo Formación Recursos Humanos #2a y #2b. 3. Crhistian Mario León Flores obtuvo grado de maestría con mención honorífica en la Universidad Iberoamericana. Examen de grado presentado el 26 de mayo de 2011. Anexo Formación Recursos Humanos #3a y 3b. 4. María Elena Gómez Cruz postula a grado de maestría en la Universidad Iberoamericana. Tesis aprobada y con fecha de examen de grado para el 22 de agosto de 2011. Anexo Formación de Recursos Humanos #4. 5. María de Lourdes Muciño Alcántara , quién obtendrá en dos meses el grado de maestría en la Universidad Iberoamericana. Tesis aprobada por sinodales, falta impresión de tesis y trámite de obtención de fecha de examen. Anexo de Formación de Recursos Humanos #5. 6. Paola Cervantes Sanvicente , quién tiene un avance del 50% de su tesis para obtener el grado de maestría en la Universidad Iberoamericana, fecha de terminación diciembre de 2011. Esta alumna participó como alumna becaria de medio tiempo durante todo el proyecto, se anexa documento comprobatorio de dicha situación, lo cual no fue favorable para que terminara la tesis en el tiempo comprometido. Además, participaron 4 alumnos por un período limitado de 4 a 5 meses en el proyecto, quienes tuvieron dos objetivos, colaborar en la creación de un sistema de información para el manejo de las bases de datos de los 7 estudios de caso realizados, y las de otros estudios de caso que se pueden realizar en el futuro, e incursionar en nuevas perspectivas teóricas para continuar estudiando a la satisfacción y otros factores. Dichos alumnos comprometieron un reporte que explicara sus aportaciones al proyecto, dichos alumnos son: 1. Valentín Juan Casillas Sánchez , alumno de maestría, Anexo de Formación de Recursos Humanos #6 2. Andrés Castro García , alumno de maestría, Anexo de Formación de Recursos Humanos #7 3. Carlos Octavio Picazo Díaz , alumno de licenciatura, Anexo de Formación de Recursos Humanos #7. Además, este alumno participó en forma importante en la elaboración de los reportes finales. 4. Luis Antonio Peñaloza Martínez , alumno de maestría, Anexo de Formación de Recursos Humanos #7. Además, este alumno participó en forma importante en la elaboración de los reportes finales. En el protocolo del proyecto de investigación, se comprometió la formación de 4 alumnos de maestría, no obstante se formó a 6 4 FONDO SECTORIAL DE INVESTIGACION PARA EL DESARROLLO SOCIAL SEDESOL-CONACYT alumnos de maestría durante la elaboración de su tesis, de los cuales 2 de ellos ya terminaron la tesis, como se observa en los documentos aprobatorios, y 3 de ellos ya obtuvieron el grado de maestría. Por otro lado, se contribuyó a la formación de 2 alumnos de maestría y 2 alumnos de licenciatura en un tiempo corto, en el cual incursionaron en actividades asociadas a la investigación. Uno de los alumnos de licenciatura ha expresado su interés en seguir participando en labores de investigación. 6.- OBSERVACIONES RELEVANTES AL EJERCICIÓN DEL PRESUPUESTO AUTORIZADO POR EL FIDEICOMISO. En concordancia con las actividades y metas de esta etapa del proyecto, así como con el presupuesto a aprobado los gastos se han concentrado en los siguientes rubros: trabajo de campo, formación de recursos humanos, colaboradores externos y difusión de resultados en congresos y estancia académica. En el trabajo de campo se tuvo un ahorro de alrededor de seiscientos mil pesos. Con el objeto de pagar todas las becas aprobadas por Conacyt, se aprobó por el responsable administrativo un traspaso de $5,000, el cual se sumó a aprobación del Conacyt ( Anexo Oficio Conacyt #2) por $85,710. Respecto a los gastos asociados a la difusión de resultados, se utilizaron de manera conjunta los recursos de las subcuentas Viáticos, Pasajes y Otros para Pago de Inscripción a Congresos por $28,700. Considerando la aprobación de Conacyt (Anexo Oficio Conacyt #3) para traspasar $41,223 a esta subcuenta, se tuvo una diferencia global positiva en estas subcuentas por la cantidad de $44,084.21. En relación a la subcuenta de horarios por Servicios Profesionales: no se realizaron traspasos y se tuvo un remanente positivo de $31,451.49. Respecto a la subcuenta de equipo de Cómputo, tomando en cuenta la aprobación de traspasar $275,762 pesos a esta cuenta (Anexo Oficio de Conacyt #3) , se tuvo un saldo positivo de $90,615.20 pesos. Subcuenta acervos bibliográficos: se obtuvo la aprobación del Secretario Administrativo para comprar libros por un monto que rebasara lo presupuestado en la primera etapa del proyecto por $7,990.26 pesos. Subcuenta publicaciones: se solicitó aprobación al Secretario Administrativo para realizar un gasto por corrección de estilo de publicaciones que rebasara lo presupuestado por $7,000 pesos. Subcuenta otros: se tuvo un saldo positivo de $14,170, debido a que el costo de la encuestadora incluyó el gasto correspondiente a impresión de cuestionarios. En total, se ejerció el 91.9% del presupuesto y se tuvo un remanente de $381,833.14 pesos. Considerando los gastos realizados en la segunda etapa del proyecto, se ejerció el 91.9% del presupuesto aprobado. 7.- CUALES HAN SIDO LAS DESVIACIONES A LAS METAS COMPROMETIDAS EN LA ETAPA. No se tienen desviaciones importantes entre los resultados y lo comprometido. 8.- ACCIONES CONSIDERADAS PARA CORREGIR LAS DESVIACIONES. 9.- ESTADO DE LAS APORTACIONES COMPLEMENTARIAS COMPROMETIDAS (CASO DE EMPRESAS). Aunque la UIA no es una empresa, aportó $231,250 (doscientos treinta y un mil pesos doscientos cincuenta pesos 00/100 M.N.) para el pago parcial de la licencia del ACSI del 2009, lo que rebasó el monto comprometido al respecto de $100,000 (cien mil pesos 00/100 M.N.) y los $23,000 (veinte y tres mil pesos 00/100 M.N.) para publicaciones. 5 FONDO SECTORIAL DE INVESTIGACIÓN PARA EL DESARROLLO SOCIAL SEDESOL-CONACYT 10.- COMPROMISOS PARA EL PERÍODO SIGUIENTE. ____________________________________________ ___________________________ DRA. MARÍA ODETTE LOBATO CALLEROS 31 DE JULIO DE 2011 NOMBRE Y FIRMA DEL DIRECTOR DE PROYECTO FECHA 6