miércoles, 7 de octubre de 2009

A casi un año

Pues sigo en la maestría pero he tenido que trasladar mi portafolios de evidencias a otros blogs con compañeros; trataré de ligarlos. Mientras tanto, y si alguien llega por aquí, por favor, por favor, por favor, busquen la entrada "Otras cosas Interesantes" de julio, háganle comentarios y platiquemos de lecturas, me encantaría.

Luz

martes, 9 de diciembre de 2008

Reporte de Investigación

Resumen

En el contexto del trabajo nacional de evaluación educativa, el presente estudio se plantea indagar si los titulares de las Áreas Estatales de Evaluación (AEE) consideran impuesto y ajeno el trabajo derivado de los proyectos que promueve el Instituto Nacional para la Evaluación de la Educación (INEE). Los resultados permiten afirmar que en efecto, esta concepción existe y fundamentalmente surge cuando se percibe que las tareas han sido diseñadas ignorando las particularidades estatales y/o no se consulta a los grupos estatales como ellos lo esperan. Por otra parte, los datos permiten afirmar que los titulares de las AEE, si bien pueden mostrarse muy críticos, pocos de ellos toman cabalmente, responsabilidades como miembros del Consejo Consultivo. Todo esto ocurre en un marco, donde es indispensable considerar la heterogeneidad que se observa en la conformación de las AEE y que se refleja en la diversidad de opiniones y actitudes de los titulares de las mismas hacia el trabajo que desarrollan con el INEE. En fin, la integración plena aún está por lograrse, pero sin duda el intercambio de apoyos y el respeto mutuo son herramientas indispensables.


Introducción

La preocupación por la calidad de la educación es un aspecto considerado cada vez más frecuentemente por los gobiernos, particularmente desde la segunda mitad del siglo XX, esta preocupación, que es aún más acusada en un entorno globalizado como el actual, ha permeado la investigación, la administración y hasta la gestión de los servicios educativos.

Como consecuencia, el ejercicio de la evaluación tiene cada vez más importancia gracias a que se concibe como la herramienta idónea para saber cómo están siendo las cosas y así, tener elementos para mejorar aspectos específicos y como consecuencia elevar la calidad de los servicios educativos que se brindan y por tanto, los niveles de aprendizaje de la población que se atiende.

Es fundamentalmente por esta situación que en muchos países y, en las últimas tres décadas en América Latina, las evaluaciones estandarizadas han adquirido cada vez más importancia. El desarrollo de este tipo de estudios ha traído como consecuencia la creación de los sistemas nacionales de evaluación en diversos países.

Integrar y poner en funcionamiento un sistema de evaluación que contribuya eficientemente con la calidad de la educación no es una labor sencilla, se requiere de que exista una auténtica voluntad política por parte de los administradores de los servicios educativos y de recursos suficientes, dirección adecuada y, según algunos planteamientos, absoluta independencia de las instancias gubernamentales dedicadas a la educación. Además, también en la opinión de muchos de los expertos en el tema, es indispensable que las unidades responsables tengan estabilidad en su personal y absoluta autonomía para reportar con toda libertad los resultados de su trabajo. (Ravela, P. et. al. 2008)


Concretamente en México en la década de los 90 y a través de la Dirección General de Evaluación de la SEP, inició el proyecto denominado Fortalecimiento de las Áreas Estatales de Evaluación, como parte del componente de evaluación educativa del Programa para Abatir el Rezago Educativo en Educación Básica (PAREB), financiado por el Banco Mundial y administrado por el CONAFE.

Este proyecto consideraba la formación en la acción de grupos técnicos en los estados, los cuales se encargaran de proyectos de evaluación educativa a nivel local y de manera simultánea, colaboraran con el desarrollo de proyectos de evaluación nacional, promovidos por la misma DGE de la SEP.

El proyecto de fortalecimiento de estos grupos consideró capacitación teórica y en la práctica, equipamiento y otros apoyos. Además, en este marco, se instauró el Comité Técnico Interestatal de Evaluación (CTIE), como órgano de consenso y acuerdo para el desarrollo de las acciones nacionales de evaluación educativa, grupo que coordinaba la DGE y estaba integrado por los titulares de las Áreas Estatales de Evaluación de las 32 entidades federativas del país.

Los proyectos de evaluación se desarrollaron a partir de 1997 con éxito y con la participación en general de las 32 entidades a partir de los acuerdos establecidos en el CTIE y en buena medida con el apoyo de los programas compensatorios. Desde la coordinación del proyecto en la SEP, se desarrolló asimismo, un importante esfuerzo de capacitación y se dotó de un equipamiento mínimo a cada uno de los grupos estatales.

Si bien el desarrollo de los estudios nacionales se dio de manera más o menos exitosa, el despegue de estos grupos como auténticos responsables de la evaluación educativa a nivel estatal nunca se efectuó como se esperaba, incluso se hizo común entre los titulares de las AEE la opinión de que sólo eran utilizados por el sector central, como mero personal operativo, para aplicar las pruebas referidas a los estudios nacionales.
A partir de 2003 y con la puesta en marcha del Instituto Nacional para la Evaluación de la Educación (INEE), las evaluaciones nacionales muestrales que venía desarrollando la SEP desaparecieron y el Instituto diseño las propias, encaminadas a la evaluación del sistema educativo con distintos niveles de generalidad, y no a la evaluación de escuelas o alumnos en particular, que es la que en la actualidad desarrolla la SEP. A partir de estos cambios, el CTIE desapareció y el INEE conformó su Consejo Consultivo con los titulares de las Áreas Estatales de Evaluación.

Los estudios de evaluación que el INEE desarrolla actualmente, cuentan con el apoyo de las AEE; no obstante, la integración en el trabajo nacional de evaluación que se efectúa desde el Instituto, sigue presentando problemas y hay razones para suponer que las Áreas Estatales de Evaluación, con frecuencia siguen concibiendo el trabajo relacionado con los estudios promovidos por el INEE, como impuesto por una instancia correspondiente al gobierno federal.

Recientemente se han instrumentado algunas estrategias novedosas para promover la integración y la comunicación del INEE con las AEE y viceversa, las cuales, si bien han mostrado ciertos resultados, no logran aún la integración necesaria.

A juzgar por muchas de sus actuaciones, gran parte de los grupos estatales continúan teniendo opiniones adversas según las cuales, el trabajo relativo a los proyectos nacionales es ajeno e impuesto al estado, aún cuando gracias a tales actividades se obtiene información relevante sobre los niveles de aprendizaje de los alumnos de la educación básica en la entidad, que no es producida por ningún otro organismo. Esta visión, a menudo impacta en la calidad con que se desarrollan las actividades de evaluación nacional en las que los grupos estatales participan.
A partir de estos planteamientos se formularon las preguntas que conforman los ejes de la presente investigación y los objetivos derivados que a continuación se presentan:

Preguntas de Investigación

1. ¿Cuáles son las evidencias de que los titulares de las Áreas Estatales de Evaluación consideran ajenas e impuestas las tareas relacionadas con los levantamientos de datos que el INEE promueve y porqué tales hechos se consideran evidencias?


2. ¿Porqué los titulares de las AEE ven como ajenas e impuestas las tareas derivadas de los levantamientos de datos que el INEE promueve?
Objetivos de investigación

Describir las evidencias que existen de que los titulares de las Áreas Estatales de Evaluación consideran ajenas e impuestas las tareas relacionadas con los levantamientos de datos que el INEE promueve.
Comprobar si los titulares de las AEE ven como ajenas e impuestas las tareas derivadas de los levantamientos de datos que el INEE promueve, porque no perciben suficientes beneficios de las mismas hacia su trabajo personal, como grupo e incluso al conocimiento del sistema educativo en el estado.


Para realizar tanto la recolección de información como el análisis necesario se ha partido de los siguientes conceptos clave:

Evaluación. Actividad mediante la cual se emiten juicios de valor al comparar la situación observada de algo con la situación que según ciertos parámetros debía tener. La evaluación permite en menor o mayor medida el conocimiento de lo que ocurre en comparación con lo esperado o requerido y por tanto, una de sus principales funciones es que puede servir como herramienta para saber lo que hay que mejorar o corregir.

Evaluación educativa. La evaluación aplicada a la educación tiene una importancia creciente en los sistemas educativos de todos los países, si bien algunos ya han desarrollado verdaderos sistemas nacionales de evaluación de la educación y otros se limitan sólo a algunas acciones. En uno y en otro caso, las evaluaciones internacionales circunscritas a los niveles de aprendizaje en un grado educativo o una edad determinada, cuentan con la participación de cada vez más países.

Áreas Estatales de Evaluación. Son grupos estatales que se encargan de la participación de la entidad federativa en las diversas acciones nacionales de evaluación que se desarrollan en México. Si bien las 32 entidades que conforman la federación cuentan con un grupo del tipo, los tamaños, capacidades técnica e incluso niveles jerárquicos al interior de la estructura educativa del estado son en ocasiones muy distintos en función de la entidad de que se trate.

Participan en diversas acciones nacionales de evaluación y particularmente en el desarrollo de los levantamientos de datos requeridos por los diversos estudios y acciones que a este nivel se efectúan.

Son dos las instancias federales que coordinan las acciones de estos grupos estatales el Instituto Nacional para la Evaluación de la Educación (INEE), órgano desconcentrado de la SEP, y la Dirección General de Evaluación de Políticas (DGEP), instancia de la Unidad de Planeación de la SEP.

El INEE se encarga de la evaluación nacional realizando estudios muestrales cuyos objetivos se dirigen fundamentalmente a la evaluación del aprendizaje y a la evaluación de escuelas. Asimismo, es el responsable de la participación de México en evaluaciones internacionales y de desarrollar un sistema de indicadores de calidad de la educación.

La DGEP es la encargada de desarrollar evaluaciones censales para informar a padres y maestros sobre los niveles de aprendizaje de alumnos y escuelas en particular; de los levantamientos de datos relacionados con el Programa de Carrera Magisterial y así como de la participación de la SEP en algunos exámenes de ingreso a diversos niveles educativos.

Levantamientos de datos. Aplicaciones de instrumentos que permiten obtener la información necesaria para realizar las evaluaciones. Tratándose de evaluaciones educativas promovidas por el INEE, incluyen tanto pruebas de aprendizaje como cuestionarios de contexto dirigidos a directores, docentes, alumnos y ocasionalmente a padres de familia.

Operativamente implican una serie de acciones que si bien son coordinadas por el INEE a nivel nacional, se realizan en cada entidad federativa bajo la responsabilidad del Área Estatal de Evaluación correspondiente.

Metodología

A fin de dar respuesta cabal a las preguntas de investigación, se optó por un enfoque metodológico cualitativo, porque éste permite acercarse a la manera en cómo los titulares de las AEE conciben su participación en las actividades de recolección de información que el INEE promueve, y a las razones específicas de tal concepción.

Además, la búsqueda, descripción y análisis de las evidencias a que apuntan las preguntas de investigación, bajo el enfoque cualitativo resulta la manera idónea de acercarse a la caracterización de una parte importante del contexto en la que el hecho a investigar se enmarca, fundamentalmente porque las evidencias existentes provienen de momentos en que se han efectuado levantamientos de datos en su ámbito natural.

Para la recolección de información se recurrió a la entrevista no estructurada de titulares de las AEE (Anexo 1), al análisis de documentos, concretamente de los reportes técnicos de los levantamientos de datos de 2003 a la fecha, y a la observación no estructurada de dos reuniones efectuadas durante el periodo de recolección de información del proyecto (Anexo 2).

El carácter de la investigadora como integrante del área que dentro del INEE es responsable de la relación y el trabajo con las entidades federativas, hizo posible la entrada al contexto real del fenómeno a investigar. Si bien este hecho trajo grandes ventajas para acceder a la información, también es indispensable mencionar que el desarrollo de la investigación coincidió con un cambio en la administración del INEE, concretamente en la dirección general del mismo, lo cual le da al contexto de realización del proyecto un carácter particular, que sin duda marcó las actividades de recogida de información.

Con base en estas condiciones se diseñó la siguiente estrategia de recolección de información:

Realización de entrevistas a profundidad de 3 titulares de AEE
Entrevista 2: 6 de noviembre 20 hrs
Entrevista 3: 8 de noviembre 9 hrs
Entrevista 1: Titular de un Área Estatal de Evaluación
Entrevista 2: Titular de un Área Estatal de Evaluación
Entrevista 3: Titular de un Área Estatal de Evaluación


Observación de la reunión para la difusión de resultados.
Descripción: 7 de noviembre 9 a 15 hrs.
Interpretación:
7 de noviembre de 16 a 19 hrs
8 de noviembre de 8 a 14 hrs y 17 a 20 hrs. Realizar el registro de observación de la reunión de difusión. Investigadora.
Sistematización de información de reportes operativos de las aplicaciones
10 al 17 de noviembre
19 a 20 hrs

Tanto la situación descrita como algunos imprevistos, obligaron a realizar ajustes durante el desarrollo de la estrategia para obtener la información requerida. El siguiente cuadro presenta los resultados del trabajo de recolección de datos realizado:
6 de noviembre 18:00 hrs.Entrevista a un Titular de una de las AEE. No fue posible realizar la entrevista por retraso considerable del titular en la hora de llegada de su vuelo. La entrevista se reprogramó para el 12 de noviembre a las 13:00 hrs., cuando quien será entrevistado estará de nuevo en la ciudad. El 12 de noviembre el entrevistado prefirió no dar la entrevista.

8 de noviembre 20:00 hrs. Entrevista a un Titular de una de las 32 Áreas Estatales de Evaluación. Sólo estaba dispuesto a ofrecer la entrevista siempre que no fuera grabado. Se hizo la entrevista y sólo se tomaron notas que después fueron transcritas.

7 de noviembre de 2008
9:00 a 14:30 hrs. Titulares de las AEE que respondieron a al convocatoria para trabajar con los MAPE (Materiales de apoyo a la docencia) editados por el INEE . En cierto momento de la reunión el trabajo se dividió en dos grupos, sólo uno podía ser observado por la investigadora En uno de los grupos permaneció la investigadora y en otro se puso la grabadora.

8 de noviembre
09:00 hrs.Titular de una de las 32 Áreas Estatales de Evaluación. No fue posible realizar la entrevista porque quien había aceptado ser entrevistado adelantó su regreso y salió de la ciudad, en las primeras horas del sábado. Se solicitó la reprogramación de la entrevista, pero el entrevistado no respondió.

27 de noviembre 16:00 hrs Titular de una de las 32 Áreas Estatales de Evaluación
26 y 27 de noviembre 26 de noviembre 9:00 a 18:00 hrs.
27 de noviembre 9:00 a 16:00 hrs. Miembros del Consejo Consultivo del INEE
Otras acciones de recolección de información

1 al 7 de noviembre Documentación sobre la historia y evolución de las AEE Se han leído y tomado notas de los documentos relevantes, incluyendo dos de ellos que no se habían considerado desde un principio:
Minutas de las 10 reuniones ordinarias del Comité Técnico Interestatal de Evaluación (CTIE)
Minutas de las reuniones del Consejo Consultivo del INEE

10 al 17 de noviembre Sistematizar la información de los reportes operativos de las aplicaciones desarrolladas de 2005 a la fecha. Se realizó la lectura y análisis de los 5 reportes operativos de levantamientos de datos disponibles.

Resultados

Con la información disponible de 2 entrevistas, la observación de una reunión con 16 entidades y el análisis de 5 informes operativos de los levantamientos de datos realizados por el INEE desde su origen, se establecieron categorías de análisis, núcleos y ejes temáticos. Con base en esta estructura se han establecido como resultados de la presente investigación los siguientes:

El INEE y las AEE en el trabajo nacional de evaluación educativa

La realización de las actividades inherentes a los estudios que el INEE desarrolla, en buena medida puede alcanzar su carácter nacional gracias a la participación de las denominadas Áreas Estatales de Evaluación (AEE).

Los levantamientos de datos, sus correspondientes aplicaciones piloto y la distribución de publicaciones del INEE al público interesado en las entidades federativas, son las actividades en las que se solicita apoyo específico de las AEE, esto les representa una buena inversión de tiempo y esfuerzo del equipo que las conforma.

Desde su conformación a la fecha, el INEE ha realizado 20 levantamientos de datos de los cuales más de la mitad, al tratarse de aplicaciones nacionales y no de piloteos de instrumentos, requirieron de la participación de las AEE de las 32 entidades federativas.

En todos los casos el AEE es responsable a nivel estatal del desarrollo del proceso de aplicación. Cada vez que se realiza alguno de estos eventos el AEE nombra a un Coordinador Estatal del mismo, quien se encarga de labores organizativas previas a la aplicación de instrumentos, de atender incidencias durante su desarrollo y, posteriormente, de efectuar el cierre del proceso hasta que el material aplicado regresa al INEE para su procesamiento. El INEE emite toda la normatividad para la actividad, produce los materiales y aporta los recursos económicos para el desarrollo del levantamiento de datos.

Otro aspecto fundamental para describir el apoyo que las AEE brindan al INEE, es el referido a la difusión de las publicaciones del Instituto. El INEE produce un tiraje más o menos amplio, la mayor parte del cual es distribuido de manera proporcional a las AEE para que estos grupos los distribuyan entre el público interesado al interior de la entidad.

Según los documentos normativos, la relación del INEE con las AEE representa la posibilidad de asegurar que los resultados de sus evaluaciones y otros trabajos se utilicen para fundamentar decisiones de mejora, así como la forma de garantizar la cercanía del Instituto con los sistemas educativos estatales (INEE, 2004).

Por su parte las AEE, además de desarrollar el trabajo que ya se ha señalado tienen la posibilidad de efectuar reuniones en sus entidades con autoridades educativas de diverso nivel y de convocar a personal del INEE a las mismas, para que presente los resultados o hable del trabajo que se desarrolla en el Instituto.

Es así que el personal de las Áreas Estatales de Evaluación, si bien tiene un buen número de actividades concretas relacionadas con los estudios que el INEE promueve, éstas se centran fundamentalmente en lo operativo mientras el análisis y tratamiento de asuntos técnicos técnica queda de lado.

Según sus documentos normativos, el INEE nunca se ha propuesto potenciar la formación técnica de grupos estatales de evaluación pero sí de apoyarla en alguna medida, sin embargo, resulta ilustrativo el hecho de que además de algunas actividades aisladas concretas con las entidades federativas, sólo en un ocasión en sus 6 años de existencia, el INEE instrumentó una estrategia para trabajar un informe técnico con cada una de las entidades federativas y si bien se logró hacerlo en 30 de las 32, a la fecha no se ha considerado instrumentar ninguna otra estrategia del tipo.


El INEE y su trabajo con las Áreas Estatales de Evaluación

Los documentos normativos del INEE, si bien establecen como uno de sus órganos colegiados al Consejo Consultivo conformado por los titulares de las 32 entidades federativas del país, no le dan funciones específicas más allá de fortalecer la relación entre las autoridades federales y estatales en materia de evaluación educativa (INEE 2002), esta posición ha permeado el trabajo del propio Consejo.

El INEE ha desarrollado a la fecha 16 reuniones de Consejo Consultivo, en general con la participación de los titulares de las 32 entidades del país. La observación de buena parte de la reunión realizada en noviembre de 2008, permite afirmar que en tales eventos poco se da la discusión y mucho la información de lo que el Instituto ha hecho o requiere que las AEE hagan en el marco de los estudios que el Instituto desarrolla.

Desde esta perspectiva la función consultiva del Consejo es muy limitada por razones diversas. Si bien, el INEE ha hecho esfuerzos para dar al Consejo un carácter más participativo primero, con la puesta en la página web del INEE, de una comunidad virtual específicamente diseñada para este órgano y después, con la conformación de grupos de trabajo que se encuentran dedicados a temáticas específicas del trabajo conjunto; estos trabajos no han resultado tan eficientes como potenciadores de la participación. No obstante, mediante los mismos se ha logrado que la normatividad o los demás elementos que el INEE provee para los levantamientos de datos u otras acciones, resulten menos cuestionadas por el pleno del Consejo, ya que se presentan ante tal como producto del trabajo de los grupos mencionados.

Por otra parte, en consecuencia con los planteamientos de sus documentos normativos, las posibilidades reales del INEE para brindar apoyo técnico a las entidades federativas y concretamente a las AEE en aspectos concretos de su quehacer son muy limitadas. Es cierto que su plantilla de personal no es grande, pero en su estructura y en sus planes de trabajo no se considera cabalmente el apoyo a los estados, más allá de lo que ya se ha comentado.
Las Áreas Estatales de Evaluación y su trabajo con el INEE.

Al analizar el único documento que existe sobre las características de las AEE, puede observarse que en efecto la concepción de lo que es un grupo estatal encargado de la evaluación educativa, es muy distinto de una entidad a otra. La gran mayoría de las mismas reportan como actividades estatales de evaluación, el desarrollo de exámenes de ingreso o labores más relacionadas con lo administrativo o con el manejo de recursos humanos (DGE, 2003).

En la actualidad, concretamente en la participación de los titulares de las AEE como miembros del Consejo Consultivo del INEE, se refleja la extrema heterogeneidad que existe entre estos grupos estatales y la importancia que se da desde el estado al trabajo de evaluación, más allá de responder al requerimiento de las instituciones federales que desarrollan evaluación educativa.

Las AEE en las que, a juzgar por sus características, la autoridad educativa estatal da menor importancia a la actividad de evaluación, normalmente esperan que sea la federación y cuando se trata de proyectos del INEE este Instituto, quien resuelva los problemas que se enfrentan en el estado para desarrollar tal o cual actividad. Una evidencia de este hecho se observó en la reunión al respecto de los materiales de apoyo a los maestros publicados por el INEE recientemente, donde pudo observarse la expectativa de algunas AEE al respecto de que fuera el Instituto quien acudiera a la entidad a encabezar los eventos propuestos, entre otros mecanismos, para la difusión de estos libros.

Por otra parte, al analizar las actividades de los titulares de las AEE integrados a los grupos de trabajo conformados por el INEE al interior del Consejo Consultivo, la evidencia indica que algunas de las entidades que expresaron su interés por participar, sólo lo acudieron a una o dos reuniones y las que permanecen en el grupo, más que discutir las propuestas concretas del INEE se limitan a validarlas sin demasiada discusión. Los resultados de estos trabajos se llevan al Consejo Consultivo como avalados por las AEE participantes en el grupo de trabajo y la discusión, entonces prácticamente no se da.

El trabajo de las AEE con el INEE ¿impuesto y ajeno?

A pesar de la situación hasta aquí planteada, a 12 años de actividades con la SEP y 6 con el INEE, las AEE han desarrollado experiencia en el trabajo relacionado con la evaluación educativa. A juicio de los entrevistados, la experiencia ha influido de formas diversas dependiendo de las características específicas del sistema educativo estatal y de la correspondiente AEE.

Los titulares entrevistados manifiestas que han tenido la impresión de no ser considerados como iguales por las instancias que promueven la evaluación desde la federación y eso provoca que en mayor o menor medida, la respuesta sea la mínima indispensable para que el estado no desaparezca de los reportes nacionales de resultados. Y se dice en menor o en mayor medida, porque, según estos juicios, en este aspecto se expresan, como es de esperar, las diferencias en la conformación de las propias AEE y del apoyo que les brinda la autoridad educativa estatal.

Independientemente de este hecho, las observaciones y entrevistas realizadas, así como el análisis de los documentos considerados, permiten afirmar que el trabajo de evaluación promovido desde la federación, en efecto se considera como impuesto y ajeno, pero sólo cuando el AEE por alguna circunstancia particular no logra adaptar la normatividad emitida por el INEE a sus circunstancias particulares. Aún en caso contrario las AEE buscan cumplir en lo mínimo, dado el beneficio de que desde la federación se emitan resultados para el estado implica un valor importante para todas las entidades federativas.
Conclusiones

El INEE y las AEE en el trabajo nacional de evaluación educativa

La federación, desde las instancias con que cuenta para promover y desarrollar el trabajo nacional de evaluación educativa, parece tener presente, en el discurso y en muchas de sus iniciativas, que esta tarea sólo puede desarrollarse con la participación de los sistemas educativos estatales y, particularmente, de las Áreas Estatales de Evaluación.

De igual forma, las Áreas Estatales de Evaluación están conscientes que sin su participación, el trabajo nacional de evaluación educativa estaría por demás limitado e incluso muy probablemente, las propias entidades no podrían tener un referente de su situación educativa con respecto al país.

En consecuencia el trabajo nacional de evaluación en México por las propias características del sistema educativo, requiere que tanto la federación como las entidades federativas, se involucren activamente en la tarea de evaluar el sistema educativo nacional y los involucrados están conscientes de eso.

No obstante, pese que podría denominarse un acuerdo general, llevar este acuerdo implícito al quehacer cotidiano ha resultado difícil y complejo.

El INEE y su trabajo con las Áreas Estatales de Evaluación

El INEE se ha planteado desde sus documentos normativos, involucrar a las entidades federativas y concretamente a las AEE en su quehacer cotidiano, tan es así que su Consejo Consultivo está conformado por los titulares de cada una de las Áreas Estatales de Evaluación. No obstante, y a pesar de haber dirigido algunos esfuerzos directamente a esta cuestión, no ha logrado que el Consejo Consultivo se erija como tal de manera plena. En algunos de los titulares de las AEE prevalece la opinión de que como consejeros, no se le consulta, simplemente se le informan las actividades.

El INEE sabe de tales opiniones y se esfuerza por ser consecuente con sus documentos normativos, pero hasta la fecha las acciones que ha emprendido para que así sea han funcionado para limitar las discusiones al interior de las reuniones de Consejo Consultivo, pero aún no para potenciar este consejo como tal.

Dadas las evidencias quizá convendría que el INEE reanalizara la función de su Consejo Consultivo y estableciera con mucha más claridad el propósito del mismo como uno de los órganos colegiados del Instituto.

Las AEE y su trabajo con el INEE

Para los grupos estatales no ha resultado fácil tampoco insertarse en una dinámica de trabajo auténticamente federalista en el marco de la evaluación educativa.

En algunos casos, si no en la mayoría, la falta de capacitación, infraestructura, presupuesto y auténtico compromiso de la entidad para conformar un grupo técnico que se encargue de la evaluación educativa, ha provocado que tales grupos tengan como única tarea el desarrollo de las acciones vinculadas con la tarea nacional de evaluación.

En muchos casos estos grupos esperan que sea la federación quien resuelva sus carencias para desarrollar las tareas o incluso para desarrollar algún proyecto específico de evaluación educativa encargada por sus autoridades.

En otros casos la situación es distinta, pero se le dan al AEE tareas extra, más allá de la evaluación, muchas veces de carácter administrativo que las alejan de la tarea evaluativa.
En estas condiciones resulta difícil para los grupos estatales insertarse eficientemente, como participantes activos en un trabajo de evaluación educativa promovido por la federación.

Por otra parte es necesario considerar que la coordinación entre las instancias que desde la federación se encargan del trabajo nacional de evaluación (INEE Y DGEP), es difícil y a menudo las tareas operativas relacionadas con levantamientos de datos de una y otra instancia abruman a muchas de las Áreas Estatales de Evaluación, esto obviamente no trabaja en favor del desarrollo técnico de estos grupos sin el cual no podrán erigirse como participantes activos y propositivos en las acciones nacionales de evaluación.

Además, por su propia naturaleza, las AEE son grupos heterogéneos cuyas características dependen de la situación particular del estado y específicamente de la posición del gobierno estatal hacia la evaluación educativa. Tal heterogeneidad hace aún más complejo la participación de éstas áreas al interior del Consejo Consultivo del INEE. Es un reto para cualquier instancia federal, desarrollar un trabajo concertado con las AEE considerando sus diferencias.

El trabajo con el INEE ¿impuesto y ajeno?

Los titulares de las AEE pueden mostrarse críticos en ciertos momentos, particularmente por no sentir que en realidad son consultados como miembros de un Consejo Consultivo, pero nunca aceptarán explícitamente que el trabajo del INEE les parece impuesto y ajeno. No obstante, y aunque bajo ciertas circunstancias existen evidencias de tal hecho.

La calidad del trabajo en grupos que el INEE ha impulsado recientemente para promover la participación de las AEE en las decisiones, es también una muestra importante de la actitud con las que estos grupos han acostumbrado participar en tareas del tipo, opinando sin involucrarse.
Por otra parte, y observando exclusivamente lo que corresponde a las actividades con una carga más operativa, las evidencias permiten afirmar que las AEE consideran ajeno e impuesto el trabajo derivado de los proyectos que el INEE promueve principalmente cuando consideran que ha sido diseñado sin tomar en cuenta las particularidades de la entidad federativa y no logran realizar la adaptación de la normatividad a éstas últimas.

Asimismo el hecho de que desde la perspectiva de algunos de los titulares de AEE, en numerosas ocasiones el Consejo Consultivo no sea tratado como consultor, es una cuestión que obstaculiza el trabajo armónico entre el INEE y las AEE en el marco del trabajo nacional de evaluación educativa que desarrollan.

Las AEE y el INEE tienen retos importantes en la realización del trabajo que desarrollan, la claridad en la definición de responsabilidades y el respeto mutuo son condiciones indispensables para que se integren armónica y efectivamente, a ambos corresponde trabajar para lograrlo en un marco de auténtico federalismo.


Referencias

_____/Dirección Evaluación del Proceso Educativo. (2003) Balance general del
establecimiento y operación de las Áreas Estatales de Evaluación. México:
Documento Interno

De Landsheere, G (1999 2ª. Ed.). El Pilotaje de los Sistemas Educativos. Madrid,
Ed. La Muralla.

Dirección General de Evaluación (2002). La experiencia de la Dirección General
de Evaluación en la Educación Básica y Normal. Treinta años de medición del
logro educativo. Documento Interno

Instituto Nacional para la Evaluación de la Educación (2004) Documentos
Institucionales. México: INEE

Instituto Nacional para la Evaluación de la Educación (2004) Hacia un Nuevo
Paradigma para la Evaluación Educativa. México: INEE

Instituto Nacional para la Evaluación de la Educación (2006) Plan Maestro de
Desarrollo 2007-2014. México: INEE

Instituto Nacional para la Evaluación de la Educación (2002) ¿Qué es el INEE?
México: INEE Instituto Nacional para la Evaluación de la Educación (2006)
Políticas y sistemas de evaluación educativa en México. Avances, logros y
desafíos. Informe para la Región Ministerial de Grupo E-9 (UNESCO). México:
INEE

Ravela, P., Arregui, P., Valverde, G., Wolfe, R., Ferrer G., Martínez, F., Aylwin, M.,
Wolf, L. Las Evaluaciones Educativas que América Latina necesita.
Recuperado el 3 de octubre de
http://www.rinace.net/riee/numeros/vol1-num1/art4.html

Secretaría de Educación Pública. H Congreso de la Unión (2002) La Calidad de la
Educación en México. Perspectivas, análisis y evaluación. México: Miguel
Ángel Porrúa.

Secretaría de Educación Pública-Instituto Estatal de Educación Pública de
Oaxaca. (1999) Seminario Internacional de Evaluación de la Calidad de la
Educación Básica. México: Dirección General de Evaluación

Zorrilla, M. (Coord.). (2003). La evaluación de la educación básica en México.
1990 -2000: una mirada a contraluz. México: Universidad Autónoma de
Aguascalientes.


Anexo 1


Observación de la reunión del 7 de noviembre

Guía de Observación

Se empleará la observación no estructurada, concretamente del tipo “participante como observador”, durante la reunión que se efectuará el día 7 de noviembre.

En la observación se empleará como guía las siguientes preguntas:

¿Los titulares de las Áreas Estatales de Evaluación ven como ajeno e impuesto el trabajo que se deriva de los proyectos que el INEE promueve?

¿Formulan propuestas claras y concretas para efectuar la difusión de los materiales en su entidad?

¿Qué tipo de apoyos solicitan del INEE?



Observación de la reunión del 27 y 28 de noviembre

Guía de Observación

¿Los titulares de las AEE manifiestan dudas o desacuerdos técnicos sobre la información presentada?

¿Los titulares de las AEE manifiestan desacuerdos operativos sobre la información presentada y en su caso proponen alternativas?

¿Las presentaciones por parte del INEE dan lugar a la emisión de opiniones por parte de los titulares de las AEE o en su caso a la discusión tanto en las cuestiones técnicas como en las operativas?
Anexo 2


Entrevistas
Las entrevistas se desarrollarán a partir de la siguiente pregunta detonante:
¿Qué ha representado para el Área Estatal de Evaluación que tú diriges el trabajo que se deriva de los estudios que el INEE promueve?

Asimismo, como orientación a partir de la pregunta detonante se considerarán las siguientes:

¿El personal que integra el AEE ha aprendido cosas nuevas a partir de su participación en actividades relacionadas con los estudios que el INEE promueve?

¿Qué ha representado para ti en lo laboral y en lo profesional tu participación en el Consejo Consultivo del INEE?

¿Cómo ha impactado la información que el INEE genera el conocimiento de los niveles de aprendizaje que presentan los alumnos de educación básica de tu estado?

¿Cuáles serían tus sugerencias para hacer más significativo y útil para el Área Estatal de Evaluación su participación en las actividades relacionadas con los estudios que el INEE promueve?

Trabajo final de 2° Taller de investigación

Estrategia de recopilación de información

Redacción de la pregunta o preguntas detonantes de la entrevista en profundidad
1 día
Miércoles 29 de octubre 18 hrs. a 20 hrs.
Revisar nuevamente el proyecto de investigación y redactar la pregunta o preguntas detonantes de las entrevistas a profundidad, hasta llegar a su versión final.
Investigadora
Definición del tipo de observación no estructurada que se instrumentará durante la reunión del 7 de noviembre y preparación de diario de campo
1 día
Jueves 30 de octubre 18 a 22 hrs.
Revisión de notas de la revisión de bibliografía sobre la observación hecha con anterioridad. Definir por escrito el tipo de observación a realizar y la estructura del diario de campo
Investigadora
Revisión de bibliografía sobre la historia y evolución de las AEE
8 días

1 y 2 de noviembre 10 a 15 hrs.
3 al 7 de noviembre 19 a 21 hrs.
Lectura de bibliografía seleccionada sobre la historia y evolución de las AEE. Definición de la información al respecto que se incluirá en el reporte final
Investigadora
Realización de entrevistas a profundidad de 3 titulares de AEE

2 días
Entrevista 1: 6 de noviembre 18 hrs.
Entrevista 2: 6 de noviembre 20 hrs
Entrevista 3: 8 de noviembre 9 hrs
Realizar las entrevistas a profundidad a partir de la pregunta o preguntas detonante
Investigadora
Entrevista 1: Titular del Área Estatal de Evaluación del estado de Puebla
Entrevista 2: Titular del Área Estatal de Evaluación del estado de Tabasco
Entrevista 3: Titular del Área Estatal de Evaluación del estado de Colima

Observación de la reunión para la difusión de resultados.
1 día
Descripción: 7 de noviembre 9 a 15 hrs.
Interpretación:
7 de noviembre de 16 a 19 hrs
8 de noviembre de 8 a 14 hrs y 17 a 20 hrs.
Realizar el registro de observación de la reunión de difusión.
Investigadora.
Participantes en la reunión:
Investigadora
Personal del INEE y titulares de las Áreas Estatales de Evaluación de los estados de
Colima, Jalisco, México, Nayarit, Nuevo León, Oaxaca, Puebla, Querétaro, Quintana Roo, Sinaloa, Sonora, Tabasco y Veracruz

Sistematización de información de reportes operativos de las aplicaciones
5 días
10 al 17 de noviembre
19 a 20 hrs
Sistematizar la información de los reportes operativos de las aplicaciones desarrolladas de 2005 a la fecha
Investigadora

Los instrumentos para la recolección de información

Observación
Se empleará la observación no estructurada, concretamente del tipo “participante como observador”, durante la reunión que se efectuará el día 7 de noviembre.
En la observación se empleará como guía las siguientes preguntas:
¿Los titulares de las Áreas Estatales de Evaluación ven como ajeno e impuesto el trabajo que se deriva de los proyectos que el INEE promueve?
¿Formulan propuestas claras y concretas para efectuar la difusión de los materiales en su entidad?
¿Qué tipo de apoyos solicitan del INEE?

Se buscará grabar la reunión y la investigadora llevará un registro descriptivo del desarrollo de la misma.

También fue posible emplear la observación no estructurada en buena parte de la Tercera reunión de Consejo Consultivo del 2008 que se realizó los días 27 y 28 de noviembre de 2008 y en la que se emplearon las siguientes preguntas como guía de observación:

¿Los titulares de las AEE manifiestan dudas o desacuerdos técnicos sobre la información presentada?
¿Los titulares de las AEE manifiestan desacuerdos operativos sobre la información presentada y en su caso proponen alternativas?
¿Las presentaciones por parte del INEE dan lugar a la emisión de opiniones por parte de los titulares de las AEE o en su caso a la discusión tanto en las cuestiones técnicas como en las operativas?

Entrevistas a profundidad

Las entrevistas a profundidad se desarrollarán a partir de la siguiente pregunta detonante:
¿Qué ha representado para el Área Estatal de Evaluación que tú diriges el trabajo que se deriva de los estudios que el INEE promueve?

Asimismo, como orientación a partir de la pregunta detonante se considerarán las siguientes:

¿El personal que integra el AEE ha aprendido cosas nuevas a partir de su participación en actividades relacionadas con los estudios que el INEE promueve?
¿Qué ha representado para ti en lo laboral y en lo profesional tu participación en el Consejo Consultivo del INEE?
¿Cómo ha impactado la información que el INEE genera el conocimiento de los niveles de aprendizaje que presentan los alumnos de educación básica de tu estado?
¿Cuáles serían tus sugerencias para hacer más significativo y útil para el Área Estatal de Evaluación su participación en las actividades relacionadas con los estudios que el INEE promueve?

Análisis de documentos
La información de los reportes operativos de los levantamientos de datos de 2004 a la fecha, será sistematizada con base en el tipo de desviaciones del procedimiento establecido reportadas. A partir de una lista genérica de los problemas operativos más frecuentes en los levantamientos de datos, se sistematizará su incidencia en cada uno de ellos y se comparará el comportamiento de cada categoría a través del tiempo. Se observarán particularmente las incidencias relacionadas con problemas de capacitación de los aplicadores, ya que la capacitación de los mismos ha sido desde siempre una actividad que tienen bajo su responsabilidad las Áreas Estatales de Evaluación.

2. Instrumentos para recopilar información
Resumen de la aplicación de instrumentos


6 de noviembre
18:00 hrs.
Titular de una de las AEE
No fue posible realizar la entrevista por retraso considerable del titular en la hora de llegada de su vuelo.
La entrevista se reprogramó para el 12 de noviembre a las 13:00 hrs., cuando quien será entrevistado estará de nuevo en la ciudad

8 de noviembre
20:00 hrs.
Titular de una de las 32 Áreas Estatales de Evaluación
Sólo estaba dispuesto a ofrecer la entrevista siempre que no fuera grabado
Se hizo la entrevista y sólo se tomaron notas que después fueron transcritas.

7 de noviembre de 2008
9:00 a 14:30 hrs.
Titulares de las AEE que respondieron a al convocatoria para trabajar con los MAPE (Materiales de apoyo a la docencia) editados por el INEE
En cierto momento de la reunión el trabajo se dividió en dos grupos, sólo uno podía ser observado por la investigadora
En uno de los grupos permaneció la investigadora y en otro se puso la grabadora

8 de noviembre
09:00 hrs.
Titular de una de las 32 Áreas Estatales de Evaluación
No fue posible realizar la entrevista porque quien había aceptado ser entrevistado adelantó su regreso y salió de la ciudad, en las primeras horas del sábado.
Se solicitó la reprogramación de la entrevista, pero aún el entrevistado no ha confirmado.
Otras acciones de recolección de información:

1 al 7 de noviembre
Documentación sobre la historia y evolución de las AEE
Se han leído y tomado notas de los documentos que se piensa considerar, incluyendo dos de ellos que no se habían considerado desde un principio:
Minutas de las 10 reuniones ordinarias del Comité Técnico Interestatal de Evaluación (CTIE)
Minutas de las reuniones del Consejo Consultivo del INEE

10 al 17 de noviembre
Sistematizar la información de los reportes operativos de las aplicaciones desarrolladas de 2005 a la fecha.
Se realizó la lectura y análisis de los 5 reportes operativos de levantamientos de datos disponibles.

3. Resultados de la Aplicación (cuadro resumen)

Con la información disponible de 2 entrevistas, la observación de una reunión con 16 entidades y el análisis de 5 informes operativos de los levantamientos de datos realizados por el INEE desde su origen, se ensayó el establecimiento de categorías de análisis, núcleos y ejes temáticos que se establece en el cuadro que aparece a continuación:

El trabajo nacional de evaluación educativa desde la federación
El INEE y las AEE en el trabajo nacional de evaluación educativa
1. Beneficios para el INEE del trabajo conjunto con las Áreas Estatales de Evaluación.
2. Beneficios para las Áreas Estatales de Evaluación del trabajo conjunto con el INEE.
3. Actitudes del INEE que pueden parecer paternalistas.
4. Evidencias de la falta de trabajo colegiado entre las AEE y el INEE

El INEE y su trabajo con las Áreas Estatales de Evaluación
5. Posibilidades reales del INEE para apoyar a las Áreas Estatales de Evaluación en lo que ellas requieran, para el desarrollo del trabajo que el propio Instituto promueve.
6. Respuestas del INEE a propuestas de trabajo conjunto surgidas desde las entidades federativas.
7. Solicitud de las entidades de que, aún al interior de la entidad, el INEE se encargue de las actividades que propone desarrollar con su apoyo.

El trabajo nacional de evaluación educativa desde las entidades federativas
Las AEE y su trabajo con el INEE
8. Compromiso efectivo de seguimiento de las acciones por parte de las entidades federativas.
9. Desarrollo del trabajo estatal de evaluación
10. Evidencias del interés real de las Áreas Estatales de Evaluación en el trabajo conjunto con el INEE.
11. Interés y posibilidades de las Áreas Estatales de Evaluación de relacionarse directamente con los niveles y autoridades educativas de su entidad.
12. Impacto de que el INEE promueva estrategias nacionales únicas para entidades diferentes.
13. Las AEE son instancias más administrativas o más técnicas dependiendo de la entidad.
14. Factores que determinan el carácter más administrativo o más técnico del las AEE. 15. Diseño de estrategias de trabajo uniformes para todo el país sin considerar diferencias estatales u opiniones de las AEE.
16. Heterogeneidad de experiencia y formación del personal de las AEE.
17. Falta de coordinación de acciones entre SEP e INEE, desconcierto de Áreas Estatales de Evaluación.

El trabajo con el INEE ¿impuesto y ajeno?
18. Inconformidad abierta de la entidad por el “centralismo” del INEE (DF o Aguascalientes).
19. Evidencias de respuesta mínima indispensable de las entidades para continuar en buenos términos la relación con el INEE.




4. Análisis de información

El INEE y las AEE en el trabajo nacional de evaluación educativa

La realización de las actividades inherentes a los estudios que el INEE desarrolla, en buena medida puede alcanzar su carácter nacional gracias a la participación de las denominadas Áreas Estatales de Evaluación (AEE).

Los levantamientos de datos, sus correspondientes aplicaciones piloto y la distribución de publicaciones del INEE al público interesado en las entidades federativas, son las actividades en las que se solicita apoyo específico de las AEE, esto les representa una buena inversión de tiempo y esfuerzo del equipo que las conforma.

Desde su conformación a la fecha, el INEE ha realizado 20 levantamientos de datos de los cuales más de la mitad, al tratarse de aplicaciones nacionales y no de piloteos de instrumentos, requirieron de la participación de las AEE de las 32 entidades federativas.

El AEE es responsable a nivel estatal del desarrollo del proceso de aplicación. Cada vez que se realiza alguno de estos eventos el AEE nombra a un Coordinador Estatal del mismo, quien se encarga de labores organizativas previas a la aplicación de instrumentos, de atender incidencias durante su desarrollo y, posteriormente, de efectuar el cierre del proceso hasta que el material aplicado regresa al INEE para su procesamiento. El INEE emite toda la normatividad para la actividad, produce los materiales y aporta los recursos económicos para el desarrollo del levantamiento de datos.

Otro aspecto fundamental para describir el apoyo que las AEE brindan al INEE es el referido a la difusión de las publicaciones del Instituto. El INEE produce un tiraje más o menos amplio, la mayor parte del cual es distribuido de manera proporcional a las AEE para que estos grupos los distribuyan entre el público interesado al interior de la entidad.

Según los documentos normativos, la relación del INEE con las AEE representa la posibilidad de asegurar que los resultados de sus evaluaciones y otros trabajos se utilicen para fundamentar decisiones de mejora, así como la forma de garantizar la cercanía del Instituto con los sistemas educativos estatales (INEE, 2004).

Por su parte las AEE, además de desarrollar el trabajo que ya se ha señalado tienen la posibilidad de efectuar reuniones en sus entidades con autoridades educativas de diverso nivel y de convocar a personal del INEE a las mismas para que presente los resultados o hable del trabajo que se desarrolla en el Instituto.
Es así que el personal de las Áreas Estatales de Evaluación, si bien tiene un buen número de actividades concretas relacionadas con los estudios que el INEE promueve, éstas se centran fundamentalmente en lo operativo mientras el análisis y tratamiento de asuntos técnicos técnica queda de lado.

Según sus documentos normativos, el INEE nunca se ha propuesto potenciar la formación técnica de grupos estatales de evaluación pero sí de apoyarla en alguna medida, sin embargo, resulta ilustrativo el hecho de que además de algunas actividades aisladas concretas con las entidades federativas, sólo en un ocasión en sus 6 años de existencia, el INEE instrumentó una estrategia para trabajar un informe técnico con cada una de las entidades federativas y si bien se logró hacerlo en 30 de las 32, a la fecha no se ha considerado instrumentar ninguna otra estrategia del tipo.

El INEE y su trabajo con las Áreas Estatales de Evaluación

Los documentos normativos del INEE, si bien establecen como uno de sus órganos colegiados al Consejo Consultivo conformado por los titulares de las 32 entidades federativas del país, no le dan funciones específicas más allá de fortalecer la relación entre las autoridades federales y estatales en materia de evaluación educativa (INEE 2002), esta posición ha permeado el trabajo del propio Consejo.

El INEE ha desarrollado a la fecha 16 reuniones de Consejo Consultivo, en general con la participación de los titulares de las 32 entidades del país. La observación de buena parte de la reunión realizada en noviembre de 2008, permite afirmar que en tales eventos poco se da la discusión y mucho la información por parte del INEE hacia los estados, de lo que el Instituto ha hecho o requiere que las AEE hagan en el marco de los estudios que desarrolla.

Desde esta perspectiva la función consultiva del Consejo es muy limitada por razones diversas. Si bien, el INEE ha hecho esfuerzos para dar al Consejo un carácter más participativo primero, con la puesta en la página web del INEE, de una comunidad virtual específicamente diseñada para este órgano y después, con la conformación de grupos de trabajo que se encuentran dedicados a temáticas específicas del trabajo conjunto; estos trabajos no han resultado tan eficientes como potenciadores de la participación. No obstante, mediante los mismos se ha logrado que la normatividad o las demás cosas que el INEE provee para los levantamientos de datos u otras acciones, resulten menos cuestionadas por el pleno del Consejo ya que se presentan ante tal como producto del trabajo de los grupos mencionados.


Por otra parte, en consecuencia con los planteamientos de sus documentos normativos, las posibilidades reales del INEE para brindar apoyo técnico a las entidades federativas y concretamente a las AEE en aspectos concretos de su quehacer es muy limitada. Es cierto que su plantilla de personal no es grande, pero su estructura y en sus planes de trabajo no se considera cabalmente el apoyo a los estados, más allá de lo que ya se ha comentado.


Las Áreas Estatales de Evaluación y su trabajo con el INEE.

Al analizar el único documento que existe sobre las características de las AEE, puede observarse que en efecto la concepción de lo que es un grupo estatal encargado de la evaluación educativa, es muy distinto de una entidad a otra. La gran mayoría de las mismas reportan como actividades estatales de evaluación el desarrollo de exámenes de ingreso o labores más relacionadas con lo administrativo o con el manejo de recursos humanos (DGEE, 2003).

En la actualidad, concretamente en la participación de los titulares de las AEE como miembros del Consejo Consultivo del INEE, se refleja la extrema heterogeneidad que existe entre estos grupos estatales y la importancia que se da desde el estado al trabajo de evaluación más allá de responder al requerimiento de las instituciones federales que desarrollan evaluación educativa.

Las AEE en las que, a juzgar por sus características, la autoridad educativa estatal da menor importancia a la actividad de evaluación, normalmente esperan que sea la federación y cuando se trata de proyectos del INEE este Instituto, quien resuelva los problemas que se enfrentan en el estado para desarrollar tal o cual actividad. Una evidencia de este hecho se observó en la reunión al respecto de los materiales de apoyo a los maestros publicados por el INEE recientemente, donde pudo observarse la expectativa de algunas AEE al respecto de que fuera el Instituto quien acudiera a la entidad a encabezar los eventos propuestos, entre otros mecanismos, para la difusión de estos libros.

Por otra parte, al analizar las actividades de los titulares de las AEE integrados a los grupos de trabajo conformados por el INEE al interior del Consejo Consultivo, la evidencia indica que algunas de las entidades que expresaron su interés por participar, sólo lo hicieron en una o dos reuniones y las que permanecen en el grupo, más que discutir las propuestas concretas del INEE se limitan a validarlas sin demasiada discusión. Los resultados de estos trabajos se llevan al Consejo Consultivo como avalados por las AEE participantes en el grupo de trabajo y la discusión, entonces prácticamente no se da.


El trabajo de las AEE con el INEE ¿impuesto y ajeno?

A pesar de la situación hasta aquí planteada, a 12 años de actividades con la SEP y 6 con el INEE, las AEE han desarrollado experiencia en el trabajo relacionado con la evaluación educativa. A juicio de los entrevistados, la experiencia ha influido de formas diversas dependiendo de las características específicas del sistema educativo estatal y de la propia AEE correspondiente. En general se ha tenido la impresión de no ser considerados como iguales por las instancias que promueven la evaluación desde la federación y eso provoca que en mayor o menor medida, la respuesta sea la mínima indispensable para que el estado no desaparezca de los reportes nacionales de resultados. Y se dice en menor o en mayor medida, porque de nuevo en este aspecto se expresan, como es de esperar, las diferencias en la conformación de las propias AEE y del apoyo que les brinda la autoridad educativa estatal.

Independientemente de este hecho, las observaciones y entrevistas realizadas, así como el análisis de los documentos considerados, permiten afirmar que el trabajo de evaluación promovido desde la federación, en efecto se considera como impuesto y ajeno, pero sólo cuando el AEE por alguna circunstancia particular no logra adaptar la normatividad emitida por el INEE a sus circunstancias particulares, pues el beneficio de que desde la federación se emitan resultados para el estado implica un valor importante para todas las entidades federativas.


5. Conclusiones

INEE y AEE partes fundamentales del trabajo nacional de evaluación

La federación, desde las instancias con que cuenta para promover y desarrollar el trabajo nacional de evaluación educativa, parece tener presente, tanto en el discurso como en muchas de sus iniciativas, que esta tarea sólo puede desarrollarse con la participación de los sistemas educativos estatales y, particularmente, de las Áreas Estatales de Evaluación.

De igual forma, las Áreas Estatales de Evaluación están conscientes que sin su participación, el trabajo nacional de evaluación educativa estaría por demás limitado e incluso muy probablemente, las propias entidades no podrían tener un referente de su situación educativa con respecto al país.

En consecuencia el trabajo nacional de evaluación en México por las propias características del sistema educativo, requiere que tanto la federación como las entidades federativas, se involucren activamente en la tarea de evaluar el sistema educativo nacional y los involucrados están conscientes de eso.
No obstante, pese que podría denominarse un acuerdo general, llevar este acuerdo implícito al quehacer cotidiano ha resultado difícil y complejo.

El INEE como institución federalista

El INEE se ha planteado desde sus documentos normativos, involucrar a las entidades federativas y concretamente a las AEE en su quehacer cotidiano, tan es así que su Consejo Consultivo está conformado por los titulares de cada una de las Áreas Estatales de Evaluación. No obstante, y a pesar de haber dirigido algunos esfuerzos directamente a esta cuestión, no ha logrado que el Consejo Consultivo se erija como tal de manera plena. En algunos de los titulares de las AEE, prevalece la opinión de que como consejeros, no se le consulta, simplemente se le informan las actividades.

El INEE sabe de tales opiniones y se esfuerza por ser consecuente con sus documentos normativos, pero hasta la fecha las acciones que ha emprendido para que así sea han funcionado para limitar las discusiones al interior de las reuniones de Consejo Consultivo, pero aún no para potenciar este consejo como tal.

Las AEE como instituciones federalistas

Para los grupos estatales no ha resultado fácil tampoco insertarse en una dinámica de trabajo auténticamente federalista en el marco de la evaluación educativa.

En algunos casos, si no en la mayoría, la falta de capacitación, infraestructura, presupuesto y auténtico compromiso de la entidad para conformar un grupo técnico que se encargue de la evaluación educativa, ha provocado que tales grupos tengan como única tarea el desarrollo de las acciones vinculadas con la tarea nacional de evaluación. En general tales grupos esperan que sea la federación quien resuelva sus carencias para desarrollar estas tareas o incluso para desarrollar alguna tarea específica de evaluación educativa encargada por sus autoridades.

En otros casos la situación es distinta, pero se le da al AEE tareas extra, más allá de la evaluación, muchas veces de carácter administrativo que las alejan de la tarea evaluativa.

En estas condiciones resulta difícil para los grupos estatales insertarse eficientemente, como participantes activos en un trabajo de evaluación educativa promovido por la federación.


Las actividades de evaluación desde la federación

El INEE y la DGEP son las instancias que desde la federación se encargan del trabajo nacional de evaluación. Tienen asignadas tareas diferentes en cuanto al público al que se destinan los resultados de los proyectos que desarrollan.

La coordinación ha sido difícil y a menudo las tareas operativas relacionadas con levantamientos de datos de una y otra instancia abruman a muchas de las Áreas Estatales de Evaluación, esto obviamente no trabaja a favor de un desarrollo técnico de estos grupos para erigirse en participantes activos y propositivos en las acciones nacionales de evaluación.

Heterogeneidad de las AEE

Por su propia naturaleza las AEE son grupos heterogéneos cuyas características dependen de la situación particular del estado y específicamente de la posición del gobierno estatal hacia la evaluación educativa.

Tal heterogeneidad hace aún más complejo la participación de las AEE al interior del Consejo Consultivo del INEE.

Es un reto para cualquier instancia federal, desarrollar un trabajo concertado con las AEE considerando sus diferencias.

El trabajo con el INEE ¿impuesto y ajeno?

Los titulares de las AEE pueden mostrarse críticos en ciertos momentos, particularmente por no sentir que en realidad son consultados como miembros de un Consejo Consultivo, pero nunca aceptarán explícitamente que el trabajo del INEE les parece impuesto y ajeno. No obstante, y aunque bajo ciertas circunstancias existen evidencias de tal hecho.

La calidad del trabajo en grupos que el INEE ha impulsado recientemente para promover la participación de las AEE en las decisiones, es también una muestra importante de la actitud con las que las AEE han acostumbrado participar en tareas del tipo, opinando sin involucrarse.

Mi proyecto de investigación

1. Planteamiento del problema

En 1996 la Dirección General de Evaluación de la SEP, inició el proyecto denominado Fortalecimiento de las Áreas Estatales de Evaluación (AEE), como parte del componente de evaluación educativa del Programa para Abatir el Rezago Educativo en Educación Básica (PAREB), financiado por el Banco Mundial y administrado por el CONAFE.

Este proyecto consideraba la formación en la acción de grupos técnicos en los estados, los cuales se encargaran de promover la evaluación educativa a nivel estatal; desarrollar estudios de evaluación que dieran respuesta a las necesidades de la entidad en la materia y, al mismo tiempo, colaboraran con el desarrollo de proyectos de evaluación nacional, promovidos por la misma DGE de la SEP.

El proyecto de fortalecimiento de estos grupos, consideró capacitación teórica y en la práctica, equipamiento y otros apoyos.

Por otra parte, se instauró el Comité Técnico Interestatal de Evaluación (CTIE), como órgano de consenso y acuerdo para el desarrollo de las acciones nacionales de evaluación educativa, grupo que coordinaba la DGE y en el que participaban los titulares de las Áreas Estatales de Evaluación de las 32 entidades federativas.

Los proyectos de evaluación de carácter nacional se desarrollaron a partir de 1997 con éxito y con la participación de las 32 entidades, a partir de los acuerdos establecidos en el CTIE. Desde la coordinación del proyecto y mediante el financiamiento referido, se logró dotar a cada entidad de una computadora. Se desarrolló también un esfuerzo de capacitación considerable, tanto de carácter formal como en la práctica.

En cuanto a la capacitación en la práctica se desarrolló, a partir de 1996 el estudio EVEP (Evaluación de la Educación Primaria) con la participación de las 32 entidades federativas. Este estudio concluyó en 2002 y dio lugar a uno distinto que comprendía educación primaria y secundaria denominado Estándares Nacionales y que también contó con la participación de las 32 Áreas Estatales de Evaluación existentes.

En lo que se refiere a la capacitación formal, los grupos estatales contaron a partir de 1996 y hasta el 2002, con cursos diversos que abordaron los temas más relevantes dentro del ejercicio de la evaluación educativa. Este ejercicio de capacitación consideró como instructores a expertos con demostrado reconocimiento internacional.

Si bien, el desarrollo de los estudios nacionales se dio de manera más o menos exitosa, el despegue de estos grupos como auténticos responsables de la evaluación educativa a nivel estatal, nunca se efectuó como se esperaba, incluso se hizo común entre los titulares de las AEE la opinión de que sólo eran utilizados por el sector central, como mero personal operativo para aplicar las pruebas referidas a los estudios nacionales.

A partir de 2003 y con la puesta en marcha del Instituto Nacional para la Evaluación de la Educación (INEE), las evaluaciones nacionales muestrales que venía desarrollando la SEP quedaron a cargo de este organismo. El CTIE como tal desapareció y el INEE conformó su Consejo Consultivo con los titulares de las Áreas Estatales de Evaluación.

Los estudios de evaluación que el INEE desarrolla cuentan actualmente con el apoyo de las AEE; no obstante, la integración sigue presentando problemas y en la práctica se observa que las Áreas Estatales de Evaluación con frecuencia siguen concibiendo el trabajo relacionado con los estudios promovidos por el INEE, como impuesto por el organismo, es decir, por una instancia correspondiente al gobierno federal. Recientemente se han instrumentado algunas estrategias novedosas para promover la integración y la comunicación, que si bien han mostrado algunos resultados no logran aún integrar a las AEE al trabajo nacional como se espera.

A juzgar por sus actuaciones, gran parte de los grupos estatales continúan teniendo la misma opinión y por tanto considerando el trabajo relativo a los proyectos nacionales como ajenos e impuestos, aún cuando gracias a tales actividades se obtiene información relevante sobre el estado de la educación a nivel estatal que no es producida por ningún otro organismo. Esta visión del trabajo nacional de evaluación, a menudo impacta en la calidad con que se desarrollan las actividades en las que los grupos estatales participan.

Determinar la posibilidad real de solución de este problema es un asunto pendiente; por esta razón, a partir de las evidencias que existen de que los titulares de las AEE consideran como ajenas e impuestas las acciones mencionadas, se planea investigar las razones de esta concepción, analizar las posibilidades de cambiarla y proponer algunas estrategias para revertirla, si esto parece posible.



Conceptos clave para el desarrollo del estudio

Evaluación. Actividad mediante la cual se emiten juicios de valor al comparar la situación observada de algo con la situación que según ciertos parámetros debía tener. La evaluación permite en menor o mayor medida el conocimiento de lo que ocurre en comparación con lo esperado o requerido y por tanto, una de sus principales funciones es que puede servir como herramienta para saber lo que hay que mejorar o corregir.

Evaluación educativa. La evaluación aplicada a la educación tiene una importancia creciente en los sistemas educativos de todos los países, si bien algunos ya han desarrollado verdaderos sistemas nacionales de evaluación de la educación y otros se limitan sólo a algunas acciones. En uno y en otro caso, las evaluaciones internacionales circunscritas a los niveles de aprendizaje en un grado educativo o una edad determinada, cuentan con la participación de cada vez más países.

Áreas Estatales de Evaluación. Son grupos estatales que se encargan de la participación de la entidad federativa en las diversas acciones nacionales de evaluación que se desarrollan en México. Si bien las 32 entidades que conforman la federación cuentan con un grupo del tipo, los tamaños, capacidades técnica e incluso niveles jerárquicos al interior de la estructura educativa del estado son en ocasiones muy distintos en función de la entidad de que se trate.

Participan en diversas acciones nacionales de evaluación y particularmente en el desarrollo de los levantamientos de datos requeridos por los diversos estudios y acciones que a este nivel se efectúan.

Son dos las instancias federales que coordinan las acciones de estos grupos estatales el Instituto Nacional para la Evaluación de la Educación (INEE), órgano desconcentrado de la SEP, y la Dirección General de Evaluación de Políticas (DGEP), instancia de la Unidad de Planeación de la SEP.

El INEE se encarga de la evaluación nacional realizando estudios muestrales cuyos objetivos se dirigen fundamentalmente a la evaluación del aprendizaje y a la evaluación de escuelas. Asimismo es el responsable de la participación de México en evaluaciones internacionales y de desarrollar un sistema de indicadores de calidad de la educación.

La DGEP es la encargada de desarrollar evaluaciones censales para informar a padres y maestros sobre los niveles de aprendizaje de alumnos y escuelas en particular; de los levantamientos de datos relacionados con el Programa de Carrera Magisterial y así como de la participación de la SEP en algunos exámenes de ingreso a diversos niveles educativos.

Levantamientos de datos: Aplicaciones de instrumentos que permiten obtener la información necesaria para realizar las evaluaciones. Tratándose de evaluaciones educativas promovidas por el INEE, incluyen tanto pruebas de aprendizaje como cuestionarios de contexto dirigidos a directores, docentes, alumnos y ocasionalmente a padres de familia.

Operativamente implican una serie de acciones que si bien son coordinadas por el INEE a nivel nacional, se realizan en cada entidad federativa bajo la responsabilidad del Área Estatal de Evaluación correspondiente.




2. Preguntas de investigación

Con base en la situación que se ha referido, las preguntas de investigación que serán el eje para el desarrollo del proyecto son:

1. ¿Cuáles son las evidencias de que los titulares de las Áreas Estatales de Evaluación consideran ajenas e impuestas las tareas relacionadas con los levantamientos de datos que el INEE promueve y porqué tales hechos se consideran evidencias?

2. ¿Porqué los titulares de las AEE ven como ajenas e impuestas las tareas derivadas de los levantamientos de datos que el INEE promueve?

3. ¿Cuáles parecen ser las posibilidades reales de que los titulares de las AEE consideren el trabajo relacionado con los levantamientos del INEE como propio?




3. Hipótesis

Responder las preguntas de investigación 1 y 3 no requiere de una suposición y por tanto de una hipótesis, la primera requiere ser respondida con la descripción de la situación que refiere y la número 3 de alguna manera también, aunque en este caso se trata de la descripción de las probables posibilidades de cambiar la visión de las AEE, lo cual sólo puede realizarse, una vez que se desarrolle el análisis que en este proyecto se propone.

El caso de la pregunta 2 es distinto, esta puede ser considerada como la pregunta principal ya que apunta sobre las razones por las cuales los titulares de las AEE ven como ajenas e impuestas las tareas derivadas de los levantamientos de datos que el INEE promueve. A partir de este planteamiento en particular es que se ha formulado la hipótesis o idea guía del proyecto:

Los titulares de las AEE ven como ajenas e impuestas las tareas derivadas de los levantamientos de datos que el INEE promueve, porque no perciben suficientes beneficios de las mismas hacia su trabajo personal, como grupo e incluso al conocimiento del sistema educativo en el estado.




4. Variables

La hipótesis o idea central del proyecto involucra las siguientes variables

Percepción de los titulares de las AEE sobre el trabajo operativo derivado del desarrollo de los estudios del INEE. Percibir significa, según el diccionario, comprender algo, esta es la acepción que se adapta mejor para conceptuar la variable. Se trata de analizar, a partir de ciertas evidencias, como los titulares de las AEE comprenden el trabajo que se deriva de los estudios que el INEE promueve y en qué términos lo integran a su agenda particular como grupo.

Beneficios para las AEE derivados del trabajo operativo promovido por el INEE. La variable se refiere concretamente a la manera en como los titulares de las AEE perciben, en los términos ya comentados, los beneficios que les reditúa la participación en los proyectos del Instituto. Concretamente, las cosas que desde el INEE se han presentado como tales beneficios:

· Participación en el consejo consultivo del INEE

· Resultados de los estudios que permiten profundizar en el conocimiento de la realidad educativa de su estado.

· Dotar de información útil y oportuna a las autoridades educativas.

· Capacitación para las Áreas Estatales de Evaluación.




5. Enfoque metodológico y técnicas de recolección de información

A fin de dar respuesta cabal a las preguntas de investigación, la metodología cualitativa parece ser la más adecuada al permitir acercarse a la manera en cómo los titulares de las AEE conciben su participación en las actividades de recolección de información que el INEE promueve, y a las razones específicas de tal concepción.

Para hacerlo se utilizará la entrevista no estructurada con algunos titulares de las AEE y el análisis de documentos, concretamente de los Reportes técnicos de los levantamientos de datos de 2003 a la fecha. Asimismo, se recurrirá a la observación no estructurada de una reunión cuya fecha de realización se encuentra en el periodo de recolección de información del proyecto.

El análisis de las evidencias relevantes para el estudio se efectuará mediante algunas técnicas cuantitativas elementales a través de las cuales se puede observar la frecuencia absoluta y relativa de sucesos que pueden entenderse como tales.

Además, la búsqueda, descripción y análisis de las evidencias mencionadas, visto desde la metodología cualitativa, permitirá acercarse a la caracterización de una parte importante del contexto en la que el hecho a investigar se enmarca, gracias a que las evidencias existentes provienen de momentos en que se han efectuado levantamientos de datos en su ámbito natural, tal como lo exige este tipo de metodología.

El enfoque propuesto es, entonces mixto aunque con una preponderancia de la metodología cualitativa.

Realizados los análisis, mediante estos criterios metodológicos, será posible establecer algunas de las posibilidades que la situación sugiere para cambiar esta percepción en los titulares de las AEE.




5. Contexto de observación

El carácter de integrante del área dentro del INEE que es responsable de la relación y el trabajo con las entidades de quien desarrollará el proyecto facilitará la entrada al contexto real del fenómeno a investigar.

6. Alcances y limitaciones

Para el INEE, la manera en que las AEE se integran al trabajo de los proyectos nacionales es crucial por su relación directa con la calidad con que se desarrollan varias etapas de los estudios de evaluación que promueve, particularmente, las actividades relacionadas con la recolección de información.

Si bien en el INEE se ha percibido y tratado de atender este aspecto, no se ha efectuado un análisis sistemático de la situación. Por esta razón, el análisis que propone el presente proyecto, resulta relevante para conocer con alguna profundidad la actitud de los titulares de las AEE hacia el trabajo operativo con el INEE y a partir de lo que el análisis muestre, determinar si parece haber posibilidades de que los titulares de las AEE integren, como propio, el trabajo operativo que implica su colaboración con el INEE, cuáles son éstas y cómo pueden promoverse.

Desde estar perspectiva, para quien propone el proyecto enfrentar un problema que ha sido casi cotidiano y convertirlo en un problema de investigación, muy probablemente permitirá profundizar en el conocimiento de las propias AEE y las posibilidades reales de funcionamiento de un Sistema de Evaluación en el que tales grupos sean elementos activos.

Asimismo, el conocimiento más profundo del problema puede proveer de elementos para integrar un Sistema Nacional de Evaluación como el que se espera. Concretamente, los hallazgos y conclusiones de la investigación propuesta pueden orientar acciones específicas para generar esta idea de equipo entre la instancia central y las AEE, que resulta indispensable para conseguir mayor éxito en las acciones nacionales de evaluación educativa.

En cuanto a las limitaciones del proyecto es muy importante tomar en cuenta que dadas las condiciones en que se desarrollará no será posible involucrar en el mismo a la totalidad de los titulares de las AEE, sino sólo a algunos de los que asistan a la reunión que se efectuará el 7 de noviembre, que ya por el sólo hecho de mostrar interés en una estrategia de difusión que el INEE promueve, es evidente que no tienen la actitud más resistente hacia estos trabajos.

Asimismo habrá que cuidar en todo momento el hecho de que quien desarrollará el proyecto se ha desempeñado durante buena parte de su vida profesional en las instancias federales que han promovido tanto el surgimiento de las AEE, como su posterior colaboración en proyectos nacionales de evaluación educativa. Por ello habrá que instrumentar estrategias metodológicas específicas que coadyuven con la objetividad de las conclusiones del estudio propuesto.

Desde esta perspectiva, el estudio no llegará a proponer estrategias específicas para modificar la posición de las AEE ante el trabajo con el INEE en los levantamientos de datos nacionales, pero si establecerá, con fundamentos, hasta dónde es cierto que los titulares de las AEE no consideran como propio el trabajo que desarrollan con el INEE en el marco de los levantamientos de datos, y si parece haber posibilidades de que esto cambie.

7. Recursos necesarios

El desarrollo del proyecto tiene como requerimientos mínimos indispensables los siguientes:

  1. La colaboración de quienes se requiere entrevistar
  2. La posibilidad de asistir a la reunión del 7 de noviembre para realizar la observación correspondiente.
  3. El acceso a los informes y otros documentos de seguimiento del trabajo de las AEE que se han elaborado en el INEE.
  4. Los recursos bibliográficos necesarios para documentar debidamente tanto el contexto en que se da el hecho estudiado como las observaciones y análisis proyectados.
  5. Asesoría de al menos un experto en investigación y en métodos de investigación cualitativos
  6. El tiempo necesario para efectuar las lecturas, entrevistas, observaciones, análisis y redacción del informe de investigación.

La situación laboral de quien desarrollará el proyecto, permitirá contar con los primeros cuatro. Por otra parte, el carácter de estudiante regular de la maestría en comunicación y tecnologías educativas del ILCE permitirá el acceso a la asesoría necesaria y finalmente en lo relativo al tiempo la planificación detallada y el seguimiento de la agenda serán estrategias indispensables.




8. Cronograma

Actividad

Fecha de cumplimiento

1. Preparación de las entrevistas a profundidad y de la observación

Octubre 31

2. Recolección y sistematización de información a partir de:

· Documentación sobre la historia y evolución de las AEE

Noviembre 1ª 7

· Reportes operativos de las aplicaciones desde 2003

Noviembre 15

· Entrevistas a profundidad

Noviembre 6 y 8

· Observación de la reunión de difusión de resultados

Noviembre 7

2. Análisis de información

Noviembre 9 a 24

3. Redacción del reporte de investigación

Noviembre 25 a diciembre 8




9. Bibliografía

Zorrilla, M. (Coord.). (2003). La evaluación de la educación básica en México. 1990 -2000: una

mirada a contraluz. México: Universidad Autónoma de Aguascalientes.

_____/Dirección Evaluación del Proceso Educativo. (2003) Balance general del establecimiento

y operación de las Áreas Estatales de Evaluación. México: Documento Interno

Instituto Nacional para la Evaluación de la Educación (2006) Plan Maestro de Desarrollo

2007-2014. México: INEE

De Landsheere, G (1999 2ª. Ed.). El Pilotaje de los Sistemas Educativos. Madrid, ED. La

Muralla.

Dirección General de Evaluación (2002). La experiencia de la Dirección General de Evaluación

en la Educación Básica y Normal. Treinta años de medición del logro educativo. Documento

Interno

Instituto Nacional para la Evaluación de la Educación (2002) ¿Qué es el INEE? México: INEE

Secretaría de Educación Pública-Instituto Estatal de Educación Pública de Oaxaca. (1999)

Seminario Internacional de Evaluación de la Calidad de la Educación Básica. México:

Dirección General de Evaluación

Secretaría de Educación Pública. H Congreso de la Unión (2002) La Calidad de la Educación en México. Perspectivas, análisis y evaluación. México: Miguel Ángel Porrúa.

Ravela, P., Arregui, P., Valverde, G., Wolfe, R., Ferrer G., Martínez, F., Aylwin, M., Wolf, L. Las Evaluaciones Educativas que América Latina necesita. Recuperado el 3 de octubre de http://www.rinace.net/riee/numeros/vol1-num1/art4.html

Murillo, J., Román M., La Evaluación Educativa como Derecho Humano. Recuperado el 3 de octubre de http://www.rinace.net/riee/numeros/vol1-num1/editorial.pdf

Reimers, F. (2003) El contexto de la evaluación en América Latina. Revista Latinoamericana de Estudios Educativos. XXXIII, 003, 9-52.





10. Otras fuentes consultadas

Lic. Consuelo Sánchez Zúñiga. Integrante del equipo encargado del proyecto de Fortalecimiento de las áreas Estatales de Evaluación de 1996 a 2003 y asimismo trabajó con las AEE desde el INEE de 2003 a 2005 desde la Jefatura de Políticas de apoyo a la evaluación.

Ing. Juan Carlos Camacho Gómez. Actualmente Subdirector de Logística en Evaluación Educativa del INEE y ha trabajado con las AEE y el Consejo Consultivo del organismo desde 2004.