Skip to main content

Evaluation methodological approach

Group
public
46
 Members
3
 Discussions
211
 Library items
Share

Table of contents

Fase de preparación (fase 0)

Share

 

Esta sección está estructurada de la siguiente manera:

 

Cada etapa de la fase de preparación es descrita según el rol de:

evaluation manager El responsable de evaluación
external evaluation team El equipo de evaluación

evaluation manager Primeros pasos

 

  • Se fija el mandato de evaluación. El mismo especifica la intervención, la zona geográfica, el sector o el tema a evaluar.
  • Se designa un responsable principal de la evaluación en el servicio correspondiente y además un responsable suplente. El responsable conduce el proceso desde el inicio hasta el final en nombre de la Comisión y bajo la autoridad de su jerarquía. Desempeña el principal papel en la preparación de la evaluación, la contratación y la supervisión del equipo de evaluación externo, así como en la difusión y el seguimiento de las recomendaciones. Es el que preside el grupo de referencia.

 

Situación(es) específica(s):

Evaluación a nivel país:

Las estrategias país siguen ciclos plurianuales. La decisión de evaluar determina el momento de la evaluación con respecto a este ciclo. La evaluación está basada en el ciclo en curso y eventualmente en ciclos anteriores. Según el lugar que ocupa la evaluación respecto del ciclo, las posibilidades de retroalimentación (feedback) son diferentes.Por ejemplo, una evaluación en medio del ciclo sirve para hacer ajustes a la puesta en marcha, una evaluación al final del ciclo sirve para preparar el ciclo siguiente, una evaluación ex post sirve para obtener lecciones transferibles o rendir cuentas.



Evaluación conducida por la Unidad de evaluación:

La jerarquía aprueba el programa de la Unidad y lo publica en la página web de la Comisión.Las evaluaciones conducidas por la Unidad se llevan a cabo en el marco de contratos plurianuales de servicios de evaluación. Se notifica con antelación la fecha aproximada de lanzamiento de los trabajos a la parte contratante aludida.

Evaluación conducida por otro servicio: 

Si el servicio no dispone de personal con la suficiente experiencia en materia de evaluación, busca apoyo para garantizar la calidad de la evaluación.

evaluation manager Recolección de información previa

 

  • El responsable de la evaluación toma conocimiento de los documentos de base referidos a las acciones a evaluar, en adelante denominados "la intervención".
  • Detecta los objetivos globales así como los sectores, temas y aspectos transversales que revisten una particular importancia en el marco de la evaluación.
  • Consulta las bases de datos de la Comisión para tener una perspectiva general de las ayudas y de su financiación.
  • Detecta algunos informantes clave en la Comisión y se entrevista informalmente con ellos para comprender mejor los desafíos de la evaluación.
  • Especifica el campo central de la evaluación así como los temas y aspectos transversales a examinar de manera prioritaria.

 

Situación(es) específica(s)

Evaluación a nivel país: 

Los documentos consultados en esta etapa son los siguientes:

  • Documento de estrategia país aplicable en la actualidad y los documentos de estrategia de los períodos anteriores.
  • Documentos relativos a la estrategia de la Comisión en la región.
  • Documentos relativos a la estrategia de la Comisión en los sectores de concentración.
  • Comunicaciones, reglamentos y decisiones de la delegación.
  • Documentos horizontales/transversales pertinentes (Ej.: género, entorno, buena gobernanza, etc.)

evaluation manager Constitución del grupo de referencia

 

  • El responsable identifica los servicios a invitar al grupo de referencia procurando alcanzar tres objetivos: aporte de habilidad e información, expresión de la variedad de puntos de vista pertinentes en el seno de la Comisión y legitimidad del proceso de evaluación.
  • Se envía una nota a los servicios invitados explicando el papel que cumple el grupo de referencia.
  • Cada uno de los servicios invitados designa a la persona que participará en el grupo.

 

Situación(es) específica(s)

Evaluación a nivel país:

En el caso de una evaluación país, la delegación forma parte del grupo de referencia y está completamente asociada al ejercicio.

En esta etapa, el responsable acuerda además las modalidades de trabajo en la medida en la que la Delegación está asociada a distancia. 

El responsable invita a una persona de la embajada del país en Bruselas al grupo de referencia. 

El jefe de servicio que gestiona la evaluación envía una nota al jefe de la Delegación aludida invitándolo a designar uno o varios representantes en calidad de miembro(s) del grupo de referencia.

evaluation manager Preparación de los términos de referencia

 

  • Fundándose en la información de base recabada, el responsable especifica la habilidad requerida y el calendario.
  • Prepara una primera versión de los términos de referencia
  • El responsable envía la primera versión de los términos de referencia para que los miembros del grupo de referencia emitan su opinión.
  • Tras estas consultas, el responsable prepara una nueva versión de los términos de referencia teniendo en cuenta las opiniones recibidas.
  • Lanza el proceso de contratación del equipo de evaluación externo de conformidad con los términos de referencia.

 

Situación(es) específica(s)

Evaluación a nivel país: 

Las evaluaciones a nivel país a menudo tratan preguntas de evaluación recurrentes, por ejemplo:

  • ¿En qué medida la estrategia sanitaria de la Comisión satisface las necesidades fundamentales de la población, en particular las de los más pobres?
  • ¿En qué medida las intervenciones europeas contribuyen al refuerzo del proceso de cooperación e integración económica regional y mundial?
  • ¿En qué medida el objetivo transversal de buena gobernanza está integrado en el conjunto de las intervenciones?

El responsable puede entonces referirse a estas preguntas. Además puede inspirarse en evaluaciones temáticas o sectoriales publicadas en la página web. 

El responsable indica los temas que deberán ser cubiertos y deja que el equipo de evaluación proponga las preguntas.

Evaluación global sectorial o temática:

En el momento de la preparación de los términos de referencia, el responsable puede encontrarse ante la imposibilidad de indicar qué países deberán ser objeto de una misión. En dicho caso, el responsable puede solicitar una propuesta presupuestaria limitada a la fase de documentación.

Evaluación conducida por la Unidad de evaluación:

El responsable envía los términos de referencia a la parte contratante responsable del contrato del servicio plurianual en el que se lleva a cabo la evaluación. Le solicita su propuesta técnica y financiera (nota de lanzamiento).

external evaluation team Supuestos de base

 

Sobre la base de los términos de referencia y de su propia pericia, el autor de la propuesta establece sus supuestos de base:

  • Ámbitos en los que es necesaria una habilidad técnica específica.
  • Posibilidad de movilizar consultores con un perfil adecuado al país o países destinatarios.
  • Cantidad, carácter y dificultad probable de las preguntas.
  • Existencia, calidad y accesibilidad de la información sobre la aplicación de la ayuda.
  • Existencia de evaluaciones anteriores reutilizables.

external evaluation team Tareas, habilidad técnica y presupuesto

 

Se define el método a grandes rasgos teniendo en cuenta las restricciones fijadas por los términos de referencia. El autor de la propuesta define las principales tareas y realiza un primer borrador de las herramientas de recolección a poner en práctica. 

Se reparten las tareas de manera provisoria entre :

  • consultores del país o países asociados y consultores internacionales.
  • consultores senior, medium, junior.
  • especialistas del sector o sectores de la intervención y especialistas de los métodos de evaluación.

Se identifican los principales miembros del equipo de evaluación y se verifica que no exista ningún conflicto de interés. 

Se precisan el presupuesto y el calendario dentro del marco de las restricciones fijadas en los términos de referencia.

external evaluation team Propuesta técnica y financiera (nota de lanzamiento)

 

El contenido de la propuesta es el siguiente:

  • Comprensión del contexto en el que se lanza la evaluación, de su finalidad (usuarios y usos previstos) y de su campo
  • Comprensión de los principales ámbitos que cubrirán las preguntas de evaluación y pasos para elaborar y seleccionar las preguntas (excepto si las preguntas figuran en los términos de referencia).
  • Principales opciones metodológicas.
  • Comprensión del proceso de evaluación y del respectivo papel que cumplen los diferentes actores.
  • Calendario.
  • Principales miembros del equipo de evaluación, sus ámbitos de experiencia y funciones.
  • Modalidades de gestión.
  • Presupuesto conforme al formato estándar [EN] PDF
  • CV de los miembros del equipo conforme al formato [EN] PDF estándar y declaraciones [EN] PDF de ausencia de conflictos de interés (en anexo).
  • CV de un experto externo al equipo de evaluación que estará a cargo del control de calidad.

evaluation manager Lanzamiento (Launch)

 

  • El responsable de la evaluación recibe la propuesta o propuestas técnicas y financieras que deben contener los siguientes elementos:
    • Comprensión de los términos de referencia.
    • Nombre y CV de los miembros del equipo representativo (core team).
    • Calendario previsto y justificación de las eventuales discrepancias con respecto al calendario indicado en los términos de referencia.
    • Presupuesto indicativo (que incluya los seminarios de debate del informe final y de diseminación) según el modelo aplicable.
  • Por cada propuesta, el responsable de evaluación verifica que el equipo disponga de los conocimientos y la experiencia suficientes en las siguientes áreas: métodos de evaluación, región o país involucrado, sectores y aspectos transversales aludidos, funcionamiento de la ayuda exterior europea.
  • Verifica que los recursos humanos y financieros propuestos sean compatibles con el presupuesto asignado y estén adaptados a las dificultades particulares identificadas durante la preparación de los términos de referencia.
  • Procede a contratar al equipo de evaluación externo según el procedimiento aplicable y tras consultar a los miembros del grupo de referencia, en especial, acerca de los riesgos de conflictos de interés en caso de que una persona postulada para la evaluación haya tenido alguna responsabilidad en la intervención evaluada. Se confirma la contratación del equipo por medio de una carta oficial firmada por el jefe de la Unidad, cuya fecha fija el inicio formal del trabajo del equipo de evaluación.

 

Situación(es) específica(s)

Evaluación conducida por la Unidad de evaluación: 

En el caso de una gestión por parte de la Unidad de evaluación, la contratación del equipo de evaluación externo está enmarcado por un contrato de servicio plurianual. El proceso se detalla a continuación:

  • El responsable de la evaluación recibe la propuesta técnica y financiera de la parte contratante (nota de lanzamiento) en su primera versión y verifica que esté completa y sea de buena calidad.
  • Envía la propuesta a los miembros del grupo de referencia con una demanda respecto de los comentarios, en especial, acerca de los riesgos de conflictos de interés.
  • Reúne los comentarios recibidos y especifica sus demandas de modificación.
  • Recibe la propuesta modificada por la parte contratante y la aprueba.
  • Se confirma la aprobación mediante una carta firmada por el jefe de la Unidad.

Evaluación a nivel país: 

Se consulta a la delegación, al igual que a los otros miembros del grupo de referencia, acerca de la propuesta técnica y financiera de la parte contratante (nota de lanzamiento).

El responsable verifica que la propuesta contemple los recursos necesarios para realizar una visita piloto y un seminario en el país asociado.  

Evaluación global sectorial o temática: 

Cuando se trata de una evaluación sectorial o temática, se debe prestar particular atención a la delimitación del campo central de la evaluación, así como a la distinción entre sector y tema.