1 GUIDE DU CONTENU DU RAPPORT D`EVALUATION General
Transcription
1 GUIDE DU CONTENU DU RAPPORT D`EVALUATION General
SYSTEME D’ASSURANCE QUALITE DES EVALUATIONS Bureau de l’évaluation Mesurer les résultats, partager les enseignements GUIDE DU CONTENU DU RAPPORT D’EVALUATION General Ce document décrit le contenu attendu du rapport d’évaluation, qui devra présenter les principales constatations (fondées sur les observations), conclusions et recommandations de l’évaluation d’une manière qui corresponde aux besoins des principaux utilisateurs de l’évaluation et qui réponde aux questions d’évaluation. Le gestionnaire de l’évaluation ainsi que les membres de l’équipe ont l’entière responsabilité de la qualité du rapport d’évaluation. Les évaluations doivent être menées d'une manière professionnelle, éthique et soucieuse de la problématique hommes-femmes, y compris la présentation de données ventilées par sexe, âge, handicap, etc. Les évaluations doivent être culturellement sensibles et respecter le principe de confidentialité, protection des sources d’informations et de la dignité des personnes interviewées. Le rapport d'évaluation doit indiquer la mesure dans laquelle les considérations de genre ont été intégrées le cas échéant. Ce document doit être utilisé en conjonction avec: Le guide «l’Evaluation étape par étape» et les critères de qualité pour les rapports d'évaluation présentés à la section 4.4 des Directives pour les évaluations d’opération. Les modèles établis pour la présentation des données relatives aux effets et produits directs disponibles à ce lien. Le modèle de rapport d'évaluation et un guide de formatage du rapport d'évaluation fourni séparément. La liste récapitulative d’assurance qualité pour le rapport d'évaluation, qui peut être utilisée par le gestionnaire de l'évaluation pour fournir des commentaires de façon structurée et constructive à l'équipe d'évaluation. Remarque: Le rapport d'évaluation ne doit pas dépasser 40 pages (en anglais) ou 46 pages (en français et espagnol), à l'exclusion du résumé et des annexes. Section Contenu Fiche La fiche d'information sur l’opération aura été préparée durant la d'information sur phase d’amorce et doit être actualisée avec les données l’opération supplémentaires obtenues durant la mission. Carte Operations Résumé des Inclure une carte actualisée montrant les zones d’intervention de l’opération à ce jour. Le résumé doit présenter une synthèse complète et équilibrée des constatations, conclusions et recommandations de l’évaluation. Introduction: aspects principaux de l’évaluation, du contexte et 1 Section Contenu de l’opération du PAM Principales constatations concernant les trois questions d’évaluation: 1) adéquation de l’opération 2) résultats de l’opération 3) facteurs influant sur les résultats Appréciation globale/conclusions Principales recommandations. Note: Le résumé ne doit pas dépasser 4.5 pages. Le résumé sera probablement la seule partie du rapport d’évaluation que liront les décideurs. Il est donc important de veiller à ce qu’il contienne les constatations les plus importantes, à ce qu’il forme un tout et à ce qu’il puisse se lire indépendamment. 1. Introduction 1.1. Caractéristiques de l’évaluation Bref survol des caractéristiques de l’évaluation pour en expliquer le pourquoi et le comment, qui donnera des informations sur: Les raisons pour lesquelles l’évaluation est réalisée, ses objectifs et sa portée, les parties prenantes et les utilisateurs. La méthodologie et ses limites, y compris la mesure dans laquelle une méthodologie prenant en compte la problématique hommes-femmes a été utilisée, en décrivant les méthodes de collecte des données employées pour recueillir l’information sur les questions liées à cette problématique afin de s’assurer que les femmes et les groupes marginalisés sont bien pris en compte. Etapes principales de la mission de terrain de l’évaluation, y compris dates et durée, membres de l’équipe d’évaluation, et les dispositions prises pour le suivi de qualité. Donner des détails expliquant dans quelle mesure la méthodologie utilisée a pris en compte la problématique hommes-femmes. Note: Cette section doit être courte (environ 1 page); de plus amples détails seront fournis dans les annexes. Elle doit suffire à expliquer aux lecteurs comment l’évaluation a été réalisée et les convaincre de l’impartialité et de la crédibilité du processus. Les annexes jointes au rapport doivent correspondre aux informations sommaires données dans cette section. Bref aperçu des aspects du contexte du pays ayant une pertinence 1.2. Le contexte du directe pour l’évaluation, qui donnera notamment des pays renseignements sur: 2 Section Contenu La pauvreté, l’insécurité alimentaire et la nutrition (indicateurs et tendances). Les secteurs concernés par l’axe d’intervention (éducation, santé, etc.). Problématique hommes-femmes. Présenter la situation générale hommes-femmes dans le pays, les politiques et programmes gouvernementaux, et les indicateurs pertinents. La stratégie gouvernementale – politiques et programmes. La situation humanitaire – catastrophes/crises (d’origine naturelle et/ou humaine) au cours des dernières années et principaux défis à relever dans les domaines de l’action humanitaire et du développement. Principaux événements extérieurs ayant eu des effets considérables sur les modalités d’action du PAM, etc. Note: L’information présentée ici devra être pertinente et nécessaire pour comprendre les répercussions du contexte opérationnel. Il faudra utiliser des indicateurs pertinents et des données tendancielles (évolution dans le temps). Dans cette section, un juste milieu devra être trouvé entre synthèse et détails. 1.3. Vue d’ensemble de l’opération Brève analyse portant sur: La date d’approbation et la durée prévue; les objectifs de l’opération; les activités et les effectifs prévus de bénéficiaires, ventilés par sexe; le montant total des ressources nécessaires; les niveaux de financement et les principaux donateurs. Indiquer l’évolution pendant la période couverte par l’évaluation de chacun de ces facteurs. Note: Une bonne part de ces données aura déjà été préparée et présentée dans les termes de référence et dans le dossier initial. Il faudra se référer à la fiche d’information sur l’opération, s’il y a lieu. 2. Constatations de Objet: cette section du rapport d’évaluation présente les l’évaluation constatations de l’évaluation au sujet des trois questions essentielles. Elle devra fournir des données probantes – tirées de l’analyse des données et des renseignements reçus des diverses parties prenantes – pour étayer les conclusions de l’équipe d’évaluation (présentées à la section 3 du rapport d’évaluation). Cette section du rapport d’évaluation devra clairement distinguer les constatations (les faits, les éléments de preuve, les points de vue des parties prenantes, etc.) des opinions de l’équipe d’évaluation. Note: 3 Section Contenu Le rapport doit être rédigé en utilisant une formulation qui tienne compte de la problématique hommes-femmes, en incluant des données ventilées par sexe. Il doit montrer que les constatations ont été élaborées compte tenu des divers groupes de parties prenantes. Les constatations doivent tenir compte des divers groupes de parties prenantes, ainsi que de la représentation des deux sexes. Elles doivent être examinées en veillant à ce que le degré d’analyse de la problématique hommes-femmes soit approprié. Des supports visuels (graphiques, tableaux, etc.) serviront à présenter les données et à illustrer les arguments avancés d’une manière claire et facile à consulter. Les constatations devront être étayées par des éléments de preuve dont l’exactitude, la cohérence et la fiabilité auront été vérifiées. Les éléments de preuve présentés dans le rapport ne devront pas être en contradiction avec les données probantes/connaissances disponibles auprès de sources dignes de foi extérieures au PAM. Dans les cas où les éléments disponibles ne sont pas concluants, il faudra l’indiquer clairement. Les renseignements devront être pertinents et en rapport avec la question posée. Les sources devront être citées (pas de plagiat). Un juste milieu devra être trouvé entre synthèse et détails. Adéquation aux besoins. Brève analyse expliquant si: 2.1. Adéquation de l’opération a été conçue à partir d’une analyse appropriée l’opération du contexte reposant sur divers autres travaux analytiques (estimations des besoins, cartographie de la sécurité alimentaire, recherches, examens etc.); les objectifs de l’opération correspondent aux besoins de la population; les bons choix ont été faits en ce qui concerne les activités et les modalités de transfert (assistance alimentaire, transferts monétaires ou bons); le ciblage géographique est adapté. L’opération a été conçue sur la base d’une analyse rigoureuse de la problématique hommes-femmes. Concordance avec la stratégie du PAM. Indiquer, en se référant au Plan stratégique du PAM, dans quelle mesure les objectifs de l’opération correspondent aux stratégies et politiques du PAM. Concordance avec les politiques du gouvernement. Indiquer: si les objectifs de l’opération du PAM correspondent aux préoccupations du gouvernement et si les activités choisies (regroupées en fonction de leur contribution à divers secteurs) sont en phase avec les stratégies sectorielles pertinentes du pays; dans quelle mesure les objectifs de l’opération ont été définis à partir d’une analyse des buts visés par le gouvernement et les partenaires, et d’une étude indiquant les contributions du PAM qui seraient les plus efficaces et les plus économiques. Concordance avec l’action des partenaires. Déterminer: 4 Section Contenu si l’opération du PAM concerne les secteurs prioritaires répertoriés dans les principaux outils communs de planification des Nations Unies, notamment bilan commun de pays, plan-cadre des Nations Unies pour l’aide au développement, matrice d’évaluation des besoins, procédure d’appel global, etc.; s’il a été créé des synergies avec des programmes de partenaires (notamment, selon les cas, institutions des Nations Unies, institutions financières, donateurs et organisations non gouvernementale internationales). Note: Un degré d’alignement important à tous ces niveaux n’est pas en soi un indicateur de succès car il ne signifie pas forcément que le PAM joue un rôle stratégique ou répond aux besoins de ses groupes cibles prioritaires. Il conviendra de déterminer si le PAM s’est aligné de manière stratégique et s’est positionné là où il peut influer le plus sur le cours des choses. Dans les cas où l’alignement est source de tensions potentielles, il faudra le cas échéant le mentionner. Les constatations et conclusions principales peuvent être résumées en quelques points/ alinéas dans un encadré situé à la fin de la section (ceci est optionnel mais considéré comme étant une bonne pratique). 2.2. Résultats de l’opération Cette section sera la partie qui contiendra le plus d’informations et sera donc la plus longue du rapport. Les données relatives aux effets et produits directs doivent être vérifiées et validées et être présentées en utilisant les modèles établis pour les évaluations d’opération disponibles à ce lien. Présenter, pour chaque activité: 1. Le nombre de personnes ayant reçu une assistance au fil du temps, en indiquant si cette assistance était de qualité et si elle a été fournie aux personnes ciblées en quantité suffisante et dans les délais prévus. Pour chaque groupe d’activités, passer en revue les points ci-dessous et leur interaction. Utiliser des tableaux et des graphiques pour illustrer les arguments. QUI – sélection des bénéficiaires (ciblage des ménages, erreurs de ciblage, etc.), nombre effectif de bénéficiaires par rapport au nombre prévu et par rapport au nombre estimé de personnes dans le besoin, et variations au fil du temps. QUOI – chiffres effectifs par rapport aux chiffres prévus pour les quantités de produits alimentaires fournies, les rations distribuées (taille, composition et durée). QUAND – fréquence, durée et distribution en temps voulu de l’assistance, etc. Pour les activités de type Vivres contre travail, Vivres pour la création d’avoirs, Vivres pour la formation et les activités de soutien des moyens d’existence, dont on attend des produits spécifiques (création d’infrastructures et d’avoirs, etc.), examiner l’adéquation et la qualité des produits. Pour les activités qui n’ont 5 Section Contenu pas directement trait à l’aide alimentaire (transferts monétaires et bons ou activités de développement des capacités), utiliser d’autres indicateurs de produit pertinents. Expliquer dans quelle mesure les produits ont contribué à la réalisation des objectifs. Estimer les changements à moyen et long terme intervenus dans la vie des personnes ciblées du fait de l’assistance fournie, et notamment: estimer les effets directs obtenus pour chaque objectif par rapport aux effets prévus ainsi que les autres changements visibles, et fournir un bilan global des effets directement imputables à l’opération; analyser les facteurs à l’origine de ces changements (par ex. contribution de l’opération du PAM par rapport à celle des autres intervenants). Fournir des éléments prouvant les résultats obtenus en matière de problématique hommes-femmes et décrire tous les résultats imprévus de l’opération concernant des questions liées à cette problématique. Préciser les facteurs qui ont favorisé ou compromis le succès en la matière. Note: conclure en parlant de l’efficience et l’efficacité globales de chacune des activités exécutées dans le cadre de l’opération. Globalement, pour toutes les activités jumelées: Estimer si l’opération a contribué aux résultats plus globaux obtenus en matière de développement/d’action humanitaire par le PAM dans le pays, et examiner son rôle à la lumière des facteurs qui expliquent les changements observés. La contribution de l’opération dépendra de sa taille (par rapport à celle du portefeuille du PAM) et de son rôle stratégique (par rapport à l’éventail des options envisageables). Note: 2.3. Facteurs influant sur les résultats Les constatations et conclusions principales peuvent être résumées en quelques points/ alinéas dans un encadré situé à la fin de la section (ceci est optionnel mais considéré comme étant une bonne pratique). Les données sur les bénéficiaires devront systématiquement être ventilées par sexe. Étudier le "pourquoi" de la performance de l’opération en analysant les raisons ou les facteurs dynamiques qui en expliquent les résultats ainsi que leur interaction. Ces facteurs peuvent notamment être les suivants: des facteurs internes (qui relèvent du PAM), notamment: les moyens humains et financiers dont dispose le bureau de pays pour exécuter l’opération conformément au plan initial et pour l’adapter en fonction de l’évolution de la situation; l’efficacité de la mobilisation des ressources, des achats, de la logistique, de l’exécution et du suivi; les systèmes et outils de suivi et 6 Section Contenu d’évaluation; les critères servant à hiérarchiser l’emploi des ressources disponibles; les synergies avec les autres interventions du PAM dans le pays; la capacité de travailler en partenariat et d’assurer la coordination avec le gouvernement, les institutions des Nations Unies et les ONG; la capacité de prendre dûment en compte la problématique hommes-femmes et d’autres questions transversales, en particulier celles liées à l’environnement; l’adéquation de l’appui technique/de l’accompagnement reçu du bureau régional/du Siège, etc. des facteurs extérieurs, tels que l’évolution des politiques gouvernementales et de l’appui des donateurs, du niveau des ressources et des coûts, etc. Note: Les constatations et conclusions principales peuvent être résumées en quelques points/ alinéas dans un encadré situé à la fin de la section (ceci est optionnel mais considéré comme étant une bonne pratique). 3. Conclusions et recommandations Objet: cette section du rapport d’évaluation formule, à partir des constatations, une appréciation globale et des recommandations. L’appréciation globale consiste à résumer les diverses constatations présentées dans les sections précédentes du rapport d’évaluation pour en dresser un tableau final. Ce résumé sera succinct, synthétisera les constatations communes et soulignera les exceptions, au regard des critères d’évaluation pertinents, à savoir: i) pertinence, ii) cohérence, iii) couverture, iv) interconnexion, v) efficience, vi) efficacité, vii) impact, viii) viabilité, et ix) questions de genre. Toutes les conclusions doivent reposer sur les constatations présentées dans les sections précédentes et se concentrer sur les points ayant une importance pour l’opération évaluée. Les conclusions et les recommandations doivent prendre en compte divers groupes de parties prenantes et divers aspects de la problématique hommes-femmes 3.1. Appréciation globale Fournir une appréciation brève et équilibrée des principales constatations faites au sujet des critères d’évaluation: Pertinence, cohérence et adéquation: se demander si l’opération: correspond aux besoins de la population correspond au contexte politique et à celui du programme est globalement pertinente au vu de ses effets. Efficience: réfléchir: à l’efficience de l’exécution à la stratégie de ciblage aux variations de l’efficience résultant de facteurs internes au PAM ou externes 7 Section Contenu au coût de l’opération. Efficacité: se demander si l’opération: a efficacement produit les changements escomptés pour la population ciblée a satisfait aux objectifs institutionnels du PAM. Impact: se demander si l’opération: a contribué aux objectifs principaux du PAM dans le pays a eu des effets plus globaux. Viabilité et interconnexion (dans les contextes d’urgence): voir s’il est probable que les effets directs obtenus vont se poursuivre et s’il y a interconnexion avec les stratégies du gouvernement et des partenaires. Problématique hommes-femmes. Réfléchir aux points suivants: Comment les questions liées à la problématique hommesfemmes ont été examinées en tant que thème transversal au stade de la conception, de l’exécution, du suivi et de l’évaluation ainsi que de l’établissement des rapports, et si l’opération s’est suffisamment attachée à promouvoir l’égalité des sexes et la prise en compte de cette problématique. Les enseignements, les points forts et les points faibles ainsi que les défis à relever en matière de problématique hommesfemmes dans le cadre de l’opération. Les solutions possibles aux problèmes observés en rapport avec la problématique hommes-femmes qui compromettent les résultats de l’opération. Note: • • • • Aucun nouvel élément de preuve ne devrait être apporté à ce stade. Cette section présente seulement les conclusions. Les conclusions devront être claires, cohérentes et découler en toute logique des constatations. Toutes les conclusions importantes devront être indiquées (pour que chaque recommandation soit étayée par des conclusions/constatations). Les conclusions devront être dépourvues de considérations personnelles ou partisanes. 3.2. [Principaux enseignements pour l’avenir] Objet: cette section est facultative et figurera dans le rapport dans les cas où l’équipe d’évaluation constate que certains enseignements devaient être signalés sans pour autant devoir faire l’objet de recommandations concrètes. 3.3. Recommandations Cette section comprend une série de courts paragraphes formulant au plus 10 recommandations qui découlent de manière logique des constatations et des conclusions. Chaque recommandation fait l’objet d’un paragraphe distinct. Les recommandations devront: • être peu nombreuses (10 au plus) 8 Section Contenu • • • • • • découler de manière logique des constatations et des conclusions être pertinentes, concrètes et réalistes (applicables) être présentées par ordre de priorité et selon une séquence logique être regroupées par catégories (stratégiques/opérationnelles, à moyen/court terme, etc.) s’adresser à des acteurs/parties prenantes clés Si possible, inclure une/des recommandation(s) portant sur les questions liées à la problématique hommes-femmes, y compris les actions prioritaires pour améliorer les résultats de l’opération en la matière. Note: • • • • • • La présente note technique définit les normes et les attentes d’OEV en ce qui concerne l’amélioration de la qualité des recommandations formulées dans les rapports d’évaluation, normes qui doivent être appliquées. Il convient de veiller à ce que les recommandations aient une incidence positive sur les questions liées à la problématique hommes-femmes. Les recommandations devront présenter des options plausibles d’amélioration. Les recommandations devront être de nature stratégique et ciblées avec précision, c’està-dire indiquer clairement les modifications des politiques, pratiques ou procédures recommandées, à quel niveau, par qui et dans quels délais. Les personnes chargées de répondre et d’appliquer les recommandations devront être indiquées. Dans la mesure du possible, des délais seront proposés en ce qui concerne l’application des recommandations. Annexes Les annexes devront étayer/compléter le corps principal du rapport et ne devront pas inclure tous les documents de travail de l’équipe d’évaluation. Devront y figurer: • • • • • • les termes de référence Méthodologie: il faut indiquer dans quelle mesure les considérations liées à la problématique hommes-femmes ont été prises en compte, s’il y a lieu (par exemple, en tant que thème transversal), y compris au niveau des méthodes de collecte des données. la matrice d’évaluation la bibliographie (y compris auteur, date de publication, titre, éditeur) la liste des personnes rencontrées/interviewées autres documents (à préciser). Note: • • • • Les annexes devront être énumérées et numérotées dans l’ordre dans lequel elles apparaissent dans le corps principal du rapport. Des renvois aux annexes devront figurer dans le corps principal du rapport. Si le rapport complet, annexes comprises, dépasse 100 pages, prévoir de séparer les annexes essentielles (à inclure) et les annexes supplémentaires (deuxième volume). Les annexes supplémentaires comprendront en général: * le programme résumé des activités menées sur le terrain 9 Section Contenu * les outils de collecte des données * d’autres annexes techniques. 10