ÉVALUATION EX ANTE
Transcription
ÉVALUATION EX ANTE
COMMISSION EUROPÉENNE Budget Ressources propres, évaluation et programmation financière Évaluation ÉVALUATION EX ANTE GUIDE PRATIQUE POUR L'ÉLABORATION DE PROPOSITIONS DE PROGRAMMES DE DÉPENSES Décembre 2001 10 décembre 2001 Table des matières 1. INTRODUCTION........................................................................................................ 3 2. POURQUOI L'ÉVALUATION EX ANTE ................................................................... 3 3. 4. 2.1 Aide à l'élaboration des programmes................................................................. 3 2.2 Respect des obligations formelles ..................................................................... 4 QUAND, QUI ET QUOI .............................................................................................. 5 3.1 Quand?............................................................................................................... 5 3.2 Qui? ................................................................................................................... 6 3.3 Quoi? ................................................................................................................. 6 COMMENT PROCÉDER?.......................................................................................... 6 4.1 Analyse du problème et évaluation des besoins................................................. 6 4.2 Fixation d'objectifs et indicateurs connexes..................................................... 11 4.3 Autres mécanismes de prestation possibles et évaluation du risque ................ 17 4.4 Valeur ajoutée de l'intervention communautaire............................................... 21 4.5 Enseignements tirés du passé ........................................................................... 24 4.6 Planification du suivi et de l'évaluation à venir ............................................... 25 4.7 Contribuer à garantir l'efficacité par rapport aux coûts.................................... 28 ANNEXE 1 : CHECK-LIST DE L'ÉVALUATION EX ANTE.......................................... 31 ANNEXE 2 : LA COMMUNICATION DE LA COMMISSION SUR L'ÉVALUATION (SEC (2000) 1051)........................................................................ 33 ANNEXE 3: VALEUR AJOUTÉE EUROPÉENNE (VAE) ET AUTRES EXPRESSIONS CONNEXES ................................................................................... 34 -2- «Si vous ne savez pas où vous allez, comment saurez-vous si vous êtes arrivé à destination?» 1. INTRODUCTION L'évaluation ex ante, outil essentiel à l'efficacité de la gestion1, constitue un impératif formel. Le présent document apporte des conseils pratiques aux services de la Commission qui entament des préparatifs en vue d'un nouveau programme de dépenses ou de la reconduction d'un programme de dépenses arrivant à expiration. Loin d'être un document normatif, il est destiné à aider à résoudre les problèmes des services qui effectuent ou font effectuer des évaluations ex ante. Ce guide vise spécifiquement à donner des conseils en matière d'évaluation ex ante des programmes de dépenses. Cependant, certaines des méthodes et idées qu'il présente peuvent aussi s'appliquer à des politiques, à des projets ou à d'autres types d'activités. Il est recommandé aux lecteurs qui souhaitent simplement avoir un bref aperçu de l'exercice d'évaluation ex ante de se reporter directement à l'annexe 1, qui récapitule son contenu sous forme de checklist. La Commission a encore peu d'expérience en matière d'évaluations ex ante; de même, les États membres et les organisations internationales manquent de bonnes pratiques établies. Pour que l'expérience acquise au fil du temps soit prise en compte et pour garantir que les problèmes pratiques rencontrés soient véritablement traités, le présent document sera mis à jour régulièrement en fonction des observations et réactions reçues. 2. POURQUOI L'EVALUATION EX ANTE 2.1 Aide à l'élaboration des programmes L'évaluation ex ante est un processus qui contribue à l'élaboration de propositions visant à lancer ou à reconduire des actions communautaires. Elle a pour objet de recueillir des informations et d'effectuer des analyses qui permettent de définir des objectifs et de garantir la réalisation de ces objectifs, l'efficacité des instruments utilisés par rapport aux coûts et la faisabilité d'une évaluation ultérieure fiable. La Communication sur l'évaluation de juillet 2000 (point 2.3.1) souligne qu'une évaluation ex ante de qualité est nécessaire parce que: 1 - elle permet d'apprécier de manière adéquate si le financement et les ressources proposés sont d'un niveau correspondant aux résultats et à l'incidence prévus; - la fiabilité de l'évaluation ex post et, partant, la responsabilité eu égard aux résultats et aux incidences, dépend en grande partie de la qualité de la préparation de l'intervention au départ. La communication de la Commission (SEC (2001) 1197/6&7) sur la gestion par activités (GPA) souligne le rôle essentiel de l'évaluation (notamment ex ante) dans le cadre du système de gestion. -3- L'expression «évaluation ex ante» est utilisée dans des documents officiels, notamment dans les modalités d'exécution du règlement financier (règlement (CE) n° 1687/2001, article 1er) et dans la récente communication sur l'évaluation (SEC (2000) 1051). Néanmoins, d'autres expressions, comme «appréciation», «analyse des politiques», «évaluation d'impact» et «étude de faisabilité», sont elles aussi largement utilisées pour désigner des pratiques semblables à celles de l'évaluation ex ante. Toute analyse préparatoire ne doit pas forcément être dénommée «évaluation ex ante». Cette expression est utilisée dans le présent document pour désigner les informations requises pour aider à la bonne préparation des programmes et les analyses qui produisent ces données. L'évaluation ex ante peut se dérouler à différents niveaux d'activités. Elle peut porter sur une politique, un programme ou un projet. Conformément aux règles en vigueur à la Commission, elle est obligatoire pour les programmes nouveaux ou reconduits et pour d'autres actions ayant des implication en matière de ressources. L'évaluation ex ante est également liée à la programmation. Dans ce contexte, elle peut améliorer la qualité, la pertinence et l'exhaustivité de la conception d'un programme. Si le terme de «programmation» peut être utilisé dans des acceptions légèrement différentes, il désigne, en règle générale, la conception et l'établissement d'une intervention multisectorielle, impliquant souvent diverses sources de financement et différents services gestionnaires. Un exemple courant est le «document de stratégie nationale» (Country Strategy Paper) ou le «document de stratégie régionale» (Regional Strategy Paper) dans le domaine des relations extérieures, où politiques et activités sont combinées en vue de la réalisation d'objectifs globaux. La programmation n'est pas abordée explicitement dans le présent document, étant donné que les différents services appliquent généralement leur propre méthode normalisée. 2.2 Respect des obligations formelles Les obligations générales en matière d'évaluations ex ante reposent sur le règlement financier (de décembre 1977, tel que modifié par le règlement n° 2333/95 du Conseil, de septembre 1995), qui prévoit: Article 2 du règlement financier: «Les crédits budgétaires doivent être utilisés conformément aux principes de bonne gestion financière et notamment d'économie et de rapport coût/efficacité. Des objectifs quantifiés doivent être déterminés et le suivi de leur réalisation doit être assuré. À cette fin, la mobilisation des ressources communautaires doit être précédée d'une évaluation visant à assurer que les bénéfices qui en résulteront sont à la hauteur des moyens mis en œuvre.» -4- Cette obligation a par la suite été précisée dans les modalités d'exécution du règlement financier (règlement n° 1687/2001 de la Commission, article 1er) : 1. Toute proposition de programme ou d'action occasionnant des dépenses pour le budget général des Communautés européennes fait l'objet d'une évaluation ex ante. Celle-ci identifie: a) le besoin à satisfaire à court ou à long terme; b) les objectifs à atteindre; c) les résultats escomptés et les indicateurs nécessaires à leur évaluation; d) la valeur ajoutée de l'intervention communautaire; e) les risques, y compris de fraude, liés aux propositions et les options alternatives ouvertes; f) les leçons tirées d'expériences similaires déjà conduites; g) le volume des crédits, des ressources humaines et des autres dépenses administratives à allouer en fonction du principe de coût-efficacité; h) le système de suivi à établir. Dans le cadre de certaines politiques sectorielles, comme les politiques structurelles et le développement rural, les règlements sectoriels prévoient des exigences spécifiques pour l'évaluation ex ante. Le règlement n° 1260/99 du Conseil énonce des instructions détaillées pour effectuer les évaluations ex ante portant sur les principales actions structurelles. Celles-ci sont complétées par les dispositions du règlement n° 1257/1999 (FEOGA) du Conseil concernant le soutien aux activités de développement rural. 3. QUAND, QUI ET QUOI 3.1 Quand ? L'évaluation ex ante est un outil destiné à améliorer la qualité des programmes institués ou reconduits et à fournir des informations sur la base desquels les décideurs peuvent apprécier la valeur d'une proposition. En conséquence, il importe de commencer le travail d'évaluation ex ante à un stade précoce du processus lorsque les options pour la formulation des programmes sont encore ouvertes. Dans bien des cas, l'évaluation ex ante peut se dérouler parallèlement à la conception du programme ou en faire partie intégrante, ses résultats étant pris en considération dans l'élaboration de la proposition. Cependant, si de nouvelles données doivent être réunies (par exemple, pour étayer l'évaluation des besoins d'une population cible - voir point 4.1 ci-dessous), il importe de démarrer dans les meilleurs délais. En règle générale, les recherches approfondies prennent trop de temps pour qu'elles puissent être effectuées une fois que l'élaboration du programme a effectivement commencé. Lors des diverses étapes de la préparation du programme, il faut généralement différents degrés de précision dans l'analyse. Comme certains éléments de la proposition peuvent changer à mesure que celle-ci évolue, il est souvent nécessaire de revoir en conséquence certains aspects de l'analyse. Par exemple, il peut être utile d'attendre que le contenu du programme ait été fixé pour définir précisément les indicateurs de résultats. -5- 3.2 Qui ? Une bonne solution consiste à organiser l'évaluation ex ante en interne, par exemple en recourant à une équipe composée de membres de l'unité ou des unités opérationnelle(s) responsable(s), de l'unité ou de la fonction d'évaluation de la DG et de la fonction coordination/planification. Le recours à des experts extérieurs pour l'ensemble du processus peut s'avérer irréalisable pour des motifs de confidentialité et aussi parce qu'il importe, au cours de l'élaboration du programme, de tenir directement compte des constats effectués. Néanmoins, même si la coordination et le principal volet de l'analyse ex ante sont effectués en interne, certains éléments de celle-ci peuvent souvent être confiés à un expert extérieur, comme, par exemple, les enquêtes auprès de bénéficiaires potentiels ou l'organisation d'ateliers permettant d'analyser les hypothèses et avis des différents intervenants. La participation de membres d'autres DG peut apporter un savoir-faire utile et un point de vue objectif. Les résultats des travaux d'évaluation ex ante seront requis lors de l'établissement de la fiche financière législative. Il convient donc de veiller à la coordination entre l'unité financière du service et l'équipe chargée de l'évaluation ex ante. En ce qui concerne l'évaluation des risques, il peut être fait appel à d'autres compétences spécialisées, par exemple au sein de l'unité financière et d'audit interne du service. 3.3 Quoi ? Il convient de décider avec pragmatisme comment procéder effectivement à l'évaluation ex ante, en tenant compte des besoins d'information réels dans chaque situation (voir annexe 2). Le temps et les efforts consacrés à une évaluation ex ante devraient être proportionnels à l'importance de l'intervention qu'elle soutient. Les données et constatations provenant d'évaluations ou d'études antérieures ainsi que d'autres sources devraient, autant que possible, être intégrées dans ce processus. Bien qu'un rapport d'évaluation ex ante spécifique ne soit pas obligatoire, il est utile, pour communiquer les conclusions de l'évaluation, d'établir un rapport qui fait la synthèse des résultats des différentes étapes de l'évaluation ex ante. Néanmoins, les résultats d'une évaluation ex ante devraient être présentés sous une forme abrégée dans l'exposé des motifs et dans la fiche financière législative accompagnant la proposition. En règle générale, il convient de consacrer un chapitre ou une section spécifique aux résultats d'une évaluation ex ante dans l'exposé des motifs, ne serait-ce que pour en faciliter la lecture. 4. COMMENT PROCEDER ? Les sections 4.1 à 4.7 ci-dessous renvoient aux différents éléments d'une évaluation ex ante telle que prévue par les modalités d'exécution du règlement financier (voir section 2.2). Après une description de l'objet de chaque phase, on trouvera des conseils pratiques concernant la mise en œuvre. Le fait que les différents éléments soit présentés successivement n'implique pas qu'il y ait un ordre particulier à suivre. 4.1 Analyse du problème et évaluation des besoins Analyse du problème et évaluation des besoins -6- Fixation d'objectifs et indicateurs connexes Autres mécanismes de prestation possibles et évaluation du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Objet La principale raison d'être des programmes publics est de résoudre des problèmes ou de satisfaire à des besoins. Une situation donnée qui est considérée comme un «problème» nécessitant une intervention publique repose habituellement sur un principe général ou un idéal exprimé dans les traités, dans des conventions internationales, des objectifs stratégiques de la Commission ou des déclarations politiques auxquelles s'associe la Communauté. Ces principes - ou objectifs politiques globaux - consistent, par exemple, à éliminer la pauvreté, accroître la compétitivité européenne ou assurer un développement durable. Dans le cadre de l'analyse du problème, on détermine comment tel ou tel problème se rattache à l'ensemble des principes ou objectifs politiques, on étudie les facteurs qui influent sur la situation à laquelle il faut remédier et on montre les liens entre le problème et les facteurs. L'analyse du problème vise à fournir un point de départ pour la formulation d'objectifs réalistes et pertinents pour l'intervention. L'évaluation des besoins implique une analyse détaillée de la situation, des motivations et des intérêts des acteurs clés. Elle contribuera à préciser les objectifs et, dans certains cas, à définir les critères de sélection des bénéficiaires, dans un souci d'efficacité maximale. En outre, l'analyse du problème et l'évaluation des besoins doivent démontrer qu'un programme public est nécessaire et donc aider à justifier la proposition. Dispositions pratiques L'analyse du problème constitue le point de départ pour évaluer la raison d'être d'une intervention publique et le fondement sur lequel reposeront les phases ultérieures de l'évaluation des besoins et de la fixation des objectifs. Elle doit tout d'abord cerner le problème qui se pose et en faire une description concrète. Ensuite, elle analyse les facteurs et les acteurs en cause et la manière dont ils influent sur le problème. Le but est de recenser les facteurs critiques et de «répertorier» les relations de cause à effet qui sont à la base du problème à résoudre. Cette démarche sert de point de départ pour les phases ultérieures de l'évaluation des besoins et de la fixation des objectifs. -7- Feuille de route indicative pour l'analyse du problème • définir les aspects clés de la situation que doit aborder le programme; • recenser les facteurs susceptibles d'influer sur le problème clé; • identifier les principaux groupes d'acteurs qui influent sur la situation ou qui sont influencés par elle; • analyser les relations de cause à effet entre les facteurs identifiés et les intérêts et motivations des acteurs; • élaborer une présentation visuelle de ces relations, par exemple sous la forme d'un «arbre des problèmes» (ou «problem tree»). Exemple d'«arbre des problèmes»2: Mobilité durable Système de transport en dysfonctionnement Routes Routesencombrées encombrées Absence Absencede dechoix choixde de transports transportspublics publics Faibles Faiblesinvestissements investissements dans dansles lestransports transportspublics publics Fret Fretferroviaire ferroviaire insuffisant insuffisant Infrastructure Infrastructure inadaptée inadaptée Facteurs externes, par exemple, évolution du marché Pollution Pollution-gaz gazààeffet effetde deserre+ serre+ risques risquessanitaires sanitaires Liaisons Liaisonsintermointermodales dalesinsuffisantes/ insuffisantes/ pas pasd’intégration d’intégration Prix Prixne nereflétant reflétantpas pas les lescoûts coûtsetetavantages avantages Véhicules Véhiculespolluants polluants-recherche rechercheinsuffisante insuffisante Différents Différentsservices services- coordination coordinationfaible faible Séparation Séparationtraditionnelle traditionnelle bus, bus,train, train,voiture, voiture,vélo, vélo,etc. etc. Recours Recourslimité limité aux auxpéages péages Insuffisance Insuffisancede del’électrification, l’électrification, de devéhicules véhiculespublics publicsmodernes modernes Évaluation des besoins Après l'analyse du problème (ou répertoriage), il convient de procéder à une évaluation des besoins. Celle-ci devrait consister à la fois à identifier précisément le groupe cible et à analyser ses besoins réels. Il convient d'interpréter les «besoins» au sens large afin que les motivations et les intérêts soient correctement compris, surtout dans les programmes dont l'objectif est d'influer sur les comportements. L'identification et l'analyse des besoins et/ou des intérêts des groupes cibles constituent une base solide pour la fixation des objectifs et le choix des instruments les plus efficaces. 2 Cet exemple est purement indicatif et ne défend aucun point de vue sur les questions abordées. -8- Feuille de route indicative pour l'évaluation des besoins • identifier la population cible et les principaux sous-groupes qui la composent; • étudier la situation, les motivations et les intérêts de ces groupes; • s'assurer que les besoins identifiés correspondent effectivement aux objectifs sociaux, économiques et environnementaux généraux de la Communauté; • établir une hiérarchie (ordre des priorités) entre les différents besoins et les classer en fonction des objectifs de l'intervention. Dans certains cas, notamment si une action véritablement nouvelle est en préparation, il est utile de recueillir des données empiriques sur les besoins, les intérêts et les intentions des groupes cibles potentiels, par exemple au moyen d'enquêtes ou de consultations des parties prenantes (voir exemple ci-dessous). Comme ces enquêtes prendront beaucoup de temps, l'ensemble de l'exercice d'évaluation ex ante doit commencer à un stade très précoce du processus de conception du programme. Parfois aussi, il existe déjà auprès d'autres sources suffisamment d'informations pour étayer une évaluation des besoins. Pour compléter l'analyse du problème et l'évaluation des besoins, un outil comme l'analyse AFOM («SWOT») peut être utile, car elle consiste notamment à recenser et à analyser les atouts, les faiblesses, les ouvertures et les menaces qui sont en jeu dans la situation que l'intervention doit prendre en charge. Cette méthode peut aider à créer une vision plus dynamique et à attirer l'attention sur les changements qui sont susceptibles de se produire dans le domaine qui fait problème. -9- Exemple d'évaluation des besoins et d'analyse du problème: eContent est un programme communautaire d'une durée de quatre ans ayant un double objectif: encourager le développement et l'utilisation du contenu multimédia européen dans les médias numériques à l'échelle mondiale et promouvoir la diversité linguistique dans la société de l'information. Ce programme repose en grande partie sur des projets à coûts partagés. Il a été lancé au début de 2001 à l'issue d'un processus de consultation et de réflexion qui avait commencé au milieu de l'année 1996. L'analyse du problème et l'évaluation des besoins étaient fondées sur les aspects suivants: • une analyse économique de l'industrie européenne du multimédia, notamment une enquête approfondie auprès d'un grand nombre d'entreprises et une analyse des tendances; • une analyse économique et une analyse des tendances du secteur de la transposition linguistique (c'est-à-dire la traduction et l'adaptation); • une consultation structurée avec les parties prenantes, comprenant une conférence internationale, un Livre vert de la Commission, des journées nationales d'information et une audition publique; • trois études fondées sur des enquêtes visant à recenser les principaux obstacles au développement de l'industrie européenne du multimédia; • les résultats des évaluations intermédiaires et finales de deux programmes de dépenses précédents dans le même domaine. Le processus a permis l'identification de trois principaux obstacles au développement de l'industrie du multimédia en Europe: (1) difficultés à exploiter commercialement les informations du secteur public; (2) accès insuffisant aux compétences et outils de transposition linguistique; (3) manque d'investissements dans le contenu numérique et fragmentation du système d'autorisation des droits de propriété intellectuelle. Une analyse plus poussée a permis d'identifier les groupes cibles correspondants dans chaque cas: (1) producteurs d'informations du secteur public et entreprises s'intéressant à un éventuel partenariat public/privé; (2) fournisseurs de contenu des secteurs privé et public, sociétés d'informatique et opérateurs de télécommunications, et prestataires de services linguistiques et de services d'utilité publique; (3) entreprises du secteur multimédia et investisseurs potentiels; opérateurs de services d'autorisation de droits multimédia. -10- 4.2 Fixation d'objectifs et indicateurs connexes Analyse du problème et évaluation des besoins Fixation d'objectifs et indicateurs connexes Autres mécanismes de prestation possibles et évaluation du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Objet La présente partie de l'évaluation ex ante vise à traduire des objectifs politiques à haut niveau en objectifs plus concrets, quantifiés ou mesurables et à déterminer sur quelle base le résultat sera évalué. L'analyse du problème et l'évaluation des besoins qui ont précédé contribuent à axer les objectifs du programme sur les questions essentielles pour les objectifs politiques. Fixer des objectifs concrets mesurables, ou du moins vérifiables, est fondamental pour la réussite de votre programme, parce que cela permet de: (1) clarifier le rapport entre les objectifs au niveau du programme ou de l'activité et les stratégies à l'échelle de la Commission ou d'autres objectifs à haut niveau, ainsi que le rapport avec le problème et l'évaluation des besoins; (2) susciter une compréhension commune de ce qui est important. Une vision commune et claire des objectifs est à la base d'une mise en œuvre efficace; (3) constituer une base pour définir les critères de réussite et pour préciser les indicateurs permettant de mesurer les progrès; (4) jeter les bases d'une évaluation ultérieure de ce qui a été réalisé. Si les objectifs sont vagues et trop généraux, il est difficile de déterminer si l'intervention a été réussie ou non. Un indicateur représente des informations qui aident à suivre les progrès et à rendre compte des objectifs. Les indicateurs (1) peuvent être quantitatifs ou qualitatifs; (2) doivent être faciles à suivre et permettre un compte rendu crédible; (3) doivent être suffisamment fiables pour donner lieu à une évaluation plus détaillée et à des décisions en matière de suivi s'ils révèlent que les objectifs ne peuvent pas être atteints; (4) doivent mettre en lumière les principaux aspects des changements que le programme vise à réaliser; (5) doivent aider à axer le suivi sur les aspects de la consommation des ressources, de la mise en œuvre, des réalisations et des résultats qui importent le plus pour le suivi. Comment fixer des objectifs et des indicateurs -11- Ø Commencer au niveau de base Les objectifs doivent refléter les changements souhaités par rapport à la situation de départ. L'analyse de la situation actuelle et le rattachement aux résultats escomptés constituent la base permettant de fixer des objectifs réalistes et mesurables (ou au moins vérifiables). Il est essentiel que le niveau de base soit connu dès le départ et que les objectifs soient suffisamment précis pour qu'on puisse vérifier leur réalisation. Dans le cas des programmes de dépenses, les objectifs sont idéalement exprimés sous l'angle de l'effet escompté du programme sur la situation qu'il est censé influencer, c'est-à-dire en termes d'évolution par rapport à la situation de départ. Cette façon d'exprimer les objectifs permet de rattacher ceux-ci aux problèmes à résoudre ou aux besoins de la population cible. Ø Comprendre les différents niveaux d'objectifs et d'indicateurs Pour les objectifs, différents niveaux de précision et de spécification sont requis à différentes fins. On distingue trois types d'objectifs et d'indicateurs: • Objectifs généraux/indicateurs de conséquence ou d'impact Il s'agit des buts politiques d'un programme ou d'une activité, qui s'expriment en termes de conséquence ou d'impact final et sont généralement mesurés par des indicateurs globaux, comme les taux de croissance économique, de chômage et de compétitivité. Une intervention publique permet rarement de déterminer directement la conséquence escomptée en raison de l'influence d'autres facteurs. Cependant, si elle est réussie, l'intervention devrait entraîner des changements dans la direction des conséquence attendues. Dès lors, il est capital, pour l'évaluation d'un programme ou d'une activité, de fixer des objectifs clairs pour la conséquence ou l'impact final. • Objectifs spécifiques/indicateurs de résultats Il s'agit des objectifs plus immédiats ou intermédiaires d'un programme ou d'une activité, c'est-à-dire des buts qui devront tout d'abord être atteints pour que les objectifs généraux puissent être réalisés. Les objectifs spécifiques s'expriment en termes de résultats, c'est-à-dire d'effets directs et à court terme du programme ou de la politique (voir exemples ci-dessous). À ce niveau aussi, la réalisation des objectifs de résultat n'est généralement pas entièrement maîtrisée par les gestionnaires de l'intervention, même si les autres facteurs externes qui influent sur les résultats sont moins nombreux et mieux contrôlables qu'au niveau des objectifs généraux. -12- • Objectifs opérationnels/indicateurs de réalisation Les objectifs opérationnels renvoient aux prestations réelles que le programme ou l'activité devrait apporter à ses bénéficiaires. Leur réalisation est généralement sous le contrôle direct des gestionnaires de l'intervention et peut être directement vérifiée. Les objectifs opérationnels s'expriment en termes de réalisations, c'est-à-dire de produits ou de services générés par le programme. Il faut veiller à la cohérence entre les différents niveaux d'objectifs pour une activité afin de garantir que les opérations menées contribuent effectivement à la réalisation des objectifs politiques généraux d'une manière aussi efficace que possible. Idéalement, les objectifs devraient être fixés et précisés au moyen de la présentation et de l'analyse de la logique d'intervention3 d'un programme. Ø Questionnement Se poser des questions simples peut être une technique utile pour définir les objectifs et les indicateurs, notamment au début du processus: • Vers quel but tendons-nous et que voulons-nous réaliser? – La réponse indiquera les objectifs généraux. • Qu'est-ce qui changera par rapport à la situation actuelle lorsque nous aurons atteint ce but? – Les réponses indiqueront les objectifs spécifiques en termes de résultats. • Que proposons-nous de fournir pour atteindre le but? – Les réponses indiqueront les objectifs opérationnels en termes de prestations à fournir et donneront des idées sur les indicateurs de réalisation. • Comment saurons-nous si nous sommes dans la bonne voie pour atteindre le but? – Les réponses donneront des idées pour définir les indicateurs de progression intermédiaire. • Comment pouvons-nous juger si l'action est une réussite ou non? – La réponse donnera des idées pour définir les critères de réussite. Il s'agit souvent d'une étape utile permettant de définir des indicateurs de résultat et de réalisation plus concrets. • Comment saurons-nous si le changement escompté a eu lieu? 3 Voir page 18 du guide de «L'évaluation des programmes de dépenses de l'UE», DG BUDGET, janvier 1997, consultable à http://europa.eu.int/comm/budget/evaluation/pdf/guide_fr.pdf -13- – La réponse donnera des idées pour définir les indicateurs de conséquence. Bien qu'elle soit spécifiquement conçue pour l'évaluation de projets, la méthode du cadre logique 4 est un des moyens permettant d'établir une approche systématique pour analyser le problème et définir des objectifs et des indicateurs. Cette technique produit un cadre logique, c'est-à-dire une matrice qui présente sous une forme abrégée les liens entre les objectifs généraux, les résultats, les activités à mener, les indicateurs et les sources de données pour les indicateurs. Le questionnement susmentionné ou l'élaboration d'un cadre logique peuvent se dérouler, par exemple, dans un atelier animé par un consultant externe spécialisé dans ce type de travaux. La présence de cet animateur externe peut aider à stimuler la discussion et à détecter les failles dans les modes de raisonnement établis. Ø Correspondance entre idées et méthodologie À l'issue des séances initiales de réflexion et de questionnement, on formulera des idées préliminaires qui devront ensuite être examinées à l'aune des principes ci-dessous. • Fixer des objectifs «SMART» Les objectifs sont utiles s'ils influencent les comportements en orientant les choix. Les objectifs au niveau des politiques générales peuvent être vastes et abstraits, indiquant globalement le but et la direction. Cependant, si on veut que les objectifs spécifiques et opérationnels soient efficaces dans le sens indiqué ci-dessus, ils doivent être: – Spécifiques. Les objectifs doivent être suffisamment précis et concrets pour ne pas être interprétés de différentes manières. – Mesurables. Les objectifs doivent renvoyer à un état futur souhaité (par rapport à la situation de départ), afin qu'on puisse par la suite déterminer si cet état a été atteint ou non. – Acceptés. Si on veut que les objectifs et les buts aient une influence sur les comportements, il faut veiller à ce qu'ils soient acceptés, compris et interprétés de la même manière par tous ceux qui devraient se charger de les réaliser. En outre, les objectifs et les indicateurs refléteront toujours de manière imparfaite les tâches à effectuer, surtout parce qu'ils devraient se concentrer uniquement sur les aspects principaux. Ces lacunes doivent être abordées et reconnues en tant que telles par tous les intervenants, c'est-àdire notamment par les gestionnaires et leur personnel. 4 Voir, par exemple, le manuel «Gestion du cycle de projet», Office de coopération EuropeAid, mars 2001. -14- – Réalistes. Les objectifs et les buts doivent être d'un niveau ambitieux - il ne sert à rien de fixer un objectif qui ne fait que correspondre au niveau actuel de réalisation - mais ils doivent aussi être réalistes pour que les responsables les trouvent significatifs. – «Time-dependent». Les niveaux des objectifs et des buts restent vagues s'ils ne sont pas liés à une période de temps déterminée. Enfin, les objectifs doivent être nombre limité et porter sur des éléments clés des activités. Si les objectifs ou les indicateurs sont trop nombreux l'élan stratégique sera dilué dans un niveau de détail trop élevé, ce qui laissera supposer que les objectifs du programme ou de l'activité n'ont pas été suffisamment éclaircis. En outre, des ressources humaines et financières limitées devraient être concentrées sur les objectifs clés. • Utilisation et choix des indicateurs Les indicateurs devraient refléter les principaux aspects des résultats ou des conséquences recherchées. Cependant, il ne suffit pas de définir les indicateurs appropriés - il faut aussi des mécanismes destinés à collecter des données sur leurs valeurs. Idéalement, ceux-ci devraient être en place au début de la mise en œuvre. Le choix des indicateurs doit être notamment fonction de la facilité avec laquelle peut s'effectuer la collecte des données pertinentes: cette opération ne devrait pas être plus coûteuse que la valeur d'utilisation que représente l'information fournie. • Critères applicables aux indicateurs Pertinence Lien évident entre l'indicateur et l'objectif Facilité Faible coût de la collecte des données et facilité du suivi Crédibilité Non ambigu + facile à interpréter + crédible pour les destinataires du compte rendu Acceptation A fait l'objet d'une discussion avec le personnel du service Solidité Résistant à la manipulation par les responsables Rapport coût-efficacité Les avantages pour le suivi et la crédibilité du compte rendu l'emportent sur le coût de la collecte des données Par définition, les indicateurs ne procurent qu'une vision partielle des progrès réalisés. Ils font état de certains aspects essentiels de la performance du programme, mais n'expliquent pas pourquoi leur niveau est ce qu'il est. En conséquence, l'usage des indicateurs doit toujours être complété par une analyse des facteurs qualitatifs et une interprétation des données produites. -15- Exemples d'indicateurs de réalisation, de résultat et d'impact: Domaine d’ intervention Indicateurs de réalisation Indicateurs de résultats Indicateurs de conséquence/ d’impact Taux de migration de la région Promotion des zones rurales Nb. de projets obtenant une aide financière Nb. d’entreprises déplacées dans la région Agroenvironnement Zone faisant l’objet de mesures de réduction des moyens de production Bilan d’azote de la zone (kg/ha/an) Taux de concentra- Assistance aux PME Nb. de PME bénéficiant de consultations Emplois bruts créés Emplois nets créés/ sauvegardés après 18 mois Formation professionnelle Nb. de places de formation Nb. de participants obtenant une qualification formelle % de participants qualifiés obtenant un emploi équivalent -16- tion de polluants aquatiques 4.3 Autres mécanismes de prestation possibles et évaluation du risque Analyse du problème et évaluation des besoins Fixation d'objectifs et indicateurs connexes Autres mécanismes de prestation possibles et évaluation du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Objet «Les Américains ont dépensé des millions de dollars pour concevoir un stylo utilisable par les astronautes dans l'espace. Les Russes se servaient d'un crayon.» Dans la plupart des cas, il n'y a pas qu'une seule façon d'atteindre un objectif. On peut distinguer d'autres méthodes possibles au niveau − des stratégies d'intervention: par exemple, aide financière / réglementation / information et activités de mise en réseau; − des instruments: par exemple, subventions, bonifications d'intérêts ou prêts à taux bonifié; − des canaux d'intervention: aide directe aux principaux bénéficiaires / aide aux acteurs intermédiaires, comme des ONG; − des taux d'intervention: l'intensité de l'intervention peut être variable, par exemple en fonction du taux de participation ou d'une définition plus ou moins large des groupes cibles. L'analyse des autres mécanismes de prestation possibles permettra de recenser les options dont on dispose et de les comparer sur la base des critères retenus. Le but est de: – s'assurer que les instruments choisis pour la mise en œuvre de l'intervention sont ceux qui conviennent le mieux (en termes d'efficacité et d'efficience ou en fonction des autres critères retenus), et de – démontrer aux décideurs en quoi l'approche proposée devrait être considérée comme le «meilleur moyen possible» d'arriver aux fins prévues. Cette partie de l'évaluation ex ante devrait aussi analyser les risques liés à la mise en œuvre de l'intervention, afin de déterminer les lignes de conduite à suivre pour en prévenir les répercussions ou atténuer leur impact. Différents types et niveaux de risques peuvent faire office de critères qui président au choix de tel mécanisme de prestation plutôt que de tel autre. En outre, l'analyse des autres mécanismes de prestation possible devrait s'intéresser aux éventuels résultats critiques d'évaluations précédentes concernant l'efficacité des instruments employés dans les générations antérieures du programme ou dans le cadre d'autres interventions du même type. Dispositions pratiques -17- L'analyse des autres mécanismes de prestation possibles suppose que l'on identifie les options et qu'on les compare entre elles, ce qui permet de déterminer - et de mettre en évidence - celle qui, selon toute vraisemblance, est le moyen le plus efficace de réaliser les objectifs visés. S'il n'existe pas de procédure type pour l'identification des options, plusieurs méthodes peuvent y contribuer. Ci-dessous figurent certaines techniques utilisables: • Les séances de réflexion avec des experts du domaine considéré et/ou les groupes cibles potentiels. La participation de personnes extérieures (en plus de celles qui interviennent directement dans le programme) peut apporter un regard nouveau sur les possibilités. Le recours à un animateur extérieur peut aider à mettre en œuvre un processus novateur mais méthodique. • Les projets pilotes. La promotion des démarches novatrices au moyen d'une brève phase pilote peut apporter des idées nouvelles qui pourront ensuite engendrer des instruments plus programmatiques. Cependant, comme cette méthode nécessite une période relativement longue, elle ne pourra être appliquée que si on dispose de suffisamment de temps pour lancer la recherche d'idées nouvelles. • L'analyse des résultats d'évaluations antérieures et d'autres études connexes. Les recommandations formulées dans les rapports d'évaluation antérieurs peuvent contenir des idées qui méritent d'être développées même si elles n'étaient pas réalistes au moment de leur formulation initiale. -18- Exemples d'autres instruments possibles pour la mise en œuvre d'un objectif: OBJECTIFS Investissements Investissements croissants croissantsdans danslala société sociétéde de l’information l’information Accroissement Accroissementdes des investissements investissementspour pour l’environnement l’environnement dans dans les pays candidats les pays candidats Renforcement Renforcementde del’l’ employabilité employabilitédes des habitants d’une habitants d’une région régiondéshéritée déshéritée Aide Aideaux auxPME PME dans danslalaperspective perspective de del’élargissement l’élargissement Aide Aide financière: financière:octroi octroid’une d’unesubvention subvention ou d’un prêt pour investissement ou d’un prêt pour investissement Activités Activitésd’information: d’information:contribution contributionàà lalamise miseen enplace placed’un d’uncentre centred’innovation d’innovation Financement Financementuniquement uniquementpar parsubventions subventions Recours Recoursààd’autres d’autresinstruments instrumentsfinanciers, financiers,comme comme leleprêt à taux bonifié ou la prise de participation prêt à taux bonifié ou la prise de participation Aide Aidedirecte directeaux auxemployeurs employeurs aux auxfins finsde delalaformation formation Aide Aideindirecte: indirecte:organisation organisation de decours cours de deformation formationpour pourceux ceuxqui quien enont ontbesoin besoin Subvention Subventionde de70% 70%des descoûts coûtséligibles éligiblespour pour un un petit petitnombre nombrede deprojets projets Subvention Subventionde de40% 40%des descoûts coûtséligibles éligiblespour pour un un grand grandnombre nombrede deprojets projets Une fois identifiées, les options possibles doivent être comparées. À cette fin, il faut définir une série de critères explicites. S'il importe que ces critères reflètent les besoins/problèmes sous-jacents dans la situation de départ, il convient aussi d'évaluer le réalisme (coût, risques, complexité technique, etc.) des différentes options. Parmi les critères de comparaison évidents figurent: • l'efficacité avec laquelle chaque option atteindra probablement des objectifs donnés; • le niveau des coûts (au sens large, pas seulement financier) relatifs à chaque option; • les risques associés: par exemple, les différents degrés d'exposition au risque de fraude dans les diverses options. Les critères de sélection devraient être adaptés de manière à refléter les aspects essentiels des objectifs que le programme vise à réaliser. Si, par exemple, le programme prévoit de mettre en place des méthodes/idées nouvelles et expérimentales, un critère pertinent serait la capacité du mécanisme de prestation proposé à exploiter et diffuser les résultats des différents projets. Une approche matricielle, comme celle qui présentée ci-dessous, peut servir à comparer les avantages relatifs des options en présence. Même en l'absence de données chiffrées, il devrait être possible d'adapter une approche systématique à cette comparaison. -19- Efficacité Coûts Risques élevée/moyenne /faible élevés/moyen s/faibles élevés/moyen s/faibles Autres critères Évaluation globale positif/neutre/ négatif OPTION 1 OPTION 2 OPTION N Afin de conférer un caractère plus formel à l'évaluation globale des différentes options, on peut affecter des pondérations quantitatives aux différents critères. En pareil cas, l'analyse s'apparentera à une analyse multi-critères. Cependant, même une évaluation qualitative constitue généralement une aide suffisante à la prise de décision si elle est présentée d'une manière systématique. Définition du risque et de l'évaluation du risque Un risque se définit généralement comme un événement qui peut avoir une conséquence indésirable ou négative (c'est-à-dire la non-réalisation des objectifs fixés). Il se caractérise par la probabilité que l'événement se produise et par l'impact qui en résulte s'il se produit. La combinaison de ces deux facteurs se traduit par un degré d'exposition au risque. L'évaluation du risque vise à détecter ces événements (identification du risque) et à évaluer l'exposition (impact et probabilité). Pour mener une évaluation, il faut: - identifier le risque; - évaluer la probabilité que ce risque se matérialise; - évaluer l'impact potentiel sur le programme en cas de matérialisation du risque. La gestion du risque est un aspect fondamental de la conception d'un programme. C'est uniquement en identifiant et en évaluant les risques qu'on peut prévoir des dispositions pour empêcher leur matérialisation et, si elles échouent, des mesures pour y faire face. L'évaluation du risque pourrait alors aboutir à la conclusion de ne pas aller plus loin ou de procéder d'une manière radicalement différente. L'exposition au risque peut également être un critère de choix ou de rejet de tel ou tel mécanisme de prestation. L'identification et l'évaluation du risque sont des activités hautement subjectives. L'évaluation formelle et quantitative du risque est peut être possible au niveau des projets, notamment s'il s'agit de projets techniques, tandis que dans la conception des programmes, l'identification du risque et l'évaluation qualitative de l'exposition sont généralement suffisantes. Il conviendrait de disposer des compétences ad hoc, par exemple, lors de l'évaluation du risque de fraude, auprès de la fonction d'audit interne ou de l'unité financière du service. -20- 4.4 Valeur ajoutée de l'intervention communautaire Analyse du problème et évaluation des besoins Fixation d'objectifs et indicateurs connexes Autres mécanismes de prestation possibles et évaluation du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Définition et objet Les crédits de l'UE, s'ils sont dépensés rationnellement, devraient être à l'origine d'une «valeur ajoutée» bien supérieure à ce qui aurait été produit en l'absence de dépenses publiques. La dimension «européenne» de cette valeur ajoutée renvoie à l'avantage spécifique qui peut en résulter si l'intervention se déroule au niveau de l'UE et non à celui des États membres ou des régions. On peut entendre par valeur ajoutée européenne (VAE) la «valeur» résultant d'une intervention de l'UE qui s'ajoute à la «valeur» qui aurait résulté de l'intervention au niveau national ou régional des pouvoirs publics et/ou du secteur privé. L'analyse de la «valeur ajoutée européenne» (VAE) vise à démontrer qu'il est justifié d'agir au niveau de l'UE et que les instruments utilisés «ajoutent de la valeur» à ce qui est déjà accompli à un autre niveau, notamment national ou régional. En conséquence, l'intérêt n'est pas dans la réalisation des objectifs du programme ou dans l'obtention d'un impact positif au sens général, mais il réside dans le rôle particulier que joue à cet égard l'intervention de l'UE. Une condition essentielle à la création d'une «valeur ajoutée» est la complémentarité et la compatibilité de l'intervention de l'UE avec les autres interventions. Ce n'est que dans ces conditions qu'elle produit des effets de synergie. La VAE est apparentée à un certain nombre d'autres notions souvent utilisées dans le contexte des programmes et activités de l'UE, comme la subsidiarité, la proportionnalité et l'additionalité. Ces notions sont brièvement présentées à l'annexe 3. Importance accordée selon le contexte La nécessité et le centre d'intérêt de l'analyse de la VAE varient en fonction des domaines politiques. Si une politique est définie par le traité comme une politique communautaire (telle que la politique agricole commune), point n'est besoin d'étudier si une action au niveau de l'UE se justifie. Cependant, même en pareils cas, les instruments particuliers proposés devraient être analysés sous l'angle de leur valeur ajoutée. Par exemple, dans le cas des mesures de promotion des produits agricoles, certains instruments peuvent être efficaces au niveau de l'UE, tandis que d'autres le seront davantage au niveau national ou local. -21- Dans le domaine de l'aide extérieure, il se peut que l'évaluation de la valeur ajoutée doive se concentrer sur la complémentarité et la cohérence et les effets de synergie potentiels au niveau international. Par exemple, pour un programme d'aide au développement, il importe de savoir quelle valeur ajoutée peut être créée par rapport à d'autres régimes d'aide internationale existant dans le même domaine. Comment analyser la valeur ajoutée européenne? Concrètement, l'analyse de la VAE pourrait se dérouler en deux temps: q Tout d'abord, il faudrait effectuer une recherche empirique sur les mesures qui sont en place et sur ce qui a déjà été fait dans le même domaine dans les États membres, les régions (le cas échéant) et aussi au sein de la Commission (surtout lorsque différents services œuvrent dans des domaines politiques étroitement liés); q Ensuite, il faudrait procéder à une comparaison entre ces activités et les actions/instruments figurant dans l'intervention proposée, en veillant à déterminer: Ø s'il y aura complémentarité (sans double-emploi) et compatibilité (absence de préjudice/contradictions éventuelles) entre l'intervention et celles qui existent déjà, et Ø l'ampleur et le type des effets de synergie pouvant être escomptés. Le contrôle de la complémentarité/compatibilité et l'analyse des effets de synergie devraient s'effectuer dans le contexte des autres mécanismes de prestation possibles (voir section 4.3. ci-dessus) étant donné que ces effets sont généralement spécifiques à tel ou tel instrument ou mécanisme de prestation. Le tableau ci-après présente, à l'aide d'un exemple de politique de RDT, quels types de valeur ajoutée peuvent être obtenus. Un exemple caractéristique d'effet de synergie (financière) est ce qu'on appelle la «masse critique»: une intervention communautaire, bien que limitée en soi, place des activités nationales à une échelle suffisante pour que soient obtenus des résultats significatifs. -22- Exemple de valeur ajoutée européenne (VAE): les programmes-cadres de recherche En vertu du traité, la Communauté mène des actions de recherche «qui complètent les actions entreprises dans les États membres» et «la Communauté et les États membres coordonnent leur action en matière de recherche et de développement technologique, afin d'assurer la cohérence réciproque des politiques nationales et de la politique communautaire» (articles 164 et 165 du traité CE). Lors de l'élaboration de la proposition du 6è Programme-cadre (2002-2006), le critère de la VAE a été abordé à trois niveaux: approche globale, priorités et instruments. Sur la base de mesures bibliométriques, d'études d'impact nationales et européennes sur les actions passées et d'une analyse prospective fondée sur des projets-pilotes ou des expériences similaires tirées d'autres politiques, on a recensé des effets de complémentarité et de synergie qui n'auraient pas pu être obtenus sans l'aide européenne: A. Valeur ajoutée financière: - création d'une masse critique en termes financiers et humains par la concentration sur quelques priorités ayant une importance stratégique pour la Communauté (par exemple l'aéronautique); - levier financier au moyen de projets transnationaux cofinancés; - mise en œuvre d'actions de recherche dont le coût et l'ampleur dépassent les possibilités d'un seul pays; - contribution à la masse critique nécessaire à l'intégration de la recherche par le recours à de nouveaux instruments (projets intégrés, réseaux d'excellence, exécution conjointe de programmes nationaux). B. Valeur ajoutée économique: - création de nouveaux processus, produits ou services dans des secteurs stratégiques qui importent pour la compétitivité européenne; - stimulation de l'innovation, du capital-risque et de la compétitivité au niveau européen; - instauration de normes, de moyens de mesure et de tests visant à soutenir les politiques communautaires, afin de renforcer le marché intérieur; - amélioration des compétences dans les entreprises et «internationalisation» des équipes; - accès à de nouveaux marchés par le biais de projets de RDT transnationaux. C. Valeur ajoutée sociale et environnementale - problèmes transnationaux traités plus efficacement au niveau de l'UE (par exemple, ESB, couche d'ozone, vaccins...); - examens éthiques contribuant à garantir le respect des principes éthiques dans les activités de recherche communautaires et élaboration de codes de conduite; - avis scientifiques décidés conjointement au niveau européen, contribuant à la participation active de la société civile ou des acteurs économiques et sociaux à la formulation et à la mise en œuvre des politiques; - réduction des temps de réaction par une flexibilité accrue pour les actions requises à la suite de l'actualité et des défis scientifiques, technologiques et socio-économiques; - mobilité accrue des chercheurs et développement des ressources humaines dans la recherche. D. Valeur ajoutée institutionnelle - contribution aux politiques et réglementations communautaires (agriculture, pêche, environnement, transports, etc.); - incidence de la recherche européenne sur les décisions européennes ou nationales en matière de politique de la recherche; - mise en commun des meilleures pratiques dans la conception des politiques et des programmes et mise en œuvre au niveau de l'UE et au niveau national. E. Coopération transfrontalière/transnationale et mise en réseau - mise en réseau étendue, création de capacités de renommée mondiale et transfert continu de connaissances par le rapprochement structuré d'excellentes équipes de recherche; - dynamisation de l'environnement de recherche en Europe: publication plus rapide, citations plus fréquentes et coédition; - Amélioration de la qualité de la recherche, par exemple par la combinaison de compétences et d'infrastructures complémentaires dans différents pays. -23- 4.5 Enseignements tirés du passé Analyse du problème et évaluation des besoins Fixation d'objectifs et indicateurs connexes Autres mécanismes de prestation possibles et évaluation du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Objet «Ne refaites pas les erreurs commises dans le passé, faites-en de nouvelles!» La plupart des propositions de programmes s'inspirent de programmes existants et de nombreuses initiatives de l'UE présentent des similitudes avec d'autres programmes mis en œuvre par la Commission ou d'autres organisations. Il est d'une importance capitale de tirer les enseignements des expériences antérieures. Les rapports d'évaluation et autres études connexes permettent généralement de réunir des informations d'un grand intérêt: • la pertinence de la stratégie en place et l'éventuelle nécessité de la modifier; • l'efficacité des instruments de prestation existants; • les facteurs critiques touchant à la mise en œuvre d'un programme; • les types de problèmes rencontrés pendant le suivi et les évaluations. Tirer les enseignements des rapports d'évaluation ex post Une séquence de phases d'évaluation (ex ante, à mi-parcours, finale et ex post) dans des cycles de programmes successifs présente souvent des éléments communs, qui doivent être organisés de manière efficace pour éviter tout double-emploi. Le principe fondamental consiste à combiner les travaux d'évaluation des programmes d'une période sur l'autre. D'une manière générale, la relative continuité des actions programmées de période en période permet d'utiliser les conclusions de l'exercice d'évaluation qui vient d'avoir lieu pour évaluer la pertinence des nouvelles mesures proposées. Dans le cadre de l'évaluation ex ante préparatoire à l'adoption d'un programme futur, on devrait d'abord étudier l'évaluation à mi-parcours de la période qui touche à sa fin. Cette évaluation à mi-parcours a généralement donné lieu à des conclusions sur les premières années d'activité d'un programme. Ainsi, elle peut déjà renseigner sur la pertinence et l'efficacité des stratégies retenues et des instruments de prestation. Elle pourrait aussi rendre compte des difficultés et problèmes qui affectent la mise en œuvre régulière du programme. En outre, l'évaluation ex ante devrait tenir compte du rapport d'évaluation ex post relatif à la période précédente et d'éventuelles évaluations thématiques menées dans le même domaine politique et dans d'autres. Les impacts des interventions passées pourraient être semblables à ceux qui sont à l'étude. De surcroît, il se pourrait que certains des facteurs contextuels soient les mêmes. -24- Tirer des enseignements auprès d'autres sources Outre les enseignements tirés des pratiques d'évaluation antérieures, il est recommandé de puiser dans d'autres sources d'information (comme des études et des rapports d'audit), qui peuvent par exemple être consultées auprès des États membres, de la Commission et d'autres organisations internationales (par exemple les études de l'OCDE et de la Banque mondiale ou les rapports d'audit spéciaux par secteur de la Cour des comptes). Par exemple, pour préparer une évaluation ex ante sur un programme de dépenses au Mozambique, il pourrait être utile de consulter: – l'évaluation par la Commission de la stratégie nationale établie par la CE pour le Mozambique 1996-2000; – le rapport spécial de la Cour des comptes sur la gestion des programmes d'aide extérieure de la Commission (en particulier, la programmation par pays, la préparation des projets et le rôle des délégations); – l'analyse de la Banque mondiale sur les infrastructures du Mozambique. 4.6 Planification du suivi et de l'évaluation à venir Analyse du problème et évaluation des besoins Fixation d'objectifs et indicateurs connexes Autres mécanismes de prestation possibles et évaluation du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Objet Les modalités requises pour le suivi et l'évaluation du futur programme doivent être planifiées dès le stade de l'évaluation ex ante. Des données fiables sur la mise en œuvre et les résultats immédiats des interventions communautaires sont à la base de toute évaluation sérieuse de leur impact. L'objet de cette étape est de garantir que • des données ad hoc soient disponibles et que • les évaluations soient effectuées dans les délais et axées sur les questions pertinentes. Suivi La définition d'objectifs et d'indicateurs clairs (voir section 4.2) est la première étape en vue de la mise en place d'un système de suivi de qualité, qui devrait, en règle générale, couvrir les réalisations et des conséquences ainsi que le processus de mise en œuvre qui les engendre. La collecte systématique de données de suivi devrait commencer au début de chaque intervention. La reconstitution des données manquantes de la phase initiale aux fins d'une évaluation ultérieure est une opération lourde, coûteuse et généralement peu -25- fiable. La définition d'objectifs et d'indicateurs clairs est la première étape du processus. En matière de suivi, le processus d'évaluation ex ante devrait: • prévoir les dispositions nécessaires à la collecte de données sur les indicateurs envisagés (tant physiques que financiers) et d'autres facteurs ad hoc en vue d'une analyse ultérieure de ce qui a été réalisé (comme des données statistiques sur les secteurs d'impact du programme, l'évolution du marché, etc); • analyser la pertinence et la fiabilité des méthodes proposées et des instruments concrets destinés à collecter les données de suivi, à les stocker et à les traiter et à en garantir la validité; • veiller à ce que le système de suivi soit pleinement opérationnel dès le début du programme et que des dispositions juridiques ad hoc soient en place pour garantir que la collecte des données auprès des États membres ou de tiers puisse s'effectuer de manière fiable et sans heurts. Il faut souvent énoncer clairement les exigences en matière de suivi dans la base juridique de l'action, ce qui permet à la Commission d'avoir accès aux données pertinentes des États membres ou des organisations intermédiaires. Exemple d'exigences en matière de suivi dans une base juridique Règlement (CE) n° 1257/1999 du Conseil, de mai 1999, concernant le soutien au développement rural par le FEOGA: Article 48, paragraphe 1: La Commission et les États membres assurent un suivi efficace de la mise en œuvre de la programmation du développement rural. paragraphe 2: Le suivi est assuré à l'aide de procédures arrêtées d'un commun accord. Le suivi est réalisé au moyen d'indicateurs physiques et financiers définis et approuvés au préalable. Les États membres transmettent à la Commission un rapport annuel sur les progrès accomplis. paragraphe 3: Des comités de suivi sont créés, le cas échéant. Évaluation L'évaluation des programmes communautaires est essentielle et constitue une obligation légale effective. La première étape consiste à définir des objectifs et des indicateurs clairs, comme il est indiqué plus haut, sur la base desquels les progrès futurs pourraient être évalués. L'évaluation ex ante devrait ensuite analyser: • quels types d'évaluations (à mi-parcours, finale ou ex post) sont nécessaires et à quel moment; • quel doit être le principal centre d'intérêt de ces exercices; • qui est chargé de leur mise en œuvre. L'exercice d'évaluation ex ante devrait consacrer une attention particulière à l'approche globale et au calendrier de chaque évaluation. Lors de la planification des différentes évaluations, il importe d'établir un lien clair entre le processus d'évaluation, ses résultats et la prise de décision. Par exemple, l'évaluation des -26- impacts devrait être réservée aux exercices finaux et ex post, tandis que le rôle de l'évaluation à mi-parcours consiste, notamment, à capter les premiers résultats initiaux. Il convient en outre de veiller à bien faire comprendre à qui incombe (Commission, État membre ou autorité régionale) la responsabilité des différentes phases des évaluations à venir. Exemples d'exigences en matière d'évaluation dans une base juridique Décision n° 1031/2000/CE du Parlement européen et du Conseil du 13 avril 2000 établissant le programme d'action communautaire «Jeunesse»: Article 13, paragraphe 2: Le présent programme fait l'objet d'une évaluation périodique réalisée par la Commission en coopération avec les États membres. Cette évaluation est destinée à améliorer l'efficacité des actions mises en œuvre par rapport aux objectifs visés à l'article 2 [...]. Cette évaluation porte également sur la complémentarité entre les actions mises en œuvre dans le cadre du présent programme et celles relevant d'autres politiques, instruments et actions communautaires pertinents. Les résultats des actions communautaires font l'objet d'évaluations externes périodiques selon les critères établis [...]. paragraphe 4: La Commission présente au Parlement européen, au Conseil, au Comité économique et social et au Comité des régions: - au plus tard le 30 juin 2005, un rapport intérimaire d'évaluation portant sur les aspects qualitatifs et quantitatifs de la mise en œuvre du présent programme, - au plus tard le 31 décembre 2007, un rapport final sur la mise en œuvre du présent programme. Décision (2001/48/CE) du Conseil du 22 décembre 2000 portant adoption d'un programme communautaire pluriannuel (programme E-Content): Article 6, paragraphe 1: Afin de garantir que l'aide communautaire est utilisée de manière efficace, la Commission veille à ce que les actions prévues par la présente décision fassent l'objet d'une évaluation préalable, d'un suivi et d'une évaluation ultérieure effectifs. paragraphe 2: Au cours de la mise en œuvre et au terme de la réalisation des projets, la Commission évalue la façon dont ils ont été menés et l'incidence de leur réalisation afin de déterminer si les objectifs fixés à l'origine ont été atteints. paragraphe 4: Après deux ans à partir de la date de publication de la présente décision et au terme du programme, la Commission présente au Parlement européen, au Conseil, au Comité économique et social et au Comité des régions un rapport d'évaluation des résultats générés par la mise en œuvre des lignes d'action [...]. La Commission peut, sur la base de ces résultats, proposer des ajustements dans l'orientation du programme. -27- 4.7 Contribuer à garantir l'efficacité par rapport aux coûts Analyse du problème et évaluation des besoins Fixation d'objectifs et indicateurs connexes Évaluation des autres mécanismes de prestation et du risque Valeur ajoutée de l'intervention communautaire Enseignements tirés du passé Planification du suivi et de l'évaluation à venir Contribuer à garantir l'efficacité par rapport aux coûts Objet et teneur Le règlement financier stipule que les fonds communautaires doivent être utilisés conformément aux principes d'économie et de rapport coût/efficacité. • Le principe d'économie veut que les moyens pour réaliser les objectifs fixés soient sélectionnés de manière à minimiser les coûts. • Le principe de rapport coût/efficacité veut que les avantages et les impacts à plus long terme qui résultent d'une intervention justifient les coûts engagés pour mener celle-ci à bien. L'évaluation ex ante devrait constituer une base raisonnable pour émettre ces appréciations. Cette partie de l'évaluation ex ante vise à analyser les différents coûts qu'implique l'option proposée et à fournir des éléments concrets, par exemple à l'aide de comparaisons, sur le rapport coût/efficacité de cette option. Toutes les propositions ayant des implications financières doivent en outre être accompagnées d'une fiche financière qui comporte un calcul détaillé des ressources financières et humaines à affecter à l'intervention. Cette tâche incombe généralement au personnel des unités chargées des ressources financières et humaines, en consultation avec l'encadrement, bien qu'une évaluation ex ante puisse fournir des éléments utiles pour remplir la fiche financière. Comment évaluer le rapport coût/efficacité L'analyse coût-efficacité consiste à rapporter les effets d'une intervention à l'ensemble des moyens (coût total) requis pour produire ces effets. Le critère d'appréciation est généralement le coût par unité de l'effet obtenu (par exemple, le coût par emploi créé ou par enfant nourri). Ce coût unitaire est ensuite comparé à d'autres interventions ou à d'autres méthodes permettant d'aboutir au même effet. L'efficacité d'un programme sur le plan des coûts dépend de la supériorité de ses performances par rapport à d'autres programmes concurrents en termes d'atteinte des objectifs fixés à moindre coût. -28- Par exemple, si l'objectif d'une intervention est d'obtenir une certaine diminution des accidents de la route dans une zone déterminée, une évaluation ex ante du rapport coût-efficacité pourrait comporter une comparaison des coûts et des résultats escomptés dans le cadre des trois options suivantes: une campagne de sensibilisation à la sécurité routière; la construction de passerelles pour séparer les piétons de la circulation automobile; la mise en place d'un nombre accru de feux de signalisation. Le niveau des coûts et le niveau escompté des résultats qui peuvent être obtenus sont évidemment différents dans chacune de ces trois options. On pourrait comparer leur rapport coût-efficacité à l'aide d'estimations quantifiées concernant le coût par nombre d'accidents évités dans chaque cas. En réalité, le calcul des ratios de coût-efficacité au stade ex ante et au niveau d'un programme ou d'une proposition politique peut se révéler difficile ou exiger un trop grand nombre d'hypothèses, trop incertaines, pour être utile. En particulier, si les objectifs d'une initiative sont multiples et trop vagues en termes de résultats escomptés, il sera difficile d'attribuer des coûts à des impacts clés comparables. En tout état de cause, le degré de clarté de la définition des objectifs et des résultats escomptés déterminera la facilité avec laquelle sera apprécié le rapport coûtefficacité de la proposition. Cependant, il est plus important de comprendre et d'expliquer les conséquences de la proposition sous l'angle des différents types de coûts que d'effectuer des mesures et des calculs précis. Au minimum, une évaluation ex ante devrait • présenter une estimation très globale du coût de l'intervention proposée; • poser la question de savoir si les objectifs justifient le coût - considérant qu'il s'agit, en dernier ressort, d'une appréciation politique; • poser la question de savoir si les mêmes résultats pourraient être obtenus à un coût moindre par le recours à une approche différente ou à d'autres instruments, ou si les résultats pourraient être meilleurs au même coût grâce à une approche différente ou à d'autres instruments. Ces questions pourraient donner lieu à une réévaluation des objectifs, de l'action elle-même ou des autres mécanismes de prestation possibles, ou de plusieurs de ces aspects à la fois. Cette partie de l'analyse peut être combinée à la comparaison des autres mécanismes de prestation possibles décrits au point 4.3. On peut tirer des éléments de comparaison, par exemple, des évaluations antérieures portant sur des interventions semblables. Les types de coûts qui devraient être pris en considération sont les suivants: • dépenses financières directes (en faveur de bénéficiaires ou de tiers) issues du budget de l'UE; • coûts administratifs pour la Commission (assistance technique, coûts informatiques, etc.); • ressources humaines nécessaires à la gestion de l'intervention. -29- Aux termes du règlement financier et des modalités d'exécution, le rapport coût/efficacité doit être apprécié du point de vue de la Communauté, c'est-à-dire sous l'angle des coûts qui se répercutent sur le budget de l'UE à la suite de la mise en œuvre de l'intervention. L'analyse coût-bénéfice porterait quant à elle sur les pertes et profits pour toutes les parties concernées par l'intervention. Même si une analyse coût-bénéfice formelle et exhaustive n'est souvent pas pertinente pour la préparation d'initiatives communautaires, elle peut se révéler utile pour procurer une image assez détaillée des implications probables en matière de coûts. Cela requière au moins d'évaluer approximativement les coûts supportés par les différentes parties concernées. Ces coûts devraient comprendre: • les coûts pour l'UE (ressources financières, administratives et humaines); • le coût pour les bénéficiaires ou la population cible (cofinancement, charges administratives se rapportant à la participation, etc.); • les coûts pour les tiers (États membres, organisations intermédiaires). -30- ANNEXE 1 : CHECK-LIST DE L'ÉVALUATION EX ANTE L'évaluation ex ante est obligatoire pour toutes les propositions occasionnant des dépenses pour le budget de l'UE. Elle vise à garantir la disponibilité d'informations ad hoc sur les aspects énumérés ci-dessous. 1. CONTENU DE L'ÉVALUATION EX ANTE a) Analyse du problème et évaluation des besoins • Quel est le problème à résoudre et quels sont les principaux facteurs et acteurs en jeu? • Quel est concrètement le groupe cible et quels sont ses besoins et/ou intérêts? b) Fixation d'objectifs • Les objectifs généraux, spécifiques et opérationnels ont-ils été définis en termes de résultats escomptés? • Quels indicateurs sont prévus pour mesurer les moyens, les réalisations, les résultats et les impacts? c) Autres mécanismes de prestation possibles et évaluation du risque • Quels autres instruments possibles a-t-on envisagé et pourquoi celui qui a été proposé a-t-il été retenu? • Quels risques implique la mise en œuvre de l'intervention et quelles mesures ont été prises pour y faire face? d) Valeur ajoutée de l'intervention communautaire • L'intervention proposée est-elle complémentaire des autres et compatible avec elles? • Produit-elle des synergies? e) Enseignements tirés du passé • De quels résultats/expériences en matière d'évaluation, d'audit ou d'études portant sur des actions semblables dispose-t-on? • Comment peut-on les appliquer pour améliorer la conception du programme? f) Planification du suivi et de l'évaluation à venir • Les méthodes proposées pour collecter, stocker et traiter les données de suivi sontelles valables? • Le système de suivi est-il pleinement opérationnel dès le début de la mise en œuvre du programme? • Quels types d'évaluations sont nécessaires et à quel moment devraient-elles être effectuées? g) Contribuer à garantir l'efficacité par rapport aux coûts • Quelles sont les différentes implications de l'option proposée en matière de coûts? • Pourrait-on obtenir les mêmes résultats à un coût moindre ou de meilleurs résultats au même coût en utilisant des instruments différents? 2. À QUEL MOMENT FAUT-IL EFFECTUER UNE ÉVALUATION EX ANTE? L'évaluation ex ante peut habituellement se dérouler parallèlement à la conception du programme ou en faire partie intégrante, ses résultats étant pris en considération dans l'élaboration de la proposition. Elle devrait commencer à un stade précoce du processus lorsque les options sont encore ouvertes. -31- 3. QUI DEVRAIT EFFECTUER L'ÉVALUATION EX ANTE? Il est souvent judicieux de recourir aux ressources internes, par exemple à une équipe composée de membres de l'unité ou des unités opérationnelle(s) responsable(s), de la fonction "évaluation" de la DG et de la fonction "coordination". Certains aspects (comme les enquêtes sur les bénéficiaires potentiels ou l'organisation d'ateliers) peuvent néanmoins être confiés à un expert externe. -32- ANNEXE 2 : LA (SEC (2000) 1051) COMMUNICATION DE LA COMMISSION SUR L'EVALUATION Le contenu de l'évaluation ex ante a été décrit dans la communication de juillet 2000, qui énonce qu'en règle générale, la préparation des propositions ayant des implications en matière de budget et de ressources devrait comporter les informations suivantes: – besoins futurs et environnement externe futur; – objectifs généraux et spécifiques, résultats associés et mesures de réalisation; – évaluation des options pour l'intervention, notamment le caractère approprié et la qualité des mécanismes de prestation; – valeur ajoutée par l'intervention communautaire; – niveau escompté des résultats futurs et des coûts associés en termes de crédits opérationnels et de ressources humaines; – enseignements tirés des interventions antérieures, risques futurs potentiels et moyens de les réduire; – plan de suivi et d'évaluation pendant le déroulement de l'intervention. La communication sur l'évaluation souligne que les modalités pratiques pour effectuer une évaluation ex ante doivent être décidées avec pragmatisme, compte tenu des besoins d'information réels dans chaque situation: «Le choix de la forme et de la méthode utilisées pour mener l'évaluation ex ante nécessaire doit se faire cas par cas, compte tenu du contexte politique, des contraintes de temps et du besoin d'informations des décideurs. La portée d'une évaluation ex ante dépendra notamment de la quantité et de la qualité des informations tirées des précédentes évaluations, études ou autres sources, du montant des dépenses et des ressources en jeu et du type de processus décisionnel. Des études d'évaluation ex ante spécifiques ou des appréciations des besoins seront peut-être nécessaires s'il manque d'importantes informations, tandis que dans d'autres cas, il sera plus utile de synthétiser les informations dont on dispose et/ou d'organiser des ateliers chargés de préciser la logique des programmes.» -33- ANNEXE 3: VALEUR AJOUTEE EUROPEENNE (VAE) ET AUTRES EXPRESSIONS CONNEXES La notion de valeur ajoutée européenne est étroitement liée à trois autres principes essentiels pour les politiques de l'UE: la subsidiarité, la proportionnalité et l'additionalité. Ces notions s'inscrivent dans le contexte général que l'UE doit justifier ses actions en termes de valeur supplémentaire que celles-ci pourraient avoir par rapport aux actions menées par les différents États membres. Ce principe a été formellement inséré dans les versions successives des traités. À Maastricht, les critères généraux de subsidiarité et de proportionnalité ont été instaurés en tant que principes régissant les activités de l'UE5. Ces principes ont par la suite été développés dans un protocole spécifique annexé au traité6. On entend par principe de subsidiarité que, dans les domaines qui ne relèvent pas de sa compétence exclusive, la Communauté n'intervient que si et dans la mesure où les objectifs de l'action envisagée ne peuvent pas être réalisés de manière suffisante par les États membres et peuvent donc, en raison des dimensions ou des effets de l'action envisagée, être mieux réalisés au niveau communautaire. Ensuite, en vertu du principe de proportionnalité, l'action de la Communauté n'excède pas ce qui est nécessaire pour atteindre les objectifs du traité. Le protocole relatif à l'application de ces deux principes prévoit, notamment, des lignes directrices servant à déterminer si les conditions susmentionnées sont remplies: • la question examinée a des aspects transnationaux qui ne peuvent pas être réglés de manière satisfaisante par l'action des États membres; • une action au seul niveau national ou l'absence d'action de la Communauté serait contraire aux exigences du traité ou léserait grandement d'une autre manière les intérêts des États membres; • une action menée au niveau communautaire présenterait des avantages manifestes, en raison de ses dimensions ou de ses effets, par rapport à une action au niveau des États membres. La VAE est indéniablement liée aux principes de subsidiarité et de proportionnalité, qui constituent les grandes lignes directrices régissant toutes les actions de l'UE. La différence essentielle repose sur le fait que les principes de subsidiarité et de proportionnalité sont axés sur la question de savoir si une action au niveau de l'UE est justifiée sur le plan juridique, tandis que la notion de VAE a un contenu plus économique. Le principal intérêt réside dans les conditions dans lesquelles une «valeur ajoutée» au niveau européen peut être obtenue et dans le type de «valeur ajoutée» qui est/sera produit par une action donnée de l'UE. La deuxième différence tient au fait que, a priori, la notion de VAE ne se limite pas, comme le principe de subsidiarité, à la relation UE/États membres/régions. Dans le cas des relations extérieures, par exemple, la complémentarité entre l'aide au développement fournie par l'UE et les actions d'autres donateurs et la valeur ajoutée qui pourrait en découler importent également. Le principe de l'additionalité est appliqué dans le cadre des Fonds structurels de l'UE. Les concours financiers issus des Fonds ne peuvent se substituer aux dépenses structurelles publiques ou assimilables de l'État membre afin d'assurer un impact économique réel. À cette fin, certaines modalités sont énoncées dans la base juridique, de même que l'obligation de procéder à trois vérifications de l'additionalité au cours de la période de programmation: ex ante, à mi-parcours et ex post7. En conséquence, le principe d'additionalité correspond de très près à celui de complémentarité, mais il est plus spécifique parce qu'il se limite aux contributions financières dans le cadre des Fonds structurels de l'UE8. 5 6 7 8 Article 3 B du traité instituant la Communauté européenne (version consolidée du traité de Maastricht; article 5 de la version consolidée du traité d'Amsterdam) Protocoles annexés au traité sur l'Union européenne et au traité instituant la Communauté européenne - Protocole (n° 30) sur l'application des principes de subsidiarité et de proportionnalité (1997). Article 11 du règlement (CE) n° 1260/99 du Conseil, du 21 juin 1999, portant dispositions générales sur les Fonds structurels. Dans le domaine de la politique de l'UE en matière de recherche et de développement technologique (RDT), on utilise également le terme d'«additionalité», mais il ne figure pas spécifiquement dans les textes juridiques. La «valeur ajoutée communautaire» est explicitement mentionnée comme critère de sélection pour les propositions d'action indirecte de RDT dans le cinquième Programme-cadre (article 10 de la décision 1999/65/CE du Conseil du 22 décembre 1998). Dans le cadre de l'évaluation de cette valeur ajoutée communautaire, l'«additionalité» est un aspect parmi d'autres, mais elle a plus ou moins la même signification que dans les Fonds structurels, c'est-à-dire que les actions de RDT correspondantes doivent démontrer que les fonds publics ne se substituent pas aux investissements des entreprises dans la recherche et le développement, mais que, d'une certaine manière, ils s'y ajoutent. -34-