Aurelie [user:field_middlename] Larmoyer

Aurelie Larmoyer

Senior Evaluation officer
WFP
Italie

Senior Evaluation Specialist in the UN system (FAO, IAEA, WFP)
Food security analysis and Humanitarian assistance programmes management in the field with international NGOs (1999- 2003)

My contributions

  • Cet effort a notamment consisté à développer sa capacité à exploiter de manière plus efficiente et efficace les éléments de preuve contenus dans son portefeuille d'évaluation. Cela a naturellement conduit à considérer l'intelligence artificielle (IA) comme une option pour automatiser l'extraction de texte.

    Constatant le fort intérêt suscité par l'IA, je partage quelques informations sur ce projet, qui débute, ainsi que des réflexions tirées de notre expérience jusqu’ici.

    Pourquoi l'intelligence artificielle est-elle utile? 

    La prise de décision fondée sur les preuves est essentielle pour de nombreuses organisations multilatérales telles que le PAM. L'évaluation est un fournisseur essentiel de preuves crédibles

    • Chère Muriel,

      Je suis d'accord que l'I.A. apporte tant de potentiel à l'évaluation, et beaucoup de questions à la fois !

      Au sein du Bureau de l'évaluation du PAM, alors que nous cherchions à accroître notre capacité à mieux répondre aux besoins de nos collègues en matière de données probantes, les progrès récents de l'intelligence artificielle (IA) nous sont apparus comme une solution évidente à explorer. C'est pourquoi je suis heureuse de partager avec vous l'expérience et les réflexions que nous avons accumulées depuis que nous avons commencé à nous intéresser à ce domaine.

      Notre point de départ pour nous intéresser à l'IA a été de reconnaître que nous étions limités dans notre capacité à tirer le meilleur parti de la richesse des connaissances contenues dans nos évaluations, pour répondre aux besoins d'apprentissage de nos collègues. Cela s'explique principalement par le fait que la localisation et l'extraction manuelles d'éléments probants sur un sujet d'intérêt donné, afin de les synthétiser ou de les résumer pour eux, demandent beaucoup de temps et d'efforts.

      Nous travaillons donc au développement d'une solution basée sur l'IA pour automatiser la recherche d'informations à l'aide d'outils de traitement du langage naturel (NLP), permettant d'interroger nos informations à l'aide de questions en langage naturel, un peu comme nous le faisons avec n'importe quel moteur de recherche sur le web. Ensuite, en tirant le meilleur parti des avancées technologiques récentes dans le domaine de l'IA générative, comme le Chat GPT, la solution pourrait également fournir du texte nouvellement généré à partir des passages de texte extraits, tels que des résumés de connaissances.

      Nous nous attendons également à ce que l'automatisation de la recherche de texte présente d'autres avantages, tels que l'étiquetage automatique et plus systématique des documents que ne le font les humains, afin de faciliter l'analyse et l'établissement de rapports, et à ce que l'IA donne également la possibilité d'adresser directement des informations pertinentes à des publics en fonction de leur rôle, de leurs intérêts et de leur localisation, tout comme le font Spotify ou Netflix.

      Comme nous parvenons à avoir une solution qui offre une bonne performance dans les résultats de recherche proposés, nous espérons qu'elle pourra ensuite être reproduite pour répondre à d'autres besoins similaires.

      Au-delà de ces utilisations que nous explorons spécifiquement au sein du Bureau d'évaluation du PAM, je vois d'autres avantages de l'IA pour les évaluations, tels que :

      • L'automatisation des processus couramment menés dans les évaluations, tels que la synthèse des preuves existantes pour générer de brefs résumés qui pourraient alimenter les évaluations en tant que données secondaires.
      • Un meilleur accès aux connaissances ou aux orientations et la facilitation de la conservation des éléments probants en vue de l'établissement de rapports, par exemple dans le cadre des exercices de rapport annuel.
      • Faciliter la production de synthèses et l'identification de modèles à partir d'exercices d'évaluation ou d'examen.
      • Améliorer l'édition grâce à des outils de révision automatisée des textes afin d'améliorer le langage.

      J'espère que ces contributions seront utiles et j'attends avec impatience les expériences des autres, car nous apprenons tous au fur et à mesure, et ce processus est en effet plein de promesses, de risques et nous fait certainement sortir de nos zones de confort.

      Cordialement

      Aurelie

  • Disability inclusion in evaluation

    Discussion
    • Chère Judith,

      Merci d'avoir abordé ce sujet important.
      Je voulais juste vous faire part de quelques ressources que vous pourriez trouver intéressantes pour répondre à certaines des questions que vous soulevez et que nous essayons tous d'aborder du mieux que nous pouvons ces jours-ci. Il s'agit de l'enregistrement d'une session d'échange que le Bureau de l'évaluation du PAM a organisée en mai dernier, afin de discuter de stratégies pratiques pour relever certains des défis que vous soulevez, liés au fait de rendre les évaluations inclusives (l'enregistrement est en anglais).

      Sway (office.com)

      J'espère que cela vous apportera des informations utiles.
      Je vous remercie,
      Aurelie

       

  • La pandémie de COVID-19 a exposé et/ou exacerbé toutes les problématiques préexistantes à travers le monde. Pour les évaluateurs également, dans la mesure où, depuis mars 2020, des questions supplémentaires se sont posées quant à la manière de veiller à ce que les évaluations offrent des contributions utiles à leurs destinataires. Mues par le besoin de continuer à soutenir l'apprentissage et la redevabilité, les évaluations ont également adopté de nouvelles manières de travailler, devenant en grande partie virtuelle. Savons-nous comment cela a affecté l'utilité de notre travail? Alors que nous reconnaissons les nouvelles limitations imposées par la situation de pandémie

    • Chère Malika,

      Merci d'avoir soulevé une question aussi importante. Je la trouve intéressante à deux égards :

      Premièrement, parce qu'elle soulève la question de savoir comment nous pouvons saisir les effets immédiats (ou à moyen terme) de la situation du COVID-19 sur nos réalités. De nombreux évaluateurs sont aux prises avec cette question. Certains collègues du système des Nations Unies se sont efforcés de dégager quelques orientations générales à cet égard. Par exemple, la récente publication du Bureau de l'évaluation de l'OIT (https://www.ilo.org/wcmsp5/groups/public/---ed_mas/---eval/documents/publication/wcms_757541.pdf ) pourrait être une source d'inspiration, car elle énumère, en annexe, des questions d'évaluation typiques qui correspondent au besoin de recueillir des informations spécifiques pertinentes pour le COVID-19.

      Je trouve également votre question intéressante parce qu'elle porte sur la manière de procéder à des évaluations rapides, que nous avions aussi de nombreuses raisons de viser même avant la pandémie, et sur lesquelles il existe donc une expérience sur laquelle s'appuyer. Et, si notre collègue Jennifer a raison de souligner que l'évaluation ne se prête pas facilement à une réaction rapide, je pense qu'il existe des moyens d'accélérer les processus pour répondre au besoin de rapidité. Je peux partager les leçons suivantes concernant ce qui a fonctionné lorsque j'ai cherché à mener des évaluations rapidement. Toud d'abord, il faut se focaliser. Cela fait une différence lorsque le temps de quelqu'un est entièrement consacré à une tâche, tandis qu'une multitude de tâches vous prive de la précieuse concentration dont vous avez besoin pour arriver rapidement là où vous le souhaitez. Deuxièmement, il faut viser un plan « suffisamment bon ». Nous tournons souvent en rond pour préparer nos évaluations, et nous investissons beaucoup de temps dans des échanges de va-et-vient à ce sujet. Il peut être utile de commencer par un cadrage approximatif et de tester et affiner votre concentration et votre approche au fur et à mesure. Troisièmement, il faut compenser les éventuelles coupes sombres en faisant appel à quelques parties prenantes disposant de connaissances stratégiques pour servir de caisse de résonance en cours de route.

      Bien sûr, la situation du COVID-19 complique ces règles empiriques, en particulier lorsque l'engagement doit être virtuel ; et mon dernier conseil est de se familiariser avec les technologies modernes pour se connecter par le biais des moyens virtuels. Comme vous le signalez, cela pourrait durer, et il pourrait donc valoir la peine d'investir dans ces nouvelles compétences.

      Best, Aurelie

    • Cher Mustapha,

      Merci pour votre message, qui soulève de nombreux sujets importants !

      Pour n'en reprendre que quelques-uns, je commencerais par affirmer haut et fort que le suivi et l'évaluation ne sont en aucun cas mutuellement exclusifs et sont incontestablement complémentaires.

      Il est peut-être vrai que l'évaluation se soit bien développée en tant que pratique, et plus encore que sa fonction sœur de suivi. Cela dit, une étude que nous avons réalisée (sur laquelle nous avons récemment partagé des résultats préliminaires - voir https://www.evalforward.org/fr/blog/evaluation-agriculture ) semble indiquer que dans de nombreux pays en développement, les évaluations se font surtout lorsqu'elles sont appuyées par un financement externe dédié: une indication que la ‘grande sœur’ n'est pas encore établie dans un modèle durable…

      Votre message soulève quoi qu’il en soit une grande question, qui me préoccupe également: pourquoi la fonction de suivi n'a-t-elle pas encore fait l'objet du même intérêt de la part des donateurs; pourquoi les systèmes de suivi ne sont-ils pas exigés en priorité, compte tenu caractère essentiel de cet outil pour tirer des enseignements des actions passées et améliorer les actions futures à temps? Comme notre étude l'a également révélé, avant de promouvoir l'évaluation, les pays doivent mettre en place une culture générale de gestion axée sur les résultats, qui commence, avant même le suivi, par une planification axée autour des résultats.

      Il est un fait que dans de nombreuses institutions, du niveau national au niveau international, le suivi est encore largement sous-estimé, sous-investi. Une façon serait peut-être de commencer par identifier qui a la plus fort intérêt à ce que le «S» remplisse sa fonction : d’identification de ce qui fonctionne ou pas, et causes et circonstances de ces dynamiques. À cet égard, nous, évaluateurs, pourrions jouer un rôle de soutient à l'émergence de cette fonction, dans nos sphères d'influence respectives; quitte à mettre de côté notre bien aimée indépendance pour un temps?… Qu’en pensent les autres évaluateurs?

      Tout de bon à vous tous,

      Aurélie

  • L’état des connaissances sur ce sujet est très diffus. Partant, le Bureau de l’Evaluation de la FAO et EvalForward ont commencé une étude pour renseigner les dynamiques de l’évaluation au sein des Ministères de l’agriculture et leur relation avec les autres institutions qui évaluent ce secteur.

    Alors que cette étude est en cours, le Forum International Francophone de l’Evaluation -FIFE 2019 qui s’est tenu à Ouagadougou du 11 au 15 Novembre a fourni une occasion d’échanger sur ces questions.  Lors d'une table ronde qui réunissait aussi des dirigeants des unités de Suivi et Evaluation  (S&E)des ministères de l'Agriculture au Cameroun

  • The African Evaluation Association’s 9th International Conference will be held in Abidjan, Cote D’Ivoire from 11 to 15 March 2019. The Conference theme is Accelerating Africa’s Development: Strengthening National Evaluation Ecosystems. It aims at expanding the “Made in Africa” evaluation approaches, supporting knowledge sharing, capacity development and networking opportunities among a wide range of organisations and individuals working on evaluation.

    EVAL-ForwARD will actively promote and support one of 12 work strands of the Conference, titled “Improving Agriculture and Food Security through Evaluation”.  

    Those interested in contributing to the conference may propose: papers, roundtables, posters, exhibitions and workshops

  • Developmental evaluation

    Discussion
    • Cher Mustapha,

      Merci pour une contribution qui soulève une question intéressante pour le développement de cette Communauté de Pratique.

      Je partage votre espoir que EVAL-ForwARD serve aux praticiens, de façon à promouvoir des évaluations utiles pour raffiner les interventions de développement. Je serais en revanche plus nuancée sur la place des contributions de nature plus théoriques, qui ne me semblent pas réservées à une communauté académique: au contraire, notre plateforme d’échange tient un rôle important en ce qu’elle permet de créer des ponts entre théoriciens et praticiens. Certes, nous n’avons pas tous le même temps pour digérer les inputs plus abstraits, mais l’opportunité est là.

      Quant à votre question de fond sur l’évaluation développementale, vous soulevez un point intéressante, qui s’applique à tant d’autres concepts: celui des divergences d’interprétation. Combien de fois, en lisant une revue d’évaluation, me suis-je dit que l’auteur n’avait pas le même entendement que moi; qui sur une définition, qui sur une approche…  Si je partage à mon tour ce qui me semble caractériser l’approche développementale, par rapport à l’évaluation ‘traditionnelle’ ou au suivi-évaluation, mon interprétation est que l’évaluation développementale est une approche avantageuse dans les cas où le sujet à évaluer n’est pas encore assez cerné (e.g. parce qu’il est complexe ou innovant) pour permettre une évaluation sur base d’indicateurs déjà précisés. L’atout de l’évaluation développementale serait alors d’accompagner l’intervention en développement et de tester son efficacité selon des indicateurs que l’évaluateur peut développer à mesure que l'intervention s'invente, de façon à fournir un retour en temps réel, et ce, malgré les contraintes liées à l’incertitude. A mon sens, il y a donc une réelle place pour cette approche, que je perçois comme plus exploratoire - peut-être moins mécanique?- que les approches basées sur des théories constituées ex-ante. Notamment car souvent les interventions à évaluer se placent dans des contextes faisant intervenir de nombreux facteurs et dans les cas où celles-ci cherchent à proposer des solutions nouvelles.

      J’espère que ce commentaire pourra enrichir le lot de contributions sur ce sujet et que l’ensemble, bien que de nature un peu théorique, pourra nourrir les réflexions et les pratiques des membres de ce réseau.

      Bien cordialement,

      Aurelie