intelligence artificielle artificial intelligence

Organisations humanitaires et communautés affectées : une relation à l’épreuve de l’intelligence artificielle

Charly Pierluigi
Charly PierluigiTravailleur humanitaire depuis plus de dix ans, Charly Pierluigi a occupé des fonctions opérationnelles au siège d’ONG internationales et sur des terrains de crise. Il s’est progressivement orienté vers les enjeux de qualité et de redevabilité et a participé avec le Groupe URD à la révision de la norme Core Humanitarian Standard (CHS) 2024. Charly anime depuis 2022, au sein du Groupe URD, le Groupe Qualité et redevabilité, réunissant treize organisations francophones, et contribue à l’analyse des pratiques du secteur à travers différents travaux de recherche, d’évaluation et de formation.
Maëve de France
Maëve de FranceCartographe de formation, et aujourd’hui responsable des programmes à CartONG, Maeve de France met depuis dix ans son expertise au service d’un usage plus réfléchi et durable des outils de gestion des données dans les programmes humanitaires, s’appuyant pour ce faire sur de nombreuses missions de terrain relatives à la mise en oeuvre d’outils ou de formation. Maeve anime depuis 2015 une communauté francophone de pratiques des ONG humanitaires dédiée à la gestion de l’information, un travail collectif qui a conduit à la création d’une initiative sectorielle visant à renforcer les pratiques en gestion de données. (mise à jour en juillet 2026)
Simon Weiss
Simon WeissSimon Weiss est spécialiste en gestion de l’information humanitaire chez Humanité & Inclusion (Handicap International), basé à Paris, en France. Diplômé d’un Master of Science in Artificial Intelligence and Business Analytics en 2021, il a consacré son mémoire de master à l’impact de l’intelligence artificielle sur les processus de prise de décision dans la gestion des crises humanitaires. Simon a ensuite rejoint la Fédération internationale des sociétés de la Croix-Rouge et du Croissant-Rouge, d’abord à Genève puis à Budapest, où il travaille sur les systèmes de suivi de la réponse à la crise ukrainienne. Il a effectué plusieurs missions à Kyiv en 2023 et 2024. Son expertise se situe à l’intersection des systèmes d’information, de l’innovation et des enjeux de suivi, de reporting et de qualité des programmes humanitaires. Il partage une partie de ses travaux de veille sur GitHub sous le nom 13w13.

La machine ne s’impa­tiente pas, ne juge pas – mais elle ne répond de rien. Entre gains d’écoute à grande échelle et risque de participation washing, trois praticiens examinent ce que l’intelligence artificielle déplace dans le contrat de confiance qui lie organi­sations humanitaires et communau­tés affectées.


Interrogé sur son essai publié en 2024, Dario Amodei, cofondateur et pré­sident-directeur général d’Anthropic, prévient : entre une intelligence arti­ficielle (IA) capable de contribuer au bien commun de l’humanité et une technologie susceptible de fragiliser profondément les sociétés humaines, la probabilité de voir se réaliser l’un ou l’autre scénario pourrait, in fine, tenir à quelques décisions seulement[1]Entretien avec Ross Douthat dans Interesting Times, podcast du New York Times, 12 février 2026, https://www.youtube.com/watch?v=N5JDzS9MQYI. Le titre du livre de Dario Amodei, Machines of Loving … Continue reading.

L’IA s’impose aujourd’hui dans le secteur humanitaire, entre promesses d’amélio­ration des interventions et contraintes croissantes des ressources, appelant à une prise de recul sur ses effets. Alors que son utilisation, à travers les modèles prédictifs, les systèmes d’alerte précoce ou les analyses satellitaires, n’est pas nouvelle, son développement rapide, notamment à travers les grands modèles de langage (LLM) et les outils d’IA géné­rative, marque un changement d’échelle et de nature.

Cette évolution transforme en profon­deur la manière dont les organisations interagissent avec les communautés. Dans un contexte où la redevabilité communautaire (Accountability to affec­ted populations ou AAP en anglais) repose sur la qualité de cette relation, ces transformations soulèvent une ques­tion essentielle : dans quelle mesure l’IA permet-elle de renforcer la confiance et la participation des populations, ou au contraire de les redéfinir, au risque de les fragiliser, à travers ce qui relèverait plutôt du participation washing[2]Stella Suge, Sarah W. Spencer, Nyalleng Moorosi et al., From experimentation to engagement: on the paradox of participatory AI and power in contexts of forced displacement and humanitarian crises, … Continue reading ?

Sans vouloir dresser un bilan exhaus­tif de toutes les utilisations de l’IA, cet article propose d’explorer cette ambiva­lence et d’analyser dans quelle mesure l’IA est en train de devenir une interface nouvelle entre acteurs humanitaires et communautés.

L’IA comme nouvelle interface humanitaire avec les communautés

Depuis une dizaine d’années, les usages de l’IA appliqués à la relation avec les communautés se développent rapide­ment. Deux familles d’usages peuvent être distinguées : les dispositifs en interface directe avec les populations (pop facing) diffusent de l’information ou recueillent des retours ; les usages en arrière-plan (back-office), moins visibles, permettent de transcrire, traduire, et analyser les informations reçues à une échelle nouvelle.

 

Panorama des dispositifs en interface directe avec les populations

Pour les communautés – comme pour les citoyens en général –, le changement le plus visible tient à la possibilité de poser directement une question à un disposi­tif numérique, d’obtenir rapidement une information ou de signaler un besoin par un canal déjà familier. Les chatbots[3]Contraction de chat (« conversation », en anglais) et robot, un chatbot est un programme informatique simulant une conversation humaine via un texte ou une voix. En français, on le traduit par … Continue reading constituent aujourd’hui la forme la plus répandue de cette interface. Derrière des apparences conversationnelles très similaires se trouvent souvent des choix techniques différents : certains chatbots guident l’utilisateur à travers des parcours prédéfinis et des réponses validées à l’avance ; d’autres mobilisent de grands modèles de langage pour trai­ter des questions formulées librement, en temps réel et dans plusieurs langues.

Chatbots

Le tournant technique vient des grands modèles de langage, dont les modèles GPT (generative pre-trained transfor­mers) sont devenus l’exemple le plus connu. Un modèle de langage est d’abord pré-entraîné sur de très grands volumes de textes afin d’apprendre à produire la suite la plus probable d’un énoncé. Il est ensuite ajusté pour devenir un assistant conversationnel, notamment à partir d’exemples de dia­logues et de retours humains, méthode connue sous le nom de reinforcement learning from human feedback (RLHF). Cette combinaison explique à la fois la souplesse de ces outils et leurs limites : ils peuvent produire, traduire, résumer, classer, reformuler ou répondre dans une même interface, mais une réponse fluide et convaincante n’est pas néces­sairement exacte.

 

Les organisations humanitaires ont rapi­dement adopté ces outils. Signpost, plateforme d’information humanitaire lancée en 2015 par l’International Rescue Committee et Mercy Corps, a ainsi évolué vers Signpost AI[4]Voir https://www.signpost.ngo, qui intègre depuis 2024 une architecture multiagents fondée sur plusieurs grands modèles de langage. Le chatbot Clara[5]American Red Cross, Meet Clara, the Red Cross Chatbot, https://www.redcross.org/about-us/meet-clara.html de la Croix-Rouge améri­caine repose, lui, sur des arbres de décision connectés à des bases institutionnelles, sans intégration d’IA générative à ce jour. Ces deux exemples montrent que l’outil conversationnel peut recouvrir des besoins distincts ; ils sont tous deux pertinents pour les communautés : davantage de souplesse dans la formulation des demandes et des réponses, ou davantage de contrôle en amont sur l’information délivrée.

L’intégration des grands modèles de lan­gage élargit la portée de ces interfaces lorsqu’ils sont reliés à des contenus vali­dés par l’organisation. C’est le principe du retrieval augmented generation (RAG), ou génération augmentée par récupération : le système recherche d’abord une infor­mation dans une base documentaire, puis le modèle formule une réponse adaptée à la question posée. Cette architecture facilite l’accès, à toute heure et en plu­sieurs langues, à des informations sur les services, critères ou procédures d’orien­tation. Elle ne garantit toutefois pas, à elle seule, que la réponse soit exacte ou appropriée à une situation sensible.

Ce type d’application peut parfois même permettre un accroissement de la redeva­bilité, par le fait de toucher des publics au sein des communautés qui n’auraient pas pu bénéficier de services tradition­nels : c’est l’exemple du chatbot de santé mentale Wysa[6]Sarah W. Spencer and Caroline Masboungi, “Enabling access or automating empathy? Using chatbots to support GBV survivors in conflicts and humanitarian emergencies”, International Review of the … Continue reading qui offre un soutien de « dernier recours » pour les populations n’ayant pas accès à des thérapeutes humains, notamment pour traiter la solitude ou l’anxiété.

L’IA élargit également les modalités de la remontée d’informations, en ouvrant des formats moins contraints que les questionnaires classiques. Des messages vocaux, des textes libres ou des échanges sur messagerie peuvent être recueillis puis exploités automa­tiquement, à travers des canaux déjà utilisés par les communautés, comme WhatsApp ou des systèmes de réponse vocale interactive. La plateforme digi­tale dédiée à la redevabilité commu­nautaire de l’Agence des Nations unies pour les réfugiés en Jordanie[7]UNHCR, AI-Driven Digital Feedback AAP [no date], https://jordanapps.unhcr.org/innovation/app1.html et le Digital engagement hub en Colombie[8]Initiative 510, “‘The Red Cross Listens to You’: DEH in Colombia”, The Netherlands Red Cross, 15 December 2025, https://510.global/2025/12/the-red-cross-listens-to-you-deh-in-colombia illustrent cette évolution vers des dispositifs multicanaux. Traduction automatique et reconnaissance vocale peuvent rendre ces mécanismes plus accessibles aux personnes non alpha­bétisées ou en situation de handicap ; elles peuvent aussi accroître l’exclu­sion des publics éloignés du numérique ou ne disposant pas d’un accès sûr à ces canaux.

Au-delà de ces mécanismes directs, certaines approches reposent éga­lement sur une écoute indirecte des communautés, notamment via l’ana­lyse des réseaux sociaux (social media listening). Ces usages, en ce qu’ils permettent d’identifier les préoccupa­tions, besoins et perceptions des com­munautés, peuvent être précieux pour certains systèmes d’alerte précoce ou pour dégager des tendances sans col­lecte directe sur le terrain, comme dans un projet de la Fédération internatio­nale des sociétés de la Croix-Rouge et du Croissant-Rouge et de l’initia­tive 510 dans le contexte de la guerre en Ukraine[9]The Netherlands Red Cross, “Enhancing Disaster Response through Social Media Listening: An Innovative Tool for National Societies”, Reliefweb, 22 February 2024, … Continue reading. Tous ces usages sont ainsi précieux pour accroître la pertinence des activités humanitaires, et donc indirectement la redevabilité envers les populations.

Panorama des dispositifs « back-office »

Si ces dispositifs font évoluer la capacité des organisations à interagir avec les communautés, ils reposent également sur des infrastructures de traitement des données. C’est dans ces mécanismes de back-office que se joue une part essen­tielle des reconfigurations des modalités mêmes par lesquelles les organisations informent, écoutent et interagissent avec les communautés.

Ces capacités reposent sur des opéra­tions aujourd’hui quasi instantanées de retranscription, traduction, classifica­tion et structuration des données. Elles permettent notamment d’intégrer des formes d’expression jusque-là difficiles à exploiter, comme les messages vocaux ou les contributions en langues locales, tout en facilitant leur utilisation à grande échelle. Les dispositifs en interface avec les communautés s’appuient d’ailleurs aussi largement sur ces composants techniques : par exemple, l’outil AAP per­met de transcrire et de catégoriser des messages vocaux de réfugiés, puis de les structurer pour en permettre une exploi­tation systématique. Ces évolutions ren­forcent la capacité des organisations à élargir la collecte de retours de la part des communautés, tout en rendant ces données exploitables à grande échelle.

Au-delà du traitement, l’IA transforme la capacité des organisations à inter­préter ces données et à leur donner du sens. Elle permet de passer d’une simple accumulation d’informations à une analyse plus dynamique, orien­tée vers la prise de décision. Ces outils facilitent notamment l’identification de tendances, la priorisation des besoins, la détection de signaux faibles ou encore la mise en relation d’informations issues de sources multiples. Ils contribuent ainsi à accélérer et affiner les processus décisionnels, en particulier dans des contextes caractérisés par des volumes de données élevés et des contraintes temporelles fortes.

« L’IA ne se contente pas de traiter les données issues des communautés, elle participe à la manière dont celles-ci sont interprétées, priorisées et transformées en action. »

Plus en amont encore, l’IA permet égale­ment d’alimenter des logiques d’antici­pation. Dans le projet de GiveDirectly[10]GiveDirectly, “AI Supported Triggers for Cash Transfers”, NetHope [no date], https://nethope.org/case-studies/ai-supported-triggers-for-cash-transfers-givedirectly-2, l’identification de signaux de risque d’inondation au Bangladesh et au Nigeria sert de déclencheur pour activer des transferts monétaires avant même la survenue de la catastrophe. Cela illustre le passage d’une logique réactive à des approches plus proactives, afin de permettre aux populations d’anticiper les effets d’un événement à venir, par exemple en évacuant le bétail ou en consolidant les habitations.

Pris ensemble, ces usages traduisent un déplacement important : l’IA ne se contente pas de traiter les données issues des communautés, elle participe à la manière dont ces données sont inter­prétées, priorisées et transformées en action. Sans chercher ici à être exhaustif sur les usages, on perçoit bien les poten­tiels de ceux-ci en soutien à la qualité des interventions et à la redevabilité vis-à-vis des communautés affectées. Toutefois, ces usages croissants sou­lèvent des questions profondes quant à la relation qui unit les organisations et les communautés.

Confiance et participation : deux conditions pour une utilisation de l’IA au service de la redevabilité

La redevabilité communautaire repose avant tout sur un exercice responsable du pouvoir et celui-ci ne peut s’exercer de manière légitime qu’à une condition : qu’il y ait de la confiance. C’est elle qui permet aux communautés de partager leurs données avec les organisations – et donc de leur conférer une forme réelle de pouvoir.

L’introduction de l’IA dans cette rela­tion n’est pas neutre. Elle peut ren­forcer cette relation ou la fragiliser. L’expérience menée par Solidarités International (SI) avec Solisbot au Liban est à cet égard révélatrice : une part significative des utilisateurs a déclaré préférer interagir avec le chatbot plutôt qu’avec du personnel humain sur cer­tains sujets. Ce résultat traduit moins un rejet du contact humain qu’une forme de confiance envers l’organisation elle-même – confiance qui autorise, et même facilite, le partage de données. Il est intéressant de noter que SI a délibéré­ment refusé l’IA générative en contact direct avec les utilisateurs, et a privilégié un arbre de décision dont les messages sont rédigés et validés par des équipes humaines[11]Valentin Pistorozzi, « Le SOLIS bot, un lien permanent avec nos bénéficiaires », Défis Humanitaires, 30 janvier 2026, … Continue reading. Lorsqu’ils sont conçus en portant une attention réelle à l’adapta­tion culturelle et linguistique, les outils peuvent permettre aux utilisateurs de se sentir compris, transformant l’IA en un interlocuteur « proche » plutôt que de le réduire à un « outil étranger ».

Toutefois, cette confiance est fragile. Dans des contextes critiques tels que les demandes d’asile, l’accès aux ser­vices essentiels ou les informations de santé, une information erronée générée par une IA peut avoir des conséquences graves et entamer durablement la légi­timité de l’organisation.

Si la confiance conditionne la redevabi­lité, la participation authentique condi­tionne la confiance. C’est précisément sur ce point que l’IA pose les questions les plus exigeantes. La co-conception avec les communautés et la représen­tativité forment la première condition d’un déploiement légitime de l’IA. Impliquer les populations dès la défi­nition du problème à résoudre, et pas seulement dans les phases de test, garantit que l’outil reflète leurs valeurs et leurs besoins réels, et non ceux que les organisations projettent sur elles. Cette exigence est d’autant plus forte que les modèles d’IA sont le plus sou­vent entraînés sur des données issues de publications occidentales et majo­ritairement anglophones[12]Yann Tao, Olga Viberg, Ryan S. Baker et al., “Cultural bias and cultural alignment of large language models”, PNAS Nexus, vol. 3, no. 9, p. 346, 17 September 2024, … Continue reading, introdui­sant des biais linguistiques et culturels susceptibles d’invisibiliser les popula­tions du Sud global ou de passer à côté des subtilités locales du langage. Pour contrer ce phénomène, des dynamiques intéressantes apparaissent telles que le projet Masakhane[13]Le constat posé par les porteurs du projet est simple : 2 000 langues du monde sont africaines, et elles sont globalement sous-représentées dans la technologie au profit d’une domination … Continue reading, qui vise à renfor­cer l’accès à des ressources en langues locales dans l’utilisation des modèles de langage, ou encore le projet « 4 milliards de conversations » de Clear Global qui ambitionne de combler la fracture lin­guistique numérique afin de valoriser les langues sous-représentées[14]Clear Global, 4 milliards de conversations [sans date], https://clearglobal.org/fr/4-milliards-de-conversations.

La participation implique également un rééquilibrage des rapports de pouvoir. L’IA ne doit pas devenir un instrument d’extraction, qui ne servirait qu’à la collecte de données sans retour réel pour les communautés ou aux déci­sions prises à distance sur la base d’al­gorithmes opaques, voire qui ne ferait que nourrir l’illusion de consultation sans influence effective sur les choix programmatiques. Ce risque de partici­pation washing est réel, et d’autant plus insidieux que les outils numériques lui confèrent une apparence de modernité et d’inclusivité. Sous couvert de locali­sation, une utilisation inappropriée de l’IA pourrait au contraire s’apparenter à une forme de « technocolonialisme » délétère pour le secteur[15]Mirca Madianou, Technocolonialism: When Technology for Good is Harmful, Polity, 2024.

Enfin, la participation suppose de main­tenir des dispositifs hybrides mêlant technologie et intervention humaine. L’IA peut libérer du temps pour les équipes et aider à traiter des volumes qu’elles ne pourraient absorber seules. Mais l’accès à un travailleur humanitaire doit rester possible lorsque la demande concerne un droit, une protection ou une situation sensible. La technologie peut appuyer la relation ; elle ne peut se substituer à la responsabilité de répondre. Augmenter les capacités d’analyse d’une organisa­tion ne suffit pas : encore faut-il que les communautés puissent comprendre les décisions prises à partir de leurs retours, les contester et obtenir une réponse.

Zones de friction : ce que l’IA déplace dans la relation de redevabilité

La transformation numérique du secteur suscite un enthousiasme réel, et souvent légitime comme le résume Fathi Enneji. D’après ce responsable du mécanisme commun de feedback au Programme alimentaire mondial, les humanitaires utilisent de plus en plus ces outils pour « moderniser la communication avec les communautés concernées, recueil­lir leurs commentaires et renforcer la transparence[16]Suzanne Fenton, “A chatbot named Mila: Answering the call for people in Libya”, World Food Programme, 17 May 2021, https://www.wfp.org/stories/chatbot-named-mila-answering-call-people-libya ».

« Le recours à l’IA risque de déplacer l’attention et les ressources de la relation humaine vers l’outil, tout en créant l’illusion d’une redevabilité modernisée et fantasmée. »

Mais c’est précisément là que se trouve le premier angle mort. Car la techno­logie, aussi performante soit-elle, ne résout pas les problèmes structurels qui précèdent son déploiement : frac­ture numérique, inégalités d’accès, ou déséquilibres de représentation dans les données. Pire, elle peut même les masquer. Le recours à l’IA risque de déplacer l’attention et les ressources de la relation humaine vers l’outil, tout en créant l’illusion d’une redevabilité modernisée et fantasmée. C’est le piège du « technosolutionnisme » : croire que la sophistication technique compense l’absence de conditions politiques, organisationnelles et éthiques d’une vraie participation.

En déléguant à des systèmes automa­tisés la gestion des retours commu­nautaires, les organisations risquent de perdre quelque chose d’essentiel : la qualité de présence que suppose l’écoute. Il ne s’agit pas de nier l’utilité du tri automatisé sur de grands volumes. Mais une question mérite d’être posée : que signifie, pour une communauté affectée, le fait d’interagir avec un algo­rithme plutôt qu’avec une personne ?

L’automatisation peut aider à traiter des volumes importants de retours ; elle ne remplace pas la capacité d’un travailleur humanitaire à percevoir ce qui n’est pas dit, à contextualiser une demande ou à montrer à une personne qu’elle est entendue. L’écoute ne se réduit pas à l’enregistrement d’une information : elle est aussi un acte de reconnaissance. Lorsqu’un chatbot devient le point d’en­trée principal, voire unique, d’un méca­nisme de retour, l’organisation prend le risque de faire de l’accès à une machine la condition de l’écoute.

Cette tension est particulièrement aiguë dans les situations de vulnérabi­lité extrême, notamment en matière de protection ou de soutien psychosocial. Une interface peut informer, orienter ou signaler une urgence ; elle ne peut prendre la responsabilité d’une rela­tion d’aide.

Une deuxième friction tient aux infrastructures. Capacités de calcul ou hébergement se concentrent entre les mains de quelques acteurs privés, prin­cipalement états-uniens, engagés dans une course à la captation d’un marché stratégique. Or, une gestion responsable des données requiert d’une organisation qu’elle puisse expliquer, à tout moment, comment une donnée est collectée, stockée, traitée, partagée et supprimée. Quand cette chaîne dépend d’entités opaques et difficilement « auditables », la confiance promise aux communautés repose sur une infrastructure que les organisations ne maîtrisent plus[17]Giulio Coppi, “Buyer beware: how AI is infiltrating humanitarian aid operations”, Access Now, 26 March 2026, https://www.accessnow.org/ai-infiltrating-humanitarian-aid.

Cette dépendance apparaît avec force lorsque les mêmes technolo­gies changent de théâtre. Lors des frappes états-uniennes en Iran au prin­temps 2026, le Maven Smart System de Palantir aurait, selon plusieurs enquêtes, mobilisé des « flux de tra­vail » (workflows) intégrant le modèle Claude d’Anthropic et permis à une vingtaine d’analystes de générer jusqu’à 5 000 recommandations de cibles par jour[18]Sur Maven Smart System et son usage dans les opérations états-uniennes en Iran, voir notamment Palantir, « Multi-Domain AI: The Future of Command and Control | CDAO at AIPCon 9 », YouTube video, … Continue reading. À quelques adaptations près, ce sont les mêmes composants techniques qui sont aujourd’hui utilisés par les organisations humanitaires dans leurs opérations. Cette proximité ne doit pas empêcher d’emblée l’utilisation de l’outil, mais elle impose d’examiner avec lucidité ce que le secteur délègue, et à qui.

La responsabilité porte également sur ce que l’interface laisse hors champ : le travail d’annotation ou de modération parfois externalisé dans des conditions précaires, notamment dans les pays du Sud, ainsi que le coût matériel et environnemental de systèmes déployés à grande échelle. Les garde-fous éthiques affichés sont souvent calibrés sur le droit et les attentes du marché domestique états-unien, offrant des niveaux de pro­tection incertains aux personnes situées hors du pays fournisseur de service[19]Félix Tréguer, « La bonne conscience de la Silicon Valley », Le Monde diplomatique, mai 2026..

La réponse ne peut être uniquement juri­dique ou éthique. Elle passe par un ren­forcement des compétences techniques internes : profils capables d’auditer les flux, de déployer des modèles, d’évaluer leurs limites et de négocier en acteurs informés. Des alternatives existent. Il est ainsi généralement observé que les meilleurs modèles dits à poids ouverts (open-weight) rattrapent avec quelques mois de décalage les performances des modèles fermés des big tech les plus avancés, avec des écarts variables selon les tâches[20]Sur le rattrapage des modèles à poids ouverts, voir Luke Emberson, “Open-weight models lag state-of-the-art by around 3 months on average”, Epoch AI, 30 October 2025, … Continue reading. Ils permettent des héberge­ments maîtrisés, des mutualisations sec­torielles et des communs numériques plus transparents. Ces voies exigent compétences, maintenance et gouver­nance collectives, mais elles recentrent la question : non pas seulement quel outil utiliser, mais qui contrôle les condi­tions techniques de la confiance. En considérant que nombre d’organisations (seules 35,7 % des organisations inter­rogées selon une étude menée en mars 2026[21]Ka Man Parkinson, “How are humanitarians using artificial intelligence? The case for governance and local leadership”, Humanitarian Leadership Academy, 14 April 2026, … Continue reading) ne disposent à ce jour d’aucune politique en lien avec l’IA, cela soulève la question de leur capacité à prendre en main le sujet de manière adéquate. D’autant plus dans un contexte où la place des organisations non gouverne­mentales (ONG) locales et nationales va grandissante, mais où l’environnement technologique du secteur est de plus en plus avancé et complexe, nécessi­tant donc des moyens conséquents pour investir le sujet de manière adéquate[22]CartONG, Au-delà des chiffres : Concilier innovation, éthique et impact, étude publiée par Alnap, septembre 2024, … Continue reading.

 

 

Le futur de l’humanitaire est-il de s’en remettre aux « machines à la grâce pleine d’amour », ou de décider collectivement ce qui peut leur être confié ?

Une ligne d’écoute humanitaire tou­jours disponible. Une voix qui répond, à toute heure, dans la langue de celle ou celui qui s’adresse à elle. Elle recueille les besoins, oriente vers la ressource humanitaire le plus proche, traite une plainte adressée à une organisation en particulier. Cette voix ne s’impatiente pas, ne juge pas. Tout semble indiquer que quelqu’un écoute. Mais derrière, il n’y a personne. Une « machine à la grâce pleine d’amour », pour reprendre la for­mule qu’Amodei a lui-même reprise de Richard Brautigan, une machine toujours disponible et performante.

Pour des organisations humanitaires confrontées à l’ampleur croissante des besoins, les promesses techniques de l’IA sont immenses. La machine ne reconnaît ni le doute, ni l’erreur. Et c’est précisément là que le fantasme des « machines à la grâce pleine d’amour » se brise : pour s’engager, et in fine être redevable, il faut pouvoir reconnaître ses propres manquements. La redevabilité n’est pas la perfection d’un service inin­terrompu ; c’est l’aveu d’une limite opé­rationnelle qui oblige une organisation à s’exposer, à dire ce qu’elle peut faire, et surtout à répondre de ce qu’elle ne peut pas faire.

Confondre la production de texte avec la communication proprement dite réduit la redevabilité à une fonction technique, alors qu’elle est un acte politique : un rapport de pouvoir assumé. Ce glisse­ment s’opère déjà, poussé par la crise des financements, via la concentration technologique et l’écart normatif qui voient les usages de l’IA se diffuser plus vite que les cadres capables de les gouverner. La bonne question n’est donc pas seulement quel modèle utili­ser, mais pourquoi y recourir, à la place de quoi, au bénéfice de qui, et avec quelle possibilité pour les commu­nautés de contester les décisions qui les concernent. L’IA doit prolonger les principes de gestion responsable des données et du respect du droit des per­sonnes[23]CartONG, Coin d’apprentissage. Gestion responsable de données, section 5.2, « Les droits des personnes concernées », 13 septembre 2022, … Continue readingDo no harm, consentement, minimisation, non-attribution de l’aide sur la base d’une décision automatisée – et augmenter la capacité des équipes à écouter, non se substituer à elles.

Cela exige de garder les communau­tés dans la boucle dès la conception, comme sujets et non comme simples fournisseuses de données. Cela sup­pose de maintenir un accès réel à un interlocuteur humain pour ce qui relève de la protection ou des droits essen­tiels, en acceptant que cet accès ait un coût et ne soit pas toujours optimisable. Cela demande enfin d’investir dans des compétences internes capables d’audi­ter des systèmes dont les organisations ne maîtrisent souvent ni les biais, ni les infrastructures.

L’intelligence artificielle a franchi les portes du secteur humanitaire et ne les refermera pas. Reste à décider collec­tivement – au-delà d’une démarche de conformité légale[24]Commission européenne, La loi européenne sur l’intelligence artificielle, 2 février 2025, https://artificialintelligenceact.eu/fr. À l’image du Règlement général sur la protection des … Continue reading – ce qui peut lui être confié, en comprenant que cette déci­sion est déjà un acte de redevabilité. S’en remettre à des « machines à la grâce pleine d’amour » reviendrait à adhérer à l’idée d’une action humanitaire capable de tout écouter, de tout comprendre, et ayant réponse à tout. L’enjeu n’est pas d’humaniser les machines. C’est de ne pas déshumaniser l’action humanitaire.

Crédit photo : Getty Images/ CICR

Cet article vous a été utile et vous a plu ? Soutenez notre publication !

L’ensemble des publications sur ce site est en accès libre et gratuit car l’essentiel de notre travail est rendu possible grâce au soutien d’un collectif de partenaires. Néanmoins tout soutien complémentaire de nos lecteurs est bienvenu ! Celui-ci doit nous permettre d’innover et d’enrichir le contenu de la revue, de renforcer son rayonnement pour offrir à l’ensemble du secteur humanitaire une publication internationale bilingue, proposant un traitement indépendant et de qualité des grands enjeux qui structurent le secteur. Vous pouvez soutenir notre travail en vous abonnant à la revue imprimée, en achetant des numéros à l’unité ou en faisant un don. Rendez-vous dans notre espace boutique en ligne ! Pour nous soutenir par d’autres actions et nous aider à faire vivre notre communauté d’analyse et de débat, c’est par ici !

References

References
1 Entretien avec Ross Douthat dans Interesting Times, podcast du New York Times, 12 février 2026, https://www.youtube.com/watch?v=N5JDzS9MQYI. Le titre du livre de Dario Amodei, Machines of Loving Grace: How AI Could Transform the World for the Better, octobre 2024, disponible sur darioamodei.com, fait écho au poème de Richard Brautigan, All Watched Over by Machines of Loving Grace, the Communication Company, 1967.
2 Stella Suge, Sarah W. Spencer, Nyalleng Moorosi et al., From experimentation to engagement: on the paradox of participatory AI and power in contexts of forced displacement and humanitarian crises, prepublication, March 2026.
3 Contraction de chat (« conversation », en anglais) et robot, un chatbot est un programme informatique simulant une conversation humaine via un texte ou une voix. En français, on le traduit par agent conversationnel, dialogueur ou robot conversationnel [note de l’éditeur].
4 Voir https://www.signpost.ngo
5 American Red Cross, Meet Clara, the Red Cross Chatbot, https://www.redcross.org/about-us/meet-clara.html
6 Sarah W. Spencer and Caroline Masboungi, “Enabling access or automating empathy? Using chatbots to support GBV survivors in conflicts and humanitarian emergencies”, International Review of the Red Cross, vol. 107, no. 930, p. 1–42, December 2025, https://international-review.icrc.org/articles/enabling-access-or-automating-empathy-using-chatbots-to-support-gbv-survivors-in-conflicts-and-humanitarian-emergencies-930
7 UNHCR, AI-Driven Digital Feedback AAP [no date], https://jordanapps.unhcr.org/innovation/app1.html
8 Initiative 510, “‘The Red Cross Listens to You’: DEH in Colombia”, The Netherlands Red Cross, 15 December 2025, https://510.global/2025/12/the-red-cross-listens-to-you-deh-in-colombia
9 The Netherlands Red Cross, “Enhancing Disaster Response through Social Media Listening: An Innovative Tool for National Societies”, Reliefweb, 22 February 2024, https://reliefweb.int/report/ukraine/enhancing-disaster-response-through-social-media-listening-innovative-tool-national-societies
10 GiveDirectly, “AI Supported Triggers for Cash Transfers”, NetHope [no date], https://nethope.org/case-studies/ai-supported-triggers-for-cash-transfers-givedirectly-2
11 Valentin Pistorozzi, « Le SOLIS bot, un lien permanent avec nos bénéficiaires », Défis Humanitaires, 30 janvier 2026, https://defishumanitaires.com/2026/01/30/solis-bot-un-outil-humanitaire-innovant
12 Yann Tao, Olga Viberg, Ryan S. Baker et al., “Cultural bias and cultural alignment of large language models”, PNAS Nexus, vol. 3, no. 9, p. 346, 17 September 2024, https://doi.org/10.1093/pnasnexus/pgae346
13 Le constat posé par les porteurs du projet est simple : 2 000 langues du monde sont africaines, et elles sont globalement sous-représentées dans la technologie au profit d’une domination éclatante de l’anglais et des autres langues européennes. À ce stade, plus de 49 traductions ont été publiées dans 38 langues par des contributeurs volontaires ; voir https://www.masakhane.io
14 Clear Global, 4 milliards de conversations [sans date], https://clearglobal.org/fr/4-milliards-de-conversations
15 Mirca Madianou, Technocolonialism: When Technology for Good is Harmful, Polity, 2024
16 Suzanne Fenton, “A chatbot named Mila: Answering the call for people in Libya”, World Food Programme, 17 May 2021, https://www.wfp.org/stories/chatbot-named-mila-answering-call-people-libya
17 Giulio Coppi, “Buyer beware: how AI is infiltrating humanitarian aid operations”, Access Now, 26 March 2026, https://www.accessnow.org/ai-infiltrating-humanitarian-aid
18 Sur Maven Smart System et son usage dans les opérations états-uniennes en Iran, voir notamment Palantir, « Multi-Domain AI: The Future of Command and Control | CDAO at AIPCon 9 », YouTube video, March 2026,, https://www.youtube.com/watch?v=yrtDgoqWmgM ; Katrina Manson, “Omniscience, Omnipresence, and Omnipotence: Meet the Gods of AI Warfare”, Wired, 23 March 2026, https://www.wired.com/story/project-maven-katrina-manson-book-excerpt ; Sydney J. Freedberg Jr., “‘Insatiable appetite’ for AI: Maven usage surged for strikes on Iran, Pentagon AI chief says”, Breaking Defense, 12 May 2026, https://breakingdefense.com/2026/05/insatiable-appetite-for-ai-maven-usage-surged-for-strikes-on-iran-pentagon-ai-chief-says
19 Félix Tréguer, « La bonne conscience de la Silicon Valley », Le Monde diplomatique, mai 2026.
20 Sur le rattrapage des modèles à poids ouverts, voir Luke Emberson, “Open-weight models lag state-of-the-art by around 3 months on average”, Epoch AI, 30 October 2025, https://epoch.ai/data-insights/open-weights-vs-closed-weights-models
21 Ka Man Parkinson, “How are humanitarians using artificial intelligence? The case for governance and local leadership”, Humanitarian Leadership Academy, 14 April 2026, https://www.humanitarianleadershipacademy.org/resources/opinion-how-are-humanitarians-using-ai-in-2026-the-case-for-governance-and-local-leadership
22 CartONG, Au-delà des chiffres : Concilier innovation, éthique et impact, étude publiée par Alnap, septembre 2024, https://alnap.org/help-library/resources/au-del%C3%A0-des-chiffres-concilier-innovation-%C3%A9thique-et-impact
23 CartONG, Coin d’apprentissage. Gestion responsable de données, section 5.2, « Les droits des personnes concernées », 13 septembre 2022, https://cartong.pages.gitlab.cartong.org/resources-center/fr/learning-corner/toolboxes?content=10&chapter=4&section=2
24 Commission européenne, La loi européenne sur l’intelligence artificielle, 2 février 2025, https://artificialintelligenceact.eu/fr. À l’image du Règlement général sur la protection des données (RGPD) de 2019, cette législation devrait entraîner une mise à niveau progressive des pratiques du secteur. Elle pose néanmoins la question de son application dans le champ humanitaire, entre logique de conformité incluant principalement les populations européennes et opportunité de renforcer la protection des données de l’ensemble des populations affectées, dans l’esprit du Do No Harm.

You cannot copy content of this page