L’intelligence artificielle humanitaire commence avant le modèle : leçons de KoboToolbox pour des communs numériques responsables

Qui gouverne l’intelligence artificielle déployée au nom des populations en crise – et qui peut lui dire non ? Les cofondateurs de KoboToolbox tirent de leur propre outil les leçons d’une IA humani­taire gouvernée, et non subie, par celles et ceux qu’elle est censée servir.

L’intelligence artificielle (IA) n’est plus à la porte du secteur humanitaire. Elle est déjà dans les propositions de projets, les rapports narratifs, les tra­ductions, les synthèses d’entretiens, les tableaux de suivi et les notes de coordination. Elle sert à formuler un plan prospectif de développement d’une structure, à résumer une évaluation, tra­duire un témoignage ou analyser des réponses ouvertes.

L’IA arrive par l’utilité

L’IA se diffuse parce qu’elle répond à une pression réelle : faire plus avec moins. Les besoins augmentent, les financements se contractent, les exi­gences de reporting s’accumulent, les équipes s’épuisent. Dans ce contexte, elle apparaît comme une solution pra­tique, immédiate, presque évidente. L’IA devient la technologie de l’austérité humanitaire : une promesse d’efficacité offerte à un secteur sommé de répondre à davantage de souffrances avec moins de ressources^[1]United Nations Office for the coordination of humanitarian affairs (OCHA), Aperçu Humanitaire Mondial 2026, 8 Décembre 2025, … Continue reading.

Ce n’est donc plus son usage qui est en question. Il est déjà là. L’étude mon­diale menée en 2025 par Data Friendly Space et la Humanitarian Leadership Academy auprès de 2 539 répondants dans 144 pays et territoires indiquait que 93 % des répondants avaient déjà utilisé des outils d’IA, tandis que seuls 22 % déclaraient que leur organisation disposait d’une politique formelle sur l’IA. Une enquête de suivi menée en janvier 2026 confirmait cette tendance : 95 % des répondants utilisaient des outils d’IA, mais moins d’un quart tra­vaillaient dans une organisation dotée d’une politique formelle^[2]Data Friendly Space and Humanitarian Leadership Academy, 2026 AI Pulse Survey Findings [briefing report], 19 March 2026, https://www.datafriendlyspace.org/resources/2026-ai-pulse-survey-findings.

Le choix n’est donc pas entre l’IA et son refus, mais entre laisser les systèmes les plus opaques devenir l’infrastructure par défaut de l’action humanitaire, ou construire des alternatives plus sûres, plus ouvertes et mieux gouvernées.

Cet article ne traite pas de tous les effets de l’IA sur l’action humanitaire. Il ne porte pas sur la désinformation, les cyberattaques, l’IA comme infrastruc­ture civile exposée aux conflits, ni sur l’ensemble des transformations géo­politiques liées à ces technologies. Son objet est plus étroit : les conditions dans lesquelles l’IA entre dans les pratiques humanitaires, notamment à travers la collecte, l’analyse, la représentation des besoins, la consultation et la décision. La question centrale est moins celle de la performance des modèles que celle des droits, du pouvoir et de la respon­sabilité dans les usages concrets de ces technologies.

La leçon de KoboToolbox : l’infrastructure compte autant que l’outil

L’expérience de KoboToolbox (voir enca­dré) éclaire ce débat, bien que l’analo­gie ait ses limites. KoboToolbox n’est pas une intelligence artificielle. Son histoire montre comment une techno­logie humanitaire s’impose lorsqu’elle répond à un problème opérationnel clair, tout en rappelant qu’un outil res­ponsable ne se définit pas seulement par sa valeur d’usage. La collecte numérique a réduit certains coûts, limité les erreurs de saisie, amélioré la qualité des don­nées et rendu la collecte accessible à des équipes qui n’avaient pas les moyens de développer leurs propres systèmes. Mais un outil gratuit et open source ne devient pas automatiquement digne de confiance. Il doit fonctionner dans des conditions difficiles, être maintenu, permettre le contrôle des données et s’inscrire dans des pratiques de forma­tion, de support, de documentation et de gouvernance. Cette leçon vaut pour l’IA : une technologie humanitaire ne devient responsable que par les conditions de production, d’accès, de contrôle, de maintenance et d’usage qui l’entourent.

KoboToolbox et l’IA humanitaire

KoboToolbox représente aujourd’hui une bonne illustration, en même temps qu’un test, de cette transition, puisque nous y intégrons progressivement l’IA. Cela prend des formes très concrètes : faciliter et accélérer la transcription des entretiens, la traduction des réponses, traiter des données qualitatives, aider à construire des formulaires, ou dévelop­per des enquêteurs intelligents capables de relancer, de demander une précision, de détecter une réponse incomplète ou de suggérer une question de suivi – particulièrement utile dans certains contextes, par exemple une épidémie d’Ebola. Certaines de ces fonctionna­lités, notamment la transcription, la traduction et l’analyse qualitative des réponses audio, sont déjà disponibles.

Ces usages touchent au coeur du travail humanitaire, au moins en ce qui concerne la production de connaissance. Dans une enquête, la qualité d’une réponse dépend de la langue, du contexte, de la confiance et de la capacité de l’enquêteur à reconnaître une nuance. Une IA qui soutient la transcription, la traduction ou le suivi d’entretien peut réduire de vraies charges de travail et améliorer certains aspects de la qualité des données. Mais elle peut aussi dépla­cer discrètement le lieu où se fabrique le sens.

Si l’IA aide à construire des formulaires, traduire, transcrire, coder des réponses ou conduire un entretien, elle influence ce qui sera demandé, retenu, regroupé ou rendu visible. L’enjeu est donc d’in­tégrer l’IA sans perdre ce qui a fait la force d’outils comme KoboToolbox : le contrôle par les utilisateurs, la protec­tion des données, des limites visibles, une vérification humaine, une documen­tation et une adaptation en prise avec les réalités du terrain.

Le risque est en effet que la production du savoir humanitaire soit déplacée vers des systèmes que les équipes de terrain, les partenaires locaux et les populations concernées ne peuvent ni inspecter, ni influencer, ni contester. L’IA peut soute­nir les outils, la collecte et l’analyse. Elle ne doit pas devenir une autorité silen­cieuse sur ce qui mérite d’être demandé, compris ou retenu.

Le risque de l’IA par défaut

Le danger n’est donc pas que les huma­nitaires utilisent l’IA : il advient s’ils l’uti­lisent à travers des infrastructures qu’ils ne contrôlent pas. Dans la pratique, l’IA « par défaut » sera souvent la plus rapide, la moins chère, la mieux inté­grée aux outils existants, ou simplement la seule disponible. Ce sera aussi, très souvent, un outil commercial hébergé dans des infrastructures privées, régi par des conditions d’utilisation que peu d’organisations lisent vraiment, encore moins négocient.

« Les outils numériques ne sont jamais des instruments neutres : ils redessinent les relations de pouvoir, les pratiques institutionnelles et les formes d’action possibles. »

Il serait pourtant injuste d’en conclure que les équipes agissent de manière irresponsable. Beaucoup utilisent l’IA avec prudence et bonne intention. Mais demander à des personnes sous pression de refuser des outils utiles sans alternative sûre n’est pas une poli­tique de gouvernance. C’est un dépla­cement de responsabilité. Si le secteur ne construit pas ses propres conditions d’usage, d’autres les construiront pour lui : fournisseurs, bailleurs, contraintes budgétaires et habitudes informelles.

Ce risque n’est pas propre à l’IA. Les travaux critiques sur les technologies humanitaires ont déjà montré que les outils numériques ne sont jamais des instruments neutres : ils redessinent les relations de pouvoir, les pratiques institutionnelles et les formes d’action possibles^[3]Kristin Bergtora Sandvik, Maria Gabrielsen Jumbert, John Karlsrud et al., “Humanitarian technology: a critical research agenda”, International Review of the Red Cross, vol. 96, no. 893, 2014, p. … Continue reading. Mais l’IA rend cet enjeu plus aigu, parce qu’elle ne se contente pas de collecter ou d’organiser l’information.

Quand la consultation devient simulation

L’IA n’accélère pas seulement la collecte : elle peut intervenir dans l’interprétation, la représentation et la décision. Pire, l’IA peut produire l’apparence d’une réponse sans que personne n’ait été consulté. KoboToolbox « nouvelle génération » ne vise pas à remplacer la consultation par des réponses générées, des communau­tés simulées, ou des décisions automa­tisées. L’objectif est plutôt de mobiliser l’IA pour les tâches auxquelles elle est bien adaptée : aider à mieux formuler les questions, faciliter la collecte, accélérer l’analyse et organiser les réponses. L’IA sert ainsi à renforcer les processus de consultation, pas à s’y substituer.

En effet, les données humanitaires ne sont jamais une matière purement technique. Une enquête, un entretien, un groupe de discussion, un mécanisme de plainte ou une consultation commu­nautaire sont des rencontres façonnées tour à tour, ou en même temps, par la confiance, la peur, la langue, le pouvoir et les attentes institutionnelles^[4]Patrick Vinck and Phuong N. Pham, “Consulting Survivors: Evidence from Cambodia, Northern Uganda, and Other Countries Affected by Mass Violence” in Steve J. Stern and Scott Straus (eds.), The … Continue reading. Avant qu’un modèle d’IA puisse prédire des besoins, classer des situations ou recom­mander des actions, l’expérience des personnes a déjà été transformée en données : une réponse à une enquête, une coordonnée GPS, une photographie, un témoignage, une catégorie de vulné­rabilité, un indicateur de besoin, une plainte ou une note d’entretien.

L’IA amplifie ensuite cette transforma­tion. Elle permet de traiter beaucoup plus vite des volumes de données impor­tants, de les relier à d’autres sources et d’en tirer des catégories, des profils ou des priorités qui n’étaient pas nécessai­rement prévus au moment de la collecte. Des données collectées pour comprendre une crise ou améliorer un programme peuvent être réutilisées, résumées, com­binées, modélisées ou simulées dans des contextes non anticipés. Le risque n’est donc pas seulement l’extraction de don­nées. Il est l’extraction d’intelligence : transformer l’expérience des popu­lations en modèles utiles au système humanitaire sans leur donner de pouvoir sur ce que ces modèles rendent visible, invisible ou prioritaire. Les travaux sur la protection des données humanitaires et les métadonnées montrent déjà que les traces numériques produites dans l’action humanitaire peuvent exposer les per­sonnes concernées à des usages secon­daires, à la surveillance ou à des risques qu’elles ne peuvent ni anticiper ni contrô­ler^[5]Alessandro Mantelero, “Artificial intelligence”in International Committee of the Red Cross, Handbook on data protection in humanitarian action, chapter 17, Cambridge University Press, 2024, … Continue reading. Par exemple, un système d’IA pour­rait analyser des plaintes de protection, des réponses d’enquête et des données de localisation pour attribuer un niveau de risque à certains ménages. Une erreur de classification pourrait alors influencer l’accès à une assistance, une visite de suivi ou une mesure de protection, sans que les personnes concernées sachent comment ce classement a été produit, ni ne puissent le corriger ou le contester.

C’est ici que la consultation des commu­nautés devient encore plus importante. Utiliser de grands modèles de langage pour simuler une consultation avec des communautés affectées peut sembler efficace : pourquoi organiser une consul­tation longue et coûteuse si un modèle peut produire des réponses supposées refléter les réactions probables d’un groupe ? C’est que cette tentation doit être nommée pour ce qu’elle est : une substitution. Un modèle entraîné à imiter des populations affectées ne leur donne pas voix au chapitre, en même temps qu’il donne aux institutions un substitut moins coûteux que l’écoute.

Même lorsqu’il s’agit seulement de tes­ter un service ou un outil numérique, les spécialistes recommandent de limi­ter l’usage de profils générés par l’IA, censés simuler de vrais utilisateurs, à la formulation d’hypothèses, sans les uti­liser pour remplacer des échanges avec de vraies personnes ni pour fonder des décisions finales.

La valeur de la consultation ne tient pas seulement à l’information qu’elle produit. Elle tient aussi au processus lui-même : la rencontre, l’écoute, le désaccord pos­sible, la confiance, la reconnaissance de l’autre comme interlocuteur et non comme source de données. Remplacer cette relation par une simulation revien­drait à confondre trace informationnelle et présence politique.

Or, les populations affectées ne disposent pas seulement d’un intérêt à être mieux représentées. Elles ont aussi le droit d’être entendues, de refuser certaines formes de représentation et de contes­ter les usages faits des données ou des récits produits à partir de leur expérience. Cette exigence rejoint à la fois les prin­cipes d’une approche des données fondée sur les droits humains, les engagements humanitaires en matière de redevabilité envers les populations affectées, et les travaux sur la justice des données, les­quels insistent sur la manière dont les personnes sont rendues visibles, repré­sentées et traitées à travers les données produites à leur sujet.

Le jugement ne s’automatise pas

L’usage de l’IA pose enfin une question de décision. Elle est souvent présen­tée comme un outil d’aide à l’analyse, à la priorisation ou à la planification. C’est souvent vrai. Mais dans des orga­nisations sous pression, l’aide peut rapidement devenir délégation. Une recommandation produite par un sys­tème, surtout lorsqu’elle est intégrée dans un tableau de bord ou alignée avec les attentes d’un bailleur, peut acquérir une autorité disproportionnée.

Dans l’humanitaire, les décisions dif­ficiles ne sont pas seulement des pro­blèmes d’optimisation. Qui aide-t-on en premier ? Où et avec qui négocie-t-on l’accès ? Comment arbitrer entre rapidité, impartialité, sécurité, dignité et protec­tion ? Ces questions mobilisent des don­nées, mais elles ne se résolvent pas par les données seules. Elles impliquent des valeurs, des responsabilités, des risques acceptés ou refusés, et parfois le cou­rage de ne pas suivre la solution la plus efficace en apparence.

Une part du jugement humanitaire tient précisément à ce que les machines n’ont pas : l’hésitation, le doute, l’empathie, parfois même une forme d’irrationalité prudente. Ces lenteurs humaines ne sont pas toujours des défauts. Elles peuvent être ce qui empêche une décision rapide de devenir irréversible.

L’IA peut repérer des régularités, pro­duire des scénarios, résumer des infor­mations, signaler des incohérences, générer des hypothèses. Elle peut aider à penser. Mais elle ne peut pas assumer la responsabilité morale d’une décision, porter la charge d’un arbitrage, ou rendre des comptes à une communauté. C’est pourquoi l’idée de « garder l’humain dans la boucle » ne suffit pas si elle n’est pas accompagnée d’une réelle capacité d’intervention, de contestation et de res­ponsabilité institutionnelle. Les travaux sur la supervision humaine des systèmes automatisés montrent que cette supervi­sion peut devenir symbolique lorsqu’elle ne tient pas compte de l’automatisation des pratiques, de la déférence envers les systèmes, ou de l’incapacité concrète des personnes à contester une recommanda­tion algorithmique^[6]European Data Protection Supervisor, TechDispatch #2/2025: Human Oversight of Automated Decision-Making, 23 September 2025, … Continue reading.

Pour des communs numériques humanitaires responsables

La réponse ne peut être l’abstention : le secteur ne pourra pas empêcher les humanitaires d’utiliser des outils qui répondent à des besoins réels. L’enjeu est de faciliter les usages les moins dan­gereux et de rendre plus complexes les usages les plus risqués.

Cela suppose de passer d’une logique de principes à une logique de cadre d’usage technologique. Une IA humanitaire res­ponsable ne peut pas se contenter d’une charte, d’une formation ou d’une liste d’in­terdictions. Elle doit être inscrite dans un cadre pratique qui relie, tous ensemble, le type d’usage, le niveau de risque, les données mobilisées, les personnes concernées, les responsabilités institu­tionnelles, les possibilités de recours et les conditions techniques de déploie­ment. Les travaux récents sur l’IA humani­taire insistent précisément sur ce passage d’une éthique générale à des mécanismes opérationnels : classification des risques, étapes de validation, conditions de refus, suivi après déploiement et redevabilité envers les personnes concernées^[7]CDAC, “SAFE AI – A Governance Framework for Humanitarians using AI: How to turn SAFE AI principles into practical action. Version 1.1”, Reliefweb, 19 May 2026, … Continue reading.

Un tel cadre doit commencer par distin­guer les usages. Toutes les utilisations de l’IA ne comportent pas le même niveau de risque. Il y a une différence importante entre résumer un docu­ment public et utiliser l’IA pour traiter des témoignages sensibles, classer des plaintes de protection, orienter une assistance, prioriser des ménages ou simuler les préférences d’une com­munauté. Certains usages peuvent être encouragés avec des précautions simples. D’autres exigent une validation humaine renforcée, une évaluation de risques, une documentation publique, une consultation communautaire ou un droit de contestation. Certains devraient tout simplement être exclus.

Le cadre doit aussi porter sur les condi­tions techniques. Le secteur humanitaire n’a pas besoin du modèle le plus puis­sant. Il a besoin de modèles suffisamment utiles, sobres, multilingues, documentés, auditables et adaptables pour être gou­vernés. Il a besoin d’environnements conçus pour ses pratiques : classification des données, avertissements contex­tuels, limites sur les informations sen­sibles, hébergement sécurisé, corpus validés, traçabilité, possibilités de travail local ou hors ligne. L’ouverture peut aider, mais elle ne suffit pas.

« Un cadre d’usage n’a de sens que s’il transforme les principes en droits effectifs et les responsabilités en obligations vérifiables. »

Enfin, un cadre d’usage n’a de sens que s’il transforme les principes en droits effectifs et les responsabilités en obli­gations vérifiables. Il doit définir des lignes rouges, des règles d’achat, des procédures d’incident, des mécanismes d’audit, des seuils de risque et des formes de recours. Il doit garantir la pos­sibilité d’une révision humaine réelle, le droit de refuser certains usages, le droit de contester une décision, et dans certains cas la nécessité d’un consente­ment ou d’une gouvernance collective. Ces garanties ne sont pas seulement des préférences éthiques : elles s’ins­crivent dans une évolution plus large des cadres juridiques et normatifs relatifs aux décisions automatisées, à la super­vision humaine et aux risques pour les droits fondamentaux.

L’IA humanitaire ne peut pas augmenter uniquement les capacités des grandes organisations internationales. Elle doit aussi renforcer celles des partenaires locaux et des populations concernées : formation, ressources, outils accessibles, langues moins dominantes, documenta­tion compréhensible et pouvoir effectif de contestation^[8]Lire dans ce numéro l’article de Jean-Baptiste Lacombe Lavigne, « L’intelligence artificielle peut-elle représenter un levier pour les organisations locales ? », p. 84-95..

C’est ici que l’idée de communs numé­riques humanitaires prend tout son sens. Un commun n’est pas seulement un outil gratuit ou ouvert. C’est un arrangement institutionnel autour d’une ressource partagée : qui y contribue, qui y accède, qui décide, qui maintient, qui bénéfi­cie, qui peut contester. Appliquée à l’IA, cette idée oblige le secteur à poser une question politique avant de poser une question technique : qui gouverne l’in­telligence produite à partir des crises, et au nom de qui ? Cette conception s’inscrit dans la tradition des travaux sur la gouvernance des communs, qui montrent que les ressources partagées exigent des règles, des institutions et des mécanismes de responsabilité adap­tés à leurs usages concrets.

L’IA humanitaire ne sera pas rendue responsable par sa seule utilité, ni par quelques principes ajoutés après coup. Elle le deviendra seulement si le sec­teur peut façonner les conditions dans lesquelles elle est conçue, déployée, contrôlée et contestée. L’enjeu n’est pas d’aller plus vite et à n’importe quel prix, ni de mesurer, modéliser ou simu­ler toujours davantage les populations affectées. Il est de construire des tech­nologies qui renforcent la capacité de ces dernières à être entendues, à com­prendre ce qui est fait en leur nom, à refuser certains usages et à demander des comptes. La question est donc de savoir qui est servi par l’IA, qui la gou­verne, qui peut la contester, et qui peut lui dire non.

Crédit photo : Megan Francis/Blue Ventures