
Mounib Mrani, Directeur Général d’Alton
Les armées qui adoptent l’intelligence artificielle ont commencé par écrire leurs règles. Depuis 2020, les États-Unis, le Royaume-Uni et l’OTAN ont publié des principes, puis des directives, qui fixent ce qu’un système d’IA doit prouver avant d’être utilisé. En février 2026, la déclaration du sommet REAIM y a ajouté des recommandations précises sur les essais et la traçabilité. Ces textes relèvent de la gouvernance de l’IA, pas de la technique. Six de leurs exigences se transposent à toute grande organisation, sans modèle plus performant ni budget supplémentaire : il suffit de décider qui répond de quoi, et de le prouver.
En bref
- Les armées ont écrit leurs règles avant de déployer. Le Pentagone a adopté cinq principes en 2020, l’OTAN six en 2021, le Royaume-Uni une directive détaillée en 2024.
- Ces règles ne visent pas seulement le combat. Les principes américains s’appliquent aussi aux usages hors combat, comme la logistique ou l’administration.
- Six exigences se transposent à l’entreprise : un responsable nommé, des usages bornés, des essais exigés à l’achat, une preuve auditable, une capacité d’arrêt, une formation préalable.
- Aucune n’est technique. Toutes sont des décisions d’organisation, que le comité de direction peut prendre en une séance.
- Ces cadres ont des limites : ce sont des politiques déclarées, dont l’application reste inégale.
Pourquoi regarder du côté des armées ?
Pour trois raisons. D’abord, une erreur y coûte plus cher qu’ailleurs, ce qui a conduit ces institutions à formaliser tôt ce qu’elles attendent d’un système d’IA. Ensuite, elles publient leurs règles : les textes sont accessibles et datés. Enfin, ces règles couvrent les mêmes usages que ceux d’une entreprise. Lors de l’adoption des principes américains, en février 2020, le directeur des systèmes d’information du Pentagone a précisé qu’ils s’appliquaient aux situations de combat comme aux autres. L’avant-propos de la directive britannique évoque lui-même la logistique et la chaîne d’approvisionnement.
Une armée est aussi une très grande organisation, avec des ressources humaines, des achats, de la maintenance et des systèmes d’information. Ce qu’elle exige pour ces fonctions peut inspirer une banque, un industriel ou une administration.
Quels cadres les armées se sont-elles donnés ?
| Cadre | Date | Ce qu’il fixe |
|---|---|---|
| États-Unis, principes éthiques de l’IA du département de la Défense | Février 2020 | Cinq principes : responsable, équitable, traçable, fiable, gouvernable. Une boîte à outils les décline sur tout le cycle de développement |
| OTAN, principes d’usage responsable | Octobre 2021, stratégie révisée en juillet 2024 | Six principes : licéité, responsabilité, explicabilité et traçabilité, fiabilité, gouvernabilité, atténuation des biais |
| Royaume-Uni, directive JSP 936 | Novembre 2024 | Règles de gouvernance, de développement et d’assurance sur tout le cycle de vie, à partir de cinq principes publiés en 2022 |
| Déclaration REAIM « Pathways to Action » | Février 2026 | Recommandations non contraignantes, endossées par 45 États au 20 novembre 2026 |
Ces textes se recoupent largement. C’est ce recoupement qui permet d’en tirer une liste courte.
Les six exigences, et leur traduction pour une entreprise
| Exigence | Ce que disent les cadres militaires | Traduction pour une entreprise | Question à poser en comité de direction |
|---|---|---|---|
| 1. Un responsable nommé | Au Royaume-Uni, chaque composante du ministère a désigné un haut responsable de l’IA responsable. Le premier principe américain maintient la responsabilité des personnes | Un dirigeant répond de chaque système d’IA en production | Qui, nommément, répond de ce modèle ? |
| 2. Des usages bornés | Le principe américain de fiabilité demande des usages explicites et bien définis. REAIM recommande d’associer chaque système aux cas d’usage testés | Une fiche par système : ce pour quoi il est validé, ce qui est exclu | Pour quels usages ce modèle est-il validé ? |
| 3. Des essais exigés à l’achat | REAIM recommande d’intégrer les exigences de test et de validation dans les processus d’achat. Le principe américain prévoit des tests sur tout le cycle de vie | Des critères d’acceptation dans le contrat, vérifiés sur vos données | Quels essais le fournisseur doit-il réussir chez nous ? |
| 4. Une preuve auditable | Le Royaume-Uni exige des déclarations d’assurance appuyées sur des preuves auditables. Le principe américain de traçabilité vise des méthodes, des sources de données et une documentation auditables | Un journal des actions et un dossier tenu à jour | L’audit peut-il reconstituer ce que le modèle a fait le mois dernier ? |
| 5. Une capacité d’arrêt | Le principe américain de gouvernabilité prévoit de pouvoir désengager ou désactiver un système au comportement imprévu. L’OTAN retient la même exigence | Une procédure d’arrêt et un repli manuel testé | Qui peut arrêter le système, et comment travaille-t-on sans lui ? |
| 6. Une formation et un jugement humain | REAIM recommande une formation structurée avant tout usage opérationnel, et des systèmes qui appuient le jugement humain sans le remplacer | Aucun accès sans formation ; l’IA propose, une personne décide | Qui a été formé, et à quoi reconnaît-il une erreur du modèle ? |

Trois de ces exigences méritent un commentaire.
Les essais à l’achat. La plupart des entreprises achètent une IA sur démonstration. Une démonstration montre que l’outil peut produire le bon résultat. Un essai mesure à quelle fréquence il échoue, sur quels cas, et si vos contrôles le détectent. La différence se décide dans le contrat : les critères d’acceptation s’écrivent avant la signature.
La preuve auditable. L’exigence britannique ne demande pas de promettre un comportement éthique. Elle demande de produire des pièces. Pour une entreprise, cela revient à tenir pour chaque système le même dossier que pour un équipement critique : version, données, essais, incidents. C’est le dossier de preuve que nous avons décrit dans notre article sur l’IA de défense et l’Offre Maroc.
La capacité d’arrêt. C’est l’exigence la moins appliquée en entreprise. Arrêter un modèle est simple ; continuer à traiter les dossiers sans lui l’est moins. Le repli manuel doit avoir été joué au moins une fois, comme nous l’avons recommandé pour les agents d’IA dans la banque.
Ce que ces cadres ne garantissent pas
Ces textes sont des politiques déclarées. Leur application reste inégale, et leurs auteurs le reconnaissent. En 2020, les responsables américains admettaient que la notion d’IA responsable restait à définir en pratique. Un article de recherche publié en 2024 dans la revue AI & Society relève le manque de méthodes applicables pour mettre en œuvre ces principes dans la défense. La déclaration REAIM n’est pas contraignante.
Le débat sur les systèmes d’armes autonomes reste par ailleurs ouvert au niveau international. Cet article ne porte aucun jugement sur les usages militaires de l’IA. Il retient une seule chose : des institutions où l’erreur est grave ont jugé nécessaire d’écrire ces six exigences. Une entreprise qui déploie l’IA sur des décisions sensibles peut se poser les mêmes questions.
Par où commencer ?
- Poser les six questions aux trois systèmes d’IA les plus exposés, ceux dont une erreur toucherait un client, un collaborateur ou un régulateur. Une séance suffit pour savoir où sont les trous.
- Inscrire les essais et le journal dans les prochains contrats fournisseurs. C’est le levier le moins coûteux : il ne demande ni outil ni recrutement.
- Jouer une fois l’arrêt et le repli manuel sur un système en production, et noter ce qui a manqué.
Ces décisions relèvent du pilotage et de la gouvernance plus que du choix d’une technologie.
Questions fréquentes
Ces principes ne concernent-ils que les armes ?
Non. Les principes américains s’appliquent aux usages de combat et hors combat, et l’avant-propos de la directive britannique évoque la logistique.
Sont-ils obligatoires pour une entreprise ?
Non. Ce sont des règles internes aux armées et à leurs alliances. Les fournisseurs de la défense y sont toutefois confrontés, et les entreprises européennes retrouveront des obligations voisines dans le règlement européen sur l’IA pour les systèmes à haut risque.
Quelle différence entre une démonstration et un essai ?
Une démonstration montre que l’outil peut réussir. Un essai mesure à quelle fréquence il échoue, sur quels cas, et si les contrôles en place détectent l’erreur.
Faut-il créer un comité d’éthique de l’IA ?
Pas pour commencer. Le Royaume-Uni s’est doté d’un panel consultatif dès 2021, mais la première exigence est plus simple : un responsable nommé par système.
Par quel système commencer ?
Par celui dont une erreur aurait la conséquence la plus lourde pour un client, un collaborateur ou un régulateur, pas par le plus récent.
Ce que fait Alton
Alton est un cabinet de conseil basé à Rabat. Nous accompagnons les directions sur la gouvernance des systèmes d’information, la gestion des services informatiques et l’intégration de solutions d’IA. Nous déployons des technologies de plusieurs éditeurs ; cet article ne recommande aucun fournisseur.
Sources
- Département américain de la Défense, « DOD Adopts 5 Principles of Artificial Intelligence Ethics », février 2020 : army.mil
- Chief Digital and Artificial Intelligence Office, page « Responsible AI » et boîte à outils : ai.mil
- Ministère britannique de la Défense, JSP 936, « Dependable Artificial Intelligence (AI) in Defence », partie 1, novembre 2024 : gov.uk
- Ministère britannique de la Défense, « Laying the Groundwork: Responsible AI Senior Officers’ Report 2025 », 3 octobre 2025 : gov.uk
- OTAN, résumé de la stratégie pour l’intelligence artificielle, 2021 : nato.int ; résumé de la stratégie révisée, 10 juillet 2024 : nato.int
- REAIM 2026, déclaration de La Corogne « Pathways to Action », février 2026 : exteriores.gob.es ; États signataires : exteriores.gob.es
- Article de recherche sur l’application des principes éthiques de l’IA dans la défense, AI & Society, 2024 : link.springer.com
- Route Fifty, « Pentagon outlines AI ethics principles », février 2020 : route-fifty.com


