Aller au contenu

IA : six exigences que les armées s’imposent avant de déployer un modèle, et que les entreprises peuvent reprendre

Intelligence artificielle 8 min de lecture
Partager :LinkedInFacebookWhatsApp
IA : six exigences que les armées s’imposent avant de déployer un modèle, et que les entreprises peuvent reprendre

Mounib Mrani, Directeur Général d’Alton

Les armées qui adoptent l’intelligence artificielle ont commencé par écrire leurs règles. Depuis 2020, les États-Unis, le Royaume-Uni et l’OTAN ont publié des principes, puis des directives, qui fixent ce qu’un système d’IA doit prouver avant d’être utilisé. En février 2026, la déclaration du sommet REAIM y a ajouté des recommandations précises sur les essais et la traçabilité. Ces textes relèvent de la gouvernance de l’IA, pas de la technique. Six de leurs exigences se transposent à toute grande organisation, sans modèle plus performant ni budget supplémentaire : il suffit de décider qui répond de quoi, et de le prouver.

En bref

  • Les armées ont écrit leurs règles avant de déployer. Le Pentagone a adopté cinq principes en 2020, l’OTAN six en 2021, le Royaume-Uni une directive détaillée en 2024.
  • Ces règles ne visent pas seulement le combat. Les principes américains s’appliquent aussi aux usages hors combat, comme la logistique ou l’administration.
  • Six exigences se transposent à l’entreprise : un responsable nommé, des usages bornés, des essais exigés à l’achat, une preuve auditable, une capacité d’arrêt, une formation préalable.
  • Aucune n’est technique. Toutes sont des décisions d’organisation, que le comité de direction peut prendre en une séance.
  • Ces cadres ont des limites : ce sont des politiques déclarées, dont l’application reste inégale.

Pourquoi regarder du côté des armées ?

Pour trois raisons. D’abord, une erreur y coûte plus cher qu’ailleurs, ce qui a conduit ces institutions à formaliser tôt ce qu’elles attendent d’un système d’IA. Ensuite, elles publient leurs règles : les textes sont accessibles et datés. Enfin, ces règles couvrent les mêmes usages que ceux d’une entreprise. Lors de l’adoption des principes américains, en février 2020, le directeur des systèmes d’information du Pentagone a précisé qu’ils s’appliquaient aux situations de combat comme aux autres. L’avant-propos de la directive britannique évoque lui-même la logistique et la chaîne d’approvisionnement.

Une armée est aussi une très grande organisation, avec des ressources humaines, des achats, de la maintenance et des systèmes d’information. Ce qu’elle exige pour ces fonctions peut inspirer une banque, un industriel ou une administration.

Quels cadres les armées se sont-elles donnés ?

CadreDateCe qu’il fixe
États-Unis, principes éthiques de l’IA du département de la DéfenseFévrier 2020Cinq principes : responsable, équitable, traçable, fiable, gouvernable. Une boîte à outils les décline sur tout le cycle de développement
OTAN, principes d’usage responsableOctobre 2021, stratégie révisée en juillet 2024Six principes : licéité, responsabilité, explicabilité et traçabilité, fiabilité, gouvernabilité, atténuation des biais
Royaume-Uni, directive JSP 936Novembre 2024Règles de gouvernance, de développement et d’assurance sur tout le cycle de vie, à partir de cinq principes publiés en 2022
Déclaration REAIM « Pathways to Action »Février 2026Recommandations non contraignantes, endossées par 45 États au 20 novembre 2026

Ces textes se recoupent largement. C’est ce recoupement qui permet d’en tirer une liste courte.

Les six exigences, et leur traduction pour une entreprise

ExigenceCe que disent les cadres militairesTraduction pour une entrepriseQuestion à poser en comité de direction
1. Un responsable nomméAu Royaume-Uni, chaque composante du ministère a désigné un haut responsable de l’IA responsable. Le premier principe américain maintient la responsabilité des personnesUn dirigeant répond de chaque système d’IA en productionQui, nommément, répond de ce modèle ?
2. Des usages bornésLe principe américain de fiabilité demande des usages explicites et bien définis. REAIM recommande d’associer chaque système aux cas d’usage testésUne fiche par système : ce pour quoi il est validé, ce qui est excluPour quels usages ce modèle est-il validé ?
3. Des essais exigés à l’achatREAIM recommande d’intégrer les exigences de test et de validation dans les processus d’achat. Le principe américain prévoit des tests sur tout le cycle de vieDes critères d’acceptation dans le contrat, vérifiés sur vos donnéesQuels essais le fournisseur doit-il réussir chez nous ?
4. Une preuve auditableLe Royaume-Uni exige des déclarations d’assurance appuyées sur des preuves auditables. Le principe américain de traçabilité vise des méthodes, des sources de données et une documentation auditablesUn journal des actions et un dossier tenu à jourL’audit peut-il reconstituer ce que le modèle a fait le mois dernier ?
5. Une capacité d’arrêtLe principe américain de gouvernabilité prévoit de pouvoir désengager ou désactiver un système au comportement imprévu. L’OTAN retient la même exigenceUne procédure d’arrêt et un repli manuel testéQui peut arrêter le système, et comment travaille-t-on sans lui ?
6. Une formation et un jugement humainREAIM recommande une formation structurée avant tout usage opérationnel, et des systèmes qui appuient le jugement humain sans le remplacerAucun accès sans formation ; l’IA propose, une personne décideQui a été formé, et à quoi reconnaît-il une erreur du modèle ?

Six exigences des armées pour l’IA, transposables à l’entreprise : un responsable nommé, des usages bornés, des essais exigés à l’achat, une preuve auditable, une capacité d’arrêt, une formation préalable. Chacune s’accompagne d’une question à poser en comité de direction. Méthode Alton d’après les cadres américain, britannique, de l’OTAN et la déclaration REAIM 2026.

Trois de ces exigences méritent un commentaire.

Les essais à l’achat. La plupart des entreprises achètent une IA sur démonstration. Une démonstration montre que l’outil peut produire le bon résultat. Un essai mesure à quelle fréquence il échoue, sur quels cas, et si vos contrôles le détectent. La différence se décide dans le contrat : les critères d’acceptation s’écrivent avant la signature.

La preuve auditable. L’exigence britannique ne demande pas de promettre un comportement éthique. Elle demande de produire des pièces. Pour une entreprise, cela revient à tenir pour chaque système le même dossier que pour un équipement critique : version, données, essais, incidents. C’est le dossier de preuve que nous avons décrit dans notre article sur l’IA de défense et l’Offre Maroc.

La capacité d’arrêt. C’est l’exigence la moins appliquée en entreprise. Arrêter un modèle est simple ; continuer à traiter les dossiers sans lui l’est moins. Le repli manuel doit avoir été joué au moins une fois, comme nous l’avons recommandé pour les agents d’IA dans la banque.

Ce que ces cadres ne garantissent pas

Ces textes sont des politiques déclarées. Leur application reste inégale, et leurs auteurs le reconnaissent. En 2020, les responsables américains admettaient que la notion d’IA responsable restait à définir en pratique. Un article de recherche publié en 2024 dans la revue AI & Society relève le manque de méthodes applicables pour mettre en œuvre ces principes dans la défense. La déclaration REAIM n’est pas contraignante.

Le débat sur les systèmes d’armes autonomes reste par ailleurs ouvert au niveau international. Cet article ne porte aucun jugement sur les usages militaires de l’IA. Il retient une seule chose : des institutions où l’erreur est grave ont jugé nécessaire d’écrire ces six exigences. Une entreprise qui déploie l’IA sur des décisions sensibles peut se poser les mêmes questions.

Par où commencer ?

  1. Poser les six questions aux trois systèmes d’IA les plus exposés, ceux dont une erreur toucherait un client, un collaborateur ou un régulateur. Une séance suffit pour savoir où sont les trous.
  2. Inscrire les essais et le journal dans les prochains contrats fournisseurs. C’est le levier le moins coûteux : il ne demande ni outil ni recrutement.
  3. Jouer une fois l’arrêt et le repli manuel sur un système en production, et noter ce qui a manqué.

Ces décisions relèvent du pilotage et de la gouvernance plus que du choix d’une technologie.

Questions fréquentes

Ces principes ne concernent-ils que les armes ?

Non. Les principes américains s’appliquent aux usages de combat et hors combat, et l’avant-propos de la directive britannique évoque la logistique.

Sont-ils obligatoires pour une entreprise ?

Non. Ce sont des règles internes aux armées et à leurs alliances. Les fournisseurs de la défense y sont toutefois confrontés, et les entreprises européennes retrouveront des obligations voisines dans le règlement européen sur l’IA pour les systèmes à haut risque.

Quelle différence entre une démonstration et un essai ?

Une démonstration montre que l’outil peut réussir. Un essai mesure à quelle fréquence il échoue, sur quels cas, et si les contrôles en place détectent l’erreur.

Faut-il créer un comité d’éthique de l’IA ?

Pas pour commencer. Le Royaume-Uni s’est doté d’un panel consultatif dès 2021, mais la première exigence est plus simple : un responsable nommé par système.

Par quel système commencer ?

Par celui dont une erreur aurait la conséquence la plus lourde pour un client, un collaborateur ou un régulateur, pas par le plus récent.

Ce que fait Alton

Alton est un cabinet de conseil basé à Rabat. Nous accompagnons les directions sur la gouvernance des systèmes d’information, la gestion des services informatiques et l’intégration de solutions d’IA. Nous déployons des technologies de plusieurs éditeurs ; cet article ne recommande aucun fournisseur.

Sources

  • Département américain de la Défense, « DOD Adopts 5 Principles of Artificial Intelligence Ethics », février 2020 : army.mil
  • Chief Digital and Artificial Intelligence Office, page « Responsible AI » et boîte à outils : ai.mil
  • Ministère britannique de la Défense, JSP 936, « Dependable Artificial Intelligence (AI) in Defence », partie 1, novembre 2024 : gov.uk
  • Ministère britannique de la Défense, « Laying the Groundwork: Responsible AI Senior Officers’ Report 2025 », 3 octobre 2025 : gov.uk
  • OTAN, résumé de la stratégie pour l’intelligence artificielle, 2021 : nato.int ; résumé de la stratégie révisée, 10 juillet 2024 : nato.int
  • REAIM 2026, déclaration de La Corogne « Pathways to Action », février 2026 : exteriores.gob.es ; États signataires : exteriores.gob.es
  • Article de recherche sur l’application des principes éthiques de l’IA dans la défense, AI & Society, 2024 : link.springer.com
  • Route Fifty, « Pentagon outlines AI ethics principles », février 2020 : route-fifty.com
Partager :LinkedInFacebookWhatsApp

Articles similaires

IA de défense au Maroc : l’Offre Maroc se gagnera sur la preuve, pas sur l’algorithme
Intelligence artificielle

12 min

IA de défense au Maroc : l’Offre Maroc se gagnera sur la preuve, pas sur l’algorithme

L’Offre Maroc, présentée le 18 novembre 2026, fait de l’IA l’une des filières prioritaires de l’industrie de défense, avec plus de 65 % de revenus attendus à l’export. Pour une entreprise marocaine, l’enjeu est de prouver ce que fait son IA. Repères : déclaration REAIM endossée par le Maroc, principes de l’OTAN, règlement européen, loi 10-20, et un dossier de preuve en six éléments.

Une digital workforce ne rend productif que ce que vous avez mesuré avant de la déployer
Intelligence artificielle

7 min

Une digital workforce ne rend productif que ce que vous avez mesuré avant de la déployer

Les éditeurs promettent des gains de productivité immédiats avec les agents IA, mais deux études indépendantes donnent des résultats opposés : 14 % de tickets résolus en plus par heure, ou 19 % de temps en plus par tâche. L’article confronte ces études et propose cinq mesures à relever pour juger une digital workforce sur le processus, pas sur la tâche.