Par Louis Pérez, 21 janvier 2020
Doctorant contractuel à l’Université Paris II Panthéon-Assas et chercheur au Centre Thucydide, allocataire de recherche de la DGRIS
Les cyber-opérations, les armes autonomes ou l’intelligence artificielle pourraient-elles permettre une meilleure protection des personnes dans les conflits armés ? C’est l’une des questions que se sont posés les participants à la 33èmeconférence internationale de la Croix Rouge et du Croissant Rouge, qui s’est tenue à Genève du 9 au 12 décembre 2019.
Cet événement, qui a lieu tous les quatre ans, rassemble toutes les composantes du Mouvement de la Croix Rouge et du Croissant Rouge et a pour objectifs d’orienter les priorités humanitaires mondiales et d’examiner les défis et les vulnérabilités auxquels les personnes et les communautés sont et seront confrontées sur le terrain.
Chaque jour de la conférence était consacré à une commission portant sur une thématique : le droit international humanitaire, l’évolution des vulnérabilités et la confiance dans l’action humanitaire. Chaque commission était divisée en sessions abordant un point précis de la thématique du jour. Si les nouvelles technologies sont un sujet transversal pour l’action humanitaire, abordé ponctuellement lors de la conférence, une session a porté spécifiquement sur les nouvelles technologies et le droit international humanitaire (DIH).
Droit international humanitaire et nouvelles technologies : les données du problème
Le DIH, ou droit des conflits armés, entend amoindrir les effets de la guerre en instaurant des protections pour les personnes et en régulant les méthodes et moyens de combat. La maitrise de l’impact des nouvelles technologies sur les conflits armés est ainsi une priorité eu égard aux usages qui pourraient menacer la mise en œuvre du DIH. La session s’est concentrée sur trois technologies : le cyberespace, les armes autonomes et l’apprentissage automatique en intelligence artificielle.
L’objectif était de sensibiliser les participants sur les enjeux légaux, éthiques et humanitaires posés par ces technologies ainsi que d’identifier des moyens qui permettraient de réduire les potentielles souffrances humaines et assurer le respect du DIH. Une première partie de la session consistait en une présentation par Neil Davison (conseiller juridique et scientifique du Comité international de la Croix Rouge – CICR) de ces technologies et des enjeux liés au DIH. La présentation a commencé par un sondage auprès de l’auditoire. Les questions étaient les suivantes :
- « Les cyber-attaques sont-elles indiscriminées ? » (61% d’accord)
- « Les armes autonomes sont-elles plus précises ? » (52% pas d’accord)
- « L’intelligence artificielle permettra-t-elle de prendre de meilleures décisions ? ». (51% d’accord)
D’une façon assez surprenante, aucune des réponses à ces questions n’était tranchée. Ces résultats mitigés illustrent la méconnaissance et/ou l’indécision du public quant aux conséquences de ces technologies sur les conflits. Neil Davison a conclu que les rôles respectifs des humains et des machines étaient en train d’évoluer et que l’impact de ces technologies sur les conflits armés n’était pas encore connu. Il a considéré que ces technologies impliquaient des enjeux qui étaient moins d’ordre technique que juridique et éthique.
La parole des experts
Une seconde partie laissait place à un panel de trois spécialistes. Modéré par Amandeep Singh Gill (ex-président du Groupe d’experts gouvernementaux de la Convention sur certaines armes classiques sur les technologies émergentes dans le domaine des systèmes d’armes autonomes létales), le panel était composé de Li Peng (Membre de la China Arms Control and Disarmament Association), Netta Goussac (conseillère juridique à la section Armes du CICR) et Marina Krotofil (ingénieure en cyber-sécurité ). Li Peng a reconnu l’impact de ces nouvelles technologies sur les opérations militaires et la nécessité de les contrôler. Il a notamment souligné l’importance du contrôle des armements et le rôle des acteurs privés dans leur développement. Netta Goussac a mis en exergue les conséquences potentiellement positives de ces technologies (précision, décisions mieux informées, vitesse d’exécution, etc.). Elle a rappelé que le DIH s’appliquait bien à ces dernières mais qu’il était important que les États précisent de quelle manière afin de faire face aux potentielles conséquences négatives (perte du contrôle humain, imprévisibilité, impunité). Finalement, Marina Krotofil a abordé les entraves concernant l’attribution d’une cyberattaque et l’implication non négligeable des acteurs privés dans ces attaques. Elle a également souligné la difficulté à distinguer les infrastructures civiles et militaires lors de ce type d’attaque.
La discussion s’est poursuivie par des questions de l’auditoire, composé principalement par les représentations diplomatiques des États. La délégation australienne a appuyé le recours à l’article 36 du Protocole additionnel 1 aux Conventions de Genève imposant un examen juridique des nouvelles armes. Netta Goussac a reconnu l’importance de ce mécanisme mais a rappelé son caractère national qui implique qu’il ne sera peut-être pas appliqué de la même manière par tous. Les délégations omanaise et slovène ont émis des préoccupations quant à l’attribution d’une attaque cyber ou provenant d’une arme autonome. Les intervenants ont répondu qu’il était très difficile d’attribuer ces attaques et qu’il était nécessaire de renforcer le contrôle sur ces armes et de prévenir leurs usages néfastes. Les Emirats arabes unis ont mentionné l’importance de simplifier le débat en explicitant ce que sont et seront capables de faire les machines et en questionnant le « raisonnement » d’une machine. Netta Goussac a répondu qu’il était en effet primordial de déterminer le rôle et la responsabilité des humains face aux machines, notamment dans la prise de décision concernant des raisonnements liés au respect et à l’application du DIH.
En amont de la conférence le Comité international de la Croix Rouge a publié un rapport sur le DIH et les défis des conflits armés contemporains qui aborde notamment la question des nouvelles technologies.
