De la communication à la symbiose : matrice pour les robots militaires

Introduction

Le monde semble clivé et en proie à des difficultés de conceptualisation et de cadre d’emploi pour l’utilisation des robots terrestres militairesJEANGENE VILMER, Jean-Baptiste. « Terminator Ethics : faut-il interdire les ‘robots tueurs’ ? », Politique étrangère, n° 4, hiver 2014, pp. 151-167., en particulier pour le cas des systèmes d’arme létaux autonomes (SALA). A titre d’exemple nous citerons là plusieurs définitions de l’autonomie qui ne placent pas le curseur au même niveau. Pour le Comité international de la Croix rouge, l’autonomie décisionnelle est la suivante : « Autonomous Weapon Systems are defined as any weapon system with autonomy in the critical functions of target selection and target engagement. That is, a weapon system that can select (i.e. detect and identify) and attack (i.e. use force against, neutralize, damage or destroy) targets without human intervention »DAVISON, Neil, A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law, International Committee of the Red Cross, avril 2016, 14 p.. Un groupe industriel français envisage l’autonomie comme un mode s’étalant sur sept niveaux différents : « La téléopération filaire, la téléopération sans fil, la téléopération avancée, une semi-autonomie supervisée avec planification externe, la semi-autonomie supervisée avec planification locale, la semi-autonomie non supervisée avec gestion des dangers, et l’accomplissement de missions basiques »Intervention d’un responsable de Nexter lors du colloque « Téléopération – Automatisme – Autonomie en robotique militaire : de quoi parle-t-on ? », CREC, Paris, 8 décembre 2016.. Pour le SIPRI, l’autonomie pourrait être vue comme « the ability of a machine to execute a task, or tasks, without human input, using interactions of computer programming with the environment.  An autonomous system is, by extension, usually understood as a system – whether hardware or software – that, once activated, can perform some tasks or functions on its own »BOULANIN, Vincent, VERBRUGGEN, Maaike, Mapping the Development of Autonomy in Weapon Systems, SIPRI, novembre 2017, p.19.. Enfin, nous donnerons une définition américaine, issue du CNAS, distinguant trois types d’autonomie : les opérations semi autonomes, l’autonomie supervisée au cours de l’opération, et l’autonomie totale dans ces mêmes opérationsSCHARRE, Paul, Autonomous Weapons and Operational Risk, CNAS, février 2016, p. 9.. Le premier type d’autonomie permet à la machine d’effectuer une tâche, en s’arrêtant juste avant le déclenchement de l’action afin de l’exécuter avec l’approbation de l’opérateur. On parle alors de « human in the loop ». La seconde forme d’autonomie permet au robot d’exécuter sa tâche sous supervision humaine, mais sans que l’opérateur donne une approbation formelle supplémentaire. Dans ce cas-là, on parle de « human on the loop ». Le dernier type d’autonomie délègue l’exécution de la tâche au robot, l’opérateur ne peut pas intervenir, même s’il supervise la tâche exécutée, il ne pourra intervenir même en cas de panne du robot ou d’échec dans la réalisation de la tâche. On parle alors de « human out the loop »Ce dernier type d’autonomie n’implique cependant pas une absence totale d’intervention de l’humain. C’est en effet l’opérateur qui, avant le commencement de la mission, précise à la machine les règles d’engagement et détermine les cibles. .

[...]

Version PDf