Communiqué_Le comité d’éthique de la défense publie son rapport sur l’intégration de l’autonomie des systèmes d’armes létaux.

• Sur décision de la ministre des Armées, Florence Parly, la France s’est dotée en 2019 d’une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense. La mise en place de ce comité d’éthique de la défense témoigne de l’importance que la France attache à ces questions.

• Après la publication de ses premiers travaux sur le soldat augmenté, le comité d’éthique de la défense a remis son avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux. Le sujet avait été choisi par le ministère des Armées, conscient de la mesure des enjeux stratégiques, juridiques et éthiques soulevés par le développement des applications militaires de l’Intelligence artificielle (IA), et en particulier par l’émergence potentielle de Systèmes d’armes létaux pleinement autonomes (SALA).

• Les conclusions du Comité confortent les positions prises par la France depuis plusieurs années sur le sujet des SALA : la France confirme qu’elle ne développera et n’emploiera pas de systèmes d’armes létaux pleinement autonomes.

• Le rapport s’attache à identifier ce que recouvre la notion d’autonomie et présente avec pédagogie les définitions existantes. Au terme de cette analyse, le Comité a choisi d’établir une stricte distinction entre les SALA et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) mais incapables d’agir seuls, sans contrôle humain, de modifier leurs règles d’engagement et de prendre des initiatives létales.

• La ministre des Armées s’exprimera sur l’avis indépendant rendu par le comité d’éthique de la défense, lorsque ses conclusions auront fait l’objet d’études d’appropriation au sein des services du ministère. Elle salue le travail et l’investissement du comité au service d’une meilleure connaissance critique des enjeux éthiques de la défense.

• Les avis sont consultables ici en version française et anglaise.

Le comité d'éthique de la défense a été créé à la demande de la ministre des Armées à la fin de l’année 2019. Constitué de personnalités qualifiées, civiles et militaires, offrant des compétences dans les domaines opérationnels, scientifiques, médicaux, philosophiques, historiques et juridiques, le Comité est chargé d'apporter ses éclairages à la ministre des Armées et à ses grands subordonnés sur les questions éthiques soulevées par les innovations scientifiques et techniques et leurs applications militaires éventuelles, ainsi que sur les questions liées aux évolutions de la fonction militaire.

Installé par Florence Parly le 10 janvier 2020, le Comité avait reçu de la ministre deux premiers mandats : le premier portant sur "le soldat augmenté", le second sur "l’autonomie dans les systèmes d'armes létaux".

***

Après un processus de réflexion très documenté, le Comité a identifié 6 principes directeurs et formulé 25 recommandations portant sur la méthodologie, la recherche, l’emploi, la conception, mais aussi la formation concernant le développement de techniques concourant à l’autonomie dans les systèmes d’armes.

Qu’entend-on par autonomie ? Dans son avis, le comité d’éthique de la défense réalise un travail approfondi de définition qui attire l’attention sur les pièges du champ lexical comparant à tort la machine à l’homme (l’anthropomorphisme).

Au terme de cette analyse initiale, le Comité d’éthique de la défense a choisi d’établir une stricte distinction entre :

• Les Systèmes d’armes létaux autonomes (SALA), qui sont des systèmes d’armes létaux programmés pour être capables de faire évoluer leurs règles de fonctionnement, d’échapper au contrôle humain et de redéfinir tout seuls leur mission ;
• Et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) qui sont des systèmes comportant des fonctions automatisées, mais sous contrôle humain, dans des conditions qui garantissent :
  • le respect du principe constitutionnel de nécessaire libre disposition de la force armée,
  • le respect du principe de continuité de la chaîne de commandement de l’ordre à son application, 

  Un SALIA ne pourrait prendre d’initiatives létales - sans contrôle humain. Il ne pourrait pas modifier seul ses conditions de fonctionnement.

   

  En somme, il existe une différence de nature entre les SALA, et la notion de SALIA introduite par le Comité, qui désigne un système ne pouvant pas être déployé sans intervention humaine : l’humain reste au cœur des décisions d’usage de la force létale.

  ***

  Cet avis sera attentivement étudié par le ministère des Armées, lequel condamne toute volonté de développement, d’emploi ou d’export de systèmes d’armes pleinement autonomes c’est-à-dire capables de faire évoluer, au-delà du cadre d’emploi fixé initialement, leurs règles d’emploi de la force létale.

Contact media :

Centre media du ministère des Armées

media@dicod.fr

09 88 67 33 33