Les machines à tuer comme celles du film «Terminator» sont une menace réelle. Une seule personne peut commander des milliers de robots tueurs. Et obtenir ainsi des effets similaires à ceux d'une arme de destruction massive. Ce n'est pas sans raison que l'armée a créé en 2017 le Centre suisse des drones et de la robotique (CSDR). Ce service a pour mission d'étudier la manière dont les systèmes sans pilote mettent la Suisse en danger.
«Les robots militaires vont révolutionner la conduite de la guerre», déclare le directeur du CSDR, Kai Holtmann. Il cite l'exemple de drones de la taille du poing dotés d'un système de reconnaissance faciale, appelés «slaughterbots». Ils pourraient tuer des personnes de manière ciblée en volant contre leur tête et en explosant. De tels slaughterbots n'existent pas encore. Mais «les technologies évoluent rapidement et peuvent représenter une menace», affirme Kai Holtmann.
L'armée suisse utilise déjà des drones et des robots capables de faire de la reconnaissance et de la surveillance. Elle se focalise en outre sur la recherche en robotique pour l'aide en cas de catastrophe. Elle expérimente par exemple un serpent robotique pour retrouver les personnes ensevelies après un tremblement de terre. Certes, la robotique de l'armée n'en est encore qu'à ses débuts. Mais cela pourrait bientôt changer.
Des robots sujets aux erreurs sur le terrain
«Dans quelques années, l'armée utilisera des systèmes d'intelligence artificielle (IA)», assure Thomas Burri, professeur de droit international et européen à l'université de Saint-Gall. En tant qu'expert des questions éthiques et juridiques, ce dernier conseille le CSRS. Selon lui, «même si un robot ne fonctionne pas sans défaut, il pourrait être utilisé dans la protection civile».
Il cite comme raison l'intérêt supérieur de sauver des personnes. Supposons qu'il existe un robot de recherche IA, on l'aurait alors utilisé pour retrouver le sous-marin qui s'est abîmé lors de l'accident du Titanic. «Mieux vaut un robot imparfait que rien du tout», dit Thomas Burri.
Selon le professeur, il y a toutefois aussi un gros problème. Qui assumera la responsabilité si le robot blesse un être humain lors de ses recherches? Le comportement d'un robot autonome n'est jamais complètement prévisible. En effet, une IA peut fonctionner avec un réseau neuronal et les détails de celui-ci restent cachés à l'homme. Ainsi, il se pourrait qu'un robot de recherche IA possède un modèle d'action indésirable dont personne n'a connaissance – jusqu'à ce qu'il soit trop tard. «Si un être humain subit un dommage à cause de cela, personne ne veut en porter la responsabilité», explique Thomas Burri.
Un robot de recherche peut être discriminatoire
Un autre problème est celui des préjugés, appelés «biais». Une IA est entraînée avec des données du monde réel. Si 10% de la population a la peau foncée, l'IA subit un biais. Un robot de recherche autonome reconnaîtrait mieux les personnes à la peau claire et les sauverait plus facilement. Les personnes à la peau foncée seraient discriminées.
Un autre problème concerne la cybersécurité. Si un hacker s'introduit dans une IA, il peut lui transmettre des données indésirables. Ainsi, une voiture autonome pourrait être amenée à enregistrer un mur comme sortie.
Thomas Burri conclut : «Les défis sont énormes, y compris pour l'aide en cas de catastrophe». Pour l'instant, il règne une sorte de Far West dans l'utilisation de l'IA, car il n'existe pas encore de loi à ce sujet dans le monde entier. L'Union européenne, en tant que pionnière, veut désormais adopter un règlement sur l'IA d'ici novembre. Pour l'instant, la Suisse regarde vers Bruxelles – et attend.