L'utilisation de l'intelligence artificielle (IA) dans les applications militaires est en cours de développement dans les hautes écoles suisses. Mais celles-ci restent souvent discrètes sur l'utilisation de leurs technologies. L'École polytechnique fédérale de Lausanne (EPFL) en est un exemple flagrant: ni le directeur de longue date du NCCR Robotics, Dario Floreano, ni Aude Billard, la directrice du NTN Robotics (financé par des fonds publics), ne veulent prendre position. Ils ne savent pas dans quelle mesure les technologies, telles que les essaims de drones, sont utilisées à des fins militaires.
Les coopérations militaires doivent être approuvées à l'EPFL et les chercheurs doivent respecter les directives fédérales dites «à double usage». Mais ces dernières ne sont plus à la page des technologies les plus récentes, explique Marcello Ienca, chercheur à Lausanne sur l'éthique des systèmes intelligents.
«Dans les années 2020, il n'est plus possible de tracer une ligne claire entre les technologies civiles et militaires, affirme-t-il. De plus, les contrôles à l'exportation n'ont guère d'effet sur l'IA, parce qu'ils se focalisent uniquement sur des applications élaborées, et non sur les algorithmes nécessaires à leur réalisation. On peut alors transmettre des logiciels qui seront ensuite utilisés ailleurs pour des systèmes d'armes.»
Dilemme entre recherche libre et abus
«Les critères de contrôle des biens sont les mêmes pour les logiciels que pour les marchandises», écrit le Secrétariat d'État à l'économie (SECO). Cela s'applique aux biens à double usage, qui sont utilisés à la fois à des fins civiles et militaires. L'IA n'est pas soumise à une législation particulière. Quant à recherche, elle suit en Suisse le principe de l'«Open Science». Cela signifie que les résultats doivent être mis à la disposition du public. Et c'est un dilemme. «Il est impossible de prédire quelles applications seront un jour basées sur les dernières avancées en matière d'IA», écrit quant à lui le Fonds national suisse (FNS), qui soutient de nombreuses recherches.
«Les armes autonomes poussent le dilemme entre la recherche libre et les abus possibles à son paroxysme, car on parle ici de vie ou de mort, souligne Marcello Ienca. Il y a un consensus parmi les éthiciens pour dire que nous ne devrions pas construire des machines qui prennent des décisions autonomes dans un tel domaine. Je ne pense pas qu'en Suisse, quelqu'un travaillerait délibérément sur des systèmes de ce type.» L'expert précise toutefois que «même la recherche dotée des meilleures intentions peut être détournée par des tiers à des fins guerrières ou criminelles».
Les chercheurs qui reçoivent de l'argent d'instituts militaires devraient être transparents et expliquer comment ils gèrent les conflits d'intérêts, poursuit Marcello Ienca. Les universités auraient besoin de formations sur la sécurité, telles qu'elles sont établies depuis longtemps dans la recherche chimique et biologique.
Pas de mesures généralisées jusqu'à présent
Et pour cause, il n'existe pas de mesures généralisées dans notre pays. L'Université de Zurich a un plan de sensibilisation pour les chercheurs, mais pas de formation obligatoire. L'EPFL donne des cours d'éthique obligatoires pour les nouveaux étudiants, mais ils sont facultatifs pour les équipes déjà en place.
Le groupe d'armement israélien Elbit Systems possède deux filiales en Suisse. Le nouveau drone de reconnaissance acheté par la Confédération, l'ADS15, est issu de leur fabrication. L'entreprise souligne que le niveau technique est élevé dans notre pays et que les centres de recherche locaux sont très attrayants.
Le FNS encourage justement la collaboration entre les deux pays en matière de recherche. «La recherche doit être conçue de telle sorte qu'elle ne puisse pas être utilisée à mauvais escient», écrit-il. Dans certains cas, le FNS réagit de son propre chef. Mais «la responsabilité incombe en premier lieu aux chercheurs et à leurs instituts de recherche».
La recherche libre a besoin d'un cadre clair
Il existe bien des guides émis par la Confédération, mais pas d'obligations. «Les hautes écoles et leurs chercheurs sont responsables de l'intégrité scientifique, écrit le Secrétariat d'État à la formation, à la recherche et à l'innovation (SEFRI). Cela est géré de différentes manières.»
Pour que la recherche puisse être libre, il faut un cadre aussi clair que possible. Actuellement, il semble que la politique ne souhaite pas trop se mouiller et reporte la responsabilité sur certains professeurs et universités qui veulent faire bon usage de la recherche. Fermer les deux yeux, espérer le meilleur et ensuite regretter publiquement que les armées d'autres pays utilisent des armes. Est-ce une stratégie typiquement suisse?