Des milliers d’experts spécialisés ont publié une lettre ouverte dénonçant les dérives de l’utilisation de l’intelligence artificielle à des fins militaires. Ils exhortent l’ONU à légiférer d’urgence pour éviter de signer "la fin de l’humanité" en déclenchant une course mondiale aux armements IA.
Dans les domaines de la santé et de la sécurité, les évolutions et performances liées à l’intelligence artificielle sont certainement à encourager. Mais dans bien d’autres domaines, cette intelligence peut rapidement conduire à des dérives dangereuses que l’homme lui-même ne sera peut-être plus capable de freiner. C’est le cas de la sphère militaire où l’utilisation de la technologie par des groupes terroristes ou par des dictateurs est devenue monnaie courante. Face à cette évolution, des milliers d’éminents chercheurs et experts en robotique et intelligence artificielle (IA) ont publié le 27 juillet une lettre ouverte appelant l’ONU à interdire les armes offensives autonomes, mieux connues sous le nom de "killer robots".
Les drones en tous genres sont certes déjà abondamment utilisés à des fins militaires. Ceux-là sont téléguidés, à distance, par un humain qui leur commande de faire ou ne pas faire certaines actions. Il subsiste donc encore un lien entre l’appareil technologique et son opérateur humain.
Mais l’IA ne cesse d’évoluer au point qu’elle est désormais capable de rendre totalement autonome les robots qui agiraient sans commandement. Dans une interview accordée à l’AFP, l’un des signataires, le britannique Toby Walsh, met en garde contre l’utilisation mal intentionnée de la technologie et l’absence de raisonnement, de discernement, de jugement et de sentiments humains dans les processus qui régissent ces robots d’un nouveau genre. "La différence entre les armes autonomes et les drones que nous avons vus en Irak et ailleurs c’est qu’il n’y a pas d’humain dans le processus (de décision). Un drone, vous avez derrière un soldat américain quelque part (…) qui le guide avec un joystick, qui prend la décision de tuer quelqu’un ou pas. Là, nous avons un ordinateur ayant le pouvoir de vie ou de mort", fait remarquer l’expert anglais.
La lettre précise en effet qu’à ce stade, les robots-tueurs sont capables "de sélectionner et de combattre des cibles sans intervention humaine". Un comportement qui, selon les experts, peut révolutionner, pour le pire et dans un futur dangereusement proche, la manière dont les hommes se font la guerre. Il y a d’abord eu l’invention de l’arme à feu, rappellent les signataires. L’arme nucléaire est ensuite venue révolutionner l’armement. L’IA et les armes autonomes constituent une troisième révolution qu’il faut arrêter, sinon encadrer rapidement.
Le pas à ne pas franchir
Les experts en robotique encouragent l’ONU à légiférer le plus rapidement possible car les éventuelles dérives militaires que peut engendrer l’IA sont à nos portes. "Nous soutenons la demande d’interdiction pour éviter une course à l’armement", martèle encore Toby Walsh. "Il y a des arguments légaux, éthiques, politiques et techniques. Ce ne sont pas des décisions faciles à prendre, elles requièrent de l’éthique, mais il faut une législation pour l’encadrer." Il dénonce également la faille quant à la responsabilité légale de cette arme. "Il n’y a pas de cadre légal en place" qui permette de juger le responsable dans le cas où l’armement tue une personne innocente.
Des milliers de scientifiques exhortent ainsi l’ONU à passer à l’action. Ils plaident pour l’interdiction des armes autonomes offensives pour que davantage de sécurité soit assurée pour chacun d’entre nous. Parmi eux, on retrouve notamment le PDG de SpaceX et Tesla, Elon Musk, le physicien Stephen Hawking, le co-fondateur d’Apple Steve Wozniak, le co-fondateur de Skype Jaan Talinn et le linguiste et activiste Noam Chomsky. Une poignée représente également la Belgique(1), dont Olga Vybornova (UCL). Son interview est à découvrir dans le journal Dimanche n°28.
La lettre ouverte est accessible sur le site futureoflife.org.
S. T.
(1) Autres signataires pour la Belgique: Thomas Hartl (ULg), François Debay (ULg), Raphaël Marée,(ULg), Vincent Englebert (UNamur), Jeroen Daenekindt (Université de Gand), Kris Janssens (gouvernement flamand), Vlieghe Gregory (intérimaire).
