Alors que les militaires adoptent l’IA, le battage médiatique devient une arme

May 24, 2023

L’enthousiasme suscité par l’intelligence artificielle générative a atteint son paroxysme depuis le lancement de ChatGPT et de moteurs d’images comme MidJourney l’année dernière. Pourtant, l'exaltation ou l'anxiété face aux applications actuelles des nouvelles technologies conduisent bientôt à des projections existentielles plus vastes sur l'avenir. À l’exception de la « singularité » et du remplacement direct de l’humanité par l’IA, aucun résultat ne provoque autant d’anxiété que l’effet que l’IA pourrait avoir sur la guerre. Les armes autonomes et les robots stratégiques pourraient-ils opprimer les civils, défier les opérateurs humains, ou même déclencher la Troisième Guerre mondiale ?

Les dirigeants du monde font preuve d’action. Soixante États se sont réunis en février pour définir des objectifs en faveur d’une « utilisation responsable de l’IA » par les militaires. Le Département d'État a ensuite publié une déclaration politique sur les principes des États-Unis, qui impliquent que les officiers supérieurs restent impliqués dans la conception et le fonctionnement de toutes les armes autonomes, en les concevant pour des « usages explicites et bien définis », en maintenant une surveillance attentive de toutes les caractéristiques de sécurité. pendant toute la durée de vie des armes, et en cherchant à éviter tout parti pris dans leur utilisation. Human Rights Watch a toutefois noté qu’aucun de ces objectifs n’est encore juridiquement contraignant ni ne ralentit le développement de systèmes sophistiqués que leurs opérateurs ne comprennent pas pleinement.

Malgré leur nouveauté, ces progrès récents ne sont que les dernières étapes de l’automatisation de la violence d’État qui a fait son premier grand pas avec la formation d’armées permanentes en Europe au XVIIIe siècle. Bien que la mitrailleuse, le char et l'avion de combat soient des symboles plus familiers de ce processus, le fait de former l'infanterie pour éliminer les émotions humaines individuelles et augmenter sa vitesse et sa fiabilité pour les commandants a donné à ces armées leur premier avantage majeur sur leurs rivaux non préparés.

Recevez votre dose des meilleures histoires de JSTOR Daily dans votre boîte de réception chaque jeudi.

Politique de confidentialité Contactez-nousVous pouvez vous désinscrire à tout moment en cliquant sur le lien fourni sur n'importe quel message marketing.

D

Depuis lors, les États craignent de prendre du retard sur tout avantage en matière d’automatisation, c’est pourquoi il existe un discours parallèle dans les médias incitant les États-Unis à adopter plus rapidement l’IA militaire. Des fonctionnalités à couper le souffle sur la manière dont l'IA générative rend l'analyse des données secrètes beaucoup plus efficace, parallèlement à des avertissements sévères selon lesquels toute restriction donnera un avantage à l'armée chinoise. Le New York Times offre un espace d’opinion gratuit aux entrepreneurs militaires en IA. Même des gaffes qui semblent accidentelles, comme le colonel qui a affirmé qu'un drone à IA avait tué son opérateur lors d'un exercice virtuel afin d'atteindre son objectif ou le général qui a déclaré que l'armée américaine traitait les armes à IA de manière plus éthique en raison de ses « valeurs judéo-chrétiennes ». » (contrairement à la Chine) renforcent tous le message adressé au monde selon lequel le développement de l’IA militaire avance à toute vapeur.

Les applications de l’IA, notamment dans l’analyse du renseignement, sont encore très hypothétiques. À l’heure actuelle, il semble que le battage médiatique lui-même soit une arme pour mettre en garde les prétendants à la suprématie géopolitique. Mais les commandants militaires iraient-ils vraiment jusqu’à essayer d’automatiser eux-mêmes la prise de décision en temps de guerre ?

Il est logique que les véritables officiers militaires appellent souvent à plus de prudence que les entrepreneurs de l’industrie de guerre et les médias proches des groupes de réflexion. Trois officiers américains vont droit au but dans un article paru en 2018 dans PRISM, proposant que les systèmes de stratégie automatisés chinois et américains opérationnels en 2024 pourraient transformer un conflit en un « échange nucléaire limité » en seulement deux heures.

Dans leur scénario, la crise commence par une collision accidentelle entre un bateau de pêche vietnamien et un navire chinois en mer de Chine méridionale. Cet événement déclenche une série de réactions en chaîne apparemment sans rapport dans le cyberespace, notamment la chute des indices boursiers et la montée de commentaires défavorables sur les deux camps sur les réseaux sociaux. Ces indications déclenchent des systèmes d’alerte par IA concernant les attaques Internet contre les infrastructures informatiques des deux côtés, déclenchant ensuite de véritables actions militaires. Bien que la Chine frappe en premier dans leur scénario, les auteurs tiennent l’interaction des deux parties pour responsable du meurtre potentiel de millions de personnes.