Les systèmes d'IA peuvent-ils prendre des décisions morales en temps de guerre ?
Des drones autonomes aux systèmes de commandement et de contrôle alimentés par l'IA, les machines réduisent le nombre de décideurs dans les salles de guerre et sur le terrain. Cette transformation redéfinit déjà les conflits en introduisant de nouvelles technologies à Kyiv, Gaza et Téhéran.
En Ukraine, des drones intercepteurs alimentés par l'IA. En Israël, la génération de cibles assistée par l'IA utilisée à Gaza. Plus récemment, le système intelligent Maven de Palantir a été employé pour identifier et frapper des milliers de cibles lors de la guerre américano-israélienne contre l'Iran. Le 28 février, premier jour de ce conflit, Maven a contribué à frapper plus de 1 000 cibles, dont une école primaire iranienne à Minab, causant la mort de plus de 150 personnes, principalement des enfants. Quatre mois plus tard, l'enquête du Pentagone sur l'attaque est toujours au point mort, les sénateurs réclamant des réponses et Bloomberg rapportant que l'erreur provenait de renseignements satellitaires obsolètes.
Alors que l'IA s'intègre de plus en plus dans les armées, la question n'est pas seulement de savoir si ces systèmes peuvent être fiables pour prendre des décisions précises, mais s'ils peuvent assumer les conséquences morales de leurs choix. Dans le cadre d'une série sur l'IA et la guerre, Al Jazeera examine si elle peut remplacer efficacement les décideurs humains.
Les dépenses militaires mondiales ont augmenté de 2,9 % l'année dernière pour atteindre 2,87 billions de dollars. Dans ce chiffre, les investissements dans l'IA pour les applications militaires s'accélèrent rapidement, avec une croissance prévue de 11,7 milliards à près de 19,3 milliards de dollars d'ici 2030, selon des rapports industriels. En avril, l'administration du président américain Donald Trump a proposé 1,5 billion de dollars pour le budget de la défense de l'année fiscale commençant en octobre, afin de construire une "armée de rêve" et d'accélérer le passage d'un complexe militaro-industriel traditionnel à un complexe militaro-technologique.
Le Pentagone américain vise à devenir une "force de combat axée sur l'IA", en compressant la boucle OODA – un modèle de prise de décision développé par le colonel de l'armée de l'air américaine John Boyd à la fin du XXe siècle, basé sur le principe que celui qui prend des décisions plus rapidement l'emporte. Alimentée en continu par de nouvelles informations, la boucle OODA – observer, orienter, décider, agir – permet aux commandants de décider des actions au dernier moment possible, échangeant la certitude contre la rapidité et l'adaptabilité.
Le projet Maven, plateforme phare d'intelligence artificielle de Palantir, associé à Claude d'Anthropic, est conçu pour offrir une vision en temps réel du champ de bataille. La logique de la boucle OODA était déjà à l'œuvre dans les guerres de drones des années 2000 et 2010, lorsque la reconnaissance de motifs algorithmique signalait des individus dont le comportement correspondait à un profil suspect.