L’utilisation par l’armée israélienne d’une base de données alimentée par l’intelligence artificielle, non testée et non divulguée, pour identifier les cibles de sa campagne de bombardement à Gaza a alarmé les experts en droits humains et en technologie, qui ont déclaré que cela pourrait équivaloir à des « crimes de guerre ».
La publication israélo-palestinienne +972 Magazine et le média en langue hébraïque Local Call ont récemment rapporté que l’armée israélienne isolait et identifiait des milliers de Palestiniens comme cibles potentielles de bombardements à l’aide d’un système de ciblage assisté par IA appelé Lavender.
« Cette base de données est chargée d’établir des listes de victimes comptant jusqu’à 37 000 cibles », a déclaré jeudi Rory Challands d’Al Jazeera, journaliste à Jérusalem-Est occupée.
Les responsables anonymes des renseignements israéliens qui ont parlé aux médias ont déclaré que Lavender avait un taux d’erreur d’environ 10 pour cent. « Mais cela n’a pas empêché les Israéliens de l’utiliser pour accélérer l’identification des membres du Hamas, souvent de faible envergure, à Gaza et les bombarder », a déclaré Challands.
Il devient clair que l’armée israélienne « déploie des systèmes d’IA non testés… pour aider à prendre des décisions concernant la vie et la mort des civils », a déclaré à Al Jazeera Marc Owen Jones, professeur adjoint en études sur le Moyen-Orient et en humanités numériques à l’université Hamid Bin Khalifa. .
« Soyons clairs : il s’agit d’un génocide assisté par l’IA, et à l’avenir, il faudra appeler à un moratoire sur l’utilisation de l’IA dans la guerre », a-t-il ajouté.
Les publications israéliennes rapportent que cette méthode a entraîné la mort de plusieurs milliers de civils à Gaza.
Jeudi, le ministère de la Santé de Gaza a déclaré qu’au moins 33 037 Palestiniens avaient été tués et 75 668 blessés dans les attaques israéliennes depuis le 7 octobre.
L’utilisation de l’IA « viole » le droit humanitaire
« Les humains qui interagissaient avec la base de données de l’IA n’étaient souvent qu’un simple tampon. Ils examineraient cette liste de victimes pendant peut-être 20 secondes avant de décider de donner ou non le feu vert à une frappe aérienne », a rapporté Challands.
En réponse aux critiques croissantes, l’armée israélienne a déclaré que ses analystes devaient mener des « examens indépendants » pour vérifier que les cibles identifiées répondent aux définitions pertinentes conformément au droit international et aux restrictions supplémentaires stipulées par ses forces.
Il réfute l’idée selon laquelle la technologie est un « système », mais « simplement une base de données dont le but est de croiser les sources de renseignement, afin de produire des couches d’informations à jour sur les agents militaires des organisations terroristes ».
Mais le fait qu’il y ait eu « cinq à dix morts civiles acceptables » pour chaque combattant palestinien visé montre pourquoi il y a tant de morts civiles à Gaza, selon Challands.
Le professeur Toby Walsh, expert en IA à l’Université de Nouvelle-Galles du Sud à Sydney, a déclaré que les juristes soutiendront probablement que l’utilisation du ciblage par l’IA viole le droit humanitaire international.
« D’un point de vue technique, ces dernières nouvelles montrent à quel point il est difficile de garder un humain au courant, en fournissant une surveillance significative des systèmes d’IA qui amplifient la guerre de manière terrible et tragique », a-t-il déclaré à Al Jazeera.
‘Crimes de guerre’
Les médias ont cité des sources selon lesquelles l’armée israélienne avait pris la décision, au cours des premières semaines du conflit actuel, que « pour chaque jeune agent du Hamas marqué par Lavender, il était permis de tuer jusqu’à 15 ou 20 civils ».
Les sources ont également déclaré que si de hauts responsables du Hamas étaient la cible, alors « l’armée a autorisé à plusieurs reprises le meurtre de plus de 100 civils lors de l’assassinat d’un seul commandant ».
Ben Saul, le rapporteur spécial des Nations Unies sur les droits de l’homme et la lutte contre le terrorisme, a déclaré que si les détails du rapport s’avéraient vrais, « de nombreuses frappes israéliennes à Gaza constitueraient des crimes de guerre consistant à lancer des attaques disproportionnées ».
Si cela était vrai, de nombreuses frappes israéliennes à Gaza constitueraient des crimes de guerre consistant à lancer des attaques disproportionnées : “l’armée a décidé pendant les premières semaines de la guerre que, pour chaque jeune membre du Hamas, il était permis de tuer jusqu’à 15 ou 20 civils” https https://t.co/8JTgG4JVeQ
– Prof Ben Saul – RSNU Droits de l’homme et lutte contre le terrorisme (@profbensaul) 3 avril 2024
« Israël essaie actuellement de vendre ces outils à des entités étrangères, à des gouvernements qui regardent ce qu’Israël fait à Gaza, non pas avec dégoût, mais en fait avec admiration », a déclaré Antony Loewenstein, journaliste australien et auteur de The Palestine Laboratory : How Israël exporte la technologie de l’occupation dans le monde entier.
« Nous découvrirons dans les mois et les années à venir qui il s’agit… à mon avis, ce seront des pays qui disent actuellement qu’ils sont opposés à ce que fait Israël. »