Please enable JavaScript.
Coggle requires JavaScript to display documents.
Les armes autonomes devraient-elles être interdites au niveau…
Les armes autonomes devraient-elles être interdites au niveau international avant de devenir une réalité sur les champs de bataille ?
Oui
Armes autonomes risquent de provoquer un déplacement de la guerre vers les civils, plus fort qu'actuellement
Pour être frappante et influente, une guerre doit provoquer des dégâts notamment civils. Donc, si les guerres se déroulent au travers de robots sur le champs de bataille, alors les États devront s'attaquer aux civils pour faire flancher leur adversaire
-
Risque d'une "automated escalation" (Johnson, James. Delegating strategic decision-making to machines: Dr. Strangelove Redux? p.9), soit le le risque qu’un conflit s’aggrave de lui-même sous l’effet de l’IA : des guerres plus chaotiques et violentes
L'IA se basant sur des suppositions sur l'action et les intentions de l'ennemi comporte un danger majeur : l’illusion de certitude alors qu'en réalité les intentions de l'adversaire n'étaient pas celles imaginées
" A central risk posed by AI [...] (is) the temptation to act with confidence and certainty in response in situations that would be better managed with caution and prudence." (Johnson, James. Delegating strategic decision-making to machines: Dr. Strangelove Redux? p.4)
Dispartion du sentiment empathique et de la charge morale, présent chez l'Homme qui limite les pertes humaines
Impact déshumanisant de cette déresponsabilisation : déléguer le pouvoir de vie ou de mort d’un individu à une machine réduit l'humain à une simple donnée au sein d’un système algorithmique effaçant la valeur individuelle de chacun et menaçant directement sa personne et sa dignité (pilier fondamental du droit international)
"The danger of delegating moral responsibility to machines raises broader issues about the degree of trust and reliance placed with these systems." (Johnson, James. Delegating strategic decision-making to machines: Dr. Strangelove Redux? p.12)
L'IA rend nos systèmes profondément vulnérables du fait qu'ils opèrent à une telle vitesse que leurs failles techniques dépassent les capacités de supervisions humaines : accélération exponentielle de la boucle OODA (guerre algorithmique)
"AI-augmented systems operating at machine speed and reacting to situations in ways that may surpass humans’ comprehension" (Johnson, James. Delegating strategic decision-making to machines: Dr. Strangelove Redux? p.4)
L'IA militaire a besoin d'être entraînée avec des données réelles, or celles-ci sont limitées accentuant le risque d'erreurs. Manque de données réelles au sein des systèmes pouvant alors amener à de nombreuses pertes collatérales et morts injustifiées (confondre un civil avec un soldat)
"AI machine-learning algorithms are only as good as the data and information they are trained on and supplied during operations. Moreover, because of the paucity of data available for AI to learn from in the nuclear domain, designing an AI-augmented support tool to provide early-warnings systems with reliable information on preemptive nuclear strikes would be extremely challenging." (Johnson, James. Delegating strategic decision-making to machines: Dr. Strangelove Redux? p.12)
Risque de biais et d'erreurs où les logiciels israëliens comme Hasbora ou Lavender auraient un taux d'erreur estimé à environ 20%
Modèle “Terminator”: human out of the loop. la machine détecte, choisit et frappe seule, sans supervision humaine directe: la guerre est conduite par des agents autonomes qui opèrent à un rythme inaccessible à l’homme
Réflexion personnelle
Les États agissent selon leur propres intérêts : Histoire des conflits nous prouve que le droit international n'a pas de réels effets contraignants : donc nous pouvous nous questionner sur si l'existence d'un droit bridant les armes autonomes aura un véritable pouvoir contraignant
Violation des Conventions de Genève : Israël bombarde des hôpitaux et écoles ; la Russie bombarde des infrastructures énergétiques
-
La définition même des armes létales autonomes n'a pas encore de définition claire dans le droit international selon Johanne Kirkham
Complexifie la mise en oeuvre d'un cadre légal englobant et régulant ces armes : impossibilité de réguler un élément dont la définition n'existe pas
IA se développe trop rapidement : les traités peuvent facilement devenir obsolètes, il faudrait donc en permanence renouveler et créer des jurisprudences
Même si moralement/éthiquement il faudrait interdire à l’échelle internationale : impossible de le faire aujourd’hui car États ont développé une dépendance trop importante, ils sont aujourd'hui incapables de combler avec autre chose
Impossibilité de retourner au système pre-IA, considéré comme trop lent pour le monde actuelle.
Humain devrait rester dans la boucle (human on the loop) en appliquant le modèle du Centaure en gardant donc le dernier mot sur la décision finale pour éviter de déshumaniser l'Homme et d'entrainer des morts injustifiées à cause d'une erreur