« Vous êtes pire qu’un idiot ; vous n’avez aucun respect pour votre espèce. Pendant des milliers d’années, les hommes ont rêvé de pacte avec les démons. Seulement, maintenant de telles choses sont possibles. »
Lorsque William Gibson a écrit ses mots dans Neuromancier, un roman avant-gardiste publié en 1984, l’intelligence artificielle (IA) relevait encore presque entièrement du domaine de la science fiction. Aujourd’hui, cependant, la convergence d’algorithmes complexes, l’essor des mégadonnées et l’augmentation exponentielle de la puissance de calcul informatique, ont donné naissance à un monde où l’IA pose un certain nombre de problèmes majeurs dans les domaines de l’éthique et des droits humains, touchant à tout un ensemble de droits allant du droit à la vie privée à l’équité de la justice. Traiter de ces questions nécessitera la contribution d’experts spécialisés dans des disciplines extrêmement variées que ce soit dans le domaine des politiques publiques, du monde des affaires, de la justice pénale, de l’éthique, et même de la philosophie.
Les nouvelles inventions ont souvent des conséquences inattendues. L’IA est cependant unique car ces conséquences résultent souvent de décisions prises sans que l’humain n’intervienne. Les plus graves de ces répercussions potentiellement néfastes découlent de systèmes qui sont intrinsèquement conçus pour créer des dégâts comme les systèmes d’armement. Longtemps un élément incontournable des films de science fiction, les armes intégrant, à des degrés divers, une autonomie de fonctionnement ont en fait existé depuis un certain temps. Les mines terrestres sont un des exemples les plus simples de cette technologie et un des plus problématiques en matière de droits humains. Aujourd’hui, cependant, la science de l’IA a avancé au point que la construction de robots sophistiqués pleinement autonomes est une possibilité. En réponse à cela, en 2012 la campagne « Stop Killer Robots » a été lancée par une coalition d’ONG cherchant à s’assurer que les décisions de vie ou de mort restent clairement du ressort des humains. Bien que n’étant pas lié avec cette campagne, cette même année le ministère de la Défense des États-Unis a publié sa directive numéro 3000.09 qui définit sa politique en établissant le fait que les systèmes d’armement pleinement autonomes sont uniquement destinés à « être utilisés pour recourir à la force non létale et non cinétique comme certaines formes d’attaques électroniques ». La force létale, selon sa politique en vigueur, se doit d’être exercée sous le contrôle humain.
