La dystopie est à nos portes : dans un article récemment publié, Forbes détaillé Les efforts d'Amazon pour promouvoir parfois de manière agressive plusieurs services de sécurité (souvent issus de partenaires) qui passent le plus souvent par Amazon Web Services (AWS). L'entreprise a ainsi noué des alliances avec des fournisseurs de technologies pour convaincre les services de police de s'équiper de technologies de sécurité de pointe : caméras de plaques d'immatriculation via Flock Safety, détection d'armes via ZeroEyes, applications de centre d'analyse en temps réel (C3 AI, Revir Technologies), ou encore génération automatisée de rapports de police via Abel Police et Mark43.
Le marché cible est colossal – évalué à 11 milliards de dollars – et les communications internes montrent qu'Amazon multiplie les démarches de prospection pour gagner des parts de marché dans ce secteur.« Il est consternant de voir l’une des entreprises les plus grandes et les plus puissantes promouvoir de cette manière une technologie de surveillance autoritaire. » souligne Jay Stanley de l'ACLU, dénonçant le rôle de l'entreprise de « sage-femme » des technologies policières boostées par l'IA.
Questions sur la vie privée et les limites du contrôle
La stratégie d'Amazon auprès des forces de l'ordre et des services de sécurité suscite de vives inquiétudes : comment prévenir les abus et garantir la fiabilité des algorithmes tout en protégeant les droits fondamentaux des citoyens ? AWS met en avant son service « Cloud pour la justice et la sécurité publique »e Cloud pour la justice et la sécurité publique), et promeut la modernisation des systèmes de police grâce au cloud. Et cela fonctionne : les organismes chargés de l'application de la loi, comme la police du comté de Bedfordshire au Royaume-Uni, constatent déjà des gains d'efficacité grâce aux outils cloud déployés avec AWS. Attention cependant aux retours de bâton, à l'image de l'énorme polémique qui a suivi l'annonce d'Amazon Rekognition, un outil d'IA utilisé dans des contextes de surveillance policière, qui a fait bondir les associations de défense des libertés individuelles.
En misant sur la convergence entre cloud, intelligence artificielle et « forces de l’ordre » (sous un angle très sécuritaire), Amazon fait ici un pari à haut risque – à la fois technique, réputationnel et éthique. La manière dont ces technologies seront encadrées, utilisées et réglementées dans les années à venir pourrait redéfinir l’équilibre entre sécurité et respect des droits civiques… s’il existe effectivement une véritable régulation.
Mis à jour le 10/03 : Amazon nous a aimablement contacté pour corriger certaines inexactitudes dans l'article ci-dessus. Selon Amazon donc, Forbes n’aurait pas explicitement écrit qu’Amazon faisait la promotion d’AWS comme plateforme de choix pour les services de sécurité (c’est pourquoi nous n’avons pas mis cette phrase entre parenthèses ailleurs). Amazon précise également que les technologies concernées et déployées sont prioritairement celles des partenaires d'Amazon et non d'Amazon lui-même. Amazon nous dit en outre que « Amazon Rekognition n'est pas un outil de surveillance, c'est un service d'analyse d'images et de vidéos doté de nombreuses fonctionnalités d'analyse et de comparaison non faciales. » Ceci étant dit, nous écrivons justement qu'Amazon est « un outil d’IA utilisé dans des contextes de surveillance policière »ce qui est tout à fait différent de dire que l’outil lui-même est un outil de surveillance.
Enfin, concernant le contenu des emails révélés par Forbes, Amazon précise que « Ces e-mails reflètent notre volonté de résoudre les défis de nos clients, par exemple en les aidant à détecter des objets potentiellement dangereux dans des séquences vidéo afin que les premiers intervenants comprennent la situation avant leur arrivée. Nous dialoguons constamment avec nos clients de tous les secteurs pour comprendre leurs défis spécifiques et leur expliquer comment les dernières technologies peuvent les aider à atteindre leurs objectifs commerciaux. «
