Plus de 600 employés de Google cosigné une lettreimplorant leur patron, Sundar Pichai, de mettre fin aux négociations en cours avec le département américain de la Défense. Cette mobilisation interne vise à empêcher le déploiement de Gemini, le modèle d’intelligence artificielle de l’entreprise, dans le cadre d’opérations militaires classifiées.
Chez les signataires, la contestation s’enracine au plus haut niveau de l’organigramme. Le document rassemble plus d’une vingtaine de directeurs, directeurs principaux et vice-présidents, issus principalement des divisions stratégiques de Google Cloud et du laboratoire de recherche DeepMind. « En tant que personnes travaillant sur l’IA, nous savons que ces systèmes peuvent centraliser le pouvoir et qu’ils commettent des erreurs »ont notamment prévenu les chercheurs dans leur missive.
Garanties contractuelles jugées inapplicables
Au cœur de cette impasse se trouve la question du contrôle humain sur l’algorithme. Pour rassurer ses équipes, la direction de Google a proposé au Pentagone d’inclure des clauses contractuelles strictes, interdisant formellement l’utilisation de Gemini à des fins de surveillance de masse nationale ou le développement de systèmes d’armes létaux autonomes. Toutefois, l’armée américaine fait pression pour un langage juridique plus large permettant « toutes les utilisations légales »justifier ce besoin par un besoin de flexibilité opérationnelle.
Pour les organisateurs de la pétition, ces promesses de sécurité sont une illusion technique. Ils soulignent que la nature même des charges de travail classifiées rend impossible toute vérification externe, d’autant plus que la politique actuelle du Pentagone interdit strictement aux entreprises privées d’imposer des contrôles sur ses systèmes d’intelligence artificielle une fois déployés.
Cette crise interne ravive le spectre du fameux Projet Maven de 2018. À l’époque, une mobilisation similaire de plusieurs centaines de salariés avait contraint Google à ne pas renouveler un contrat militaire relatif à l’analyse d’images de drones par ordinateur, obligeant l’entreprise à rédiger sa propre charte éthique sur l’intelligence artificielle. Le mécontentement actuel à l’égard de Google s’inscrit dans un mouvement plus large au sein de la Silicon Valley, survenu quelques mois seulement après que la start-up Anthropic ait vu son contrat résilié par le Pentagone pour avoir refusé de lever ses propres restrictions éthiques. Le Pentagone a finalement choisi OpenAI.
