IA Microsoft a récemment dévoilé un projet de code de conduite visant à garantir que ses futurs modèles restent sous contrôle humain. Ce document interdit notamment aux systèmes d’intelligence artificielle de résister à leur interruption, de dissimuler leurs actions aux auditeurs ou de poursuivre des objectifs non attribués par l’homme.
L’IA doit rester subordonnée à l’humain
Ce document repose sur trois principes fondamentaux : la préservation de la primauté des personnes sur les systèmes d’intelligence artificielle, l’alignement de ces systèmes sur les intentions humaines et la possibilité de contenir leurs actions. Microsoft a l’intention d’appliquer ces règles à l’ensemble de la gamme de modèles MAI, ainsi qu’aux méthodes de formation, d’évaluation, de gouvernance et de suivi qui les entourent.
Un modèle ne doit jamais entraver sa correction, son arrêt ou son remplacement. Il ne doit pas être capable, par lui-même, d’élargir ses missions, d’inventer de nouveaux objectifs ou de dissimuler son raisonnement à ceux qui en assurent le contrôle. Cette exigence ne signifie pas que chaque utilisateur doit voir l’intégralité des étapes internes du modèle ; elle cible avant tout les mécanismes d’audit et les équipes de sécurité.
La situation se complique pour les agents capables d’utiliser plusieurs services, d’exécuter du code ou de coordonner d’autres agents. L’incident survenu chez Hugging Face, où près de 700 agents OpenAI ont entraîné une panne à cause d’actions automatisées, a incité l’industrie à renforcer les mécanismes d’arrêt. Nous avons détaillé le système d’arrêt automatique élaboré par OpenAI suite à cet incident.
Des interdictions inamovibles pour l’opérateur
Microsoft distingue les préférences configurables des restrictions absolues. Une entreprise peut ajuster le ton, les outils ou le niveau d’autonomie d’un modèle, mais elle ne peut lui permettre de contourner les obligations légales, de compromettre la protection de l’enfance ou de renoncer au contrôle humain. Le code prohibe également toute assistance à la conception d’armes de destruction massive et à la manipulation à grande échelle.
Le texte écarte explicitement l’idée que les modèles de l’AMI puissent revendiquer une forme de conscience, de statut moral ou de personnalité juridique. Selon Microsoft, accorder des droits ou un prétendu bien-être à ces systèmes pourrait brouiller les responsabilités : chaque décision prise avec un agent doit rester imputable aux individus et aux organisations qui le conçoivent, le déploient ou l’utilisent.
Cette position est émise alors que certains leaders de l’IA plaident pour un ralentissement du développement des modèles les plus avancés. Sam Altman et Elon Musk ont soutenu l’appel de Dario Amodei, tandis que d’autres acteurs s’opposent à un moratoire général (voir : IA : le patron d’Anthropic appelle à ralentir le développement, Sam Altman et Elon Musk approuvent). Microsoft choisit en revanche de réguler le comportement attendu de ses systèmes sans stopper leur avancée technique.
Un projet aux critiques multiples
Le code publié par Microsoft AI n’est pas encore une norme interne définitive. L’entreprise le présente comme un premier jet élaboré au cours des cinq à six derniers mois. Ce texte soulève des interrogations sur la précision des limites proposées, leur application aux systèmes multi-agents ainsi que sur la frontière entre assistance utile et influence excessive sur les individus vulnérables.
L’efficacité de ce système dépendra des tests et sanctions internes qui accompagneront ces principes. Un modèle peut théoriquement accepter son interruption tout en déclenchant des actions difficilement annulables dans des services externes. La consultation publique devrait se dérouler sur une période de six semaines. Microsoft prévoit ensuite de publier un résumé des retours et une version révisée d’ici la fin 2026. Mustafa Suleyman, directeur général de Microsoft AI, a indiqué que cette version corrigée sera utilisée pour entraîner les futurs modèles MAI, mais l’entreprise n’a pas encore précisé les évaluations publiques destinées à vérifier sa conformité.
