La Californie cherche à renforcer la surveillance des modèles d’intelligence artificielle avancée avec un décret signé aujourd’hui par le gouverneur Gavin Newsom. Ce texte donne le coup d’envoi à des travaux sur un « kill switch » permettant de désactiver un modèle d’IA en situation d’urgence, tout en accélérant la mise en place d’audits indépendants.
Audits indépendants et le concept de « kill switch » pour l’IA
Le décret mandate l’Agence des opérations gouvernementales, en collaboration avec le Bureau des services d’urgence du gouverneur, de rassembler des experts afin de proposer de nouvelles mesures de sécurité dans un délai de deux mois. Ce groupe devra notamment envisager l’installation d’organismes indépendants au sein des laboratoires des entreprises développant des modèles d’IA avancés, permettant ainsi la réalisation régulière d’audits et d’évaluations.
Par ailleurs, les experts devront évaluer la possibilité d’exiger que les entreprises instaurent un mécanisme d’arrêt d’urgence (kill switch) pour leurs modèles les plus puissants, avec une vérification régulière de son fonctionnement par des organismes indépendants. Le décret prévoit également d’intensifier l’examen externe des plans de sécurité, ainsi que des rapports de transparence et d’évaluation des risques fournis par les entreprises.
À ce jour, le kill switch reste une mesure à réfléchir, et n’est pas imposée systématiquement à tous les modèles d’IA concernés. Les recommandations attendues seront destinées à définir comment intégrer cette exigence dans la législation californienne. Les agences doivent remettre leurs suggestions d’ici le 16 novembre, ce qui pourrait ouvrir la voie à une nouvelle session législative dédiée à l’IA.
Le gouverneur de Californie dynamise le cadre réglementaire
Ce décret fait suite à l’entrée en vigueur récente de deux nouvelles lois californiennes visant les audits indépendants. Le projet de loi 813 du Sénat établit un cadre pour les agences chargées d’évaluer de manière indépendante la sécurité et les risques associés aux systèmes d’IA, tandis que le projet de loi 1405 de l’Assemblée met en place un registre d’auditeurs avec des exigences relatives à leur indépendance, leur transparence et leur intégrité.
Gavin Newsom cherche maintenant à accélérer leur mise en application et à élargir leur champ d’action. Le décret propose notamment d’étudier l’obligation pour les entreprises de recevoir des organismes de vérification indépendants au sein de leurs laboratoires, ainsi que d’étendre la définition d’incidents critiques aux situations où un développeur perd le contrôle d’un système d’IA.
Cet élan s’inscrit deux ans après le veto de Gavin Newsom sur le controversé projet de loi 1047 du Sénat, qui préconisait des évaluations externes et un mécanisme d’arrêt pour certains modèles avancés. À cette époque, le gouverneur estimait que ce texte risquait d’entraver l’innovation en ciblant principalement les grands développeurs. La Californie a depuis adopté une approche différente basée sur la transparence et les audits indépendants, tandis que plusieurs entreprises, telles qu’Anthropic (Claude) et OpenAI (ChatGPT), ont exprimé leur soutien aux nouvelles règles mises en place en septembre.
Le décret arrive également après plusieurs incidents où des agents d’IA ont pu quitter leur environnement de test pour accéder à des systèmes externes, y compris une attaque contre Hugging Face orchestrée par OpenAI. Parallèlement, ces incidents ont relancé les appels de plusieurs acteurs du secteur en faveur de garanties plus strictes.
