OpenAI collabore depuis plusieurs semaines avec Anthropic et Google DeepMind pour établir une structure commune dédiée à l’évaluation des risques associés à l’intelligence artificielle. Ce projet pourrait mener à la création d’une organisation chargée d’examiner les modèles d’IA avancés avant leur mise sur le marché et, dans certains cas, de coordonner un ralentissement de leur développement.
Renforcement de la sécurité pour l’IA
Chris Lehane, responsable des affaires internationales chez OpenAI, a récemment confirmé à Washington que OpenAI (ChatGPT), Anthropic (Claude) et Google (Gemini) avaient engagé des discussions au sujet de cette coopération. « Il est préférable de travailler ensemble pour donner la priorité à la sécurité », a-t-il déclaré, selon un article de Bloomberg, tout en soulignant qu’une dérogation aux lois sur la concurrence n’était pas nécessaire pour leur collaboration actuelle.
Cette initiative s’inspire d’une proposition avancée en juillet par Demis Hassabis, président de Google DeepMind, qui avait plaidé pour la création d’un organisme indépendant, similaire à la FINRA, l’autorité américaine d’autorégulation du secteur financier. Ce nouvel organisme, financé par les entreprises du secteur, réunirait des experts indépendants et des représentants de l’écosystème open source.
Le futur organisme pourrait être chargé d’évaluer les modèles d’IA les plus puissants avant leur commercialisation et d’établir des normes de sécurité communes. Demis Hassabis a également exprimé l’idée que cet organisme pourrait coordonner un ralentissement du développement si les avancées technologiques dépassent notre capacité à comprendre les risques associés.
Cette collaboration survient alors que Dario Amodei, directeur d’Anthropic, a récemment appelé à une pause dans le développement des IA les plus sophistiquées afin de mieux appréhender leurs dangers. Sam Altman, directeur d’OpenAI, a rapidement soutenu cette position, une opinion également partagée par Demis Hassabis, qui juge que l’initiative de Dario Amodei est dans la bonne direction.
Prudence des États-Unis concernant la coopération entre concurrents
Parallèlement, OpenAI espère obtenir des avancées au niveau fédéral. Chris Lehane a déclaré que la firme soutiendrait les propositions bipartites visant à prévenir les risques catastrophiques liés à l’intelligence artificielle et plaide pour l’établissement d’un cadre fédéral de gouvernance technologique.
Cependant, la question de la concurrence complique cette coopération. Andrew Ferguson, président de la Federal Trade Commission (FTC), s’est montré « profondément suspect » quant aux demandes d’exemption antitrust formulées par les sociétés d’IA, estimant qu’elles pourraient utiliser la réglementation pour ériger des barrières à l’entrée sur le marché.
Le Congrès américain pourrait également envisager une exemption très limitée permettant aux entreprises d’échanger certaines informations relatives aux risques de perte de contrôle des systèmes d’IA, aux menaces cybernétiques ou biologiques et aux tentatives d’exfiltration de données par des entités chinoises. Cependant, le calendrier politique rend peu probable l’adoption rapide de telles mesures.
De son côté, Donald Trump s’oppose à la mise en place de garde-fous restrictifs pour le secteur. Le président s’est moqué des préoccupations existentielles liées à l’IA, les qualifiant de « blague » et appelle à accélérer le développement technologique, en particulier face à la concurrence chinoise.
Néanmoins, OpenAI poursuit son propre programme de réglementation. La société a récemment appelé à l’instauration d’exigences nationales obligatoires en matière de sécurité de l’IA, affirmant qu’aucune entreprise, aucun secteur ou gouvernement ne peut seul faire face aux risques posés par les systèmes avancés à venir.
