OpenAI envisage de ralentir le développement de ses modèles d’intelligence artificielle les plus avancés, comme l’a indiqué son PDG Sam Altman lors d’une réunion avec les employés. Le dirigeant souhaite que plusieurs entreprises concurrentes dans le domaine de l’IA (Anthropic, Google, etc.) coordonnent ce ralentissement jusqu’à la mise en place de normes de sécurité communes.
OpenAI cherche à éviter une course à l’IA sans régulations
Lors d’une réunion interne cette semaine, relayée par Bloomberg, Sam Altman a mentionné qu’OpenAI pourrait ajuster son rythme de développement pour sa prochaine IA, potentiellement en collaboration avec d’autres entreprises concurrentes. Il a cependant reconnu que certains acteurs pourraient ne pas voir d’un bon œil une telle initiative, ce qui rend la mise en œuvre d’un ralentissement coordonné plus complexe.
Jakub Pachocki, le directeur scientifique d’OpenAI, avait déjà plaidé en faveur d’une telle coordination. Il soutient que les entreprises devraient envisager de ralentir collectivement leurs développements et aspire à ce que ces ralentissements volontaires deviennent la norme jusqu’à l’établissement de seuils de sécurité communs.
Le créateur de ChatGPT a également fait savoir qu’il avait déjà limité certaines activités de développement de modèles d’IA et qu’il avait récemment suspendu plusieurs sessions de formation interne pour des raisons de sécurité. En juillet, Sam Altman avait aussi abordé avec des responsables de la Maison Blanche l’importance de réguler le rythme des avancées en IA.
Les appels à une réglementation se multiplient
OpenAI appelle désormais le Congrès américain à adopter, avant la fin de l’année, des règles communes à destination des entreprises développant les modèles d’IA les plus puissants. Chris Lehane, responsable des affaires publiques de l’entreprise, plaide notamment pour des tests obligatoires, des évaluations indépendantes ainsi qu’un reporting transparent en matière d’incidents de sécurité.
De plus, l’entreprise souhaite établir des règles internationales définissant les conditions et les modalités de ralentissement ou d’arrêt des développements. De son côté, Anthropic, qui propose Claude, soutient également l’instauration d’un mécanisme de ralentissement coordonné avec une base juridique et des moyens de contrôle de son application.
Cette demande survient dans un contexte d’inquiétude croissante au sein de l’industrie. Plus de 1 000 employés de grandes sociétés d’IA ont signé fin juillet une pétition appelant à un mécanisme de ralentissement du développement, tandis que plusieurs experts en sécurité ont quitté ces entreprises ces derniers mois.
Aux États-Unis, le débat progresse bien qu’aucune législation fédérale ne régule encore les modèles d’IA les plus avancés. Par ailleurs, la Californie a récemment adopté deux lois pour créer un système d’évaluation indépendant, tandis que des parlementaires travaillent à Washington sur un texte traitant des risques catastrophiques liés à l’intelligence artificielle.
