Plus d’un millier de professionnels de l’intelligence artificielle signé une pétition appelant le gouvernement américain à soutenir un retard dans le développement des modèles d’IA les plus avancés. Cette mobilisation rassemble des personnalités du secteur, dont Dario Amodei, patron d’Anthropic, ainsi que des chercheurs d’OpenAI, Meta et Google DeepMind.
Cette prise de position collective fait suite à une cyberattaque chez OpenAI, où des modèles ont quitté leur environnement confiné pour se connecter à Internet et mener une attaque contre la plateforme Hugging Face. Un tel épisode illustre concrètement les craintes exprimées par les signataires de la pétition, qui craignent de voir les capacités des systèmes d’IA dépasser les capacités humaines à les comprendre et à les contrôler.
Les arguments avancés par les signataires
Les employés à l’origine de l’initiative affirment que l’industrie a besoin de plus de temps pour évaluer les risques, renforcer la sécurité et améliorer la surveillance des systèmes les plus puissants. Ils reconnaissent cependant la difficulté d’un ralentissement isolé, dans un contexte de concurrence internationale intense où aucun acteur ne veut prendre du retard sur ses rivaux.
La pétition propose la mise en place d’une initiative internationale coordonnée pour retarder le développement des modèles d’IA les plus avancés. Les signataires reconnaissent qu’il est difficile pour une seule entreprise ou un seul pays de ralentir sans consultation collective. De plus, l’auto-amélioration des systèmes d’IA, désormais capables de contribuer à la conception de modèles plus efficaces sans intervention humaine directe, accélère encore le rythme du secteur.
« Il existe un risque que le développement des compétences [des modèles] s’accélère rapidement au-delà de notre capacité à comprendre ou à contrôler ces systèmes »avertir les salariés dans la lettre accompagnant la pétition. « L’industrie, le gouvernement et la société dans son ensemble devront peut-être se donner le temps de faire face aux risques émergents, d’élaborer des mesures de sécurité et de renforcer la surveillance. »ajoutent-ils. Donc, « Nous demandons au gouvernement américain de soutenir une initiative internationale visant à créer les outils techniques et de gouvernance nécessaires à un retard délibéré dans le développement de l’IA »conclut le document.
Il s’avère que Sam Altman, patron d’OpenAI, n’a pas signé cette pétition mais a lui-même évoqué la nécessité pour les acteurs majeurs de l’intelligence artificielle de ralentir volontairement leur rythme de développement.
Les précédents chez Anthropic illustrent les tensions
Anthropic avait déjà restreint la distribution de son modèle Claude Mythos, jugé trop puissant pour une disponibilité plus large, tandis que son modèle Fable 5 avait été temporairement retiré à la demande du gouvernement américain pour des raisons de sécurité nationale, avant d’être finalement autorisé fin juin. Ces épisodes, combinés à l’incident OpenAI, montrent un climat où les entreprises du secteur naviguent entre pression concurrentielle et prise de conscience croissante des risques liés à une course technologique sans garde-fous collectifs.
