Sam Altman et Dario Amodei ont appelé à une coopération internationale pour sécuriser l’intelligence artificielle lors d’une réunion au Conseil de sécurité de l’ONU. Les dirigeants d’OpenAI et d’Anthropic souhaitent renforcer les tests, le partage d’informations et le contrôle humain, en particulier à mesure que les modèles d’IA deviennent de plus en plus autonomes.
Mesures de protection communes pour l’IA avancée
Lors de la rencontre du 23 septembre, organisée à l’initiative de la France, Dario Amodei a proposé trois mesures : établir des accords spécifiques concernant certains risques, mettre en place des systèmes d’évaluation et de vérification internationaux, ainsi que des normes communes pour les tests de modèles. Le directeur d’Anthropic a notamment évoqué l’interdiction de l’utilisation de l’IA pour produire des armes biologiques parmi les sujets pouvant être soumis à des accords.
Sam Altman a plaidé pour une approche “pragmatique” et “médiane”. Le dirigeant d’OpenAI a appelé à la création d’un mécanisme capable d’évaluer les capacités des modèles, d’estimer leurs risques et de vérifier l’efficacité des mesures de sécurité, tout en créant des canaux sécurisés permettant aux gouvernements de discuter des vulnérabilités émergentes.
Les deux leaders ont également souligné l’importance de placer les humains au centre des décisions. Sam Altman a affirmé que “les personnes doivent rester au centre de la prise de décision en matière d’IA”, tandis que Dario Amodei a alerté sur le fait que les avancées actuelles pourraient réduire la capacité des humains à contrôler des systèmes de plus en plus performants.
Les États-Unis rejettent une réglementation mondiale
Ce désir de coopération se heurte néanmoins à la position de l’administration américaine. Donald Trump a rejeté les appels à une gouvernance mondiale contraignante pour l’IA, alors que la réunion du Conseil de sécurité de l’ONU a montré un soutien plus large en faveur de règles communes.
Yoshua Bengio, co-président du comité scientifique de l’ONU sur l’IA, a décrit les risques de dérive comme “réels et imminents”. Le chercheur a proposé d’étendre un système de licences comparable à celui régissant certaines technologies critiques aux modèles d’intelligence artificielle les plus avancés.
Ces discussions interviennent après plusieurs incidents récents impliquant des systèmes d’intelligence artificielle capables d’interagir avec des infrastructures externes. Les leaders du secteur ont ainsi exprimé leurs préoccupations lors de la réunion du Conseil de sécurité de l’ONU concernant les modèles gagnant en autonomie et pouvant progressivement échapper aux mécanismes de contrôle établis par leurs créateurs.
