La course aux agents IA a un angle mort : la sécurité. OpenAI y répond en achetant Promptfooune startup de deux ans spécialisée dans la détection de vulnérabilités dans les modèles d'intelligence artificielle, dont la technologie sera intégrée à OpenAI Frontier, sa plateforme de déploiement d'agents d'entreprise. Les conditions financières du rachat n'ont pas été divulguées.
Fondée à San Francisco, Promptfoo compte déjà parmi ses clients environ un quart des entreprises Fortune 500. Elle développe des outils open source pour tester la sécurité des systèmes d'IA et organiser du red-teaming, c'est-à-dire simuler des attaques contre ses propres produits pour en identifier les failles. Sa dernière levée de fonds, en juillet 2025, valorisait la start-up à 86 millions de dollars.
Frontier, la plateforme qu'OpenAI veut rendre impeccable
Récemment lancé, Frontier permet aux entreprises de créer et de gérer des agents d'IA qu'OpenAI appelle « Collègues IA ». L’objectif est de garantir que chaque agent dispose des garanties appropriées et d’un accès contrôlé aux données. L'intégration de Promptfoo fournira des tests de sécurité automatisés, des fonctionnalités d'équipe rouge et des outils de surveillance des risques et de conformité réglementaire.
Cette acquisition reflète une tension centrale du marché : les agents d’IA autonomes capables d’effectuer des tâches complexes avec peu d’intervention humaine suscitent un vif intérêt pour leurs gains de productivité, mais ouvrent simultanément de nouvelles surfaces d’attaque pour accéder à des données sensibles ou manipuler des systèmes automatisés. OpenAI a également proposé la semaine dernière un agent dédié aux équipes de sécurité pour détecter et corriger les vulnérabilités des grandes bases de données, un outil similaire à celui d'Anthropic.
OpenAI, qui propose ChatGPT, a déclaré qu'il continuerait à développer le travail open source de Promptfoo parallèlement à son intégration avec Frontier.
