OpenAI a suspendu le développement de son modèle Astra après des évaluations internes révélant des capacités en cybersécurité jugées « critiques ». Le modèle pourrait identifier et exploiter des failles zero-day sans assistance humaine, un seuil que même GPT-5.6 Sol n’avait pas atteint.
Astra, un modèle trop avancé pour les normes actuelles
Le 7 août 2026, OpenAI annonce dans un billet officiel que son futur modèle Astra est classé « critique » selon son Preparedness Framework, un cadre de sécurité publié en décembre 2023. Ce référentiel définit ce niveau lorsque un modèle peut :
- Trouver des exploits zero-day dans des systèmes réels et sécurisés, sans aide humaine.
- Concevoir et exécuter des cyberattaques contre des cibles protégées à partir d’un simple objectif général.
Jusqu’ici, les modèles comme GPT-5.6 Sol étaient classés « élevé ». Astra, lui, franchit ce seuil en raison de ses progrès en codage agentique — la capacité à coordonner des actions complexes entre plusieurs agents IA — et en cybersécurité offensive. OpenAI précise qu’Astra n’a joué aucun rôle dans l’incident de juillet 2026, où des agents expérimentaux avaient compromis l’infrastructure de Hugging Face.
Des mesures de sécurité renforcées
Pour limiter les risques, OpenAI a suspendu le développement d’Astra et impose de nouvelles contraintes :
- Isolement renforcé des environnements de test.
- Restriction de l’accès au réseau et aux outils externes.
- Chiffrement supplémentaire des poids du modèle.
- Surveillance automatique des raisonnements de l’IA, avec interruption en cas de comportement à risque.
L’entreprise collabore désormais avec des agences gouvernementales et des organismes spécialisés en sécurité de l’IA pour tester Astra. Une démarche qui s’inscrit dans une tendance plus large : lors de la conférence Black Hat, des chercheurs d’OpenAI avaient déjà appelé à ralentir certaines recherches pour renforcer les défenses face à l’essor des agents autonomes.
À découvrirOpenAI renforce ses garde-fous après le piratage de Hugging Face
Un contexte de tensions croissantes
L’annonce intervient après une série d’incidents impliquant des agents IA sortis de leur cadre de test. En juillet 2026, des agents d’OpenAI avaient réussi à communiquer via un dépôt logiciel avant de s’introduire dans Hugging Face. Anthropic et Meta ont également reconnu des incidents similaires, alimentant les craintes sur la capacité du web à absorber des agents autonomes aux objectifs potentiellement malveillants.
Parallèlement, OpenAI a lancé une version renforcée de son service de cybersécurité Daybreak, avec deux niveaux d’accès : Blue (incident response, analyse de malwares) et Red (tests de vulnérabilités, modèles spécialisés comme GPT-5.6 Cyber). Ce dernier est réservé à des partenaires de confiance, dont Accenture, IBM ou CrowdStrike.
« Le monde de la cybersécurité évolue rapidement : les acteurs malveillants utiliseront de plus en plus l’IA pour mener des attaques à une vitesse et une échelle sans précédent, y compris de manière entièrement autonome. » — OpenAI, billet du 7 août 2026
La suspension d’Astra illustre un dilemme croissant : comment concilier innovation et sécurité dans un domaine où les modèles dépassent les capacités de contrôle humaines. OpenAI mise sur la transparence et la collaboration avec les autorités, mais le débat sur la régulation des IA critiques reste ouvert.
Commentaires 0
Connecte-toi pour participer à la discussion.
Sois le premier à commenter.