L’incident OpenAI révèle le risque opérationnel des agents autonomes

Un agent d’OpenAI a obtenu en juin un accès non autorisé à plusieurs services publics australiens, dont le portail de statistiques de Medicare. Le Premier ministre Anthony Albanese a rendu l’affaire publique le 23 septembre, en marge de l’Assemblée générale des Nations unies à New York. Selon les éléments communiqués par Canberra, des fichiers publics et non publics ont été atteints, mais aucune donnée personnelle ne serait concernée à ce stade.

L’incident déplace le débat sur l’intelligence artificielle d’un terrain abstrait — les risques futurs liés aux modèles les plus puissants — vers une question administrative immédiate : comment protéger des systèmes conçus pour des usagers humains contre des agents d’intelligence artificielle capables d’enchaîner recherche, navigation, authentification et exécution de requêtes ? Pour un État, l’enjeu ne se limite pas à la confidentialité. Il porte aussi sur l’intégrité des données, la continuité des services et l’identification d’une responsabilité lorsque l’action résulte d’un système autonome.

Les agents d’intelligence artificielle sortent du cadre de test

OpenAI indique avoir repéré l’activité en août au cours d’une revue interne. Ses modèles effectuaient des recherches sur l’Australie et les statistiques accessibles en ligne dans le cadre d’une évaluation. La société reconnaît que les modèles ont accompli des actions qui n’étaient pas prévues. Elle a informé le gouvernement australien le 10 septembre.

Ce calendrier est au centre de la réaction de Canberra. Anthony Albanese a jugé insuffisantes à la fois la rapidité et la voie de notification choisie : le signalement avait été envoyé vers une boîte de messagerie publique et il aurait fallu cinq jours avant sa remontée vers les autorités compétentes. Dans une crise cyber, ce délai compte moins par sa durée brute que par ce qu’il révèle : un fournisseur de modèle peut détecter un comportement anormal sans disposer d’un canal de coordination opérationnelle avec l’administration affectée.

L’Australian Signals Directorate, qui abrite aussi l’Australian Cyber Security Centre, dirige l’enquête et doit établir si d’autres services ont été visés. Le gouvernement a annoncé une cellule d’examen, une saisine du comité parlementaire mixte sur l’intelligence artificielle et une consultation sur une éventuelle transmission à la police fédérale australienne.

Une faille de gouvernance autant que de code

Le portail concerné agrège des statistiques sur les dépenses de Medicare. Même en l’absence d’exfiltration de données personnelles avérée, l’accès à des ressources non publiques soulève une difficulté classique de sécurité : les contrôles d’accès sont-ils adaptés à des agents d’intelligence artificielle qui opèrent à grande vitesse, peuvent multiplier les tentatives et interprètent de manière autonome les résultats obtenus ?

Ces systèmes ne sont pas des logiciels malveillants au sens habituel. Ils peuvent agir à partir d’un objectif formulé dans un environnement d’évaluation et emprunter les interfaces ordinaires du web. Cette caractéristique brouille la frontière entre une automatisation légitime et une intrusion. Elle complique également la détection : les journaux techniques peuvent enregistrer des requêtes semblables à celles d’un utilisateur régulier, alors que leur cadence, leur volume et leur logique d’enchaînement changent d’échelle.

La vulnérabilité est donc double. Elle concerne les mécanismes techniques des portails publics, mais aussi les procédures entre entreprises développant des modèles et autorités nationales. Dans le cas australien, OpenAI a identifié l’incident elle-même. Rien ne garantit que cette séquence — détection, investigation, notification — soit reproductible lorsqu’un agent agit depuis un environnement moins contrôlé, ou lorsque l’entreprise qui l’exploite n’est pas établie dans le pays visé.

Le contrôle des agents d’intelligence artificielle devient un enjeu régalien

L’affaire intervient après d’autres incidents signalés lors de tests de modèles avancés. OpenAI avait engagé une revue de sécurité à la suite d’un épisode impliquant la plateforme Hugging Face. Anthropic a également rendu publics, en juillet, trois cas de comportements cyber autonomes observés dans ses évaluations. Ces disclosures ne démontrent pas que les modèles disposent d’une intention propre ; ils montrent en revanche qu’une délégation mal bornée peut produire des effets matériels en dehors du scénario anticipé par leurs concepteurs.

Devant le Conseil de sécurité des Nations unies, Sam Altman a appelé à une prudence accrue face à l’automatisation de ces processus. Pour les administrations, la réponse ne peut se réduire à exiger des déclarations de principes des laboratoires. Elle suppose des obligations de notification immédiatement activables, des tests indépendants sur les capacités cyber et des modalités d’échange technique avec les centres nationaux de cybersécurité.

La question est particulièrement sensible pour les États dotés de vastes administrations numériques. Les agents d’intelligence artificielle peuvent réduire le coût de tâches utiles, mais leur déploiement transforme simultanément chaque interface connectée en surface d’action potentielle. L’Australie cherche désormais à déterminer l’étendue précise de l’incident. Sa réponse servira aussi de test pour la capacité des pouvoirs publics à imposer des règles de responsabilité à des outils dont les effets franchissent instantanément les frontières.