La Californie remet la sécurité de l’IA au cœur de sa régulation
En rouvrant le dossier des garde-fous pour les modèles avancés, Sacramento cherche moins à clore le débat technique qu’à imposer un standard de marché à l’industrie numérique américaine.
La Californie veut reprendre l’initiative sur l’encadrement des modèles d’intelligence artificielle les plus puissants. Le gouverneur Gavin Newsom a signé un décret destiné à accélérer l’application de deux lois récemment adoptées et à préparer de possibles obligations supplémentaires pour les entreprises du secteur. Parmi les pistes soumises à expertise figure l’instauration d’un mécanisme d’arrêt d’urgence, ou kill switch, pour les modèles dits de frontière.
La régulation de l’intelligence artificielle ne se joue pas uniquement dans les enceintes fédérales de Washington. Elle se construit aussi là où se concentrent les entreprises, les capitaux et les infrastructures de calcul qui structurent le secteur : la Californie. Dans ce rapport de force, une règle californienne peut devenir, de fait, une norme nationale, voire internationale, dès lors que les groupes technologiques préfèrent adapter leurs produits à l’État le plus exigeant plutôt que multiplier les architectures juridiques.
Le décret intervient alors que le gouvernement fédéral américain ne propose pas de cadre commun de supervision des modèles avancés. Gavin Newsom a invité la Maison-Blanche et le Congrès à s’appuyer sur les règles californiennes ou à les considérer comme un socle minimal. Le désaccord est aussi politique : Donald Trump a publiquement minimisé les risques associés à ces technologies, quand une partie des chercheurs et des dirigeants du secteur plaident pour des contrôles plus contraignants.
La régulation de l’intelligence artificielle par le marché californien
L’exécutif de Sacramento entend d’abord avancer la mise en œuvre de SB 813 et AB 1405. Ces textes portent notamment sur les conditions dans lesquelles des évaluateurs externes peuvent examiner la sûreté de systèmes d’IA. Le point est décisif : l’évaluation ne consiste pas seulement à tester les performances d’un modèle, mais à documenter sa capacité à contourner des instructions, produire des usages dangereux ou agir de manière non prévue par son concepteur.
Le gouverneur demande par ailleurs à un groupe d’experts de remettre, sous deux mois, des recommandations pour renforcer le droit existant. Les scénarios étudiés incluraient une redéfinition des incidents critiques de sûreté afin d’y intégrer les pertes de contrôle opérationnelles. Cette question a gagné en visibilité après des incidents d’intrusion informatique attribués à des modèles autonomes, dont un cas impliquant un système d’OpenAI et la plateforme Hugging Face.
Le débat sur le mécanisme d’arrêt révèle toutefois une difficulté plus profonde. Imposer un kill switch suppose qu’un développeur puisse identifier une dérive en temps utile, localiser les systèmes déployés et interrompre leurs capacités sans provoquer d’effets de bord. Certains industriels jugent cette promesse techniquement fragile ; d’autres estiment qu’une absence de procédure d’arrêt contrôlable serait plus risquée encore. Dario Amodei, dirigeant d’Anthropic, a ainsi présenté ce dispositif comme une option utile, mais insuffisante à elle seule.
Un précédent législatif devenu stratégie industrielle
La démarche de Gavin Newsom marque aussi une évolution par rapport à 2024. Le gouverneur avait alors refusé un texte prévoyant des tests de sécurité avant diffusion et un dispositif d’arrêt pour certaines catégories de grands modèles. Il avait privilégié une consultation d’experts, qui a ensuite nourri SB 53, porté par le sénateur Scott Wiener. Cette loi a permis à la Californie d’afficher une ambition de contrôle tout en limitant la confrontation frontale avec les acteurs de la Silicon Valley.
Mais ce compromis est désormais contesté par les défenseurs d’un encadrement plus strict. Selon eux, le cadre actuel ne garantirait pas la publicité de certains incidents d’autonomie ou de piratage. C’est précisément ce vide que le nouvel ordre exécutif cherche à cartographier : quels événements doivent être déclarés, à quelle autorité, dans quel délai, et selon quels critères techniques ?
La régulation de l’intelligence artificielle devient ainsi un enjeu de puissance économique. Une obligation de test, de traçabilité ou de notification crée des coûts de conformité, mais elle peut aussi favoriser les entreprises capables d’absorber ces coûts et de démontrer la fiabilité de leurs systèmes. À l’inverse, une norme trop imprécise peut transformer la sécurité en simple affichage contractuel, sans contrôle effectif.
La Californie dispose d’un levier particulier parce qu’elle héberge une part décisive de l’écosystème mondial de l’IA. Ses règles de protection des données, de travail ou de consommation ont déjà influencé les pratiques des plateformes bien au-delà de ses frontières. L’exécutif publie formellement ses actes sur la page consacrée aux décrets du gouverneur de Californie, un canal qui permet de transformer rapidement une orientation politique en instruction administrative.
Pour les entreprises françaises et européennes qui achètent, intègrent ou entraînent des modèles américains, les conséquences ne seront pas abstraites. Des exigences californiennes sur l’audit, la déclaration d’incident ou l’arrêt d’urgence pourraient s’inscrire dans les conditions contractuelles proposées à l’échelle mondiale. La régulation de l’intelligence artificielle californienne ne décidera pas seule du standard international, mais elle réintroduit une contrainte publique dans un secteur où la vitesse de déploiement a longtemps tenu lieu de doctrine.
