La détection des textes générés par IA ne peut fonder une preuve

La production automatisée de textes n’est plus une question réservée aux laboratoires ou aux départements informatiques. Elle affecte déjà les éditeurs, les universités, les employeurs et les administrations, confrontés à des documents dont l’origine humaine ou synthétique est difficile à établir. Dans ce contexte, la détection des textes générés par intelligence artificielle est devenue un marché : des logiciels attribuent des scores de probabilité, parfois présentés comme des verdicts.

Cette promesse technique ne doit pas être confondue avec une capacité de preuve. Un modèle génératif ne laisse pas nécessairement dans son résultat une signature stable, lisible et infalsifiable. Un texte peut être réécrit, traduit, raccourci ou enrichi par un humain ; inversement, un auteur humain peut employer une syntaxe régulière et un vocabulaire qui ressemblent aux productions statistiques d’un modèle. Dans les deux cas, l’indice stylistique demeure fragile.

L’enjeu est concret : un faux positif peut conduire à sanctionner un étudiant, écarter un manuscrit ou mettre en doute un salarié sans élément matériel suffisant. Le faux négatif, lui, entretient l’illusion qu’un outil permettrait de sécuriser une chaîne de publication. Le pouvoir ne réside donc pas seulement dans la génération de contenus, mais dans la faculté de qualifier un document, puis d’en tirer des conséquences professionnelles, contractuelles ou disciplinaires.

La détection des textes générés n’est pas une expertise

Les détecteurs disponibles analysent généralement des régularités linguistiques : prévisibilité des mots, répétitions, homogénéité du style ou fréquence de certaines structures. Ces critères peuvent signaler une production automatisée, mais ils ne permettent pas d’identifier avec certitude un outil, un modèle ni même une intervention effective de l’IA. Leur résultat dépend du texte soumis, de la langue, de sa longueur et de la version de l’algorithme de détection.

Cette limite appelle une distinction essentielle. Une analyse statistique peut constituer un signal de contrôle ; elle ne peut, seule, justifier une accusation. Pour établir l’origine d’un document, les éléments les plus solides restent externes au texte : historique des versions, brouillons datés, traces de travail, règles de déclaration d’usage, ou encore conservation des instructions adressées à un modèle lorsque l’organisation l’exige.

Autrement dit, la détection des textes générés est moins une solution autonome qu’un élément possible d’une procédure contradictoire. Cette procédure doit préciser qui réalise le contrôle, quels outils sont employés, quelles données sont conservées et quel recours est ouvert à la personne mise en cause. Sans ce cadre, un pourcentage affiché par un logiciel opaque risque de devenir une forme d’autorité sans responsabilité identifiable.

Le choix européen : transparence plutôt que police du style

L’Union européenne a retenu une voie différente de l’authentification généralisée. Le règlement européen sur l’intelligence artificielle, dit AI Act, prévoit des obligations de transparence pour certains contenus générés ou manipulés. L’article 50, dont les dispositions sont appelées à s’appliquer à compter du 2 août 2026, impose notamment que les contenus produits par un système d’IA soient rendus détectables sous une forme lisible par machine lorsque cela est techniquement possible et approprié.

Le texte prévoit aussi, dans certains cas, une information du public lorsqu’un contenu généré ou altéré par IA est diffusé sur une question d’intérêt public. Il ménage toutefois une exception pour les contenus ayant fait l’objet d’un contrôle humain et portant une responsabilité éditoriale. Cette nuance est déterminante : le législateur ne cherche pas à faire de chaque rédacteur le surveillant d’une machine, mais à répartir l’obligation entre fournisseurs de systèmes, diffuseurs et responsables éditoriaux.

Le cadre juridique est consultable dans le règlement européen sur l’intelligence artificielle. Il ne crée pas pour autant un détecteur universel. Le marquage ou le filigrane ne fonctionne que si le fournisseur l’intègre, si la chaîne de diffusion le préserve et si un tiers peut en vérifier l’intégrité. Une simple copie, une reformulation ou un passage par plusieurs outils peuvent en limiter la portée.

De la traçabilité à la responsabilité

Pour les organisations françaises, la réponse ne peut donc pas se réduire à l’achat d’un logiciel. Les établissements d’enseignement doivent définir les usages autorisés et les modes de vérification ; les éditeurs doivent distinguer l’assistance à la rédaction de la production intégrale ; les administrations doivent encadrer les documents qui fondent une décision publique. Dans chaque cas, la règle utile est celle qui permet de reconstituer le processus de production plutôt que de juger un texte sur son apparence.

Cette approche a aussi un coût. Elle suppose des outils de gestion documentaire, de la formation, des garanties de confidentialité et une capacité de recours. Mais elle évite de déléguer à des prestataires privés, souvent opaques, le pouvoir de qualifier l’honnêteté intellectuelle ou professionnelle d’un individu.

À court terme, la détection des textes générés restera imparfaite parce que les modèles progressent et que les usages hybrides deviennent la norme. La question de fond est donc institutionnelle : les producteurs de modèles doivent fournir des mécanismes de traçabilité, tandis que les organisations qui prennent des décisions sur cette base doivent assumer leurs critères et leurs erreurs. C’est à cette condition que la transparence prévue par l’AI Act peut devenir un instrument de responsabilité, plutôt qu’un simple affichage technique.

À lire aussi : Sanctions contre la Russie : l’automne de vérité pour l’Union