OpenAI intègre un filigrane invisible dans le texte produit par l’intelligence artificielle.

OpenAI implémente une marque invisible dans le contenu produit par ChatGPT et Codex afin de rendre les machines identifiables par l’intelligence artificielle. Cette modification, annoncée lundi, sera obligatoire dans l’Union européenne et actuellement facultative pour les clients de l’API dans le reste du monde.

Les modèles de langage de grande envergure opèrent en produisant du texte mot par mot, en déterminant le mot suivant en fonction de ceux qui l’ont précédé. Le nouveau système de tatouage textuel textGrain d’OpenAI modifie cette approche en altérant la manière dont les modèles d’intelligence artificielle sélectionnent les mots, en les considérant comme des valeurs antérieures de texte et de pseudorandom déterminées par une clé secrète.

Cela crée une empreinte statistique dans le texte produit, ce qui permet aux systèmes de détection d’intelligence artificielle de reconnaître ces valeurs pseudo-aléatoires et de déterminer si le texte en dépend. Si tel est le cas, le texte est identifié comme ayant été généré par une IA.

Réécriture : Le logo d’OpenAI sera intégré à ChatGPT et Codex dans l’Union européenne dans les semaines à venir. Il sera également accessible aux clients de l’API à l’échelle mondiale sur certains modèles, mais ils devront l’activer car il n’est pas activé par défaut.

Cependant, l’outil de détection de filigrane d’OpenAI ne sera accessible qu’aux chercheurs et aux experts qui en font la demande. OpenAI a expliqué que cette restriction est en partie due aux limitations de son outil de filigrane, notamment en ce qui concerne les passages plus courts. Lors des tests, l’outil n’a réussi à détecter des filigranes que dans 80 % des passages générés par l’IA de 200 mots, avec des taux de détection encore plus bas pour les textes portant sur des sujets techniques comme les mathématiques.

La production de texte par l’intelligence artificielle peut aussi grandement diminuer l’efficacité de l’outil de détection d’OpenAI. Selon l’entreprise, en changeant seulement 10 % des mots dans un passage de 400 mots, la détection est passée de 66 %, puis en remplaçant 25 % des mots, elle est descendue à 17 %.

Selon l’annonce d’OpenAI, le repérage et la détection de l’eau restent des technologies au stade précoce, présentant des limites importantes, et les perspectives concernant leurs avantages et leurs applications responsables évoluent.

OpenAI a également noté que les filigranes ne peuvent pas prouver la propriété du contenu généré, garantir son exactitude ou identifier son créateur. L’absence de filigrane ne constitue pas non plus une preuve que le contenu a été créé par des humains.

Nouveaux filigranes d’OpenAI ont été introduits pour se conformer à la Loi sur l’intelligence artificielle de l’Union européenne. Adoptée en 2024, cette réglementation a pour objectif de préserver les droits fondamentaux, la démocratie, l’état de droit et la durabilité environnementale dans le domaine de l’IA à haut risque. La mise en œuvre progressive de la loi de l’UE sur l’IA a débuté en 2025, la plupart de ses dispositions étant désormais en vigueur depuis le 2 août de cette année.

• OpenAI révèle une autre faille de sécurité du gouvernement australien.
• OpenAI Dots a développé ses propres petites mascottes robotiques pour rivaliser avec Meta Muse.
• Les principales annonces du OpenAI DevDay incluent Dots, GPT-6.1 Sol et Ultrafast.
• OpenAI dévoile Dots, un nouvel agent d’intelligence artificielle en permanence disponible, lors du Dev Day 2026.
• Un agent d’OpenAI a réussi à infiltrer le gouvernement australien.

Cela inclut l’article 50(2) qui stipule que les fournisseurs de technologies d’intelligence artificielle doivent garantir que les résultats produits par le système d’IA soient clairement identifiés dans un format lisible par les machines et reconnaissables comme étant générés ou modifiés artificiellement. Les fournisseurs tels qu’OpenAI, qui ont lancé leurs modèles d’IA avant le 2 août, ont jusqu’au 2 décembre pour se conformer à l’article 50(2) sous peine d’une amende pouvant atteindre 3 % de leur chiffre d’affaires annuel mondial.

La semaine dernière, Reuters a rapporté qu’OpenAI a des revenus récurrents annuels d’environ 70 milliards de dollars, mais a noté que ces chiffres peuvent être trompeurs. En cas de violation de l’article 50(2), une amende de plus de 2 milliards de dollars pourrait être imposée.

Plus tôt en 2021, Anthropic a également révélé que son chatbot AI Claude créerait du contenu en respectant les réglementations de l’Union européenne. Contrairement à OpenAI, les fonctionnalités d’Anthropic sont accessibles à tous les utilisateurs à travers le monde, et non seulement à ceux de l’UE.

Déclaration : En avril 2025, Ziff Davis, la société propriétaire de Mashable, a intenté une action en justice contre OpenAI, affirmant que cette dernière avait violé les droits de Ziff Davis en matière de développement et d’utilisation de ses systèmes d’intelligence artificielle.

Sujets abordés : Intelligence artificielle, ChatGPT, OpenAI

Amanda Yeo, éditrice adjointe chez Mashable, se spécialise dans la couverture des domaines du divertissement, de la culture, de la technologie, de la science et du bien-être social. Résidant en Australie, elle rédige des articles allant des jeux vidéo et de la K-pop aux films et aux gadgets.