ChatGPT-tekst krijgt in de EU een onzichtbaar watermerk
OpenAI geeft tekst uit ChatGPT en Codex in de EU een verborgen kenmerk, zodat software kan zien dat AI hem schreef. Zo wil OpenAI voldoen aan de transparantieregels van de Europese AI-verordening.
Wat er gebeurde
OpenAI geeft tekst uit ChatGPT en Codex in de Europese Unie een onzichtbaar watermerk. Software kan daaraan zien dat een tekst van OpenAI komt; lezers merken er niets van.
OpenAI kondigde het op 5 oktober aan. Het watermerk komt de komende weken op alle abonnementen, alleen in de EU. Ontwikkelaars die de modellen van OpenAI in hun eigen software gebruiken, kunnen het voor een deel van de modellen aanzetten, waar ook ter wereld, maar standaard staat het daar uit. Het is een antwoord op de AI-verordening: sinds 2 augustus moeten aanbieders van AI wat hun systemen maken zo markeren dat software kan herkennen dat het van AI komt.
Het watermerk, textGrain, zit in de woordkeus. Met een geheime sleutel duwt het model honderden kleine keuzes een bepaalde kant op; samen vormen die een patroon dat een detector met dezelfde sleutel herkent. Omdat het in de woorden zelf zit, gaat het mee als je de tekst kopieert. Volgens OpenAI zegt het niets over wie de gebruiker is en merk je er in de kwaliteit niets van. OpenAI ontwikkelde de methode met onderzoekers van de universiteiten van Pennsylvania en Yale.
Waterdicht is het niet, schrijft OpenAI zelf. Korte stukken, rekenantwoorden en vertaalde tekst zijn lastig te herkennen. Vervang je een op de tien woorden door een synoniem, dan zakt de herkenning in OpenAIs eigen test van ongeveer 92 naar 66 procent. En een ontbrekend watermerk bewijst niet dat een mens de tekst schreef: hij kan te kort zijn, flink bewerkt of van een andere AI komen. De detector is voorlopig alleen beschikbaar voor goedgekeurde onderzoekers en expertorganisaties.
Een watermerk kan laten zien dat een systeem van OpenAI een deel van een tekst maakte of bewerkte, maar niet hoeveel menselijk oordeel, bewerking of creativiteit erin zit.
OpenAI over wat het watermerk wel en niet zegt, via TechCrunch, vertaald
De achtergrond
Hoe een watermerk in tekst werkt
Een taalmodel kiest elk volgend woord uit een lijst van waarschijnlijke opties. Bij een watermerk laat een geheime sleutel het model bepaalde opties net iets vaker kiezen, steeds wanneer meerdere woorden even goed passen. Eén zo’n keuze zegt niets; honderden samen vormen een patroon.
Google deed dit als eerste op grote schaal. Het maakte SynthID-Text in oktober 2024 open source, na een test met zo’n 20 miljoen antwoorden van Gemini waarin gebruikers geen verschil in kwaliteit merkten. De zwakke plekken waren toen al dezelfde: herschreven en vertaalde tekst, en feitelijke vragen met maar één goed antwoord, waar weinig te kiezen valt.
OpenAI hield het eerder tegen
In 2024 meldde The Wall Street Journal dat OpenAI al een watermerk had dat bij genoeg tekst 99,9 procent effectief was, maar het niet invoerde. In een enquête zei bijna 30 procent van de gebruikers ChatGPT dan minder te gaan gebruiken, en OpenAI vreesde dat AI-gebruik door mensen die in een tweede taal schrijven er een stempel door zou krijgen.
Anthropic ging in augustus 2026 verder: alle tekst van Claude krijgt een watermerk, wereldwijd, omdat Anthropic naar eigen zeggen geen betrouwbare manier heeft om het per regio te beperken. Het bouwt op de aanpak van Google. Afbeeldingen van Claude krijgen een ondertekend label met herkomstgegevens.
Wat de wet precies vraagt
Artikel 50 van de AI-verordening geldt sinds 2 augustus 2026. Aanbieders moeten wat hun AI maakt zo markeren dat een machine het herkent. Een chatbot moet zeggen dat hij een AI is. En wie AI-tekst publiceert over zaken van algemeen belang, moet dat melden, tenzij een mens de tekst heeft nagekeken en er de verantwoordelijkheid voor neemt. In juni publiceerde de Commissie een vrijwillige praktijkcode, die aanbieders vraagt markeringen te stapelen, zoals een watermerk en metadata, omdat geen enkele techniek in zijn eentje volstaat.
Onze analyse
Het watermerk helpt bij massa, niet bij het oordeel over één tekst
De cijfers van OpenAI laten zien waar het watermerk goed voor is. Bij een kans van 1 procent op een vals alarm herkende de detector volgens OpenAI 80 procent van de AI-teksten van 200 woorden. Eén procent klinkt weinig, maar op duizend teksten die mensen zelf schreven zijn dat er tien die onterecht verdacht worden. Een goede reden om de detector dicht te houden, zoals OpenAI nu doet. Wie hoopte op een AI-check voor sollicitatiebrieven of scripties, krijgt die dus niet.
Ontwijken is ook makkelijk. Het merk zit standaard alleen op tekst uit ChatGPT en Codex in de EU, niet op tekst van andere modellen, en wie een kwart van de woorden vervangt, laat de herkenning volgens de cijfers van OpenAI zakken tot 17 procent. Het watermerk vangt vooral tekst van mensen die niets willen verbergen. Waar het wel helpt, is massa: duizenden phishingmails of nepreviews uit dezelfde bron laten samen een sterk spoor achter. Ook techexpert Bert Hubert noemde tegenover de NOS fraude als de plek waar het watermerk het meest helpt.
Wat in de berichtgeving ontbreekt: via de API, de aansluiting waarmee software de modellen van OpenAI gebruikt, staat het watermerk standaard uit. Onze lezing: wie met die API een eigen AI-dienst voor klanten bouwt, kan onder de wet zelf aanbieder zijn, en moet dan zelf voor de markering zorgen. Het watermerk van OpenAI regelt dat niet voor je.
Wat opvalt
- Lengte en onderwerp tellen mee Bij teksten van 400 woorden over een onderwerp als psychologie vond de detector volgens OpenAI 95 procent. Bij wiskunde lag dat veel lager, omdat er minder te kiezen valt.
- Het merk stopt bij de EU-grens Buiten de EU krijgt ChatGPT-tekst geen watermerk. Anthropic koos juist voor de hele wereld, omdat het geen betrouwbare manier had om per regio te kiezen.
- Via de API staat het uit Ontwikkelaars kunnen het watermerk voor een deel van de modellen aanzetten, maar standaard staat het uit. Wie zelf een AI-dienst bouwt, moet dus zelf kiezen.
- Het lag twee jaar op de plank OpenAI had in 2024 al een werkend watermerk, maar voerde het niet in, onder meer uit zorg dat gebruikers zouden overstappen. Bijna 30 procent zei ChatGPT dan minder te gebruiken.
Wat het voor jou betekent
AI-tekst wordt herkenbaar, maar een watermerk zegt niet alles over wie een tekst schreef.
- Geen watermerk is geen bewijs Korte, vertaalde of bewerkte tekst is lastig te herkennen, en tekst van een andere AI heeft het merk niet. Behandel een uitslag van een detector dus nooit als bewijs tegen iemand.
- Klanten moeten weten dat ze met AI praten Los van watermerken vraagt de AI-verordening dat mensen weten wanneer ze met een AI-systeem te maken hebben, zoals een chatbot of een AI-telefoniste.
- Soms meld je het zelf Ook zonder watermerk moet je AI-tekst soms zelf als AI melden, zoals een tekst over zaken van algemeen belang die niemand heeft nagekeken.
Wat wij ermee kunnen · Advies
We nemen openheid over AI mee in ons advies
Zoeken we met je uit waar AI jullie werk kan overnemen, dan kijken we ook waar je moet vertellen dat er AI achter zit. Dan weten je klanten waar ze aan toe zijn.
Weten jullie klanten wanneer ze met AI te maken hebben?
Vertel ons waar jullie AI inzetten. We denken met je mee en reageren altijd binnen één werkdag.
