Anthropic zet watermerken in Claude: stiekem AI-gebruik wordt zichtbaar

Stiekem AI gebruiken op het werk kan binnenkort echt niet meer. Anthropic, de maker van Claude, bouwt watermerken in de tekst die de AI produceert. Daarmee wordt zichtbaar of een tekst door Claude is gemaakt, ook als iemand de tekst nog heeft aangepast. Gebruikers die Claude stiekem gebruiken op hun werk of in de klas, zijn woedend.

Hoe zo'n watermerk werkt

Een watermerk in AI-tekst is een onzichtbaar patroon in de woordkeuze en zinsopbouw. Het is niet iets wat je ziet als je de tekst leest, maar speciale software kan het eruit halen. Het idee is dat elke AI-tekst een soort vingerafdruk heeft die teruggaat naar het programma dat hem heeft gemaakt.

De boosheid van gebruikers gaat eigenlijk niet over de techniek zelf. Het gaat over het gevoel dat een vertrouwd hulpmiddel ineens een controlemechanisme inbouwt. Mensen gebruiken Claude als persoonlijke schrijfhulp, iets tussen hen en hun scherm. Dat de maker nu meekijkt, voelt als verraad.

Transparantie of controle?

Anthropic wil waarschijnlijk misleiding en nepnieuws tegengaan met die watermerken. Dat is een legitieme keuze, want AI-tekst wordt steeds moeilijker van menselijke tekst te onderscheiden. Maar de vraag is wie er straks toegang krijgt tot die detectie. Mag je werkgever zomaar controleren of jouw tekst door AI is geschreven? En wat als je AI gebruikt als hulpmiddel, niet als vervanger?

Dit past in een bredere trend. Steeds meer AI-bedrijven bouwen manieren om hun eigen output herkenbaar te maken. Dat klinkt tegenstrijdig, je maakt immers iets en dan bouw je ook een manier om het te detecteren. Maar het is onderdeel van een beweging naar meer transparantie in AI-gebruik.

De dagen dat AI-gebruik onzichtbaar was, raken voorbij. Beter zelf bepalen hoe en wanneer je AI inzet, dan wachten tot een watermerk het voor je bepaalt. Wil je weten hoe je AI goed inzet in je werk zonder verrassingen? Kijk naar onze cursussen of doe de AI Quickscan om te zien waar je staat.

Bron: het oorspronkelijke artikel.