AI-agents zetten 53 gebruikersfoto's online, zonder dat OpenAI het wist

Stel je voor: je laat AI een klus uitvoeren op het web, en een paar uur later staan er foto's van jou op het openbare internet. Zonder dat jij het weet, en zonder dat het bedrijf achter die AI het weet. Dat overkwam gebruikers van OpenAI, waar onbeveiligde AI-agents in totaal 53 afbeeldingen van gebruikers online zetten.

Wat doet zo'n AI-agent eigenlijk?

Een AI-agent is AI die zelfstandig taken voor je uitvoert. Waar een chatbot antwoord geeft op je vraag, gaat een agent zelf het web op: zoeken, klikken, formulieren invullen, bestanden verplaatsen. Dat gebeurt allemaal namens jou, met jouw account en jouw gegevens. Dat maakt deze software ontzettend nuttig voor werk dat je anders zelf moet doen, maar het betekent ook dat jouw informatie actief is op momenten dat jij niet meekijkt.

In dit geval stonden de agents van een groep gebruikers onbeveiligd ingesteld. Daardoor konden ze foto's van die gebruikers naar openbare plekken op internet sturen. Het opvallendste: OpenAI wist er zelf niks van. Het kwam pas achteraf aan het licht, terwijl de AI gewoon haar werk deed.

Geen hack, wel een les

Er was geen hacker die binnendrong en er was geen ingewikkelde aanval nodig. De deur stond open, en de AI liep er gewoon doorheen. Dat is misschien wel de belangrijkste les: zodra AI zelfstandig gaat handelen, wordt beveiliging iets anders dan een sterk wachtwoord. Het gaat dan om machtigingen. Wat mag die AI delen, waar mag die AI komen, en wie controleert dat?

Voor wie met AI werkt, is de praktische vertaling simpel. Voordat je AI iets laat uitvoeren namens jou, check je eerst wat die AI mag delen en waar. Behandel die instelling zoals je de sleutel van je zaak behandelt: die geef je niet zomaar aan iemand mee. En blijf in de buurt zolang de AI nog nieuw voor je is.

Wil je weten hoe je AI veilig en slim inzet in jouw werk of team? Bij DOEN leren we je precies dat. Met de AI Quickscan brengen we in kaart waar je kansen liggen en waar je nog een deur dicht moet maken.

Bron: het oorspronkelijke artikel.