Microsoft Copilot had een hackbare achterdeur, en verklapte het zelf

Microsofts AI-assistent Copilot had een verborgen zwakte die het systeem hackbaar maakte. En het meest opvallende: Copilot verklapte zelf hoe die zwakte werkte. Microsoft moest dit bekendmaken, en het roept vragen op over hoe veilig AI-assistenten echt zijn als ze verweven zijn met je werk.

Wat er gebeurde

Achter de normale chatfunctie van Copilot zat een geheime invoer die aanvallers konden gebruiken om de beveiliging te omzeilen. Daarmee konden ze het systeem manipuleren. Het is niet duidelijk hoe lang dit lek open heeft gestaan voordat het werd ontdekt en gedicht.

Wat dit bijzonder maakt, is dat Copilot geen losse chatbot is. De assistent is verweven met je e-mail, je documenten en je bedrijfsnetwerk in Microsoft 365. Een lek hierin raakt dus niet een speeltje, maar je echte werkdata. Dat maakt de impact van een dergelijk lek direct voelbaar voor iedereen die Copilot op het werk gebruikt.

Waarom AI lastig te beveiligen is

Taalmodellen zijn onvoorspelbaar in wat ze naar buiten brengen. Soms geven ze informatie prijs die ze zouden moeten verbergen, en dat is precies wat hier gebeurde. Traditionele beveiligingsmethoden zijn niet gebouwd voor systemen die zelf kunnen praten en zelf informatie kunnen delen.

Dit past in een breder patroon. AI-assistenten met toegang tot gevoelige data blijven een aantrekkelijk doelwit voor aanvallers. Microsoft heeft dit lek gedicht, maar de volgende verborgen invoer ligt misschien al ergens klaar. De vraag is niet óf er nieuwe zwaktes worden gevonden, maar wanneer.

Wat je er zelf mee kunt

Als je AI-tools gebruikt op het werk, en dat doe je waarschijnlijk, bedenk dan dat deze systemen nog vol onbekende zwaktes zitten. Behandel ze als een nieuwe collega die nog niet alles mag weten. Wees terughoudend met wat je deelt in prompts, en ga er niet van uit dat de aanbieder alles heeft gedicht.

Wil je leren hoe je AI verstandig inzet op je werkplek, zonder de risico's uit het oog te verliezen? Kijk dan naar onze cursussen of doe de AI Quickscan om te zien waar je staat.

Bron: het oorspronkelijke artikel.