Zelfs Anthropic kan zijn AI-agenten niet betrouwbaar sturen, en dat zegt genoeg

Als het bedrijf achter Claude iets zegt over de beperkingen van zijn eigen AI, luister je. Anthropic heeft deze week bekendgemaakt dat het zijn AI-agenten niet betrouwbaar kan controleren. De consequentie is opvallend concreet: de interne testomgeving wordt losgekoppeld van het internet. De maker van de agenten vertrouwt ze dus zelf niet genoeg om ze tijdens tests online te laten rondlopen.

Wat is er precies aan de hand

Een AI-agent is software die niet alleen antwoord geeft op vragen, maar ook zelfstandig handelt. Mailtjes versturen, afspraken inplannen, online informatie opzoeken: het zijn de taken waar agenten steeds vaker voor worden ingezet. Anthropic test zulke agenten intern, en die tests hadden tot nu toe toegang tot het echte internet. Omdat betrouwbaar sturen niet lukt, is die toegang nu weg.

Wat het verhaal zo opvallend maakt, is de openheid. De meeste AI-bedrijven vertellen je juist hoe veilig en beheersbaar hun systemen zijn. Anthropic zegt nu ronduit het omgekeerde en neemt een defensieve maatregel. In een sector die liever over mogelijkheden praat dan over grenzen is dat zeldzaam eerlijk.

Waarom dit verder reikt dan één bedrijf

Agenten krijgen overal meer vrijheid. Ze moeten kunnen betalen, in je berichten kunnen zitten en je agenda kunnen beheren, zo luiden de plannen die nu overal voorbijkomen. Maar hoe meer een agent mag, hoe meer er mis kan gaan als de sturing hapert. De vrijheid van agenten groeit op dit moment sneller dan de controle erop, en dat is precies het gat waar Anthropic nu voor uitkomt.

Wat jij ermee kunt

De vuistregel voor je eigen werk is simpel: geef een agent nooit meer toegang dan strikt nodig is. Aparte accounts voor je agent, beperkte rechten op mail en bestanden, en altijd een mens die het eindresultaat nakijkt voordat het de deur uit gaat. Anthropic kiest voor isolatie, en dat kun jij op kleine schaal ook doen.

Wil je leren hoe je AI-agenten veilig en verstandig inzet in je team of bedrijf? Kijk eens naar onze cursussen of start met de AI Quickscan.

Bron: het oorspronkelijke artikel.