Wandelaars gered na route van Google Gemini: de les over AI en plannen

Een groep wandelaars liet Google Gemini een tocht plannen en eindigde niet bij een mooi uitzichtpunt maar bij de reddingsdienst. Het klinkt als een curiositeit uit het nieuws, maar het is misschien wel de helderste les over AI van deze week. Want wat die wandelaars overkwam, overkomt anderen nu ook, alleen dan achter een bureau.

Waarom een taalmodel niet kan kaartlezen

Een taalmodel als Gemini voorspelt welk antwoord het meest logisch klinkt. Het bladert niet door wandelgidsen, checkt geen actuele kaarten en voelt niet aan hoe een pad er in het echt bij ligt. Een route kan daardoor vloeiend en overtuigend overkomen, en in de praktijk nergens op slaan.

Het verraderlijke is dat je daar niks aan merkt. Een taalmodel aarzelt niet, waarschuwt niet en formuleert een fout even soepel als een feit. Bij een snelle mail of een brainstorm merk je daar weinig van, en zo groeit je vertrouwen. Tot je het inschakelt op een moment waarop het echt moet kloppen.

Waar dit jou raakt

Wandelroutes zijn maar één toepassing. Denk aan een offerte met verkeerde bedragen, een planning rond een adres dat niet bestaat, of een passage in een contract die klinkt alsof een jurist hem schreef. Overal geldt hetzelfde mechanisme: overtuigende taal zonder controle op de werkelijkheid. De vraag is dus niet óf je AI gebruikt, maar voor welke beslissingen je het inzet.

Zo gebruik je AI zonder risico

Gebruik AI gerust voor je eerste versie, maar behandel elk hard feit als een voorstel. Check routes, bedragen, regels en namen zelf na, en vraag het model rechtstreeks waar het niet zeker van is. Zit er veiligheid, geld of je reputatie aan vast, pak er dan een tweede bron bij.

Wil je leren hoe je AI inzet zonder dit soort verrassingen? Kijk dan naar onze cursussen of doe de AI Quickscan om te zien waar het in jouw team mis kan lopen.

Bron: het oorspronkelijke artikel.