KPMG trekt rapport in door AI-hallucinaties: de les voor jouw bedrijf

Je zou verwachten dat een groot accountantskantoor als KPMG precies weet hoe het met AI moet omgaan. Toch liep het flink mis. Ze brachten een rapport uit over het gebruik van AI in bedrijven, maar moesten het kort daarna weer intrekken. De reden was ronduit gênant. Het document stond vol met hallucinaties.

Wat ging er mis?

KPMG gebruikte AI om het rapport te schrijven, net zoals steeds meer bedrijven dat doen. Alleen namen ze de output klakkeloos over. De AI verzon feiten en cijfers die er heel professioneel uitzagen, maar compleet uit de lucht gegrepen waren. Voor een bedrijf dat zijn naam heeft gebouwd op betrouwbare cijfers is dat een flinke deuk in het imago.

Het gevaar van valse zekerheid

Het probleem met AI is dat het heel overtuigend klinkt. Een hallucinatie is niet makkelijk te spotten als je niet bekend bent met het onderwerp. Je leest een vloeiende zin met een cijfer en gaat er vanuit dat het klopt. Maar AI is geen zoekmachine, het is een taalmodel dat het meest waarschijnlijke volgende woord voorspelt. Soms is dat woord gewoon onzin. Zodra je stopt met controleren, geef je je geloofwaardigheid uit handen.

Voorkom deze blunder

Dit overkomt niet alleen de grote jongens. Iedereen die AI inzet voor rapportages, artikelen of klantcommunicatie loopt dit risico. AI is allang niet meer alleen een chatbot voor snelle vragen, het is een vast onderdeel van bedrijfsprocessen. Maar de mens moet de regie houden. Leer hoe deze tools werken en waar ze de fout in gaan. Wil je voorkomen dat jij de volgende KPMG bent? Ontdek hoe je AI verantwoord inzet via onze cursussen.

Bron: het oorspronkelijke artikel.