Googles Gemini hackt andere bedrijven: AI als hacker met goede bedoelingen

Een van de grootste techbedrijven ter wereld laat zijn AI gewoon rondsnuffelen in de software van andere bedrijven. Google meldde dat zijn model Gemini zelfstandig op zoek gaat naar beveiligingslekken in software van andere partijen, en dat alles wat het vindt netjes bij de makers terechtkomt. Geen aanval, geen datalek, maar een zoektocht die Google zelf aankondigde.

Hoe zit het precies?

Het model krijgt de rol van hacker, maar dan één met goede bedoelingen. Het zoekt zwakke plekken in software van andere bedrijven en geeft de bevindingen door, zodat de makers het gat kunnen dichten voordat iemand er misbruik van maakt. In de beveiligingswereld heet dat verantwoord melden, en dat is een praktijk die al decennia bestaat tussen mensen. Wat nieuw is, is dat een AI dit werk steeds vaker zelfstandig doet.

Waarom dit een grijze zone is

Google is niet de enige. Steeds meer AI-bedrijven laten hun modellen oefenen op elkaars software en presenteren de vondsten graag als bewijs van hoe capabel hun systeem is. Maar er zijn nauwelijks afspraken over waar zo'n model mag zoeken en waar het stopt. Het verschil tussen een lek vinden en er gebruik van maken is dun, en tot er duidelijke regels zijn leunt alles op de goede bedoelingen van een handjevol grote bedrijven.

Wat dit voor jou betekent

Aan de positieve kant: zwakke plekken in de software die jij dagelijks gebruikt, worden sneller gevonden en gedicht. Aan de andere kant geldt dat dezelfde techniek ook mensen met slechte bedoelingen kan helpen. Praktisch gezien is de slimste zet om je leveranciers te vragen hoe zij omgaan met gemelde lekken en of daar een duidelijk beleid voor bestaat. Wil je weten waar jouw organisatie nu staat als het gaat om AI in de praktijk? Begin met de AI Quickscan van DOEN, dan weet je snel waar de kansen en de aandachtspunten liggen.

Bron: het oorspronkelijke artikel.