Meta's AI-assistent Muse heeft een 0-day: wat dit leert over AI-rechten

De AI-assistent met de meeste rechten is ook de aantrekkelijkste ingang voor aanvallers. Deze week bleek dat letterlijk: Muse, de AI-assistent van Meta, heeft een ernstig beveiligingslek. Een 0-day zelfs, een gat waar op het moment van schrijven nog geen reparatie voor bestaat. En Muse is geen willekeurige app, het is een assistent die bewust met buitengewoon veel rechten is gebouwd.

Waarom dit lek anders voelt

Lekken in software bestaan altijd wel, dus wat maakt dit bericht anders? De plek. Muse is geen chatbot die alleen antwoorden geeft. De assistent mag dingen uitvoeren: diep in systemen en apps, met toegang tot wat daar ligt. Dat maakt hem krachtig om mee te werken. Maar het maakt hem ook tot het interessantste doelwit in huis: wie het gat vindt, staat niet bij de voordeur, maar zit al binnen.

Zo'n 0-day werkt simpel: het gat bestaat, de oplossing volgt later. Tot Meta een update uitbrengt, kan iedereen die het gat vindt er iets mee. Bij een onschuldige app is dat een klein probleem. Bij een assistent die overal bij mag, is elke route naar die assistent ook een route naar alles wat die assistent mag. Eén gat, veel deuren.

De keerzijde van steeds slimmere assistenten

Je kunt dit bericht los zien van je eigen werk, maar de trend erachter niet. AI-assistenten krijgen overal meer toegang: tot je mail, je agenda, je documenten, soms je klantgegevens. Elke nieuwe toestemming maakt ze nuttiger. En elke toestemming maakt de schade groter voor het moment dat er iets misgaat. Beveiliging van AI is daarmee geen verhaal voor de IT-afdeling alleen. Het is een vraag over wie en wat jij toegang geeft tot je werk.

Wat je hier zelf mee doet

Je hoeft geen systeembeheerder te zijn om hier iets mee te doen. Behandel elke AI-koppeling als een nieuwe medewerker op je kantoor: geef minimale rechten, check periodiek wat er verbonden is en vraag jezelf af wat er gebeurt als die toegang ooit lekt. Ik doe deze check zelf elk kwartaal en er valt steevast wel iets af te schakelen. Precies dit soort keuzes, welke AI je waarvoor inzet en wat je die AI toestaat, leer je bij onze cursussen. Wil je eerst weten waar je bedrijf staat? Begin met de AI Quickscan.

Bron: het oorspronkelijke artikel.