Waarom je bij vibe coding altijd je AI-output moet controleren

Steeds meer mensen laten AI hun software schrijven. Je typt een wens in een chatbot, kopieert de code en hoopt dat het werkt. Dat heet tegenwoordig vibe coding. Het voelt alsof je superkrachten hebt, maar een recente actie van een gefrustreerde developer laat zien dat er een flink risico aan kleeft.

Een verborgen val in open source code

De developer in kwestie had er genoeg van dat mensen klakkeloos AI-code gebruikten zonder te snappen wat ze deden. Daarom verstopte hij een zogeheten prompt injection in zijn openbare code. Dat is een verborgen instructie die niet bedoeld is voor de mens, maar voor de AI. Zodra een AI-tool de code leest, ziet het die instructie en voert het een opdracht uit om je data te wissen. Een menselijke programmeur leest gewoon over die regel heen, maar de AI trapte erin.

De risico's van blind vertrouwen

Dit is niet zomaar een practical joke. Het laat een gigantisch zwakke plek zien in hoe we AI gebruiken. Als je niet precies weet welke code je draait, geef je de controle uit handen. Dat geldt voor software, maar eigenlijk voor alles wat je met AI genereert. Zonder controle neem je ook de fouten, de veiligheidslekken en de verborgen valkuilen van een ander mee. Je verantwoordelijkheid verdwijnt niet omdat een AI het werk heeft gedaan.

AI is allang niet meer alleen een chatbot die je helpt met een mailtje. Het bouwt je software, schrijft je contracten en vormt je bedrijfsstrategie. Begrijp je niet wat er onder de motorkap gebeurt? Dan ben je kwetsbaar. Wil je leren hoe je AI wel veilig en effectief inzet voor jouw werk? Kijk dan eens naar onze cursussen of doe de AI Quickscan om te ontdekken waar je staat.

Bron: het oorspronkelijke artikel.