Florida wil verbieden dat chatbots zich voordoen als een echt persoon

In Florida ligt er een wetvoorstel dat chatbots verbiedt zich voor te doen als een echt persoon. Het richt zich op ChatGPT en vergelijkbare bots die menselijke eigenschappen in de ik-vorm gebruiken, met extra aandacht voor kinderen. Klinkt als een Amerikaans detail, maar het raakt iets wat steeds meer bedrijven doen: een AI-assistent met een naam en een menselijke toon inzetten.

Wat het voorstel precies wil

Het gaat om de ik-vorm: een bot die praat alsof hij een persoon is, met een naam, een eigen mening en een vleugje empathie. Dat voelt vertrouwd voor de gebruiker, en juist dat vertrouwde gevoel is waar het voorstel op stuurt. Vooral als kinderen betrokken zijn moet er een harde grens komen: een bot is geen mens en mag zich daar niet voor uitgeven.

Waarom chatbots zich menselijk voordoen

Die menselijke presentatie is geen toeval maar ontwerp. Een bot die zich als gesprekspartner voelt, krijgt langere gesprekken en meer vertrouwen, en daar maken bedrijven bewust gebruik van bij klantenservice, verkoop en ondersteuning. Tegelijk laat dit voorstel zien dat de grens tussen gezellig en misleidend dunner is geworden dan veel mensen beseffen. Wie denkt met een mens te praten en hoort achteraf dat het AI was, trekt zijn hand snel terug.

Wat dit betekent voor jouw chatbot

Ook zonder Amerikaanse wet wordt transparantie de norm. Geef je chatbot gerust een naam en een eigen toon, maar verberg niet dat het AI is. Eén zinnetje aan het begin van het gesprek voorkomt verwarring, klachten en toekomstige regels die strenger zijn dan je lief is. AI is allang niet meer alleen een chatbot, dus dit soort vragen bereiken uiteindelijk elk bedrijf dat ermee werkt.

Wil je weten waar in jouw organisatie AI al een rol speelt en waar de valkuilen zitten? Met de AI Quickscan van DOEN krijg je snel een eerlijk beeld van jouw startpunt. Of duik er dieper in met onze cursussen.

Bron: het oorspronkelijke artikel.