Hoor je van collega’s die een casus in een Claude of Chat GPT plakken om een verklarende analyse te laten genereren? Onder invloed van tijdsdruk en een grote caseload is het een verlokkelijk idee. En veel mensen gebruiken inmiddels Claude, Gemini of Chat GPT voor van alles in hun dagelijks leven. Maar in het werk moet je er zeer voorzichtig mee omgaan. Het probleem is dat de meeste AI aanbieders opslaan wat je invoert. En daarmee wordt de privacy geschonden. (https://www.autoriteitpersoonsgegevens.nl/actueel/let-op-gebruik-ai-chatbot-kan-leiden-tot-datalekken). Degene die het doet is dus in overtreding, maar hij trekt ook anderen erin mee.
Het raakt collega’s
Een verslag of overdracht gaat verder: naar de gedragswetenschapper, de jeugdbeschermer, soms de rechter. Wie het leest, weet niet dat er een chatbot aan te pas kwam. En kan niet zien wat van AI komt, of er sprake is van hallucinaties (door AI verzonnen informatie) omdat het plausibel oogt. Zo krijgt een verzonnen verband de kans oom verder te reizen. De collega hoort normaal gesproken, als deze weet dat AI gebruikt is, de beweringen uit de analyse of de rapportage opnieuw te toetsen aan eigen waarnemingen. Als zij er niet van op de hoogte is gesteld blijft zij dus onbedoeld in gebreke.
Het raakt ook de organisatie
Onder de AVG is de organisatie verantwoordelijk voor de gegevens: zij moet een datalek melden en zij kan de boete krijgen. Een werkgever is aansprakelijk voor fouten van medewerkers. En de Europese AI-verordening verplicht organisaties die AI gebruiken sinds februari 2025 om te zorgen dat hun medewerkers er voldoende verstand van hebben (art. 4). Dat heet AI geletterdheid. Fout gebruik van AI door medewerkers die zich niet bewust zijn van de risico’s en de regelgeving kan wijzen op onvoldoende inspanningen van het management om AI-geletterdheid onder de medewerkers te realiseren.
In augustus 2024 al waarschuwde de Autoriteit Persoonsgegevens na meldingen van datalekken. Een medewerker van een huisartsenpraktijk had medische gegevens van patiënten in een AI-chatbot ingevoerd, tegen de afspraken in. Gaat het toch mis, en lekt een medewerker persoonsgegevens door tegen de gemaakte afspraken in een chatbot te gebruiken? Dan is een melding aan de AP en aan de slachtoffers in veel gevallen verplicht.
De vraag is dus niet óf AI in ons vak komt. De vraag is onder welke voorwaarden het ons redeneren mag ondersteunen, en hoe dat kan onder verantwoorde condities.