Voice cloning bij de uitvoering in het sociaal domein

Stel, een inwoner draagt bij de rechter een geluidsfragment als bewijs aan. Klantmanager Saar was niet eerder op de hoogte van dit geluidsfragment.

hero afbeelding Voice cloning bij de uitvoering in het sociaal domein
21 mei 2024

Saar herkent haar stem. Maar ze herkent niet wat er gezegd wordt. In het geluidsfragment worden toezeggingen gedaan, maar Saar weet zeker dat ze de toezeggingen die ze hoort, niet heeft gedaan. 

Met voice cloning en de mate van gemak waarmee een stem nagemaakt kan worden, is zo’n situatie inmiddels realistisch te noemen. Hoe moet Saar hiermee omgaan? In mijn blog vertel ik u meer over voice cloning, het opnemen van gesprekken en geef ik u handvatten hoe u hiermee in de praktijk kunt omgaan.

Wat is voice cloning?

Met Artificial Intelligence (AI) kan je van alles manipuleren. Iedereen kent videofragmenten van bekende mensen die iets zeggen wat ze nooit gezegd hebben. Super realistisch. Niet alleen videofragmenten, maar ook audiofragmenten kan je manipuleren met AI. Dat heet voice cloning. 

Deepfake audio, audiofake of voice cloning is een AI-technologie waarmee je audiofragmenten met stemmen van mensen realistisch na kunt maken. Een klein stukje stem is voor voice cloning al genoeg. Deze technologie kan je voor allerlei toepassingen gebruiken, bijvoorbeeld voor het herstellen van de stem van mensen die deze hebben verloren door een ziekte. Maar er zijn helaas ook slechte toepassingen mogelijk, zoals voor oplichting of manipulatie van bewijsmateriaal. 

Mag voice cloning?

Voice cloning is toegestaan. Wel zijn er grenzen: als je een stem opneemt en kloont zonder toestemming, kan dat strafbaar zijn. Zeker als het gaat om identiteitsfraude of identiteitsdiefstal. Dat is ernstige schending van de privacy. 

Van stiekem opnemen tot bewijs: hoe zit dat?

Input voor voice cloning kan bijvoorbeeld komen uit een opgenomen gesprek in de spreekkamer van de gemeente of met een toezichthouder. Meestal wordt een gesprek in overleg opgenomen, maar soms ook stiekem. Dat gaat heel simpel, bijvoorbeeld met een telefoon. Terugluisteren kan een geheugensteun zijn of een manier om een discussie te beslechten. Maar er zijn ook slechte intenties: om een ambtenaar in diskrediet te brengen of een toezegging te ontfutselen.

Een inwoner mag een gesprek in beginsel gewoon opnemen, ook stiekem (artikel 139a e.v. Sr.). Een rechter mag een stiekem opgenomen audiofragment in principe ook als bewijs gebruiken. In het bestuursrecht geldt namelijk de vrije bewijsleer: de bestuursrechter is vrij in de bewijsbeslissingen die hij neemt. Bijvoorbeeld welke informatie hij als bewijs accepteert en in hoeverre hij dat bewijs meeweegt in zijn beslissing.

Het stiekem opnemen van gesprekken is niet zonder meer onrechtmatig (ECLI:NL:TGZREIN:2019:51 en ECLI:NL:TGZCTG:2016:39). Uitsluiting van dat bewijs is alleen toegestaan als er sprake is van bijkomende omstandigheden. Zo kan een stiekem opgenomen geluidsopname toch als bewijs gebruikt worden. En dat kan belangrijk bewijs zijn. Zoals in een zaak van de rechtbank Gelderland van 23 juni 2023 (ECLI:NL:RBGEL:2023:3527). Betrokkene deed een beroep op het vertrouwensbeginsel: de toezichthouder zou toezeggingen hebben gedaan. Het bewijs was een audiofragment. Te horen is dat de toezichthouder inderdaad toezeggingen doet. De rechter gebruikte het audiofragment als bewijs en oordeelde dat het college het beroep op het vertrouwensbeginsel moet onderzoeken. Dit kan betekenen dat de toezeggingen nagekomen moeten worden.

Betrouwbaarheid van audiobewijs met het risico van voice cloning

Bedreigt voice cloning deze vrije acceptatie van audiofragmenten als bewijs? Een Excel-bestand is al aangemerkt als een bestand dat bewerkt kan worden en daarmee geen afdoende bewijs vormt (ECLI:NL:RBDHA:2024:395). Is ondertussen de techniek niet al zover, dat dit ook gezegd kan worden over audiofragmenten? Voorlopig is het in ieder geval zo dat de partij die stelt dat een geluidsopname is gemanipuleerd, dit moet motiveren en mogelijk ook bewijzen. Maar kan dat wel en zo ja, hoe? Dit risico moet en kan je als gemeente voor zijn. 

Wat kan je als gemeente aan de risico’s van geluidsopnamen en AI doen? 

Helemaal voorkomen kun je misbruik van geluidsopnames niet. Wat u wel kunt doen, is zorgen voor een open en veilig klimaat over geluidsopnamen. Het stiekem opnemen beperk je daarmee al. 

Bespreek samen met de inwoner van tevoren of het gesprek wordt opgenomen, hoe dat gaat en wie dat doet. Leg ook uit dat het audiofragment gedeeld moet worden. Zodat beide partijen dezelfde, onbewerkte versie hebben. Zo kan er (achteraf) geen discussie over de inhoud bestaan. Dezelfde versie kan het fragment zelf zijn, maar ook een transcriptie of gespreksverslag. AI kan overigens bij het maken van een gespreksverslag een goede en praktische hulp zijn.

Belangrijk voor een open en veilig klimaat is, dat de ambtenaar over het opnemen van gesprekken en AI voldoende up-to-date kennis heeft.

Wat is hiervoor nodig?

Kennis en bewustzijn
Zorg voor kennis en bewustzijn bij alle medewerkers van de gemeente over het opnemen van gesprekken:

  • wanneer mag het wel en wanneer niet;
  • Wat AI-voice cloning is en wat de risico’s hiervan kunnen zijn.

Afspraken maken over het opnemen van gesprekken
Maak afspraken over het opnemen van gesprekken en zet deze op papier. Bijvoorbeeld in een infographic of protocol. Denk aan afspraken over wanneer en hoe je een inwoner informeert en afspraken over het maken en delen van fragmenten en gespreksverslagen. 

Communiceer de afspraken over het opnemen van gespreken
Zorg dat de opgestelde afspraken bekend zijn bij de inwoner én medewerkers van de gemeente. Denk aan intern uitdragen, plaatsen op de website en zichtbaar verspreiden in bijvoorbeeld de wachtruimte en spreekkamers van het gemeentehuis. 

Nationale ombudsman: spelregels geluidsopname

Voor afspraken over geluidsopnames kunnen de spelregels van de Nationale ombudsman (2014) een goede basis zijn. Dit zijn 6 spelregels voor als burgers bij een overheidsinstantie geluidsopnamen willen maken. In 2020 zijn daar in de Handreiking geluidsopnamen 3 tips voor jeugdprofessionals aan toegevoegd. Wat mij betreft zijn deze spelregels en tips in heel het sociaal domein nog altijd goed toepasbaar en relevanter dan ooit.

Nieuwsbrief Sociaal Domein

Binnen 5 minuten op de hoogte van de actuele ontwikkelingen in het sociaal domein? Meld u aan voor onze gratis nieuwsbrief. Met onder andere blogs van experts, interessante whitepapers en toelichting op wet- en regelgeving.