wat doet de boer/nl
Impactvolle algoritmesIn gebruik· LARS 29141379

Anonimiseringssoftware

Provincie Zeeland
/ Doel
De anonimiseringssoftware wordt ingezet om documenten die de Provincie Zeeland publiceert sneller en beter te anonimiseren. Zo voorkomen we datalekken en dragen we bij aan een betere bescherming van de AVG-rechten van betrokkenen.
/ Methoden & modellen

Documenten worden door een medewerker geüpload naar de applicatie. Op dat moment wordt een (tijdelijk) kopie gemaakt van het origineel in de vorm van een PDF met tekstlaag en wordt de metadata van het oorspronkelijke document uit de kopie verwijderd. Deze kopie komt op een Nederlandse server terecht en blijft daar maximaal 30 dagen staan. De tekstlaag van de PDF wordt door een API aangeboden aan het machine learning algoritme. Het gaat om een Natural Language Processing algoritme (named entity recognition) van Microsoft Azure. De API levert terug op welke locatie in de geanalyseerde teksten waarschijnlijk een persoonsgegeven voorkomt, samen met de waarschijnlijkheidsscore (een percentage). Op dat moment wordt de tekstlaag bij Azure direct verwijderd. De waarschijnlijkheidsscore wordt samen met door de leverancier ontwikkelde eigen ai-modellen gebruikt om de herkenning van persoonsgegevens zo accuraat mogelijk te kunnen doen. De modellen worden getraind met getrainde datasets. Tot slot controleert een medewerker het document en wanneer deze het document afrondt, worden de te anonimiseren gegevens definitief uit de tekstlaag verwijderd en wordt gelakt.

/ Wettelijke grondslag

1. WOO 2. WDO 3. UAVG 4. WEP 5. WDO

/ Menselijk toezicht

De uitkomst van het algoritme wordt gecontroleerd door een medewerker. De medewerker wordt door de software verplicht om alle pagina's te controleren. De medewerker bepaalt of het document correct is geanonimiseerd.

/ Risico's

Er bestaat geen risico op geautomatiseerde besluitvorming en het algoritme heeft geen impact op grondrechten, omdat het algoritme geen besluiten neemt met rechtsgevolgen. Het doet alleen een voorstel voor het anonimiseren van persoonsgegevens. Wanneer het algoritme niet goed genoeg werkt, kunnen we met black- en whitelists bijsturen. De medewerker van Provincie Zeeland doet altijd de laatste toets of een document juist is geanonimiseerd.

Proportionaliteit

De Provincie Zeeland moet steeds vaker informatie openbaar maken. Daarom moet privacy- of bedrijfsgevoelige informatie worden weggelakt. Het voordeel van de anonimiseringssoftware is dat er sneller en beter geanonimiseerd wordt dan bij een handmatige aanpak.

/ Brondata

Alle informatie die te vinden is in de geuploade documenten (behalve de metadata), wordt verwerkt door het algoritme. Het kan daarbij gaan om gewone persoonsgegevens, bijzondere persoonsgegevens en strafrechtelijke gegevens. Het kan ook gaan om bedrijfsgevoelige informatie.

/ Metagegevens
Start
augustus 2022
Leverancier
XXLLNC Anonimiseren
Register-standaard
v1.0