Brief regering; Planning algoritmeregisters JenV - Informatie- en communicatietechnologie (ICT) - Hoofdinhoud

Deze brief is onder nr. 1107 toegevoegd aan dossier 26643 - Informatie- en communicatietechnologie (ICT).

Officiële titel	Informatie- en communicatietechnologie (ICT); Brief regering; Planning algoritmeregisters JenV
Document­datum	19-12-2023
Publicatie­datum	19-12-2023
Nummer	KST266431107
Kenmerk	26643, nr. 1107
Externe link	origineel bericht
Originele document in PDF

Tweede Kamer der Staten-Generaal

Vergaderjaar 2023-

2024

26 643

Informatie- en communicatietechnologie (ICT)

Nr. 1107

BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal Den Haag, 19 december 2023

In de verzamelbrief «Algoritmen reguleren¹» aan uw Kamer van 7 juli 2023 is aangekondigd dat met alle ministeries is afgesproken om eind 2025 het algoritmeregister up-to-date te hebben. Met deze brief informeer ik u over de aanpak die ik bij JenV heb gekozen om ervoor te zorgen dat op dat moment ten minste hoog risico algoritmen geregistreerd zijn in het algoritmeregister, alsmede de bijbehorende planning.

Het Ministerie van Justitie en Veiligheid onderschrijft het belang van transparantie over algoritmen die binnen het JenV domein worden gebruikt. Ik vind het belangrijk dat burgers kunnen begrijpen welke algoritmen voor welke doeleinden worden ingezet en hoe dit op een verantwoorde manier gebeurt. Algoritmen zijn noodzakelijk om JenV-medewerkers te ondersteunen in het uitvoeren van hun werkzaamheden. Mede dankzij algoritmen kunnen zij hun werk sneller en beter doen. Sinds 2022 wordt er bij de uitvoeringsorganisaties van JenV hard gewerkt aan de registratie van algoritmen. De eerste algoritmen zijn inmiddels gepubliceerd.

Huidige vulling door JenV

In 2022 heeft JenV een pilot uitgevoerd waarin een aantal beleids- en uitvoeringsorganisaties hebben samengewerkt aan de ontwikkeling van het algoritmeregister. De eerste algoritmes zijn in april 2023 gepubliceerd.

Op dit moment staan er 12 algoritmen in het algoritmeregister. Het gaat om algoritmen van Justid (2), Centraal Justitieel Incasso Bureau (1), Nederlands Forensisch Instituut (2), Immigratie en Naturalisatie Dienst (1), Politie (1), Raad voor Rechtsbijstand (1), Raad van de Kinderbescherming (1) en het kerndepartement (3). Voor het einde van dit jaar staan er nog 1-2 algoritmen gepland om gepubliceerd te worden. Het gaat daarbij in ieder geval om een algoritme van Dienst Justitiële Inrichtingen.

¹ Kamerstukken II 2022/23, 26 643, nr. 1056, p. 8.

kst-26643-1107 ISSN 0921 - 7371 's-Gravenhage 2023

Aanpak

Om versnelling aan te brengen in de registratie van algoritmen is vanaf maart 2023 een project gestart om alle JenV-onderdelen te stimuleren en ondersteunen in de uitrol van hun algoritmeregisters. Het doel van dit project is om per organisatie ten minste hoog risico algoritmen¹ in kaart te brengen, de documentatie, waar nodig, op orde te brengen en te publiceren in het algoritmeregister. Hierbij wordt gewerkt met een aanpak (zie bijlage) in 5 fasen: agenderen, inventariseren, documenteren, publiceren en inbedden. Inmiddels hebben ruim 30 JenV-organisaties een eigenaar benoemd en ruim driekwart daarvan is gestart met inventariseren van hun algoritmen. Het centrale project onder leiding van de directie Artificiële Intelligentie initieert en faciliteert werkgroepen waarin JenV-organisaties samen toewerken naar publicatie van hoog-risico en impactvolle algoritmen. In deze werkgroepen worden ervaringen gedeeld over de aanpak bij het inventariseren en het bepalen van de hoog-risico algoritmen. Ook wordt hulp geboden bij het opstellen van publicatie-teksten op B1-niveau om de kwaliteit en begrijpelijkheid van registraties voor burgers te verhogen.

In de CIO-raad van JenV zijn afspraken gemaakt over de planning, deadlines en het monitoren van de voortgang van de vulling van het algoritmeregister. Zowel de Chief Information Officers en Chief Data Officers van JenV hebben een belangrijke rol om voortgang in de eigen organisatie te bewaken. Waar knelpunten ontstaan wordt bijgestuurd. Voor de periode na 2025 werken we nu al aan de structurele inbedding van algoritmeregisters bij JenV onderdelen.

Departementsbrede tijdlijn

Ik streef ernaar dat JenV-organisaties onderdelen voor de zomer 2024 hun inventarisatie afgerond hebben. De onderdelen zullen met meerdere publicatiemomenten werken om zo uiterlijk eind 2025 de laatste algoritmen te publiceren.

Aandachtspunten

De JenV onderdelen zetten zich in om de deadline van 2025 te behalen.

Uit eerdere ervaring blijkt dat het een forse inspanning vergt en tijd kost om de inventarisatie én publicatie zorgvuldig te doen om de burger zo goed mogelijk van informatie te kunnen voorzien. Het betreft tientallen organisaties met een veelvoud aan algoritmen. Deze inspanning is niet voorzien van extra financiële middelen.

Er zijn uitzonderlijke gevallen waarbij een registratieplicht van algoritmen kan leiden tot de ondermijning van bijvoorbeeld een opsporingsbelang en er dus niet (volledig) gepubliceerd kan worden. Daarbij wordt er evenwel naar gestreefd zo transparant als mogelijk te communiceren over algoritmen die worden gebruikt. In die uitzonderingsgevallen wordt telkens gekeken welke informatie wél gedeeld kan worden.

Organisatiespecifiek

JenV is, zoals gezegd, een groot departement met verschillende onderdelen: diensten, agentschappen, ZBO's, sui generis, stichtingen en het bestuursdepartement. De insteek is om zoveel mogelijk organisaties te laten aansluiten op het algoritmeregister, in totaal meer dan 50 onderdelen. Er zijn ook onderdelen die nog niet met (hoog-risico) algoritmen werken. Hieronder is, ter illustratie, van vijf grote(re) onderdelen de voortgang op de vulling van het register nader toegelicht:

Dienst Justitiële Inrichtingen (DJI)

DJI is één van de grootste uitvoeringsorganisaties van JenV met als onderdelen Gevangeniswezen, Vreemdelingenbewaring, Justitiële Jeugdinrichtingen en Forensische Zorg. De inventarisatie van (hoog-risico) algoritmen is in volle gang. Bij de inventarisatie legt DJI de nadruk op algoritmen die ter ondersteuning worden gebruikt bij het nemen van beslissingen met impact voor justitiabelen, medewerkers of overige burgers. Inmiddels is het eerste overzicht gemaakt en streeft DJI ernaar in december 2023 haar eerste algoritme te publiceren. DJI heeft tot zeker eind 2025 nodig om al haar (hoog-risico) algoritmen te kunnen publiceren.

Immigratie en Naturalisatie Dienst (IND)

De IND heeft in 2023 haar eerste inventarisatie afgerond. In november heeft de IND het eerste algoritme, Case Matcher: een zoek- en vindfunctie bij asielaanvragen, gepubliceerd. Met de ervaring van deze eerste publicatie wordt gewerkt aan het inrichten van een vast en eenduidig proces om toekomstige publicaties van algoritmen snel en effectief te kunnen realiseren. In 2024 zal de IND meerdere algoritmen, die in gebruik zijn of nieuw in gebruik worden genomen, gaan publiceren.

Politie

Voor politie geldt het uitgangspunt dat zij zo transparant als mogelijk wil zijn in het algoritmeregister. Vanaf de zomer 2023 is een programma ingericht, dat specifiek gericht is op het verantwoorde gebruik van algoritmen. Hieronder valt bijvoorbeeld de toetsing aan (ethische) kaders en richtlijnen. Begin december is het eerste algoritme gepubliceerd in het Algoritmeregister, het CAS (Criminaliteit Anticipatie Systeem). Na publicatie van dit eerste algoritme zal de politie zich inspannen om ook de overige hoog risico algoritmen, zo snel als binnen de eisen van zorgvuldigheid mogelijk is, te publiceren. Naar verwachting duurt dit zeker tot eind 2025².

Justitiële Informatiedienst

Justid is als één van de eerste organisaties gestart met een algoritmeregister, omdat dat bijdraagt aan een meer transparante overheid en het de informatiepositie van burgers versterkt. Justid zorgt voor cruciale informatie en slimme oplossingen in de ketens van Justitie en Veiligheid. In april 2023 zijn twee algoritmen gepubliceerd: «Informeren einde detentie of verlof» en «Inschrijven strafrechtketendatabank». Justid streeft ernaar om begin 2025 alle impactvolle algoritmen gepubliceerd te hebben. Recent heeft Justid, in samenwerking met Open State Foundation, een burgerpanel geraadpleegd om te achterhalen hoe het Justid-algoritmeregister nog beter kan voldoen aan de informatiebehoefte in de samenleving.

Nederlands Forensisch Instituut (NFI)

Het NFI is één van de organisaties binnen JenV die in april de eerste algoritmen heeft gepubliceerd. Het gaat om algoritmen die worden gebruikt voor forensisch onderzoek. De gepubliceerde algoritmen zijn «snelle ID-lijn» voor het analyseren van DNA sporen en «automatische sprekersvergelijking» voor stemmenvergelijkingen. Momenteel werkt het NFI aan een nieuwe inventarisatieronde en de verwachting is dat het NFI in 2024 nieuwe algoritmen zal publiceren.

Vervolgproces

Samen met de JenV onderdelen ga ik aan de slag om meer organisaties aan te sluiten en meer algoritmen te publiceren. Eind 2024 zal ik u informeren over de voortgang.

De Minister van Justitie en Veiligheid,

• D. 

  Yesilgöz-Zegerius

5-FASEN AANPAK PROJECT UITROL ALGORITMEREGISTERS JENV

BIJLAGE

Organisaties worden begeleid met een 5*fasen aanpak. We moedigen aan om te starten met het publiceren van één algoritme en parallel te werken aan het inbedden van verantwoord gebruik van algoritmen in de organisatie.

Benoemen van eigenaar Kennismaken AI team Startsessie algoritmes

Inrichten team

Uitvraag uteetten In de organisatie

Link maken met het verwerkingsreglster

Selectie 2-5 algoritmes

Verzamelen documentatie

Beheer en informatiehuishouding vastgesteld

Start met beschrijving algoritmen

Opstellen publicatieteksten

Goedkeuring en feedbacklijn vaststellen

Inrichten decentraal register

• / 

  Aan de slag voor inventariseren

Eerste lijst van algoritmes opgesteld

Documentatie en beheer op orde

Publicatie eerste algoritme(s)

• / 

  Algoritmereglster staat / Nieuwe hoog-risico    • Algoritmes worden    / Proces voor publicatie in beleidskader /    algoritmes komen in    volgens een helder    ingericht en ingebed In

jaarplan    het register    kader gedocumenteerd    organisatie

Tweede Kamer, vergaderjaar 2023-2024, 26 643, nr. 1107 5

¹

Volgens definities van overheidsbrede Handreiking Algoritmeregister - Digitale Overheid.

²

Voor meer informatie over de voortgang van de politie, zie ook het tweede halfjaarbericht politie van 7 december jl. (Kamerstuk 29 628, nr. 1193.