Loei
Wat de verordening in het kort doet
De wet kijkt niet naar de techniek maar naar het gebruik. Dezelfde soort software mag in het ene geval gewoon en is in het andere geval streng geregeld, en dat hangt af van wat er misgaat als het fout gaat.
| Verboden | Een korte lijst met toepassingen die gewoon niet mogen, zoals mensen scoren op gedrag of emoties uitlezen op de werkvloer. Dit geldt al. |
|---|---|
| Hoog risico | Systemen die meebeslissen over mensen: bij werving, bij krediet, in het onderwijs, in de zorg. Hier hangt een zware set eisen aan. Voor de meeste mkb-bedrijven niet van toepassing. |
| Transparantieplicht | Praat een systeem met een mens of maakt het inhoud, dan moet duidelijk zijn dat er een machine aan het werk is. Dit is de categorie waar een klantenservice-agent onder valt. |
| Minimaal risico | De rest, en dat is verreweg het meeste. Werk sorteren, overtypen, matchen, doorzetten. Geen bijzondere eisen behalve de algemene. |
Wat geldt er nu al voor een gewoon mkb-bedrijf?
Twee dingen, en die zijn allebei al ingegaan.
- De verboden toepassingen. Zit je daar niet aan, en dat doet vrijwel geen mkb-bedrijf, dan is dit een vinkje.
- AI-geletterdheid. Zorgen dat de mensen die met AI werken begrijpen wat het doet en waar het misgaat. Dit is de verplichting die de meeste bedrijven over het hoofd zien, en het is er een waar je iets voor moet doen. Wat dat precies is staat op onze pagina over AI-geletterdheid.
De zwaardere verplichtingen komen gefaseerd en raken vooral aanbieders van hoog-risicosystemen. Voor exacte ingangsdatums verwijzen we naar de officiele publicatie op EUR-Lex en niet naar onszelf: die datums zijn onderwerp van wijziging geweest en een verkeerde datum op deze pagina is erger dan geen datum.
Een verkeerde datum op deze pagina is erger dan geen datum.
Wat je waarschijnlijk niet hoeft te doen
- Geen certificering. Er is geen keurmerk AI-verordening dat je moet halen.
- Geen risicodossier voor elk hulpmiddel. Dat hoort bij hoog risico, niet bij een agent die facturen matcht.
- Geen aparte functionaris. De wet schrijft voor het mkb geen nieuwe rol voor.
Wat wij eraan doen bij een opdracht
Bij elk proces dat we bouwen komt in het plan te staan in welke categorie het valt en waarom, welke Europese leveranciers eronder zitten, en waar de controlestap zit die zorgt dat een mens beslist als het systeem twijfelt. Dat is geen extra product en het staat niet apart op de rekening. Het hoort erbij, en het is ook precies de reden dat we een plan schrijven voordat er gebouwd wordt.
Veelgestelde vragen
- Valt het automatiseren van onze administratie onder hoog risico?
- Vrijwel nooit. Hoog risico gaat over systemen die meebeslissen over mensen. Facturen matchen en orders overzetten doet dat niet. Beslist een systeem wel mee over een persoon, dan is dat een ander gesprek en zeggen we dat in de scan.
- Moeten we melden dat er een machine antwoordt?
- Als een systeem rechtstreeks met een klant praat, moet duidelijk zijn dat het geen mens is. Dat is de transparantiecategorie. Bij werk dat intern blijft speelt dit niet.
- Wij gebruiken alleen bestaande hulpmiddelen. Geldt het dan ook?
- Ja. De wet kijkt naar het inzetten van AI, niet naar wie het gebouwd heeft. Zelf niets gebouwd hebben is geen vrijstelling.
- Wie houdt hier toezicht op in Nederland?
- Het toezicht is verdeeld over meerdere toezichthouders, afhankelijk van de sector waarin een systeem wordt gebruikt. Gaat het over gegevens van personen, dan is de Autoriteit Persoonsgegevens sowieso in beeld.
- Is dit juridisch advies?
- Nee. Wij bouwen automatiseringen en lezen de regels omdat ze ons werk raken. Voor een oordeel over jouw specifieke situatie heb je een jurist nodig.