Loei
Wat er precies van je gevraagd wordt
De verplichting is kort en staat bewust niet vol met voorschriften. Dat maakt hem lastig, want er is geen lijstje om af te vinken. Dit is wat er staat, in gewone taal.
| Voor wie | Iedere organisatie die AI-systemen inzet of aanbiedt. Ook als je het niet zelf hebt gebouwd en gewoon een bestaand hulpmiddel gebruikt. |
|---|---|
| Wat | Zorgen voor een voldoende niveau van kennis over AI bij de mensen die er namens jou mee werken. Passend bij hun rol, hun kennis en waar het systeem voor wordt gebruikt. |
| Hoe | Niet voorgeschreven. Een cursus mag, een werkinstructie mag, een uur uitleg met een verslagje erbij mag ook. De maatstaf is of het past bij het risico. |
| Bewijs | Er is geen register en geen certificaat. Wat telt is dat je kunt tonen wat je hebt gedaan, voor wie, en wanneer. |
Wil je eerst weten wat de AI-verordening als geheel inhoudt en of hij op jouw bedrijf slaat, begin dan bij onze uitleg over de AI-verordening. De wettekst zelf staat op EUR-Lex, en artikel 4 telt maar een paar zinnen.
Geldt dit ook voor mijn bedrijf van twintig man?
Waarschijnlijk wel. De verplichting hangt niet aan je omvang maar aan het gebruik. Laat je medewerkers een chatprogramma klantmails samenvatten, offertes opstellen of teksten nakijken, dan zet je AI in en geldt het. Er staat geen ondergrens in de wet waaronder je eronderuit komt.
Wat wel meeschaalt is wat er van je verwacht wordt. Bij een bedrijf waar twee mensen af en toe een tekst laten nakijken, is dat iets heel anders dan bij een bedrijf waar een systeem meebeslist over wie een offerte krijgt. Hoe groter de gevolgen voor een mens, hoe meer er van de kennis van je personeel wordt verwacht.
Wat je deze week kunt regelen
Dit is geen juridisch advies en het vervangt geen jurist. Het is wel wat wij bij klanten zien werken, en het is in een middag te doen.
- Schrijf op waar AI nu al gebruikt wordt. Vraag het rond in plaats van het te bedenken. In vrijwel elk bedrijf blijkt iemand al iets te gebruiken dat niemand heeft aangemeld.
- Zet per gebruik neer wat er misgaat als het fout is. Een verkeerd samengevatte mail is vervelend. Een verkeerd berekende offerte kost geld. Een verkeerde beslissing over een persoon is een heel ander gesprek.
- Geef de mensen die het gebruiken één uur uitleg. Wat het systeem wel en niet kan, dat het dingen overtuigend kan verzinnen, welke gegevens er niet in mogen, en bij wie ze terechtkunnen als ze twijfelen.
- Leg vast dat je het gedaan hebt. Datum, wie erbij was, wat er besproken is. Eén A4 is genoeg. Dit is het stuk waar iedereen op afhaakt en het is het enige stuk dat later bewijs is.
- Zet er een moment op in de agenda. Twee keer per jaar opnieuw langs, en bij elk nieuw systeem dat erbij komt. Kennis van een jaar oud is bij dit onderwerp oud.
Niemand hoeft te weten hoe een model werkt. Ze moeten weten wanneer ze het niet moeten vertrouwen.
Wat het niet is
- Geen diploma. Er bestaat geen officieel certificaat AI-geletterdheid. Partijen die er een verkopen, verkopen hun eigen papiertje.
- Geen eenmalige cursus. Het is een toestand die je onderhoudt, niet een vinkje dat je haalt.
- Geen technische opleiding. Niemand hoeft te weten hoe een model werkt. Ze moeten weten wanneer ze het niet moeten vertrouwen.
Veelgestelde vragen
- Moet ik hiervoor een cursus inkopen?
- Nee. De wet schrijft geen vorm voor. Voor de meeste mkb-bedrijven is een uur uitleg met een verslag erbij passender dan een cursus, omdat het dichter bij het eigen werk staat.
- Wij gebruiken alleen een chatprogramma. Telt dat ook?
- Ja. De verplichting kijkt naar het inzetten van AI, niet naar wie het gebouwd heeft. Een bestaand hulpmiddel gebruiken telt gewoon mee.
- Wie houdt hier toezicht op?
- In Nederland ligt het toezicht op de AI-verordening bij meerdere toezichthouders, afhankelijk van de sector waarin een systeem wordt gebruikt. Voor gegevens die over mensen gaan is de Autoriteit Persoonsgegevens sowieso in beeld.
- Wat als we niets doen?
- Dan voldoe je niet aan een verplichting die op je van toepassing is. Belangrijker voor de meeste bedrijven: je merkt het pas als er iets misgaat, en dan is het niet geregeld hebben het probleem bovenop het probleem.
- Helpt Loei hierbij?
- Wij zijn geen opleider en geen jurist. Bij het bouwen van een automatisering hoort wel dat de mensen die ermee werken weten wat het doet en waar de grens ligt. Dat zit in de oplevering, niet als los product.