In welke risicocategorie valt jouw AI voor klantcontact?

Waarom de wet met vier categorieën werkt en niet met één regelboek

De AI-verordening legt niet aan iedereen dezelfde plichten op. De wet kijkt eerst naar wat een AI-systeem doet en hoeveel schade dat kan aanrichten. Pas daarna volgt hoeveel je moet regelen. De Autoriteit Persoonsgegevens, de toezichthouder die hier in Nederland een belangrijke rol in speelt, zegt het zo: hoe hoger het risico voor mensen of voor de samenleving, hoe strenger de regels waar je als organisatie mee te maken krijgt.

Dat is goed nieuws voor de meeste ondernemers. Een AI die vragen over openingstijden beantwoordt, een offerte-aanvraag doorzet of een afspraak inplant, zit niet in dezelfde klasse als een systeem dat bepaalt of iemand een lening krijgt. Maar het betekent ook dat je zelf moet vaststellen waar jouw toepassing landt. Er komt geen brief. Er is geen loket dat je een stempel geeft. De indeling is een oordeel dat jij maakt en dat je moet kunnen uitleggen als iemand ernaar vraagt.

De vier categorieën zijn: onaanvaardbaar risico, hoog risico, beperkt risico (ook wel de transparantiecategorie genoemd) en minimaal risico. Ze staan niet als vier hokjes in de wettekst met die namen erboven, maar volgen uit de opbouw: verboden praktijken in artikel 5, hoog-risicosystemen in artikel 6 met bijlage III, transparantieplichten in artikel 50, en de rest.

Categorie één: wat je sowieso niet mag doen

Bovenaan staat wat helemaal verboden is. De Europese Commissie somt negen praktijken op die de verordening verbiedt. Daaronder vallen onder meer schadelijke manipulatie en misleiding met AI, het uitbuiten van kwetsbaarheden van mensen, sociaal scoren en het voorspellen van crimineel gedrag van individuen. Deze verboden staan in artikel 5 van de verordening.

Voor een gewoon bedrijf met een chatbot of een AI-telefonist is dit zelden een reëel risico, maar helemaal theoretisch is het niet. De grens ligt bij manipulatie. Een AI-assistent die mensen bewust misleidt over wat hij is, die kwetsbare groepen onder druk zet, of die inspeelt op een beperking of een leeftijd om iemand tot een aankoop te bewegen, komt in gevaarlijk gebied. Een AI die eerlijk zegt wat hij is en gewoon vragen beantwoordt, komt hier niet in de buurt.

Belangrijk om te weten: van deze categorie kun je je niet vrijkopen met een goede verwerkersovereenkomst of een duidelijke melding. Verboden is verboden. Er is geen versie waarin het met extra documentatie alsnog mag.

Categorie twee: wanneer je AI hoog risico is

Hoog risico is geen gevoelskwestie. Het is een lijst. Artikel 6 van de verordening bepaalt dat AI-systemen die in bijlage III worden genoemd als hoog risico gelden. Daarnaast is er een tweede route: AI die als veiligheidsonderdeel in een product zit dat al onder Europese productwetgeving valt, zoals medische hulpmiddelen of liften.

Bijlage III noemt onder meer deze gebieden: biometrie, kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid en personeelsbeheer, toegang tot essentiële particuliere en publieke diensten, rechtshandhaving, migratie en grenstoezicht, en rechtspleging. Voor een normaal MKB-bedrijf zijn er twee die er echt toe doen.

Werving en personeelsbeheer

Dit is de meest waarschijnlijke manier waarop een gewoon bedrijf in de hoge categorie belandt, en het is bijna nooit de klantchatbot. Bijlage III noemt letterlijk AI die bedoeld is om mensen te werven of te selecteren, met name voor het plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties en het beoordelen van kandidaten. Ook AI die meebeslist over promotie, ontslag of taakverdeling valt onder dit punt.

Dat raakt klantcontact vaker dan je denkt. Zet je dezelfde AI-inbox in voor sollicitaties, en laat je hem binnenkomende reacties sorteren op geschiktheid, dan doet één systeem twee dingen: klantvragen beantwoorden (transparantiecategorie) en kandidaten filteren (mogelijk hoog risico). De categorie hangt aan het gebruik, niet aan het merk van de software.

Kredietwaardigheid en toegang tot essentiële diensten

Bijlage III noemt ook AI die de kredietwaardigheid van natuurlijke personen beoordeelt of een kredietscore vaststelt. Hetzelfde geldt voor AI die beoordeelt wie toegang krijgt tot essentiële voorzieningen, en voor risicobeoordeling en prijsstelling bij levens- en zorgverzekeringen. Werk je in financiële dienstverlening, verhuur, zorg of energie, en laat je AI meewegen wie wel en niet geholpen wordt, dan moet je hier serieus naar kijken.

Let op het woord beoordelen. Een AI die een aanvraagformulier netjes overneemt in je systeem beoordeelt niets. Een AI die van dezelfde aanvraag een score maakt waar een medewerker op afgaat, wel.

Er is een uitweg uit bijlage III, maar hij is smal

Artikel 6, lid 3 bevat een ontsnappingsclausule die veel ondernemers niet kennen. Valt jouw toepassing formeel in een gebied van bijlage III, maar heeft hij geen wezenlijke invloed op de uitkomst van een besluit, dan geldt hij niet als hoog-risicosysteem. De wet noemt vier situaties: het systeem voert een beperkte procedurele taak uit, het verbetert het resultaat van werk dat een mens al heeft afgerond, het signaleert afwijkingen in eerdere beslispatronen zonder de menselijke beoordeling te vervangen of te beïnvloeden, of het doet alleen voorbereidend werk.

Twee waarschuwingen. Ten eerste: zodra het systeem profielen van mensen opstelt, geldt de uitzondering niet. Profilering is altijd hoog risico binnen een bijlage III-gebied. Ten tweede: dit is geen zin die je opschrijft en waarna je klaar bent. Je moet echt kunnen onderbouwen dat het systeem de uitkomst niet stuurt. "De medewerker kijkt er nog naar" is te dun als die medewerker in de praktijk altijd de suggestie van de AI overneemt.

Waarom gewoon klantcontact meestal in de transparantiecategorie valt

Blijf je met je AI aan de kant van vragen beantwoorden, informatie geven, doorverbinden en afspraken plannen, dan zit je vrijwel altijd in de derde categorie: beperkt risico. Daar draait alles om één ding. Mensen moeten weten dat ze met een machine praten. De Europese Commissie legt de kern zo uit: bij AI-systemen zoals chatbots moeten mensen erop worden gewezen dat ze interactie hebben met een machine, zodat ze een weloverwogen beslissing kunnen nemen.

Dat is de hele categorie. Geen conformiteitsbeoordeling, geen technische documentatie, geen registratie in een Europese databank. Wel een heldere melding, op tijd, in gewone taal. Artikel 50 regelt dat en schrijft voor dat de informatie uiterlijk bij de eerste interactie duidelijk en te onderscheiden wordt gegeven. Onderaan in je privacyverklaring is dus te laat.

Praktisch betekent dit voor de drie kanalen waar het MKB zit:

• Chat op je site. Het eerste bericht zegt dat het een AI-assistent is, en hoe iemand een mens krijgt.
• WhatsApp en e-mail. Het eerste antwoord op een nieuw gesprek maakt duidelijk dat er een AI meeleest of antwoordt.
• Telefoon. De opening van het gesprek zegt het, niet pas als de beller ernaar vraagt.

Onder deze categorie valt ook AI-gegenereerde content die je publiceert, en beeld of geluid dat op echt lijkt. Maak je met AI een klantverhaal of een stem na, dan hoort daar een label bij.

Categorie vier: minimaal risico is niet hetzelfde als geen regels

De vierde en veruit grootste groep is minimaal risico. Spamfilters, aanbevelingen in een webshop, voorraadvoorspelling, samenvattingen voor intern gebruik: de verordening legt hier geen specifieke plichten op. Voor veel bedrijven is dit waar het grootste deel van hun AI zit.

Twee dingen om niet te vergeten. Artikel 4 van de verordening gaat over AI-geletterdheid en geldt ongeacht de categorie: je neemt maatregelen om de AI-kennis van de mensen die met die systemen werken te ondersteunen. En de AVG blijft volledig staan. Verwerkt je AI persoonsgegevens, dan gelden grondslag, dataminimalisatie, bewaartermijnen en de rechten van betrokkenen gewoon. De AI-verordening vervangt de privacywet niet, hij komt erbij.

De vier categorieën naast elkaar

De vier risicocategorieën van de AI-verordening en wat er in elke categorie van een gebruikende ondernemer wordt verwacht

Categorie	Typisch voorbeeld	Wat er van je wordt verwacht
Onaanvaardbaar risico	Manipulatie, uitbuiten van kwetsbaarheid, sociaal scoren	Niet toegestaan. Geen documentatie of melding maakt het alsnog mogelijk.
Hoog risico	AI die sollicitaties filtert, kredietwaardigheid beoordeelt of toegang tot essentiële diensten bepaalt	Zware plichten: risicobeheer, datakwaliteit, technische documentatie, logging, menselijk toezicht, informatie aan gebruikers. Zet je je eigen merknaam erop of pas je het systeem wezenlijk aan, dan schuif je door naar de rol van aanbieder met de volle set plichten.
Beperkt risico (transparantie)	Chatbot, AI-telefonist, AI-antwoorden op WhatsApp en e-mail, AI-gegenereerde content	Melden dat het AI is, uiterlijk bij de eerste interactie, duidelijk en te onderscheiden. Labelen van AI-gegenereerde content.
Minimaal risico	Spamfilter, productaanbevelingen, interne samenvattingen	Geen specifieke plichten uit de verordening. AI-geletterdheid en de AVG gelden wel gewoon.

Hoe je de beoordeling zelf maakt en vastlegt

Niemand deelt jouw systeem voor je in. Doe het in deze volgorde, per toepassing en niet per leverancier.

1. Schrijf op wat het systeem doet. Niet "AI voor klantcontact", maar: leest binnenkomende WhatsApp-berichten, beantwoordt vragen over levertijd en retouren, plant afspraken, zet de rest door naar een medewerker.
2. Check de verboden lijst. Zit er iets in dat mensen misleidt of onder druk zet? Dan stoppen.
3. Loop bijlage III langs. Raakt een van de gebieden jouw gebruik? Vooral werving, personeelsbeslissingen, kredietwaardigheid en toegang tot diensten.
4. Zo ja: toets artikel 6, lid 3. Beïnvloedt het systeem de uitkomst wezenlijk? Stelt het profielen op? Bij twijfel ga je uit van hoog risico.
5. Zo nee: praat de klant met de AI? Dan zit je in de transparantiecategorie en regel je de melding.
6. Leg de uitkomst vast. Eén A4 per systeem: wat het doet, welke categorie, waarom, wie het besloot en wanneer. Bij een wijziging in het gebruik loop je het opnieuw langs.

Dat laatste punt is het punt dat het vaakst wordt overgeslagen. De beoordeling is niet het probleem, het ontbreken van bewijs dat je hem gedaan hebt wel. Verandert het gebruik, bijvoorbeeld omdat je dezelfde AI ineens ook op je vacaturemailbox zet, dan verandert mogelijk de categorie.

Wat het betekent als je in de hoge categorie valt

Kom je op hoog risico uit, dan verandert het speelveld. De zwaarste plichten liggen bij de aanbieder, dus bij degene die het systeem bouwt en op de markt brengt: een risicobeheersysteem, eisen aan de trainingsdata, technische documentatie, automatische logging, menselijk toezicht dat werkt, nauwkeurigheid en robuustheid, een conformiteitsbeoordeling en registratie.

Als inzetter van het systeem heb je een lichter maar niet leeg pakket. Je gebruikt het volgens de gebruiksaanwijzing. Je zorgt dat de invoergegevens passen bij het doel. Je wijst mensen aan die toezicht houden en die de kennis en het gezag hebben om in te grijpen. Je bewaart de logs. Bij werving en personeelsbeslissingen informeer je de betrokken werknemers. En merk je dat het systeem een risico oplevert, dan meld je dat bij de aanbieder en zet je het zo nodig stil.

Er is één val die je moet kennen. De grens tussen aanbieder en gebruiker ligt niet vast. Zet je je eigen merknaam op een hoog-risicosysteem van een leverancier, of verander je het wezenlijk of het beoogde doel ervan, dan word je volgens artikel 25 zelf als aanbieder gezien, met alle plichten die daarbij horen. Wie zijn AI-agent een eigen naam en huisstijl geeft, moet dus weten in welke categorie dat systeem zit voordat hij dat doet.

Voor een MKB-bedrijf is de nuchtere conclusie meestal: als je op hoog risico dreigt uit te komen voor iets wat geen kernproces is, is het goedkoper om het gebruik aan te passen dan om de hele set plichten in te richten. Laat AI sollicitaties ordenen op binnenkomst en volledigheid in plaats van op geschiktheid, en je zit in een ander regime.

Vanaf wanneer gelden welke regels

De categorieën zijn er, maar ze gaan niet allemaal tegelijk in. De verboden praktijken en de transparantieregels gelden al. De regels voor hoog-risicosystemen zijn uitgesteld: die gelden vanaf 2 december 2027 voor de systemen uit bijlage III, en vanaf 2 augustus 2028 voor AI die in fysieke producten zit, zoals medische hulpmiddelen, speelgoed en liften. Kom je veel Nederlandse uitleg tegen die nog een andere datum voor hoog risico noemt, dan is die achterhaald.

Uitstel is geen afstel, en het is ook geen reden om de beoordeling voor je uit te schuiven. Als je nu een systeem inricht dat over een jaar hoog risico blijkt te zijn, betaal je dat terug in verbouwkosten. Bovendien staat de AVG los van deze data: een gegevensbeschermingseffectbeoordeling voor een systeem met een hoog privacyrisico moet je nu al doen, vóór ingebruikname.

Wat je deze week kunt doen

Maak een lijst van elke plek waar AI iets doet met klant- of persoonsgegevens. Chat, mail, telefoon, agenda, sollicitaties, offertes. Zet er per regel bij wat het systeem beslist of voorstelt, en wat een mens daarna nog doet. Loop dan de stappen hierboven langs en noteer de categorie met een reden.

In de meeste gevallen kom je uit op de transparantiecategorie en is het werk klein: een melding aan het begin van elk gesprek, een uitleg wat de AI wel en niet doet, en een duidelijke route naar een mens. Kom je ergens anders uit, dan weet je dat nu, en niet nadat een sollicitant of een klant er vragen over stelt. Dat is precies waar de risicogebaseerde opzet van de wet voor bedoeld is: het meeste werk komt te liggen waar mensen echt iets te verliezen hebben.