AI in het onderwijs: wat zegt de AI Act voor scholen en opleiders?

Kort antwoord: Onderwijs is een aangewezen hoog-risicodomein. AI-systemen die de toegang tot of toelating tot onderwijs bepalen, leerresultaten beoordelen, het passende onderwijsniveau inschatten of ongeoorloofd gedrag tijdens toetsen detecteren, vallen onder bijlage III van de AI Act. Eén toepassing is bovendien verboden: emotieherkenning in onderwijsinstellingen (art. 5). Daarbovenop gelden de AVG — vaak gaat het om gegevens van minderjarigen — en de AI-geletterdheidsplicht.

Waarom onderwijs hoog-risico is

De wetgever ziet AI in het onderwijs als risicovol omdat het de levensloop van mensen bepaalt: wie wordt toegelaten, hoe iemand wordt beoordeeld, welk niveau passend heet. Concreet vallen onder bijlage III onder meer:

• AI voor toelating en toewijzing aan onderwijsinstellingen;
• AI die leerresultaten beoordeelt (geautomatiseerd nakijken, scoring);
• AI die het passende onderwijsniveau bepaalt;
• AI die tijdens toetsen ongeoorloofd gedrag detecteert (proctoring/examensurveillance).

Wat verboden is

Emotieherkenning in onderwijsinstellingen is verboden (art. 5, sinds 2 februari 2025) — bijvoorbeeld AI die via de webcam de "betrokkenheid" of emoties van leerlingen meet. Alleen medische of veiligheidsdoeleinden vormen een smalle uitzondering. Zie verboden AI-praktijken.

De AVG en minderjarigen

Onderwijs-AI verwerkt vrijwel altijd persoonsgegevens, en vaak van kinderen — die onder de AVG extra bescherming genieten. Proctoring en automatische beoordeling vragen om een grondslag, transparantie, dataminimalisatie en meestal een DPIA. Geautomatiseerde beslissingen met aanmerkelijke gevolgen (zoals een afwijzing) raken artikel 22 AVG.

Wat te doen

• Inventariseer je onderwijs-AI: toelating, beoordeling, proctoring, niveaubepaling.
• Classificeer elk systeem (zie hoogrisico-verplichtingen) en check op verboden emotieherkenning.
• Bouw menselijk toezicht in bij beslissingen over leerlingen en studenten.
• Doe een DPIA en wees extra zorgvuldig met gegevens van minderjarigen.
• Regel AI-geletterdheid bij docenten en staf.

AI in het onderwijs raakt grondrechten en kwetsbare groepen — het valt daarom onder het zwaarste regime van de AI Act, met een hard verbod op emotieherkenning bovenop. Begin bij de classificatie en het menselijk toezicht.