EU AI Act – vigtigste pointer for undervisere

1. AI må gerne bruges i undervisning – men ikke ukritisk

EU AI Act forbyder ikke brug af AI i uddannelse. Tværtimod accepteres AI bredt, så længe brugen ikke krænker rettigheder eller skaber skjult kontrol.

• Chatbots, feedback-værktøjer, kodeassistenter mv. er som udgangspunkt OK
• Men automatiseret vurdering af studerende er følsomt (se punkt 2)

2. Uddannelse er et “high-risk” område

AI, der bruges til karaktergivning, eksamensvurdering, adgang/udvælgelse eller præstationsmåling klassificeres som high-risk AI.

Konsekvens for undervisere:

• Du må ikke overlade afgørende vurderinger til AI alene
• Der skal altid være menneskelig kontrol (human-in-the-loop)
• AI-output skal kunne forklares og begrundes

AI kan støtte din faglige dømmekraft – ikke erstatte den.

3. Studerende har ret til at vide, når AI bruges

Transparens er et kernekrav.

Det betyder:

• Studerende skal informeres, hvis AI bruges i feedback eller vurderingsprocesser
• “Skjult AI” i LMS, eksamenssystemer eller analyseværktøjer er problematisk

Kan bruges aktivt til AI-dannelse og metarefleksion.

4. Forbud mod overvågende og manipulerende AI

Følgende er enten forbudt eller stærkt begrænset:

• Emotion-genkendelse (fx “engagement-måling” via kamera)
• Social scoring af studerende
• Adfærdsmanipulation uden samtykke

Rammes især af learning analytics med psykologiske profiler, kamera-baseret eksamensovervågning og tools der påstår at måle motivation, stress eller opmærksomhed.

5. AI-kompetence (AI literacy) bliver et ansvar

Organisationer skal sikre, at ansatte forstår AI på et rimeligt niveau.

• Du forventes ikke at være AI-ekspert
• Men du skal kunne forstå begrænsninger, forklare brugen for studerende og vurdere hvornår AI er fagligt forsvarlig

Stærkt argument for efteruddannelse, fælles retningslinjer og kollegial videndeling.

6. Eksamen og snyd: AI Act ≠ forbud

EU AI Act regulerer udbydere og brug af AI — ikke studieordninger.

• Institutionen fastlægger regler for brug af AI til eksamen
• Definerer hvad der er “hjælp” vs. “snyd”
• AI Act understøtter tydelighed, proportionalitet og gennemsigtighed i regler

7. Didaktisk mulighed – ikke kun regulering

Set pædagogisk er EU AI Act en mulighed:

• Giver sprog for ansvar, faglig dømmekraft og etik
• Passer godt med professionsidentitet, refleksion og myndiggørelse af studerende

Mange undervisere bruger allerede AI rigtigt – nu har I et fælles juridisk og etisk fundament.

Kort opsummering (én slide)

• AI er tilladt – men ikke autonom vurdering
• Uddannelse = high-risk område
• Mennesket har sidste ord
• Studerende skal informeres
• Overvågende AI er problematisk
• AI-kompetence bliver en del af underviserrollen