Kapitel 4
Kunstig intelligens og præstationsvurdering
Måling af arbejde, kontekst og menneskelig gennemgang i beslutninger med faglige konsekvenser.
4.1 Hvad der skal måles
Præstation omfatter resultater, kvalitet, samarbejde og bidrag, der passer til stillingen. Ikke alle disse dimensioner kan observeres gennem digitale registreringer. Valget af indikatorer skal begynde med en definition af arbejdet og en aftale om, hvilke resultater der er relevante.
Indirekte indikatorer kan være nyttige, men kræver forsigtighed. Antallet af beskeder eller onlinetiden kan afspejle belastning, arbejdsstil eller tekniske vanskeligheder. At gøre dem til et automatisk produktivitetsmål fremmer adfærd rettet mod indikatoren og kan skade arbejdets formål.
4.2 Mål og feedback
Feedback skal være forståelig, rettidig og handlingsanvisende. Et system kan organisere evidens eller minde om aftaler, men den faglige samtale kræver kontekst. Uoverensstemmelser mellem data og erfaring skal undersøges og ikke afgøres ud fra en antagelse om, at den digitale registrering altid er bedre.
Mål skal gennemgås, når ressourcer, prioriteter eller ansvar ændres. Det er problematisk at vurdere efter kriterier, som en person ikke kunne kende eller påvirke. Dokumentationen skal gøre det muligt at rekonstruere forventninger, hændelser og de faktorer, der påvirkede resultatet.
4.3 Bias og sammenligninger
Sammenligninger mellem personer kan forveksle muligheder og resultater. Teams med forskellige ressourcer eller opgaver af forskellig sværhedsgrad må ikke rangordnes uden hensyn til disse forhold. Historiske vurderinger kan også indeholde bias, som en model lærer og reproducerer.
Audit skal analysere relevante fejl og virkninger og ikke begrænses til gennemsnitlig nøjagtighed. Nogle fairnessanalyser kræver behandling af særligt beskyttede oplysninger; nødvendighed og retsgrundlag skal vurderes før indsamling. Måling af ulighed giver ikke tilladelse til enhver behandling af data.
4.4 Gennemgang og uenighed
Den vurderede person skal kende de relevante kriterier og have en kanal til at rette data eller tilføje kontekst. Gennemgangen kræver en beslutningskompetence, der er adskilt fra den automatiske rangordning. En klageprocedure uden mulighed for at ændre resultatet har ingen praktisk virkning.
Beslutninger om løn, forfremmelse eller fortsat ansættelse kræver særlig opmærksomhed. Begrænsninger for rent automatiske afgørelser og andre databeskyttelseskrav skal analyseres i den konkrete sag. Menneskelig indgriben må ikke være en rutinemæssig godkendelse af systemets anbefaling [R2].
4.5 Udvikling over for kontrol
En udviklingsorienteret vurdering identificerer støtte og læringsmuligheder. Permanent overvågning kan derimod mindske tillid og autonomi. Før dataindsamlingen udvides, skal man spørge, om et mindre indgribende alternativ kan opnå samme formål.
Succes består i at forbedre samtaler, beslutninger og arbejdsforhold, ikke i at producere flere scorer. Organisationen skal undersøge, om systemet fremmer samarbejde eller skaber uproduktiv konkurrence, selvcensur og indsatser, der alene skal få en til at se aktiv ud.
Spørgeskemaer
Forståelse af kapitlet & Dilemmaer i HR
Dilemmaerne giver ingen moralsk score og bruges ikke til at vurdere ansøgere.