Kapitel 2
Nye teknologier og deres begrænsninger
Skeln mellem automatisering, forudsigelse og generering for at vælge proportionale anvendelser.
2.1 Maskinlæring
Maskinlæring tilpasser modeller ud fra eksempler. I HR kan den støtte dokumentklassifikation, søgning efter kompetencer eller identifikation af kollektive mønstre. Nytten afhænger af målets kvalitet, dataenes repræsentativitet og en evaluering, som er uafhængig af træningen.
En forudsigelse identificerer ikke i sig selv årsagerne til et resultat. Når konteksten ændres, kan de indlærte sammenhænge miste stabilitet. Modellen skal sammenlignes med enkle alternativer, og det skal kontrolleres, om forbedringen opvejer de ekstra omkostninger, kompleksiteten og risiciene.
2.2 Sprog og generative assistenter
Sprogmodeller kan hjælpe med at skrive stillingsbeskrivelser, opsummere politikker eller foreslå undervisningsmaterialer. Deres svar skal kontrolleres, før ansættelsesvilkår kommunikeres, eller regler fortolkes. En flydende forklaring dokumenterer hverken, at kilden findes, eller at konklusionen er korrekt.
En intern assistent skal afgrænse sine kilder, angive usikkerhed og henvise følsomme spørgsmål til fagfolk. Hentede dokumenter kan også indeholde ondsindede instruktioner. Test skal omfatte tvetydige spørgsmål, modstridende politikker og anmodninger, der overskrider brugerens rettigheder.
2.3 Procesautomatisering
Regelbaseret automatisering kan løse gentagne opgaver uden kunstig intelligens. Behandling af en komplet ansøgning eller kontrol af et obligatorisk felt er eksempler på relativt afgrænsede handlinger. En enkel løsning gør test lettere og mindsker afhængigheden af komponenter, der er svære at forklare.
Alle automatiserede arbejdsgange skal håndtere undtagelser og forhindre, at en fejl gentages i stor skala. Der skal være en gennemgangskø, en ansvarlig person og en mulighed for at standse udførelsen. Forbedringer måles på hele processen, inklusive arbejdet med at rette hændelser.
2.4 Følelser, biometri og overvågning
Det må ikke antages, at stemme, ansigt eller mikroudtryk giver valide slutninger om ærlighed, personlighed eller arbejdsegnethed. En tilsyneladende korrelation kan afspejle kontekst, handicap, sprog eller optageforhold. Disse anvendelser kræver en særligt grundig videnskabelig og juridisk vurdering.
I den europæiske ramme indeholder forordningen om kunstig intelligens et forbud mod visse slutninger om følelser på arbejdspladsen med afgrænsede undtagelser af medicinske eller sikkerhedsmæssige grunde. Det er ikke en generel tilladelse til at overvåge trivsel. Den gældende tekst og den officielle vejledning, der er relevant for sagen, skal konsulteres [R1].
2.5 Proportionalt valg af teknologi
Valget begynder med et verificerbart behov. Derefter undersøges alternativer, nødvendige data, tilgængelighed, vedligeholdelsesomkostninger og mulighed for udfasning. Et værktøj er ikke at foretrække, blot fordi det er nyt. Nogle behov løses bedre gennem organisatoriske ændringer eller uddannelse.
Analysen skal omfatte, hvem der får fordelen, og hvem der bærer risikoen. En løsning, der sparer afdelingen tid, kan skabe barrierer for ansøgere. Beslutningen skal inddrage disse perspektiver og beskrive anvendelsesgrænserne forståeligt.
Spørgeskemaer
Forståelse af kapitlet & Dilemmaer i HR
Dilemmaerne giver ingen moralsk score og bruges ikke til at vurdere ansøgere.