Inhoudsopgave:
Definitie - Wat betekent machinebias?
Machinebias is het effect van onjuiste veronderstellingen in machine-leerprocessen. Bias weerspiegelt problemen met betrekking tot het verzamelen of gebruiken van gegevens, waarbij systemen onjuiste conclusies trekken over gegevenssets, hetzij door menselijk ingrijpen, hetzij als gevolg van een gebrek aan cognitieve beoordeling van gegevens.
Machinebias is ook bekend als algoritmebias of gewoon bias.
Techopedia legt Machine Bias uit
Machinebias neemt verschillende vormen aan. Een van de meest prominente voorbeelden betreft het gebruik van machine learning-systemen om te oordelen over individuele mensen of groepen mensen. Bij gebruik op het gebied van strafrecht is bijvoorbeeld aangetoond dat sommige modellen voor machine learning hogere criminaliteitscijfers voor personen aannemen op basis van oppervlakkige gegevens zoals etniciteit of locatie.
Een andere manier om machinebias in wetenschappelijke termen te verklaren, is door het te beschrijven als een "clustering" van gegevens die niet inherent gerechtvaardigd is, waarbij bias een onderdeel is van wat ingenieurs het hebben over een "bias-variantie" -afweging. Hoge bias kan onjuiste clustering veroorzaken. Hoge variantie kan overmatige gegevensverspreiding veroorzaken. Ingenieurs kunnen verwijzen naar een systeem of resultaat als "hoge bias, hoge variantie" of "lage bias, hoge variantie" of een andere combinatie.
