Wat is een Bias?

Een bias is een systematische vertekening, vooroordeel of afwijking in de manier waarop mensen of systemen informatie registreren, situaties beoordelen, denken en handelen. Een bias kan zowel bewust (explicit) als onbewust (implicit) aanwezig zijn en komt vaak voort uit persoonlijke ervaringen, culturele achtergronden of cognitieve short-cuts in het menselijk brein.

Biases in kunstmatige intelligentie (AI)

De snelle ontwikkeling van Artificial Intelligence (AI) en algoritmes wordt vaak gezien als de ideale oplossing om menselijke biases in besluitvorming te elimineren; een computer kent immers geen emotie. In de praktijk is dit echter geen garantie voor bias-vrije beslissingen. Omdat deze systemen en machine learning-modellen worden getraind met historische data die door mensen is gegenereerd, sluipen er onbewust historische en maatschappelijke vooroordelen in het model. Als dit niet zorgvuldig wordt gecorrigeerd, kan het algoritme deze vertekening juist reproduceren of versterken, wat leidt tot discriminerende, seksistische of oneerlijke uitkomsten.