{"id":1215788,"magazine_id":118309,"template_id":30,"title":"Column: Discriminatievrije algoritmes?","alias":"discriminatievrije-algoritmes","page_no":12,"meta_keywords":null,"meta_description":null,"share_url":null,"options":{"has_disabled_header":false,"exclude_from_navigationbar":false,"share_url":null},"header":null,"content":{"background":{"filename":"ral7035_licht_grijs.34fcc669843c.jpg","uri":"\/images\/ral7035_licht_grijs.34fcc669843c.jpg","alt":null,"filemime":"image\/jpeg","filesize":49972,"width":1772,"height":1772},"nav_type":"bars","rows":[{"row_type":1,"text_image":[{"title":null,"subtitle":"Column: Discriminatievrije algoritmes?","description":"

Maaike Harbers<\/em><\/p>


<\/p>

\u201cData is het nieuwe olie!\u201d \u201cAlgoritmes zijn overal!\u201d Er wordt veel geschreven over de vele mogelijkheden en succesvolle toepassingen van data en algoritmes. Maar naast dit veelbelovende nieuws verschijnen er ook regelmatig verontruste berichten met voorbeelden van algoritmes die discrimineren. Dit gaat om toepassingen waarbij de uitkomsten van algoritmes onterecht afhangen van iemands opleidingsniveau, inkomen, leeftijd, gender, geloof of ras, zoals bijvoorbeeld gezichtsherkenningssoftware die beter werkt bij gezichten met een witte huidskleur, politie die algoritmes inzet om misdaad te voorspellen of verzekeraars die algoritmes gebruiken om automatisch te bepalen of een claim mag worden uitbetaald. Zijn deze zorgen terecht en werkt het gebruik van algoritmes inderdaad discriminatie in de hand? Is daar iets aan te doen?<\/p>

 <\/p>

Gemiddelde leestijd: 4 minuten <\/em>    <\/p>","image":{"settings":{"position":"top center"},"filename":"blur-close-up-code-computer-546819.4e9698d980b4.jpg","uri":"\/images\/blur-close-up-code-computer-546819.4e9698d980b4.jpg","alt":null,"filemime":"image\/jpeg","filesize":813960,"width":4288,"height":2848},"content_position":"0","style":{"background_title":["background: rgb(191,42,42);","background: rgba(191,42,42,1);"],"title":["color: rgb(255,255,255);","color: rgba(255,255,255,1);","font-size: 15px;"],"subtitle":["font-family: 'Times New Roman', Times; font-weight: normal;","color: rgb(65,127,171);","color: rgba(65,127,171,1);","font-size: 30px;"]}}]},{"row_type":4,"text":[{"title":null,"description":"

Algoritmes en discriminatie<\/strong><\/p>

Een algoritme is een reeks van instructies om een taak uit te voeren of een probleem op te lossen. De term wordt vooral gebruikt om te verwijzen naar digitale algoritmes (software) en dan met name naar algoritmes gebaseerd op machine learning<\/em>, een discipline binnen het vakgebied kunstmatige intelligentie. In plaats van dat mensen een reeks instructies coderen, worden machine learning-algoritmes ontwikkeld door ze te \u2018trainen\u2019 met (veel) data. Dit soort algoritmes zijn goed in herkennen, bijvoorbeeld van objecten, personen of spraak in beeld en geluid, en voorspellen, bijvoorbeeld van beurskoersen, criminaliteit of in welke series, films, berichten of producten iemand ge\u00efnteresseerd is.<\/p>


<\/p>

Discriminatie ontstaat als een algoritme wordt getraind met vooringenomen data. Bijvoorbeeld, een algoritme dat bijstandsfraude voorspelt kan bewoners uit een bepaald postcodegebied aanmerken met een verhoogd frauderisico wanneer er in dat gebied voorheen vaker fraude is gepleegd. De data waarmee het algoritme is getraind bevat echter geen informatie over alle gevallen van fraude, maar alleen over geregistreerde fraudezaken. Wanneer in een bepaalde wijk in het verleden vaker controles zijn uitgevoerd, is de kans groter dat er in die wijk meer gevallen van fraude zijn gevonden dan in wijken waarin minder gecontroleerd is. In dat geval geven de data dus geen representatief beeld van de werkelijke situaties en \u2018leert\u2019 het algoritme van vooringenomen data. Gebruik van algoritmes kan bestaande vooringenomenheden ook nog eens versterken. Als in de wijk met verhoogd risico, op advies van het algoritme, meer controles worden uitgevoerd, zullen naar alle waarschijnlijkheid nog meer fraudegevallen gevonden worden, waardoor de bewoners in de toekomst met een nog hoger frauderisico aangemerkt zullen worden.<\/p>","columns":"0","style":null}]},{"row_type":4,"text":[{"title":null,"description":"

\u201cGebruik van algoritmes kan bestaande vooringenomenheden versterken\u201d<\/strong><\/em><\/p>","columns":"0","style":{"paragraph":["color: rgb(76,117,147);","color: rgba(76,117,147,1);","font-size: 20px;"]}}]},{"row_type":4,"text":[{"title":null,"description":"

Ook al kan het gebruik van algoritmes (onbedoeld) tot discriminatie leiden, dat betekent niet dat we algoritmes helemaal niet meer moeten gebruiken. Juist nu er zoveel data beschikbaar is en computers krachtig genoeg zijn om daarmee om te gaan, kunnen zelflerende algoritmes veel voor de maatschappij betekenen. Zo zijn er algoritmes die beter dan artsen afwijkingen op lichaamsscans kunnen herkennen, zelfrijdende auto\u2019s hebben de potentie om het verkeer veiliger te maken en we hebben veel baat bij algoritmes die ons helpen bij het vinden van nuttige informatie of het ontdekken van nieuwe muziek. Het niet inzetten van algoritmes zou betekenen dat we mogelijkheden mislopen die kunnen bijdragen aan het welzijn in de samenleving.<\/p>


<\/p>

Doordat de wereld continu in verandering is, kan discriminatie door algoritmes niet volledig uitgebannen worden. Algoritmes worden getraind met data uit het verleden en een algoritme is niet in staat om nieuwe categorie\u00ebn of patronen te \u2018herkennen\u2019 die het nog niet eerder gezien heeft. Het risico op discriminatie door algoritmes kan echter wel zo klein mogelijk gemaakt worden.<\/p>


<\/p>

Verkleinen van het risico op discriminatie<\/strong><\/p>

Verschillende partijen kunnen op verschillende manieren bijdragen aan het verkleinen van het risico op discriminatie door algoritmes. Zo zijn overheden op verschillende niveau\u2019s beleid aan het maken dat het gebruik van algoritmes reguleert en bedrijven kunnen ervoor kiezen om alleen algoritmes te ontwikkelen of te gebruiken die aan bepaalde standaarden voldoen. Maar ook degenen die algoritmes en hun toepassingen ontwerpen en ontwikkelen kunnen bijdragen. Hieronder volgen drie aanbevelingen voor ontwerpers en ontwikkelaars van algoritmes om het risico op discriminatie door algoritmes te verkleinen.<\/p>


<\/p>

Ten eerste is het belangrijk om - voordat een algoritme ontwikkeld wordt - stil te staan bij de vraag voor welk probleem het algoritme een oplossing is en of machine learning<\/em> daarvoor de beste technologie is. Het feit dat er in een bepaalde context veel data beschikbaar is, hoeft nog niet automatisch te betekenen dat het een goed idee is om algoritmes te gaan gebruiken. In de afweging of algoritmes op hun plaats zijn, dienen naast directe, ook de indirecte gevolgen van het gebruik meegewogen te worden. Op korte termijn levert het delen van gezondheidsdata met verzekeringsmaatschappijen misschien interessante kortingen op, maar op de lange termijn kan het ertoe leiden dat mensen zich minder vrij meer voelen in wat ze eten en hoe ze zich gedragen. De vraag is of dat wenselijk is.<\/p>


<\/p>

Ten tweede is het van cruciaal belang om zorgvuldige keuzes te maken bij het selecteren van data waarmee het algoritme getraind wordt. Algoritmes repliceren vooringenomenheid die in data zit en hierbij geldt: garbage in-garbage out<\/em>. Soms is discriminatie te voorkomen door bepaalde data niet mee te nemen bij het trainen van een algoritme. Wanneer bepaalde kenmerken (bijvoorbeeld geslacht of etniciteit) niet van belang zijn voor een beslissing (bijvoorbeeld wel of geen hypotheek), dan kunnen ze beter weggelaten worden. In andere gevallen is het juist nodig om extra data toe te voegen om discriminatie te voorkomen, bijvoorbeeld door bij het trainen van gezichtsherkenningssoftware datasets te gebruiken waarin verschillende etniciteiten zijn vertegenwoordigd.<\/p>","columns":"0","style":null}]},{"row_type":4,"text":[{"title":null,"description":"

\"Een menselijke beslissing is misschien niet nodig als het gaat om aanbevelen van films, maar wel als het gaat om een beslissing over een medische ingreep of de zwaarte van een gevangenisstraf\"<\/em><\/strong><\/p>","columns":"0","style":{"paragraph":["font-size: 20px;","color: rgb(65,127,171);","color: rgba(65,127,171,1);"]}}]},{"row_type":4,"text":[{"title":null,"description":"

Ten derde is de wijze waarop een algoritme wordt ingezet van belang om discriminatie door algoritmes zoveel mogelijk te voorkomen. Afhankelijk van de toepassing kan het beter zijn om de uitkomst van het algoritme niet automatisch over te nemen, maar als advies te laten dienen voor een mens die de uiteindelijke beslissing neemt. Een menselijke beslissing is misschien niet nodig als het gaat om aanbevelen van films, maar wel als het gaat om een beslissing over een medische ingreep of de zwaarte van een gevangenisstraf. Een valkuil bij die laatste optie is dat de mens alsnog de beslissing van het algoritme overneemt zonder er kritisch naar te kijken. In dergelijke gevallen is het daarom van belang dat de uitkomsten van algoritmes zo gerepresenteerd en gevisualiseerd worden dat ook niet-technici (bijvoorbeeld medisch specialisten of rechters) ze op waarde kunnen schatten.<\/p>


<\/p>

Tot slot is het bij alle overwegingen die voortvloeien uit deze aanbevelingen van belang om te beseffen dat data en uitkomsten van algoritmes nooit volledig objectief zijn. Er liggen altijd (subjectieve) keuzes aan ten grondslag over waarvoor een algoritme wordt ingezet, welke data wel en niet worden meegenomen en hoe er met de uitkomsten van algoritmes wordt omgegaan. Het gebruik van data en algoritmes blijft dus een mensenzaak en dit besef is nodig om discriminatie door algoritmes zoveel mogelijk te voorkomen.<\/p>","columns":"0","style":null}]},{"row_type":4,"text":[{"title":null,"description":"

<\/p>

Maaike Harbers <\/strong>is lector Artificial Intelligence & Society bij het Kenniscentrum Creating 010 en hoofddocent bij de opleiding Creative Media and Game Technologies aan de Hogeschool Rotterdam. In haar werk richt zij zich op kunstmatige intelligentie, ethiek en ontwerp.<\/p>

\n
\n<\/p>\n\n


<\/p>","columns":"0","style":{"background":["background: rgb(65,127,171);","background: rgba(65,127,171,1);"],"paragraph":["color: rgb(4095,255,255);","color: rgba(4095,255,255,1);"]}}]}]}}