13 maart 2023 -
Het afgelopen jaar is kunstmatige intelligentie (AI) wereldwijd een gespreksonderwerp aan tafel geworden, dankzij bots als ChatGPT, die het vermogen heeft om levensechte tekst en zelfs computercode samen te stellen. Maar wat gebeurt er als AI verkeerde beslissingen neemt?
"Dat kan ernstige problemen veroorzaken," aldus Ada Lopez, Senior Manager Global Product Diversity Office bij Lenovo, "Vooroordelen - en met name gendervooroordelen - komen vaak voor in AI-systemen en leiden tot allerlei schade, van discriminatie en verminderde transparantie tot veiligheids- en privacyproblemen."
In het ergste geval kunnen verkeerde AI-beslissingen carrières beschadigen en zelfs levens kosten. Als het probleem van de vooroordelen van AI niet wordt aangepakt, riskeren we een onevenwichtige toekomst - een toekomst waarin AI nooit zijn volledige potentieel zal bereiken als een instrument dat kan bijdragen aan de maatschappij.
"AI is slechts zo goed als de data waarmee het wordt getraind. Veel data zijn scheefgetrokken naar mannen, net als veel taalgebruik in onder andere online nieuwsartikelen en boeken. Uit onderzoek blijkt dat het trainen van AI met data van Google News ertoe leidt dat mannen worden geassocieerd met rollen als 'kapitein' en 'financier', terwijl vrouwen worden geassocieerd met 'receptionist' en 'huisvrouw'. Als gevolg daarvan hebben veel AI-systemen die getraind zijn op dergelijke bevooroordeelde data en vaak gemaakt door grotendeels mannelijke teams, aanzienlijke problemen gehad met vrouwen. Van creditcardmaatschappijen die mannen meer krediet lijken te verlenen, tot instrumenten die screenen op alles van COVID tot leverziekte," geeft Lopez aan. "Dit zijn gebieden waar verkeerde beslissingen de financiële of fysieke gezondheid van mensen kunnen schaden. Daar komt nog bij dat volgens onderzoek van het World Economic Forum slechts 22 procent van de professionals in AI en data science vrouw is. Het geslacht zelf wordt ook een complexer onderwerp, dankzij niet-binaire en transgender-uitingen, wat leidt tot meer potentieel voor vooroordelen in allerlei vormen. AI is een krachtig instrument dat een kans biedt om voorheen onoplosbare problemen op te lossen, van kanker tot klimaatverandering, maar als de kwestie van vooroordelen niet wordt aangepakt, dreigt AI onbetrouwbaar en uiteindelijk irrelevant te worden. Als AI-professionals het probleem van de vooroordelen niet kunnen aanpakken, zullen deze instrumenten niet bruikbaar zijn en riskeert de industrie van de kunstmatige intelligentie een nieuwe ‘AI-winter’, zoals in de jaren zeventig, toen de belangstelling voor de technologie opdroogde."
Omgaan met data
In de toekomst zullen bedrijven steeds meer vertrouwen op AI-technologie om data in waarde om te zetten. Volgens het Data for Humanity-rapport van Lenovo zegt 88 procent van de bedrijfsleiders dat AI-technologie de komende vijf jaar een belangrijke factor zal zijn om organisaties te helpen de waarde van data te ontsluiten. Dus hoe gaan bedrijfsleiders om met het probleem van vooroordelen?
Lopez gaat verder: "Voor het eerst in de geschiedenis is er krachtige technologie beschikbaar, die volledig is ontstaan uit eigen begrip van de wereld. AI is een spiegel die u zichzelf voor kunt houden. Men moet niet schrikken van wat er in die spiegel wordt gezien. In plaats daarvan moet deze kennis gebruikt worden om werkwijzen te veranderen. Dat begint met ervoor te zorgen dat de manier waarop organisaties werken eerlijk is wat betreft gendervertegenwoordiging en inclusie - maar ook door aandacht te besteden aan de manier waarop data worden verzameld en gebruikt. Vooroordelen kunnen namelijk overal insluipen: als er bijvoorbeeld meer data zijn voor één geslacht, of als vragen zijn geschreven door mannen. Voor bedrijfsleiders wordt het steeds belangrijker om na te denken over waar data vandaan komen, hoe deze worden gebruikt en hoe vooroordelen kunnen worden bestreden. Technologische oplossingen zullen ook een belangrijke rol spelen. Datawetenschappers hebben niet de luxe om elke regel tekst die in een trainingsmodel wordt gebruikt door te nemen. Daar zijn twee oplossingen voor: de ene is veel meer mensen inzetten om het model te testen en problemen op te sporen. Maar de betere oplossing is om efficiëntere instrumenten te hebben om vooroordelen te vinden. In de data waarmee de AI wordt gevoed, maar ook in het model zelf. Bij ChatGPT bijvoorbeeld, gebruiken de onderzoekers een mentaal leermodel om potentieel problematische data te kenmerken. De AI-gemeenschap moet zich hierop richten. Ook hulpmiddelen om de werking van AI transparanter te maken zijn belangrijk."
Vooroordelen begrijpen
"Het helpt ook om naar de bredere context te kijken," geeft Lopez aan. "De instrumenten die vandaag worden gebruikt, zorgen nu al voor vertekening in de modellen die in de toekomst zullen worden toegepast. Men kan denken een vooroordeel nu is ‘opgelost’, maar over 50 jaar bijvoorbeeld kunnen nieuwe instrumenten de manier waarop naar bepaalde dingen wordt gekeken, volledig veranderen. Dit was het geval met de geschiedenis van de diagnose van het Rett-syndroom, waarbij vooral data van meisjes werden verzameld. Het gebrek aan data over jongens met de aandoening introduceerde enkele jaren later vooroordelen in de datamodellering en leidde tot onnauwkeurige diagnoses en behandelingsaanbevelingen voor jongens. Zo zou de mens over 100 jaar slechts drie dagen per week kunnen werken. Dat zou betekenen dat data van nu scheefgetrokken zijn naar een vijfdaagse manier van kijken. Datawetenschappers en bedrijfsleiders moeten rekening houden met de context. Inzicht in de sociale context is belangrijk voor bedrijven die tegenwoordig in meerdere gebieden actief zijn.
Het beheersen van dergelijke kwesties wordt een van de toetsstenen voor verantwoorde AI. Voor bedrijfsleiders die AI-technologie gebruiken, zal het belang van deze kwesties toenemen, samen met de belangstelling van het publiek en de regelgeving. Volgens Gartner zal 60 procent van de AI-leveranciers volgend jaar naast de technologie zelf een middel aanbieden om mogelijke schade door de technologie aan te pakken.
Bedrijfsleiders moeten grondig plannen voor verantwoorde AI en een eigen definitie opstellen van wat dit betekent voor de organisatie, door de risico's te identificeren en te beoordelen waar vooroordelen kunnen binnensluipen. Men moet in gesprek gaan met belanghebbenden om potentiële problemen te begrijpen en te onderscheiden hoe verder kan worden gegaan met best practices. Een verantwoord gebruik van AI zal een lange weg zijn die constante aandacht van het leiderschap vereist. Bedrijven moeten dit op directieniveau aanpakken om ervoor te zorgen dat vooroordelen worden aangepakt en AI in de hele organisatie op verantwoorde wijze wordt gebruikt," benadrukt Lopez. "Dit kan bijvoorbeeld door een eigen raad voor verantwoorde AI op te richten die ervoor zorgt dat alle AI-toepassingen worden beoordeeld op vooroordelen en andere problemen. Leiders moeten ook het bredere probleem van vrouwen in IT aanpakken, met name in data science. Vrouwen - met name in leidinggevende functies - zullen centraal staan bij het oplossen van het probleem van gendervooroordelen in AI."
Een AI-gestuurde toekomst
Inzicht in het probleem van gendervooroordelen en het werken aan effectieve manieren om daarmee om te gaan, is van vitaal belang voor vooruitstrevende organisaties die AI willen gebruiken om de waarde van data te ontsluiten.
Lopez concludeert: "Zorgvuldig nadenken over de manier waarop AI in een organisatie wordt gebruikt, met behulp van tools om vooroordelen op te sporen en transparantie te waarborgen, zal helpen. Maar bedrijfsleiders moeten ook een bredere kijk hebben op waar data vandaan komen, hoe deze worden gebruikt en welke stappen worden genomen om vooroordelen te voorkomen. Dat is essentieel om de waarde van data te ontsluiten en een inclusieve toekomst te creëren waarin AI optimaal kan functioneren."
