Consumenten nog niet overtuigd van de voordelen van Artificial Intelligence
Behoefte aan meer empathie in AI-systemen
7 juni 2019 -
Consumenten hebben geen vertrouwen in kunstmatige intelligentie (AI) en begrijpen niet in hoeverre AI hun interacties met bedrijven beter en efficiënter kunnen maken, blijkt uit nieuw onderzoek van Pegasystems Inc.
Get onderzoek dat werd uitgevoerd door onderzoeksbureau Savanta is gepresenteerd tijdens PegaWorld 2019 in Las Vegas. Voor het onderzoek zijn 5.000 consumenten wereldwijd gevraagd naar hun mening en ideeën over AI, het moraal, ethisch gedrag en empathie.
Ondanks dat AI voor een persoonlijke klantervaring en optimale beleving kan zorgen, zijn consumenten nog niet overtuigd van de voordelen. Nu veel bedrijven overgaan op AI om de klantbeleving te verbeteren is het belangrijk dat zij de ideeën, zorgen en voorkeuren van hun klanten daadwerkelijk begrijpen.
Bevindingen
De belangrijkste bevindingen uit het onderzoek zijn onder meer:
Consumenten zijn cynisch over de bedrijven waarmee ze zaken doen: 68 procent van de respondenten zegt dat organisaties de plicht hebben om niet alleen te doen wat wettelijk is verplicht, maar ook wat moreel goed is voor de klant. Desondanks denkt 65 procent van de respondenten dat bedrijven niet de belangen van de klant behartigen. Hier rijst de vraag hoeveel vertrouwen zij hebben in de technologie die bedrijven inzetten om met de klant te communiceren. In een wereld waar bedrijven zeggen klantgericht te zijn, geloven consumenten niet dat bedrijven echt om hen geven of voldoende empathie tonen voor hun persoonlijke situaties.
Het is serieus gesteld met het vertrouwen in AI: Minder dan de helft (40 procent) van de respondenten was het ermee eens dat AI de klantenservice van bedrijven waarmee zij in contact staan verbetert. Minder dan 30 procent geeft aan dat zij zich prettig voelen bij bedrijven die AI gebruiken om met hen te communiceren; slechts negen procent voelt zich ‘erg op zijn gemak'. Tegelijkertijd geeft een derde van alle respondenten aan zich zorgen te maken dat machines hun banen en werk zullen overnemen. Meer dan een kwart (27 procent) noemt ook de 'opkomst van robots en beperken van (professionele) menselijke vrijheid’ als zorg.
Veel consumenten geloven dat AI niet onbevooroordeeld beslissingen kan nemen: Meer dan de helft (53 procent) zegt dat AI vooroordelen meeneemt in de manier waarop het beslissingen neemt. 53 procent was ook van mening dat AI altijd beslissingen neemt op basis van de vooroordelen van diegene die de oorsponkelijke instructies heeft opgesteld, ongeacht hoeveel tijd er sindsdien is verstreken.
Menselijk contact heeft nog steeds de voorkeur: 70procent van de respondenten spreekt nog steeds liever met een mens dan met een AI-systeem of een chatbot in het contact met de klantenservice. Daarnaast geeft 69 procent van de respondenten aan dat zij eerder geneigd zijn de waarheid te vertellen aan een mens dan aan een AI-systeem. Als het gaat om het nemen van beslissingen over leven en dood, zei een overweldigende 86 procent meer vertrouwen te hebben in mensen dan in AI.
Meerderheid gelooft niet in ethiek of empathie binnen AI: Slechts twaalf procent van de consumenten is van mening dat AI het verschil opmerkt tussen goed en kwaad. Meer dan de helft (56 procent) van de ondervraagden denkt dat het niet mogelijk is om machines te ontwikkelen die zich moreel gedragen. Slechts twaalf procent gelooft dat ze ooit interactie hebben gehad met een machine die enige empathie toonde.
Menselijke interactie
Een van de belangrijkste manieren waarop organisaties klantvertrouwen en -tevredenheid kunnen vergroten, is door interactie menselijker en meer empatisch te maken. Maar empathie en winstgevendheid van een bedrijf gaan meestal niet samen. Naarmate AI steeds belangrijker wordt in de klantbetrokkenheid, moeten bedrijven nadenken over hoe ze op AI gebaseerde inzichten kunnen combineren met ethische overwegingen van de mens.
"Ons onderzoek wijst uit dat slechts 25 procent van de consumenten meer vertrouwen heeft in de beslissing van een AI-systeem boven die van een persoon als het gaat om de kwalificatie voor een banklening," aldus Dr Rob Walker, vice-president, decisioning en analystics bij Pega. "Waarschijnlijk spreken consumenten liever met een persoon omdat ze meer vertrouwen hebben in mensen en zij ten onrechte het idee hebben dat zij hun beslissing mogelijk kunnen beïnvloeden. Waar wij naartoe moeten is dat AI-systemen bedrijven helpen bij het nemen van ethische beslissingen. Om bij het voorbeeld van de bank te blijven: naast het volgen van wettelijke procedures voor het aanvragen van een lening, moeten banken ook kunnen bepalen of het ethisch een juiste beslissing is."
Ethische overwegingen
Walker: "Belangrijk binnen de ontwikkeling van kunstmatige intelligentie is het toevoegen van richtlijnen waardoor ethische overwegingen boven machine learning worden geplaatst. Hierdoor kunnen AI-systemen beslissingen nemen binnen de context van klantbetrokkenheid waaruit empathie blijkt en waarbij het lijkt alsof ze door een mens zijn genomen. Het is niet de bedoeling dat AI de enige ‘empathie-waakhond’ wordt binnen een organisatie en het zal er ook niet voor zorgen dat klanten organisaties van het ene op het andere moment vertrouwen. Door binnen een bedrijf een cultuur van empathie te creëren, kunnen bedrijven AI inzetten als krachtig middel om zich te onderscheiden ten opzichte van hun concurrenten."
