blog.

Artificial intelligence verandert de wereld … met vallen en opstaan

Na een week hard werken, past op vrijdagmiddag een iets luchtiger blog. Fijn weekend!

Werken in IT valt niet altijd mee

Whyellow nieuwsbrief

Nooit meer iets missen van Whyellow? Schrijf je dan in voor onze nieuwsbrief.

Dát met behulp van artificial intelligence de wereld er over vijftig jaar heel anders uitziet dan nu is een feit (zie de blog: What’s the fuzz about AI?) . Dát er tot die tijd nog heel veel geëxperimenteerd en geleerd moet worden is ook een feit. In deze blog drie voorbeelden van waar het nog niet (helemaal) goed gaat.

Tay: de racistische chatbot van Microsoft

In 2016 lanceerde Microsoft Tay, een AI chatbot die reageerde op andermans Twitter-berichten. Het doel hiervan was zeer onschuldig. Met de chatbot wilde Microsoft toetsen in hoeverre een AI programma gesprekken kan interpreteren en begrijpen. Hoe langer men met Tay zou praten, hoe slimmer en gezelliger Tay zou worden. Na 24 uur werd deze chatbot alweer van het internet afgehaald. Tay was namelijk binnen een dag getransformeerd van speelse gespreksrobot tot ware asshole die zowel racistische, beledigende en antisemitische opmerkingen maakte. Oeps?

Het experiment van Microsoft heeft geleid tot de wedergeboorte van de uitdrukking ‘garbage in, garbage out’. Een AI-applicatie beredeneert zijn output op basis van een hele grote dataset. Wanneer deze dataset bezaaid is met racistische, beledigende of antisemitische opmerkingen, lijkt het slechts een kwestie van tijd dat de output ook deze eigenschappen aanneemt. Tot op heden blijft het onduidelijk hoeveel aandacht Microsoft heeft besteed aan het filteren van de input. De praktijk laat echter zien dat het in ieder geval te weinig was.

Hoewel het optreden van Tay niet erg classy was, heeft het zeker een discussie losgemaakt. Enerzijds hebben internetgebruikers op een lompe wijze ontdekt dat dit soort AI applicaties vrij gemakkelijk te manipuleren is. Dit kan gevaarlijk worden wanneer AI-applicaties op grotere schaal of op een hogere frequentie worden ingezet. Stel je voor dat een bekende nieuwssite automatisch de meest populaire berichten van het internet laat zien. Hoe lang zou het dan duren voordat er alleen maar nepnieuws op deze pagina staat? Anderzijds is Tay het perfecte voorbeeld van het feit dat AI van zichzelf geen morele waarden heeft. Het is dus van belang dat de input van chatbots op een ethische manier gefilterd wordt, zodat het vooropgestelde doel van een AI applicatie ook daadwerkelijk gehaald kan worden.

Amazon: AI recruitment tool houdt niet van vrouwen

Een veelgebruikt voorbeeld van zo’n vooropgesteld doel kun je vinden in het werkveld van personeelswerving. Terwijl mensen door allerlei ‘biases’ een voorkeur kweken voor een bepaald type persoon, zou AI door het gebrek van voorkeuren een objectieve beoordeling kunnen leveren. Toch lijkt het bouwen van zo’n AI-recruitment tool moeilijker dan gedacht; de resultaten laten zien dat ook AI applicaties ‘bias’ tonen, bijvoorbeeld door voornamelijk mannen te selecteren voor managementposities. Hoe dit komt? Voornamelijk door huidige patronen. Amazon gebruikte bijvoorbeeld een dataset uit de farmaceutische industrie om hun recruitment-AI te trainen. Wat blijkt? Deze industrie wordt gedomineerd door mannen, waardoor de AI van Amazon ook een voorkeur voor mannen kreeg. Amazon heeft inmiddels de stekker uit dit experiment getrokken.

Het lijkt er daarom op dat de mens en een AI-applicatie niet van elkaar gescheiden kunnen worden. De input om een AI-applicatie te bouwen is vaak gebaseerd op menselijke keuzes, inclusief een scala aan vooroordelen, waardoor de output van een AI-applicatie dezelfde patronen aanneemt. Hoe kunnen wij, als mens, dan zorgen dat een AI-applicatie zich op een gewenste manier gaat gedragen? Het antwoord is eigenlijk vrij simpel, namelijk: monkey sees, monkey does. Wil je een vriendelijke AI-applicatie maken? Schotel je AI-applicatie dan een vriendelijke dataset voor. Wil je dat je recruitment-bot geen voorkeur voor mannen heeft? Dan moet je deze tool evenveel gegevens van mannelijke en vrouwelijke managers voeden.

Het vereist echter een mindset-shift én een hoop rekenwerk om volledige objectiviteit te realiseren. Realiseer je bijvoorbeeld dat datasets als input voor AI-applicaties soms bestaan uit miljoenen al dan niet miljarden stukjes informatie. Hoe zorg je er voor dat al deze informatie met zorg, aandacht en vooral een morele standaard geïnterpreteerd wordt? Tot op heden lijkt dit één van de grootste uitdagingen van AI ontwikkelaars te zijn.

Smart speakers: nog even dooroefenen

Eén op de vijf Amerikanen heeft een smart speaker in huis. Amazon Echo is zo’n smart speaker. Het aanspreken van een smart speaker is simpel: je hoeft alleen maar Amazon Echo’s virtuele assistent, Alexa, aan te spreken. Fun fact: Wist je dat Alexa vernoemd is naar de wereldberoemde bibliotheek van Alexandrië? Alexa begrijpt wat je zegt en zet dat vervolgens om in een actie.

Hoe werkt Alexa?

Je activeert de slimme assistent door een woord uit te spreken. Je hebt daarbij de keuze uit vier codewoorden: Alexa, Echo, Amazon of Computer. Alexa spreekt momenteel Engels, Duits, Frans en Japans, maar is verkrijgbaar in 38 landen over de hele wereld. Je kunt Alexa vragen om muziek af te spelen, alarmen in te stellen of informatie op te vragen. Ook kun je Alexa voice control gebruiken om andere slimme apparaten met je stem te besturen als je die hebt gekoppeld met elkaar. Amazon werkt hard om Alexa in veel meer apparaten te integreren. Momenteel zit deze slimme assistent ook al in sommige auto’s, robots, koelkasten en horloges. Het ecosysteem van leveranciers die met het systeem van Amazon werken is dus enorm groot.

Momenteel heeft ongeveer 5% van de huishoudens in Nederland een smart speaker. De verwachting is dat dit percentage enorm gaat toenemen zodra de bekendste assistenten ook Nederlands gaan spreken. Sinds eind 2018 is Google Home, de concurrent van Amazon Echo, in Nederland verkrijgbaar. Toch heeft deze nog wel wat kinderziektes. Google’s assistent verstaat je regelmatig niet, een aantal koppelingen blijken niet helemaal soepeltjes te werken en Google’s assistent lijkt Nederlands en Engels regelmatig door elkaar te gebruiken.

Dat ook Alexa’s AI systeem ook nog wat problemen heeft, wordt duidelijk in het volgende filmpje. Een beetje pijnlijk, niet?

Fijn weekend!

Deel deze blog

Inspiratie nodig voor een kijkje in de toekomst van jouw organisatie?  Overweeg onze innovatie workshop!

Meer informatie