Overslaan en naar hoofdinhoud gaan

Design & Technology maart 22, 2018

Zijn vrouwen kwaadaardig? Over de mindere kanten van algoritmes

Image

Veel van onze vooroordelen zijn onbewust en daarom veelal onzichtbaar. En ze blijven onzichtbaar totdat we algoritmes maken, deze vullen met een hoop testdata en de uitkomsten bestuderen. Tijdens SXSW werd pijnlijk duidelijk wat algoritmes nog niet altijd politiek correct zijn.

We willen graag dat jij gaat werken aan een artikel over het groeiend aantal middelbare mannen zonder vrienden.’ Met deze opdracht werd Billy Baker vorig jaar door Boston Globe op pad gestuurd. ‘Huh? Why me? Baker besloot met het artikel te bewijzen dat hij echt wel vrienden heeft. Maar de ‘echte’ ontmoetingen met vrienden waren eigenlijk op één hand te tellen. Was hij dan toch eigenlijk een eenzame loser?

De rol van vrouwen in onze maatschappij was een terugkerend onderwerp bij SXSW 2018. En niet alleen de gelijkheid der geslachten, elke vorm van gelijkheid was een populair onderwerp. Beroemdheden als Bernie Sanders, Bozoma Saint John (Chief Brand Officer bij Uber) of Margaret Stewart (VP of Design bij Facebook) omschreven uitgebreid dat zowel hun bedrijven als zijzelf vooral geloven in gelijke rechten voor iedereen.

Het blijkt dat het antwoord voor “Are women evil” beantwoord wordt door Google met een “ja”. Dit rare antwoord is al recht gezet.

Helaas zijn veel van onze vooroordelen onbewust en daarom veelal onzichtbaar. En ze blijven onzichtbaar totdat we algoritmes maken, deze vullen met een hoop testdata en de uitkomsten bestuderen. Vaak komen onze onbewuste vooroordelen dan boven drijven. Dat dit pijnlijk kan zijn, illustreert de screenshot hierboven van de zoekopdracht naar “Are women…”

Algoritmes hebben het soms moeilijk met, op het oog, makkelijke taken.

Als algoritmes slimmer worden en gebundeld worden, dan komen ze dichtbij AI. Maar de meeste algoritmes worden nog ingezet voor specifieke afgebakende taken en maken nog steeds veel fouten. Geavanceerde beeldherkenning-algoritmes hebben nog steeds problemen met het uit elkaar houden van Donald Trump en rauw kippenvlees, of muffins en chihuahua’s.

Josh Clark van Big Medium legt uit in zijn inspirerende presentatie dat het belangrijkste euvel van search algoritmes is dat ze altijd het antwoord presenteren, ook al weten ze het eigenlijk niet zo zeker.

Onze eigen chatbot voor a.s.r. had ook wat opstartproblemen, maar zodra er genoeg testdata ingevoerd was schoot de NPS score omhoog.

Gelukkig biedt Josh ons 10 principes om op te letten wanneer we ontwerpen voor algoritmes:

  1. Nauwkeurigheid boven snelheid: soms is het beter een paar seconden langer te wachten. De huidige trend met veel smart home apparaten is dat het antwoord er vooral snel moet zijn, ten koste van de kwaliteit van het antwoord. Het zou moeten zijn: het beste antwoord ook al duurt dat wat langer. En ja, dat gaat soms ten koste van je search ranking.
  2. Onzekerheid is ok: maak systemen en algoritmes slim genoeg dat zodat ze weten dat ze niet slim genoeg zijn. Maak ze slim genoeg om hulp te vragen; om de gebruiker te melden dat ze het niet zeker weten; of dat ze meer input nodig hebben.
  3. Voeg de mens toe: Ontwerp een systeem dat een menselijk oordeel vraagt wanneer er onzekerheid is over de nauwkeurigheid van een antwoord; net als bij de Wikipedia pagina’s die gemarkeerd staan als disputed.
  4. Shit in shit out: de kwaliteit van een algoritme hangt sterk af van de test data dat erin gaat. Zorg ervoor dat deze zo objectief mogelijk is, zodat je niet voor verassingen komt te staan wanneer je zeeppompje het alleen doet bij blanke handen.
  5. Open data: Maak het je gebruikers gemakkelijk om data toe te voegen om het algoritme te verbeteren, maar zorg er ook voor dat ze eigenaarschap over deze data blijven behouden.

Laatste punt: wees aardig voor elkaar. Zorg ervoor dat machines geen keuzes voor ons maken. Of zoals Josh zegt: The future should not be self-driving.

p.s. Nee, vrouwen zijn niet kwaadaardig.

We kennen het allemaal. Doordeweeks druk met werk, dagelijkse rituelen; in het weekend bijslapen, beetje Netflixen, hopelijk wat tijd doorbrengen met partner en familie en dan weer aan het werk. Ga zelf maar eens na; hoe vaak zie je je vrienden nu echt? Even Instagram checken, via Facebook je oude schoolvriend feliciteren, een appje sturen.

Het lijkt alsof we iedereen binnen handbereik hebben. Maar al die tijd die we spenderen achter het beeldscherm zorgt voor nog minder échte ‘friend time’. Voor nog minder èchte connecties. En daar worden we niet gelukkig van. 

Steed meer eenzame mensen

Althans, onderzoek wijst uit dat een groeiend percentage van de mensheid zich eenzaam voelt. Er zijn zelfs onderzoekers die beeldschermverslaving een groter probleem voor de volksgezondheid noemen dan roken. Velen verwaarlozen vriendschappen naarmate ze ouder worden en hun leven drukker wordt. Daarbij heerst nog steeds een taboe op eenzaamheid. We willen het liever niet toegeven, vooral niet aan onszelf.

Baker is één van de panelleden tijdens het gesprek over technologie en eenzaamheid tijdens SXSW 2018. Deze sessie staat onder leiding van Amy Blankson (foto), expert op het gebied van positive psychology en technology. Volgens Blankson openen we op een dag zo’n 150 keer onze telefoon en elke ‘escape’ slurpt een deel van onze dag op.

Onderzoek wijst uit dat voor het internet tijdperk ongeveer 20% van de mensen zich eenzaam voelde, inmiddels is dit opgelopen tot 40%. Mensen met een sterke ‘inner circle’ daarentegen blijken juist gelukkiger worden van social mediagebruik. Zijn er niet manieren om tech in te zetten om ons juist minder eenzaam te voelen?

Startup voor eenzame ouderen

Die vraag wordt gesteld door Anika Kumar van Forget me not. Kumar is pas zeventien en heeft een slimme startup voor eenzame ouderen opgericht. Zij kunnen zich via haar service aanmelden voor een wekelijks belletje van een half uur met een vrijwilliger. Supersimpel en enorm effectief.

Panellid Shawn Boyer merkt op dat waar we in ons werk heel goed zijn in het plannen van doelen, dit erbij lijkt in te schieten als het gaat om ons persoonlijke leven. Terwijl het ‘schedulen’ van face-to-face meetings de beste remedie is voor het verdiepen van vriendschappen. Met zijn startup goHappy maakt hij die ontmoetingen realiteit.

Een standaard moment in de week aanmerken als ‘friend-time’. Het klinkt bijna te makkelijk en misschien zelfs een beetje burgerlijk. Echter, volgens onderzoekers is alleen al de intentie van het verbeteren van je vriendschappen goed voor je gezondheid. Woensdagavond samen een hapje eten?

Meer weten? Wij helpen je graag!