Selecteer een pagina

Prometheus’ vuur in een AI-jasje

Wat leren we van dr. Timnit Gebru, de recent ontslagen ethisch onderzoeker van Google? Ze onderzocht potentiële risico’s op het gebied van bias (ingebakken vooroordelen) door massale en potentieel moeilijk behapbare datasets. De grootte van deze modellen baarde haar voornamelijk zorgen door de ‘onhandelbaarheid’. Als ethicus stel je dan de vraag hoe autonoom je je scheppingen mag laten zijn.

Woekeren

De taalmodellen voor ML (Machine Learning) zijn in de loop der jaren enorm gegroeid en vormen de betere toekomstige winstmodellen als je kijkt naar AI. Ze maken heel snel krachtige combinaties in verschillende toepassingen en zijn in staat om te leren onder verminderd menselijk toezicht.

Foto: Genessa Panainte

Good old Stephen

Wat heel goed aangeeft wat er aan de hand is illustreert het interview met Stephen Fry waarin hij de prachtige metafoor aanhaalde kijkende naar de Griekse mythologie.  In een interview met Adriaan van Dis zegt hij: “Stel Prometheus ontwikkelt zeer indrukwekkende gerobotiseerde AI, dan zal er een vraag rijzen: geven we het vuur, geven we het een geweten? Stellen we ons dan op als Zeus en ontzeggen we AI vuur omdat we bang zijn dat het ons zal vernietigen? Ontzeggen we het het goddelijke?” Dat gesprek ging over dat ‘enge’ pitje, dat out-of-control autonome systeem. Toen de mens de doos van Pandora opende en alle ziekten en rampen eruit vlogen, was er geen weg meer terug. Wie autonoom laat scheppen moet toezicht houden. Gebru was daar al, zij wist dat het zielevuurtje al brandt en stelde terechte vragen bij bepaalde ‘scheppingen’.

 

Taalmodel is winstmodel

De modellen die Gebru onderzocht worden gebruikt voor brede toepassing in veel digitale producten van Google. Deze nieuwe mogelijkheden zijn indrukwekkend, maar experts zoals zij maken zich al langere tijd zorgen over de vooroordelen die deze krachtige modellen uit hun onderliggende trainingsgegevens kunnen halen. Dat kan gaan om ras, gender of anderszins.

Kijken wat eronder zit

Ze draaide nog wat extra stenen om in haar onderzoekspaper, zo nam ze ook het duurzaamheidsvraagstuk onder de loep over de koolstofuitstoot die gepaard gaat met het trainen van die enorme taalmodellen. Alles bij elkaar kwam haar onderzoek de leiding van Google toch niet zo uit en leidde uiteindelijk tot haar ontslag.

The WHY

Kijkend naar waarden is hier iets vreemds aan de hand: waarom laat Google zaken onderzoeken die uiteindelijk schijnbaar botsen met het businessmodel? Was Gebru een klokkenluider? Een luis in de pels? Zat ze er helemaal naast of waren de belangen te groot? Bij dit soort zaken weet je nooit het naadje van de kous. Maar het zet absoluut aan tot een kritieke stop-en-vraag-je-af-moment. Immers, je ethicus ontslaan is een apart signaal: Google zet hiermee een ‘waarommer’ buiten de deur. En ‘waarommers’ zijn juist nu hard nodig. En gelukkig komen er in bedrijven ook steeds meer.

Ik zeg het nog maar een keertje: het wordt wennen aan wenden voor bedrijven, want vragen stellen in deze moderne wereld stopt niet meer. Geld verdienen is in deze tijd nog steeds belangrijk, maar niet meer ten koste van alles. Dus: durf te luisteren naar mensen die je je blinde vlek laten zien. Gebru was daar een van.

 

Andere blogs…

Strategisch wenden of draaien?

Strategisch wenden of draaien?

De woorden ‘wenden’ en ‘draaien’ zijn synoniemen. Maar de gevoelswaarde ligt wel wat anders. Draaien lijkt een gestage...

Deel

Deel dit bericht met je netwerk