Wat is de essentie van dit boek?
Veel bedrijven zijn nu volop bezig met digitale transformatie, met het digitaliseren van bedrijfsprocessen. Maar dat is de vorige revolutie. Ze hebben nog koudwatervrees voor de volgende stap, denk aan algoritmen en machine learning. Ondertussen komen ze om in de data. Op zich is dat mooi, maar nu gaat het erom om achterliggende patronen uit al die data te destilleren. En van daaruit vervolgens op basis van algoritmen slimme, waardevolle producten en diensten te ontwikkelen. Daarom zie ik digitalisering niet als eindstation, maar als startpunt. Ondertussen is kunstmatige intelligentie niet meer weg te denken uit het maatschappelijk debat. Tegelijk zijn er nog veel misverstanden over dit onderwerp. Ik wil daar met dit boek wat aan doen. Bijvoorbeeld door de kloof te dichten tussen de boardroom en de data-scientists die met algoritmen bezig zijn. Dus aan de ene kant beschrijf ik voor bestuurders hoe aspecten als algoritmen en machine learning nou eigenlijk werken; en aan de andere kant laat ik ontwikkelaars zien welke praktische toepassingen er zoal mogelijk zijn. Bovendien schrijf ik over de ethische aspecten van algoritmisering.
U laat ook zien dat organisaties hoge verwachtingen mogen koesteren over algoritmisering maar al enorm veel moeite hebben om, heel rudimentair, de juiste data überhaupt bij elkaar te krijgen...
Tja, dat is nou eenmaal de praktijk. Ik beschrijf in mijn boek een machine learning-experiment dat we met mijn bureau Aigency voor een ministerie hebben gedaan. Het model trainen en perfectioneren was in twee weken gebeurd. Maar voordat we zover waren! Het heeft ongeveer zes maanden geduurd om de gevraagde data in goede orde te ontvangen en écht te begrijpen. Zes maanden! En toch is dat niet eens zo lang, bij de meeste grote organisaties kan de ene afdeling niet eens bij de data van de andere afdeling... wil je digitaliseren en vervolgens algoritmiseren, dan moet je intern eerst door heel wat muren heen breken. Bij dit ministerie was ik overigens wel onder de indruk van de prudente manier waarop de ambtenaren omgingen met de privacy van hun gebruikers. Deze ambtenaren realiseerden zich heel goed dat ze als overheid onder het vergrootglas liggen en echt het goede voorbeeld moeten geven.
De wiskundige Cathy O-Neil beschrijft algoritmen als Weapons of math destruction. Ze zijn gevaarlijk omdat we niet weten wat ze doen en waar ze op gebaseerd zijn. Eens?
Soms gaat het inderdaad erg mis met algoritmen. Bekend is het voorbeeld van honderden onderwijzers in New York die opeens ontslagen werden nadat een computermodel hen had beoordeeld op hun prestaties. Daar zat een algoritme achter waarvan niet bekend was welke scores het gebruikte. Sommige van die docenten hadden juist uitstekende beoordelingen gehad, van zowel hun directie als van ouders. Het punt is dat er veel computersystemen op de markt komen die niet fatsoenlijk zijn getest. Of waarbij is doorgerekend op andere aspecten dan waarvoor ze ontworpen zijn. Boeken als die van Cathy O’Neil zijn opsommingen van situaties waarbij tech-bedrijven stomweg te snel wilden innoveren. Onder het mantra ‘fail fast’ hebben zij systemen op de markt gebracht waar gebruikers de dupe van werden. Dat mag nooit. Experimenteren doe je maar met je eigen data, niet met die van je klanten.
Dus we kunnen maar beter niet met algoritmen werken?
Nee, dat nou ook weer niet. Het betekent wel dat we algoritmen op een nette manier moeten ontwikkelen. Ik ben groot fan van de TU Delft geworden: het beeld bestaat dat zij alleen maar hele slimme ingenieurs opleidden, die puur naar technische specificaties kijken. Een misvatting. Ze werken daar volgens ‘design for values’. Daarmee bedoelen ze dat hun studenten niet alleen de techniek onder de knie moeten hebben, maar al aan de tekentafel ook de ethische aspecten moeten meewegen. Bijvoorbeeld mensen expliciet vooraf toestemming vragen om iets met hun data te doen. Privacy by design? Ja, dat is op dit moment de hippe term van dit moment. Maar in Delft doen ze dat dus al meer dan tien jaar.
U beschrijft in dit boek in detail hoe algoritmen werken, wat er onder de motorkap gebeurt. U waarschuwt tegelijk voor hypevorming.
Zeker. Bedrijven die al jaren bezig zijn met Big Data, noemen dat nu opeens artifical intelligence. Dat is de term van dit moment, dus als ze hiermee bezig zijn, zijn ze eerder verzekerd van goedkeuring van hun baas en van budget. Maar je moet voortdurend blijven letten op concrete resultaten. Overpromising beschadigt het vertrouwen in technologie en leidt tot extra vertraging.
In welke sectoren ziet u met name kansen voor algoritmisering?
In welke sector niet? Er zijn legio mogelijkheden in de zorg, denk aan het diagnosticeren van mensen. Als je nu een hartfilmpje moet laten maken, ga je naar het ziekenhuis en monitoren ze je hart twee minuten. Dat is het. Maar dat kan natuurlijk veel slimmer. In de VS levert het bedrijf iRhythm hartslagsensoren. Daarmee kan je 24/7 zelf digitaal je hartslag meten. De huisarts kan dat filmpje ter beoordeling naar collega’s mailen voor een snelle second opinion. Zo help je niet alleen de patiënt met een betere monitoring, je kunt een algoritme vervolgens duizenden van die filmpjes laten bestuderen. Zodat je hartritmestoornissen mogelijk eerder kunt voorspellen c.q. kunt voorkomen. Handig voor patiënten in afgelegen gebieden waar geen artsen wonen. Op dit soort doorbraken kun je gewoon wachten.
Worden computers ooit net zo slim als de mens?
Welnee. Dat is echt een onderschatting van de menselijke intelligentie. Mensen kunnen wel slimmer handelen, dankzij de computer. Netflix had dat destijds goed door. Een jaar of tien jaar geleden lieten zij hun klanten, dankzij de doorbraak van breedbandinternet, video’s voor het eerst streamen. Daarbij boden ze iedere kijker persoonlijke aanbevelingen, wat ze hadden afgekeken van Amazon. Daaraan lag een algoritme ten grondslag. Dat hadden ze mede laten verbeteren dankzij een competitie: teams, waar ook ter wereld, kregen gratis een enorme hoeveelheid data van kijkers van Netflix. Wie het beste de filmvoorkeuren van deze kijkers kon voorspellen, zodat je ze vervolgens betere aanbevelingen kunt geven, zou een miljoen dollar winnen. Een schijntje als je weet dat daarvoor 40.000 teams aan de slag zijn gegaan voor Netflix. Die competitie werd een groot succes, het winnende aanbevelingssyteem is naar schatting nu een miljard dollar waard. Netflix surfde dus mee op de menselijke intelligentie. Dat vind ik een erg charmante, gave manier om te innoveren.
Over Paul Groothengel
Paul Groothengel is freelance journalist.
