Zes misverstanden over algoritmes

Misverstand 1: Nederland loopt voorop met AI

Echt? Als we de onderzoekers van Microsoft en EY mogen geloven, loopt Nederland met AI voor op de rest van Europa. Nederland zou behoren tot de landen met de hoogste fase van volwassenheid op het gebied van AI-projecten. 37 procent van de onderzochte Nederlandse organisaties werkt aan AI-initiatieven die daadwerkelijk in productie zijn genomen of die zich in een geavanceerde fase bevinden. De adoptie van machine learning, neurale netwerken en deep learning zou in ons land al op rolletjes lopen.

Bestuurders zijn alert

Van de overige Nederlandse bedrijven bevindt 45 procent zich in de vroege fase van een pilotproject en maakt 9 procent momenteel plannen om aan de slag te gaan met AI. Ook in de Nederlandse boardroom zijn bestuurders alert. AI staat iets vaker bij het C-levelmanagement op de agenda dan in andere landen. Als we echter inzoomen op het onderzoek, valt daar het nodige op af te dingen. EY ondervroeg 277 organisaties in vijftien Europese landen in verschillende sectoren, waaronder life sciences, finance, services, retail, media/entertainment & telecom en technologie.
De Artificial Intelligence training In deze interactieve AI training van één dag leer je als manager, directeur, controller of bestuurder alle belangrijke facetten van Artificial Intelligence kennen en ga je begrijpen hoe je AI met succes kan toepassen in jouw eigen organisatie. Deze Artificial Intelligence masterclass met Daan van Beek leert je ook om te gaan met de belangrijkste ethische dillema's, risico's en te sturen op de succesfactoren.bekijk de Artificial Intelligence training

Bedrijven met diepe zakken

Er zijn echter maar 22 Nederlandse bedrijven in het onderzoek betrokken en dan met name grotere beursgenoteerde bedrijven zoals Randstad, Philips en Wolters Kluwer. Bedrijven met diepe zakken. Niet echt representatief voor het totale bedrijfsleven dus. Bovendien is het investeringsniveau niet om over naar huis te schrijven. In Nederland werd door de onderzochte bedrijven in de afgelopen tien jaar rond de 40 miljoen euro geïnvesteerd in AI-startups. Aanzienlijk minder dan koplopers Frankrijk en Duitsland die overigens wel meer inwoners tellen.

Braindrain

Tegelijkertijd dreigt er een “braindrain” bij Nederlandse universiteiten. Docenten Kunstmatige Intelligentie zouden massaal naar het buitenland vertrekken, zo waarschuwt het innovatiecentrum ICAI. “Nederland was er vroeg bij waar het gaat om de ontwikkeling van AI-kennis, maar we verliezen momentum”, zo waarschuwt AINED. Het samenwerkingsverband, dat onder meer wordt ondersteund door de Boston Consulting Group (BCG), pleit onder meer voor een nationale AI-strategie. De meeste landen, ook in Europa, hebben al zo’n AI-strategie gedefinieerd; Nederland niet. De Duitse regering wil tot 2025 drie miljard euro investeren in kunstmatige intelligentie. Kortom: Nederland is dus eerder hekkensluiter dan koploper.

Misverstand 2: Het zal mijn tijd wel duren

No way. Algoritmes en big data worden allang niet meer uitsluitend toegepast door webwinkels, social media en streamingdiensten zoals Netflix. De Belastingdienst, UWV en DUO overwegen big data te gebruiken om fraude op te sporen. Algoritmes nemen de beurshandel over. In de precisielandbouw voorspellen en optimaliseren GPS, sensortechnologie, robots en drones de oogst. In de zorg helpen algoritmes ziektes te voorspellen en stellen zij diagnoses. In de openbare ruimte voorspellen camera’s en sensoren waar burgers ongewenst gedrag dreigen te vertonen (‘spoorlopers’, vernieling, inbraak). In de logistiek helpt software met het beter plannen en combineren van goederenstromen, beschikbare vrachtwagens en chauffeurs. Het Amsterdamse bedrijf Harver automatiseert een deel van het werk van recruiters.

AI optimaliseert

Zo maakt een zelflerend algoritme een voorselectie van geschikte kandidaten. Kortom: AI en robots zijn voor elk bedrijf een manier om het bedrijfsproces te optimaliseren, zo stelt het Rathenau Instituut ook in het inventariserende rapport Robotisering en automatisering op de werkvloer. De digitale revolutie heeft ook de industrie allang bereikt. Nieuwe diensten als onderhoud-op-afstand, predictive maintenance en slimme datamodellen zijn volledig gebaseerd op digitale data-inzameling en -analyse van het productieproces. Zowel softwaretoepassingen als fysieke robots maken gebruik van kunstmatige intelligentie.

Internet of Things

Het Industrial Internet of Things zal volgens onderzoekers van ABN Amro een hoge vlucht nemen. In 2017 waren wereldwijd al zo’n negen miljard actieve apparaten met elkaar verbonden via het Internet of Things. In 2025 zou de teller wel eens op circa 55 miljard stuks kunnen staan, zo schat BI Intelligence in. Predictive maintenance, het inzetten van regressieanalyse om te voorspellen wanneer bijvoorbeeld een machine of een onderdeel aan vervanging toe is, maakt zijn beloften ook aantoonbaar waar, zo melden onderzoekers van PwC. 95 procent van de bedrijven meldt positieve resultaten. De uptime van machines nam gemiddeld negen procent toe, terwijl het aantal visuele inspecties drastisch omlaag kon.

Misverstand 3: Vadertje staat waakt over ons

Vergeet het maar! Bij het digitaal communiceren door de overheid staat het gemak van het functioneren van de overheid voorop. Daar bestaat geen misverstand over. Overheidsorganen staan nog onvoldoende stil bij de gevolgen van digitalisering voor de verhouding tussen de overheid en de burger, zo waarschuwde de Raad van State onlangs nog. De burger mag niet in de knel komen door een digitaliserende overheid. Overheidsorganen gebruiken steeds vaker computers om besluiten voor hen te nemen. Deze besluiten komen tot stand door het gebruik van geautomatiseerde beslisregels, oftewel algoritmes, die volautomatisch besluiten nemen zonder menselijke tussenkomst. Burgers kunnen dan niet meer nagaan welke regels de overheid toepast en welke gegevens zij voor een besluit gebruikt. De Raad van State adviseert daarom om scherp te letten op een goede motivering van besluiten. Daarbij moet duidelijk zijn welke beslisregels de overheid heeft toegepast en wat de bron is van de ingevoerde gegevens.

Algoritme-waakhond slaat aan?

Het gebruik van algoritmes is niet zonder problemen. Zo is voor niet-ICT-specialisten niet mogelijk te controleren of de omzetting van algoritmes in een programmeertaal foutloos en nauwkeurig is gegaan. Regels in een natuurlijke taal kunnen lang niet altijd een-op-een worden vertaald in een algoritme. Tot slot bepaalt de AVG dat geautomatiseerde besluitvorming (inclusief profilering), zonder menselijke tussenkomst, in beginsel niet is toegestaan. D66 is er niet gerust op en stelde een Actieplan voor Kunstmatige Intelligentie op, waarin de politieke partij onder meer oproept tot het instellen van een “algoritme-waakhond” die elk algoritmesysteem, inclusief de datasets, moet gaan controleren. Onrealistisch en onwerkbaar lijkt mij. Ook zouden er ethische richtlijnen moeten komen. Daar valt wel veel voor te zeggen.

Misverstand 4: AI en big data zijn alleen relevant voor grote bedrijven

Nonsens. Big data staat onvoldoende op de radar van het Nederlands mkb, zo blijkt uit recent onderzoek van Kantar TNO in opdracht van ABN Amro. Meer dan zes op de tien Nederlandse mkb’ers vindt big data niet relevant voor het functioneren van hun bedrijf. Het mkb laat door deze onverschillige houding een groot omzet- en winstpotentieel braak liggen. Big data kan helpen bij het snel nemen van beslissingen. Data-analyse biedt het mkb beter inzicht in klantgedrag, het leidt tot efficiëntere productieprocessen en heeft de potentie om kansen te creëren die vergelijkbaar zijn met die van grotere ondernemingen, aldus de onderzoekers.

Size matters

Schaalgrootte speelt wel een belangrijke rol: hoe groter het bedrijf, des te meer big data wordt gezien als toegevoegde waarde. Zo ziet 48 procent van het kleinbedrijf weinig toegevoegde waarde in big data, terwijl dit bij de bedrijven met 50 tot 250 werknemers slechts 21 procent is. Gebrek aan prioriteit, kennis of informatie over big data vormen volgens de onderzoekers de grootste hindernissen voor het mkb om aan de slag te gaan met big data.

Misverstand 5: Algoritmes nemen de macht over

Onzin. Mensen zijn en blijven verantwoordelijk voor het programmeren en (waar nodig) trainen van algoritmes. Algoritmes zijn daarmee primair menselijke creaties, aldus de auteurs van ‘Algoritmes en grondrechten’. Het belang van de door mensen gemaakte keuzes in de ontwerpfase van algoritmes kan volgens hen nauwelijks worden onderschat, onder meer omdat deze keuzes doorwerken in de analyse en de uiteindelijke uitkomst van de analyse. De gevleugelde uitspraak ‘Technology is neither good nor bad; nor is it neutral’ geldt ook voor algoritmes. Ondanks de ‘belofte’ van algoritmische objectiviteit kunnen algoritmes wel op vele manieren blijk geven van subjectiviteit.

Algoritmes zijn bevooroordeeld

Doordat algoritmes menselijke constructen zijn, kunnen de vooroordelen en waarden van programmeurs of opdrachtgevers van programmeurs worden ingebed in algoritmes. Zo kunnen de algoritmes die worden ingezet in het kader van het prioriteren van zoekresultaten of nieuwsberichten, waarden bevatten die politiek gekleurd of anderszins niet-neutraal zijn. De oefendata waarmee een zelflerend algoritme wordt getraind, kunnen eveneens biases bevatten die bepalend zijn voor de uitkomsten van het algoritme. Eenzijdige data brengen eenzijdige resultaten voort. In een artikel over het gevaar van algoritmes spreekt universitair hoofddocent ICT-Recht aan de Universiteit Leiden Bart Schermer over “vooringenomen data”. KPMG signaleert een zekere wildgroei in het gebruik van algoritmes.

Mensen houden controle

Dat betekent dat organisaties maatregelen moeten treffen om het gebruik van deze algoritmes in goede banen te leiden. Anders ligt reputatieverlies op de loer. “Je kunt de verantwoordelijkheid voor falende algoritmes niet zomaar bij de techneuten neerleggen.” Kortom: algoritmes zijn machtige wapens in handen van mensen. Catelijne Muller, rapporteur voor kunstmatige intelligentie (AI) bij de EU vindt dat we de risico’s van AI onder ogen moeten zien. Zij pleit voor richtlijnen. “Machines blijven machines en mensen zullen te allen tijde controle over machines moeten houden.” De initiatiefnemers van Open AI pleiten voor transparantie en promoten het veilige gebruik van kunstmatige intelligentie.” AI moet vooral ten goede komen aan de mensheid.”

Misverstand 6: Mens en machine zijn elkaars vijanden

Integendeel. Mens en machine worden goede collega’s. In de nabije toekomst zal de mens bij bepaalde taken samenwerken met de computer. Zij zullen elkaar zo veel mogelijk aanvullen, zo signaleert het Rathenau Instituut in ‘Werken aan de robotsamenleving’. Denk bijvoorbeeld aan een dokter die geholpen wordt door een softwareprogramma bij het stellen van een diagnose. Ook Duitse onderzoekers gaan uit van verschillende vormen van complementaire samenwerking tussen mens en machine, bijvoorbeeld een vorm waar de mens de machine instrueert tot aan gelijkwaardige vormen van samenwerking (“de robot als collega”).

Robots leren menselijke waarden

Stuart Russell, hoogleraar computerwetenschappen UC Berkeley en oprichter Center for Human-Compatible AI, gelooft vooral in een set strakke afspraken tussen mens en machine. Een computer of robot weet namelijk niet op voorhand wat de menselijke waarden en bedoelingen zijn. Value alignment zou ervoor moeten zorgen dat de algoritmes en robots “niet op hol slaan” en onze maatschappij opzadelen met maatschappelijke ongewenste effecten of zelfs schadelijke producten en diensten.