Moreel kompas in de wereld van big data

Eindeloze mogelijkheden worden toegeschreven aan big data en Artificial Intelligence (AI), als ware het ‘het nieuwe goud’. Maar parallel aan de nieuwe mogelijkheden nemen de zorgen over ethiek toe. Twee experts vertellen: “Ethiek in Nederland op de radar krijgen is een belangrijke uitdaging.”

‘Soms zit wetgeving in de weg’
Jennifer Rietveld-Dirksen (1972) ontwikkelde vanuit haar functie als Programmadirecteur Klantbelang bij Achmea* een moreel kompas, zodat medewerkers een juiste keuze maken als het gaat om Artificial Intelligence (AI) en big data.

“AI en big data zijn niet langer alleen een IT-onderwerp. Het raakt de hele organisatie. En vooral de klant. Alles wat technologisch kan en juridisch gezien mag; moet je dat als bedrijf willen? Hoe zit het met de normen en waarden en welke rol je in de maatschappij wilt spelen? En hoe kun je data vóór de klant laten werken? Dat zijn vragen die steeds meer organisaties zichzelf stellen. Achmea is geen uitzondering. Daarom hebben we bij Achmea een moreel kompas ontwikkeld. Met als doel ons te helpen bij het maken van keuzes. Dit kompas leunt op een aantal principes; een daarvan is inclusie voor de klant. Wij willen alle klanten behouden, ook die met een hoog risico. Met behulp van data bekijken we tegen welke voorwaarden dit mogelijk zou kunnen zijn. Soms zit wetgeving zoals de AVG in de weg. Een voorbeeld: een miljoen kinderen in Nederland gaan niet naar de tandarts.Terwijl tandverzorging tot achttien jaar standaard in de basisverzekering zit. Veel ouders weten dit niet. Wij wilden ouders aanschrijven om ze daarop te wijzen. Maar van de Autoriteit Persoonsgegevens (AP) mag dat niet. Wij zijn in gesprek gegaan met de AP en hebben onze intentie duidelijk gemaakt. Met als resultaat dat we deze groep nu wél mogen aanschrijven. Goed dat er een wet is omdata misbruik te voorkomen, maar er zijn altijd nuances. Het is niet zwart-wit als het gaat om ethische morele dilemma’s. De wet kan nooit de snelheid van alle technologische ontwikkelingen bijhouden. Daarom moet je een eigen moreel kompas volgen. Wellicht meer geënt op de intentie van de wet in plaats van de net niet meer actuele letter. De overheid zal de wet moeten bijhouden, maar zal uiteindelijk veel meer appel moeten doen op het moreel van bedrijven.”

*Jennifer Rietveld is sinds 1 september senior manager Intermediaire Regie & Distributie bij Centraal Beheer

‘Ethiek in Nederland op de radar krijgen’
Abbas Shahim (1964) is Global Head of Digital Compliance bij Atos en hoogleraar IT Auditing aan de VU Amsterdam. Sinds 2008 werkt hij bij het IT-bedrijf waar ethiek vanaf dag één is ingebed in de dienstverlening.

'Denk niet vanuit je product, maar vanuit een service om dat product heen.’ Dat adviseren we klanten die willen weten hoe ze data voor hun dienstverlening kunnen laten werken. Stel, je verkoopt vliegtickets. Het fysieke product, vliegen van A naar B, wordt aangeboden door meerdere luchtvaartmaatschappijen en is niet exclusief. Maar als dit gegeven de omstandigheden tot de mogelijkheden behoort, kan op basis van de passagierslijst ervoor worden gezorgd dat het cabinepersoneel de meest voorkomende talen spreekt. Dan is de geboden service wel exclusief. Steeds meer bedrijven zullen zich op die manier door middel van het gebruik van data gaan onderscheiden. Data krijgen dus een steeds grotere rol in onze maatschappij. Dat brengt ook ethische risico’s met zich mee. Ethiek is belangrijk in de dienstverlening van Atos. We werken met een Scientific Community. Dat is een groep topwetenschappers, ingenieurs en vooruitstrevende denkers die zich bezighoudt met dit soort vraagstukken.We starten onze dienstverlening altijd met vier standaardvragen: is het veilig, voldoet het aan wet- en regelgeving, is privacy gewaarborgd en is het controleerbaar? Zo houden we onder meer de balans tussen data en ethiek. We kijken ook naar wat landen om ons heen doen. Engeland kent bijvoorbeeld een overheidsinstantie genaamd Office for Artificial Intelligence (AI), een onderdeel van twee departementen dat richtlijnen publiceert omtrent het ethische en veilige gebruik van deze technologie. Daar kunnen we veel van leren. Nederland heeft slechts een strategisch actieplan waarin de voornemens van het kabinet op het gebied van AI zijn beschreven. Ethiek in Nederland op de radar krijgen, is dus een belangrijke uitdaging voor de toekomst. Het gebruik van data heeft nu al veel impact op de samenleving en de ontwikkelingen gaan snel. Als we niets doen, zijn er partijen zoals Amazon, Facebook en Google die veel meer de macht krijgen, omdat ze over data beschikken die ze op disruptieve wijze kunnen inzetten in de samenleving. De vraag is of je dat moet willen.”