Datagedreven, maar dan wel met beleid aub! #4
Bas Baumann
Waarden en het ethisch kompas
Datagedreven is hot! Datagedreven biedt geweldige kansen! Datagedreven geeft inzichten die tot nu toe onmogelijk waren! Maar er schuilt ook gevaar in datagedreven werken als je iedereen zomaar z’n gang laat gaan!
Tijdens een masterclass opleiding “Datagedreven Beleid” aan de Erasmus Academie heb ik geleerd dat het voor een organisatie bijzonder uitdagend is om goed om te gaan met datagedreven werken. In een reeks van zeven blogs wil ik mijn kijk hierop met jullie delen. In deel-3 is aan de hand van een casus van een openbaarvervoerbedrijf stilgestaan bij de veranderende relatie met de reiziger doordat er steeds meer data wordt verzameld. In blogs 4 t/m 7 uit de serie sta ik stil bij de opzet van beleid rondom het datagedreven werken.
Sturen op waarden
Het verzamelen, opslaan en verwerken van data moet uiteraard voldoen aan wet- en regelgeving. Wij mogen echter niet blindelings vertrouwen op vangnetten in onze data-technologie, ethische aspecten spelen namelijk ook een grote rol. Technologie en algoritmen hebben op zichzelf geen ethiek; mensen hebben ethiek. Onze stakeholders moeten erop kunnen vertrouwen dat de resultaten van onze data-technologie verantwoord en ethisch zijn. Daarvoor moeten wij sturen op onze waarden en principes toepassen op de ontwikkeling van onze data-technologieën[1].
Data beleid gestoeld op de waarden van de eigen organisatie is daarom nodig. Daarvoor moet je je richten op de kernwaarden en de voor de organisatie belangrijke publieke waarden. In deze blog borduur ik voort op de casus van het OV-bedrijf uit deel-3 van de serie.
De Kernwaarden definiëren de organisatie
Het OV-bedrijf heeft een paar krachtige kernwaarden geformuleerd waartegen alle keuzes en besluiten worden aangehouden t.w.:
- We brengen mensen veilig, betrouwbaar en efficiënt naar hun bestemming;
- We zijn een goede werkgever en werken mee aan economische groei en een duurzame, leefbare wereld.
Publieke waarden leiden de organisatie
Als semipublieke organisatie moet het OV-bedrijf met het gebruik van data, informatie en kennis rekening houden met relevante publieke waarden en bepalen hoe zij daarmee om willen gaan.
De belangrijkste publieke waarden die altijd meegenomen moeten worden zijn:
| Publieke waarde | Toelichting, aandachtsgebieden |
| Legitimiteit | Conformiteit met regels (rechtsgeldigheid), rechtvaardigbaarheid in termen van gedeelde overtuigingen, uitdrukkelijke toestemming |
| Transparantie | Uitlegbaar in ‘normale mensentaal’, informeren, open source, explainable by design, AVG kaders voor de mate van transparantie, publicatie CVD-beleid (Coordinated Vulnerability Disclosure) op website |
| Verantwoording (accountability) | Toezicht, controle, inzet van technologie, bekend maken van een kwetsbaarheid, verantwoordelijk zijn voor onze daden/handelingen en deze toelichten |
Daarnaast moeten afhankelijk van de context van het vraagstuk ook de volgende publieke waarden overwogen worden:
| Publieke waarde | Toelichting, aandachtsgebieden |
| Privacy | Gegevensbescherming, digitaal huisrecht, mentale privacy, afwezigheid van surveillance |
| Autonomie | Zelfbeschikking, keuzevrijheid, vrijheid van meningsuiting, bescherming tegen manipulatie, afwezigheid van paternalisme |
| Veiligheid | Informatieveiligheid, bescherming tegen identiteitsfraude, fysieke veiligheid |
| Rechtvaardigheid | Bescherming tegen discriminatie, uitsluiting en stigmatisering, gelijke behandeling |
| Controle over technologie | Inzicht in algoritmen, mogelijkheid tot menselijk ingrijpen, voorspelbaarheid, verantwoordelijkheid van leveranciers en gebruikers |
| Menselijke waardigheid | Bescherming tegen dehumanisatie, instrumentalisering, de-skilling, de-socialisatie en werkeloosheid |
| Machtsevenwicht | Bescherming tegen oneerlijke concurrentie en uitbuiting, consumenten-bescherming, voorkomen van monopoliseren van kennis, rekening houden met informatie-asymmetrie |
| Transparantie | Uitlegbaarheid, controleerbaarheid, openheid |
| Gezondheid | Rekening houden met korte en lange termijn gevolgen voor de mentale en fysieke gezondheid van betrokkenen |
Inzet van een ethisch kompas
Inzet van een ethisch kompasOm te kunnen sturen op waarden kan een Ethisch Kompas[2] gehanteerd worden dat gestoeld is op de kern- en publieke waarden. In 7 stappen wordt de data-vraag onderzocht en kan een weloverwogen besluit worden genomen. Het onderzoek moet antwoord geven op de kernvraag: Moeten wij de voorgestelde dataverwerking als organisatie willen en zo ja onder welke voorwaarden?
De 7-stappen in het kort:
- Benoem de bij de data-vraag belangrijkste relevante publieke waarden
- Formuleer de ethische vraag die wij ons moeten stellen
- Verzamel de eerste reacties
- Formuleer argumenten voor én tegen
- Weeg de argumenten
- Formuleer het antwoord
- Evalueer
In deel-5 van deze serie ga ik in op een reeks organisatorische constructen die nodig zijn bij het doelgericht en verantwoord omgaan met en waarde creëren uit (big) data en de uitdagingen daarbij.
Take-away “Architectuur & Datagedreven werken”
Kernwaarden definiëren de organisatie, publieke waarden leiden de organisatie. Zorg ervoor dat de architectuur zo is ontworpen dat vragen m.b.t. de legitimiteit, transparantie en verantwoording (accountability) over het datagebruik eenvoudig kunnen worden beantwoord. Een Ethisch Kompas zal zeer behulpzaam zijn bij het bepalen van de richtinggevende uitspraken die je kunt gebruiken in je architectuur.
[1] Buren van, E.; Austin, T. (2021). Developing and deploying trustworthy AI in Government. Deloitte
[2] www.kennisnet.nl/artikel/6575/laat-waarden-zwaarder-wegen-bij-digitalisering/
