Bespreek de mogelijkheden
3
Datagedreven, maar dan wel met beleid aub! #4 - Solventa
Waarden en het ethisch kompas

Datagedreven is hot! Datagedreven biedt geweldige kansen! Datagedreven geeft inzichten die tot nu toe onmogelijk waren! Maar er schuilt ook gevaar in datagedreven werken als je iedereen zomaar z’n gang laat gaan!

Tijdens een masterclass opleiding “Datagedreven Beleid” aan de Erasmus Academie heb ik geleerd dat het voor een organisatie bijzonder uitdagend is om goed om te gaan met datagedreven werken. In een reeks van zeven blogs wil ik mijn kijk hierop met jullie delen. In deel-3 is aan de hand van een casus van een openbaarvervoerbedrijf stilgestaan bij de veranderende relatie met de reiziger doordat er steeds meer data wordt verzameld. In blogs 4 t/m 7 uit de serie sta ik stil bij de opzet van beleid rondom het datagedreven werken.

Sturen op waarden

Het verzamelen, opslaan en verwerken van data moet uiteraard voldoen aan wet- en regelgeving. Wij mogen echter niet blindelings vertrouwen op vangnetten in onze data-technologie, ethische aspecten spelen namelijk ook een grote rol. Technologie en algoritmen hebben op zichzelf geen ethiek; mensen hebben ethiek. Onze stakeholders moeten erop kunnen vertrouwen dat de resultaten van onze data-technologie verantwoord en ethisch zijn. Daarvoor moeten wij sturen op onze waarden en principes toepassen op de ontwikkeling van onze data-technologieën[1].

Data beleid gestoeld op de waarden van de eigen organisatie is daarom nodig. Daarvoor moet je je richten op de kernwaarden en de voor de organisatie belangrijke publieke waarden. In deze blog borduur ik voort op de casus van het OV-bedrijf uit deel-3 van de serie.

De Kernwaarden definiëren de organisatie

Het OV-bedrijf heeft een paar krachtige kernwaarden geformuleerd waartegen alle keuzes en besluiten worden aangehouden t.w.:

  • We brengen mensen veilig, betrouwbaar en efficiënt naar hun bestemming;
  • We zijn een goede werkgever en werken mee aan economische groei en een duurzame, leefbare wereld.
Publieke waarden leiden de organisatie

Als semipublieke organisatie moet het OV-bedrijf met het gebruik van data, informatie en kennis rekening houden met relevante publieke waarden en bepalen hoe zij daarmee om willen gaan.

De belangrijkste publieke waarden die altijd meegenomen moeten worden zijn:

Publieke waarde Toelichting, aandachtsgebieden
Legitimiteit Conformiteit met regels (rechtsgeldigheid), rechtvaardigbaarheid in termen van gedeelde overtuigingen, uitdrukkelijke toestemming
Transparantie Uitlegbaar in ‘normale mensentaal’, informeren, open source, explainable by design, AVG kaders voor de mate van transparantie, publicatie CVD-beleid (Coordinated Vulnerability Disclosure) op website
Verantwoording (accountability) Toezicht, controle, inzet van technologie, bekend maken van een kwetsbaarheid, verantwoordelijk zijn voor onze daden/handelingen en deze toelichten

Daarnaast moeten afhankelijk van de context van het vraagstuk ook de volgende publieke waarden overwogen worden:

Publieke waarde Toelichting, aandachtsgebieden
Privacy Gegevensbescherming, digitaal huisrecht, mentale privacy, afwezigheid van surveillance
Autonomie Zelfbeschikking, keuzevrijheid, vrijheid van meningsuiting, bescherming tegen manipulatie, afwezigheid van paternalisme
Veiligheid Informatieveiligheid, bescherming tegen identiteitsfraude, fysieke veiligheid
Rechtvaardigheid Bescherming tegen discriminatie, uitsluiting en stigmatisering, gelijke behandeling
Controle over technologie Inzicht in algoritmen, mogelijkheid tot menselijk ingrijpen, voorspelbaarheid, verantwoordelijkheid van leveranciers en gebruikers
Menselijke waardigheid Bescherming tegen dehumanisatie, instrumentalisering, de-skilling, de-socialisatie en werkeloosheid
Machtsevenwicht Bescherming tegen oneerlijke concurrentie en uitbuiting, consumenten-bescherming, voorkomen van monopoliseren van kennis, rekening houden met informatie-asymmetrie
Transparantie Uitlegbaarheid, controleerbaarheid, openheid
Gezondheid Rekening houden met korte en lange termijn gevolgen voor de mentale en fysieke gezondheid van betrokkenen

Inzet van een ethisch kompas

Om te kunnen sturen op waarden kan een Ethisch Kompas[2] gehanteerd worden dat gestoeld is op de kern- en publieke waarden. In 7 stappen wordt de data-vraag onderzocht en kan een weloverwogen besluit worden genomen. Het onderzoek moet antwoord geven op de kernvraag: Moeten wij de voorgestelde dataverwerking als organisatie willen en zo ja onder welke voorwaarden?

De 7-stappen in het kort:

  1. Benoem de bij de data-vraag belangrijkste relevante publieke waarden
  2. Formuleer de ethische vraag die wij ons moeten stellen
  3. Verzamel de eerste reacties
  4. Formuleer argumenten voor én tegen
  5. Weeg de argumenten
  6. Formuleer het antwoord
  7. Evalueer

In deel-5 van deze serie ga ik in op een reeks organisatorische constructen die nodig zijn bij het doelgericht en verantwoord omgaan met en waarde creëren uit (big) data en de uitdagingen daarbij.

Take-away “Architectuur & Datagedreven werken”

Kernwaarden definiëren de organisatie, publieke waarden leiden de organisatie. Zorg ervoor dat de architectuur zo is ontworpen dat vragen m.b.t. de legitimiteit, transparantie en verantwoording (accountability) over het datagebruik eenvoudig kunnen worden beantwoord. Een Ethisch Kompas zal zeer behulpzaam zijn bij het bepalen van de richtinggevende uitspraken die je kunt gebruiken in je  architectuur.

[1] Buren van, E.; Austin, T. (2021). Developing and deploying trustworthy AI in Government. Deloitte

[2] www.kennisnet.nl/artikel/6575/laat-waarden-zwaarder-wegen-bij-digitalisering/