Data en algoritmen, nagel aan je doodskist?

Het lijkt wel of de media ons dagelijks een nieuw bericht presenteren over oneigenlijk gebruik van data en algoritmen. De gevolgen zijn vaak ingrijpend door vooringenomenheid, discriminatie en geautomatiseerde vooroordelen die individuen en steeds vaker hele groepen burgers raken. Wat mij daarbij opvalt is dat in veel gevallen het met een aantal goed doordachte maatregelen voorkomen had kunnen worden. 

Het werken met algoritmen is niets nieuws, wel worden algoritmen steeds breder ingezet en nieuwe technologieën toegepast zoals machine-learning en kunstmatige intelligentie. Daarmee lijkt het dat de mens steeds minder grip heeft op wat er ‘achter de schermen’ met de data gebeurd en dat er weinig sturing wordt gegeven aan het correct toepassen van de uitkomsten. 

In een eerdere serie blogs ben ik ingegaan op wat er allemaal komt kijken bij het verantwoord omgaan met Datagedreven werken. Het lijkt erop dat bij veel ‘data ongelukken’ essentiële aspecten die ik beschreef te weinig aandacht hebben gekregen of geheel ontbreken. Aan de hand van zeven observaties licht ik dit toe.

1.    We denken dat we op de oude voet door kunnen gaan

Om verantwoord met de heel veel data en nieuwe technologieën te kunnen werken moet de (data) architectuur nauwgezet onder de loep worden genomen. Wat zijn de gevolgen voor de data huishouding? Hoe gaan we om met de enorme hoeveelheden data die verzameld worden? Wat doen we ermee en wat ook pertinent niet? Hoe verantwoorden we wat we met de data hebben gedaan? Of te wel, wij moeten ons als organisatie nieuwe kaders stellen om verantwoord met data te kunnen werken.

(zie ook “Technologische, ethische en beheer aspecten”)

2.    Bestaand beleid volstaat niet meer

Zorg dat je in je architectuur naast omgaan met data ook aandacht geeft aan de governance rondom het gebruik van algoritmen. Wie maakt ze? Wie bepaalt of ze voldoen aan wet- en regelgeving? Wie controleert ze? Hoe leggen we hierover verantwoording af? Welke data mogen wel en niet gebruikt worden? Wie is eigenaar van de nieuw gecreëerde data? Vaak zijn deze zaken onderbelicht en is het wachten op foute conclusies, vooroordelen, discriminatie en vooringenomenheid met alle schadelijke gevolgen van dien.

(zie ook “Data, algoritmen en de relatie met derden”)

3.    Gewijzigde maatschappelijke eisen dringen niet door

Wanneer een organisatie meer met data en algoritmen wil gaan werken, moet de strategische / ethische koers met betrekking tot data-gedreven diensten vastgesteld worden. De IT infrastructuur moet vervolgens passend gemaakt worden, een relatief eenvoudige opgave vergeleken met de business/ethische aspecten. Denk daarbij aan het inzichtelijk krijgen van de maatschappelijke eisen & wensen die de omgeving waarin je gaat opereren aan je zal stellen om met hun gegevens te mogen werken. Ook de business architectuur moet aandacht geven aan wat organisatorisch/juridisch ingericht moet worden zoals nieuwe competenties, interne samenwerking, kennis over de grenzen van het toelaatbare, kaders stellen bij de data-gedreven diensten, toestemming vragen en registreren, toezicht, etc.

Eén fout kan verstrekkende gevolgen hebben voor het vertrouwen in je organisatie en je datagedreven ambities in de kiem smoren.

(zie ook “Maatschappelijke-, organisatorische- en technologische overwegingen”)

4.    Er wordt vooraf niet nagedacht over het achteraf afleggen van verantwoording

Zorg dat je in staat bent vragen m.b.t. de legitimiteit, transparantie en verantwoording (accountability) over het datagebruik eenvoudig te beantwoorden. Een Ethisch Kompas zal zeer behulpzaam zijn bij het bepalen van de richtinggevende uitspraken die je kunt gebruiken in de data architectuur.

(zie ook “Waarden en het ethisch kompas”)

5.    Essentiële organisatorische constructen lijken te ontbreken

Zijn er wel organisatorische constructen neergezet die faciliteren om op structurele wijze aandacht aan het gebruik van data te schenken? Denk daarbij aan zaken als “Normen met betrekking tot data”, “Infrastructuur voor data gedreven diensten”, “Toezicht en controle op het gebruik van data” en “Kaders met betrekking tot transparantie en draagvlak”. Als architect heb je de rol om de organisatie hierop te wijzen en een drijvende kracht te zijn achter het tot stand laten komen ervan. Deze constructen geven jou als architect vervolgens richting en duiding voor de passende organisatie inrichting en informatievoorziening. Zeker als het gaat om het vermogen om met weinig inspanning te kunnen reageren op verzoeken tot openbaring over het gebruik van data, recht om vergeten te worden, etc.

(Zie ook “Noodzakelijke organisatorische constructen”)

6.    De Data organisatie is niet goed ingericht

Technologie krijgt doorgaans de meeste aandacht bij de inrichting van datagedreven werken, maar er is veel meer dan technologie nodig om echt waarde uit data te halen. Het is een samenspel tussen ambitie en capaciteit van de organisatie en tussen beschikbaarheid en kwaliteit van de data. Daarbij hoort een zorgvuldig, multi level afgestemde data organisatie dat datagedreven werken stimuleert, de voorwaarden voor succes schept en de benodigde slagkracht organiseert. De Data architect is spin in het web en houdt overzicht, biedt inzicht in knel-/verbeterpunten, beïnvloedt het management en laat (bij)sturen waar nodig. Zowaar, geen sinecure!

(zie ook “De Data organisatie”)

7.    Er is geen inzicht in welke data hoe wordt verwerkt

Zonder Datagedreven beleid loopt een organisatie groot risico op ongecontroleerd en onnavolgbaar gebruik van data (van anderen), is er geen inzicht in welke data hoe wordt verwerkt en is de juistheid en daarmee de waarde van nieuw verkregen data niet vast te stellen. Datagedreven beleid geeft sturing op hoe met data wordt omgegaan en hoe het moet worden geïnterpreteerd en toegepast. Goed toegepaste data eigenaarschap is hierin een cruciale succesfactor, actief toezicht op het gebruik van data en algoritmen zijn daarbij vereisten.

De CDO en Data Architect moeten erop toezien dat hieraan invulling wordt gegeven en de eventuele bedrijfsrisico’s inzichtelijk maken. Zoek naar instrumenten zoals het door mij beschreven “Data Transparantiemodel” om datagedreven beleid praktisch in te richten met de nodige controle, interne en externe toezicht en verantwoording.

(zie ook “Data eigenaarschap en toezicht”)