Ethiek: tot waar zijn wij als softwareontwikkelaars verantwoordelijk?

Gisteren berichtte de NOS over het gebruik van countdown timers en de misleiding die ermee gepaard kan gaan. Dat zorgde intern voor de nodige discussie: in hoeverre zijn wij als softwareontwikkelaars verantwoordelijk voor de dingen waar onze software voor gebruikt wordt?

Misleiden van consumenten mag niet

De NOS kopte gister een artikel met de naam 'Over 3 uur verloopt deze aanbieding': webshops misleiden met aftelklokje. De Autoriteit Consument & Markt (ACM) waarschuwt voor webshops die beweren dat een aanbieding vervalt na een bepaalde tijd, terwijl dat in werkelijkheid niet het geval is. Bij 10KB implementeren we met regelmaat countdown timers op webshops, waarbij onze klanten zelf kunnen bepalen welke informatie in de timer weergegeven wordt en welke gevolgen het verlopen van de benoemde tijd heeft. Technisch gezien zijn deze implementaties voor ons relatief eenvoudig, maar in hoeverre zijn we verantwoordelijk voor de inhoud van onze implementaties? Wat als onze creaties gebruikt worden voor illegale of onethische zaken?

Waar ligt de grens?

We maken software die bedrijven helpt succesvol te zijn. Daarin denken we mee in technische specificaties, nemen we kennis uit andere branches mee en proberen we een zo efficiënt mogelijk eindproduct te maken. In 'de extremen' is het voor ons heel duidelijk waar we wel en niet bij betrokken willen zijn. Zo is er geen enkel vraagstuk of we een calculatietool zouden maken voor een wapenhandelaar: we werken niet mee aan illegale praktijken. Maar zo zwart-wit is het in veel gevallen natuurlijk niet.

Verschillende facetten

Eigenlijk vinden we zo'n timer heel onschuldig, er zijn namelijk veel meer 'dark patterns' met veel meer impact. Er zijn genoeg onderwerpen waar we overwegingen kunnen maken op ethisch gebied. Zoals privacy, waarbij we ons moeten afvragen welke gegevens worden verzameld, hoe ze worden opgeslagen en met wie ze worden gedeeld (denk bijvoorbeeld aan onzichtbare tracking en cookie-walls die gewoon nog cookies doorlaten). Ook veiligheid is een belangrijk aspect, aangezien zwakke punten in software kunnen leiden tot datalekken en schadelijke aanvallen. Discriminatie, waarbij door vooringenomen algoritmes ongelijkheid wordt versterkt. Bovendien kan software, zelfs met legitieme doeleinden, negatieve sociale impact hebben, zoals verslaving of aantasting van menselijke interactie. En dan zijn we ook steeds meer bezig met de milieu-impact van software: sommige programmeertalen verbruiken meer energie dan anderen en slecht geoptimaliseerde code belast hardwarebronnen onnodig.

"Ja maar de opdrachtgever…"

Het zou voor ons natuurlijk 'lekker makkelijk' zijn om de verantwoordelijkheid af te schuiven op de bedrijven waarvoor we werken, maar we vinden dat we zelf ook een zekere verantwoordelijkheid dragen. Als we dan kijken naar de countdown timer waar het ACM het over had, kunnen we er door verschillende vragen achter komen wat precies het doel is van onze opdrachtgever en hier vervolgens eventueel in bijsturen. Daarin vinden we dat we een gedeelde verantwoordelijkheid dragen samen met alle betrokken partijen. Ontwikkelaars, bedrijven, gebruikers en beleidsmakers werken in de ideale situatie samen om ethische kwesties aan te pakken.

Conclusie

Dit soort berichten van de NOS zorgen in ieder geval weer voor pittige discussies aan de lunchtafel. Ethiek is natuurlijk niet iets waarbij je eenmalig de koers bepaalt en 'er vervolgens nooit meer over na hoeft te denken'. Ja, we willen graag mooie dingen maken, maar niet ten koste van alles. Ethiek is in ieder geval iets wat bij ons op kantoor leeft en waar we onze rol als ontwikkelaars zeer serieus nemen. Dus laten we een open dialoog blijven stimuleren en ons bewust blijven van onze maatschappelijke verantwoordelijkheid.