De Provincie Zuid-Holland financiert van 2021 – 2025 onderzoek naar het onderwerp ethics-by-design van de TU Delft, als onderdeel van de Kennis Zuid-Holland agenda. Hiermee onderstreept de provincie haar inzet om ethische overwegingen te integreren in technologische innovaties, vooral in experimentele fysieke omgevingen, ook wel bekend als Living Labs.
Het promotieonderzoek, geleid door Joost Mollen van de TU Delft, richt zich op de vraag hoe we op een ethische en verantwoorde manier kunnen experimenteren met nieuwe datatechnologieën. Mollen legt uit: “Data-experimenten worden steeds meer uitgevoerd in de samenleving en vormen zo een onderdeel van ons leven. We delen de openbare ruimte met zelfrijdende auto’s en misdaadvoorspellende AI. Online runnen grote tech-bedrijven constant experimenten op onwetende gebruikers en hun emoties, inkomen en romantische matches. Maar deze praktijken roepen ook ethische vragen op.”
Zulke technologische veldtesten hebben praktische waarde voor de Provincie en burgers, aangezien ze vaak maatschappelijke problemen adresseren, en voor bedrijven, door het faciliteren van innovatie. Maar ze komen ze ook met ethische uitdagingen. Het promotieonderzoek richt zich op het identificeren van specifieke ethische uitdagingen van technologisch veldonderzoek en hoe die inzichten kunnen worden geïntegreerd in veldtesten met nieuwe technologieën.
Heldere en passende ethische protocollen en extern toezicht voor onderzoekers ontbreken die dit soort veldexperimenten uitvoeren. Er bestaan grote verschillen tussen hoe we wetenschappelijk onderzoek en technologische veldtesten (ethisch) reguleren. Waar de wetenschap gebonden is aan heldere ethische protocollen en extern toezicht voor onderzoekers, ontbreekt dergelijke mechanismes voor technologisch veldonderzoek. Deze ethische lacune is problematisch, omdat deze mechanismes bedoeld zijn om de maatschappij te beschermen tegen onderzoeksmistanden. Verder kunnen verschillen in regulering tussen partijen in een publiek-private onderzoekssamenwerking leiden tot onduidelijkheid over een verdeling van morele verantwoordelijkheden.
Bestaande ethisch richtlijnen uit de onderzoeksethiek kunnen niet een op een worden overgenomen omdat deze richtlijnen zijn ontwikkeld voor onderzoek in een gecontroleerde omgeving. Technologische veldtesten vinden plaats in ongecontroleerde omgevingen. Dit introduceert specifieke fricties. Zo zijn burgers vaak niet bewust dat ze onderdeel zijn van een experiment in de fysieke ruimte en hebben ze daar ook niet altijd invloed op of controle over. Verder kunnen burgers zich lastig onttrekken van zulke experimenten zonder het testgebied te ontwijken. Zo kunnen burgers, bijvoorbeeld, niet langer een plein betreden waar een test met slimme camera’s wordt gedaan, zonder gelijk betrokken te worden in zo’n test. Dit beïnvloed de grip van burgers over hun deelname in technologische veldtesten. Daarnaast hebben de effecten van technologisch veldonderzoek in de publieke ruimte vaak een onduidelijke reikwijdte. Omdat zulk onderzoek plaatsvindt in de publieke ruimte is het vaak onduidelijk wie er binnen een experiment betrokken wordt, van wie er data wordt gevangen en wie eventueel bepaalde risico’s loopt. Zulke fricties maken het des te moreel relevanter dat we reflecteren op wat voor testen we doen in de publieke ruimte en hoe deze de maatschappij ten goede komen.
Belangrijkste Bevindingen
- Ethische Dilemma’s in Living Labs: Een van de grootste zorgen is dat het wonen in een living lab het recht van deelnemers om zich terug te trekken uit het onderzoek beperkt. Aangezien de huizen vaak de hoofdverblijfplaats van de deelnemers zijn, betekent terugtrekken uit het onderzoek vaak ook verhuizen. Dit creëert zowel financiële als psychologische problemen voor de deelnemers.
- Ontbrekende Ethische Protocollen: Er is een gebrek aan duidelijke ethische protocollen over hoe onderzoekers respectvol met mensen in technologische experimenten zouden moeten omgaan. Terwijl elk individueel onderzoek in een living lab mogelijk onderhevig is aan ethische toetsing, ontbreekt er een bredere maatschappelijke discussie over de ethische implicaties van het gebruik van living labs als onderzoeksplatform.
- Impact op Vrijwillige Deelname: Het onderzoek benadrukt dat de kosten en gevolgen van het terugtrekken uit een living lab in feite een straf vormen voor de deelnemers. Dit bemoeilijkt hun vrijheid om te stoppen met deelname aan het experiment, wat een fundamenteel ethisch principe in onderzoek is.
Mollen concludeert dat zijn onderzoek relevant is voor een breder publiek, omdat veel mensen onbewust deelnemen aan digitale experimenten in hun dagelijks leven. Het roept vragen op over hoe innovatie, bedrijven, overheden en het publiek zich tot elkaar verhouden, welke belangen zwaarder wegen, en hoe het publiek weer de controle kan krijgen over hun deelname aan onderzoek.
Implicaties voor de Provincie Zuid-Holland
Voor een regionale autoriteit zoals de Provincie Zuid-Holland, benadrukt dit onderzoek het belang van het integreren van ethics-by-design in beleid en samenwerkingen. Dit betekent dat ethische overwegingen vanaf het begin moeten worden meegenomen in het ontwerp en de uitvoering van technologische innovaties en experimenten. De provincie kan hierbij een leidende rol spelen door ervoor te zorgen dat alle betrokkenen, van kennisinstellingen tot commerciële partijen, zich houden aan strikte ethische richtlijnen. Dit waarborgt niet alleen het welzijn van de deelnemers, maar versterkt ook het vertrouwen van het publiek in nieuwe technologische ontwikkelingen.
Door dergelijke ethische waarborgen in te bouwen, kan de Provincie Zuid-Holland ervoor zorgen dat innovaties niet alleen effectief, maar ook rechtvaardig en mensgericht zijn. Dit stelt het publiek in staat om weer controle te krijgen over hun deelname aan experimenten en waarborgt dat technologische vooruitgang plaatsvindt met respect voor de rechten en waardigheid van alle betrokkenen.