Transparantie en toezicht van groot belang

Het gebruik van algoritmen tijdens de coronacrisis heeft het vertrouwen van Nederlanders in dit soort geautomatiseerde systemen flink doen toenemen. Nederlandse burgers vinden het een goede zaak dat de overheid ervoor gekozen heeft om data en computersystemen in te zetten om het verloop van Covid-19 te voorspellen. Uit de jaarlijkse Barometer ‘Vertrouwen in algoritmen’ van KPMG blijkt dat meer dan de helft positief is over het gebruik van algoritmen tijdens de crisis, slechts 10% is dat niet. “Het lijkt erop dat met het gebruik van algoritmen tijdens de coronacrisis de maatschappelijke voordelen van algoritmen bij Nederlanders veel manifester zijn geworden”, zegt Frank van Praat van KPMG’s AI in Control. Van Praat: “Toch is er nog wel werk aan de winkel als het gaat om het gebruik van algoritmen. Hoewel bijna de helft van de Nederlanders bekend is en was met de inzet van algoritmen om het verloop van het virus te voorspellen, kan de informatieverstrekking over het gebruik van de data beter. Zo’n 30% vindt dat voldoende gecommuniceerd is. Daarnaast geeft bijna 35% aan vertrouwen te hebben in de kwaliteit van de data die gebruikt worden. Bij bijna 15% ontbreekt dat vertrouwen.”

Transparantie en toezicht van groot belang
Het is volgens Van Praat duidelijk dat Covid-19 iedereen op de één of andere manier raakt. Van Praat: “De Nederlandse overheid probeert het land zo goed mogelijk te sturen, waarbij zij zich laat bijstaan door het OMT. Een team van deskundigen die onder meer op basis van beschikbare data en algoritmen complexe analyses uitvoert om het verloop van het virus te voorspellen. De data en algoritmes die het OMT gebruikt moeten van hoge kwaliteit zijn. Het is van groot belang dat hierover open en eerlijk gecommuniceerd wordt omdat het voor veel Nederlanders lastig is om hierop écht grip te krijgen. Veel Nederlanders vinden dan ook dat bij het gebruik van algoritmen in de Nederlandse samenleving transparantie over de keuzes die een algoritme maakt en het toezicht daarop een punt van aandacht blijft. Bij de politie, de overheid  en in de zorg is het vertrouwen dat een algoritme de juiste dingen doet duidelijk groter dan bij bedrijven. Zo’n 80% vindt dat moet worden toegezien op het verantwoord ontwikkelen en gebruiken van algoritmen. Iets meer dan de helft ziet hierbij een duidelijke rol weggelegd voor de overheid. Bijna 30% van de Nederlanders ziet certificering door een accountant of andere onafhankelijke partij als beste manier om het vertrouwen in het gebruik van dit soort kunstmatige intelligentie te vergroten.” Volgens Fijneman, die naast betrokkenheid bij KPMG’s AI in Control als hoogleraar IT auditing aan Tilburg Universiteit actief is, blijkt deze behoefte ook uit onderzoeksdata en lopende onderzoeken. Meer organisaties dan voorheen zoeken een standaard om hun algoritmen tegen te laten toetsen en samen met IT auditors worden deze standaarden ontwikkelt.

Bekendheid groeit langzaam
Uit het onderzoek van KPMG blijkt dat Nederlanders langzaam bekend raken met het gebruik van algoritmen in de samenleving. Van Praat: “De helft van de Nederlanders weet inmiddels wat een algoritme is. In het algemeen neemt het vertrouwen in het gebruik echter nauwelijks toe. Veel mensen zetten nog vraagtekens bij de eerlijkheid, de rechtvaardigheid en de transparantie van de beslissingen die een algoritme neemt. Daarnaast zijn er veel twijfels over het nut van het gebruik voor mens en maatschappij en zijn Nederlanders niet van plan om zich bij alle beslissingen te laten leiden door een algoritme. Ruim 30% vindt dat het gebruik van algoritmen het dagelijks leven gemakkelijker maakt. En iets meer dan 40% denkt de inzet van algoritmen kunnen helpen bij het nemen van de juiste beslissingen, zie ook de Covid-19 uitkomsten. Een kleine 30% verwacht dat algoritmen alleen worden gebruikt wanneer echte voordelen behaald kunnen worden. Maar als het gaat om eerlijkheid en rechtvaardigheid zijn Nederlanders duidelijk minder gecharmeerd van algoritmen. Niet meer dan 12% vindt dat algoritmen bijdragen aan een eerlijke en rechtvaardige wereld. En slechts 20% denkt dat het gebruik zorgt voor een veiliger en gezondere wereld en goed is voor mens een maatschappij.”

Voordelen in het publieke domein
Uit het onderzoek van KPMG blijkt dat Nederlanders de voordelen van algoritmen vooral in het publieke domein zien. Fijneman: “De inzet bij Covid-19 is een goed voorbeeld. Bij het gebruik in de openbare ruimte geeft de helft aan een gevoel van veiligheid te ervaren. Een meerderheid is bovendien overtuigd van het nut om algoritmen in te zetten om de veiligheid op straat te waarborgen. Daarnaast vindt bijna 80% van de Nederlanders dat de politie algoritmen mag gebruiken om de ideale flitslocatie voor hardrijders te kunnen bepalen. En ruim 80% is een voorstander van het gebruik van algoritmen om de georganiseerde misdaad in Nederland op te sporen. Bij veel mensen lijkt echter een voorbehoud te ontstaan als gebruik van algoritmen mogelijk leidt tot discriminatie of inbreuk op hun rechten. Zo vindt de helft van de Nederlanders het niet acceptabel als de politie besluit mensen op basis van algoritmen aan te houden en te fouilleren. Mensen lijken dus een afweging te maken tussen het maatschappelijk nut en de mogelijke inbreuk op de persoonlijke levenssfeer die door de inzet van algoritmes veroorzaakt wordt. Een goede beheersing van de risico’s is en blijft dan ook cruciaal, ook wanneer algoritmen te goeder trouw worden ontwikkeld en ingezet.”