Op 3 november publiceerde het Electronic Privacy Information Center (EPIC), een non-profitorganisatie die al ruim een jaar onderzoek doet naar het gebruik van algoritmes in Washington , een nieuw rapport . Uit het rapport blijkt dat de stad momenteel wordt bestuurd door computeralgoritmes en dat veel andere steden dit ook in stilte doen.
Tot op heden zijn dit soort activiteiten niet illegaal , maar ze worden door overheden zeer geheim gehouden , omdat men niet wil dat burgers beseffen hoe technologie wordt gebruikt in diverse overheids- en politie-instellingen en -diensten . Een recente studie heeft echter aangetoond dat steden die door computeralgoritmes worden bestuurd al bestaan, en wellicht in een grotere mate dan eerder werd gedacht.
Washington DC is een stad die wordt bestuurd door computeralgoritmes.
EPIC heeft in een recent rapport aangegeven dat Washington D.C. momenteel een stad is die wordt bestuurd door computeralgoritmes . Ze ontdekten dat deze technologie wordt gebruikt in 20 instanties , waaronder wetshandhavings- en justitie-instellingen , met als doel processen eenvoudiger en toegankelijker te maken voor iedereen.
Hoewel overheden beweren dat algoritmische processen instellingen helpen en ten goede komen , zijn burgers van mening dat deze processen een negatieve invloed hebben op hun leven. Dit is een van de belangrijkste redenen waarom overheden ze in het geheim willen invoeren.
Ondanks de ontdekking van EPIC is gebleken dat de stadsdiensten waarvan de activiteiten door de algoritmes worden aangestuurd, geen details hebben verstrekt over hoe deze technologie wordt gebruikt of functioneert . Er is dus zeer weinig bekend over deze situatie, wat ongetwijfeld tot bezorgdheid leidt onder de burgers, die niet weten welke maatregelen er in de toekomst genomen zullen worden.
Na 14 maanden diepgaand en uitgebreid onderzoek heeft het onderzoeksteam vastgesteld dat Washington DC waarschijnlijk meer algoritmes gebruikt dan tot nu toe is ontdekt, en dus vrijwel volledig door deze technologie wordt bestuurd.
“We zijn in 2021 met dit onderzoek begonnen en sindsdien hebben we veel variabelen kunnen analyseren. We hebben tot nu toe 20 instanties ontdekt die de technologie toepassen, maar het gebrek aan informatie en de geheimhouding waarmee ze het gebruiken, wijst erop dat er meer instellingen en departementen zijn die het inzetten. Washington zou bijna volledig door deze computeralgoritmes gecontroleerd kunnen worden.”
Electronic Privacy Information Center (EPIC), tijdens zijn rapport
Het is belangrijk om te onthouden dat Washington D.C. de basis is van de machtigste regering ter wereld, dus het is volkomen logisch dat dit daar wordt toegepast. De aanwezigheid van bureaucratische algoritmes in de verschillende departementen maakt het mogelijk om beslissingen te nemen die de bevolking beïnvloeden, zonder preventieve maatregelen te treffen.
Hoewel het klopt dat de meeste overheidsinstanties dit soort technologie gebruiken om hun werk efficiënter te maken , is het voor de meeste burgers nog niet normaal om met deze systemen te werken, die discrimineren en ertoe leiden dat er beslissingen worden genomen zonder rekening te houden met de gevolgen.
"Geautomatiseerde besluitvormingssystemen hebben in de meeste gevallen een onevenredige impact op zwarte gemeenschappen."
Ben Winters, hoofd onderzoek bij de non-profitorganisatie
Het project heeft aangetoond dat het besluitvormingssysteem een zekere mate van discriminatie vertoont , met name jegens zwarte mensen . Het grafische monitoringsysteem heeft met name een negatieve impact op buurten met zwarte inwoners, doordat het hun behoeften negeert.
Daarom scoren buurten met een overwegend zwarte bevolking erg slecht in computeralgoritmes , wat betekent dat de beslissingen van het systeem hen altijd onevenredig zullen beïnvloeden. Dit is een onderwerp van discussie geworden, waarbij sommigen beweren dat technologie het leven van burgers niet verbetert, maar het voor velen juist ingewikkelder maakt.
Tot nu toe is gebleken dat computeralgoritmen vooral worden gebruikt voor besluitvorming . Zo kan het systeem onder andere het werkloosheidspercentage registreren, illegale vakantieverhuur opsporen, problemen in de stad melden, geautomatiseerd parkeren controleren en nog veel meer.
Ben Winters zegt dat onderzoek heeft uitgewezen dat deze algoritmes alleen kunnen werken als er wetten zijn die overheidsinstanties verplichten ze serieus te nemen en, bovenal, alle discriminerende beslissingen die het leven van mensen beïnvloeden , met name dat van zwarte mensen, uit te bannen.
Het is mogelijk dat jouw woonplaats ook door een algoritme wordt bestuurd.
Deze ontdekking in Washington DC suggereert dat veel andere steden wereldwijd al in stilte gebruikmaken van computergestuurde algoritmes in hun afdelingen, processen die direct verband houden met besluitvorming.
Het is momenteel mogelijk dat uw woonplaats wordt bestuurd door een algoritme zonder dat u, en zelfs zonder medeweten van de inwoners, hiervan op de hoogte bent. Dit is een geheime activiteit die door overheden wordt uitgevoerd, en dit onderzoek biedt inzicht in hoe ze te werk gaan.
In 2020 meldde een artikel van ambtenaren uit Amsterdam en Helsinki dat er meer dan 30 projecten met betrekking tot kunstmatige intelligentie in behandeling waren , die naar verwachting eind dat jaar zouden worden geïmplementeerd. Het onderzoek wees echter op een aantal zorgwekkende aspecten van deze beslissingen.
Ze wezen er specifiek op dat het een systeem was waarin algoritmes veel aspecten van het leven van mensen bepaalden, zelfs welke scholen hun kinderen bezochten of in welke delen van de stad de politie aanwezig moest zijn . De verantwoordelijke onderzoekers veroordeelden het daarom als een technologie die gericht was op een specifieke sector.
Uit het onderzoek van EPIC bleek ook dat in New York City minstens de helft van de federale instanties gebruikmaakt van een geautomatiseerd besluitvormingssysteem. Daarom werd erop gewezen dat veel steden wereldwijd, met name in de Verenigde Staten, al door deze technologie worden aangestuurd, wat tot veel discussie heeft geleid.
