<
toekenningen

Regeling Digitale cultuur → Startsubsidie

Adversarial Noise

Javier Lloret

€ 7.500

Op AI gebaseerde systemen voor computervisie zijn kwetsbaar voor 'adversarial attacks'. Deze aanvallen kunnen de systemen misleiden door subtiele visuele ruis aan afbeeldingen toe te voegen. Het project 'Adversarial Noise' wil de huidige staat van deze aanvallen onderzoeken en nadenken over hun impact op de adoptie, implementatie en verfijning van computervisiesystemen. Tijdens de startfase van het onderzoek zal een selectie van 'adversarial attacks' worden getest en bestudeerd in verschillende realistische scenario's. De bevindingen zullen worden gedeeld in een online publicatie en een reeks openbare evenementen, inclusief workshops en openbare presentaties. Deze evenementen zullen ruimte bieden voor dialoog en discussie over de impact van 'adversarial attacks' en de kwetsbaarheden van computervisiesystemen. Tot slot zal voor de vervolgfase van het project worden uitgezocht hoe haalbaar het ontwikkelen van een 'Adversarial Toolkit' is, die burgers de mogelijkheid geeft zelf 'adversarial atttacks' uit te voeren.