Achter de PhD: Nemania Borovits

Veel organisaties zeggen dat ze privacy serieus nemen, maar aantonen dat dat ook daadwerkelijk zo is, blijkt een stuk lastiger. Die kloof tussen intentie en bewijs vormde het uitgangspunt van het promotieonderzoek van Nemania Borovits. Nu datasystemen steeds complexer worden en AI een vaste plek krijgt in dagelijkse processen, moeten organisaties kunnen laten zien ze persoonsgegevens verzamelen, gebruiken en beschermen zoals het hoort.

In zijn onderzoek komen onderwerpen als dataminimalisatie, synthetische data, federated learning en decentrale data governance aan bod. De rode draad is privacy engineering: privacy vertalen van een leidraad naar iets dat organisaties daadwerkelijk kunnen ontwerpen, meten en controleren.

In aanloop naar zijn promotie spraken we met Nemania over de maatschappelijke waarde van technisch onderzoek, werken op het snijvlak van wetenschap en praktijk, en waarom communicatie en samenwerking minstens zo belangrijk zijn als de technologie zelf.

Waarom heb je voor dit onderzoeksonderwerp gekozen en wat maakt het zo boeiend?

De meest boeiende aspecten van mijn PhD zijn het vakgebied en de opzet ervan. Met een achtergrond in informatica (BSc), datawetenschap (MSc) en vijf jaar ervaring in de sector als software-engineer wilde ik alleen een PhD volgen als het maatschappelijk relevant zou zijn. In het tijdperk van AI wilde ik dat mijn onderzoek zou bijdragen aan een aspect waarvan het maatschappelijk nut duidelijk was. Het domein van privacy en de techniek die daarbij komt kijken in moderne softwaresystemen, met maatschappelijk nut als doel, was dus een van de redenen.

Een even belangrijke factor bij de keuze voor dit onderwerp was de opzet van het project, namelijk de samenwerking tussen JADS en KPN die vorm kreeg binnen het ICAI Responsible AI Lab:
1. Een bijdrage leveren aan een zeer populair onderzoeksgebied (AI in hedendaagse softwaresystemen),
2. Relevantie voor de samenleving hebben door de aard van het project (waarbij privacy centraal staat in het onderzoek),
3. Concrete impact creëren met softwareoplossingen die zijn gevalideerd in een actuele industriële omgeving (KPN).
Deze combinatie van academische vernieuwing en praktische waarde vond ik erg interessant.

Met welke uitdagingen kreeg je te maken en hoe heb je die overwonnen?

De uitdagingen waarmee ik te maken kreeg, kan ik in twee categorieën indelen. De eerste betrof privacy zelf. Hoewel dit geen nieuw vakgebied is, blijft het een opkomend gebied dat steeds meer in de belangstelling staat sinds de invoering van wettelijke kaders zoals de AVG. Het is niet eenvoudig om met iets nieuws te komen in een opkomend vakgebied, er zijn immers nog weinig eerdere resultaten om op voort te bouwen. Ik heb dit aangepakt door de structuur die deze kaders bieden te combineren met gevestigde methoden van software-engineering en AI. Die combinatie leverde nieuwe theorieën en hulpmiddelen op voor privacy-engineering.

De tweede uitdaging was de samenwerking tussen de academische wereld en het bedrijfsleven. Een onderzoeksomgeving en een operationele aanpak werken via verschillende processen, dus op papier was het niet eenvoudig om deze op elkaar af te stemmen. De praktijk bleek anders te liggen. Beide partijen waren gedreven om het onderzoek tot een succes te maken, en toen dat eenmaal duidelijk was, restte alleen nog de vraag hoe we dat konden bereiken – een vraag die we samen hebben opgelost.

In beide gevallen kwam het verschil neer op twee principes: communicatie en samenwerking, twee zaken die ik bij elke uitdaging belangrijk vind. Hiervoor ben ik mijn promotoren en mijn collega’s bij KPN dankbaar. Wat er ook op ons pad kwam, werd direct opgelost door het rechtstreeks met hen te bespreken, en hun ervaring leidde ons steevast naar een oplossing. Een doctoraat lijkt misschien een eenzame onderneming, maar het slagen ervan hangt in de basis af van communicatie en samenwerking. Ik ben mijn promotoren en collega’s bij KPN zeer dankbaar dat ze het doel scherp in het oog hielden en samen met mij de weg ernaartoe hebben uitgestippeld.

Wat is de impact van je werk in de praktijk?

De impact van mijn werk is tweeledig en betreft zowel wetenschappers als praktijkmensen. Vanuit theoretisch oogpunt draagt mijn werk bij aan een beter begrip van het domein van privacy engineering en de verschillende dimensies ervan, waarbij hiaten en onderbelichte gebieden worden belicht. Twee vernieuwende bijdragen betreffen de integratie van privacy in paradigma’s voor gedecentraliseerd gegevensbeheer en de evaluatie van twee fundamentele AVG-beginselen binnen hedendaagse softwaresystemen. Vanuit praktisch oogpunt levert mijn werk drie softwareoplossingen op, waarvan er twee rechtstreeks voortkomen uit de samenwerking met KPN. Hierdoor zijn ze gebaseerd op realistische praktijksituaties. Een van deze oplossingen, een nieuwe methode voor het valideren en evalueren van synthetische data, gaat verder dan alleen noviteit en biedt echte relevantie en een architectuur die uitbreidbaar is naar snelgroeiende aandachtsgebieden zoals Agentic systemen.

Deze resultaten spelen in op uitdagingen in de praktijk waarmee zowel de wetenschappelijke softwaregemeenschap als praktijkmensen in de industrie te maken hebben, en tonen aan hoe je privacy effectief kunt inbouwen in hedendaagse softwaresystemen binnen echte operationele situaties.

Wat zijn je plannen na je promotie?

Ik wil graag doorgaan met het ontwikkelen van softwareoplossingen die zowel maatschappelijk relevant zijn als een impact hebben op de industrie. Er zijn al verschillende vervolgprojecten op mijn onderzoek in gang gezet. Ik ben met name blij dat onze samenwerking met KPN wordt voortgezet via het LUCID-project, dat zich richt op het anonimiseren van tekst. Daarnaast is een groot deel van de achtergrond en doelstellingen van het onlangs goedgekeurde, door een EU gefinancierd project, waaraan ons lab bij JADS deelneemt, rechtstreeks gerelateerd aan vervolgwerk op basis van mijn onderzoek.