JADS en Deloitte vestigen research lab gericht op betrouwbare AI-softwaresystemen
Posted on
‘s-Hertogenbosch, Nederland – Jheronimus Academy of Data Science (JADS), een instituut dat innovatieve onderwijsprogramma’s, onderzoek en ondersteuning biedt voor het bedrijfsleven en de samenleving op het gebied van data science, en Deloitte, een toonaangevende wereldwijde leverancier van audit- en assurance-, advies-, financiële, risicoadvies-, belasting- en aanverwante diensten, zijn een samenwerkingsverband aangegaan om een onderzoekslab op te zetten dat zich richt op auditing voor betrouwbare AI-softwaresystemen.
SAFEGUARD LAB
Het nieuwe SAFEGUARD lab, dat deel uitmaakt van het ROBUST AI programma, zal nieuwe audittheorieën, -tools en -methodologieën onderzoeken, ontwikkelen en valideren om te controleren of AI-toepassingen voldoen aan de eisen van eerlijkheid, verklaarbaarheid, transparantie, robuustheid en betrouwbaarheid, respect voor privacy en veiligheid. Het lab zal in eerste instantie 5 PhD posities hebben, en zal later worden uitgebreid.
De oprichting van het SAFEGUARD lab werd op 12 juli gevierd door vertegenwoordigers van Deloitte en JADS. Wiel Moonen, partner en Audit & Assurance Risk Leader Deloitte Accountants B.V. zei: “De impact van AI op besluitvorming neemt sterk toe. Gezien de impact op de maatschappij is het belangrijk dat AI transparant, controleerbaar en betrouwbaar is. Het SAFEGUARD lab is een geweldige kans om nieuwe manieren te ontwikkelen om AI-software te auditen. We kijken ernaar uit om samen met JADS het gebied van datawetenschap vooruit te helpen en te helpen zorgen voor een verantwoord en ethisch gebruik van AI.”
Het SAFEGUARD Lab zal onderzoek doen op verschillende gebieden, zoals het beoordelen van bias in AI en het vinden van manieren om AI verklaarbaar en transparant te maken. Onderzoekers gaan ook tools ontwikkelen om verantwoording en betrouwbaarheid te garanderen door middel van audits en prototypes. Tot slot zullen ze een experimentele toolchain maken om AI-software te testen met machine-learning en continue testtechnieken als onderdeel van een DevOps-pijplijn. Het Lab gaat in de herfst van 2023 van start.
“Deze samenwerking met Deloitte is een enorme stap in de richting van het creëren van betrouwbare AI-toepassingen”, zegt Prof. Dr. Willem-Jan van den Heuvel, hoogleraar aan JADS. “We zijn verheugd om met Deloitte samen te werken aan de ontwikkeling van nieuwe theorieën, tools en methodologieën die bijdragen aan een eerlijk, verklaarbaar en verantwoord gebruik van huidige en toekomstige AI-toepassingen zoals ChatGPT. Het bijzondere aan dit lab is dat het onderzoek zo is opgezet dat onderzoeksdisciplines worden gecombineerd die voorheen waarschijnlijk niet zouden samenwerken, variërend van theologie tot technologie.
ROBUST AI
Het SAFEGUARD lab is onderdeel van het ROBUST AI programma, een nieuw initiatief van het Innovation Center for Artificial Intelligence (ICAI), ondersteund door de Universiteit van Amsterdam en 51 partners uit de overheid, industrie en kennissector. Het programma heeft als doel het Nederlandse ecosysteem voor kunstmatige intelligentie (AI) te versterken door fundamenteel AI-onderzoek te stimuleren.
Over JADS
De Jheronimus Academy of Data Science (JADS) is een unieke samenwerking tussen de provincie Noord-Brabant, de gemeente ‘s-Hertogenbosch, Tilburg University en de Technische Universiteit Eindhoven. Bij JADS geloven we dat data science antwoorden kan geven op complexe maatschappelijke vraagstukken. We bieden innovatieve onderwijsprogramma’s, data science onderzoek en ondersteuning voor het bedrijfsleven en de samenleving. Met een team van docenten, studenten, wetenschappers en ondernemers werken we aan het creëren van impact met data science. Dit doen we door mensen, sectoren en branches met elkaar te verbinden: in de afgelopen 5 jaar hebben we met meer dan 300 organisaties samengewerkt aan data-gerelateerde projecten. Onze belangrijkste drijfveren? Coole dingen doen die er toe doen met data. Onze locatie in het voormalige klooster Mariënburg in Den Bosch huisvest een levendige campus die volledig in het teken staat van data science.
Over Deloitte
Deloitte is een toonaangevende wereldwijde dienstverlener op het gebied van audit en assurance, consulting, financieel advies, risicoadvies, belastingen en aanverwante diensten. Met meer dan 150 jaar hard werken en toewijding aan het maken van een echt verschil, is onze organisatie gegroeid in schaal en diversiteit – ongeveer 286.000 mensen in 150 landen en gebieden leveren deze diensten – maar onze gedeelde cultuur is hetzelfde gebleven. Onze organisatie bedient vier van de vijf Fortune Global 500®-bedrijven.
