Binnen de KIC missie call ‘Samenwerking tussen mens en (semi)autonome systemen’ ligt de nadruk op het stimuleren van interdisciplinair onderzoek dat bijdraagt aan verdere ontwikkeling van de samenwerking tussen mens en (semi-)autonome systemen en de inzet van deze systemen in de maatschappij. NWO heeft drie projecten binnen deze call toegewezen.
Het gaat om de projecten:
AUTOROBUST: Robust and safe control of remotely operated offshore vehicles
Dit project onderzoekt de interdisciplinaire aspecten in de ontwikkeling van robuuste mens-autonome hybride besturingssystemen voor op afstand bestuurbare land‑ en onderwatervoertuigen die worden ingezet in situaties waarin de communicatiemogelijkheden beperkt zijn. Focuspunten:
- De technische uitdagingen die bij een betrouwbare hybride besturing komen kijken
- De juridische gevolgen met betrekking tot aansprakelijkheid en verantwoordelijkheid bij de integratie van zowel menselijke als autonome besturing
- De technische en juridische complexiteit bij de overschakeling tussen menselijke en autonome besturing
STEADFAST – Swarm Technology Enabling Advanced Drone-Facilitated Active Support Tactics for Military and First Responder Operations
Bij noodhulpverlening en met name bij (bijzondere) militaire operaties, waar real-time monitoring en snelle besluitvorming cruciaal zijn, is situationeel bewustzijn/situational awareness (SA) van levensbelang. In dichtbevolkte stedelijke gebieden en moeilijk begaanbare natuurgebieden kan efficiënte en nauwkeurige SA worden bereikt door inlichting, surveillance en (voor)verkenning. Hierbij wordt gebruikgemaakt van collectieve intelligentie en de mogelijkheden die human-swarm teaming (HST) biedt. Een combinatie van wetenschappelijke en maatschappelijke obstakels staat succesvolle inzet van HST echter nog in de weg. Het doel van dit project is het mogelijk maken van een snellere respons, betere besluitvorming en effectievere inzet van zowel militairen, eerstehulpverleners en middelen om nevenschade en het aantal slachtoffers te beperken.
AI-COMPASS: Adaptive Intelligence in Crowd Crisis Management through Al-Human Coordination and Ethical Practice
Dit project richt zicht op het gebruik van mensgerichte AI bij crowd- en crisisrespons. De combinatie van complexiteit, tijdsdruk en morele beslissingen is een flinke uitdaging in crisissituaties. AI heeft een enorm potentieel om beslissingen bij crowd crises te ondersteunen, maar het toenemende gebruik van AI heeft tot een debat over juridische en ethische kwesties geleid. Crisissen veranderen menselijk gedrag, besluitvorming - en ook de manier waarop mensen samenwerken met AI. Het AI-COMPASS consortium, gaat real-time ondersteuningssystemen ontwikkelen die rekening houden met context, gedrag en waarden. Met de ontwikkelingen in dit project kan de openbare veiligheid verbeterd worden met echt op de mens gerichte AI.