De uitdaging: betrouwbaarheid van AI in softwareontwikkeling
Veiligheidskritische systemen zoals bruggen, vliegtuigen en energiecentrales worden steeds complexer en afhankelijker van software. Fouten in besturingssoftware kunnen ernstige gevolgen hebben, zoals bleek bij ongevallen met de Den Uylbrug en de Boeing 737 MAX. De toepassing van AI biedt een (deel)oplossing voor deze problematiek en draagt tevens bij aan een verhoogde arbeidsproductiviteit. Echter kan foutloze output niet worden gegarandeerd, daarom is formele verificatie noodzakelijk. Dit project onderzoekt hoe AI-gestuurde softwareontwikkeling kan worden gecombineerd met SCS om gegarandeerde veiligheid te bieden.
Onze aanpak: AI en SCS combineren
De kern van dit onderzoek is de combinatie van AI-gestuurde softwareontwikkeling met SCS. Dit stelt ons mogelijk in staat om AI-gecreëerde softwaremodellen automatisch te analyseren en corrigeren, waardoor fouten vroegtijdig worden gedetecteerd en opgelost. Dit omvat een aantal concrete uitdagingen, zoals een correcte semantische vertaling tussen modellen geschikt voor machineaansturing en SCS, het mogelijk maken voor AI om modelaanpassingen uit te voeren, en synthese resultaten geschikt te maken als input voor AI. Randvoorwaarde is dat ondanks wijzigingen in het softwaremodel door AI, dit softwaremodel aan de veiligheidseisen van SCS blijft voldoen.
Samenwerking en impact
De TU/e en Cordis onderzoeken, testen en valideren deze technologie op beperkte schaal, gebruikmakend van de demonstratieopstelling van de Brainport Digital Factory. Door realistische industriële systemen te gebruiken, testen we de effectiviteit en schaalbaarheid van de aanpak. Dit vormt een belangrijke stap naar een mogelijk bredere toepassing in sectoren zoals energie, productie en transport. De uitkomsten van dit project kunnen veilige AI-gestuurde softwareontwikkeling mogelijk maken en versterken daarmee de Nederlandse positie in Smart Industry en veilige industriële automatisering.