RESIST – Resilience and Security for Trustworthy AI Systems
- Reference number
- CCR25-0015
- Project leader
- Heintz, Fredrik
- Start and end dates
- 260101-311231
- Amount granted
- 0 SEK
- Administrative organization
- Linköping University
- Research area
- Computational Sciences and Applied Mathematics
Summary
AI is quickly becoming a fundamental and integrated part of our critical infrastructures and services, which exposes society to new vulnerabilities and risks. The multi-disciplinary center for cyber resilient AI, RESIST, is a national effort to bring together leading researchers in AI and cybersecurity to develop novel solutions to cyber resilient AI for the benefit of Swedish industry and society. The vision is to make Sweden a role model in secure trustworthy AI by pioneering cyber resilience across the AI lifecycle. The research program focuses on four key themes: Trustworthy and Verifiable AI, Runtime Security Assurance, Robust and Secure AI-Supported Development, and Resilient Distributed and Agentic AI. In addition to leading researchers from the universities in Linköping, Lund, and Örebro together with RISE, the center has a scientific advisory committee with world leading international researchers and strong industrial partners such as Ericsson, Saab, Epiroc, and Sectra. RESIST will drive world-class research in the intersection between AI and cybersecurity, train PhD students, and support early-career researchers through a strong, stimulating and well connected international research environment. Research outcomes will be validated in real-world scenarios with industry and public-sector partners. RESIST will also serve as a national hub for cyber resilient AI, promoting education, knowledge sharing, and policy development.
Popular science description
Artificiell Intelligens (AI) har slagit igenom på bred front i samhället och de flesta känner till och kanske har provat verktyg som ChatGPT eller Google Gemini. Men AI-system handlar inte bara om att leverera goda recept eller skapa snygga bilder till sin presentation. AI används idag också i allt fler av de viktiga system som vårt samhälle bygger på, som mobilkommunikation, transporter, och elförsörjning. Dessa system måste vara robusta och fungera även när de utsätts för störningar, vare sig de är avsiktliga eller inte. Forskning inom AI och cybersäkerhet har på senare år kunnat visa att dagens AI-system inte är motståndskraftiga (resilienta) mot såna störningar. I själva verket är det i många fall enkelt att angripa dessa system vilket kan leda till att känslig information läcker ut, eller att AI-modellerna producerar felaktiga och till och med skadliga resultat. Det multidisciplinära centret för cyberresilienta AI-system, RESIST, är ett nationellt initiativ som samlar ledande forskare inom AI och cybersäkerhet för att ta fram nya lösningar för cyberresilient AI i samverkan med omgivande samhälle och svensk industri. Forskningen kommer bland annat att undersöka hur man kan garantera cybersäkerhet vid både träning och användning av AI-system. Förutom ledande forskare från universiteten i Linköping, Lund och Örebro, samt forskningsinstitutet RISE, knyter centret till sig en vetenskaplig rådgivargrupp med internationella toppforskare och starkt engagemang från svensk industri. Att centret är multidisciplinärt innebär att det samlar kompetens från olika forskningsfält, inklusive AI och cybersäkerhet, och att det har en bred ansats inom dessa områden med perspektiv från industrin, slutanvändare och övriga samhället. Genom de medverkande forskarna som är drivande inom existerande satsningar inom AI och cybersäkerhet, som WASP och Cybercampus, skapas nu en mycket stark gemensam forskningsmiljö. För att de metoder och lösningar som centret utvecklar ska komma till nytta för samhället har centret ett omfattande program för att utvärdera, testa, och validera resultaten i samverkan med omgivande samhälle. RESIST kommer också att fungera som en nationell samlingspunkt för kompetens inom cyberresilient AI och bidra till nya kurser och bättre utbildningar, kunskapsspridning genom möten och öppna föreläsningar och policyutveckling genom stöd till beslutsfattare.