RESIST – Resiliens och säkerhet för pålitlig AI
- Diarienummer
- CCR25-0015
- Projektledare
- Heintz, Fredrik
- Start- och slutdatum
- 260101-311231
- Beviljat belopp
- 60 000 000 kr
- Förvaltande organisation
- Linköping University
- Forskningsområde
- Beräkningvetenskap och tillämpad matematik
Summary
AI är snabbt på väg att bli en fundamental del av våra samhällskritiska system, vilket innebär ökade risker för nya typer av angrepp. Det multidisciplinära centret för cyberresilienta AI-system, RESIST, är ett nationellt initiativ som samlar ledande forskare inom AI och cybersäkerhet för att ta fram nya lösningar för cyberresilient AI i samverkan med omgivande samhälle och svensk industri. Visionen är att göra Sverige till en förebild inom säker pålitlig AI genom ett holistiskt perspektiv på cyberresiliens genom hela kedjan av utveckling och användning av AI. Forskningsprogrammet består av fyra tematiska områden, pålitlig och verifierbar AI, säkerhetsgarantier vid användning, säker AI-assisterad mjukvaruutveckling, samt resilienta och distribuerade AI-agenter. Förutom ledande forskare från Linköping, Lund och Örebro, samt forskningsinstitutet RISE, knyter centret till sig en vetenskaplig rådgivargrupp med internationella toppforskare och starkt engagemang från svensk industri. RESIST kommer bedriva excellent forskning i skärningspunkten mellan AI och cybersäkerhet, utbilda doktorander, och utveckla juniora forskare genom en stark internationell forskningsmiljö. Forskningsresultaten kommer att utvärderas och stärkas genom ett omfattande valideringsprogram i samverkan med relevanta företag och samhällsaktörer. Centret kommer också att fungera som en nationell samlingspunkt för kompetens inom cyberresilient AI och bidra till utbildning, kunskapsspridning och policyutveckling.
Populärvetenskaplig beskrivning
Artificiell Intelligens (AI) har slagit igenom på bred front i samhället och de flesta känner till och kanske har provat verktyg som ChatGPT eller Google Gemini. Men AI-system handlar inte bara om att leverera goda recept eller skapa snygga bilder till sin presentation. AI används idag också i allt fler av de viktiga system som vårt samhälle bygger på, som mobilkommunikation, transporter, och elförsörjning. Dessa system måste vara robusta och fungera även när de utsätts för störningar, vare sig de är avsiktliga eller inte. Forskning inom AI och cybersäkerhet har på senare år kunnat visa att dagens AI-system inte är motståndskraftiga (resilienta) mot såna störningar. I själva verket är det i många fall enkelt att angripa dessa system vilket kan leda till att känslig information läcker ut, eller att AI-modellerna producerar felaktiga och till och med skadliga resultat. Det multidisciplinära centret för cyberresilienta AI-system, RESIST, är ett nationellt initiativ som samlar ledande forskare inom AI och cybersäkerhet för att ta fram nya lösningar för cyberresilient AI i samverkan med omgivande samhälle och svensk industri. Forskningen kommer bland annat att undersöka hur man kan garantera cybersäkerhet vid både träning och användning av AI-system. Förutom ledande forskare från universiteten i Linköping, Lund och Örebro, samt forskningsinstitutet RISE, knyter centret till sig en vetenskaplig rådgivargrupp med internationella toppforskare och starkt engagemang från svensk industri. Att centret är multidisciplinärt innebär att det samlar kompetens från olika forskningsfält, inklusive AI och cybersäkerhet, och att det har en bred ansats inom dessa områden med perspektiv från industrin, slutanvändare och övriga samhället. Genom de medverkande forskarna som är drivande inom existerande satsningar inom AI och cybersäkerhet, som WASP och Cybercampus, skapas nu en mycket stark gemensam forskningsmiljö. För att de metoder och lösningar som centret utvecklar ska komma till nytta för samhället har centret ett omfattande program för att utvärdera, testa, och validera resultaten i samverkan med omgivande samhälle. RESIST kommer också att fungera som en nationell samlingspunkt för kompetens inom cyberresilient AI och bidra till nya kurser och bättre utbildningar, kunskapsspridning genom möten och öppna föreläsningar och policyutveckling genom stöd till beslutsfattare.