EASe - Evaluate Autonomous Systems with Foundation Models
- Diarienummer
- ID25-0110
- Projektledare
- Berger, Christian
- Start- och slutdatum
- 260630-310629
- Beviljat belopp
- 3 250 000 kr
- Förvaltande organisation
- Chalmers University of Technology
- Forskningsområde
- Informations-, kommunikations- och systemteknik
Summary
Vi strävar efter att utforma en validerad metod för att etablera foundation models (FM) som erfarna kollegor för att systematiskt utvärdera och förbättra säkerheten av autonoma systemer (AS) - under utveckling och vid drift. Vi kommer att bryta ner DevOps för tekniska AS i dess två beståndsdelar för att systematiskt upptäcka tillämpningspotentialen för FM:ernas styrkor inom (a) arbetsflödesautomation för relevanta industriella säkerhetsstandarder som ISO 26262 och ISO 21488 under mänskligt samarbete och övervakning, och (b) mönsteridentifiering och prediktionskapacitet från ostrukturerad tidsseriedata i stor skala. Särskilt för Ops kommer vi att fokusera på hur man bearbetar inbyggda dataströmmar med FM:er under realtidsbegränsningar genom att identifiera metoder för att skydda och accelerera FM:er. Som komplement till FM:ers styrkor kommer vi att kartlägga och bedöma deras begränsningar när de tillämpas på säkerhetskritisk systemteknik. Insikter och resultat från båda sidor ska forma förbättringar på den kompletterande andra sidan av DevOps i ett iterativt arbetssätt. Förväntade resultat: Vi planerar att ta fram en metod för hur man ansvarsfullt integrerar FM:er som en erfaren kollegor inom DevOps för säkerhetskritiska system för både utveckling ("Dev") och drift ("Ops") för att systematiskt bedöma och förbättra ett systems säkerhet inom områden som står inför ständigt växande mängder data i kombination med ett behov av kontinuerlig systemutvärdering.
Populärvetenskaplig beskrivning
Dagens mjukvaruintensiva produkter är en viktig del av våra dagliga liv. Innovation är en viktig ingrediens för en hållbar verksamhet för företag. AI lyfter nu innovationer till nya höjder och ökar innovationstakten ytterligare. För säkerhetskritiska system som autonoma fordon är dock utvecklingsstandarder och regler viktiga för att säkerställa säkra produkter. Regelverket, särskilt för autonoma fordon, är dock redan mycket komplext och kräver erfarna mänskliga experter för att ge råd till mjukvaru- och systemingenjörer om hur man navigerar transparent och säkert inom detta regelverk. Med vårt föreslagna projekt EASe kommer vi systematiskt att utforska användningen av Foundation Models (FM) och Large Language Models (LLM) som ett stöd för mänskliga experter. Det skulle hjälpa dem att bättre navigera i detta landskap där AI/ML-baserade system utvecklas med syfte att öka graden av automatisering av mjukvaru- och systemteknik. Vi kommer ytterligare att utforska möjligheterna att integrera FM och LLM som verktyg för att ytterligare öka säkerheten under driften av autonoma fordon.